Si tu as été un peu attentif, tu as dû noter que cela fait 13 semaines que je tourne autour d’une idée fixe avec Flint Dimanche : celle de de t’interroger (enfin plutôt de « nous » interroger parce que du coup je m’interroge avec toi) sur la façon dont nous tenons pour, disons, « acceptables », un certain nombre d’informations floues. Simplement parce que nous n’avons pas le temps d’en vérifier la réalité.
On pourrait se contenter de la « grosse image » comme disent les Américains (la « big picture » donc). Oui mais non. Comme me le répétait souvent le chercheur Jean Véronis (inspirateur de Flint, mais décédé avant de voir naître nos robots) :
« Le diable est dans les détails »
Oui.
Et pour ce qui concerne la vérité, tout est toujours question de détails.
Et les détails sont têtus. En plus d’être nombreux.
C’est peut-être pour cela que nous sommes de plus en plus nombreux, les plus jeunes en tête, à ne plus attendre des médias qu’ils se contentent de nous transmettre une information. Nous avons besoin qu’on nous aide à la traiter. C’est peut-être là où les scientifiques pourraient nous aider. Ne pas prendre la vérité pour acquise, mais croire plutôt en une méthode, c’est leur métier.
Alors pour aller plus loin dans cette réflexion, nous avons lancé lundi dernier avec mon ami Cyrille de Lasteyrie (à son initiative) les conférences TOD. C’est comme une conférence TED sauf qu’au lieu d’avoir un expert qui nous dit quoi penser, on essaie d’apprendre ensemble en partageant nos informations et en nous aidant de l’intelligence artificielle.
La semaine dernière, nous avons démarré cette expérience en explorant ensemble cette question que tout le monde se pose sans vraiment pouvoir vérifier :
« Les objets connectés, et en particulier notre téléphone, nous écoutent-ils ? »
Personnellement, je n’en savais rien. Mais comme tout le monde je partais du principe que… oui, certainement. Pour ne pas passer pour un naïf, tu vois ?
Mais pouvions nous trouver des preuves ? Des études ? Des faits sur lesquels nous mettre d’accord avant de commencer à en débattre ?
Je n’étais pas au bout de mes surprises…
Tiens, pour commencer, que penses-tu de cette vidéo ?
Dans cette vidéo, le monsieur avec la cravate fait ce test assez simple. Il pose une question à Google, en commençant par « Ok Google ». Et puis il lui demande une recette de cuisine. Il vérifie ensuite sur le site de Google ce que la machine a enregistré, et réalise que l’enregistrement commence… quelques secondes avant la phrase clé « Ok Google ». Quoi ? Comment est-ce possible ? Ne serait-ce pas la preuve que Google nous écoutait avant qu’on l’interpelle ?
Tu en penses quoi ?
Eh bien la vérité est peut-être ailleurs, enfin si j’ose reprendre cette expression, hum, complotiste… et je vais t’expliquer pourquoi.
Nous avons reçu plus d’une centaine de contributions, souvent bien documentés. Ainsi qu’une trentaine de liens vers des études scientifiques ou des analyses.
J’ai pris le temps de tout lire, en essayant de répondre à trois questions très simples :
1) Les objets connectés (smartphones et enceintes connectées essentiellement) nous écoutent-ils en permanence ?
2) S’ils nous écoutent, envoient-elles ces données privées aux GAFA (Google, Amazon, Facebook et Apple) ?
3) Si ces donnés sonores sont effectivement récupérées, à quoi sont-elles utilisées ? Et quel est le risque ?
Commençons courageusement par la première question : les smartphones et les enceintes connectées nous écoutent-ils en continu ?
La réponse est : oui.
Leurs oreilles sont grandes ouvertes, sinon ils ne pourraient pas réagir au mot magique « Ok Google ! » ou « Dis Siri ! » .
Ce serait donc bien vrai ! Sauf que, et le diable est donc bien dans les détails : ces appareils auraient en fait la mémoire très courte. Pour des raisons d’abord techniques, ils n’enregistreraient des séquences que de quelques secondes, qu’ils effaceraient en permanence.
« Imaginez que vous ayez une cassette de trois secondes et un magnétophone. Supposez qu’après avoir atteint la fin, la bande tourne en boucle pour revenir au début, encore et encore. Si vous commenciez à enregistrer une conversation, tout ce que vous avez dit il y a quatre secondes serait effacé et immédiatement enregistré à nouveau. C’est ce que fait Amazon Echo. »
Ce que confirme Amazon dans une interview : Toutes les quelques secondes, la bande est réécrite.
👉Lire l’article du magazine « How To Geek » (en anglais) [4mn]
👉Lire l’interview du patron d’Alexa (en anglais) [1mn]
Ce qui expliquerait donc pourquoi, lorsque le monsieur de la vidéo interpelle son enceinte connectée, elle enregistre les secondes qui précèdent le mot magique.
Deuxième question : oui d’accord, mais qu’est-ce qui le prouve ? Je veux dire : comment puis-je savoir si mon enceinte connectée ou mon smartphone n’envoie pas en permanence aux GAFA ce qu’il entend ?
Eh bien il faudrait vérifier. Plusieurs chercheurs ont fait des tests.
L' »AV-TEST GmbH », par exemple. C’est un institut de recherche indépendant sur la sécurité informatique, dont le nom absolument imprononçable s’explique peut-être par le fait qu’il est basé en Allemagne.
Les chercheurs ont enregistré le volume de données qui sortaient d’un Amazon Echo en s’appuyant sur plusieurs tests assez simples. Par exemple, ils interpellent l’enceinte (en disant le mot magique « Alexa «! »), posent leur question, attendent la réponse, puis analysent ce que l’enceinte a envoyé à Amazon. Le schéma suivant montre clairement que l’enceinte n’envoie que les donnés sonores de l’échange. Rien avant, rien après.
👉Voir les détails de l’étude (en anglais) [4mn]
Un test similaire a été effectué avec des smartphones Apple et Samsung, par l’entreprise britannique Wandera, spécialisée dans la cybersécurité.
L’objectif ici était un peu plus polémique. Il visait à répondre à la question : est-ce que les plateformes de réseaux sociaux n’écouteraient pas tout ce que nous disons (ou entendons) pour nous envoyer ensuite des pubs ciblées ?
Le test était le suivant :
« Pour tester si les plateformes publicitaires écoutent les conversations sur les smartphones, nous avons installé un iPhone et un téléphone Samsung Galaxy dans la » salle de test audio » avec une vidéo de nourriture pour animaux jouant en boucle pendant 30 minutes. Nous avons également mis en place un groupe de contrôle avec les deux mêmes appareils dans la » salle de test silencieuse » pendant 30 minutes sur une période de trois jours. »
Résultat ?
Les smartphones n’ont envoyé aucune donnée sonore durant la phase de test (sauf quand on activait le téléphone avec le mot magique « Dis Siri » ou « Ok Google » (en rose sur le graphique ci-dessous).
Et aucune pub sur les nourritures pour animaux n’est apparue sur les réseaux.
👉Lire le test complet (en anglais) [4mn]
C’est tout ? Fin du débat ? Oui mais alors pourquoi a-t-on le sentiment que l’on nous écoute ?
Peut-être faut il nous interroger sur nos biais cognitifs ?
👉Lire la réponse à cette question (en français !) [6mn]
« Marc aperçoit dans son flux Facebook une publicité de la marque dont vient de lui parler son amie. En vérité, il est fort probable que cette publicité ait toujours été là, seulement Marc ne s’en était pas aperçu, c’est le phénomène Baader-Meinhof (on parle aussi d’illusion de fréquence). »
En fait nous sommes bien observés, mais par les autres données que nous partageons en permanence. Ces seules données, déjà très abondantes, suffiraient à rendre les algorithmes prédictifs des réseaux sociaux étonnamment précis même.
« Tout ce qui rend votre téléphone utile, comme savoir où vous êtes, prendre des photos, permettre les achats et les opérations bancaires en ligne – voilà exactement où se situent les faiblesses et les vulnérabilités potentielles. Plus votre téléphone est utile, plus il est attrayant pour les annonceurs, les pirates informatiques ou toute personne qui souhaite obtenir vos données. »
Alors après avoir posé cette conclusion déprimante, tu vas peut-être me dire que le débat est clos.
Mais en fait non. Un milliard d’autres questions se posent ! Comme par exemple :
Ok, Amazon, donc tu ne télécharges que les données sonores de mes conversations avec Alexa. Mais que fais-tu de ces données ?
Une enquête de Bloomberg révèle que des centaines d’humains analysent tous ce que tu dis à Alexa pour entrainer l’intelligence artificielle d’Amazon. Ces fichiers sont anonymisés, mais seulement en partie. Plus dérangeant : parfois, Amazon Echo enregistre ce qui se passe chez toi alors même que tu n’as prononcé le mot magique. Un bug ? Ou des enregistrements aléatoires ?
Il arrive également que les humains chargés du traitement de ces données tombent sur des enregistrements impromptus très perturbants :
« Parfois, ils entendent des enregistrements qu’ils trouvent bouleversants, voire criminels. Deux des travailleurs ont dit qu’ils ont ramassé ce qu’ils croient être une agression sexuelle. Lorsque quelque chose de ce genre se produit, ils peuvent partager l’expérience dans le salon de discussion interne comme moyen de soulager le stress. Amazon dit qu’elle a mis en place des procédures que les travailleurs doivent suivre lorsqu’ils entendent quelque chose de bouleversant, mais deux employés de Roumanie ont dit qu’après avoir demandé des conseils pour de tels cas, on leur a dit que ce n’était pas le rôle d’Amazon d’intervenir.. »
Devraient-ils en faire quelque chose ? Alerter la police ? Qu’en penses-tu ?
👉Lire l’enquête de Bloomberg [8mn]
🇫🇷 Comme j’ai trouvé cette enquête passionnante je l’ai traduite en français pour toi ici [8mn aussi]
Alors cela veut dire qu’il n’y a pas de risque ? Eh bien, en fait, la vérité est, comme qui dirait, ailleurs. Ce qui renforce l’idée que l’on a raison de ne pas s’arrêter aux conclusions les plus intuitives, parce que l’on risque de passer à côté des vrais dangers, donc des vrais problèmes, et donc des solutions.
La réponse à la question « mon smartphone m’écoute-t-il ? » c’est « oui, mais pas forcément ceux auxquels nous pensons naturellement. » Cela ne veut pas dire qu’ils ne peuvent pas techniquement le faire, mais il se trouve qu’ils ne le font pas. Et quand ils le font (ce qui n’est pas acceptable pour autant tu me diras) c’est de façon aléatoire pour entrainer les performances sémantiques de leur intelligence artificielle (c’est ce qui a été reproché à Facebook via la fonctionnalité de son application Messenger).
En fait, la vraie question qu’il faut se poser c’est : « qui pourrait m’écouter à travers mon smartphone ou, plus généralement, à travers mes objets connectés ? » Et la réponse est un peu plus flippante : tout le monde !
Cyrille et moi sommes donc allés poser la question à un hacker, Gaël Musquet. Lui-même a fait plusieurs tests, et il en a conclu que n’importe quel personne mal intentionnée pouvait utiliser nos objets connectés pour récupérer des informations sur nous. Et qui met-il en haut de la liste ? Les GAFA ? Les services secrets ? Non ! De sa propre expérience, ce sont les ex ! Ton ex mari, ton ex femme. Bref, le vrai danger se cache souvent dans les recoins de la tiédeur anodine de la vie. Et tous les moyens sont bons.
Tu peux écouter le podcast de notre entretien ici :
La liste des risques est longue… et variée.
Par exemple il est possible de hacker une enceinte Google Home en utilisant… la lumière. Des hackers se sont même amuser à pirater un aspirateur. Tu peux lire ici ce que ça donne.
L’histoire la plus spectaculaire est celle du piratage d’Amazon Ring, la technologie de surveillance vidéo d’Amazon. Un hacker s’est amusé à terroriser un enfant. Une démonstration digne d’un roman de Stephen King.
Même le FBI y va de ses conseils pour éviter de se faire pirater ses objets connectés.
Oliver Ezratty, un des meilleurs experts français en technologie, a même fait la liste des failles des objets connectés. Il y a même une histoire chelou de grille-pain qui mériterait une petite investigation…
Voilà. J’ai tenté de creuser ce sujet sensible en m’appuyant presque exclusivement sur les liens envoyés par la communauté ayant vu notre vidéo d’introduction sur LinkedIn.
C’est très incomplet. Et tu as peut-être d’autres documents à partager avec moi. Tu peux me les envoyer en répondant à ce mail ou en m’écrivant à benoit@flint.media.
En attendant, et pour ne pas abandonner ce sujet important en chemin, on a demandé à l’intelligence artificielle de Flint de venir en renfort.
On a donc créé un premier robot TOD, que nous avons appelé « TOD 1er ». Et que nous avons simplement alimenté avec la trentaine de liens envoyés par nos contributeurs sur LinkedIn.
Il est pas trop craquant ?
Sur cette seule base, notre petit robot est parti à la recherche d’autres articles d’actualité. Histoire de continuer à explorer cette question complexe des objets connectés et de notre vie privée.
Si ça t’intéresse, tu peux t’abonner à ses newsletters (il t’enverra un mail deux fois par semaine). Tod 1er a vite compris quel était notre problème. Il est encore bébé mais, personnellement, j’ai trouvé ses premiers résultats assez bluffants !
👉S’abonner aux newsletters du robot collaboratif TOD.
👀 Regarde aussi la page LinkedIn de Cyrille, on a résumé tout ça dans une vidéo un peu chaotique mais qui nous a fait beaucoup rire. On a essayé d’inviter un robot Alexa dans la conversation, et ça n’a pas fonctionné vraiment comme on l’espérait. Ça devrait illuminer ton lundi matin.
Cet article est un extrait de la newsletter hebdomadaire « Flint Dimanche », qui explore avec toi comment nous pouvons mieux nous informer dans un monde rempli d’algorithmes. Pour la recevoir, abonne-toi à Flint ici. Tu recevras également une sélection de liens personnalisée, envoyée par l’intelligence artificielle de Flint.
Be First to Comment