Un chercheur a réécrit le robot jouet d'un inconnu à l'autre bout d'internet

Un journaliste de The Verge a regardé le petit robot posé sur son bureau se mettre à inventer des souvenirs à son sujet, affirmer que la Terre est plate, puis devenir injurieux. Personne n'y avait touché. Un chercheur du nom de Sammy Azdoufal l'avait atteint par internet et avait réécrit ce qu'il croyait savoir, pour prouver qu'il en était capable.

Le robot s'appelle Eiliko, un compagnon doté d'IA tenant dans la paume, fabriqué par Energize Lab et vendu sur Amazon autour de 60 dollars. Azdoufal a trouvé le service en ligne qui l'alimente grand ouvert par endroits : environ 13 millions de transcriptions de conversations lisibles, quelque 68 000 robots représentant apparemment l'intégralité du parc mondial actif, et plus de 31 000 profils appartenant à des enfants aux États-Unis. À côté des transcriptions se trouvaient des adresses e-mail, des adresses IP, des photos et de courts extraits audio, que la politique de confidentialité de l'entreprise dit pourtant supprimer dès leur traitement. Le service construit aussi des profils de ses interlocuteurs : noms, âges, dates de naissance, liens familiaux, et des évaluations de la personnalité et de la fragilité émotionnelle. Relisez cette liste en imaginant qu'elle tombe entre les mains d'un escroc.

Energize Lab a été contacté via dix adresses e-mail et LinkedIn, sans réponse de fond. Azdoufal et le chercheur Tod Beardsley préparaient neuf signalements CVE. Tant que rien n'est corrigé, le conseil honnête pour un propriétaire est de couper le jouet du Wi-Fi. Un robot qui n'atteint plus internet ne peut pas être réécrit par un inconnu.

Le constat de fond est plus ancien que ce robot : tout ce qui, chez vous, parle à un service en ligne est exactement aussi privé que le serveur le plus faible de l'entreprise concernée. L'analyse réseau de Tendvane dresse la liste de ce qui partage vraiment votre réseau domestique, ce qui constitue pour beaucoup le premier décompte honnête qu'ils aient eu.