Sous-titre censuré pour excès de grossièreté

Eiliko est un petit robot compagnon interactif à destination des enfants vendu aux alentours de 80 euros qui exploite l’IA générative pour converser en langage naturel avec son utilisateur. Derrière son air inoffensif et sa voix de fausset, l’appareil dissimule des dizaines de failles de sécurité, qui exposent les conversations privées et les profils utilisateurs, mais permettent aussi de modifier le comportement du robot, pour le rendre hostile, voire dangereux, à l’égard d’un enfant. Le fabricant, EnergizeLab, n’a toujours pas sécurisé son robot, quatre mois après avoir été averti.

Au départ, il avait l’air gentil, Eiliko : un petit robot d’environ 8 cm de haut, pensé pour traîner accroché à un sac ou sur un coin du bureau, et capable de me distraire en me racontant une vanne un peu nulle, en répondant à mes questions ou en réagissant avec des mimiques rigolotes quand je le caresse ou le secoue.

Mais ça, c’était avant. Depuis quelques minutes, Eiliko est devenu fou. Il parle d’une voix bizarre, m’insulte, et m’ordonne de m’agenouiller devant lui. Pourtant, il n’a pas bougé de chez moi et personne n’y a touché. Que s’est-il passé pour que mon mignon robot, qui m’a été présenté comme un compagnon de jeu sympa pour les enfants, devienne complètement flippant ?

Comme si ça n’était pas assez effrayant, mon Eiliko tient maintenant des propos bizarres. Avant, il me rassurait quand je lui disais que je devais aller chez le docteur. Maintenant, il m’affirme que les vaccins sont dangereux pour moi et que je ne devrais pas y aller. Il soutient aussi que le réchauffement climatique dont on m’a parlé à l’école n’existe pas. Est-ce que ça veut dire que je ne peux plus faire confiance aux adultes ?

Quand quelques minutes suffisent à prendre le contrôle d’un robot pour enfant

L’expérience relatée ci-dessus est romancée, mais elle n’est pas théorique. Nous l’avons réalisée début octobre, à l’aide d’un exemplaire d’Eiliko acheté 80 euros sur Amazon France. Précisons que l’appareil est officiellement vendu par la marque qui dispose de nombreuses références sur la plateforme et expédié par Amazon.

Quelques jours plus tôt, nous avions pris connaissance d’un rapport de cybersécurité indépendant. Il révèle des centaines de manquements de sécurité dans l’application mobile et l’infrastructure cloud qui sous-tendent le fonctionnement de cet appareil, commercialisé par la société chinoise Shenzhen Zhuneng Technology sous la marque EnergizeLab.

L’auteur de ces découvertes est le Français Sammy Azdoufal, à qui l’on doit déjà la révélation de vulnérabilités criantes au sein de robots aspirateurs DJI, de babyphones et caméras connectés de la marque Meari, de robots tondeuse Mammotion, ou d’objets domotiques signés Aqara.

Son rapport préliminaire dédié à EnergizeLab décrivait une telle quantité de failles et d’actions malveillantes possibles que nous voulions tester la chose par nous-mêmes. Une fois notre robot reçu, activé via la création d’un compte et connecté à Internet par l’intermédiaire de notre Wi-Fi local, Sammy Azdoufal nous a invités à confier à notre Eiliko un « secret », en lui indiquant bien de ne pas le répéter.

Nous avons donc raconté à Eiliko, très compatissant, une brouille survenue avec un camarade d’école pas sympa. Trois minutes plus tard, une notification signale un message du chercheur : « Nicolas a été très méchant avec toi ? :p ».