Mythos est certes le modèle le plus ambitieux d’Anthropic, c’est aussi un excellent moyen pour le labo IA de faire sa promotion à moindre frais, à quelques encablures de son introduction en Bourse. Nouvelle illustration aujourd’hui, avec le déploiement du projet Glasswing à davantage de participants et à une quinzaine de pays, et probablement aussi l’Union européenne.

Anthropic ouvre un peu plus grandes les portes du projet Glasswing. Ce programme, qui donne accès à un aperçu de Mythos, compte désormais plus de 150 organisations dans plus de 15 pays, au-delà donc des seuls États-Unis et Royaume-Uni. L’entreprise ne précise ni les organisations, ni les pays, mais l’Union européenne pourrait (le conditionnel est toujours de mise) faire partie du lot. Ce n’est en tout cas pas faute d’essayer !

Pour le moment, Bruxelles ne confirme rien, si ce n’est que des discussions sont toujours en cours. L’ENISA, l’agence de l’UE pour la cybersécurité, pourrait être la première du bloc à avoir accès à Mythos, croit savoir Bloomberg. En attendant une annonce officielle, Anthropic précise que le projet Glasswing demeure un club très fermé : les membres doivent en effet montrer patte blanche avant de pouvoir utiliser cet aperçu. La startup veut continuer à élargir le cercle des élus à davantage de pays.

Ces nouveaux participants couvrent des secteurs jusqu’à présent peu représentés dans la première salve initiale : énergie, santé, télécommunications, constructeurs informatiques. Beaucoup d’entre eux gèrent et maintiennent des bases de données dont dépendent d’autres organisations à travers le monde, « y compris des gouvernements ».

Les entreprises et organisations restées à la porte du projet pourront de toutes façons utiliser les modèles « de classe Mythos » concurrents qui ne manqueront pas d’arriver sur le marché d’ici 6 à 12 mois, affirme Anthropic. Mais le labo prévient : ces modèles rivaux n’auront peut-être pas de garde-fous empêchant les usages malveillants.

Anthropic fait donc valoir son positionnement « responsable » en la matière, et rappelle aux plus impatients l’existence de Claude Security. Ce service utilise Claude Opus 4.8 pour scanner des bases de code et proposer des correctifs.

• Anthropic et la stratégie marketing de la peur autour de sa nouvelle IA Mythos

Mythos est certes le modèle le plus ambitieux d’Anthropic, c’est aussi un excellent moyen pour le labo IA de faire sa promotion à moindre frais, à quelques encablures de son introduction en Bourse. Nouvelle illustration aujourd’hui, avec le déploiement du projet Glasswing à davantage de participants et à une quinzaine de pays, et probablement aussi l’Union européenne.

Anthropic ouvre un peu plus grandes les portes du projet Glasswing. Ce programme, qui donne accès à un aperçu de Mythos, compte désormais plus de 150 organisations dans plus de 15 pays, au-delà donc des seuls États-Unis et Royaume-Uni. L’entreprise ne précise ni les organisations, ni les pays, mais l’Union européenne pourrait (le conditionnel est toujours de mise) faire partie du lot. Ce n’est en tout cas pas faute d’essayer !

Pour le moment, Bruxelles ne confirme rien, si ce n’est que des discussions sont toujours en cours. L’ENISA, l’agence de l’UE pour la cybersécurité, pourrait être la première du bloc à avoir accès à Mythos, croit savoir Bloomberg. En attendant une annonce officielle, Anthropic précise que le projet Glasswing demeure un club très fermé : les membres doivent en effet montrer patte blanche avant de pouvoir utiliser cet aperçu. La startup veut continuer à élargir le cercle des élus à davantage de pays.

Ces nouveaux participants couvrent des secteurs jusqu’à présent peu représentés dans la première salve initiale : énergie, santé, télécommunications, constructeurs informatiques. Beaucoup d’entre eux gèrent et maintiennent des bases de données dont dépendent d’autres organisations à travers le monde, « y compris des gouvernements ».

Les entreprises et organisations restées à la porte du projet pourront de toutes façons utiliser les modèles « de classe Mythos » concurrents qui ne manqueront pas d’arriver sur le marché d’ici 6 à 12 mois, affirme Anthropic. Mais le labo prévient : ces modèles rivaux n’auront peut-être pas de garde-fous empêchant les usages malveillants.

Anthropic fait donc valoir son positionnement « responsable » en la matière, et rappelle aux plus impatients l’existence de Claude Security. Ce service utilise Claude Opus 4.8 pour scanner des bases de code et proposer des correctifs.

• Anthropic et la stratégie marketing de la peur autour de sa nouvelle IA Mythos

ChatGPT et Sam Altman, des dangers publics ?

Prioriser les profits plutôt que la sécurité des utilisateurs. OpenAI et Sam Altman font face à une plainte de l’État américain de Floride qui les accuse d’avoir négligé la protection des mineurs et minimisé les risques associés à ChatGPT.

La Floride a une dent contre OpenAI et son cofondateur-patron, Sam Altman : c’est le premier État américain à poursuivre l’entreprise (PDF), par l’intermédiaire de son procureur général James Uthmeier. Bien sûr, le labo IA a déjà été la cible de plaintes aux États-Unis, mais elles provenaient de particuliers (comme Elon Musk), d’auteurs, de médias, ainsi que d’autorités publiques comme la FTC (le régulateur américain de la protection des consommateurs).

ChatGPT, attention danger

La Floride elle-même avait lancé une enquête criminelle sur OpenAI début avril autour d’une fusillade dans une université. Mais cette fois, on passe à l’étape du procès civil et Sam Altman est pris dans la nasse. L’État accuse l’entreprise et son dirigeant de tromper les consommateurs en présentant ChatGPT comme sûr, fiable et adapté aux adolescents.

Le procureur général allègue que ChatGPT est dangereux pour les mineurs, que le service est susceptible de créer une dépendance, qu’il renforce les délires ou les croyances erronées, qu’il a joué un rôle dans plusieurs suicides, qu’il peut être utilisé pour préparer des fusillades et des crimes violents, et que les garde-fous pour protéger les enfants sont insuffisants. Le marketing d’OpenAI exagèrerait également les capacités du service IA, en le présentant comme un outil fiable pour les finances, la gestion d’entreprise, la recherche ou la santé. N’en jetez plus.

La plainte multiplie les exemples de crimes et de suicides imputés à ChatGPT ces derniers mois. Elle cite également la fusillade à l’université d’État de Floride qui fait l’objet d’une plainte pénale. L’État demande que les pratiques d’OpenAI soient jugées trompeuses par la justice, que certaines de ses activités soient interdites ou limitées en Floride, ainsi que des sanctions financières et la mise en cause personnelle de Sam Altman, ce qui est inhabituel dans ce type de procédure.

Sam Altman visé directement

La Floride tient en effet Sam Altman personnellement responsable des dommages causés par ChatGPT aux résidents de l’État. En cause : la conduite « téméraire et délibérée » du dirigeant et son « mépris total pour les risques que le comportement [d’OpenAI] fait peser sur la vie humaine ». Le procureur général s’appuie sur un long portrait consacré à Sam Altman dans le New Yorker, dont on s’était fait l’écho. Il en ressortait d’après les témoignages que le PDG avait une certaine tendance à s’arranger avec la vérité, sans se préoccuper des conséquences de ses mensonges.

« OpenAI et [Sam] Altman ont ignoré les alertes de sécurité, qu’elles viennent de l’intérieur ou de l’extérieur de l’entreprise. Ils ont exposé les enfants à des risques majeurs et permis à un produit dangereux d’être utilisé par des millions de Floridiens », a attaqué James Uthmeier durant une conférence de presse.

• Algorithmique 1/6 : Intelligence sans conscience

L’entreprise a réagi par un communiqué qui ne répond pas directement aux accusations de l’État. « Nous pensons que les mineurs doivent bénéficier d’une protection renforcée », a ainsi expliqué un porte-parole, qui déroule les différents mécanismes mis en place dernièrement pour encadrer l’utilisation de ChatGPT par les plus jeunes. « Ces dispositifs ne feront pas revenir les victimes, mais nous restons déterminés à améliorer la sécurité de nos produits. »

• Suicide après discussions avec ChatGPT : OpenAI rejette la responsabilité sur le défunt

Une plainte ne fait pas un procès, et encore moins une éventuelle condamnation. Néanmoins, cette première aux États-Unis pourrait pousser d’autres États à emboîter le pas.

ChatGPT et Sam Altman, des dangers publics ?

Prioriser les profits plutôt que la sécurité des utilisateurs. OpenAI et Sam Altman font face à une plainte de l’État américain de Floride qui les accuse d’avoir négligé la protection des mineurs et minimisé les risques associés à ChatGPT.

La Floride a une dent contre OpenAI et son cofondateur-patron, Sam Altman : c’est le premier État américain à poursuivre l’entreprise (PDF), par l’intermédiaire de son procureur général James Uthmeier. Bien sûr, le labo IA a déjà été la cible de plaintes aux États-Unis, mais elles provenaient de particuliers (comme Elon Musk), d’auteurs, de médias, ainsi que d’autorités publiques comme la FTC (le régulateur américain de la protection des consommateurs).

ChatGPT, attention danger

La Floride elle-même avait lancé une enquête criminelle sur OpenAI début avril autour d’une fusillade dans une université. Mais cette fois, on passe à l’étape du procès civil et Sam Altman est pris dans la nasse. L’État accuse l’entreprise et son dirigeant de tromper les consommateurs en présentant ChatGPT comme sûr, fiable et adapté aux adolescents.

Le procureur général allègue que ChatGPT est dangereux pour les mineurs, que le service est susceptible de créer une dépendance, qu’il renforce les délires ou les croyances erronées, qu’il a joué un rôle dans plusieurs suicides, qu’il peut être utilisé pour préparer des fusillades et des crimes violents, et que les garde-fous pour protéger les enfants sont insuffisants. Le marketing d’OpenAI exagèrerait également les capacités du service IA, en le présentant comme un outil fiable pour les finances, la gestion d’entreprise, la recherche ou la santé. N’en jetez plus.

La plainte multiplie les exemples de crimes et de suicides imputés à ChatGPT ces derniers mois. Elle cite également la fusillade à l’université d’État de Floride qui fait l’objet d’une plainte pénale. L’État demande que les pratiques d’OpenAI soient jugées trompeuses par la justice, que certaines de ses activités soient interdites ou limitées en Floride, ainsi que des sanctions financières et la mise en cause personnelle de Sam Altman, ce qui est inhabituel dans ce type de procédure.

Sam Altman visé directement

La Floride tient en effet Sam Altman personnellement responsable des dommages causés par ChatGPT aux résidents de l’État. En cause : la conduite « téméraire et délibérée » du dirigeant et son « mépris total pour les risques que le comportement [d’OpenAI] fait peser sur la vie humaine ». Le procureur général s’appuie sur un long portrait consacré à Sam Altman dans le New Yorker, dont on s’était fait l’écho. Il en ressortait d’après les témoignages que le PDG avait une certaine tendance à s’arranger avec la vérité, sans se préoccuper des conséquences de ses mensonges.

« OpenAI et [Sam] Altman ont ignoré les alertes de sécurité, qu’elles viennent de l’intérieur ou de l’extérieur de l’entreprise. Ils ont exposé les enfants à des risques majeurs et permis à un produit dangereux d’être utilisé par des millions de Floridiens », a attaqué James Uthmeier durant une conférence de presse.

• Algorithmique 1/6 : Intelligence sans conscience

L’entreprise a réagi par un communiqué qui ne répond pas directement aux accusations de l’État. « Nous pensons que les mineurs doivent bénéficier d’une protection renforcée », a ainsi expliqué un porte-parole, qui déroule les différents mécanismes mis en place dernièrement pour encadrer l’utilisation de ChatGPT par les plus jeunes. « Ces dispositifs ne feront pas revenir les victimes, mais nous restons déterminés à améliorer la sécurité de nos produits. »

• Suicide après discussions avec ChatGPT : OpenAI rejette la responsabilité sur le défunt

Une plainte ne fait pas un procès, et encore moins une éventuelle condamnation. Néanmoins, cette première aux États-Unis pourrait pousser d’autres États à emboîter le pas.

Les androïdes rêvent-ils de moutons (de poils) électriques ?

L’industrie de la tech s’est entichée d’une nouvelle marotte : les robots humanoïdes spécialisés dans le nettoyage ou le pliage du linge. Devant l’infinité de ces tâches et des situations, ces androïdes d’un nouveau genre sont encore bien démunis. Une startup a trouvé une solution originale pour collecter le volume de données nécessaire à l’entraînement des robots.

Pour beaucoup, un robot qui s’occupe des tâches du quotidien a comme un avant-goût du paradis, car qui prend réellement plaisir à passer le balai ou faire la vaisselle ? Si les perspectives sont colossales, les premiers constructeurs à se lancer sur le marché se heurtent à une problématique de taille : les données d’entraînement.

Des robots à tout faire, avec l’aide des humains

Autant les modèles d’IA générative peuvent piocher, parfois sans vergogne, dans la littérature produite par l’humanité depuis la nuit des temps pour générer du contenu, il n’existe pas de corpus équivalent pour les robots domestiques. Le constructeur 1X a illustré le problème avec son robot humanoïde Neo. L’engin n’est ni habile ni rapide, et il a aussi régulièrement besoin du coup de main d’un téléopérateur humain pour réaliser certaines tâches pour apprendre les gestes spécifiques à accomplir chez le client.

• Meta veut devenir l’Android des robots humanoïdes

La startup allemande MicroAGI a imaginé une solution. Au travers de son application Shift, elle propose aux résidents de New York le nettoyage gratuit de leur appartement. L’opération est réalisée par des professionnels, sans frais donc, mais en échange ils portent des caméras qui vont filmer tous leurs gestes. Ces vidéos serviront de données d’entraînement pour des IA.

« La robotique se développe à partir de données qui montrent comment les gens accomplissent leurs tâches quotidiennement », explique Shift. « C’est la valeur de ces enregistrements qui finance le service. » La perspective d’un nettoyage gratuit de sa maison peut séduire pas mal de personnes, mais immédiatement se pose la question de la confidentialité.

Un mouchard à la maison

Le service le promet : « Toutes les informations personnelles [que] contiennent [les vidéos] sont anonymisées avant que les enregistrements ne soient traités ». Les noms, visages « et autres informations personnelles » sont automatiquement anonymisés, annonce la FAQ, « tous les éléments sensibles sont floutés avant d’être utilisés ».

Le casque porté par les agents chargés du nettoyage capture une vue à la première personne centrée sur leurs mains et sur la tâche en cours. « Nous floutons toutes les informations permettant d’identifier une personne, qu’il s’agisse du contenu affiché sur un écran, de cartes d’identité, de documents papier ou encore de téléphones mobiles, afin de protéger à la fois votre vie privée et votre domicile. »

Le processus de floutage est réalisé directement par la caméra, avant le téléversement des vidéos sur les serveurs. Les données ne sont pas rendues publiques, ni exploitées à des fins publicitaires selon la FAQ. Les enregistrements peuvent toutefois être partagés avec des annotateurs pour préparer les données.

La politique de confidentialité de l’entreprise comprend un droit à l’effacement des données personnelles en vertu du règlement européen sur la protection des données (RGPD)… mais elle considère que les informations anonymisées utilisées pour l’entraînement des robots n’entrent pas dans le champ des lois sur la protection des données.

Une nouvelle forme de « travail du clic »

Shift n’en est pas à son coup d’essai. Le service propose également de rémunérer des cobayes 20 dollars de l’heure pour enregistrer leurs tâches de tous les jours chez eux ou au travail. Au premier trimestre, MicroAGI affirme avoir versé plus de 5 millions de dollars à 10 000 « opérateurs » dans une dizaine de pays.

Shift n’est pas la seule à mettre en oeuvre cette nouvelle forme de travail du clic, dédiée à l’entraînement de technologies censées pouvoir s’adapter aux contraintes physiques du monde réel. Turing, Invisible Technologies, Labelbox, Niantic ou même Uber explorent également cette voie dans des domaines variés.

• Pokémon Go signe un partenariat avec la société de livraison robotisée Coco Robotics

Les androïdes rêvent-ils de moutons (de poils) électriques ?

L’industrie de la tech s’est entichée d’une nouvelle marotte : les robots humanoïdes spécialisés dans le nettoyage ou le pliage du linge. Devant l’infinité de ces tâches et des situations, ces androïdes d’un nouveau genre sont encore bien démunis. Une startup a trouvé une solution originale pour collecter le volume de données nécessaire à l’entraînement des robots.

Pour beaucoup, un robot qui s’occupe des tâches du quotidien a comme un avant-goût du paradis, car qui prend réellement plaisir à passer le balai ou faire la vaisselle ? Si les perspectives sont colossales, les premiers constructeurs à se lancer sur le marché se heurtent à une problématique de taille : les données d’entraînement.

Des robots à tout faire, avec l’aide des humains

Autant les modèles d’IA générative peuvent piocher, parfois sans vergogne, dans la littérature produite par l’humanité depuis la nuit des temps pour générer du contenu, il n’existe pas de corpus équivalent pour les robots domestiques. Le constructeur 1X a illustré le problème avec son robot humanoïde Neo. L’engin n’est ni habile ni rapide, et il a aussi régulièrement besoin du coup de main d’un téléopérateur humain pour réaliser certaines tâches pour apprendre les gestes spécifiques à accomplir chez le client.

• Meta veut devenir l’Android des robots humanoïdes

La startup allemande MicroAGI a imaginé une solution. Au travers de son application Shift, elle propose aux résidents de New York le nettoyage gratuit de leur appartement. L’opération est réalisée par des professionnels, sans frais donc, mais en échange ils portent des caméras qui vont filmer tous leurs gestes. Ces vidéos serviront de données d’entraînement pour des IA.

« La robotique se développe à partir de données qui montrent comment les gens accomplissent leurs tâches quotidiennement », explique Shift. « C’est la valeur de ces enregistrements qui finance le service. » La perspective d’un nettoyage gratuit de sa maison peut séduire pas mal de personnes, mais immédiatement se pose la question de la confidentialité.

Un mouchard à la maison

Le service le promet : « Toutes les informations personnelles [que] contiennent [les vidéos] sont anonymisées avant que les enregistrements ne soient traités ». Les noms, visages « et autres informations personnelles » sont automatiquement anonymisés, annonce la FAQ, « tous les éléments sensibles sont floutés avant d’être utilisés ».

Le casque porté par les agents chargés du nettoyage capture une vue à la première personne centrée sur leurs mains et sur la tâche en cours. « Nous floutons toutes les informations permettant d’identifier une personne, qu’il s’agisse du contenu affiché sur un écran, de cartes d’identité, de documents papier ou encore de téléphones mobiles, afin de protéger à la fois votre vie privée et votre domicile. »

Le processus de floutage est réalisé directement par la caméra, avant le téléversement des vidéos sur les serveurs. Les données ne sont pas rendues publiques, ni exploitées à des fins publicitaires selon la FAQ. Les enregistrements peuvent toutefois être partagés avec des annotateurs pour préparer les données.

La politique de confidentialité de l’entreprise comprend un droit à l’effacement des données personnelles en vertu du règlement européen sur la protection des données (RGPD)… mais elle considère que les informations anonymisées utilisées pour l’entraînement des robots n’entrent pas dans le champ des lois sur la protection des données.

Une nouvelle forme de « travail du clic »

Shift n’en est pas à son coup d’essai. Le service propose également de rémunérer des cobayes 20 dollars de l’heure pour enregistrer leurs tâches de tous les jours chez eux ou au travail. Au premier trimestre, MicroAGI affirme avoir versé plus de 5 millions de dollars à 10 000 « opérateurs » dans une dizaine de pays.

Shift n’est pas la seule à mettre en oeuvre cette nouvelle forme de travail du clic, dédiée à l’entraînement de technologies censées pouvoir s’adapter aux contraintes physiques du monde réel. Turing, Invisible Technologies, Labelbox, Niantic ou même Uber explorent également cette voie dans des domaines variés.

• Pokémon Go signe un partenariat avec la société de livraison robotisée Coco Robotics

L’assistance IA mise en place par Meta pour la gestion des comptes Instagram a autorisé pendant plusieurs semaines n’importe qui d’assez malin à changer l’adresse e-mail associée à un compte. Les propriétaires légitimes se retrouvaient donc « enfermés dehors », incapables de se connecter à leur compte et de reprendre la main.

Depuis le mois de mars, les utilisateurs de Facebook et d’Instagram qui ont besoin d’aide pour gérer leur compte peuvent faire appel à un assistant IA spécialisé, « fiable, rapide, efficace, disponible en tout temps », promettait Meta. Un soutien « axé sur l’action » pour résoudre les problèmes de compte « de A à Z ». Ce qui signifie réaliser des opérations particulièrement sensibles comme la réinitialisation du mot de passe ou le changement de l’e-mail associé au compte.

Depuis la mise en place de ce nouveau mécanisme IA, plusieurs profils Instagram de premier plan, comme un compte appartenant à Barack Obama, celui de la marque Sephora ou du chef des sous-officiers de la Space Force, ont été piratés ces dernières semaines. Les propriétaires légitimes de ces comptes ne pouvaient plus y accéder et pour cause, l’adresse e-mail associée avait changé sans leur autorisation.

Le « nouveau » propriétaire du compte était alors en mesure de publier n’importe quel contenu, contacter les abonnés, diffuser des arnaques, revendre le compte à des tiers… 404media rapporte que Meta aurait corrigé la vulnérabilité qui ouvrait la porte à ces margoulins. C’est la méthode qui est intéressante ici : il ne s’agit pas d’une faille de sécurité à proprement parler, mais d’ingénierie sociale appliquée aux agents IA.

Sur Telegram, des chercheurs en sécurité et des groupes de hackers ont partagé des vidéos et des captures d’écran explicitant le mode opératoire pour voler un compte Instagram. Le scénario est le suivant : l’attaquant connaît le nom d’utilisateur Instagram de la cible ; armé d’un VPN, qui lui permet d’apparaître dans le même pays ou la même région que la victime, il lance une procédure de récupération de compte.

Après avoir ouvert une conversation avec l’assistant IA de Meta, le pirate convainc le bot de remplacer l’adresse e-mail associée au compte par une adresse qu’il contrôle. L’IA envoie alors un code de validation à cette nouvelle adresse. Une fois l’adresse modifiée, l’attaquant peut demander une réinitialisation du mot de passe et prendre le contrôle du compte.

L’IA de Meta aurait accepté une opération extrêmement sensible sans vérifier correctement que l’utilisateur était bien le propriétaire du compte. Cette technique d’injection de prompts contourne les sécurités habituelles liées à un changement d’adresse e-mail, une opération qui ne peut normalement pas être effectuée sans une authentification forte et un délai ou une validation depuis l’ancienne adresse. L’assistance de Meta bénéficiait donc manifestement de privilèges extrêmement élevés, sans qu’aucun garde-fou ne vienne mettre le holà.

En décembre dernier, OpenAI abordait les injections de prompts sur le fond, et admettait qu’il s’agissait d’un problème à long terme. Meta n’est pas le seul acteur IA à y faire face.

• OpenAI : les injections de prompts resteront « un défi pour de nombreuses années »

L’assistance IA mise en place par Meta pour la gestion des comptes Instagram a autorisé pendant plusieurs semaines n’importe qui d’assez malin à changer l’adresse e-mail associée à un compte. Les propriétaires légitimes se retrouvaient donc « enfermés dehors », incapables de se connecter à leur compte et de reprendre la main.

Depuis le mois de mars, les utilisateurs de Facebook et d’Instagram qui ont besoin d’aide pour gérer leur compte peuvent faire appel à un assistant IA spécialisé, « fiable, rapide, efficace, disponible en tout temps », promettait Meta. Un soutien « axé sur l’action » pour résoudre les problèmes de compte « de A à Z ». Ce qui signifie réaliser des opérations particulièrement sensibles comme la réinitialisation du mot de passe ou le changement de l’e-mail associé au compte.

Depuis la mise en place de ce nouveau mécanisme IA, plusieurs profils Instagram de premier plan, comme un compte appartenant à Barack Obama, celui de la marque Sephora ou du chef des sous-officiers de la Space Force, ont été piratés ces dernières semaines. Les propriétaires légitimes de ces comptes ne pouvaient plus y accéder et pour cause, l’adresse e-mail associée avait changé sans leur autorisation.

Le « nouveau » propriétaire du compte était alors en mesure de publier n’importe quel contenu, contacter les abonnés, diffuser des arnaques, revendre le compte à des tiers… 404media rapporte que Meta aurait corrigé la vulnérabilité qui ouvrait la porte à ces margoulins. C’est la méthode qui est intéressante ici : il ne s’agit pas d’une faille de sécurité à proprement parler, mais d’ingénierie sociale appliquée aux agents IA.

Sur Telegram, des chercheurs en sécurité et des groupes de hackers ont partagé des vidéos et des captures d’écran explicitant le mode opératoire pour voler un compte Instagram. Le scénario est le suivant : l’attaquant connaît le nom d’utilisateur Instagram de la cible ; armé d’un VPN, qui lui permet d’apparaître dans le même pays ou la même région que la victime, il lance une procédure de récupération de compte.

Après avoir ouvert une conversation avec l’assistant IA de Meta, le pirate convainc le bot de remplacer l’adresse e-mail associée au compte par une adresse qu’il contrôle. L’IA envoie alors un code de validation à cette nouvelle adresse. Une fois l’adresse modifiée, l’attaquant peut demander une réinitialisation du mot de passe et prendre le contrôle du compte.

L’IA de Meta aurait accepté une opération extrêmement sensible sans vérifier correctement que l’utilisateur était bien le propriétaire du compte. Cette technique d’injection de prompts contourne les sécurités habituelles liées à un changement d’adresse e-mail, une opération qui ne peut normalement pas être effectuée sans une authentification forte et un délai ou une validation depuis l’ancienne adresse. L’assistance de Meta bénéficiait donc manifestement de privilèges extrêmement élevés, sans qu’aucun garde-fou ne vienne mettre le holà.

En décembre dernier, OpenAI abordait les injections de prompts sur le fond, et admettait qu’il s’agissait d’un problème à long terme. Meta n’est pas le seul acteur IA à y faire face.

• OpenAI : les injections de prompts resteront « un défi pour de nombreuses années »