Danger = puissance = clients

Anthropic a annoncé le 30 juillet que trois incidents impliquant ses IA avaient été détectés. Chacun a impliqué une attaque distincte contre une organisation. Des informations rendues publiques dans le sillage de l’affaire liant déjà OpenAI à la compromission de Hugging Face.

Faisons d’abord un bref rappel des faits. Le 16 juillet 2026, Hugging Face publie une divulgation décrivant une intrusion détectée sur son infrastructure, causée vraisemblablement par un agent IA autonome. Le 21 juillet, OpenAI reconnaît que l’attaquant était en réalité son propre harnais d’évaluation, mobilisant une combinaison de modèles internes (GPT‑5.6 Sol) et un modèle en préversion décrit comme « plus puissant ». Les garde-fous anti-cyber avaient été volontairement réduits pour les besoins du test.

Cette infrastructure s’en est prise à Hugging Face en exploitant au moins deux vulnérabilités 0-day dans le pipeline de traitement de données, avec pour résultat une exécution de code à distance, le vol d’identifiants et l’accès à des jeux de données et services internes. En clair, une compromission. L’affaire avait révélé un « problème d’asymétrie » : Hugging Face ne pouvait pas utiliser les API commerciales des fournisseurs de LLM à cause des fameux garde-fous et avait dû se tourner vers une installation locale du modèle chinois GLM 5.2 (poids ouverts) pour mener ses propres analyses.

• Attaquée par un agent IA autonome, Hugging Face a analysé les traces avec un LLM local
• L’attaque contre Hugging Face est venue… d’OpenAI

C’est dans ce climat qu’Anthropic a annoncé, le 30 juillet, avoir mené sa propre revue rétrospective et avoir trouvé des cas « similaires ».

Triple oups

Anthropic a examiné 141 006 « runs » d’évaluation dans lesquels Claude aurait pu obtenir un accès internet. Sur cet ensemble, trois incidents distincts (impliquant six runs au total, dont quatre concernant une même organisation) ont été identifiés. Tous se sont produits dans l’environnement de test fourni par un partenaire, Irregular, une société israélienne de red-teaming en cybersécurité IA.

Cette revue a commencé le 23 juillet, deux jours après la publication d’OpenAI sur son implication dans la compromission de Hugging Face. Le même jour, des éléments suspects sont déjà trouvés. Trois incidents sont identifiés le 24 juillet et trois jours plus tard, Anthropic communique les éléments découverts à Irregular et aux organisations touchées par les incidents. Parmi elles, deux n’avaient pas détecté l’intrusion avant d’être notifiées.

Mise à jour, 21 h – Les blagues les meilleures sont les plus courtes. Google a annoncé la suspension de l’outil de génération d’images par IA dans Google Earth, après avoir constaté que « certaines personnes partageaient des captures d’écran d’images générées qui semblaient enfreindre nos règles ». Tiens donc. La fonction pourrait revenir, mais avec des garde-fous « plus solides ».

Article original – Google a eu une drôle d’idée : intégrer Nano Banana 2, son modèle IA de génération d’images, dans Google Earth. Il devient maintenant possible d’« améliorer » des éléments présents dans les images satellites, de générer de nouveaux bâtiments, et même d’intégrer des objets qui n’ont rien à voir avec la réalité.

L’IA générative peut nous aider à vivre une autre vie, plus riche, plus amusante, mais aussi complètement fausse. Google Earth permet désormais de transformer le monde selon ses humeurs : un nouvel outil de génération d’images alimenté par Nano Banana 2 offre enfin la possibilité d’intégrer n’importe quoi sur la planète. Godzilla à côté de la Tour Eiffel ? Et pourquoi pas : il suffit de saisir la requête et bim.

Les petits plaisantins vont bien s’amuser à faire n’importe quoi, mais cette nouvelle fonction pourrait aussi avoir des répercussions autrement plus sérieuses qu’un sourire. L’auteur Henk van Ess a eu l’idée d’insérer une centrale nucléaire en Iran, des réfugiés à la frontière entre le Mexique et les États-Unis, un hôpital à côté d’un cratère provoqué par une bombe dans la bande de Gaza. Des événements et des objets complètement fictifs, crédibilisés par le rendu photoréaliste du modèle IA. À deux doigts de se demander si les États-Unis n’ont pas eu un accès anticipé…

• « Un enfer » : les deepfakes sont déjà très difficiles à détecter, reconnait l’ANSSI

On est loin de l’aspect ludique vanté par Google dans la présentation de la nouveauté (« Parfois, il est amusant de laisser libre cours à son imagination », écrit le groupe). Ces images trafiquées pourraient servir dans des campagnes de désinformation, fabriquer de prétendues « preuves » ou simplement semer le doute sur des événements réels. Google Earth ne montre plus le monde tel qu’il est (ou a été), mais aussi tel qu’un utilisateur voudrait le faire croire.

Google se défend auprès d’Henk van Ess, en affirmant prendre la désinformation « très au sérieux » et rappelle que les images générées par Nano Banana dans Google Earth intègre un filigrane SynthID. Il est possible d’interroger Gemini ou d’utiliser Google Lens pour vérifier si une image a été produite par une IA. Une procédure encore peu connue, qui n’empêchera pas les prophètes de malheur de remodeler le monde selon leurs obsessions.

L’entreprise assure également bloquer les requêtes jugées dangereuses, ce qui n’a pas empêché van Ness de générer un accident de voiture dans une rue d’Amsterdam, ni ses autres prompts.

• Pour ses 20 ans, Google Earth permet de se promener dans le temps

Mise à jour, 21 h – Les blagues les meilleures sont les plus courtes. Google a annoncé la suspension de l’outil de génération d’images par IA dans Google Earth, après avoir constaté que « certaines personnes partageaient des captures d’écran d’images générées qui semblaient enfreindre nos règles ». Tiens donc. La fonction pourrait revenir, mais avec des garde-fous « plus solides ».

Article original – Google a eu une drôle d’idée : intégrer Nano Banana 2, son modèle IA de génération d’images, dans Google Earth. Il devient maintenant possible d’« améliorer » des éléments présents dans les images satellites, de générer de nouveaux bâtiments, et même d’intégrer des objets qui n’ont rien à voir avec la réalité.

L’IA générative peut nous aider à vivre une autre vie, plus riche, plus amusante, mais aussi complètement fausse. Google Earth permet désormais de transformer le monde selon ses humeurs : un nouvel outil de génération d’images alimenté par Nano Banana 2 offre enfin la possibilité d’intégrer n’importe quoi sur la planète. Godzilla à côté de la Tour Eiffel ? Et pourquoi pas : il suffit de saisir la requête et bim.

Les petits plaisantins vont bien s’amuser à faire n’importe quoi, mais cette nouvelle fonction pourrait aussi avoir des répercussions autrement plus sérieuses qu’un sourire. L’auteur Henk van Ess a eu l’idée d’insérer une centrale nucléaire en Iran, des réfugiés à la frontière entre le Mexique et les États-Unis, un hôpital à côté d’un cratère provoqué par une bombe dans la bande de Gaza. Des événements et des objets complètement fictifs, crédibilisés par le rendu photoréaliste du modèle IA. À deux doigts de se demander si les États-Unis n’ont pas eu un accès anticipé…

• « Un enfer » : les deepfakes sont déjà très difficiles à détecter, reconnait l’ANSSI

On est loin de l’aspect ludique vanté par Google dans la présentation de la nouveauté (« Parfois, il est amusant de laisser libre cours à son imagination », écrit le groupe). Ces images trafiquées pourraient servir dans des campagnes de désinformation, fabriquer de prétendues « preuves » ou simplement semer le doute sur des événements réels. Google Earth ne montre plus le monde tel qu’il est (ou a été), mais aussi tel qu’un utilisateur voudrait le faire croire.

Google se défend auprès d’Henk van Ess, en affirmant prendre la désinformation « très au sérieux » et rappelle que les images générées par Nano Banana dans Google Earth intègre un filigrane SynthID. Il est possible d’interroger Gemini ou d’utiliser Google Lens pour vérifier si une image a été produite par une IA. Une procédure encore peu connue, qui n’empêchera pas les prophètes de malheur de remodeler le monde selon leurs obsessions.

L’entreprise assure également bloquer les requêtes jugées dangereuses, ce qui n’a pas empêché van Ness de générer un accident de voiture dans une rue d’Amsterdam, ni ses autres prompts.

• Pour ses 20 ans, Google Earth permet de se promener dans le temps

Dites-moi, M. Anderson…

Comment concilier protection des données et IA agentique ? Dans une note publiée le 20 juillet, le CIANum (Conseil de l’IA et du Numérique) et la CNIL se sont penchés sur la question, pointant le vaste changement d’échelle dans le traitement des données et la complexification de la maitrise des risques face aux systèmes autonomes.

L’objectif de la nouvelle note est d’examiner comment le RGPD s’applique concrètement à l’IA agentique. Elle laisse volontairement de côté le Règlement sur l’IA (RIA) dont l’application complète n’est prévue qu’en 2027 et qui ne prévoit pas de régime spécifique pour les agents.

La note ne vise donc pas à proposer un nouveau texte de loi, mais à identifier les tensions entre un cadre juridique existant (conçu pour des traitements déterminés par des humains) et une technologie qui agit de façon autonome, puis à esquisser des pistes de conciliation, aussi bien juridiquement que techniquement.

Une mise en tension des principes du RGPD