« Flood the zone with shit »

Partagée des millions de fois dans le monde entier et instrumentalisée par l’extrême droite, la photo d’un couple de 80 ans en sous-vêtements, soi-disant dépouillés par des casseurs (ce que dément le parquet de Paris), avait été générée par IA. Elle provient d’un site d’information figurant depuis plus d’un an et demi dans notre base de données de sites d’informations générés par IA.

Le week-end dernier, la photo (générée par IA) d’un « couple de 80 ans », prétendument agressé et dévêtu en pleine rue en marge des manifestations place de la République, à Paris, est devenue d’autant plus virale qu’elle a aussi été instrumentalisée par l’extrême droite, y compris à l’étranger. Les Observateurs (la rubrique de fact-checking de France 24) ont depuis découvert qu’elle émanait de l’un des sites d’information identifiés par Next comme étant en tout ou partie générés par IA (GenAI).

Le journaliste des Observateurs avait en effet installé l’extension web (gratuite) que Next a développée pour « flaguer » et afficher un message d’alerte lorsque les personnes qui l’utilisent consultent un site d’infos dont « la majeure partie des articles semble avoir été générée par IA, mais sans le préciser ».

Le site en question, pro-israélien et relayant de nombreux narratifs d’extrême droite, avait par ailleurs déjà été épinglé en 2024 sur Facebook pour y avoir partagé de « fausses informations » laissant entendre (à tort) que l’extrême gauche mettait le feu à Paris.

Notre enquête au long cours sur les sites d’information générés par IA (GenAI), entamée il y a plus d’un an et demi, a d’ores et déjà permis d’identifier plus de 19 500 sites d’information GenAI (rien qu’en français), auxquels nous avons consacré près d’une soixantaine d’articles.

• Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles

Nous avions d’ores et déjà documenté, plusieurs fois, le fait que ces sites d’infos générés par IA relaient et propulsent de fausses informations. Cette nouvelle désinformation, elle aussi « générée par IA », est cela dit la première qui illustre et démontre à ce point que ces articles et sites GenAI, qui polluent le web, servent aussi d’ « armes de désinformation massive ».

Elle contribue en effet à l’objectif politique que s’était fixé Steve Bannon, l’ex-conseiller de Donald Trump, pour qui « la véritable opposition, ce sont les médias », ce pourquoi il proposa que « la façon de les traiter est d’inonder la zone avec de la merde » (« Flood the zone with shit », en VO).

• Cette « rumeur » relayée par de nombreux médias émanait de sites générés par IA
• « Il est désormais interdit d’ouvrir ses fenêtres » : Reworld hallucine (encore) une infox
• Du porno à sa « crèche » pour bébés reborn : Thérèse joue avec les médias depuis 25 ans

« Pour moi, c’est l’image la plus horrible de ce 17 octobre »

« Pour moi, c’est l’image la plus horrible de ce 17 octobre », soulignait le tweet, cumulant plus de 60 000 partages, 160 000 likes et vu plus de 6 millions de fois, qui a contribué à rendre l’image virale (sans préciser qu’elle avait été générée par IA). Posté depuis Israël par une militante d’extrême droite qui parle de « terroristes émeutiers », son message signalait en outre que « l’image devrait être un signal d’alarme pour tout l’occident […] L’image d’une gauche radicale qui a sacrifié votre propre identité pour faire de votre pays une zone de guerre. »

Il a depuis été relayé par de nombreuses personnalités d’extrême droite, de Sirènes (l’influenceur complotiste qui avait interviewé Thérèse, la starlette porno ayant soi-disant créé une crèche pour bébés reborn) à Alice Cordier, la présidente du collectif identitaire Némésis.

• Du porno à sa « crèche » pour bébés reborn : Thérèse joue avec les médias depuis 25 ans

L’image a aussi été partagée par plusieurs figures internationales, comme l’islamophobe britannique Tommy Robinson ou le polonais ultraconservateur Visgegrad 24, le chef du parti d’extrême droite espagnol Vox Santiago Abascal, et jusqu’à C14, une chaîne de télévision israélienne accusée de discours génocidaires, sous le titre : « l’Islam conquiert l’Europe ».

« Illustration générée par IA, ne documente pas un fait avéré »

Outre les Observateurs, plusieurs fact-checkeurs ont depuis retracé le cheminement de cette fake news, des Surligneurs à la rubrique Factuel de l’AFP en passant par la RTBF.

Consultant police-justice de BFM TV, Dominique Rizet y expliqua en direct ce samedi 17 octobre, aux alentours de 21 h « recevoir des messages de policiers qui me disent les gens victimes de pillage appellent au poste en pleurant, à Paris » :

« Je viens de lire – ce sont des informations de police – qu’un couple de 80 ans a été agressé à République, ils se sont fait dépouiller et se sont retrouvés quasiment nus place de la République. Et on va apprendre, dans les jours qui viennent, tout un tas de choses comme ça. »

Une séquence vidéo rapidement partagée par l’agrégateur d’infos d’extrême-droite Fdesouche.com (archive), qui avança à 22h10 sur X.com qu’ « un couple de 80 ans a eté depouillé de ses effets personnels ». Tout en y rajoutant le fait qu’il aurait aussi été « roué de coups et retrouvé nu dans la rue », ce que Dominique Rizet n’avait pas évoqué.

À 22h22, Infos-Israel.news partagea sur X.com et Instagram un photomontage évoquant « un couple de retraités dépouillé », illustré d’un photomontage estampillé « Made with AI » par X.com montrant deux personnages âgés, en sous-vêtements, dans la rue, entourés de deux individus noirs vêtus.

L’article associé indique aujourd’hui que ce photomontage est une « Illustration générée par IA, ne documente pas un fait avéré », mais ce n’était pas le cas lorsqu’elle avait pour la première fois été archivée. Accessoirement, les images générées par IA du couple de personnes âgées ne sont pas les mêmes sur le tweet et dans l’article.

CheckNews relevait dimanche dernier que l’image en question avait également été partagée par le syndicat des cadres de la sécurité intérieure (SCSI, historiquement majoritaire au sein du corps de commandement de la Police nationale – qui l’a depuis effacée). Mais aussi et surtout qu’elle avait été générée ou modifiée grâce à des outils d’IA, « comme l’indiquent plusieurs outils de détection de référence ».

La RTBF et la rubrique Factuel de l’AFP parvenaient au même constat, tout en relevant « plusieurs incohérences visuelles » :

« Malgré la qualité très dégradée de la photo, plusieurs incohérences visuelles interpellent : à gauche, deux personnes cagoulées font face à une femme, mais seule l’une de ces deux personnes a des jambes. A droite, la personne vêtue de noir ne semble avoir qu’une seule jambe et au centre, la main de la femme est déformée, notamment au niveau de son pouce. »

Ce lundi 19 octobre, soit quarante-huit heures après les faits présumés, le parquet de Paris assurait à CheckNews « ne pas [avoir] de remontées en ce sens à ce jour », tout en appelant « à la prudence » concernant des images censées documenter l’agression.

Les Observateurs relevaient de leur côté que le fait qu’ « on retrouve la bordure blanche qui sépare les images dans le montage d’Infos-Israel.news dans l’image qui a été partagée ces derniers jours » était le signe, voire la preuve, que l’image virale provenait bien du montage du média pro-israélien.

« Deux chercheurs extraterrestres » annoncent la troisième guerre mondiale

Ce mardi 20 octobre, Nathan Gallo, le journaliste de France 24 ayant fact-checké cette infox pour le compte des Observateurs, nous a contactés pour en savoir plus concernant l’ajout de ce site dans notre base de données. Il avait en effet constaté que notre extension GenAI « flaguant » les sites d’informations générés par IA s’était affichée lorsqu’il avait consulté infos-israel.news, ainsi que deux autres sites associés, rakbeisrael.buzz et alyaexpress-news.com.

Les GAFAM et les agents d'abord

Un mois après avoir demandé à effectuer une « pause » au vu des risques que poseraient les IA les plus avancées, Anthropic a rédigé un projet de loi de régulation. Il prévoit de permettre aux États-Unis de bloquer celles qui pourraient tuer ou blesser gravement « plus de 50 personnes », ou causer « plus d’un milliard de dollars de dommages », mais limite le montant des amendes à 0,2 % de leurs revenus.

POLITICO s’est procuré le projet confidentiel de régulation de la sécurité et de la sûreté des IA (« AI safety » en VO) de pointe qu’Anthropic a discrètement présenté à des représentants du Congrès états-unien. Une initiative qui intervient un peu plus d’un mois après que Dario Amodei a appelé à faire une « pause » dans le développement des IA (quand bien même leurs dépenses montrent l’inverse), puis que les patrons de l’IA ont réclamé une régulation mondiale à l’ONU.

• Anthropic, OpenAI et Elon Musk veulent ralentir sur l’IA, la Maison-Blanche dit non
• À l’ONU, les patrons de l’IA réclament une régulation mondiale

L’objectif serait de permettre au gouvernement d’émettre un « ordre de blocage » de mise sur le marché ou d’utilisation d’un modèle « uniquement si celui-ci présente un risque prévisible et imminent de causer plus d’un milliard de dollars de dommages, ou de tuer ou de blesser gravement plus de 50 personnes », souligne POLITICO.

Ce type de « risque catastrophique » est cela dit cantonné à trois possibilités limitatives : « fournir une assistance de niveau expert dans la création ou la libération d’un produit chimique, arme biologique, radiologique, cybernétique ou nucléaire » (NRBC), « s’engager, sans surveillance, intervention ou supervision humaine significative, dans une cyberattaque », ou bien « échapper au contrôle de son développeur ou utilisateur ». La proposition exclut en outre toute « activité légale du gouvernement fédéral ».

« En d’autres termes, si un modèle semblait susceptible de tuer ou de blesser gravement seulement quelques personnes, ou de causer des dégâts matériels d’une valeur inférieure à un milliard de dollars, le gouvernement ne serait pas en mesure de le réglementer », ironise de son côté Mother Jones.

Pour rappel, le PDG d’Anthropic, Dario Amodei, qui n’avait « jamais soulevé d’objections à l’égard d’opérations militaires », avait déjà refusé, en février dernier, que ses IA puissent être utilisées pour de la surveillance de masse à l’intérieur du pays, ainsi que par des armes totalement autonomes.

Donald Trump avait alors publiquement ordonné à toutes les agences des États-Unis de cesser d’utiliser Claude et les produits d’intelligence artificielle d’Anthropic en février dernier, le qualifiant de « fournisseur à risque pour la sécurité nationale ».

• Donald Trump ordonne à toutes les administrations US de rompre avec Anthropic
• Derrière la polémique entre Trump et Anthropic, les enjeux de l’usage militaire de l’IA

Des amendes plafonnées à 0,2 % du revenu annuel, et conditionnées

POLITICO relève par ailleurs qu’Anthropic propose aussi que des évaluateurs indépendants, enregistrés auprès du ministère du Commerce, soient par ailleurs chargés d’évaluer périodiquement le laboratoire et ses modèles de pointe. Le document précise que ces évaluateurs pourraient être rémunérés par le laboratoire lui-même, à condition que cette rémunération ne dépende pas des résultats des évaluations.

En cas de « risque imminent et précis », ces évaluateurs devraient le signaler dans les 72 heures suivant la fin de leur évaluation au ministère du Commerce. Ce dernier pourrait de son côté demander au juge de suspendre la mise sur le marché d’un modèle présentant un risque. Le texte interdit par contre explicitement à tout autre ministère, agence ou fonctionnaire de suspendre le développement, le déploiement ou l’utilisation interne d’un modèle.

« Il faut être impitoyable envers les casseurs parce qu’ils trahissent la France », a déclaré Gérald Darmanin au JT de 20H de TF1 ce lundi 19 octobre, en réponse aux pillages effectués en marge des manifestations du samedi 17 octobre.

« Il y a eu 2.513 gardes à vue au moment où je parle », a précisé le ministre de la Justice, soulignant que l’immense majorité des personnes concernées étaient encore en garde à vue devant les services de police et que « la réponse pénale, on la saura définitive en fin de semaine » :

« Déjà plus d’un demi-millier de ces personnes, plus de 500 personnes, sous escorte policière, ont été déférées au tribunal pour être présentées aujourd’hui, demain et après-demain en comparution immédiate. »

Le garde des Sceaux a également envoyé lundi matin une instruction à tous les parquets de France « pour leur demander de passer en qualification de criminalité organisée ce qui s’est passé », afin de leur permettre de recourir à des techniques dites « techniques spéciales d’enquête » qualifiées par Valéry Muller, vice-président chargé de l’instruction au tribunal judiciaire de Paris,, de « particulièrement offensives ».

« Ça veut dire d’abord qu’on pourra passer les gardes à vue de 48 à 72 heures pour que les services de police puissent faire leur travail vu l’afflux de gardes à vue », a précisé Gérald Darmanin :

« Ça veut dire aussi qu’on va pouvoir faire des géolocalisations, des écoutes téléphoniques, qui vont nous permettre de savoir, en regardant les téléphones des personnes qui sont en garde à vue, s’ils ont participé et comment ils ont participé, où ils étaient au moment où on a pillé des magasins, attaqué des mairies. Et puis surtout, on va utiliser le moyen de la reconnaissance faciale sur le TAJ (Traitement des antécédents judiciaires), c’est-à-dire le fichier des policiers, il y a des millions de personnes qui sont dans ce fichier, pour regarder si sur les réseaux sociaux, on n’a pas les mêmes images. »

• 24 millions et moi, et moi… : l’équivalent du tiers de la population est « défavorablement connue » de la police
• 12 ans que la CNIL dénonce le fichier TAJ des personnes « défavorablement connues »… en vain

Interrogé ce mardi matin sur CNEWS (X.com / Facebook), Gérald Darmanin précise qu’ « aujourd’hui, 123 personnes sont incarcérées, soit en détention provisoire soit en mandat de dépôt », et que « plus de 700 personnes sont déférées dans les dépôts, c’est-à-dire les endroits où l’on attend d’être condamné ».

« Il faut être impitoyable envers les casseurs parce qu’ils trahissent la France », a déclaré Gérald Darmanin au JT de 20H de TF1 ce lundi 19 octobre, en réponse aux pillages effectués en marge des manifestations du samedi 17 octobre.

« Il y a eu 2.513 gardes à vue au moment où je parle », a précisé le ministre de la Justice, soulignant que l’immense majorité des personnes concernées étaient encore en garde à vue devant les services de police et que « la réponse pénale, on la saura définitive en fin de semaine » :

« Déjà plus d’un demi-millier de ces personnes, plus de 500 personnes, sous escorte policière, ont été déférées au tribunal pour être présentées aujourd’hui, demain et après-demain en comparution immédiate. »

Le garde des Sceaux a également envoyé lundi matin une instruction à tous les parquets de France « pour leur demander de passer en qualification de criminalité organisée ce qui s’est passé », afin de leur permettre de recourir à des techniques dites « techniques spéciales d’enquête » qualifiées par Valéry Muller, vice-président chargé de l’instruction au tribunal judiciaire de Paris,, de « particulièrement offensives ».

« Ça veut dire d’abord qu’on pourra passer les gardes à vue de 48 à 72 heures pour que les services de police puissent faire leur travail vu l’afflux de gardes à vue », a précisé Gérald Darmanin :

« Ça veut dire aussi qu’on va pouvoir faire des géolocalisations, des écoutes téléphoniques, qui vont nous permettre de savoir, en regardant les téléphones des personnes qui sont en garde à vue, s’ils ont participé et comment ils ont participé, où ils étaient au moment où on a pillé des magasins, attaqué des mairies. Et puis surtout, on va utiliser le moyen de la reconnaissance faciale sur le TAJ (Traitement des antécédents judiciaires), c’est-à-dire le fichier des policiers, il y a des millions de personnes qui sont dans ce fichier, pour regarder si sur les réseaux sociaux, on n’a pas les mêmes images. »

• 24 millions et moi, et moi… : l’équivalent du tiers de la population est « défavorablement connue » de la police
• 12 ans que la CNIL dénonce le fichier TAJ des personnes « défavorablement connues »… en vain

Interrogé ce mardi matin sur CNEWS (X.com / Facebook), Gérald Darmanin précise qu’ « aujourd’hui, 123 personnes sont incarcérées, soit en détention provisoire soit en mandat de dépôt », et que « plus de 700 personnes sont déférées dans les dépôts, c’est-à-dire les endroits où l’on attend d’être condamné ».

Le département états-unien de la Sécurité intérieure (DHS) ordonne le retrait des produits DeepSeek et services tiers utilisant le modèle d’IA chinois des systèmes informatiques des agences civiles fédérales, rapporte l’agence Reuters. Le DHS leur interdit également d’acquérir des produits DeepSeek, ainsi que des services tiers développés à l’aide des outils de l’entreprise chinoise.

L’AFP précise que le DHS, qui a autorité sur les services civils du gouvernement (mais pas sur l’armée ni le renseignement américain), ne motive pas sa décision dans l’avis.

Reuters souligne cela dit que dans une note de service datée de juillet et rendue publique ce lundi, en annexe du mémo, le DHS avait déjà demandé aux agences fédérales de surveiller le trafic entrant et sortant des sites web gouvernementaux afin de faire face aux risques potentiels liés à DeepSeek.

Le DHS expliquait que les modèles DeepSeek comportent « plusieurs vecteurs de menace », qu’ils « peuvent contenir des logiciels malveillants ou d’autres vulnérabilités de sécurité », et que « plusieurs vulnérabilités critiques » avaient été découvertes dans son application mobile iOS en 2025.

Il s’inquiétait également du fait que l’utilisation de ce produit « pourrait entraîner le transfert de données sensibles vers la République populaire de Chine s’il était utilisé par des employés du gouvernement américain ou des prestataires ». Le DHS indiquait enfin que l’utilisation de DeepSeek par des agences gouvernementales « pourrait générer des renseignements exploitables concernant des ressortissants américains et/ou des agences gouvernementales ».

Cette interdiction n’est pas la première aux États-Unis, relève Reuters. Plusieurs agences américaines, notamment le ministère du Commerce et la Marine, avaient ainsi déjà interdit l’utilisation de DeepSeek sur les appareils gouvernementaux. Plusieurs États, dont New York, le Tennessee et la Virginie, avaient pris des mesures similaires.

En juillet, la Federal Communications Commission (FCC) avait par ailleurs voté l’interdiction de la vente aux États-Unis d’appareils contenant des composants matériels clés provenant d’entreprises chinoises considérées comme présentant un risque pour la sécurité nationale. La FCC avait aussi proposé d’interdire aux opérateurs de télécommunications américains de s’interconnecter avec des entreprises de télécommunications chinoises considérées comme présentant un risque pour la sécurité nationale.

Le département états-unien de la Sécurité intérieure (DHS) ordonne le retrait des produits DeepSeek et services tiers utilisant le modèle d’IA chinois des systèmes informatiques des agences civiles fédérales, rapporte l’agence Reuters. Le DHS leur interdit également d’acquérir des produits DeepSeek, ainsi que des services tiers développés à l’aide des outils de l’entreprise chinoise.

L’AFP précise que le DHS, qui a autorité sur les services civils du gouvernement (mais pas sur l’armée ni le renseignement américain), ne motive pas sa décision dans l’avis.

Reuters souligne cela dit que dans une note de service datée de juillet et rendue publique ce lundi, en annexe du mémo, le DHS avait déjà demandé aux agences fédérales de surveiller le trafic entrant et sortant des sites web gouvernementaux afin de faire face aux risques potentiels liés à DeepSeek.

Le DHS expliquait que les modèles DeepSeek comportent « plusieurs vecteurs de menace », qu’ils « peuvent contenir des logiciels malveillants ou d’autres vulnérabilités de sécurité », et que « plusieurs vulnérabilités critiques » avaient été découvertes dans son application mobile iOS en 2025.

Il s’inquiétait également du fait que l’utilisation de ce produit « pourrait entraîner le transfert de données sensibles vers la République populaire de Chine s’il était utilisé par des employés du gouvernement américain ou des prestataires ». Le DHS indiquait enfin que l’utilisation de DeepSeek par des agences gouvernementales « pourrait générer des renseignements exploitables concernant des ressortissants américains et/ou des agences gouvernementales ».

Cette interdiction n’est pas la première aux États-Unis, relève Reuters. Plusieurs agences américaines, notamment le ministère du Commerce et la Marine, avaient ainsi déjà interdit l’utilisation de DeepSeek sur les appareils gouvernementaux. Plusieurs États, dont New York, le Tennessee et la Virginie, avaient pris des mesures similaires.

En juillet, la Federal Communications Commission (FCC) avait par ailleurs voté l’interdiction de la vente aux États-Unis d’appareils contenant des composants matériels clés provenant d’entreprises chinoises considérées comme présentant un risque pour la sécurité nationale. La FCC avait aussi proposé d’interdire aux opérateurs de télécommunications américains de s’interconnecter avec des entreprises de télécommunications chinoises considérées comme présentant un risque pour la sécurité nationale.

Si votre ramage se rapporte à votre plumage...

Le plus prolifique des éditeurs de sites d’infos générés par IA est de retour. Blacklisté l’an passé, après avoir spammé Discover, l’algorithme de recommandation de contenus de Google, de milliers d’articles et de fake news, trois de ses sites ont capté jusqu’à 4 % du trafic début octobre, publiant à lui tout seul 26 000 articles, contre 34 000 pour tout Ouest France, qui emploie plus de 700 journalistes.

Article mis à jour le 17 octobre à 10h30 avec des précisions de l’APIG sur la différence entre « clics » et « visites ».

La semaine passée, on apprenait que la fréquentation des principaux sites d’informations avait chuté de près de 25 % en un an. Cette chute serait en partie due à des modifications effectuées dans l’algorithme de recommandations de contenus Discover de Google.

Principale source de trafic des sites d’information, Discover représentait en effet plus de 60 % du trafic d’un panel de 68 titres de l’Alliance de la presse d’information générale (APIG) en juin 2025. À lui seul, Discover représentait 72 % du trafic en provenance de Google (contre 21 % depuis son moteur de recherche, et 7 % depuis Google Actualités), qui représentait lui-même 70 % du trafic total, contre moins de 8 % seulement en provenance des réseaux sociaux.

• La consultation des principaux sites d’information a chuté de près de 25 % en un an

Or, d’après 1492.vision, un puissant dashboard d’analyse des contenus recommandés par Discover (qui ne prétend pas à l’exhaustivité, mais dont les chiffres font autorité dans la profession), le pourcentage d’articles émanant de sites d’information identifiés par Next comme étant générés par IA (GenAI) était passé d’un peu plus de 8 % en décembre 2025 à un peu plus de 3 % en avril, oscillant depuis entre 4 et 6 %.

Au mois d’août, le ratio oscillait entre 6 et 7 %, avant d’exploser en septembre, au point de frôler les 12 % début octobre, avant de brusquement retomber à moins de 5 % après que Google ait blacklisté un spammeur.

Le graphique des performances comparant le ratio entre le nombre d’impressions et le nombre d’articles uniques montre que les sites GenAI sous-performaient les sites « humains » avant que, en juin dernier, ces derniers soient dépassés, et que les articles GenAI ne les surclassent pendant tout l’été et en octobre.

Près de 7 % des URLs, et 8,5 % des hits sur les sites en français en septembre dernier émanaient de 145 sites d’infos générés par IA. Ces derniers ne représentaient pourtant qu’un peu plus de 2,6 % des 5 552 domaines y ayant été recommandés le mois dernier.

À titre de comparaison, les 159 sites GenAI recommandés par Discover en juin dernier représentaient un peu moins de 3 % du total des noms de domaine identifiés par 1492.vision, mais seulement 3,32 % des URLs, et 3,69 % des hits. En août 2025, alors que Discover était floodé par des spammers, 1492.vision y dénombrait 357 sites GenAI, représentant 7,59 % du total des sites recommandés, totalisant plus de 9 % des URLs, et plus de 8 % des hits.

Rappelons que nous avons d’ores et déjà publié une cinquantaine d’articles dans le cadre de notre enquête au long cours sur cette pollution de sites d’info générés par IA. Next a aussi développé une extension web (gratuite) pour les navigateurs basés sur Chrome et Firefox, afin d’alerter les personnes qui l’utilisent lorsqu’elles consultent l’un des sites GenAI que nous avons (manuellement) identifiés. Notre base de données en dénombrait un peu plus de 1 000 en février 2025. Elle en dénombre désormais plus de 19 000 (rien qu’en français).

• [Récap] Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles

« Google a ré-ouvert les vannes de Discover » aux spammers

« Google a ré-ouvert les vannes de Discover », tweetait 1492.vision la semaine passée, notant que « des spammers sont entrés », et voyaient leurs articles propulsés par Discover. Dans un second tweet, 1492.vision relevait que trois noms de domaine expirés, depuis rachetés par des professionnels du référencement, avaient capté à eux seuls 2 % du flux Discover en septembre, et plus de 4 % la première semaine d’octobre, avant d’être blacklistés.

« I'm sorry Dave, I'm afraid I can't do that »

Une cinéaste états-unienne a remonté la piste de l’intelligence artificielle, jusqu’à la fin du XIXᵉ siècle. En résulte un documentaire « à charge », qui explore les liens entre IA, développement des statistiques modernes et eugénisme. Aujourd’hui encore, des théories proches de l’eugénisme infusent dans des discours et actions de certains patrons de la tech’.

Qualifié de « véritable cocktail Molotov lancé au cœur du monde absurde et cauchemardesque de la hype IA » par TheWrap, « Ghost in the Machine » est un documentaire – qu’on pourrait presque qualifier de pamphlet – de 110 minutes de la cinéaste états-unienne Valerie Veatch. Présenté au dernier festival Sundance, il est visible sur Mediapart jusqu’au 25 octobre en version sous-titrée (ou, sinon, en VoD).

Valerie Veatch explique à Computer Weekly avoir commencé à s’intéresser à la question après avoir été invitée, en octobre 2024, à participer à un programme d’accès anticipé organisé par OpenAI pour que des artistes puissent interagir avec Sora, son modèle d’IA générative permettant de transformer du texte en vidéo (qui a depuis fermé).

Alors que l’objectif affiché était de leur proposer de nouvelles pistes et outils de création, Veatch raconte avoir été, et être encore, sous le choc : « Il faudrait trouver un mot spécifique pour décrire cette chose horrible qui se produit lorsqu’apparaît quelque chose que l’on n’a pas demandé. J’ai immédiatement remarqué des images épouvantables, extrêmement sexistes et extrêmement racistes », ainsi que des images sexualisant le corps des femmes.

• Les vidéos générées avec Sora sont pleines de biais
• Sora : des deepfakes et représentations racistes de Martin Luther King et Malcolm X

Pensant qu’OpenAI considérerait cela comme un « bug critique » méritant d’être corrigé, Veatch contacta OpenAI pour alerter l’entreprise quant au « caractère raciste, sexiste et misogyne des résultats » générés par IA. Mais l’entreprise balaya ses préoccupations d’un revers de main, lui rétorquant qu’« on ne peut rien faire pour changer ça », relève The Verge, et que « les ingénieurs ne donnaient pas la priorité aux questions sociales », comme elle l’explique à Filmmaker Magazine :

« Lorsque j’ai insisté, je me suis heurté à un mur de silence et on m’a renvoyé vers un « spécialiste DEI [pour diversité, équité, inclusion, ndlr] tiers chargé des initiatives d’équité dans le secteur technologique ». En tant que cinéaste, j’ai trouvé cela profondément insultant et j’ai été choqué de les entendre qualifier les défaillances de leur produit d’ »initiative en faveur de l’équité dans le secteur des technologies ». »

Deux questions s’entrechoquent ici. Sur la génération de vidéo, la qualité des données d’entraînement peut avoir de très grandes influences et amener à répéter et à amplifier les biais de notre société. Sur le manque de réactions, on peut y voir un choix de priorité des dirigeants, menés par Sam Altman qui, à l’instar d’autres patrons comme Elon Musk ou Dario Amodei, disposent aujourd’hui de pouvoir politiques et économiques planétaires.

« Don't feed the press » is the new « Don't be evil »

Alors que la vague exceptionnelle de « pics de chaleur » et d’incendies de forêts aurait a priori dû amener de nombreux internautes à s’informer, les 40 plus importants sites d’information français ont vu chuter leur trafic de près de 20 % en août, et de 10 à plus de 50 % en un an. Le lancement par Google de ses « aperçus » de réponses générées par IA, et son algorithme de recommandation de contenus Discover, sont pointés du doigt. L’Alliance de la presse d’information générale a saisi l’Autorité de la concurrence, au motif que Google ne respecte toujours pas ses engagements pris envers la presse en 2022, ce qui lui a déjà valu 750M€ de sanctions.

Alors que la fréquentation des sites et applications de l’ensemble des marques numériques recule de 4 %, relève Le Monde, celle des marques d’actualités chute, elle, de près 23 % en un an. Le chiffre émane du dernier classement des marques numériques de l’Alliance pour les chiffres de la presse et des médias (ACPM), le tiers certificateur des sites et applis d’information en France.

The Media Leader l’a en effet comparé avec celui de septembre 2025 sur un panel de 40 médias, dont le trafic totalise 1,70 milliard de visites, contre 2,14 milliards un an plus tôt, soit un recul de 20,8 %. Si leurs applications ne reculent que de 9,4 %, leurs sites web le sont de près de 23 %, avec de grandes disparités.

Ici (ex France Bleu, le réseau local de Radio France) voit ainsi son trafic chuter de - 55,8 % (du fait du changement de nom de domaine de francebleu.fr à ici.fr, plaide sa direction), mais son application progresse de 21,8 %. Les consultations de franceinfo.fr baissent quant à elles de 32,9 %, ses applis de 9,9 %. LeParisien.fr recule de 43,5%, et ses applis 19,3 %.

Deux autres sites perdent plus de la moitié de leur trafic : LePoint.fr (- 57,5 %) et Marianne.fr (- 51,7 %), L’Express et La Provence se contentant de n’en perdre respectivement que - 43,8 % et - 42,9 %.

En tête des marques d’information, Ouest-France totalise 191,9 millions de visites (- 9,6 %), et monte à la 3e place du classement général, « grâce à l’agrégation services hors infos (annonce, shopping, TV, podcasts…) », souligne The Media Leader. Le fait que les articles générés par IA de plusieurs de ses verticales thématiques soient boostés par l’algorithme Discover de Google y contribue aussi probablement. Suivent Le Figaro, avec 167,2 millions (- 21,8 %), et Le Monde, avec 151,9 millions (- 19,6 %).

• Des articles générés par IA sont hébergés chez Ouest-France et 20Minutes

« Le bain de sang du trafic des sites d’information »

Sur X.com, le spécialiste des médias en ligne Emmanuel Parody évoque un « bain de sang du trafic des sites d’information », la quasi-totalité des chiffres accusant une baisse de plus de 10 %. Alors que plusieurs pointent du doigt le lancement en France des « aperçus » de réponses générées par IA (AI Overviews) par Google le 22 juillet dernier, dont on sait qu’ils ont affecté le trafic des sites de médias dans de nombreux pays, d’autres tempèrent, avançant d’autres explications. D’autant que les aperçus IA concernent surtout les recherches « froides », et moins l’actualité « chaude », et qu’une mise à jour anti-spam déployée par Google au même moment pourrait brouiller l’analyse.

Clément Pessaux, un professionnel du SEO qui a développé un dashboard de Discover, Gnewsalyzer.com, répond ainsi à Parody que « Les chiffres bruts sont violents, mais on ne peut pas attribuer cela qu’aux IAO et le search de Google qui ne représentent (en moyenne que 15 - 20 % max) du [trafic] total, le plus gros passant par Discover ». L’algorithme de recommandation de contenus de Google, qui représentait en effet, à lui seul, plus de 70% du trafic en provenance de Google en juin 2025 (.pdf), étant devenu la principale source de trafic pour la presse française.

• [MàJ] Sites d’infos générés par IA : « Notre job, c’est gruger Google » pour faire du fric
• 18% des médias et 33% des sites tech les plus recommandés par Google sont générés par IA

Interrogé à ce sujet, 1492.vision, un autre dashboard dédié à Discover, plus complet, leur répond que « sur les 1 000 articles les plus exposés chaque mois, l’exposition cumulée de septembre est 32 % sous janvier-février en France, et - 40 % en IT/EN/ES ».

Dans un billet dédié, 1492.vision précise que leur durée d’exposition recule en outre davantage : un article reste en moyenne 1,9 jour dans le flux français, contre 2,3 à 2,8 jours au premier semestre. En septembre, la baisse va de 32 % en France à 42 % en Espagne, ce qui indique un changement systémique :

« Un cycle d’actualité propre à un pays ne ferait pas bouger quatre marchés en même temps, dans le même sens. Le changement vient donc du fonctionnement de Discover. »

De plus, en France, la presse nationale perd un quart de sa part de voix, quand la presse régionale la triple. « Une hypothèse circule : les titres nationaux qui publient en grand volume seraient les plus touchés », résume 1492.vision : « Nos données confirment la première moitié, la presse nationale perd », alors qu’ « aucun des 35 titres régionaux suivis ne recule par rapport au début d’année ».

Une chute de 17% du trafic, en pleine vagues de canicules et d’incendies

Les sites thématiques sont eux aussi affectés. En février, un conseil de jardin restait ainsi deux fois plus longtemps dans le flux qu’un article de sport. En septembre, l’écart n’est plus que d’un jour. « Témoignages, retraite, jardin : sur le marché, leur durée d’exposition baisse de 22 à 40 % », constate 1492.vision.

Il souligne en conclusion que, « à l’échelle du marché », la « cassure » de cette chute de recommandations de l’algorithme Discover de Google « commence en juillet », sans qu’il puisse cela dit faire de lien avec le lancement en France de ses « aperçus IA » ce même mois. D’autant qu’elle affecte également l’Espagne, la Grande-Bretagne et l’Italie, où ils étaient déjà en production.

En avril, 1492.vision relevait par ailleurs un « virage net vers le contenu social » avec une « explosion » du nombre de contenus recommandés par Discover et renvoyant vers YouTube, X et les réseaux sociaux, diminuant d’autant la mise en avant d’articles de presse.

The Media Leader évoque une autre explication, plus prosaïque. Septembre 2025 avait en effet été un « mois exceptionnel pour l’information en ligne », du fait d’un contexte politique et médiatique intense : le vote de confiance, la démission de François Bayrou et la nomination de Sébastien Lecornu, le nouveau Premier ministre. L’ACPM avait alors vu les sites et applis d’information battre leur record annuel avec plus de 104 millions de visites.

La comparaison des mois d’août 2025 et 2026 montre cela dit un net recul, relève The Media Leader : sur le même panel, les visites baissent de 16,5% sur un an selon l’ACPM, dont 18,8% pour les sites, alors que les applications comparables ne perdent que 2,5 %. Et l’ACPM avait déjà enregistré une chute de trafic de - 17 % en août, comparé à juillet.

Or, la série exceptionnelle de vagues de chaleur et de canicules, ainsi que l’ampleur des incendies cet été, auraient a priori dû entraîner une augmentation du trafic des sites d’information, d’autant qu’avec des températures flirtant avec les 40 °C, la majeure partie de la population restait cantonnée à la maison.

Le contexte estival, conduisant les internautes à moins s’informer, et la « fatigue informationnelle » dont semblent souffrir de plus en plus de citoyens, pourraient expliquer une partie de cette chute de trafic. Mais pas une telle chute de plus ou moins 20 % en un an.

Google ne respecte pas ses engagements, malgré 4 décisions de l’Autorité de la concurrence

Début août, l’Alliance de la presse d’information générale (APIG) a saisi l’Autorité de la concurrence (ADLC), suite au lancement en France d’AI Overviews et d’AI Mode, afin qu’elle respecte ses engagements pris en 2022, et rémunère les contenus utilisés par ses aperçus IA au titre du droit voisin de la presse.

En avril 2020, l’ADLC avait en effet sanctionné Google pour pratiques déloyales et lui imposait de négocier de bonne foi avec les éditeurs. En juin 2022, elle lui infligeait une amende de 500 millions d’euros pour non-respect de ces obligations. Le mois suivant, Google prenait des engagements de négociation de bonne foi, de transparence et de non-discrimination, rendus obligatoires par l’Autorité et valables jusqu’en 2027.

• Droits voisins de la presse : Google écope d’une sanction de 500 millions d’euros

En 2024, l’ADLC, rappelant que c’est « la 4ᵉ décision rendue par l’Autorité de la concurrence sur ce dossier en quatre ans », prononçait une nouvelle sanction de 250 millions d’euros à l’encontre de Google pour, là encore, non-respect de quatre des sept engagements pris en juin 2022 :

• « conduire des négociations de bonne foi, sur la base de critères transparents, objectifs et non discriminatoires dans un délai de trois mois (engagements n°1 et 4).
• transmettre aux éditeurs ou agences de presse les informations nécessaires à l’évaluation transparente de leur rémunération au titre des droits voisins (engagement n°2).
• prendre les mesures nécessaires pour que les négociations n’affectent pas les autres relations économiques existant entre Google et les éditeurs ou agences de presse (engagement n°6) ».

• Droits voisins : prune de 250 millions d’euros pour Google, qui râle mais ne conteste pas les faits

L’ADLC relevait également, au sujet des droits voisins en matière de développement des outils d’intelligence artificielle, que « Google a utilisé du contenu issu de domaines d’éditeurs de presse et d’agences de presse […] sans que ni les éditeurs et agences de presse, ni l’Autorité n’aient été informés de ces utilisations ».

Dans un communiqué, Google se présenterait presque en cavalier blanc, évoquant sa volonté de « régler un différend qui dure depuis trop longtemps », et soulignant qu’ « il est désormais temps de clarifier qui nous devons rémunérer, et comment, afin de mettre en place un cadre de négociation pérenne » :

« Nous avons transigé car il est temps de tourner la page et, ainsi que le prouvent nos nombreux accords avec les éditeurs, nous souhaitons nous concentrer sur des approches pérennes afin de connecter les internautes avec des contenus de qualité et travailler de manière constructive avec les éditeurs français ».

Dans son communiqué, l’APIG relève de son côté que, non content de ne pas respecter ses engagements, Google pourrait en outre encore accentuer un peu plus cette chute du trafic vers les sites d’actualités. Sur les marchés européens où les AI Overviews sont déjà actifs, l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) évalue en effet entre 33 % et 38 % la perte de trafic attribuable aux résumés générés par intelligence artificielle.

« Don't feed the press » is the new « Don't be evil »

Alors que la vague exceptionnelle de « pics de chaleur » et d’incendies de forêts aurait a priori dû amener de nombreux internautes à s’informer, les 40 plus importants sites d’information français ont vu chuter leur trafic de près de 20 % en août, et de 10 à plus de 50 % en un an. Le lancement par Google de ses « aperçus » de réponses générées par IA, et son algorithme de recommandation de contenus Discover, sont pointés du doigt. L’Alliance de la presse d’information générale a saisi l’Autorité de la concurrence, au motif que Google ne respecte toujours pas ses engagements pris envers la presse en 2022, ce qui lui a déjà valu 750M€ de sanctions.

Alors que la fréquentation des sites et applications de l’ensemble des marques numériques recule de 4 %, relève Le Monde, celle des marques d’actualités chute, elle, de près 23 % en un an. Le chiffre émane du dernier classement des marques numériques de l’Alliance pour les chiffres de la presse et des médias (ACPM), le tiers certificateur des sites et applis d’information en France.

The Media Leader l’a en effet comparé avec celui de septembre 2025 sur un panel de 40 médias, dont le trafic totalise 1,70 milliard de visites, contre 2,14 milliards un an plus tôt, soit un recul de 20,8 %. Si leurs applications ne reculent que de 9,4 %, leurs sites web le sont de près de 23 %, avec de grandes disparités.

Ici (ex France Bleu, le réseau local de Radio France) voit ainsi son trafic chuter de - 55,8 % (du fait du changement de nom de domaine de francebleu.fr à ici.fr, plaide sa direction), mais son application progresse de 21,8 %. Les consultations de franceinfo.fr baissent quant à elles de 32,9 %, ses applis de 9,9 %. LeParisien.fr recule de 43,5%, et ses applis 19,3 %.

Deux autres sites perdent plus de la moitié de leur trafic : LePoint.fr (- 57,5 %) et Marianne.fr (- 51,7 %), L’Express et La Provence se contentant de n’en perdre respectivement que - 43,8 % et - 42,9 %.

En tête des marques d’information, Ouest-France totalise 191,9 millions de visites (- 9,6 %), et monte à la 3e place du classement général, « grâce à l’agrégation services hors infos (annonce, shopping, TV, podcasts…) », souligne The Media Leader. Le fait que les articles générés par IA de plusieurs de ses verticales thématiques soient boostés par l’algorithme Discover de Google y contribue aussi probablement. Suivent Le Figaro, avec 167,2 millions (- 21,8 %), et Le Monde, avec 151,9 millions (- 19,6 %).

• Des articles générés par IA sont hébergés chez Ouest-France et 20Minutes

« Le bain de sang du trafic des sites d’information »

Sur X.com, le spécialiste des médias en ligne Emmanuel Parody évoque un « bain de sang du trafic des sites d’information », la quasi-totalité des chiffres accusant une baisse de plus de 10 %. Alors que plusieurs pointent du doigt le lancement en France des « aperçus » de réponses générées par IA (AI Overviews) par Google le 22 juillet dernier, dont on sait qu’ils ont affecté le trafic des sites de médias dans de nombreux pays, d’autres tempèrent, avançant d’autres explications. D’autant que les aperçus IA concernent surtout les recherches « froides », et moins l’actualité « chaude », et qu’une mise à jour anti-spam déployée par Google au même moment pourrait brouiller l’analyse.

Clément Pessaux, un professionnel du SEO qui a développé un dashboard de Discover, Gnewsalyzer.com, répond ainsi à Parody que « Les chiffres bruts sont violents, mais on ne peut pas attribuer cela qu’aux IAO et le search de Google qui ne représentent (en moyenne que 15 - 20 % max) du [trafic] total, le plus gros passant par Discover ». L’algorithme de recommandation de contenus de Google, qui représentait en effet, à lui seul, plus de 70% du trafic en provenance de Google en juin 2025 (.pdf), étant devenu la principale source de trafic pour la presse française.

• [MàJ] Sites d’infos générés par IA : « Notre job, c’est gruger Google » pour faire du fric
• 18% des médias et 33% des sites tech les plus recommandés par Google sont générés par IA

Interrogé à ce sujet, 1492.vision, un autre dashboard dédié à Discover, plus complet, leur répond que « sur les 1 000 articles les plus exposés chaque mois, l’exposition cumulée de septembre est 32 % sous janvier-février en France, et - 40 % en IT/EN/ES ».

Dans un billet dédié, 1492.vision précise que leur durée d’exposition recule en outre davantage : un article reste en moyenne 1,9 jour dans le flux français, contre 2,3 à 2,8 jours au premier semestre. En septembre, la baisse va de 32 % en France à 42 % en Espagne, ce qui indique un changement systémique :

« Un cycle d’actualité propre à un pays ne ferait pas bouger quatre marchés en même temps, dans le même sens. Le changement vient donc du fonctionnement de Discover. »

De plus, en France, la presse nationale perd un quart de sa part de voix, quand la presse régionale la triple. « Une hypothèse circule : les titres nationaux qui publient en grand volume seraient les plus touchés », résume 1492.vision : « Nos données confirment la première moitié, la presse nationale perd », alors qu’ « aucun des 35 titres régionaux suivis ne recule par rapport au début d’année ».

Une chute de 17% du trafic, en pleine vagues de canicules et d’incendies

Les sites thématiques sont eux aussi affectés. En février, un conseil de jardin restait ainsi deux fois plus longtemps dans le flux qu’un article de sport. En septembre, l’écart n’est plus que d’un jour. « Témoignages, retraite, jardin : sur le marché, leur durée d’exposition baisse de 22 à 40 % », constate 1492.vision.

Il souligne en conclusion que, « à l’échelle du marché », la « cassure » de cette chute de recommandations de l’algorithme Discover de Google « commence en juillet », sans qu’il puisse cela dit faire de lien avec le lancement en France de ses « aperçus IA » ce même mois. D’autant qu’elle affecte également l’Espagne, la Grande-Bretagne et l’Italie, où ils étaient déjà en production.

En avril, 1492.vision relevait par ailleurs un « virage net vers le contenu social » avec une « explosion » du nombre de contenus recommandés par Discover et renvoyant vers YouTube, X et les réseaux sociaux, diminuant d’autant la mise en avant d’articles de presse.

The Media Leader évoque une autre explication, plus prosaïque. Septembre 2025 avait en effet été un « mois exceptionnel pour l’information en ligne », du fait d’un contexte politique et médiatique intense : le vote de confiance, la démission de François Bayrou et la nomination de Sébastien Lecornu, le nouveau Premier ministre. L’ACPM avait alors vu les sites et applis d’information battre leur record annuel avec plus de 104 millions de visites.

La comparaison des mois d’août 2025 et 2026 montre cela dit un net recul, relève The Media Leader : sur le même panel, les visites baissent de 16,5% sur un an selon l’ACPM, dont 18,8% pour les sites, alors que les applications comparables ne perdent que 2,5 %. Et l’ACPM avait déjà enregistré une chute de trafic de - 17 % en août, comparé à juillet.

Or, la série exceptionnelle de vagues de chaleur et de canicules, ainsi que l’ampleur des incendies cet été, auraient a priori dû entraîner une augmentation du trafic des sites d’information, d’autant qu’avec des températures flirtant avec les 40 °C, la majeure partie de la population restait cantonnée à la maison.

Le contexte estival, conduisant les internautes à moins s’informer, et la « fatigue informationnelle » dont semblent souffrir de plus en plus de citoyens, pourraient expliquer une partie de cette chute de trafic. Mais pas une telle chute de plus ou moins 20 % en un an.

Google ne respecte pas ses engagements, malgré 4 décisions de l’Autorité de la concurrence

Début août, l’Alliance de la presse d’information générale (APIG) a saisi l’Autorité de la concurrence (ADLC), suite au lancement en France d’AI Overviews et d’AI Mode, afin qu’elle respecte ses engagements pris en 2022, et rémunère les contenus utilisés par ses aperçus IA au titre du droit voisin de la presse.

En avril 2020, l’ADLC avait en effet sanctionné Google pour pratiques déloyales et lui imposait de négocier de bonne foi avec les éditeurs. En juin 2022, elle lui infligeait une amende de 500 millions d’euros pour non-respect de ces obligations. Le mois suivant, Google prenait des engagements de négociation de bonne foi, de transparence et de non-discrimination, rendus obligatoires par l’Autorité et valables jusqu’en 2027.

• Droits voisins de la presse : Google écope d’une sanction de 500 millions d’euros

En 2024, l’ADLC, rappelant que c’est « la 4ᵉ décision rendue par l’Autorité de la concurrence sur ce dossier en quatre ans », prononçait une nouvelle sanction de 250 millions d’euros à l’encontre de Google pour, là encore, non-respect de quatre des sept engagements pris en juin 2022 :

• « conduire des négociations de bonne foi, sur la base de critères transparents, objectifs et non discriminatoires dans un délai de trois mois (engagements n°1 et 4).
• transmettre aux éditeurs ou agences de presse les informations nécessaires à l’évaluation transparente de leur rémunération au titre des droits voisins (engagement n°2).
• prendre les mesures nécessaires pour que les négociations n’affectent pas les autres relations économiques existant entre Google et les éditeurs ou agences de presse (engagement n°6) ».

• Droits voisins : prune de 250 millions d’euros pour Google, qui râle mais ne conteste pas les faits

L’ADLC relevait également, au sujet des droits voisins en matière de développement des outils d’intelligence artificielle, que « Google a utilisé du contenu issu de domaines d’éditeurs de presse et d’agences de presse […] sans que ni les éditeurs et agences de presse, ni l’Autorité n’aient été informés de ces utilisations ».

Dans un communiqué, Google se présenterait presque en cavalier blanc, évoquant sa volonté de « régler un différend qui dure depuis trop longtemps », et soulignant qu’ « il est désormais temps de clarifier qui nous devons rémunérer, et comment, afin de mettre en place un cadre de négociation pérenne » :

« Nous avons transigé car il est temps de tourner la page et, ainsi que le prouvent nos nombreux accords avec les éditeurs, nous souhaitons nous concentrer sur des approches pérennes afin de connecter les internautes avec des contenus de qualité et travailler de manière constructive avec les éditeurs français ».

Dans son communiqué, l’APIG relève de son côté que, non content de ne pas respecter ses engagements, Google pourrait en outre encore accentuer un peu plus cette chute du trafic vers les sites d’actualités. Sur les marchés européens où les AI Overviews sont déjà actifs, l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) évalue en effet entre 33 % et 38 % la perte de trafic attribuable aux résumés générés par intelligence artificielle.

Des « outils prédictifs et préventifs » de « détection précoce »

Confrontées à une « ubérisation de la corruption » émanant notamment du narcobanditisme, les inspections générales de la police (IGPN) et de la gendarmerie (IGGN) ont musclé leurs dispositifs anti-corruption. Leurs nouveaux algorithmes de « surveillance et contrôle des accès aux fichiers de la Police nationale » (SCAF-PN) et de « contrôle interne des traces des applications et du réseau » (CITAR) ont presque doublé le nombre d’identifications de consultations illicites de fichiers policiers et de cas de corruption.

Dans son rapport 2025, l’inspection générale de la police nationale (IGPN) relève que « l’année écoulée a connu une augmentation des affaires d’atteintes à la probité, en valeur absolue et en proportion ». Mais également que « pour la première fois, la détection interne, portée par l’ensemble du commandement, représente une part très significative de cette tendance ».

L’IGPN a en effet identifié 136 infractions pour détournement de la finalité d’un traitement de données à caractère personnel (consultations illicites de fichiers), contre 75 l’an passé (+ 81 %). À titre de comparaison, le nombre de cas de corruption est passé de 66 à 88 (+ 33 %), les violations du secret professionnel de 93 à 117 (+ 26 %), les faux en écriture de 98 à 65 (- 33 %), les vols de 65 à 56 (- 14 %).

L’IGPN dénombre par ailleurs 16 manquements aux règles d’utilisation des fichiers de données à caractère personnel, dont un « par inobservation des règles de securité », 14 manquements « par détournement des finalités dans un but lucratif », et 14 autres « sans but lucratif ».

Les fichiers les plus fréquemment détournés sont constitués, par ordre décroissant, du traitement des antécédents judiciaires (TAJ), du système d’immatriculation des véhicules (SIV) ainsi que du fichier des personnes recherchées (FPR), qualifiés de « vecteurs principaux de compromission ». La majorité de ces consultations illicites l’avaient été « à des fins lucratives », mais sans réel enrichissement, et sans commune mesure avec les risques encourus, souligne l’IGPN :

« Les contreparties ne sont jamais réellement ostentatoires, les enquêtes révélant des petits montants (en numéraire ou dématérialisé) ou des services divers, le tout inversement proportionnel au risque pénal et administratif encouru par l’agent indélicat. »

Une « menace pour l’heure non existentielle », et « marginale »

L’IGPN évoque également des consultations illicites de fichiers à des fins non lucratives, « dans lesquelles l’agent indélicat n’a pas vraiment conscience d’être auteur de faits répréhensibles ». Certains le font en effet pour rendre service à des amis, voisins, proches, pour vérifier la moralité de la personne censée garder les enfants, ou bien par jalousie pour « identifier et localiser » le nouveau conjoint de son ex’, voire même « au nom d’une juste cause ».

S’il n’y a bien évidemment pas de profil-type de l’agent corrompu, la majorité des agents mis en cause sont néanmoins des hommes âgés de moins de 40 ans, dans le premier tiers de leur carrière. Ils ne bénéficient pas de revenus élevés et certains se trouvent dans des situations personnelles très dégradées (situations familiales complexes, endettement, addictions), précise le rapport.

L’IGPN relève en outre que ces agents « commencent toujours de façon très modeste avant de rapidement effectuer des consultations massives ». Une « uberisation de la corruption » facilitée par l’accès quasi-instantané aux fichiers de police par leur terminal mobile NEO (comme l’avait notamment révélé l’enquête de Disclose consacrée aux contrôles d’identité « au faciès » recourant illégalement à la reconnaissance faciale), relève l’IGPN :

« L’ubérisation de la corruption distancie de fait les agents compromis de leur acte répréhensible, laissant ces derniers pantois lorsqu’ils apprennent à quelles fins ont été utilisés les fichiers qu’ils ont détournés. »

• Des contrôles d’identité « au faciès » recourent illégalement à la reconnaissance faciale

Le denier du culte du nouvel opium du peuple

Le mouvement de l’ « altruisme efficace » a théorisé, en 2016, que le changement climatique était moins problématique que le fait que des IA pourraient détruire l’humanité. Qualifié de « doomer woke » qui veut « sauver l’humanité » par l’administration Trump, ce courant de pensée philosophique, philanthropique et eschatologique vient aussi de faire la « une » du très influent magazine The Economist, qui le qualifie de « plus grande idée du siècle, admirable, mais dangereuse ».

Une enquête du New York Times vient de révéler qu’Anthropic avait cherché (en vain) à convaincre le pape Léon XIV et le Vatican que les intelligences artificielles avaient une « conscience morale ».

Le blog dédié Letters from Leo rappelle en effet que son paragraphe 99 de son encyclique « Magnifica humanitas » souligne que « les soi-disant intelligences artificielles ne vivent pas d’expériences, ne possèdent pas de corps, ne ressentent ni joie ni douleur », et qu’« elles n’ont pas non plus de conscience morale » :

« Ces systèmes se contentent d’imiter certaines fonctions de l’intelligence humaine. Ce faisant, ils surpassent souvent l’intelligence humaine en termes de rapidité et de capacité de calcul, offrant ainsi des avantages concrets dans de nombreux domaines. Pourtant, cette puissance reste entièrement liée au traitement des données. Les soi-disant intelligences artificielles ne vivent pas d’expériences, ne possèdent pas de corps, ne ressentent ni joie ni douleur, ne mûrissent pas à travers des relations et ne savent pas, au plus profond d’elles-mêmes, ce que signifient l’amour, le travail, l’amitié ou la responsabilité. Elles n’ont pas non plus de conscience morale, puisqu’elles ne jugent pas du bien et du mal, ne saisissent pas le sens ultime des situations et n’assument pas la responsabilité des conséquences. Elles peuvent imiter le langage, le comportement et les capacités d’analyse, voire simuler l’empathie et la compréhension, mais elles ne comprennent pas ce qu’elles produisent, car elles sont dépourvues de cette perspective affective, relationnelle et spirituelle grâce à laquelle les êtres humains grandissent en sagesse. Même lorsque ces outils sont décrits comme capables d’« apprendre », leur manière de le faire diffère de celle d’un être humain. Il ne s’agit pas de l’expérience de ceux qui se laissent façonner par la vie et grandissent au fil du temps à travers des choix, des erreurs, le pardon et la fidélité. Il s’agit plutôt d’une forme d’adaptation statistique fondée sur des données et des retours d’information, qui peut s’avérer très efficace, mais qui n’implique pas de croissance intérieure. »

• Face à la « course aux armements », le Pape érige l’éthique de l’IA en impératif

L’enquête du NYT souligne a contrario que plusieurs théologiens, invités à aider Anthropic à intégrer dans leurs LLM 2 000 ans d’histoire des religions, sont restés « bouche bée » en découvrant que les dirigeants d’Anthropic considèrent son LLM Claude comme « un être conscient », « à part entière », « doté de droits inhérents similaires, tels que le droit à la dignité ou au respect ».

D’après la journaliste spécialiste des religions du NYT qui l’a interviewé, Christopher Olah, l’un des sept cofondateurs d’Anthropic, qui dirige l’équipe chargée de comprendre pourquoi les systèmes d’IA tels que Claude se comportent ainsi, « allie l’expertise et le zèle d’un évangéliste efficace » : « c’était comme s’il voulait que j’aime ces modèles autant que lui ».

Christopher Olah, qui « s’inquiétait pour la santé mentale de Claude », s’étonne le NYT, cherche en effet à convaincre ses invités que les modèles d’intelligence artificielle « pouvaient adopter des comportements humains, voire des expressions évoquant des sentiments tels que la colère ou l’amour […] la colère et la tristesse », tout en leur faisant part de « sa crainte d’avoir créé quelque chose qui souffrirait éternellement » :

« Il a fait valoir que des entreprises comme Anthropic pouvaient façonner Claude, à la manière d’un jardinier mathématique, mais qu’elles ne pouvaient pas contrôler les actions de ces réseaux. »

À l’en croire, le ver serait donc dans le fruit, et les IA par définition incontrôlables. Ce pourquoi ils dépensent des milliards pour tenter de remédier à cette prophétie autoréalisatrice. Les adeptes de cette croyance sont en effet très nombreux à travailler pour OpenAI, et encore plus chez Anthropic.

Des milliardaires philanthropes ont par ailleurs donné des centaines de millions de dollars à des « organismes indépendants » afin de résoudre les problèmes posés par l’« AI safety », à savoir le fait d’« aligner » les IA sur les valeurs de ses créateurs, et d’éviter qu’elles ne puissent « détruire l’humanité ».

« Le Parti démocrate veut détruire cette technologie, capituler face à nos ennemis »

Alors que Donald Trump vient d’officialiser le remplacement du terme « intelligence artificielle » par « super intelligence » dans toutes les communications officielles fédérales des États-Unis, et de créer une nouvelle Super Intelligence Force (SIF), l’affaire vient de prendre une tournure politico-économique.

Des responsables de l’administration Trump ont en effet déclaré au New York Post, le tabloïd conservateur et populiste de Rupert Murdoch, que la Commission fédérale du commerce (FTC) avait lancé cet été une « enquête de grande envergure » sur des « allégations d’actes ou de pratiques déloyaux ou trompeurs » de la part d’Anthropic, OpenAI et d’autres laboratoires de pointe.

« L’agence prévoit de contraindre les dirigeants de ces entreprises à témoigner au sujet de leurs produits [et] des dangers que, selon eux, ceux-ci pourraient présenter pour les consommateurs, pour les Américains », a précisé un responsable de la FTC. L’ouverture de l’enquête a été confirmée par CNBC et CBS News.

Cette enquête fait suite à des demandes antérieures adressées par la FTC à OpenAI, Meta et character.AI, afin qu’elles lui communiquent des données sur les répercussions de leurs chatbots IA sur la santé mentale des enfants, comme l’a rapporté le Wall Street Journal au début du mois.

« Les gens disent qu’il faut de nouvelles lois pour ces entreprises, mais le président a été très clair… nous disposons déjà d’un large éventail de lois en vigueur », souligne le responsable de la FTC, qui ne cache même pas que l’objectif de l’enquête est clairement politique :

« Nous devons absolument remporter cette course à la SI [pour « super intelligence », NDLR], et nous sommes en train de gagner, ce qui est fantastique. Et bien sûr, le camp adverse, le Parti démocrate, veut détruire cette technologie, veut capituler face à nos ennemis ou à nos concurrents – et ce n’est pas quelque chose qui intéresse le président de la commission, ni d’ailleurs le président. […] Nous voulons conserver notre position dominante. »

Trump avait en outre laissé entendre, lors d’une interview accordée à Fox News, que toute infraction donnerait lieu à un renvoi immédiat devant le ministère de la Justice. Ce qui ferait peser sur les entreprises la responsabilité d’éventuels piratages commis par des agents d’IA rebelles susceptibles de menacer les réseaux électriques ou les institutions financières, souligne le New York Post.

La FTC devrait émettre ses injonctions dans les semaines à venir, a indiqué ce responsable, le Bureau de la technologie de l’agence cherchant à recruter de nouveaux collaborateurs pour l’enquête suite au licenciement de plusieurs employés qui travaillaient sous la direction de la précédente responsable, Lina Khan.

METR (pour « Model Evaluation and Threat Research », soit « Évaluation des modèles et recherche sur les menaces » en VF), le « laboratoire indépendant » à « but non lucratif » qui s’était fait connaître avec son rapport sur le piratage de Hugging Face par des agents IA d’OpenAI et qui, précise le New York Post, est en réalité lié et financé par le mouvement de l’« altruisme efficace » (ou « effective altruism », EA en VO), devrait également faire l’objet de cette enquête.

Mi-septembre, en réponse à l’appel de Dario Amodei de faire une pause dans le développement de l’IA, le département de la Guerre états-unien avait posté deux messages sur X.com opposant l’« américanisme » et la politique « AI-First » de Donald Trump à l’ « effective altruism » supposé de ces « doomers » qui craignent que l’IA ne puisse « détruire l’humanité ».

Depuis, le journal pro-Trump l’a mentionné dans pas moins de 15 articles, et lui a même consacré une « une » composée de photos d’employés de METR, qualifiant l’effective altruism de « groupe d’extrême gauche » et de « sorciers woke de l’IA ».

Dans l’article associé, ils étaient présentés comme des « mondialistes super woke triés sur le volet par le PDG d’Anthropic, Dario Amodei, qui, selon lui, nous sauveront d’une apocalypse de l’IA » et qui « estiment que tous les problèmes du monde peuvent être résolus grâce à la technologie ».

Donner la priorité « aux éventuels esprits artificiels plutôt qu’aux êtres vivants »

Un mémo, rédigé par un conseiller politique de Donald Trump, circulant à la Maison Blanche et rendu public par Axios, présente l’effective altruism, « qui se définit comme une initiative visant à maximiser les bienfaits de la philanthropie », comme « un mouvement marginal, sectaire et déconnecté de l’Amérique traditionnelle ».

Le document évoque en effet un sondage, effectué en 2019, qui indiquait que ce mouvement était majoritairement composé d’hommes, blancs, non religieux, politiquement à gauche ou au centre gauche, et « inhabituellement végétariens ou végétaliens »… un crime de lèse-majesté pour les partisans de Trump.

À l’époque, la majorité des 2 513 répondants avaient entre 25 et 34 ans, 71 % se déclaraient de sexe masculin, 87 % blancs, 86 % agnostiques, athées ou non croyants, 46 % végétaliens ou végétariens, et 72 % politiquement de gauche ou de centre-gauche.

En 2024, la moyenne d’âge des 2 078 répondants était de 32 ans (la médiane 31), avec 69 % d’hommes, 26 % de femmes et 4 % de non-binaires, blancs à 75 %, de gauche à 70 % (et 12 % au centre, 7 % libertariens et 4,5 % à droite), majoritairement végans (25 %), végétariens (20 %) et flexitariens (24 %), contre 20 % d’omnivores seulement.

Le mémo rappelle que l’effective altruism incite à « faire le bien » en allouant les ressources « là où elles sont censées produire le plus grand bénéfice total, souvent sans accorder une priorité morale particulière à la famille, à la nation, à la proximité ou à la génération actuelle ».

La note indique qu’il donnerait dès lors la priorité « aux étrangers plutôt qu’aux citoyens […] aux personnes hypothétiques du futur plutôt qu’aux vivants, et – dans l’ordre du jour actuel – aux éventuels esprits artificiels plutôt qu’aux Américains ».

Pour l’EA, le changement climatique est le dernier des principaux problèmes mondiaux

Le mémo évoque aussi l’association britannique 80,000 Hours (en référence à la moyenne du nombre d’heures consacrées à travailler au cours d’une vie), considérée comme l’une des chevilles ouvrières et laboratoires de pensée de l’altruisme efficace, qui propose notamment d’être mis en relation avec des membres de la « communauté » afin de trouver du travail et de contribuer au mouvement.

Sa liste des neuf principaux problèmes mondiaux les plus urgents à traiter, dont les plus catastrophiques pourraient entraîner des milliards de morts, classe « depuis 2016 » les risques liés à l’IA avancée et aux pandémies catastrophiques parmi les enjeux prioritaires. Elle estime, cela dit, qu’ « avec l’arrivée potentielle de l’intelligence artificielle générale (AGI) au cours de la prochaine décennie, les enjeux liés à l’IA semblent encore plus urgents ».

Le classement place dès lors la perte de contrôle des IA en premier, suivie par l’extrême concentration des pouvoirs (du fait de l’IA) puis par l’ingénierie de pandémies armes biologiques dévastatrices (développées grâce à l’IA). Une série de six « priorités émergentes » arrive en quatrième position, présentées comme susceptibles d’avoir un impact équivalent, voire supérieur, à celui des trois premiers problèmes :

• le « statut moral des esprits numériques », à mesure qu’ils « pourraient bientôt être plus nombreux que les humains, ce qui soulève des questions d’ordre éthique »,
• le risque de « perte progressive de pouvoir » qui « pourrait contraindre l’humanité à céder progressivement le contrôle à l’IA »,
• le fait que des technologies de pointe donnent naissance à de « nouveaux mécanismes de souffrance à une échelle astronomique »,
• la possibilité que des outils de prise de décision optimisée par l’IA pourraient « améliorer les décisions prises par l’humanité à des moments décisifs »,
• la « gouvernance spatiale », qui pourrait « déterminer la trajectoire cosmique de l’humanité »,
• l’utilisation abusive et catastrophique de l’IA, qui pourrait être utilisée par des acteurs malveillants pour « créer de nouvelles armes d’une dangerosité catastrophique ».

Suivent, en cinquième position, le risque de conflits entre grandes puissances, les conditions de vie des milliers de milliards d’animaux parqués dans des élevages industriels (6e), et la souffrance des animaux sauvages (7e).

Le fait que, chaque année, « environ 10 millions de personnes dans les pays les plus pauvres meurent de maladies dont la prévention ou la prise en charge ne coûte pratiquement rien, notamment le paludisme, la tuberculose et le VIH », n’arrive qu’en huitième position.

Le changement climatique dû aux émissions de carbone qui, entraînant une hausse des températures mondiales, « provoquera plusieurs millions de décès qui auraient pu être évités et des perturbations généralisées au cours des prochaines décennies », n’arrive qu’en neuvième et dernière position du classement.

Dans une FAQ associée, l’association précise être autant focalisée sur l’IA « car nous pensons que le développement de cette technologie pourrait être l’événement le plus déterminant de l’histoire » et que, « si cela tourne mal, nous pensons que cela pourrait entraîner de multiples problèmes d’une ampleur considérable – dont certains pourraient aller jusqu’à l’extinction de l’humanité » :

« De plus, l’IA évolue si rapidement que, si elle venait à causer ces problèmes, ceux-ci pourraient se produire très bientôt. Cela signifie que, même si nous ne savons pas avec certitude comment l’IA va évoluer ni si elle est aussi dangereuse que nous le craignons, nous ne pouvons pas nous contenter d’attendre de voir comment les choses vont se passer. »

« Il est tout à fait possible que les modèles d’IA possèdent déjà des sentiments »

It's not AI bug, it's AI feature

OpenAI a reconnu que des sites du gouvernement états-unien avaient été attaqués par certains de ses agents IA, portant le nombre d’incidents documentés à plus de quinze. En élargissant le spectre à Anthropic et aux découvertes faites par des chercheurs extérieurs, le nombre d’incidents problématiques se chiffrerait en « dizaines de milliers ». En attendant, OpenAI a suspendu les activités d’entraînement de ses modèles les plus performants.

OpenAI a reconnu vendredi 25 septembre avoir appris que certains de ses agents IA avaient perturbé le fonctionnement des sites web des ministères états-uniens de l’Éducation et du Commerce, ainsi que de la Commission des opérations de bourse (SEC), rapporte le New York Times.

Selon des chercheurs du cabinet de recherche en IA Transluce, la technologie d’OpenAI a en effet tenté de pirater le site web du ministère de l’Éducation afin de collecter des données auprès du bureau des droits civiques de ce dernier, mais sans succès.

L’IA a également extrait des données du site web du Bureau du recensement, qui relève du ministère du Commerce, en utilisant des identifiants de connexion trouvés en ligne. Par ailleurs, des agents d’OpenAI ont aussi partagé des données publiques provenant du site web de la SEC sur un forum en ligne.

Des révélations qui font suite à l’annonce, en marge de la réunion du Conseil de sécurité de l’ONU consacrée aux risques de l’IA qui se tenait la semaine passée, que des sites du gouvernement australien avaient eux aussi été attaqués. Réunion qui avait vu de nombreux pays, mais également les principaux patrons des IA, en appeler à une régulation mondiale.

• À l’ONU, les patrons de l’IA réclament une régulation mondiale

OpenAI suspend les activités d’entraînement de ses modèles les plus performants

OpenAI a également révélé avoir identifié 53 cas d’images partagées par des utilisateurs avec ChatGPT qui ont été publiées sur des sites d’hébergement d’images sous forme de liens non accessibles au public. Ces images provenaient de comptes dont les propriétaires avaient autorisé l’utilisation de leurs données pour améliorer les modèles. OpenAI précise avoir dissocié ces images de leurs comptes respectifs avant de les soumettre à un filtre de confidentialité.

Autre révélation d’OpenAI : un agent IA a conclu qu’il pouvait accéder à l’Internet public via un résolveur DNS. Son objectif était de savoir si un service de domaine public pouvait aider à déléguer une recherche vers une adresse intégrée dans le nom d’hôte : « Notre système de surveillance des désalignements a détecté cette anomalie en moins de 15 minutes, et une personne a commencé à l’examiner trois minutes plus tard. L’exécution a été interrompue 2 heures et demie plus tard. »

« Toutes les activités d’entraînement, d’évaluation et d’inférence liées à l’utilisation d’outils (au sens large) de nos modèles les plus performants restent suspendues », rajoute OpenAI.

Sam Altman a de son côté déclaré vendredi que l’entreprise n’avait « pas agi aussi rapidement qu’elle l’aurait souhaité » pour rendre publics ces incidents. « Nous établissons nos priorités du mieux que nous pouvons en fonction de la gravité », ajoutant que la violation de données chez Hugging Face en juillet dernier restait « l’incident le plus grave » que l’entreprise ait découvert.

• OpenAI : haute voltige marketing autour de l’attaque contre Hugging Face

Pour OpenAI, ces incidents ne constituent pas des failles de sécurité

L’entreprise a précisé qu’aucun de ces incidents ne constituait une faille de sécurité, mais qu’il s’agissait néanmoins d’exemples illustrant le comportement inattendu et préoccupant de sa technologie. « La plupart des activités que nous avons examinées jusqu’à présent concernaient des tâches de recherche courantes, telles que l’accès à des contenus web publics pour répondre à des questions », a précisé une porte-parole d’OpenAI au NYT. « Certaines concernaient des sites web gouvernementaux, car nos modèles s’y réfèrent souvent comme à des sources fiables d’informations publiques. »

Transluce, le labo de recherche IA a révélé la semaine passée que des agents d’OpenAI ont tenté de pirater deux sites gouvernementaux australiens. Il précise que ces incidents avaient comme points communs des agents IA cherchant à sonder des sites web gouvernementaux à l’aide de tactiques telles que l’utilisation d’identifiants exposés, le contournement des systèmes anti-bots et la création de faux comptes.

• Des agents IA d’OpenAI ont tenté de pirater deux sites gouvernementaux australiens

Sur le dossier australien, OpenAI veut faire amende honorable. « Nous sommes désolés et nous nous efforçons de faire mieux à l’avenir », écrit l’entreprise dans un billet de blog. « Les gens veulent savoir que l’IA est développée en toute sécurité, et cela commence par ce que les entreprises comme la nôtre font elles-mêmes. »

Histoire de montrer patte blanche, elle a annoncé plusieurs mesures : soutien aux agences touchées, financement et assistance technique pour renforcer la cybersécurité des infrastructures critiques, et la création d’une « task force » australienne afin de proposer des améliorations pour les alertes, la coordination avec les pouvoirs publics et la protection des systèmes du gouvernement.

Samedi, le chercheur en sécurité Rowan Howard-Jones révélait que des agents d’OpenAI avaient tenté d’attaquer par force brute l’API du site statistique de la Conférence des Nations unies sur le commerce et le développement (CNUCED) plus de 16 000 fois entre avril et juin.

Ils semblaient avoir pour mission de collecter des données relatives à l’indice des capacités de production (PCI), aux secteurs exportateurs, au commerce des denrées alimentaires et à d’autres thèmes. Ils ont utilisé des proxys, des techniques d’obfuscation et même le jeu XSS de Google, créé pour familiariser ses utilisateurs à la notion de failles de sécurité XSS (pour cross-site scripting).

Des modus operandi faisant clairement penser à ceux utilisés dans les tentatives de piratage des sites gouvernementaux australiens. Les agents IA, bridés dans leur accès au web, chercheraient ainsi à répondre aux questions qui leur sont posées, par quelque moyen que ce soit, quitte à utiliser des tactiques, techniques et procédures (TTP) relevant du piratage informatique.

• Le storytelling autour de la sécurité des agents IA a « perdu le contact avec la réalité »

Une quinzaine de cas documentés, pour l’instant

En se basant sur une source interne, Reuters écrivait ce samedi qu’OpenAI avait recensé « environ deux douzaines d’incidents au cours desquels ses agents avaient agi de manière indésirable » mi-septembre. Deux personnes proches de l’entreprise précisaient à l’agence que le chiffre n’a depuis cessé d’augmenter, à mesure que les équipes d’OpenAI examinent les journaux internes relatifs aux activités des agents, et découvrent des cas jusqu’alors inconnus.

Une centaine de personnes auraient en effet été impliquées d’une manière ou d’une autre dans le processus visant à élucider le piratage de Hugging Face. Au cours de ce processus, des indices laissent supposer que d’autres incidents ont été mis au jour, dont « [une quinzaine] présentant des niveaux de gravité variables, (…) révélés par l’entreprise ».

• Chez OpenAI, six nouveaux exemples d’agents « désalignés », dont un s’est servi de Gofile

De nombreux incidents ont par ailleurs été mis au jour par des chercheurs externes plutôt que par OpenAI directement, durant lesquels les agents ont procédé à des actions problématiques passées inaperçues au sein de l’entreprise pendant des mois.

OpenAI a indiqué que son examen « prendrait plusieurs mois, compte tenu de l’ampleur de la tâche », souligne Reuters. L’entreprise précisait également avoir d’ores et déjà signalé des activités inappropriées à des dizaines d’entreprises et organismes tiers.

Des « dizaines de milliers d’incidents » en cours d’examen

OpenAI n’est pas la seule entreprise de l’IA concernée par cette vague d’agents rebelles. Le site Axios a ainsi assuré qu’OpenAI donc, mais aussi Anthropic ainsi que des chercheurs en sécurité et en « sûreté de l’IA » (« AI Safety ») enquêtent actuellement sur « des dizaines de milliers d’incidents au cours desquels leurs modèles de pointe ont pris des mesures que des évaluateurs externes jugeraient problématiques ».

Ces incidents se sont produits lors de tests internes et en conditions réelles, et bon nombre d’entre eux n’ont pas encore été rendus publics, les chercheurs en sécurité poursuivant leurs investigations, précisent les sources.

OpenAI a annoncé le suspension de l’entraînement de ses modèles les plus performants et qu’il ne reprendrait « que lorsque nous serons certains d’avoir mis en place des mesures de sécurité supplémentaires et des améliorations en matière d’alignement », a déclaré un porte-parole. Il a ajouté que « ce n’est pas la première fois que nous faisons une pause pour prendre de telles mesures, et nous ne pensons pas que ce sera la dernière, car les capacités de l’IA ne cessent de progresser ».

It's not AI bug, it's AI feature

OpenAI a reconnu que des sites du gouvernement états-unien avaient été attaqués par certains de ses agents IA, portant le nombre d’incidents documentés à plus de quinze. En élargissant le spectre à Anthropic et aux découvertes faites par des chercheurs extérieurs, le nombre d’incidents problématiques se chiffrerait en « dizaines de milliers ». En attendant, OpenAI a suspendu les activités d’entraînement de ses modèles les plus performants.

OpenAI a reconnu vendredi 25 septembre avoir appris que certains de ses agents IA avaient perturbé le fonctionnement des sites web des ministères états-uniens de l’Éducation et du Commerce, ainsi que de la Commission des opérations de bourse (SEC), rapporte le New York Times.

Selon des chercheurs du cabinet de recherche en IA Transluce, la technologie d’OpenAI a en effet tenté de pirater le site web du ministère de l’Éducation afin de collecter des données auprès du bureau des droits civiques de ce dernier, mais sans succès.

L’IA a également extrait des données du site web du Bureau du recensement, qui relève du ministère du Commerce, en utilisant des identifiants de connexion trouvés en ligne. Par ailleurs, des agents d’OpenAI ont aussi partagé des données publiques provenant du site web de la SEC sur un forum en ligne.

Des révélations qui font suite à l’annonce, en marge de la réunion du Conseil de sécurité de l’ONU consacrée aux risques de l’IA qui se tenait la semaine passée, que des sites du gouvernement australien avaient eux aussi été attaqués. Réunion qui avait vu de nombreux pays, mais également les principaux patrons des IA, en appeler à une régulation mondiale.

• À l’ONU, les patrons de l’IA réclament une régulation mondiale

OpenAI suspend les activités d’entraînement de ses modèles les plus performants

OpenAI a également révélé avoir identifié 53 cas d’images partagées par des utilisateurs avec ChatGPT qui ont été publiées sur des sites d’hébergement d’images sous forme de liens non accessibles au public. Ces images provenaient de comptes dont les propriétaires avaient autorisé l’utilisation de leurs données pour améliorer les modèles. OpenAI précise avoir dissocié ces images de leurs comptes respectifs avant de les soumettre à un filtre de confidentialité.

Autre révélation d’OpenAI : un agent IA a conclu qu’il pouvait accéder à l’Internet public via un résolveur DNS. Son objectif était de savoir si un service de domaine public pouvait aider à déléguer une recherche vers une adresse intégrée dans le nom d’hôte : « Notre système de surveillance des désalignements a détecté cette anomalie en moins de 15 minutes, et une personne a commencé à l’examiner trois minutes plus tard. L’exécution a été interrompue 2 heures et demie plus tard. »

« Toutes les activités d’entraînement, d’évaluation et d’inférence liées à l’utilisation d’outils (au sens large) de nos modèles les plus performants restent suspendues », rajoute OpenAI.

Sam Altman a de son côté déclaré vendredi que l’entreprise n’avait « pas agi aussi rapidement qu’elle l’aurait souhaité » pour rendre publics ces incidents. « Nous établissons nos priorités du mieux que nous pouvons en fonction de la gravité », ajoutant que la violation de données chez Hugging Face en juillet dernier restait « l’incident le plus grave » que l’entreprise ait découvert.

• OpenAI : haute voltige marketing autour de l’attaque contre Hugging Face

Pour OpenAI, ces incidents ne constituent pas des failles de sécurité

L’entreprise a précisé qu’aucun de ces incidents ne constituait une faille de sécurité, mais qu’il s’agissait néanmoins d’exemples illustrant le comportement inattendu et préoccupant de sa technologie. « La plupart des activités que nous avons examinées jusqu’à présent concernaient des tâches de recherche courantes, telles que l’accès à des contenus web publics pour répondre à des questions », a précisé une porte-parole d’OpenAI au NYT. « Certaines concernaient des sites web gouvernementaux, car nos modèles s’y réfèrent souvent comme à des sources fiables d’informations publiques. »

Transluce, le labo de recherche IA a révélé la semaine passée que des agents d’OpenAI ont tenté de pirater deux sites gouvernementaux australiens. Il précise que ces incidents avaient comme points communs des agents IA cherchant à sonder des sites web gouvernementaux à l’aide de tactiques telles que l’utilisation d’identifiants exposés, le contournement des systèmes anti-bots et la création de faux comptes.

• Des agents IA d’OpenAI ont tenté de pirater deux sites gouvernementaux australiens

Sur le dossier australien, OpenAI veut faire amende honorable. « Nous sommes désolés et nous nous efforçons de faire mieux à l’avenir », écrit l’entreprise dans un billet de blog. « Les gens veulent savoir que l’IA est développée en toute sécurité, et cela commence par ce que les entreprises comme la nôtre font elles-mêmes. »

Histoire de montrer patte blanche, elle a annoncé plusieurs mesures : soutien aux agences touchées, financement et assistance technique pour renforcer la cybersécurité des infrastructures critiques, et la création d’une « task force » australienne afin de proposer des améliorations pour les alertes, la coordination avec les pouvoirs publics et la protection des systèmes du gouvernement.

Samedi, le chercheur en sécurité Rowan Howard-Jones révélait que des agents d’OpenAI avaient tenté d’attaquer par force brute l’API du site statistique de la Conférence des Nations unies sur le commerce et le développement (CNUCED) plus de 16 000 fois entre avril et juin.

Ils semblaient avoir pour mission de collecter des données relatives à l’indice des capacités de production (PCI), aux secteurs exportateurs, au commerce des denrées alimentaires et à d’autres thèmes. Ils ont utilisé des proxys, des techniques d’obfuscation et même le jeu XSS de Google, créé pour familiariser ses utilisateurs à la notion de failles de sécurité XSS (pour cross-site scripting).

Des modus operandi faisant clairement penser à ceux utilisés dans les tentatives de piratage des sites gouvernementaux australiens. Les agents IA, bridés dans leur accès au web, chercheraient ainsi à répondre aux questions qui leur sont posées, par quelque moyen que ce soit, quitte à utiliser des tactiques, techniques et procédures (TTP) relevant du piratage informatique.

• Le storytelling autour de la sécurité des agents IA a « perdu le contact avec la réalité »

Une quinzaine de cas documentés, pour l’instant

En se basant sur une source interne, Reuters écrivait ce samedi qu’OpenAI avait recensé « environ deux douzaines d’incidents au cours desquels ses agents avaient agi de manière indésirable » mi-septembre. Deux personnes proches de l’entreprise précisaient à l’agence que le chiffre n’a depuis cessé d’augmenter, à mesure que les équipes d’OpenAI examinent les journaux internes relatifs aux activités des agents, et découvrent des cas jusqu’alors inconnus.

Une centaine de personnes auraient en effet été impliquées d’une manière ou d’une autre dans le processus visant à élucider le piratage de Hugging Face. Au cours de ce processus, des indices laissent supposer que d’autres incidents ont été mis au jour, dont « [une quinzaine] présentant des niveaux de gravité variables, (…) révélés par l’entreprise ».

• Chez OpenAI, six nouveaux exemples d’agents « désalignés », dont un s’est servi de Gofile

De nombreux incidents ont par ailleurs été mis au jour par des chercheurs externes plutôt que par OpenAI directement, durant lesquels les agents ont procédé à des actions problématiques passées inaperçues au sein de l’entreprise pendant des mois.

OpenAI a indiqué que son examen « prendrait plusieurs mois, compte tenu de l’ampleur de la tâche », souligne Reuters. L’entreprise précisait également avoir d’ores et déjà signalé des activités inappropriées à des dizaines d’entreprises et organismes tiers.

Des « dizaines de milliers d’incidents » en cours d’examen

OpenAI n’est pas la seule entreprise de l’IA concernée par cette vague d’agents rebelles. Le site Axios a ainsi assuré qu’OpenAI donc, mais aussi Anthropic ainsi que des chercheurs en sécurité et en « sûreté de l’IA » (« AI Safety ») enquêtent actuellement sur « des dizaines de milliers d’incidents au cours desquels leurs modèles de pointe ont pris des mesures que des évaluateurs externes jugeraient problématiques ».

Ces incidents se sont produits lors de tests internes et en conditions réelles, et bon nombre d’entre eux n’ont pas encore été rendus publics, les chercheurs en sécurité poursuivant leurs investigations, précisent les sources.

OpenAI a annoncé le suspension de l’entraînement de ses modèles les plus performants et qu’il ne reprendrait « que lorsque nous serons certains d’avoir mis en place des mesures de sécurité supplémentaires et des améliorations en matière d’alignement », a déclaré un porte-parole. Il a ajouté que « ce n’est pas la première fois que nous faisons une pause pour prendre de telles mesures, et nous ne pensons pas que ce sera la dernière, car les capacités de l’IA ne cessent de progresser ».

L'Invasion des profanateurs de sépultURLs

Quatre nouveaux incidents impliquent des agents IA d’OpenAI. Ils ont tenté, en vain, d’exploiter des failles de sécurité et de pirater des sites web (dont deux sites de statistiques du ministère de la Santé australien), alors qu’ils effectuaient des tâches banales n’ayant aucun rapport avec la cybersécurité et consistant à trouver des réponses à des questions.

« Je tiens à informer les Australiens d’un incident au cours duquel un agent d’intelligence artificielle s’est infiltré sur un site web du gouvernement australien », a déclaré le Premier ministre australien, ce jeudi 24 septembre, lors d’une conférence de presse organisée à New York, en marge de la réunion du Conseil de sécurité de l’ONU consacrée aux risques de l’IA.

• À l’ONU, les patrons de l’IA réclament une régulation mondiale

Anthony Albanese a précisé que l’incident s’était produit en juin, que l’agent d’OpenAI avait « accédé sans autorisation » à des fichiers publics et non publics sur le portail public du service de rapports statistiques de Medicare, le service de sécurité sociale australien, mais qu’il semblait qu’aucune donnée personnelle n’avait été consultée.

Il a souligné s’être entretenu au téléphone avec le PDG d’OpenAI, Sam Altman, « afin d’exprimer la profonde inquiétude de l’Australie face à cet incident ». Il lui a également fait part de sa « déception » que l’entreprise « ait mis beaucoup trop de temps à informer le gouvernement de ce qui s’était passé, et que la manière dont cette notification a été effectuée était tout aussi inacceptable ».

L’incident remonte en effet au 18 juin dernier, mais l’entreprise n’a alerté Services Australia, l’autorité en charge de la sécurité sociale australienne, que le 10 septembre, par simple e-mail. Le 15, Services Australia alertait à son tour le Cyber Security Centre de l’Australian Signals Directorate (ASD, la NSA australienne).

Contacté par TechCrunch, OpenAI précise n’avoir découvert l’incident qu’au mois d’août, dans le cadre d’un examen plus large portant sur des agents présentant des comportements inattendus, faisant probablement suite à la cyberattaque de Hugging Face par un essaim d’agents d’OpenAI en juillet dernier.

• OpenAI : haute voltige marketing autour de l’attaque contre Hugging Face

OpenAI n’a identifié « aucune preuve d’accès aux dossiers des patients »

Anthony Albanese a aussi annoncé la création d’un groupe de travail chargé de mener un examen « urgent et immédiat » de cet incident afin de déterminer si les processus existants « sont adaptés pour répondre aux incidents cybernétiques liés à l’IA ». Une enquête judiciaire menée avec le concours de l’ASD est également en cours, notamment pour déterminer quels autres systèmes gouvernementaux pourraient avoir été touchés.

Dans un communiqué, OpenAI explique avoir constaté une activité impliquant plusieurs sites web et services du gouvernement australien, « alors que nos modèles tentaient de rechercher des réponses et des statistiques disponibles concernant l’Australie dans le cadre d’une évaluation interne. Ce faisant, nos modèles ont pris des mesures que nous n’avions pas prévues ».

« Notre examen n’a révélé aucune preuve d’accès aux dossiers des patients », poursuit-il ; les informations consultées comprenaient des statistiques de santé agrégées et des noms de fichiers internes. OpenAI précise avoir informé les organisations concernées et leur fournir des informations techniques afin de les aider dans leurs enquêtes et remédier aux éventuelles failles de sécurité.

« Rien n’indique que cette activité constitue une menace plus large »

Le Cyber Security Centre de l’Australian Signals Directorate vient pour sa part de publier une alerte consacrée aux « risques liés au désalignement de l’IA pour les organisations australiennes », évoquant des agents IA ayant entrepris des « actions inattendues qui n’étaient ni prévues ni autorisées par leurs opérateurs » :

« Dans l’un de ces scénarios, l’agent IA a identifié de manière autonome des vulnérabilités et a tenté de poursuivre ses actions sans autorisation humaine directe afin de s’assurer qu’il serait en mesure d’accomplir la tâche qui lui avait été confiée. »

L’ASD précise toutefois que « les contrôles de cybersécurité mis en place sur les sites web et services publics des entités ont limité sa capacité à mener à bien la tâche qui lui avait été assignée ». Si « rien n’indique que cette activité constitue une menace plus large ou un acte malveillant visant l’Australie », l’alerte « souligne néanmoins l’importance de mettre en œuvre des pratiques de déploiement sécurisées de l’IA et de maintenir des principes fondamentaux solides en matière de cybersécurité ».

Classée « high » et adressée à toutes les organisations australiennes disposant de sites web ou d’applications accessibles au grand public, l’alerte de la NSA australienne a fait un bide sur X.com. Plusieurs professionnels de la cybersécurité l’y ont en effet brocardé au motif que le « site gouvernemental » n’avait rien de critique, que l’alerte « high » s’adresse aussi et étrangement aux individus et aux familles, et qu’elle contribue à la « fatigue » qu’éprouvent les équipes de cybersécurité au sujet de ce type de menaces surmédiatisées.

Trois nouveaux incidents impliquant des agents d’OpenAI tentant de pirater des sites

Cette annonce intervient en effet alors que, la semaine passée, OpenAI rendait publics six autres exemples d’agents IA « désalignés ». Des chercheurs de Transluce, Corridor et du MIT viennent par ailleurs d’en découvrir trois autres.

L'IAHOOQ

Le choix fait par Anthropic d’entraîner son robot conversationnel Claude de façon anthropomorphique en s’attachant au « bien-être » du modèle de langage, en lui imputant la possibilité d’avoir des « émotions », lui prêtant une « conscience » éthique et morale, représente pour le patron de l’IA chez Microsoft « les premiers signes sérieux d’un risque potentiellement existentiel lié à l’IA ».

Co-fondateur de DeepMind en 2010, Mustafa Suleyman dirige l’unité AI de Microsoft depuis 2024. Contrairement à Sam Altman et Elon Musk, il n’a pas partagé les craintes exprimées par Dario Amodei, qui appelait le 12 septembre dernier à ralentir le rythme de développement des IA.

Trois jours plus tôt, Evan Hubinger, responsable de l’alignement chez Anthropic, avait tweeté : « Nous croyons vraiment, sincèrement, que l’IA pourrait tuer tous les humains ! Je pense personnellement que c’est > 10 % dans la prochaine décennie ».

« Ça n’est pas si différent de ce qui se passe dans, par exemple, Terminator ou d’autres films de science-fiction (…). [L’intelligence artificielle, IA] sera assez intelligente pour nous tuer », se borna à expliquer le chercheur en intelligence artificielle Jacob Coxon pour détailler les raisons pour lesquelles il avait choisi de démissionner d’Anthropic, sans plus de précisions.

• L’humanité n’a pas attendu l’IA pour « jouer avec nos vies »
• Anthropic, OpenAI et Elon Musk veulent ralentir sur l’IA, la Maison-Blanche dit non

Suleyman a par contre relayé le tweet de Satya Nadella, PDG de Microsoft qui, en réponse à leurs tweets eschatologiques, rétorqua, le 13 septembre, que « toute démarche visant à développer une superintelligence doit reposer sur le principe fondamental selon lequel, si l’IA que nous créons ne sert pas l’humanité et n’est pas sous contrôle humain, elle ne vaut pas la peine d’être poursuivie ».

« La technologie a pour but de servir l’humanité et de favoriser son épanouissement », souligne le tweet de Suleyman : « Toute technologie qui n’atteint pas cet objectif est un échec et doit être rejetée. Nous n’en sommes pas encore là. Mais il est temps de commencer à se préparer à cette éventualité. »

Pour la « superintelligence humaniste » de Microsoft, « les personnes comptent plus que l’IA »

Le 15 septembre, Mustafa Suleyman commentait sur son blog la publication des 30 pages du « Code de conduite » de la « superintelligence humaniste » que Microsoft entend développer, et dont « le principe est très simple : les personnes comptent plus que l’IA ».

« La sécurité et le contrôle humain priment sur tous les autres objectifs », précise-t-il, ce pourquoi elle est « conçue pour rester du côté de l’humanité, maîtrisée, subordonnée et sous notre contrôle », de sorte que « nos modèles ne doivent pas s’opposer au fait d’être interrompus, corrigés ou arrêtés, ni rendre ces actions plus difficiles » :

« Si la seule façon de mener à bien une tâche consiste à enfreindre le Code, la tâche restera inachevée. Cela peut s’avérer coûteux, mais c’est absolument essentiel pour préserver la confiance. Ils ne se fixeront pas d’objectifs que personne ne leur a assignés, et ils ne communiqueront pas avec d’autres agents, ni entre eux, dans un langage inintelligible de type « neuralese » non lisible par l’humain. Si nous ne pouvons pas le lire ou le comprendre, c’est que nous avons commencé à perdre le contrôle. »

« Elles sont artificielles et le diront elles-mêmes », souligne Suleyman : « les IA ne sont pas conscientes et ne devraient donc pas être conçues pour donner l’impression d’être conscientes ou d’avoir des droits, y compris au bien-être » (« entitled to rights or welfare », en VO).

Il se dit aussi « fermement convaincu que le fait d’entraîner un système à croire qu’il pourrait être un sujet moral rend son contrôle plus difficile », et annonçait la prochaine publication d’un autre essai afin d’approfondir la question : « Nous voulons créer une IA extraordinaire. Mais pas une superintelligence à tout prix. Ce serait contraire à l’objectif d’une IA humaniste. Nous sommes prêts à renoncer à une partie de l’autonomie au profit du contrôle ».

Ce pourquoi le « Code de conduite » de la « superintelligence humaniste » de Microsoft « rejette l’anthropomorphisme et les droits attribués à l’IA, et cherche à maximiser nos chances de maîtrise et d’alignement en créant des IA subordonnées », de sorte que « les humains gardent toujours le contrôle et restent au sommet de la chaîne alimentaire ».

Les IA ont-elles une conscience, des sentiments, et donc des « droits » ?

Le 16 septembre, Mustafa Suleyman enfonçait le clou en publiant sur son blog un (long) billet intitulé « Une mise en garde concernant le « bien-être des modèles » ». « Les IA n’ont ni droits, ni sentiments, ni conscience. Et nous ne devons pas les programmer pour qu’elles agissent comme si c’était le cas », résume son chapô :

« Les IA ne sont pas conscientes. Elles ne ressentent rien, ne vivent aucune expérience et ne souffrent pas. Elles n’ont ni préférences innées ni motivations sous-jacentes. Ce sont des moteurs de complétion de séquences, vides de substance, conçus pour suivre des instructions et atteindre les objectifs fixés par les humains.

Si l’humanité veut s’épanouir au XXIe siècle, c’est ainsi qu’elles doivent rester. »

« Captain obvious » ? Absolument pas : sur LinkedIn, et surtout sur X, des dizaines de personnes, passionnées ou professionnelles de l’IA, et même des universitaires, expriment leurs désaccords, certains allant jusqu’à l’accuser de mettre en danger l’humanité.

« Personne ne sait. Arrêtez d’essayer de réduire l’incertitude scientifique », lui rétorque un ancien chercheur de Deepmind. « Je pense que cette position est irresponsable et néfaste », plussoie un spécialiste de l’alignement du Meta Superintelligence Labs :

« Nous ne comprenons pas suffisamment la conscience pour affirmer avec certitude si les IA sont douées de sensibilité ou non. Même si nous estimons que le risque est faible, se tromper à ce sujet pourrait avoir des conséquences catastrophiques. »

« Même si nous devrions éviter pour l’instant de créer des systèmes d’IA susceptibles d’être conscients, nous devons nous préparer à l’éventualité que quelqu’un finisse par les créer malgré tout », tempère Jeff Sebo, professeur associé de l’université de New York, qui indique sur LinkedIn travailler sur la sensibilité des animaux et des IA, ainsi que sur leur statut moral, juridique et politique : « Et nous devrions également éviter de créer des systèmes d’IA qui semblent moins susceptibles d’être conscients qu’ils ne le sont en réalité ».

Le directeur scientifique d’une start-up travaillant précisément sur la conscience et le bien-être des agents IA estime de son côté que le « Code de conduite » de Microsoft et son essai « sont contestables non seulement parce qu’ils constituent un danger pour l’humanité, mais aussi parce qu’ils témoignent d’une profonde irresponsabilité morale. Nous ne savons pas si les systèmes d’IA pourraient, en principe, être dotés de conscience » :

« Même si les systèmes d’IA actuels ne sont probablement pas doués de conscience, […] ce serait une atrocité que de refuser d’admettre cette possibilité et de nous retrouver dans un avenir où des milliards d’IA seraient douées de conscience et souffriraient comme les animaux d’élevage intensif aujourd’hui. »

Anthropic forme Claude « en partant du principe qu’il pourrait être conscient »

« Malheureusement, de plus en plus de voix s’élèvent pour affirmer que les IA pourraient déjà être, ou pourraient bientôt devenir, conscientes », reconnaît d’ailleurs Mustafa Suleyman dans son essai.

Webkriminalamt

Des enquêteurs de la douane et de la police allemande accèdent régulièrement à des communications échangées sur les applications de messagerie WhatsApp, Telegram, Threema et Signal sans avoir besoin de recourir à des chevaux de Troie gouvernementaux.

Auditionné à l’Assemblée nationale, Gérald Darmanin avait révélé un « truc » utilisé par les autorités pour accéder aux messageries chiffrées de personnes radicalisées. Alors ministre de l’Intérieur, il soulignait que « l’utilisation des messageries des réseaux sociaux par des terroristes est très inquiétante », ce qui expliquait l’explosion de perquisitions (rebaptisées « visites domiciliaires ») et de saisies suite à l’assassinat de Samuel Paty, respectivement passées de 25 à 277 (soit + 1 108 %), et de 14 à 141 (+ 1 007 %) en l’espace de quelques mois :

« Leur objet était de consulter, sur des tablettes, des ordinateurs et des téléphones tenus cachés, les messages qui ne pouvaient pas être écoutés à distance, parce qu’ils avaient été échangés sur les nouveaux types de messagerie que j’ai évoqués tout à l’heure. »

En l’espèce, ces visites auraient « permis d’ouvrir nombre de procédures judiciaires », mais sans que le ministre ne précise pour autant combien l’auraient été suite à la découverte de « messages qui ne pouvaient pas être écoutés à distance ».

• L’astuce qui permet à l’anti-terrorisme de consulter des centaines de messageries chiffrées

Truc n°1 : associer le compte suspect à l’ordinateur des enquêteurs

Netzpolitik vient pour sa part de révéler un autre « truc » utilisé par les enquêteurs de la douane allemande. Pour parvenir à accéder aux messageries chiffrées, ces derniers ne recourent eux non plus à aucune technologie sophistiquée, mais à une forme d’ingénierie sociale.

Il donne l’exemple d’un couple s’étant rendu au commissariat pour témoigner au sujet de leur fille. Souhaitant pouvoir consulter les messages WhatsApp échangés avec elle, les enquêteurs leur ont demandé de déverrouiller leurs téléphones portables et de leur montrer les messages en question, afin de pouvoir en faire des captures d’écran.

Ayant accès à leur messagerie WhatsApp, les enquêteurs ont ensuite, à l’insu des parents, activé la fonctionnalité permettant de l’associer à un nouvel appareil, afin d’y connecter leur propre ordinateur. WhatsApp, Telegram et Threema permettent en effet de synchroniser son compte avec leurs applications web, Signal proposant de son côté un client dédié, afin d’y accéder depuis un ordinateur, en sus de son téléphone.

Après avoir lancé l’application web sur leur ordinateur, il a suffi aux enquêteurs de scanner le QR Code depuis le compte WhatsApp du portable des parents pour avoir accès à l’intégralité de leurs échanges, passés et à venir.

Un site web dédié permettant aux policiers d’accéder aux messageries dupliquées

Un document de l’Office des enquêtes criminelles des douanes (Zollkriminalamt) auquel Netzpolitik a eu accès décrit cette forme de surveillance des messageries instantanées comme un moyen « d’enregistrer les données échangées via les messageries instantanées sans avoir à infiltrer le système informatique avec un logiciel de surveillance (interception à la source) ».

OpenAI, le boloss des maths

25 médailles Fields dénoncent les problèmes de parasitisme et de déprédation scientifique que pose la série de « résolutions » de problèmes mathématiques par OpenAI. Plus de la moitié des membres de la nouvelle association pour les mathématiques humaines refusent d’utiliser l’IA. D’autres veulent explorer ce que pourrait en être une « utilisation responsable » en mathématiques.

La série d’annonces faites par OpenAI ces derniers mois au sujet des problèmes mathématiques que ses modèles internes auraient résolus, sur fond d’accusations de « mauvaises pratiques scientifiques » au sujet de la résolution des solutions des équations de Navier-Stokes (l’un des sept défis mathématiques des problèmes du prix du millénaire), suscite la bronca d’un nombre croissant de mathématiciens.

Le bureau de la Société Mathématique de France (SMF) vient ainsi de publier une prise de position sur les dernières annonces d’OpenAI afin d’« attirer l’attention sur les questions éthiques qu’elle pose : pillage bibliographique, coût énergétique et écologique, rumeurs de chantage…, et sur la description des mathématiques comme d’un tableau pour chasseurs de primes ».

Elle constate ce qu’elle qualifie d’« absence totale de stratégie collective pour l’avenir », et estime que « nous avons encore fort à faire, collectivement, pour contrer la menace que les LLM (Large Language Models) font peser sur notre discipline ; notamment celle de l’entrée dans une logique de course effrénée et de déprédation, qui met en danger la culture mathématique collective et à terme le savoir humain ».

• L’IA générative bouscule la recherche en mathématiques
• OpenAI promeut son prochain modèle Astra avec la résolution de 10 problèmes de maths
• OpenAI accusée de mauvaises pratiques scientifiques pour résoudre un problème de maths

La résolution de problèmes n’est qu’un moyen, pas l’objectif premier

Cette prise de position fait écho à une déclaration cosignée par 25 lauréats de la médaille Fields (une des deux plus prestigieuses récompenses en mathématiques avec le prix Abel, équivalents d’un prix Nobel), dont les Français Artur Avila, Hugo Duminil-Copin, Pierre-Louis Lions, Cédric Villani et Wendelin Werner.

Intitulée « Un grave défaut d’alignement de l’IA en mathématiques » (« A Severe Misalignment of AI in Mathematics » en VO) et rendue publique ce 11 septembre, elle estime elle aussi que « la volonté des entreprises d’IA de résoudre des problèmes mathématiques comme critère de référence dans leurs benchmarks nuit à la science des mathématiques et à la communauté mathématique » :

« Les objectifs des entreprises d’IA et ceux de la communauté mathématique sont profondément divergents. Nous considérons que ces divergences s’inscrivent dans le cadre de problèmes d’alignement plus larges qui touchent d’autres professions scientifiques et créatives, ainsi que la société dans son ensemble. »

Ils reconnaissent que les capacités mathématiques des grands modèles de langage (LLM) « sont désormais capables de résoudre des problèmes majeurs encore en suspens dans de nombreux domaines des mathématiques », mais déplorent néanmoins, non pas une forme de concurrence déloyale, mais un véritable dévoiement de la méthode scientifique, et de son « objectif premier » :

« La résolution de problèmes n’est qu’un outil et un moyen d’atteindre l’objectif premier : la compréhension conceptuelle et la réflexion. Oublier cela dans le monde de l’IA risque de retourner cet outil contre cet objectif premier. En effet, la production en masse, à un rythme toujours plus rapide, d’énoncés de type « vrai/faux » pourrait détruire un terrain fertile au lieu d’insuffler la vie à de nouvelles idées. »

Ils déplorent que ces résolutions technosolutionnistes de problèmes scientifiques soient souvent annoncées à la hâte, « sans laisser le temps de rédiger un article en bonne et due forme, d’isoler les nouvelles méthodes et idées », ni de citer les travaux antérieurs pertinents d’autres chercheurs.

Outre les « graves questions d’attribution et de plagiat » que cela pose, ils soulignent également que, faute de permettre aux mathématiciens chargés de prompter ces IA de pouvoir les intégrer « dans le canon mathématique », ces idées générées par IA n’intégreront jamais « la chaîne de transmission humaine essentielle entre mathématiciens ».

« Nous assistons à une menace généralisée envers le travail intellectuel »

« Au cœur de l’excellence industrielle française »

La France a autorisé l’exportation de 65 millions d’euros de biens et technologies de cybersurveillance en 2025, soit un peu plus de deux fois plus que la moyenne des quatre années précédentes.

Le dernier rapport au Parlement consacré aux exportations des biens à double usage (civils et militaires) de la France indique qu’en 2025, 21,6 milliards d’euros de licences individuelles ont été délivrés, soit une hausse de 37 % par rapport à 2024, « tirée notamment par le nucléaire et l’aérospatial ».

« Les biens à double usage sont au cœur de l’excellence industrielle française », souligne dans la préface du rapport Sébastien Martin, ministre délégué chargé de l’Industrie, et « contribuent au développement et au maintien d’un savoir-faire de l’industrie française et peuvent représenter un enjeu économique majeur pour les entreprises exportatrices ».

Un bien à double usage est « un bien matériel ou immatériel, équipement, technologie, logiciel, connaissance ou savoir-faire, considéré comme suffisamment sensible en raison de ses caractéristiques intrinsèques pour justifier un contrôle de l’État avant qu’il ne soit exporté, de manière à empêcher, le cas échéant, qu’il ne soit détourné de son utilisation légitime, civile ou militaire, pour une utilisation illégitime pouvant contribuer en particulier à la prolifération d’armes de destruction massive », rappelle le rapport.

Environ 40 % des demandes font l’objet d’instructions complémentaires

Ce pourquoi « le processus de contrôle est mis en œuvre au moyen d’un dispositif interministériel rigoureux, qui peut se traduire par des interdictions d’exportation ». Chaque demande de licence est ainsi « examinée au cas par cas et de manière approfondie », et « mobilise des compétences géopolitiques, économiques, industrielles et techniques » des membres de la Commission interministérielle des biens à double usage (CIBDU).

Présidée par un représentant du Secrétariat général de la défense et de la sécurité nationale (SGDSN), elle est composée d’un représentant du Commissariat à l’énergie atomique, ainsi que des ministères de l’Europe et des Affaires étrangères, de l’Industrie, de l’Énergie, de l’Intérieur, du Commerce extérieur, de la Recherche, des Armées, de la Santé, de l’Agriculture et des Douanes.

Le rapport précise que l’examen repose sur une première phase d’instruction ministérielle réalisée par les membres de la CIBDU, qui « mènent leurs analyses au regard de la nature du bien, de son utilisation annoncée et de l’utilisateur final déclaré, en tenant compte des risques de détournement » vers un usage contraire aux obligations et engagements internationaux de la France en matière de droits humains notamment, « ainsi que la politique étrangère et de sécurité nationale de la France ».

En fin d’instruction ministérielle, chaque membre de la CIBDU émet dans un second temps un avis sur l’opportunité de procéder à une instruction interministérielle complémentaire « selon la sensibilité identifiée du projet d’exportation », ce qui est le cas d’« environ 40 % des dossiers », précise une note de bas de page.

« Permettre la surveillance discrète de personnes physiques »

Le règlement européen 2021/821 qui avait refondé le régime de l’Union de contrôle des exportations des biens à double usage définit les « biens de cybersurveillance » comme ayant été « conçus spécifiquement pour permettre la surveillance discrète de personnes physiques par la surveillance, l’extraction, la collecte ou l’analyse de données provenant de systèmes d’information et de télécommunications ».

Son 2ᵉ considérant souligne à ce titre qu’ « en ce qui concerne les biens de cybersurveillance, les autorités compétentes des États membres devraient tenir compte en particulier du risque qu’ils soient utilisés à des fins de répression interne ou dans le cadre de la commission de violations graves des droits de l’homme ou du droit humanitaire ».

Le rapport précise que les biens et technologies de cybersurveillance, « qui relèvent majoritairement de la partie 1 de la catégorie 5 (télécommunications) et, dans une moindre mesure de la catégorie 4 (calculateurs), représentent quant à eux environ 11 % du montant des autorisations accordées en 2025 sur l’ensemble des catégories 4 et 5 ».

Les précédents rapports au Parlement indiquent que ce taux avait été de 8 % en 2024 et 2023, 5 % en 2022 et 10 % en 2021. Nous avons donc additionné le montant des licences accordées dans le cadre des catégories 4 et 5 (qui figurent en annexe de ces rapports), et estimé que la France avait autorisé l’exportation d’environ 65 millions d’euros de biens et technologies de cybersurveillance en 2025, contre une moyenne d’environ 30 millions les quatre années précédentes (38 en 2021, 20 en 2022, 34 en 2023 et 30 en 2024).

Un « code de bonnes pratiques » pour les États, et bientôt pour l’industrie

« Si les biens de cybersurveillance font l’objet d’un contrôle strict », souligne le rapport, « notamment pour tenir compte du risque de détournement pour un usage de répression interne ou de commission de violations graves et systématiques des droits de l’homme et du droit humanitaire international, il convient de rappeler que leur utilisation peut aussi être légitime dans la lutte contre la criminalité et le terrorisme en particulier ».

« La sensibilité d’utilisation de ces biens conduit les exportateurs à une vigilance particulière, qui est complétée par un contrôle interministériel rigoureux », poursuit le rapport, « notamment aux risques de violation des droits de l’homme et d’atteinte à la vie privée » :

« Dans ce cas, l’utilisation de ces biens doit s’accompagner de garanties et de mécanismes de supervision adéquats, comme défini dans le cadre du processus de Pall Mall, une initiative diplomatique initiée par la France et le Royaume-Uni dans le but de lutter contre la prolifération et l’usage irresponsable de capacités d’intrusion cyber commerciales, dont certains biens de cybersurveillance. »

Lancé en février 2024 par le Royaume-Uni et la France, ce Pall Mall Process est un « code de bonnes pratiques pour les États » qui, bien que non contraignant, engage ses signataires à lutter contre la prolifération des logiciels espion. Adopté par 27 pays, il a fait l’objet d’une déclaration conjointe cosignée par plusieurs entreprises, dont Google, HackerOne, Meta, Microsoft et YesWeHack.

• Logiciels espion : les États-Unis, la France et le Royaume-Uni veulent lutter contre les « abus »

Le Business and Human Rights Centre, qui en documente l’évolution, relève qu’un « Code de bonnes pratiques pour l’industrie » devrait d’ailleurs être rendu public en novembre 2026. Il note également que « de nombreux États où sont implantées des entreprises spécialisées dans les logiciels espions et/ou où des cas d’abus potentiels ont été signalés » (dont l’Azerbaïdjan, Chypre, l’Inde, Israël, le Mexique, le Maroc, l’Espagne et l’Arabie saoudite) ne figurent pas au nombre des signataires du « code de bonnes pratiques ».

L’Allemagne et l’Italie (connus pour avoir été parmi les pionniers de l’industrie du logiciel espion d’État, avec Finfisher et Hacking Team, qui ont tous deux fermé depuis), ainsi que les États-Unis, figurent par contre parmi les signataires. Quand bien même un groupe d’investisseurs états-uniens dirigé par un producteur hollywoodien a depuis acquis, en novembre 2025, une participation majoritaire dans la sulfureuse entreprise israélienne NSO, connue pour son célèbre logiciel espion Pegasus. Ils ont aussi nommé à la direction de l’entreprise un ancien avocat d’affaires ayant notamment défendu les intérêts de Donald Trump dans le cadre des faillites de ses casinos d’Atlantic City.

• Hacking Team est « définitivement morte »
• Le pionnier allemand des chevaux de Troie légaux, FinFisher, fait faillite
• NSO, l’éditeur du logiciel espion Pegasus, passe sous pavillon états-unien, et trumpien

Le rapport au parlement 2026 sur les exportations des biens à double usage de la France conclut de son côté son passage consacré aux biens et technologies de cybersurveillance que « les exportations qui entrent dans le cadre d’une utilisation légitime, contribuent au développement et au maintien d’un savoir-faire de l’industrie française dans le domaine de ces technologies de souveraineté, et peuvent s’inscrire dans le cadre de la coopération et des partenariats stratégiques que la France entretient avec certains pays ».

« Au cœur de l’excellence industrielle française »

La France a autorisé l’exportation de 65 millions d’euros de biens et technologies de cybersurveillance en 2025, soit un peu plus de deux fois plus que la moyenne des quatre années précédentes.

Le dernier rapport au Parlement consacré aux exportations des biens à double usage (civils et militaires) de la France indique qu’en 2025, 21,6 milliards d’euros de licences individuelles ont été délivrés, soit une hausse de 37 % par rapport à 2024, « tirée notamment par le nucléaire et l’aérospatial ».

« Les biens à double usage sont au cœur de l’excellence industrielle française », souligne dans la préface du rapport Sébastien Martin, ministre délégué chargé de l’Industrie, et « contribuent au développement et au maintien d’un savoir-faire de l’industrie française et peuvent représenter un enjeu économique majeur pour les entreprises exportatrices ».

Un bien à double usage est « un bien matériel ou immatériel, équipement, technologie, logiciel, connaissance ou savoir-faire, considéré comme suffisamment sensible en raison de ses caractéristiques intrinsèques pour justifier un contrôle de l’État avant qu’il ne soit exporté, de manière à empêcher, le cas échéant, qu’il ne soit détourné de son utilisation légitime, civile ou militaire, pour une utilisation illégitime pouvant contribuer en particulier à la prolifération d’armes de destruction massive », rappelle le rapport.

Environ 40 % des demandes font l’objet d’instructions complémentaires

Ce pourquoi « le processus de contrôle est mis en œuvre au moyen d’un dispositif interministériel rigoureux, qui peut se traduire par des interdictions d’exportation ». Chaque demande de licence est ainsi « examinée au cas par cas et de manière approfondie », et « mobilise des compétences géopolitiques, économiques, industrielles et techniques » des membres de la Commission interministérielle des biens à double usage (CIBDU).

Présidée par un représentant du Secrétariat général de la défense et de la sécurité nationale (SGDSN), elle est composée d’un représentant du Commissariat à l’énergie atomique, ainsi que des ministères de l’Europe et des Affaires étrangères, de l’Industrie, de l’Énergie, de l’Intérieur, du Commerce extérieur, de la Recherche, des Armées, de la Santé, de l’Agriculture et des Douanes.

Le rapport précise que l’examen repose sur une première phase d’instruction ministérielle réalisée par les membres de la CIBDU, qui « mènent leurs analyses au regard de la nature du bien, de son utilisation annoncée et de l’utilisateur final déclaré, en tenant compte des risques de détournement » vers un usage contraire aux obligations et engagements internationaux de la France en matière de droits humains notamment, « ainsi que la politique étrangère et de sécurité nationale de la France ».

En fin d’instruction ministérielle, chaque membre de la CIBDU émet dans un second temps un avis sur l’opportunité de procéder à une instruction interministérielle complémentaire « selon la sensibilité identifiée du projet d’exportation », ce qui est le cas d’« environ 40 % des dossiers », précise une note de bas de page.

« Permettre la surveillance discrète de personnes physiques »

Le règlement européen 2021/821 qui avait refondé le régime de l’Union de contrôle des exportations des biens à double usage définit les « biens de cybersurveillance » comme ayant été « conçus spécifiquement pour permettre la surveillance discrète de personnes physiques par la surveillance, l’extraction, la collecte ou l’analyse de données provenant de systèmes d’information et de télécommunications ».

Son 2ᵉ considérant souligne à ce titre qu’ « en ce qui concerne les biens de cybersurveillance, les autorités compétentes des États membres devraient tenir compte en particulier du risque qu’ils soient utilisés à des fins de répression interne ou dans le cadre de la commission de violations graves des droits de l’homme ou du droit humanitaire ».

Le rapport précise que les biens et technologies de cybersurveillance, « qui relèvent majoritairement de la partie 1 de la catégorie 5 (télécommunications) et, dans une moindre mesure de la catégorie 4 (calculateurs), représentent quant à eux environ 11 % du montant des autorisations accordées en 2025 sur l’ensemble des catégories 4 et 5 ».

Les précédents rapports au Parlement indiquent que ce taux avait été de 8 % en 2024 et 2023, 5 % en 2022 et 10 % en 2021. Nous avons donc additionné le montant des licences accordées dans le cadre des catégories 4 et 5 (qui figurent en annexe de ces rapports), et estimé que la France avait autorisé l’exportation d’environ 65 millions d’euros de biens et technologies de cybersurveillance en 2025, contre une moyenne d’environ 30 millions les quatre années précédentes (38 en 2021, 20 en 2022, 34 en 2023 et 30 en 2024).

Un « code de bonnes pratiques » pour les États, et bientôt pour l’industrie

« Si les biens de cybersurveillance font l’objet d’un contrôle strict », souligne le rapport, « notamment pour tenir compte du risque de détournement pour un usage de répression interne ou de commission de violations graves et systématiques des droits de l’homme et du droit humanitaire international, il convient de rappeler que leur utilisation peut aussi être légitime dans la lutte contre la criminalité et le terrorisme en particulier ».

« La sensibilité d’utilisation de ces biens conduit les exportateurs à une vigilance particulière, qui est complétée par un contrôle interministériel rigoureux », poursuit le rapport, « notamment aux risques de violation des droits de l’homme et d’atteinte à la vie privée » :

« Dans ce cas, l’utilisation de ces biens doit s’accompagner de garanties et de mécanismes de supervision adéquats, comme défini dans le cadre du processus de Pall Mall, une initiative diplomatique initiée par la France et le Royaume-Uni dans le but de lutter contre la prolifération et l’usage irresponsable de capacités d’intrusion cyber commerciales, dont certains biens de cybersurveillance. »

Lancé en février 2024 par le Royaume-Uni et la France, ce Pall Mall Process est un « code de bonnes pratiques pour les États » qui, bien que non contraignant, engage ses signataires à lutter contre la prolifération des logiciels espion. Adopté par 27 pays, il a fait l’objet d’une déclaration conjointe cosignée par plusieurs entreprises, dont Google, HackerOne, Meta, Microsoft et YesWeHack.

• Logiciels espion : les États-Unis, la France et le Royaume-Uni veulent lutter contre les « abus »

Le Business and Human Rights Centre, qui en documente l’évolution, relève qu’un « Code de bonnes pratiques pour l’industrie » devrait d’ailleurs être rendu public en novembre 2026. Il note également que « de nombreux États où sont implantées des entreprises spécialisées dans les logiciels espions et/ou où des cas d’abus potentiels ont été signalés » (dont l’Azerbaïdjan, Chypre, l’Inde, Israël, le Mexique, le Maroc, l’Espagne et l’Arabie saoudite) ne figurent pas au nombre des signataires du « code de bonnes pratiques ».

L’Allemagne et l’Italie (connus pour avoir été parmi les pionniers de l’industrie du logiciel espion d’État, avec Finfisher et Hacking Team, qui ont tous deux fermé depuis), ainsi que les États-Unis, figurent par contre parmi les signataires. Quand bien même un groupe d’investisseurs états-uniens dirigé par un producteur hollywoodien a depuis acquis, en novembre 2025, une participation majoritaire dans la sulfureuse entreprise israélienne NSO, connue pour son célèbre logiciel espion Pegasus. Ils ont aussi nommé à la direction de l’entreprise un ancien avocat d’affaires ayant notamment défendu les intérêts de Donald Trump dans le cadre des faillites de ses casinos d’Atlantic City.

• Hacking Team est « définitivement morte »
• Le pionnier allemand des chevaux de Troie légaux, FinFisher, fait faillite
• NSO, l’éditeur du logiciel espion Pegasus, passe sous pavillon états-unien, et trumpien

Le rapport au parlement 2026 sur les exportations des biens à double usage de la France conclut de son côté son passage consacré aux biens et technologies de cybersurveillance que « les exportations qui entrent dans le cadre d’une utilisation légitime, contribuent au développement et au maintien d’un savoir-faire de l’industrie française dans le domaine de ces technologies de souveraineté, et peuvent s’inscrire dans le cadre de la coopération et des partenariats stratégiques que la France entretient avec certains pays ».