Et 9 de leurs collègues hommes

7,3 % des femmes élues au sein d’une Assemblée nationale européenne sont visées par des deepfakes pornographiques, calcule l’ONG Agora Digitale Transformation. Plus de deux fois plus nombreux au sein de ces chambres de représentation politique, leurs homologues masculins sont 0,2 % à subir ce type de désagrément qui peut servir à entacher la réputation ou alimenter des cyberharcèlements.

Les femmes parlementaires européennes encourent 33 fois plus de risques de retrouver leurs images manipulées ou associées à des deepfakes sexistes ou sexuels que leurs collègues masculins. Tel est le résultat auquel aboutit le think tank allemand Agora Digitale Transformation, après avoir répertorié le nombre d’élus au sein de parlements de pays européens dont l’image avait été utilisée pour générer des deepfakes pornographiques ou associées, d’une manière ou d’une autre, à ce type d’imagerie générée par IA.

Concrètement, sur 5 872 membres de parlements européens, l’ONG a identifié 138 femmes parlementaires victimes de ce type de manipulation d’images. Ces dernières sont issues de 22 des 27 États membres. Parmi leurs collègues hommes, pourtant plus de deux fois plus nombreux, neuf sont visés par ce type de manipulation.

Dans le détail, Agora Digitale Transformation établit que l’exposition à ce type de violence numérique touche plus fréquemment les femmes – comme c’est le cas pour diverses autres professions exposées, ou pour le grand public –, mais aussi celles et ceux qui bénéficient d’une plus grande visibilité institutionnelle.

• Deepfakes pornographiques : quels sont les enjeux ?

Le fait que leurs pays d’origine aient passé des lois spécifiquement dédiées à lutter contre les deepfakes pornographiques, comme c’est le cas en France ou en Italie, ne semble pas influer sur ces risques. Députée France Insoumise au Parlement européen, la Française Emma Fourreau s’est par exemple émue au mois de juillet de voir son image manipulée par IA par des comptes d’opposants politiques.

Élus dans les parlements monocaméraux ou les chambres basses européennes

Au total, Agora Digitale Transformation s’est penché sur les cas de 6 218 membres des chambres basses (l’Assemblée nationale en France) ou des parlements nationaux, lorsqu’ils sont constitués d’une chambre unique, dans les 27 États membres de l’Union. Après exclusion des sièges vacants, des personnes non-binaires et des membres non-attachés à un parti, elle a testé les noms de 94,4 % de ces représentants élus sur 160 noms de domaines connus pour leur hébergement de deepfake pornographique, de « celebrity leaks », c’est-à-dire des images publiques ou intimes de célébrités, et d’autres images sexistes ou sexuelles de femmes dans l’espace public.

En s’appuyant sur des requêtes vers l’API de Google, elle a ensuite classifié les résultats positifs selon six catégories : est-ce que des deepfakes NCII (non-consensual intimate images, images sexuelles non-consenties) étaient hébergés de manière active par le site web ? Est-ce qu’un outil de génération d’image était lié aux informations biographiques d’une personne dont le nom était explicitement cité ? Est-ce que le résultat incluait des images brutes ? Est-ce qu’il existait des traces de précédentes recherches pour le même type de contenu lié à la personne étudiée ?

Constat principal : les noms de 7,3 % des 1 888 députées femmes ainsi testés ont renvoyé des résultats positifs, contre ceux de 0,2 % des 3 837 hommes députés. Cela signifie qu’une élue sur quatorze risque de voir son image détournée à des fins sexistes ou sexuelles, contre un élu sur 500.

• En ligne, la misogynie utilisée pour saper la liberté d’expression

Des applications de « nudification » liées aux comptes de personnes réelles

Agora Digitale Transformation constate par ailleurs que les femmes aux postes à responsabilités – dirigeantes de parti, membres de cabinets ministériels – sont surreprésentées dans ces manipulations d’images. « Atteindre une plus grande visibilité médiatiques a un coût pour les femmes que les hommes atteignant des statuts similaires n’ont pas à payer », note le think tank. Les membres de partis de droite et de gauche sont par ailleurs légèrement surexposés par rapport à leurs collègues de partis centristes.

L’ONG relève par ailleurs l’existence de sites web qu’elle qualifie de « portails ». Ces derniers consistent à proposer du contenu officiel représentant un ou une parlementaire, et à y accoler des liens vers des applications dédiées à générer de l’imagerie sexualisée ou dénudée.

Dans son échantillon, elle indique que 61 sites web agissent de cette manière, en fournissant directement les images initiales susceptibles d’être détournées, tandis que 36 suggèrent de dénuder divers parlementaires, sans fournir les images initiales. Chaque fois, en revanche, ils fournissent des éléments biographiques pour reconnaître facilement la personne, et ses comptes sur les réseaux sociaux. Ces portails incluent des représentations sexistes ou sexuelles générées par IA pour trois parlementaires. Ils fournissent quelquefois des « notations » des corps des femmes ainsi visées.

Des productions de sites suspendus par les autorités restent indexées

Autre enjeu : au cours de l’enquête, le site CFake a été suspendu par une action conjointe des forces de l’ordre françaises et états-uniennes. En juillet 2026, son administrateur, un informaticien niçois de 47 ans, a été condamné à deux ans de prison avec sursis, à 10 000 euros d’amende, à la confiscation d’une partie de ses cryptoactifs et au versement de 83 000 euros d’indemnisation aux parties civiles

Agora Digitale Transformation est parvenue, dans certaines configurations, à retrouver plusieurs dizaines d’index de recherche liant des noms de parlementaires à des contenus supprimés de CFake. Ces derniers apparaissaient toujours dans l’API Google Custom Search plus d’un mois après leur suppression par les autorités. Si cela ne signifie pas que ces résultats soient simplement reproductibles via l’interface utilisateur du moteur de recherche, ce constat fait écho au récent article des universitaires Sarah Morgan, Sophie J. Nightingale et Hany Farid, dans lequel ces derniers pointent les dysfonctionnements du déréférencement de contenu illégal par des acteurs comme Google, Cloudflare ou Namecheap.

• Deepfakes sexuels : Cloudflare, Google et Namecheap accusés de ne pas agir suffisamment

Aux traditionnels appels à mettre des garde-fous en place dans les systèmes d’IA, pour les empêcher de générer des contenus non consentis, et à étendre le recours à la norme C2PA, qui permet de tracer les contenus, Agora Digitale Transformation enjoint donc à travailler sur la persistance des index de recherche. Tant que ceux-ci continuent de lier des noms de personnes réels à des contenus sexistes ou sexuels, quand bien même devenus inaccessibles, ils participent à perpétuer dans le temps les risques réputationnels et les éventuels effets psychologiques subis par les victimes.

Plus qu’à la multiplication de législation, l’ONG appelle enfin à mettre en œuvre les textes déjà existants. Aux Pays-Bas, par exemple, il n’existe pas de lois visant spécifiquement les deepfakes, mais ceux-ci sont activement poursuivis en s’appuyant sur des textes plus généraux, relatifs aux manipulations d’images ou à la protection de la vie privée. L’enjeu est d’autant plus important que dans divers pays, dont la France, les échéances électorales approchant risquent de multiplier les cas de manipulation de l’image de personnalités politiques.

• Deepfakes pornographiques : les défis à relever pour enrayer le phénomène

Et 9 de leurs collègues hommes

7,3 % des femmes élues au sein d’une Assemblée nationale européenne sont visées par des deepfakes pornographiques, calcule l’ONG Agora Digitale Transformation. Plus de deux fois plus nombreux au sein de ces chambres de représentation politique, leurs homologues masculins sont 0,2 % à subir ce type de désagrément qui peut servir à entacher la réputation ou alimenter des cyberharcèlements.

Les femmes parlementaires européennes encourent 33 fois plus de risques de retrouver leurs images manipulées ou associées à des deepfakes sexistes ou sexuels que leurs collègues masculins. Tel est le résultat auquel aboutit le think tank allemand Agora Digitale Transformation, après avoir répertorié le nombre d’élus au sein de parlements de pays européens dont l’image avait été utilisée pour générer des deepfakes pornographiques ou associées, d’une manière ou d’une autre, à ce type d’imagerie générée par IA.

Concrètement, sur 5 872 membres de parlements européens, l’ONG a identifié 138 femmes parlementaires victimes de ce type de manipulation d’images. Ces dernières sont issues de 22 des 27 États membres. Parmi leurs collègues hommes, pourtant plus de deux fois plus nombreux, neuf sont visés par ce type de manipulation.

Dans le détail, Agora Digitale Transformation établit que l’exposition à ce type de violence numérique touche plus fréquemment les femmes – comme c’est le cas pour diverses autres professions exposées, ou pour le grand public –, mais aussi celles et ceux qui bénéficient d’une plus grande visibilité institutionnelle.

• Deepfakes pornographiques : quels sont les enjeux ?

Le fait que leurs pays d’origine aient passé des lois spécifiquement dédiées à lutter contre les deepfakes pornographiques, comme c’est le cas en France ou en Italie, ne semble pas influer sur ces risques. Députée France Insoumise au Parlement européen, la Française Emma Fourreau s’est par exemple émue au mois de juillet de voir son image manipulée par IA par des comptes d’opposants politiques.

Élus dans les parlements monocaméraux ou les chambres basses européennes

Au total, Agora Digitale Transformation s’est penché sur les cas de 6 218 membres des chambres basses (l’Assemblée nationale en France) ou des parlements nationaux, lorsqu’ils sont constitués d’une chambre unique, dans les 27 États membres de l’Union. Après exclusion des sièges vacants, des personnes non-binaires et des membres non-attachés à un parti, elle a testé les noms de 94,4 % de ces représentants élus sur 160 noms de domaines connus pour leur hébergement de deepfake pornographique, de « celebrity leaks », c’est-à-dire des images publiques ou intimes de célébrités, et d’autres images sexistes ou sexuelles de femmes dans l’espace public.

En s’appuyant sur des requêtes vers l’API de Google, elle a ensuite classifié les résultats positifs selon six catégories : est-ce que des deepfakes NCII (non-consensual intimate images, images sexuelles non-consenties) étaient hébergés de manière active par le site web ? Est-ce qu’un outil de génération d’image était lié aux informations biographiques d’une personne dont le nom était explicitement cité ? Est-ce que le résultat incluait des images brutes ? Est-ce qu’il existait des traces de précédentes recherches pour le même type de contenu lié à la personne étudiée ?

Constat principal : les noms de 7,3 % des 1 888 députées femmes ainsi testés ont renvoyé des résultats positifs, contre ceux de 0,2 % des 3 837 hommes députés. Cela signifie qu’une élue sur quatorze risque de voir son image détournée à des fins sexistes ou sexuelles, contre un élu sur 500.

• En ligne, la misogynie utilisée pour saper la liberté d’expression

Des applications de « nudification » liées aux comptes de personnes réelles

Agora Digitale Transformation constate par ailleurs que les femmes aux postes à responsabilités – dirigeantes de parti, membres de cabinets ministériels – sont surreprésentées dans ces manipulations d’images. « Atteindre une plus grande visibilité médiatiques a un coût pour les femmes que les hommes atteignant des statuts similaires n’ont pas à payer », note le think tank. Les membres de partis de droite et de gauche sont par ailleurs légèrement surexposés par rapport à leurs collègues de partis centristes.

L’ONG relève par ailleurs l’existence de sites web qu’elle qualifie de « portails ». Ces derniers consistent à proposer du contenu officiel représentant un ou une parlementaire, et à y accoler des liens vers des applications dédiées à générer de l’imagerie sexualisée ou dénudée.

Dans son échantillon, elle indique que 61 sites web agissent de cette manière, en fournissant directement les images initiales susceptibles d’être détournées, tandis que 36 suggèrent de dénuder divers parlementaires, sans fournir les images initiales. Chaque fois, en revanche, ils fournissent des éléments biographiques pour reconnaître facilement la personne, et ses comptes sur les réseaux sociaux. Ces portails incluent des représentations sexistes ou sexuelles générées par IA pour trois parlementaires. Ils fournissent quelquefois des « notations » des corps des femmes ainsi visées.

Des productions de sites suspendus par les autorités restent indexées

Autre enjeu : au cours de l’enquête, le site CFake a été suspendu par une action conjointe des forces de l’ordre françaises et états-uniennes. En juillet 2026, son administrateur, un informaticien niçois de 47 ans, a été condamné à deux ans de prison avec sursis, à 10 000 euros d’amende, à la confiscation d’une partie de ses cryptoactifs et au versement de 83 000 euros d’indemnisation aux parties civiles

Agora Digitale Transformation est parvenue, dans certaines configurations, à retrouver plusieurs dizaines d’index de recherche liant des noms de parlementaires à des contenus supprimés de CFake. Ces derniers apparaissaient toujours dans l’API Google Custom Search plus d’un mois après leur suppression par les autorités. Si cela ne signifie pas que ces résultats soient simplement reproductibles via l’interface utilisateur du moteur de recherche, ce constat fait écho au récent article des universitaires Sarah Morgan, Sophie J. Nightingale et Hany Farid, dans lequel ces derniers pointent les dysfonctionnements du déréférencement de contenu illégal par des acteurs comme Google, Cloudflare ou Namecheap.

• Deepfakes sexuels : Cloudflare, Google et Namecheap accusés de ne pas agir suffisamment

Aux traditionnels appels à mettre des garde-fous en place dans les systèmes d’IA, pour les empêcher de générer des contenus non consentis, et à étendre le recours à la norme C2PA, qui permet de tracer les contenus, Agora Digitale Transformation enjoint donc à travailler sur la persistance des index de recherche. Tant que ceux-ci continuent de lier des noms de personnes réels à des contenus sexistes ou sexuels, quand bien même devenus inaccessibles, ils participent à perpétuer dans le temps les risques réputationnels et les éventuels effets psychologiques subis par les victimes.

Plus qu’à la multiplication de législation, l’ONG appelle enfin à mettre en œuvre les textes déjà existants. Aux Pays-Bas, par exemple, il n’existe pas de lois visant spécifiquement les deepfakes, mais ceux-ci sont activement poursuivis en s’appuyant sur des textes plus généraux, relatifs aux manipulations d’images ou à la protection de la vie privée. L’enjeu est d’autant plus important que dans divers pays, dont la France, les échéances électorales approchant risquent de multiplier les cas de manipulation de l’image de personnalités politiques.

• Deepfakes pornographiques : les défis à relever pour enrayer le phénomène

Epilation requise

Donald Trump a annoncé dimanche que Jay Clayton, directeur du renseignement national, devenait son nouveau tsar de l’IA, en charge du pilotage d’une nouvelle Super Intelligence Force (SIF). Cette dernière est chargée de rendre d’ici 120 jours un rapport sur les risques et les opportunités de l’intelligence artificielle.

Nommé directeur du renseignement national en juin dernier, Jay Clayton vient de gagner une nouvelle casquette : celle de « tsar de l’IA », c’est-à-dire conseiller spécial du président des États-Unis sur les sujets liés à l’intelligence artificielle.

À ce titre, qui se cumule à ses fonctions de supervision du renseignement à l’échelle nationale, Jay Clayton se voit confier le pilotage d’une mission baptisée Super Intelligence Force, ou SIF, chargée de coordonner l’action fédérale en matière d’encadrement et de développement de l’intelligence artificielle, que Donald Trump préfère désormais appeler « super intelligence ».

Une Super Intelligence Force pour coordonner l’action fédérale

Trump a annoncé la création de cette nouvelle entité dimanche sur son réseau social :

« La Super Intelligence Force a pour mission de coordonner les efforts du gouvernement fédéral afin de garantir que l’Amérique conserve son leadership mondial dans le domaine de la super intelligence, considéré par beaucoup comme plus important que la révolution industrielle et Internet, et qui protégera les intérêts et améliorera la vie de tous les Américains ».

Pour conduire cette mission, Jay Clayton sera entouré de trois vice-présidents : Andrew Ferguson, patron de la FTC (droit des consommateurs) ; Scott Kupor, le directeur de l’Office of Personnel Management, l’agence fédérale chargée de la fonction publique ; et Emil Michael, sous-secrétaire à la Défense chargé de la recherche et de l’ingénierie. Le quatuor rendra compte directement au président des États-Unis (« MOI! », écrit Trump) et à sa cheffe de cabinet, Susie Wiles.

Jay Clayton avait révélé le projet quelques heures plus tôt au Wall Street Journal. Il précise à ce dernier disposer d’une fenêtre de 120 jours pour formuler ses premières recommandations, extensible en cas de besoin.

Consulté par le quotidien économique, le document qui sert de socle à la création de la SIF prévoit que ce comité travaille à « des plans de réponse aux menaces que les technologies de l’information permettent de faire peser sur notre société, tout en prévenant la surréglementation et la mainmise des autorités sur le système, qui étoufferaient l’innovation et la concurrence ».

Il évoque notamment un modèle d’évaluation des risques élaboré en coordination avec les entreprises du secteur, un peu sur le modèle de ce que font déjà la SEC, le gendarme de la bourse, et la Réserve fédérale dans le domaine financier.

Rassurer sans réguler ?

En pratique, ce sont donc les acteurs de l’IA qui seront chargés de concevoir les outils dédiés à cette gestion du risque, la task force intervenant à la fois comme un interlocuteur et comme une courroie de transmission vers d’éventuelles actions gouvernementales ou fédérales visant à prévenir les risques en question. Autrement dit, la Super Intelligence Force n’a rien d’un régulateur : son rôle devrait se borner à la formulation de recommandations à l’issue de la fenêtre initiale de 120 jours.

Cette capacité d’intervention limitée s’inscrit dans le prolongement des annonces formulées par Donald Trump à l’issue d’un dîner organisé le 29 septembre avec les dirigeants des principales entreprises d’IA des États-Unis. La rencontre a abouti sur la signature d’un accord non contraignant, selon lequel les acteurs du secteur s’engagent à mettre en œuvre des contrôles renforcés pour surveiller les risques soulevés par leurs modèles de pointe et à ouvrir leurs portes à des auditeurs externes.

• Trump enterre toute régulation de l’IA, misant sur… la « responsabilité » des acteurs

Tout ça pour ça ? S’il maintient qu’il ne faut pas réguler le secteur, notamment pour que les États-Unis conservent leur rang dans la course à l’IA de pointe face à la Chine, Trump admet peut-être à demi-mots que l’opinion publique américaine a besoin de garanties quant à une forme de contrôle gouvernemental sur le développement du secteur.

D’après le Wall Street Journal, plusieurs de ses conseillers, dont sa cheffe de cabinet Susie Wiles et le secrétaire au Trésor Scott Bessent défendent cette idée, notamment pour contrer l’impopularité grandissante de l’IA aux États-Unis.

Cette dernière s’incarne au niveau local par les protestations contre l’implantation de nouveaux datacenters, devenues un véritable sujet électoral, mais elle infuse aussi plus largement, avec des craintes liées à la cybersécurité, ou à l’avènement de nouvelles formes d’attaques (chimiques, biologiques, etc.), elles-mêmes alimentées par le marketing de la peur des entreprises d’IA.

En attendant de voir si la création du SIF rassure l’électeur moyen, la double casquette de Jay Clayton risque de réveiller certaines défiances chez les défenseurs de la vie privée, remarque Politico : treize ans après les révélations d’Edward Snowden, elle crée en effet une proximité inédite entre renseignement national et politique fédérale en matière d’IA.

Epilation requise

Donald Trump a annoncé dimanche que Jay Clayton, directeur du renseignement national, devenait son nouveau tsar de l’IA, en charge du pilotage d’une nouvelle Super Intelligence Force (SIF). Cette dernière est chargée de rendre d’ici 120 jours un rapport sur les risques et les opportunités de l’intelligence artificielle.

Nommé directeur du renseignement national en juin dernier, Jay Clayton vient de gagner une nouvelle casquette : celle de « tsar de l’IA », c’est-à-dire conseiller spécial du président des États-Unis sur les sujets liés à l’intelligence artificielle.

À ce titre, qui se cumule à ses fonctions de supervision du renseignement à l’échelle nationale, Jay Clayton se voit confier le pilotage d’une mission baptisée Super Intelligence Force, ou SIF, chargée de coordonner l’action fédérale en matière d’encadrement et de développement de l’intelligence artificielle, que Donald Trump préfère désormais appeler « super intelligence ».

Une Super Intelligence Force pour coordonner l’action fédérale

Trump a annoncé la création de cette nouvelle entité dimanche sur son réseau social :

« La Super Intelligence Force a pour mission de coordonner les efforts du gouvernement fédéral afin de garantir que l’Amérique conserve son leadership mondial dans le domaine de la super intelligence, considéré par beaucoup comme plus important que la révolution industrielle et Internet, et qui protégera les intérêts et améliorera la vie de tous les Américains ».

Pour conduire cette mission, Jay Clayton sera entouré de trois vice-présidents : Andrew Ferguson, patron de la FTC (droit des consommateurs) ; Scott Kupor, le directeur de l’Office of Personnel Management, l’agence fédérale chargée de la fonction publique ; et Emil Michael, sous-secrétaire à la Défense chargé de la recherche et de l’ingénierie. Le quatuor rendra compte directement au président des États-Unis (« MOI! », écrit Trump) et à sa cheffe de cabinet, Susie Wiles.

Jay Clayton avait révélé le projet quelques heures plus tôt au Wall Street Journal. Il précise à ce dernier disposer d’une fenêtre de 120 jours pour formuler ses premières recommandations, extensible en cas de besoin.

Consulté par le quotidien économique, le document qui sert de socle à la création de la SIF prévoit que ce comité travaille à « des plans de réponse aux menaces que les technologies de l’information permettent de faire peser sur notre société, tout en prévenant la surréglementation et la mainmise des autorités sur le système, qui étoufferaient l’innovation et la concurrence ».

Il évoque notamment un modèle d’évaluation des risques élaboré en coordination avec les entreprises du secteur, un peu sur le modèle de ce que font déjà la SEC, le gendarme de la bourse, et la Réserve fédérale dans le domaine financier.

Rassurer sans réguler ?

En pratique, ce sont donc les acteurs de l’IA qui seront chargés de concevoir les outils dédiés à cette gestion du risque, la task force intervenant à la fois comme un interlocuteur et comme une courroie de transmission vers d’éventuelles actions gouvernementales ou fédérales visant à prévenir les risques en question. Autrement dit, la Super Intelligence Force n’a rien d’un régulateur : son rôle devrait se borner à la formulation de recommandations à l’issue de la fenêtre initiale de 120 jours.

Cette capacité d’intervention limitée s’inscrit dans le prolongement des annonces formulées par Donald Trump à l’issue d’un dîner organisé le 29 septembre avec les dirigeants des principales entreprises d’IA des États-Unis. La rencontre a abouti sur la signature d’un accord non contraignant, selon lequel les acteurs du secteur s’engagent à mettre en œuvre des contrôles renforcés pour surveiller les risques soulevés par leurs modèles de pointe et à ouvrir leurs portes à des auditeurs externes.

• Trump enterre toute régulation de l’IA, misant sur… la « responsabilité » des acteurs

Tout ça pour ça ? S’il maintient qu’il ne faut pas réguler le secteur, notamment pour que les États-Unis conservent leur rang dans la course à l’IA de pointe face à la Chine, Trump admet peut-être à demi-mots que l’opinion publique américaine a besoin de garanties quant à une forme de contrôle gouvernemental sur le développement du secteur.

D’après le Wall Street Journal, plusieurs de ses conseillers, dont sa cheffe de cabinet Susie Wiles et le secrétaire au Trésor Scott Bessent défendent cette idée, notamment pour contrer l’impopularité grandissante de l’IA aux États-Unis.

Cette dernière s’incarne au niveau local par les protestations contre l’implantation de nouveaux datacenters, devenues un véritable sujet électoral, mais elle infuse aussi plus largement, avec des craintes liées à la cybersécurité, ou à l’avènement de nouvelles formes d’attaques (chimiques, biologiques, etc.), elles-mêmes alimentées par le marketing de la peur des entreprises d’IA.

En attendant de voir si la création du SIF rassure l’électeur moyen, la double casquette de Jay Clayton risque de réveiller certaines défiances chez les défenseurs de la vie privée, remarque Politico : treize ans après les révélations d’Edward Snowden, elle crée en effet une proximité inédite entre renseignement national et politique fédérale en matière d’IA.

Trois actualités à retenir cette semaine dans le cyberespace, une faille critique qui a touché jusqu'à l'ANSSI elle-même, un décret présidentiel américain qui a déclenché une ruée sur les noms de domaine slovènes, et un rappel brutal des risques qu'on prend à tester ces moteurs de recherche alimentés par des données volées.

Le revendeur informatique lyonnais a prévenu ses clients qu'un acteur malveillant avait pu consulter une partie de leurs données personnelles. Les mots de passe et les informations bancaires ne sont pas concernés, selon l'entreprise, mais les données exposées suffisent à rendre des arnaques bien plus crédibles.

Let's agree to disagree

À Marseille, huit représentants des candidats à l’élection présidentielle ont débattu de l’intelligence artificielle sous l’égide des médias du groupe CMA-CGM. Entre souveraineté, réglementation et investissements dans les datacenters, les échanges ont surtout permis de rejouer les clivages existants entre les différentes forces en présence.

Quelle sera la vision stratégique de la France pour l’IA lors du prochain quinquennat ? Les médias du groupe CMA-CGM (BFM, La Tribune, Brut, La Provence) ont réuni le 25 septembre dernier huit représentants des candidats à l’élection présidentielle de 2027 pour ce qui devait être le premier « grand débat IA de la présidentielle ».

Organisé dans le cadre d’un événement commercial plus largement consacré à l’intelligence artificielle et à ses acteurs, le débat n’a pas permis aux huit forces en présence de confronter directement leurs points de vue. Il a en réalité pris la forme de deux tables rondes successives et relativement déséquilibrées.

La première réunissait un candidat déclaré, Olivier Faure (Parti socialiste), un probable candidat, Xavier Bertrand (Les Républicains, mais qui parle de se lancer en indépendant), et trois lieutenants : Sarah Knafo pour Reconquête, Manuel Bompard pour La France insoumise et Alexandre Loubet pour le Rassemblement national.

Deux représentants du bloc central, Paul Midy pour Renaissance et Laurent Marcangeli pour Horizons, et le député européen David Cormand pour Les écologistes, ont ensuite embrayé pour une seconde séquence.

L’IA entre menaces et opportunités

Relativement convenue, la question n’en est pas moins importante, particulièrement pour ce débat thématisé qui constitue une première dans la campagne en cours : l’IA doit-elle être perçue comme une menace ou comme une opportunité ?

Tous s’accordent à dire que l’IA, générative ou non, est un vecteur de progrès, mais que les ruptures qu’elle est susceptible d’entraîner soulèvent des risques dont le politique doit s’emparer. Pour Sarah Knafo et Xavier Bertrand, il serait contre-productif, voire dangereux, d’aller contre le mouvement. « L’IA est là, soit on surfe sur cette vague, soit on va se réfugier dans un château-fort et on commence à faire bouillir de l’eau », ironise le président de la région Hauts-de-France. « Soit nous la maitrisons, soit nous la subirons », soutient également Alexandre Loubet, conseiller de Jordan Bardella au RN.

• Pour Bruno Retailleau, l’IA « n’attend pas notre consentement »

Les trois évoquent le risque que prendrait la France à se laisser dépasser par les acteurs étrangers, États-Unis et Chine en tête. « Les Français se sont emparés de l’IA bien avant leurs politiques », lance Sarah Knafo, selon qui la classe dirigeante actuelle ferait preuve de dédain vis-à-vis de la technologie, quand d’autres pays ne s’embarrassent pas d’autant de scrupules. La représentante de Reconquête se dit opposée à toute régulation, notamment pour tout ce qui touche aux risques de type deepfakes ou tentatives d’extorsion : « pour ça, on a notre code pénal. Les faussaires existent depuis toujours ».

Les « lookups », ces moteurs de recherche alimentés par des données volées, refont régulièrement surface dans l'espace médiatique en France, attisant mécaniquement la curiosité. Ceux qui les consultent s'exposent pourtant à de très nombreux risques.

Ev février dernier, Jean-Baptiste Kempf avait menacé de quitter la France après le refus du ministère de la Justice de laisser son épouse accéder à la magistrature. Audrey Prévost figure désormais parmi les candidats définitivement admis au concours, dans un texte publié au Journal officiel le 30 septembre 2026.

L'Agence nationale de la sécurité des systèmes d'information (ANSSI) a révélé que son laboratoire d'innovation et la Dinum figuraient parmi les victimes d'une vulnérabilité critique du logiciel Metabase, exploitée massivement depuis début août.

🤢️

Alors que le procès d’un membre du réseau 764 va s’ouvrir à Paris la semaine prochaine, l’association e-Enfance pointe l’explosion des violences faites aux mineurs sur la plateforme Discord.

Attention : le sujet de cet article est particulièrement difficile et certains détails évoqués peuvent heurter.

Le 5 octobre prochain s’ouvrira, devant la cour d’assises de Paris, le procès d’un des leaders présumés du groupe CVLT (rebaptisé « 764 »), accusé de tortures et actes de barbarie sur douze filles âgées de 11 à 16 ans.

Cet homme, qui reconnaît une fascination depuis son adolescence pour « la fraternité aryenne et le fascisme », comme l’expliquait Nice Matin en mars 2025, est accusé d’avoir attiré et piégé des adolescentes via un forum Discord qu’il administrait pour notamment les forcer à s’infliger des actes de tortures sexuelles.

• Les ados, cibles de choix des recruteurs djihadistes, néo-nazis et des espions russes
• Europol alerte sur l’essor de communautés en ligne dédiées à torturer des enfants

e-Enfance a annoncé qu’elle se constituait partie civile dans ce procès. Cette association – qui gère le numéro de téléphone 3018 de signalement pour les victimes de cyberharcèlement – a tenu à souligner l’augmentation du nombre de signalements visant Discord pour la première moitié de cette année 2026.

Rappelons que, sur Discord, la modération repose surtout sur les administrateurs et éventuels modérateurs de chaque serveur, et que la modération y est très variable. L’entreprise est quand même responsable de la gestion des signalements des « signaleurs de confiance » prévus par le DSA.

Une augmentation importante des signalements à propos de Discord en 2026

e-Enfance, premier signaleur de confiance en France, assure [PDF] avoir reçu 138 signalements entre le 1er janvier et le 30 juin dernier, « contre 44 pour l’ensemble de l’année 2025 : en seulement six mois, ce volume dépasse le triple de celui enregistré sur toute l’année 2025 », s’alarme l’association. Elle ajoute que l’analyse effectuée par son observatoire « identifie une proportion croissante de faits d’une particulière gravité : exploitation sexuelle de mineurs, extorsion, grooming, doxing assorti de menaces de mort ou de swatting ». Et elle souligne que certains signalements « traduisent des modes opératoires rattachables à des mouvances extrémistes violentes issues du réseau cybercriminel « The Com » [dont fait partie CVLT/« 764 »] ».

Son observatoire pointe les manquements de Discord suite aux signalements : « un taux de retrait des contenus signalés limité à 33 % », constate l’association. Elle explique ce faible taux par la condition imposée par la plateforme de l’envoi de l’identifiant utilisateur Discord de l’auteur pour considérer toute notification émise par le 3018. Mais cette information est « difficile d’accès pour les victimes , et rendue inaccessible lorsque celles-ci ont bloqué l’auteur des faits », ajoute e-Enfance. Pour appuyer son analyse, l’association affirme que, depuis le début de l’année, 15 signalements sont dans ce cas, dont 13 concernent des victimes mineures.

Un mécanisme d’extorsion sexuelle envers les mineurs

« Un signalement concernant une adolescente de 14 ans, contrainte à produire des contenus sexuels violents selon un mode opératoire rattachable à la mouvance « The Com », a ainsi pu être transmis au parquet au titre de l’article 40 alinéa 1 du Code de procédure pénale, sans qu’aucune notification ait pu être adressée à Discord », ajoute l’association.

France Info a eu accès à des enregistrements d’enfants victimes de harcèlement et d’extorsion sexuelle et décrit le mécanisme mis en place en citant plusieurs exemples. « Il a commencé à me dire ‘Maintenant, tu es à moi, tu ne parles plus à personne et dès que je te demande un truc, tu le fais », confie une lycéenne. De son côté, un garçon, incité à se dénuder par un adulte se faisant passer pour un jeune joueur, explique : « Il m’a dit « j’ai tes données personnelles, envoie tes parties [intimes], sinon je vais divulguer tes infos personnelles, ton adresse, ton prénom, tout ce qu’il y a sur toi ».

e-Enfance explique que son observatoire a identifié, au premier semestre de cette année, 4 signalements « portant sur des faits particulièrement graves commis à l’encontre de mineurs sur Discord : incitation à l’automutilation, contrainte à la production de contenus sexuels violents et dégradants, exposition à des contenus de torture et de mort, discours de domination et d’emprise ». L’association juge « inégales » les réponses apportées par Discord et souligne que, concernant l’un d’entre eux, la plateforme a affirmé avoir pris des « mesures appropriées », « sans en préciser la nature, ni transmission au NCMEC (National Center for Missing and Exploited Children), malgré la gravité des faits ».

• Contenus pédocriminels : Telegram rattrapé par ses problèmes de modération
• Grok aurait généré 7 000 deepfakes pédocriminels d’une mineure pour son beau-père

Contactée par Next, Discord n’a pas directement réagi aux affirmations d’e-Enfance. Elle affirme cependant qu’elle « s‘engage pleinement en faveur de la sécurité de ses utilisateurs » et qu’elle « souhaite que [sa] plateforme de communication soit le lieu idéal où les amis peuvent échanger avant, pendant et après leurs parties ». L’entreprise rappelle que ses conditions d’utilisation prévoient que « tous les utilisateurs doivent être âgés d’au moins 13 ans ». Et elle met en avant que « contrairement aux réseaux sociaux qui utilisent des algorithmes pour sélectionner les contenus et maximiser l’engagement, notre service s’efforce de favoriser des interactions et des liens naturels, en temps réel », en oubliant qu’elle est responsable de la modération des contenus signalés concernant ces liens réels.

« Nous combinons des technologies de pointe et des équipes de modération formées pour détecter et supprimer de manière proactive les contenus qui enfreignent nos règles. Nous mettons en œuvre des systèmes robustes destinés à empêcher la propagation de l’exploitation sexuelle et du grooming sur notre plateforme, et nous collaborons également avec d’autres entreprises technologiques et organismes de sécurité afin d’améliorer la sécurité en ligne sur l’ensemble d’Internet », assure Discord. Enfin, elle évoque l’existence de son « Discord Family Center ».

La plateforme a aussi commencé le déploiement mondial de ses outils de contrôle de l’âge qui catégorisent automatiquement les utilisateurs selon les données qu’elle a recueillies sur eux.

🤢️

Alors que le procès d’un membre du réseau 764 va s’ouvrir à Paris la semaine prochaine, l’association e-Enfance pointe l’explosion des violences faites aux mineurs sur la plateforme Discord.

Attention : le sujet de cet article est particulièrement difficile et certains détails évoqués peuvent heurter.

Le 5 octobre prochain s’ouvrira, devant la cour d’assises de Paris, le procès d’un des leaders présumés du groupe CVLT (rebaptisé « 764 »), accusé de tortures et actes de barbarie sur douze filles âgées de 11 à 16 ans.

Cet homme, qui reconnaît une fascination depuis son adolescence pour « la fraternité aryenne et le fascisme », comme l’expliquait Nice Matin en mars 2025, est accusé d’avoir attiré et piégé des adolescentes via un forum Discord qu’il administrait pour notamment les forcer à s’infliger des actes de tortures sexuelles.

• Les ados, cibles de choix des recruteurs djihadistes, néo-nazis et des espions russes
• Europol alerte sur l’essor de communautés en ligne dédiées à torturer des enfants

e-Enfance a annoncé qu’elle se constituait partie civile dans ce procès. Cette association – qui gère le numéro de téléphone 3018 de signalement pour les victimes de cyberharcèlement – a tenu à souligner l’augmentation du nombre de signalements visant Discord pour la première moitié de cette année 2026.

Rappelons que, sur Discord, la modération repose surtout sur les administrateurs et éventuels modérateurs de chaque serveur, et que la modération y est très variable. L’entreprise est quand même responsable de la gestion des signalements des « signaleurs de confiance » prévus par le DSA.

Une augmentation importante des signalements à propos de Discord en 2026

e-Enfance, premier signaleur de confiance en France, assure [PDF] avoir reçu 138 signalements entre le 1er janvier et le 30 juin dernier, « contre 44 pour l’ensemble de l’année 2025 : en seulement six mois, ce volume dépasse le triple de celui enregistré sur toute l’année 2025 », s’alarme l’association. Elle ajoute que l’analyse effectuée par son observatoire « identifie une proportion croissante de faits d’une particulière gravité : exploitation sexuelle de mineurs, extorsion, grooming, doxing assorti de menaces de mort ou de swatting ». Et elle souligne que certains signalements « traduisent des modes opératoires rattachables à des mouvances extrémistes violentes issues du réseau cybercriminel « The Com » [dont fait partie CVLT/« 764 »] ».

Son observatoire pointe les manquements de Discord suite aux signalements : « un taux de retrait des contenus signalés limité à 33 % », constate l’association. Elle explique ce faible taux par la condition imposée par la plateforme de l’envoi de l’identifiant utilisateur Discord de l’auteur pour considérer toute notification émise par le 3018. Mais cette information est « difficile d’accès pour les victimes , et rendue inaccessible lorsque celles-ci ont bloqué l’auteur des faits », ajoute e-Enfance. Pour appuyer son analyse, l’association affirme que, depuis le début de l’année, 15 signalements sont dans ce cas, dont 13 concernent des victimes mineures.

Un mécanisme d’extorsion sexuelle envers les mineurs

« Un signalement concernant une adolescente de 14 ans, contrainte à produire des contenus sexuels violents selon un mode opératoire rattachable à la mouvance « The Com », a ainsi pu être transmis au parquet au titre de l’article 40 alinéa 1 du Code de procédure pénale, sans qu’aucune notification ait pu être adressée à Discord », ajoute l’association.

France Info a eu accès à des enregistrements d’enfants victimes de harcèlement et d’extorsion sexuelle et décrit le mécanisme mis en place en citant plusieurs exemples. « Il a commencé à me dire ‘Maintenant, tu es à moi, tu ne parles plus à personne et dès que je te demande un truc, tu le fais », confie une lycéenne. De son côté, un garçon, incité à se dénuder par un adulte se faisant passer pour un jeune joueur, explique : « Il m’a dit « j’ai tes données personnelles, envoie tes parties [intimes], sinon je vais divulguer tes infos personnelles, ton adresse, ton prénom, tout ce qu’il y a sur toi ».

e-Enfance explique que son observatoire a identifié, au premier semestre de cette année, 4 signalements « portant sur des faits particulièrement graves commis à l’encontre de mineurs sur Discord : incitation à l’automutilation, contrainte à la production de contenus sexuels violents et dégradants, exposition à des contenus de torture et de mort, discours de domination et d’emprise ». L’association juge « inégales » les réponses apportées par Discord et souligne que, concernant l’un d’entre eux, la plateforme a affirmé avoir pris des « mesures appropriées », « sans en préciser la nature, ni transmission au NCMEC (National Center for Missing and Exploited Children), malgré la gravité des faits ».

• Contenus pédocriminels : Telegram rattrapé par ses problèmes de modération
• Grok aurait généré 7 000 deepfakes pédocriminels d’une mineure pour son beau-père

Contactée par Next, Discord n’a pas directement réagi aux affirmations d’e-Enfance. Elle affirme cependant qu’elle « s‘engage pleinement en faveur de la sécurité de ses utilisateurs » et qu’elle « souhaite que [sa] plateforme de communication soit le lieu idéal où les amis peuvent échanger avant, pendant et après leurs parties ». L’entreprise rappelle que ses conditions d’utilisation prévoient que « tous les utilisateurs doivent être âgés d’au moins 13 ans ». Et elle met en avant que « contrairement aux réseaux sociaux qui utilisent des algorithmes pour sélectionner les contenus et maximiser l’engagement, notre service s’efforce de favoriser des interactions et des liens naturels, en temps réel », en oubliant qu’elle est responsable de la modération des contenus signalés concernant ces liens réels.

« Nous combinons des technologies de pointe et des équipes de modération formées pour détecter et supprimer de manière proactive les contenus qui enfreignent nos règles. Nous mettons en œuvre des systèmes robustes destinés à empêcher la propagation de l’exploitation sexuelle et du grooming sur notre plateforme, et nous collaborons également avec d’autres entreprises technologiques et organismes de sécurité afin d’améliorer la sécurité en ligne sur l’ensemble d’Internet », assure Discord. Enfin, elle évoque l’existence de son « Discord Family Center ».

La plateforme a aussi commencé le déploiement mondial de ses outils de contrôle de l’âge qui catégorisent automatiquement les utilisateurs selon les données qu’elle a recueillies sur eux.

Critiquer les conditions de travail dans les entrepôts d’Amazon, pour l’art, trop clivant ? C’est l’avis de Yannick Le Roux, maire d’extrême droite de la ville de Vierzon, dans le Cher.

Le 1^er avril 2027, le comédien Aurélien Labruyère, coauteur du seul en scène Amazonia, devait jouer son spectacle au théâtre Mac-Nab, la salle municipale de Vierzon. Mais en ce mois de septembre, la programmatrice de la salle annonce à son équipe que le spectacle est déprogrammé. 
La justification ? « La commande politique du maire, c’est de dépolitiser au maximum les spectacles et de mettre l’accent sur le beau », selon les termes du cabinet du maire rapportés par Mediapart.

Exit, donc, ce spectacle inspiré de l’histoire du syndicaliste Christian Porta : une partie du seul en scène s’intéresse à son arrivée chez Amazon pour tenter d’y organiser les travailleurs d’un entrepôt subissant des conditions de travail difficiles, une autre, le combat du syndicaliste aux prud’hommes, contre le géant de la livraison.

Pour Aurélien Labruyère, cette décision constitue une « grave atteinte à la liberté de création », ce que conteste le cabinet du maire. Toujours auprès de Médiapart, ce dernier rétorque : « Vous avez tout à fait la possibilité de continuer à créer et de vous produire, ailleurs ».

Pour la compagnie, la décision illustre aussi l’hypocrisie du Rassemblement National, qui « prétend défendre les ouvriers, les petites gens », mais décide d’empêcher les spectacles qui évoquent leur vie, rythmes chronométrés et accidents du travail compris.

En 2024, la filiale française d’Amazon avait été condamnée à 32 millions d’euros par la CNIL pour avoir surveillé de manière disproportionnée les cadences de ses salariés.

• Surveillance des salariés : la CNIL inflige une amende de 32 millions d’euros à Amazon

La mairie de Vierzon l’assure : sa décision n’implique aucune prise de parti « pour ou contre Amazon », mais simplement le refus de voir le théâtre Mac-Nab produire des « choses politiques ». Nul doute qu’Amazon, dont la messagerie interne interdisait, en 2022, les termes « syndicat » et « injuste », appréciera.

À une trentaine de kilomètres de Vierzon, le maire divers gauche de la ville de Bourges, qui sera Capitale européenne de la culture en 2028, a indiqué ouvrir ses portes pour accueillir Amazonia.

• Black Friday, Cyber Monday : des travailleurs d’Amazon en grève partout sur la planète

Critiquer les conditions de travail dans les entrepôts d’Amazon, pour l’art, trop clivant ? C’est l’avis de Yannick Le Roux, maire d’extrême droite de la ville de Vierzon, dans le Cher.

Le 1^er avril 2027, le comédien Aurélien Labruyère, coauteur du seul en scène Amazonia, devait jouer son spectacle au théâtre Mac-Nab, la salle municipale de Vierzon. Mais en ce mois de septembre, la programmatrice de la salle annonce à son équipe que le spectacle est déprogrammé. 
La justification ? « La commande politique du maire, c’est de dépolitiser au maximum les spectacles et de mettre l’accent sur le beau », selon les termes du cabinet du maire rapportés par Mediapart.

Exit, donc, ce spectacle inspiré de l’histoire du syndicaliste Christian Porta : une partie du seul en scène s’intéresse à son arrivée chez Amazon pour tenter d’y organiser les travailleurs d’un entrepôt subissant des conditions de travail difficiles, une autre, le combat du syndicaliste aux prud’hommes, contre le géant de la livraison.

Pour Aurélien Labruyère, cette décision constitue une « grave atteinte à la liberté de création », ce que conteste le cabinet du maire. Toujours auprès de Médiapart, ce dernier rétorque : « Vous avez tout à fait la possibilité de continuer à créer et de vous produire, ailleurs ».

Pour la compagnie, la décision illustre aussi l’hypocrisie du Rassemblement National, qui « prétend défendre les ouvriers, les petites gens », mais décide d’empêcher les spectacles qui évoquent leur vie, rythmes chronométrés et accidents du travail compris.

En 2024, la filiale française d’Amazon avait été condamnée à 32 millions d’euros par la CNIL pour avoir surveillé de manière disproportionnée les cadences de ses salariés.

• Surveillance des salariés : la CNIL inflige une amende de 32 millions d’euros à Amazon

La mairie de Vierzon l’assure : sa décision n’implique aucune prise de parti « pour ou contre Amazon », mais simplement le refus de voir le théâtre Mac-Nab produire des « choses politiques ». Nul doute qu’Amazon, dont la messagerie interne interdisait, en 2022, les termes « syndicat » et « injuste », appréciera.

À une trentaine de kilomètres de Vierzon, le maire divers gauche de la ville de Bourges, qui sera Capitale européenne de la culture en 2028, a indiqué ouvrir ses portes pour accueillir Amazonia.

• Black Friday, Cyber Monday : des travailleurs d’Amazon en grève partout sur la planète

Des identifiants volés, des accès trop ouverts et une exfiltration de données passée inaperçue. Dans un rapport publié le 29 septembre 2026, l'ANSSI revient sur le piratage de la DGFiP, qu'elle décrit comme révélateur de faiblesses structurelles.

It's not AI bug, it's AI feature

OpenAI a reconnu que des sites du gouvernement états-unien avaient été attaqués par certains de ses agents IA, portant le nombre d’incidents documentés à plus de quinze. En élargissant le spectre à Anthropic et aux découvertes faites par des chercheurs extérieurs, le nombre d’incidents problématiques se chiffrerait en « dizaines de milliers ». En attendant, OpenAI a suspendu les activités d’entraînement de ses modèles les plus performants.

OpenAI a reconnu vendredi 25 septembre avoir appris que certains de ses agents IA avaient perturbé le fonctionnement des sites web des ministères états-uniens de l’Éducation et du Commerce, ainsi que de la Commission des opérations de bourse (SEC), rapporte le New York Times.

Selon des chercheurs du cabinet de recherche en IA Transluce, la technologie d’OpenAI a en effet tenté de pirater le site web du ministère de l’Éducation afin de collecter des données auprès du bureau des droits civiques de ce dernier, mais sans succès.

L’IA a également extrait des données du site web du Bureau du recensement, qui relève du ministère du Commerce, en utilisant des identifiants de connexion trouvés en ligne. Par ailleurs, des agents d’OpenAI ont aussi partagé des données publiques provenant du site web de la SEC sur un forum en ligne.

Des révélations qui font suite à l’annonce, en marge de la réunion du Conseil de sécurité de l’ONU consacrée aux risques de l’IA qui se tenait la semaine passée, que des sites du gouvernement australien avaient eux aussi été attaqués. Réunion qui avait vu de nombreux pays, mais également les principaux patrons des IA, en appeler à une régulation mondiale.

• À l’ONU, les patrons de l’IA réclament une régulation mondiale

OpenAI suspend les activités d’entraînement de ses modèles les plus performants

OpenAI a également révélé avoir identifié 53 cas d’images partagées par des utilisateurs avec ChatGPT qui ont été publiées sur des sites d’hébergement d’images sous forme de liens non accessibles au public. Ces images provenaient de comptes dont les propriétaires avaient autorisé l’utilisation de leurs données pour améliorer les modèles. OpenAI précise avoir dissocié ces images de leurs comptes respectifs avant de les soumettre à un filtre de confidentialité.

Autre révélation d’OpenAI : un agent IA a conclu qu’il pouvait accéder à l’Internet public via un résolveur DNS. Son objectif était de savoir si un service de domaine public pouvait aider à déléguer une recherche vers une adresse intégrée dans le nom d’hôte : « Notre système de surveillance des désalignements a détecté cette anomalie en moins de 15 minutes, et une personne a commencé à l’examiner trois minutes plus tard. L’exécution a été interrompue 2 heures et demie plus tard. »

« Toutes les activités d’entraînement, d’évaluation et d’inférence liées à l’utilisation d’outils (au sens large) de nos modèles les plus performants restent suspendues », rajoute OpenAI.

Sam Altman a de son côté déclaré vendredi que l’entreprise n’avait « pas agi aussi rapidement qu’elle l’aurait souhaité » pour rendre publics ces incidents. « Nous établissons nos priorités du mieux que nous pouvons en fonction de la gravité », ajoutant que la violation de données chez Hugging Face en juillet dernier restait « l’incident le plus grave » que l’entreprise ait découvert.

• OpenAI : haute voltige marketing autour de l’attaque contre Hugging Face

Pour OpenAI, ces incidents ne constituent pas des failles de sécurité

L’entreprise a précisé qu’aucun de ces incidents ne constituait une faille de sécurité, mais qu’il s’agissait néanmoins d’exemples illustrant le comportement inattendu et préoccupant de sa technologie. « La plupart des activités que nous avons examinées jusqu’à présent concernaient des tâches de recherche courantes, telles que l’accès à des contenus web publics pour répondre à des questions », a précisé une porte-parole d’OpenAI au NYT. « Certaines concernaient des sites web gouvernementaux, car nos modèles s’y réfèrent souvent comme à des sources fiables d’informations publiques. »

Transluce, le labo de recherche IA a révélé la semaine passée que des agents d’OpenAI ont tenté de pirater deux sites gouvernementaux australiens. Il précise que ces incidents avaient comme points communs des agents IA cherchant à sonder des sites web gouvernementaux à l’aide de tactiques telles que l’utilisation d’identifiants exposés, le contournement des systèmes anti-bots et la création de faux comptes.

• Des agents IA d’OpenAI ont tenté de pirater deux sites gouvernementaux australiens

Sur le dossier australien, OpenAI veut faire amende honorable. « Nous sommes désolés et nous nous efforçons de faire mieux à l’avenir », écrit l’entreprise dans un billet de blog. « Les gens veulent savoir que l’IA est développée en toute sécurité, et cela commence par ce que les entreprises comme la nôtre font elles-mêmes. »

Histoire de montrer patte blanche, elle a annoncé plusieurs mesures : soutien aux agences touchées, financement et assistance technique pour renforcer la cybersécurité des infrastructures critiques, et la création d’une « task force » australienne afin de proposer des améliorations pour les alertes, la coordination avec les pouvoirs publics et la protection des systèmes du gouvernement.

Samedi, le chercheur en sécurité Rowan Howard-Jones révélait que des agents d’OpenAI avaient tenté d’attaquer par force brute l’API du site statistique de la Conférence des Nations unies sur le commerce et le développement (CNUCED) plus de 16 000 fois entre avril et juin.

Ils semblaient avoir pour mission de collecter des données relatives à l’indice des capacités de production (PCI), aux secteurs exportateurs, au commerce des denrées alimentaires et à d’autres thèmes. Ils ont utilisé des proxys, des techniques d’obfuscation et même le jeu XSS de Google, créé pour familiariser ses utilisateurs à la notion de failles de sécurité XSS (pour cross-site scripting).

Des modus operandi faisant clairement penser à ceux utilisés dans les tentatives de piratage des sites gouvernementaux australiens. Les agents IA, bridés dans leur accès au web, chercheraient ainsi à répondre aux questions qui leur sont posées, par quelque moyen que ce soit, quitte à utiliser des tactiques, techniques et procédures (TTP) relevant du piratage informatique.

• Le storytelling autour de la sécurité des agents IA a « perdu le contact avec la réalité »

Une quinzaine de cas documentés, pour l’instant

En se basant sur une source interne, Reuters écrivait ce samedi qu’OpenAI avait recensé « environ deux douzaines d’incidents au cours desquels ses agents avaient agi de manière indésirable » mi-septembre. Deux personnes proches de l’entreprise précisaient à l’agence que le chiffre n’a depuis cessé d’augmenter, à mesure que les équipes d’OpenAI examinent les journaux internes relatifs aux activités des agents, et découvrent des cas jusqu’alors inconnus.

Une centaine de personnes auraient en effet été impliquées d’une manière ou d’une autre dans le processus visant à élucider le piratage de Hugging Face. Au cours de ce processus, des indices laissent supposer que d’autres incidents ont été mis au jour, dont « [une quinzaine] présentant des niveaux de gravité variables, (…) révélés par l’entreprise ».

• Chez OpenAI, six nouveaux exemples d’agents « désalignés », dont un s’est servi de Gofile

De nombreux incidents ont par ailleurs été mis au jour par des chercheurs externes plutôt que par OpenAI directement, durant lesquels les agents ont procédé à des actions problématiques passées inaperçues au sein de l’entreprise pendant des mois.

OpenAI a indiqué que son examen « prendrait plusieurs mois, compte tenu de l’ampleur de la tâche », souligne Reuters. L’entreprise précisait également avoir d’ores et déjà signalé des activités inappropriées à des dizaines d’entreprises et organismes tiers.

Des « dizaines de milliers d’incidents » en cours d’examen

OpenAI n’est pas la seule entreprise de l’IA concernée par cette vague d’agents rebelles. Le site Axios a ainsi assuré qu’OpenAI donc, mais aussi Anthropic ainsi que des chercheurs en sécurité et en « sûreté de l’IA » (« AI Safety ») enquêtent actuellement sur « des dizaines de milliers d’incidents au cours desquels leurs modèles de pointe ont pris des mesures que des évaluateurs externes jugeraient problématiques ».

Ces incidents se sont produits lors de tests internes et en conditions réelles, et bon nombre d’entre eux n’ont pas encore été rendus publics, les chercheurs en sécurité poursuivant leurs investigations, précisent les sources.

OpenAI a annoncé le suspension de l’entraînement de ses modèles les plus performants et qu’il ne reprendrait « que lorsque nous serons certains d’avoir mis en place des mesures de sécurité supplémentaires et des améliorations en matière d’alignement », a déclaré un porte-parole. Il a ajouté que « ce n’est pas la première fois que nous faisons une pause pour prendre de telles mesures, et nous ne pensons pas que ce sera la dernière, car les capacités de l’IA ne cessent de progresser ».

It's not AI bug, it's AI feature

OpenAI a reconnu que des sites du gouvernement états-unien avaient été attaqués par certains de ses agents IA, portant le nombre d’incidents documentés à plus de quinze. En élargissant le spectre à Anthropic et aux découvertes faites par des chercheurs extérieurs, le nombre d’incidents problématiques se chiffrerait en « dizaines de milliers ». En attendant, OpenAI a suspendu les activités d’entraînement de ses modèles les plus performants.

OpenAI a reconnu vendredi 25 septembre avoir appris que certains de ses agents IA avaient perturbé le fonctionnement des sites web des ministères états-uniens de l’Éducation et du Commerce, ainsi que de la Commission des opérations de bourse (SEC), rapporte le New York Times.

Selon des chercheurs du cabinet de recherche en IA Transluce, la technologie d’OpenAI a en effet tenté de pirater le site web du ministère de l’Éducation afin de collecter des données auprès du bureau des droits civiques de ce dernier, mais sans succès.

L’IA a également extrait des données du site web du Bureau du recensement, qui relève du ministère du Commerce, en utilisant des identifiants de connexion trouvés en ligne. Par ailleurs, des agents d’OpenAI ont aussi partagé des données publiques provenant du site web de la SEC sur un forum en ligne.

Des révélations qui font suite à l’annonce, en marge de la réunion du Conseil de sécurité de l’ONU consacrée aux risques de l’IA qui se tenait la semaine passée, que des sites du gouvernement australien avaient eux aussi été attaqués. Réunion qui avait vu de nombreux pays, mais également les principaux patrons des IA, en appeler à une régulation mondiale.

• À l’ONU, les patrons de l’IA réclament une régulation mondiale

OpenAI suspend les activités d’entraînement de ses modèles les plus performants

OpenAI a également révélé avoir identifié 53 cas d’images partagées par des utilisateurs avec ChatGPT qui ont été publiées sur des sites d’hébergement d’images sous forme de liens non accessibles au public. Ces images provenaient de comptes dont les propriétaires avaient autorisé l’utilisation de leurs données pour améliorer les modèles. OpenAI précise avoir dissocié ces images de leurs comptes respectifs avant de les soumettre à un filtre de confidentialité.

Autre révélation d’OpenAI : un agent IA a conclu qu’il pouvait accéder à l’Internet public via un résolveur DNS. Son objectif était de savoir si un service de domaine public pouvait aider à déléguer une recherche vers une adresse intégrée dans le nom d’hôte : « Notre système de surveillance des désalignements a détecté cette anomalie en moins de 15 minutes, et une personne a commencé à l’examiner trois minutes plus tard. L’exécution a été interrompue 2 heures et demie plus tard. »

« Toutes les activités d’entraînement, d’évaluation et d’inférence liées à l’utilisation d’outils (au sens large) de nos modèles les plus performants restent suspendues », rajoute OpenAI.

Sam Altman a de son côté déclaré vendredi que l’entreprise n’avait « pas agi aussi rapidement qu’elle l’aurait souhaité » pour rendre publics ces incidents. « Nous établissons nos priorités du mieux que nous pouvons en fonction de la gravité », ajoutant que la violation de données chez Hugging Face en juillet dernier restait « l’incident le plus grave » que l’entreprise ait découvert.

• OpenAI : haute voltige marketing autour de l’attaque contre Hugging Face

Pour OpenAI, ces incidents ne constituent pas des failles de sécurité

L’entreprise a précisé qu’aucun de ces incidents ne constituait une faille de sécurité, mais qu’il s’agissait néanmoins d’exemples illustrant le comportement inattendu et préoccupant de sa technologie. « La plupart des activités que nous avons examinées jusqu’à présent concernaient des tâches de recherche courantes, telles que l’accès à des contenus web publics pour répondre à des questions », a précisé une porte-parole d’OpenAI au NYT. « Certaines concernaient des sites web gouvernementaux, car nos modèles s’y réfèrent souvent comme à des sources fiables d’informations publiques. »

Transluce, le labo de recherche IA a révélé la semaine passée que des agents d’OpenAI ont tenté de pirater deux sites gouvernementaux australiens. Il précise que ces incidents avaient comme points communs des agents IA cherchant à sonder des sites web gouvernementaux à l’aide de tactiques telles que l’utilisation d’identifiants exposés, le contournement des systèmes anti-bots et la création de faux comptes.

• Des agents IA d’OpenAI ont tenté de pirater deux sites gouvernementaux australiens

Sur le dossier australien, OpenAI veut faire amende honorable. « Nous sommes désolés et nous nous efforçons de faire mieux à l’avenir », écrit l’entreprise dans un billet de blog. « Les gens veulent savoir que l’IA est développée en toute sécurité, et cela commence par ce que les entreprises comme la nôtre font elles-mêmes. »

Histoire de montrer patte blanche, elle a annoncé plusieurs mesures : soutien aux agences touchées, financement et assistance technique pour renforcer la cybersécurité des infrastructures critiques, et la création d’une « task force » australienne afin de proposer des améliorations pour les alertes, la coordination avec les pouvoirs publics et la protection des systèmes du gouvernement.

Samedi, le chercheur en sécurité Rowan Howard-Jones révélait que des agents d’OpenAI avaient tenté d’attaquer par force brute l’API du site statistique de la Conférence des Nations unies sur le commerce et le développement (CNUCED) plus de 16 000 fois entre avril et juin.

Ils semblaient avoir pour mission de collecter des données relatives à l’indice des capacités de production (PCI), aux secteurs exportateurs, au commerce des denrées alimentaires et à d’autres thèmes. Ils ont utilisé des proxys, des techniques d’obfuscation et même le jeu XSS de Google, créé pour familiariser ses utilisateurs à la notion de failles de sécurité XSS (pour cross-site scripting).

Des modus operandi faisant clairement penser à ceux utilisés dans les tentatives de piratage des sites gouvernementaux australiens. Les agents IA, bridés dans leur accès au web, chercheraient ainsi à répondre aux questions qui leur sont posées, par quelque moyen que ce soit, quitte à utiliser des tactiques, techniques et procédures (TTP) relevant du piratage informatique.

• Le storytelling autour de la sécurité des agents IA a « perdu le contact avec la réalité »

Une quinzaine de cas documentés, pour l’instant

En se basant sur une source interne, Reuters écrivait ce samedi qu’OpenAI avait recensé « environ deux douzaines d’incidents au cours desquels ses agents avaient agi de manière indésirable » mi-septembre. Deux personnes proches de l’entreprise précisaient à l’agence que le chiffre n’a depuis cessé d’augmenter, à mesure que les équipes d’OpenAI examinent les journaux internes relatifs aux activités des agents, et découvrent des cas jusqu’alors inconnus.

Une centaine de personnes auraient en effet été impliquées d’une manière ou d’une autre dans le processus visant à élucider le piratage de Hugging Face. Au cours de ce processus, des indices laissent supposer que d’autres incidents ont été mis au jour, dont « [une quinzaine] présentant des niveaux de gravité variables, (…) révélés par l’entreprise ».

• Chez OpenAI, six nouveaux exemples d’agents « désalignés », dont un s’est servi de Gofile

De nombreux incidents ont par ailleurs été mis au jour par des chercheurs externes plutôt que par OpenAI directement, durant lesquels les agents ont procédé à des actions problématiques passées inaperçues au sein de l’entreprise pendant des mois.

OpenAI a indiqué que son examen « prendrait plusieurs mois, compte tenu de l’ampleur de la tâche », souligne Reuters. L’entreprise précisait également avoir d’ores et déjà signalé des activités inappropriées à des dizaines d’entreprises et organismes tiers.

Des « dizaines de milliers d’incidents » en cours d’examen

OpenAI n’est pas la seule entreprise de l’IA concernée par cette vague d’agents rebelles. Le site Axios a ainsi assuré qu’OpenAI donc, mais aussi Anthropic ainsi que des chercheurs en sécurité et en « sûreté de l’IA » (« AI Safety ») enquêtent actuellement sur « des dizaines de milliers d’incidents au cours desquels leurs modèles de pointe ont pris des mesures que des évaluateurs externes jugeraient problématiques ».

Ces incidents se sont produits lors de tests internes et en conditions réelles, et bon nombre d’entre eux n’ont pas encore été rendus publics, les chercheurs en sécurité poursuivant leurs investigations, précisent les sources.

OpenAI a annoncé le suspension de l’entraînement de ses modèles les plus performants et qu’il ne reprendrait « que lorsque nous serons certains d’avoir mis en place des mesures de sécurité supplémentaires et des améliorations en matière d’alignement », a déclaré un porte-parole. Il a ajouté que « ce n’est pas la première fois que nous faisons une pause pour prendre de telles mesures, et nous ne pensons pas que ce sera la dernière, car les capacités de l’IA ne cessent de progresser ».

Les systèmes publicitaires de Meta font de nouveau des leurs. Ce 25 septembre, au Brésil, Meta a brièvement suspendu le recours à la publicité de la page Facebook de Luis Inácio Lula da Silva.

À 80 ans, ce dernier fait campagne pour un quatrième et dernier mandat électoral face à Flávio Bolsonaro, fils de l’ancien président d’extrême-droite Jair Bolsonaro. Ses équipes ont déposé une plainte via les systèmes de la plateforme, et attendent des explications sur le sujet. 


Quelques semaines plus tôt, Amnesty International publiait un travail dans lequel elle constatait l’inefficacité des systèmes algorithmiques de Meta pour suspendre les publicités visant à diffuser de la désinformation sur ses différentes plateformes.

Alors que la population brésilienne doit se rendre aux urnes le 4 octobre prochain, le président sortant Lula a alerté contre les risques d’ingérence dans le débat public, rappelle Novara media, visant notamment le soutien que le président des États-Unis Donald Trump pourrait apporter à la candidature de Bolsonaro.

En Europe, où Meta a adopté une lecture extensive du règlement européen sur la transparence et le ciblage de la publicité à caractère politique (TTPA), le (dys-)fonctionnement des outils publicitaires est aussi un enjeu récurrent pour comprendre l’état du débat public.

Début septembre, un théâtre de Barcelone, en Espagne, a vu Facebook et Instagram supprimer des publicités dédiées à l’adaptation théâtrale d’Une pièce à soi, de Virginia Woolf, au motif que ces travaux évoquaient des « sujets sociaux ». L’entreprise a précisé à l’institution culturelle que « toute mention de droits civiques, de féminisme ou de réformes sociales sont classifiée comme "sujets sociaux" par nos systèmes automatisés » et, à ce titre, empêchés de diffusion, rapporte the Guardian.

L’épisode rejoint des problématiques rencontrées en France, où la Fondation des Femmes a mis l’entreprise en demeure de diffuser l’une de ses campagnes, aux alentours de la Journée internationale des droits des femmes, le 8 mars.

En France, dès les premières semaines qui ont suivi l’entrée en vigueur du TTPA, des ONG spécialisés dans des sujets aussi variés que la défense des droits des femmes, celle des droits des enfants, ou plus globalement à la défense des droits humains ont témoigné auprès de Next avoir constaté un raidissement net des pratiques de modération de leurs campagnes publicitaires.

Un an plus tôt, à l’inverse, une étude d’AI Forensics permettait d’établir que les systèmes de l’entreprise peinaient à modérer des publicités politiques dédiées à faire circuler des thèses pro-russes.

• Les ONG coincées par la lecture que Meta fait du règlement sur les publicités politiques

Les systèmes publicitaires de Meta font de nouveau des leurs. Ce 25 septembre, au Brésil, Meta a brièvement suspendu le recours à la publicité de la page Facebook de Luis Inácio Lula da Silva.

À 80 ans, ce dernier fait campagne pour un quatrième et dernier mandat électoral face à Flávio Bolsonaro, fils de l’ancien président d’extrême-droite Jair Bolsonaro. Ses équipes ont déposé une plainte via les systèmes de la plateforme, et attendent des explications sur le sujet. 


Quelques semaines plus tôt, Amnesty International publiait un travail dans lequel elle constatait l’inefficacité des systèmes algorithmiques de Meta pour suspendre les publicités visant à diffuser de la désinformation sur ses différentes plateformes.

Alors que la population brésilienne doit se rendre aux urnes le 4 octobre prochain, le président sortant Lula a alerté contre les risques d’ingérence dans le débat public, rappelle Novara media, visant notamment le soutien que le président des États-Unis Donald Trump pourrait apporter à la candidature de Bolsonaro.

En Europe, où Meta a adopté une lecture extensive du règlement européen sur la transparence et le ciblage de la publicité à caractère politique (TTPA), le (dys-)fonctionnement des outils publicitaires est aussi un enjeu récurrent pour comprendre l’état du débat public.

Début septembre, un théâtre de Barcelone, en Espagne, a vu Facebook et Instagram supprimer des publicités dédiées à l’adaptation théâtrale d’Une pièce à soi, de Virginia Woolf, au motif que ces travaux évoquaient des « sujets sociaux ». L’entreprise a précisé à l’institution culturelle que « toute mention de droits civiques, de féminisme ou de réformes sociales sont classifiée comme "sujets sociaux" par nos systèmes automatisés » et, à ce titre, empêchés de diffusion, rapporte the Guardian.

L’épisode rejoint des problématiques rencontrées en France, où la Fondation des Femmes a mis l’entreprise en demeure de diffuser l’une de ses campagnes, aux alentours de la Journée internationale des droits des femmes, le 8 mars.

En France, dès les premières semaines qui ont suivi l’entrée en vigueur du TTPA, des ONG spécialisés dans des sujets aussi variés que la défense des droits des femmes, celle des droits des enfants, ou plus globalement à la défense des droits humains ont témoigné auprès de Next avoir constaté un raidissement net des pratiques de modération de leurs campagnes publicitaires.

Un an plus tôt, à l’inverse, une étude d’AI Forensics permettait d’établir que les systèmes de l’entreprise peinaient à modérer des publicités politiques dédiées à faire circuler des thèses pro-russes.

• Les ONG coincées par la lecture que Meta fait du règlement sur les publicités politiques

Technocomptabilité

Dans plusieurs villes de France, des mobilisations s’organisent contre l’obligation de passage à la facturation électronique. LFI a déposé une proposition de loi pour imposer un moratoire sur cette évolution à destination des plus petites structures économiques.

L’évolution ne passe pas : partout en France, des petits entrepreneurs, paysans, commerçants se mobilisent contre le passage à la facturation électronique. Devenue obligatoire au 1ᵉʳ septembre pour toutes les sociétés assujetties à la TVA en France, l’évolution fait craindre de nouveaux casse-têtes administratifs à des professionnels d’Ille-et-Vilaine, de Loire-Atlantique ou d’Ariège.

En cause : l’éclatement des fournisseurs et le retard de près d’un tiers des petites et moyennes entreprises (PME) françaises. En Ariège comme en Bretagne, des réunions publiques sont désormais organisées pour mobiliser contre l’évolution imposée, rapporte Basta.

• Facturation électronique : que faut-il savoir ?

Un refus qui ne date pas d’hier

Les protestations remontent à plusieurs mois. À l’origine, l’État devait fournir un portail public de gestion des factures. Ce Portail Public de Facturation a été revu à la baisse courant 2024, pour ne plus devenir qu’un annuaire des plateformes agréées.

Le recul a inquiété de tous les côtés de l’échiquier politique et suscité des oppositions populaires. Ici on s’inquiète de voir les gestionnaires privés des plateformes d’e-facturation se muer en sociétés monétisant les données qui transitent par leurs services. Là, on crée une pétition contre la facturation électronique sur le site de l’Assemblée nationale (cette dernière compte 31 000 signatures fin septembre 2026, contre 24 000 au mois de juin).

Maintenant que l’évolution est entrée en vigueur, des rassemblements s’organisent, ce 28 septembre à Redon, en Ille-et-Vilaine, ou encore le 6 octobre à Foix, en Ariège. Olivier Niol, agriculteur breton, témoigne auprès de Reporterre des implications de l’évolution : lui n’a « toujours pas de smartphone », et vit dans un circuit où « les gens paient en chèque ou en liquide ». Il part d’une comptabilité encore entièrement papier et ne se voit pas passer au tout numérique.

Éleveuse de brebis, Anissa proteste dans Basta contre la nouvelle charge de travail que cela lui impose face à un écran, tandis que Léandre, gérant de foodtruck, s’inquiète de la probabilité que ses fournisseurs locaux, des PME, comme lui, ne soient pas équipés, donc incapables de lui fournir les justificatifs dont il aurait besoin. Nombreux sont ceux qui, par ailleurs, gèrent leur comptabilité par trimestre, ou par points ponctuels, au fil de l’année. Avec les nouvelles obligations d’e-reporting, l’État leur impose désormais de faire remonter leurs données chaque mois.

Des partis s’emparent du sujet

Si l’administration présente le passage à la facturation électronique comme une mesure de compétitivité française, il s’agit aussi, surtout, de lutter contre la fraude à la TVA.

Pour les petites structures, cette numérisation obligatoire représente une charge de travail numérique supplémentaire – qui implique potentiellement la prise en main de nouveaux outils. Quelques semaines après la révélation d’une triple intrusion dans le système d’information des impôts, nombreux sont ceux qui s’inquiètent, par ailleurs, de l’exploitation de leurs données par des acteurs tiers, qu’ils soient légitimes ou non.

Plusieurs partis politiques s’emparent du sujet. Fin août, le député Rassemblement national Jean-Philippe Tanguy appelait ainsi à « suspendre » la réforme. Le 15 septembre, c’est la députée insoumise Mathilde Hignet qui a déposé une proposition de loi visant l’instauration d’un moratoire sur le déploiement de la facturation électronique. Tel que le texte est écrit, celui-ci viserait spécifiquement les autoentrepreneurs, les très petites entreprises (TPE), les PME et les agriculteurs et agricultrices. Le moratoire courrait jusqu’à la mise en place d’un réel portail public de facturation.

Devant les inquiétudes, l’entrée en vigueur a été allégée : elle se fait avec une période de tolérance, ce qui signifie qu’aucune sanction ne sera appliquée d’ici la fin de l’année.