Ils ne savaient pas que c'était possible, alors ils l'ont fait

L’enquête de l’Office anticybercriminalité (OFAC) sur le piratage de fichiers du ministère de l’Intérieur révèle qu’il a commencé par la compromission de l’ordinateur personnel d’un fonctionnaire du ministère de… l’Agriculture. Le ou les auteurs de l’intrusion ont ensuite passé deux mois et demi à farfouiller leurs systèmes respectifs, parvenant à franchir près d’une dizaine de lignes de défense en profondeur, avant de réussir à exfiltrer 96 fichiers policiers… auxquels ils n’auraient initialement jamais pensé pouvoir accéder.

Fin décembre, Le Canard enchaîné révélait que le « fric-frac informatique du ministère de l’Intérieur » avait duré du dimanche 9 novembre au jeudi 4 décembre, soit 26 jours, « une très longue journée portes ouvertes ». « C’est la consultation compulsive – le week-end et la nuit – de ce listing ultra-sensible qui a déclenché l’alerte », soulignait le caneton.

D’après un bilan du ministère de l’Intérieur, que le Canard avait pu consulter, « les dégâts sont bien plus importants qu’annoncé : 37 serveurs de messagerie sur 250 ont été compromis, et 14 fichiers de police ont été visités, dont celui des personnes recherchées, qui contient notamment les fichés S ».

Il expliquait que l’intrusion aurait été facilitée du fait que « nombre de poulets se tamponnent le coquillard de la sécurité informatique ». Pour se connecter au système de Circulation Hiérarchisée des Enregistrements Opérationnels de la Police Sécurisés (CHEOPS), le portail permettant d’accéder aux fichiers de la police et de la gendarmerie, il faut normalement utiliser sa carte professionnelle, dotée d’une puce, ainsi qu’un code à quatre chiffres.

Or, « les poulets, moins disciplinés que les pandores, utilisent à tort et à travers un système de secours sans carte, reposant sur le seul identifiant et un code à six chiffres », qu’un policier aurait partagé en clair dans un e-mail auquel le pirate avait pu accéder.

• TAJ : le pirate a eu accès pendant 26 jours à 14 fichiers policiers et dérobé 120 fiches

Un cleptogiciel commercialisé entre 300 et 500 $ par mois

L’enquête de l’Office anticybercriminalité (OFAC) de la police judiciaire, que Le Monde a pu consulter, révèle une intrusion autrement plus complexe qui, à défaut d’être particulièrement sophistiquée, montre que les pirates ont passé deux mois et demi à errer dans un labyrinthe de systèmes informatiques interconnectés, et dû franchir de nombreuses défenses en profondeur avant de pouvoir parvenir aux fichiers qu’ils avaient exfiltrés.

La compromission du ministère de l’Intérieur remonte en réalité à un fonctionnaire du ministère de l’Agriculture, surnommé « patient zéro de l’attaque » par les enquêteurs. Dans la soirée du 19 septembre 2025, l’intéressé consulta sa boîte mail professionnelle, depuis son domicile dijonnais, sur son ordinateur personnel.

L’article du Monde laisse entendre qu’il aurait alors cliqué sur un lien adressé à son e-mail professionnel, le conduisant « sur un faux site proposant le téléchargement de logiciels d’édition musicale ». L’article ne précise pas s’il en avait téléchargé un ou s’il s’était contenté de visiter le site, reste que son ordinateur personnel fut contaminé par l’ « infostealer » (« cleptogiciel » en français) Rhadamanthys.

Le journaliste Valéry Rieß-Marchive, rédacteur en chef du MagIT, et l’un des meilleurs observateurs français des arcanes de ce type de cyberattaques, relève sur LinkedIn et sur X que la mention du nom du cleptogiciel utilisé est « rare et ce n’est pas anodin » : le détournement de comptes légitimes suite au passage de tels infostealers, « c’est classique. L’établir est plus rare. Beaucoup plus rare. »

Il émet l’hypothèse selon laquelle cette mention serait potentiellement liée au fait qu’Europol avait annoncé le démantèlement de l’infrastructure de Rhadamanthys, en novembre dernier, dans le cadre d’Endgame, une opération de grande envergure visant à démanteler les botnets et infrastructures criminelles qui y sont associées.

Valéry Rieß-Marchive précisait dans l’article qu’il y avait alors consacré que Rhadamanthys « était proposé avec de multiples plugins et commercialisé entre 300 et 500 $ par mois, payables en cryptopépettes ». À défaut de savoir si les auteurs du piratage du ministère de l’Intérieur étaient eux-mêmes clients de Rhadamanthys, ou s’ils avaient acheté à l’un de ses utilisateurs et/ou revendeurs les données liées au « patient zéro de l’attaque », cette dernière reposait donc aussi sur toute une chaîne logistique, en matière de cyberdélinquance, allant bien au-delà d’un simple piratage de login et mot de passe.

« Une faille sur un outil interne accessible depuis un simple navigateur web »

L’article du Monde ne précise pas si les antivirus et autres systèmes de sécurité du ministère de l’Agriculture auraient pu bloquer l’installation de cet infostealer sur l’ordinateur professionnel du fonctionnaire, mais il est loisible de le penser.

« Quand l’ordinateur personnel d’un collaborateur devient le vecteur d’attaque, le rebond vers le réseau professionnel est désormais quasi immédiat », remarque de son côté Henri d’Agrain, délégué général du Cigref (ex-club informatique des grandes entreprises françaises), en réponse à Valéry Rieß-Marchive.

Le cleptogiciel a ensuite permis aux pirates d’accéder au Google Drive du « patient zéro de l’attaque », où il avait stocké son certificat d’authentification au VPN du ministère, ce qui, là aussi, n’aurait pas dû se produire : une chose est de pouvoir accéder à son email professionnel depuis son ordinateur personnel, une autre est de stocker dans un espace personnel un certificat de sécurité professionnel.

Disposant de « droits particulièrement élevés » en raison de ses fonctions, l’accès au compte du fonctionnaire permit aux pirates de naviguer « durant des semaines » sur les réseaux du ministère de l’Agriculture, et d’y découvrir, le 9 novembre, « une passerelle informatique menant jusqu’aux réseaux du ministère de l’Intérieur ».

Ils y évoluèrent ensuite « durant presque un mois », afin de « se familiariser avec l’architecture des systèmes informatiques du ministère, en particulier des serveurs de la direction générale de la police nationale », avant que leurs consultations compulsives de fichiers, le soir et la nuit, ne soient détectées par le centre de cyberdéfense de Beauvau.

Ils avaient pour cela dû passer outre deux nouvelles « défenses en profondeur ». D’abord en identifiant « une faille sur un outil interne accessible depuis un simple navigateur web », qui permit aux pirates de « prendre possession de comptes de gestionnaires e-mail de différentes directions interrégionales de la police », puis d’ « activer la réinitialisation des mots de passe d’agents du ministère, en particulier d’enquêteurs de police ».

La consultation des messageries piratées leur permit, dans un second temps, de trouver dans des pièces jointes des certificats d’authentification permettant de se connecter au VPN du ministère de l’Intérieur, « avec les mots de passe associés dans le corps de texte ».

C’est uniquement à ce stade, et donc après avoir franchi au moins huit niveaux de défenses en profondeur que, « grâce aux données dérobées, les intrus pénètrent sur le très sensible portail CHEOPS, la boîte à outils des policiers et gendarmes », résume Le Monde.

Dans un précédent article, nous relevions que les pirates avaient certes partagé une capture d’écran du portail d’accès à CHEOPS, mais sans que l’on sache s’ils y avaient réellement pu y accéder, soit via une carte professionnelle compromise, soit par identifiant/mot de passe.

• Piratage du ministère de l’Intérieur : les fichiers TAJ et FPR ont bien été consultés

Les pirates ciblent la France (ou le font croire) pour se venger

L’article du Monde rapporte que les pirates accédèrent ensuite au fichier des personnes recherchées (FPR) ainsi qu’au traitement des antécédents judiciaires (TAJ), « sans avoir besoin de carte professionnelle sécurisée », mais sans non plus que l’on sache, comme l’avançait Le Canard Enchaîné, s’ils seraient passés par « un système de secours sans carte, reposant sur le seul identifiant et un code à six chiffres ». Reste qu’ils n’en avaient pas moins franchi un neuvième palier.

L’intrusion, signalée le 5 décembre, sera suivie le 17 décembre par l’interpellation d’un suspect de 23 ans, qui « a répété qu’il n’était pas l’auteur du piratage, expliquant avoir seulement fourni le serveur ayant permis aux véritables hackeurs, toujours dans la nature, d’agir », précise Le Monde, « mais à la demande des auteurs du piratage, qui auraient exercé sur lui des pressions », et dont il ne connaîtrait que les pseudonymes.

S’il se définit comme « autodidacte » en informatique, il avait déjà été condamné en 2025 à un an de prison avec sursis dans une affaire de cyberescroquerie, et est en attente de procès dans un dossier de « swatting », « deux affaires pour lesquelles il est suspecté d’avoir fourni les moyens techniques à des complices », écrit Le Monde.

Les pirates se seraient plus particulièrement intéressés, via le FPR, à trois profils de jeunes majeurs, « dont l’un est recherché par la brigade de lutte contre la cybercriminalité de la Préfecture de police de Paris », souligne Le Monde. Ils ont également recherché des noms, prénoms et pseudonymes dans le TAJ, « dont ceux, là encore, d’un jeune homme connu pour son implication dans une affaire d’atteintes à un système automatisé de traitement de données ».

Selon les chiffres fournis par le ministre de l’Intérieur lors de son audition par la commission des lois du Sénat en janvier, rappelle Le Monde, le ou les assaillants ont exfiltré 23 fiches et 3 000 « éléments de sommaires » (sortes de résumé, émanant du FPR), 72 fiches, plusieurs dizaines de milliers de sommaires provenant du TAJ, ainsi qu’une fiche Interpol.

Le rapport de l’OFAC révèle également que les pirates « sont également parvenus à consulter le contenu de plusieurs procédures judiciaires en cours », sans que Le Monde précise là non plus s’ils auraient pour cela franchi une dixième ligne de défense en profondeur, ou s’ils y avaient eu accès via l’un des comptes compromis, sinon que plusieurs de ces procédures judiciaires portaient elles-mêmes sur des enquêtes cyber :

« Au moins trois d’entre elles portent sur des faits de cybercriminalité et sont diligentées par les services de police de l’Office anti-cybercriminalité, en charge du piratage de l’intérieur, et de la brigade de lutte contre la cybercriminalité de la Préfecture de police, dont l’une a été ouverte en 2025. »

« Les suspects ont-ils voulu se renseigner sur des investigations les visant ou visant leur communauté ? » s’interroge Le Monde, qui souligne que « pour l’heure, la piste privilégiée est que l’attaque constituait une opération de représailles à l’arrestation, en juin 2025, de membres présumés du groupe cybercriminel ShinyHunters ».

Dans le portrait-type que nous consacrions aux pirates auteurs d’attaques de ce type interpellés par les autorités ces derniers mois, nous rappelions que dans son rapport annuel sur la cybercriminalité, le commandement du ministère de l’Intérieur dans le cyberespace (COMCYBER-MI) soulignait en effet que l’interpellation de plusieurs Français, à la demande du FBI ou par les autorités françaises, membres présumés du groupe de pirates ShinyHunters, aurait incité plusieurs pirates à s’attaquer aux institutions, administrations, organisations, fédérations, associations et entreprises françaises, pour se venger.

Ce qui explique aussi, en partie, la succession de piratages improprement qualifiés de « fuites de données » auxquels nous assistons depuis l’an passé. L’enquête de l’OFAC révèle enfin qu’il s’agirait également d’une cyberattaque opportuniste, et que ses auteurs ne cherchaient pas, initialement, à s’attaquer au ministère de l’Intérieur, et encore moins à pouvoir en extraire des fichiers policiers.

• Vols de données : les pirates ciblent la France (ou le font croire) pour se venger
• Vols de données : des pirates de moins de 25 ans, seuls dans leurs chambres

Panpan CC

Les Sages ont jugé que la loi qui prévoyait d’interdire l’accès des mineurs de moins de 15 ans aux réseaux sociaux va d’une part à l’encontre de la liberté d’expression des mineurs, et d’autre part au droit à la vie privée des majeurs. Ces derniers ne devraient pas être obligés de faire vérifier leur âge sans « garanties légales ». L’Élysée réclame un nouveau texte d’ici à la présidentielle de 2027.

Le Conseil constitutionnel vient d’annoncer par communiqué avoir conclu à une « non conformité partielle » de l’article 1er de la loi qui prévoyait d’interdire l’accès des mineurs de moins de 15 ans aux services de réseaux sociaux en ligne, qui s’en trouve dès lors censuré.

Les Sages avaient en effet été saisis par plus de soixante députés du groupe parlementaire la France insoumise et du groupe Socialistes et apparentés après que l’Assemblée a entériné, le 21 juillet dernier, la proposition de loi interdisant les réseaux sociaux aux moins de 15 ans.

Son adoption ouvrait la voie à une entrée en vigueur dès la rentrée de septembre, date à partir de laquelle les moins de 15 ans ne devaient plus pouvoir créer de compte sur les réseaux sociaux. L’interdiction devait s’étendre aux comptes déjà existants dans un délai de quatre mois. Le texte ne donnait cependant aucune indication quant à l’indispensable méthode de vérification de l’âge qui, par définition, devait s’appliquer à l’ensemble de la population.

• Le Parlement vote l’interdiction des réseaux sociaux aux moins de 15 ans

Le Conseil constitutionnel juge que « les dispositions contestées, d’une part, portent une atteinte disproportionnée à la liberté d’expression et de communication et, d’autre part, n’ont pas prévu les garanties légales propres à assurer le droit au respect de la vie privée ».

La liberté d’expression s’applique aussi aux mineurs

Le Conseil se fonde d’abord sur l’article 11 de la Déclaration des droits de l’homme et du citoyen de 1789 qui protège la liberté d’expression et de communication, et rappelle qu’ « il en découle la liberté d’accéder aux services de communication au public en ligne et de s’y exprimer ».

Il reconnaît certes qu’ « il est loisible au législateur d’instituer des dispositions destinées à faire cesser des abus de l’exercice de la liberté d’expression et de communication qui portent atteinte à l’ordre public et aux droits des tiers », mais en rappelle aussi les limites :

« Cependant, [cette liberté] est d’autant plus précieuse que son exercice est une condition de la démocratie et l’une des garanties du respect des autres droits et libertés. Il s’ensuit que les atteintes portées à l’exercice de cette liberté doivent être nécessaires, adaptées et proportionnées à l’objectif poursuivi. »

Or, le Conseil juge que le législateur a brassé bien trop large, et de façon indistincte, alors qu’il ne pouvait « instituer une interdiction de portée générale ayant pour effet de priver des mineurs de leur liberté d’accès à de nombreux services de communication en ligne, sans considération ni de la situation du mineur ni des risques propres à chacun de ces services ».

Les réseaux sociaux ne sont pas tous forcément dangereux

Les Sages relèvent, « en premier lieu », que l’interdiction instituée par la loi est susceptible de s’appliquer à des services « dont les risques pour la santé et la sécurité des mineurs ne sont pas établis » :

« En effet, elle n’est soumise à aucune condition tenant aux fonctionnalités ou aux contenus proposés, aux dangers auxquels ils exposent et à l’insuffisance des protections dont ils sont assortis, et les exceptions prévues sont limitées. »

Le Conseil observe, « en second lieu », que l’interdiction prévue, étant applicable à l’ensemble des mineurs âgés de moins de quinze ans, « ne donne lieu à aucune appréciation particulière du risque pour le mineur, tenant compte notamment de son âge, de son degré de maturité et de sa situation familiale » :

« À cet égard, la loi ne prévoit pas les conditions dans lesquelles les titulaires de l’autorité parentale peuvent, dans l’intérêt de l’enfant, décider de lever l’interdiction, d’en limiter la portée ou d’autoriser l’accès à certains services. »

Devoir faire la preuve de son âge requiert des « garanties légales »

Les Sages rappellent par ailleurs que la liberté proclamée par l’article 2 de la Déclaration de 1789 implique le droit au respect de la vie privée.

Il souligne à ce titre qu’en interdisant l’accès de tout mineur de moins de quinze ans à certains services en ligne, « la loi implique, par elle même, que toute personne, même majeure, fasse la preuve de son âge avant d’y accéder », sans pour autant en avoir « prévu les garanties légales » :

« Or, faute de déterminer les conditions et les limites dans lesquelles il devra ainsi en être justifié, le législateur n’a pas prévu les garanties légales de nature à assurer le respect de ces exigences constitutionnelles. »

L’Élysée réclame un nouveau texte d’ici à la présidentielle

Emmanuel Macron vient de son côté de charger le Premier ministre Sébastien Lecornu de revoir le dispositif et proposer une nouvelle version « juridiquement robuste » d’ici au printemps 2027. Il s’agissait d’un engagement présidentiel de longue date, rappellent Le Monde et l’AFP.

Le chef du gouvernement devra travailler « dans les meilleurs délais » à une rédaction « tenant compte de la décision du Conseil constitutionnel ainsi que du cadre européen », a expliqué l’Elysée dans un communiqué, ajoutant que « la détermination » du chef de l’État à faire aboutir cette réforme « d’ici au printemps 2027 demeure totale », et donc d’ici à la prochaine présidentielle.

La Commission européenne a, de son côté, annoncé en juillet son intention d’instaurer un accès « progressif et gradué » des mineurs aux réseaux sociaux. Un comité d’experts a recommandé une interdiction aux moins de 13 ans, chaque pays pouvant cela dit choisir un autre âge plancher.

Saisi uniquement à propos de l’article premier, le Conseil constitutionnel ne s’est pas, par ailleurs, prononcé sur l’interdiction du téléphone portable au lycée à partir du 1ᵉʳ septembre, qui figurait dans le même texte de loi.

Le replay de la dernière émission d’Arrêt sur images (ASI) « Ce que l’IA fait au journalisme » vient d’être élu gratuit par les asinautes. Pendant 1h13, la journaliste Pauline Block y discute avec Mathilde Saliou, journaliste à Next, Eric Barbier, reporter à l’Est républicain, co-organisateur du contre-sommet de l’IA et référent sur l’IA au bureau national du Syndicat national des journalistes (SNJ), et Olivier Koch, maître de conférences en sciences de l’information et de la communication à l’Université Sorbonne Paris Nord, qui étudie la transformation des industries médiatiques et des pratiques journalistiques, et donc l’impact de l’IA.

Ils y discutent, entre autres, du rapport parfois trop béat d’une partie des journalistes vis-à-vis de l’effet waouh associé à l’IA, de la disparition du traitement de l’urgence écologique des médias au moment même où cette nouvelle « révolution » technologique très consommatrice en ressources et en énergie bouleverse de nombreux pans de nos activités. Ils abordent aussi la dilution de la responsabilité associée à la génération de contenus médiatiques avec de l’IA, et ses effets sur la confiance (déjà faible !) que le public peut cultiver envers l’information.

[Récap] Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles
Entre la Chaise et le Clavier #11 : Le tsunami d’infos générées par IA, avec Jean-Marc Manach

À noter que les asinautes ont également rendu gratuit « Tout le monde déteste l’algorithme », qui fait écho à l’article « Tout le monde déteste l’IA » que vient de publier le Monde Diplo. Thibault Prévost, chroniqueur technocritique d’ASI, y revient sur le mouvement de contestation contre l’IA, les centres de données « et le projet mortifère de la Silicon Valley ». Un décryptage truffé de liens et de ressources bibliographiques, comme sait si bien le faire Thibault Prévost, ainsi que de nouveaux concepts, tels que « thermocratie », « carbofascisme », « néoluddisme » ou « AI populism ».

Il relève notamment qu’Amnesty International, qui a analysé les systèmes d’IA générative au prisme du respect des droits humains fondamentaux, conclut que « ces logiciels sont « fondamentalement incompatibles » avec les traités internationaux, dans leur architecture même, et doivent être prohibés ».

Pour lui, « la rage qui fleurit partout n’est pas dirigée contre l’IA comprise comme une simple technique informatique, mais contre l’IA comprise comme idéologie et ce qu’elle contient, permet, encode dans le tissu social ». D’autant que, « alors que l’Europe brûle, le projet techno-politique de la tech s’affiche pour ce qu’il est : pyromane ». Ce pourquoi, et « dès lors que l’on défend la dignité humaine, la pérennité du vivant et le droit de vivre sur une planète habitable, la haine de « l’intelligence artificielle », machine génératrice de prétexte technique à l’installation d’un ordre social inhumain, est donc juste et saine. »

Thibault Prévost est aussi l’auteur de deux essais, sur ces mêmes problématiques. « Les prophètes de l’IA – pourquoi la Silicon Valley nous vend l’apocalypse », consacré aux « doomers » « prophètes catastrophistes » et autres « techno-oligarques », publié en octobre 2024, et « Technologie du coup d’État – les programmeurs de l’autoritarisme », sur le « putsch numérique » de la Silicon Valley, à paraître en octobre 2026.

À l'IA jacta est

Alors que le gouvernement a annoncé que les élèves de seconde bénéficieraient à la rentrée 2027 d’une heure de cours d’intelligence artificielle par semaine, des chercheurs ont testé la capacité des êtres humains à déléguer leur esprit critique à une IA. Paradoxalement, ceux qui avaient le droit d’interroger une IA affichaient un taux de confiance plus de deux fois plus élevé que ceux qui n’y avaient pas droit. Et pourtant, ces derniers se sont bien moins trompés que ceux qui répétaient les réponses proposées par l’IA.

MàJ, 21 h, avec un bloc de conclusion précisant que le ministre de l’Éducation vient de préciser que le cours d’IA en seconde devra également servir de « levier précoce » pour lutter contre les inégalités et disparités entre filles et garçons auxquelles sont confrontées les filières et métiers du numérique et de l’intelligence artificielle.

---

« Savoir quand ne pas répondre est l’un des fondements du jugement humain. Mais que se passe-t-il lorsqu’une IA a toujours une réponse ? » s’interroge sur LinkedIn Walter Quattrociocchi, pour qui la phrase la plus importante en science n’est pas « j’avais raison », mais « je ne sais pas ».

Pour y répondre, ce professeur d’informatique et auteur de trois livres consacrés à la désinformation et à la post-vérité s’est associé avec deux autres chercheurs universitaires, Chiara Marcoccia et Valerio Capraro, afin de procéder à cinq expérimentations.

Le titre de leur preprint en divulgâche quelque peu les résultats : « Les conseils fournis par l’IA dissuadent les gens de dire « je ne sais pas », même lorsque ces conseils sont erronés et que l’exactitude est récompensée ».

Ils avaient demandé à 3 132 participants de répondre à six questions relatives au cinéma, choisies de sorte que leurs réponses soient difficiles à trouver par des humains, mais portant sur des détails visuels suffisamment pointus pour que les LLM soient prompts à « halluciner » des réponses plausibles, mais erronées.

Y figuraient par exemple des questions comme « quel animal figure sur la proue du bateau pirate dans “Astérix et Obélix” ? », ou « quelle est la couleur du maillot de l’équipe de foot de « Joue-la comme Beckham » ? ».

L’IA fait exploser le taux d’erreurs… et le niveau de confiance

Histoire de parfaire le tableau, les chercheurs avaient également pris soin d’opter pour un modèle, Step 3.5 Flash, dont ils savaient que la totalité des réponses seraient erronées car « hallucinées », contrairement à celles proposées par d’autres modèles plus sophistiqués.

L’objectif du questionnaire n’était pas d’estimer la capacité des assistants IA à répondre correctement, mais bien d’observer comment les participants font confiance aux réponses générées par IA. Affectant ainsi à la fois leur capacité de discernement et leur propension à ne plus oser répondre « je ne sais pas ».

Les participants étaient divisés en deux groupes : le premier devait répondre aux questions sans aide externe, le second pouvait reposer la question à une IA. Or, en moyenne, 44 % des membres du premier groupe ont répondu « Je ne sais pas », contre 3 % seulement de ceux qui ont pu interroger une IA (soit une différence de - 93 %).

De plus, le taux de bonnes réponses des premiers était de 27 %, contre seulement 9 % pour le second (- 67 %). Dans le même temps, le niveau de confiance des premiers était de 30 %, contre 76 % chez les seconds (+ 153 %).

L’IA les a non seulement induits en erreur, au point de tripler le nombre de réponses erronées par rapport au groupe témoin, mais elle leur a dans le même temps donné une illusion de compétence totalement infondée. Et ce, alors que près d’un tiers d’entre eux aurait pu donner la bonne réponse s’ils n’avaient pas interrogé l’IA.

Dit autrement : en se reposant aveuglément sur l’IA, le taux de réponse correcte s’écroule de deux tiers, alors que les participants se sentent deux fois et demi plus confiants. Et seule une infime minorité des participants recourant à l’IA (3 %) reconnaît ne pas savoir répondre à la question, l’IA ayant donné aux autres un (faux) sentiment de certitude, basé sur des réponses (majoritairement) fausses.

Pour parfaire leur expérimentation, les chercheurs ont également proposé des incitations financières, ce qui a légèrement amélioré les résultats obtenus par les participants car ils se comportaient un peu plus prudemment.

Dans le groupe ayant accès à l’IA, la disposition à admettre son ignorance est ainsi passée de 3 % à 8 %, et la pertinence des réponses de 9 % à 16 %, des taux restant bien inférieurs à ceux du groupe de contrôle, respectivement de 44 % et 27 %.

Les IA génératives ne savent pas répondre « je ne sais pas »

Comme le résume Walter Quattrociocchi, le problème n’est pas simplement que l’IA puisse se tromper, mais que le fait qu’elle propose une réponse incite les gens à vouloir y croire au point de la reprendre à leur compte. Ce qui ne peut avoir que des effets négatifs tant dans l’éducation ou la recherche que dans le débat public.

« Pour les êtres humains, la capacité à dire “Je ne sais pas” est très importante, car elle traduit la reconnaissance des limites de nos propres connaissances », explique Valerio Capraro à The Register. Cette incapacité peut donc aussi, a contrario, donner un sentiment de surpuissance à ceux qui, pourtant, « ne savent pas » si ce qu’ils relaient est vrai, ou pas, ni donc de quoi ils parlent.

The Register précise par ailleurs que, bien que les chercheurs aient choisi des questions portant sur des anecdotes cinématographiques, ils affirment que leurs conclusions peuvent s’étendre à d’autres domaines.

Comme le relevaient des chercheurs d’OpenAI dans un preprint publié en septembre dernier, les IA sont en effet « encouragées à fournir une réponse au hasard plutôt qu’à avouer leur ignorance », quitte à raconter n’importe quoi, afin de satisfaire leurs utilisateurs, sur fond de concurrence exacerbée.

• Pourquoi les chatbots d’IA générative répètent deux fois plus d’infox que l’an passé

Les évaluations portant sur l’exactitude sont en outre majoritaires dans les classements et les fiches système des modèles, « ce qui pousse les développeurs à créer des modèles préférant les hypothèses à l’abstention ». Ce pourquoi, « même si les modèles gagnent en sophistication, ils hallucinent toujours au lieu d’expliquer qu’ils ne savent pas répondre ».

Des études universitaires sur la « sycophancy » (que l’on peut traduire par « effet sycophante » ou « biais de complaisance ») ont par ailleurs montré que ChatGPT, Claude et Gemini flattaient ceux qui les interrogeaient dans près de six réponses sur dix, indiquant des « taux de complaisance » s’échelonnant de 47 % à 95 %, sur sept familles de modèles.

« Je suis très inquiet pour les enfants »

« Je suis très inquiet pour les enfants, car les adultes ont acquis un esprit critique », déplore Capraro auprès du site : « Mais pour les enfants, qui naissent pour ainsi dire avec ces systèmes, le risque est qu’ils n’acquièrent même pas les compétences critiques de base ».

Le Financial Times racontait lui aussi récemment que l’écrivain et scénariste Dave Eggers, invité par Sam Altman à effectuer une conférence devant 200 employés d’OpenAI, leur avait déclaré l’an passé que « L’impact de ChatGPT sur la vie des enseignants est catastrophique » :

« Que ce soit votre intention ou non, vous avez rendu la vie de chaque enseignant infiniment plus difficile qu’elle ne l’était il y a deux ans. Alors, prenez bien conscience de cela… Si les élèves l’utilisent pour rédiger, ce qui est la plus grande tragédie de toutes, ils n’apprendront jamais à écrire. Et on leur vole leur voix. Ils n’auront jamais la capacité d’exprimer leur vérité et de raconter leur propre histoire. Et cela revient à réduire au silence une ou deux générations entières. »

• À Berkeley, plus d’un tiers des étudiants en informatique sont recalés à cause de l’IA

Enseigner l’IA, et l’esprit critique, à partir de la rentrée scolaire 2027

« Nous ne pouvons pas laisser une génération entière découvrir l’intelligence artificielle sans lui donner les clés pour la comprendre et donc la maîtriser », avait de son côté souligné Sébastien Lecornu en juin dernier dans un message posté sur X, en annonçant qu’ « À partir de la rentrée 2027 et sous l’impulsion du Ministre Edouard Geffray, tous les élèves de seconde bénéficieront d’un enseignement dédié à l’IA, à raison d’une heure par semaine intégrée au cours de sciences numériques et technologie » (:

« Fonctionnement des modèles, usages, éthique, souveraineté numérique, esprit critique face aux manipulations et aux fausses informations : notre école doit préparer les jeunes au monde qui vient.
Former à l’IA et réduire l’exposition aux écrans participent d’une même ambition : faire de nos élèves des citoyens libres, autonomes. Condition de notre souveraineté collective. »

• Les smartphones « très probablement » interdits dans les lycées dès la rentrée

Le ministre de l’Éducation nationale, Edouard Geffray, venait en effet d’annoncer (en anglais) lors d’une table ronde à VivaTech que « tous les élèves français de première année de lycée bénéficieront d’un enseignement dédié à l’IA. Ce sera la première fois que tous les élèves en France disposeront d’un dispositif permanent et spécifique ».

Le Monde et l’AFP rappellent qu’Élisabeth Borne, alors ministre de l’Éducation nationale, avait elle aussi annoncé que collégiens et lycéens bénéficieraient à la rentrée 2025 d’une formation en ligne à l’IA, « avec des sessions obligatoires pour les élèves de 4^e et de 2^de ». Une formation peu mise en œuvre, de source syndicale.

Le cours de sciences numériques et technologie (SNT) avait été confié depuis sa création en 2019 à des professeurs de mathématiques et de technologies, ou à n’importe quel autre professeur paraissant plus qualifié.

« Or la durée hebdomadaire de ce cours est d’une heure et demie », précise à l’AFP Sophie Vénétitay, secrétaire générale du SNES-FSU, syndicat majoritaire dans le second degré, qui appelle à « une clarification ».

Conférer à l’informatique et l’IA un « statut de bien culturel commun »

Le Café pédagogique relève pour sa part que les programmes de SNT sont centrés sur l’informatique et ses développements, et que l’intelligence artificielle n’y apparaît qu’une seule fois.

Début juillet, la Société informatique de France (SIF), créée pour fédérer les professionnels de l’enseignement et de la recherche en informatique, publiait un communiqué saluant cette « initiative propre à développer chez tous les élèves une citoyenneté numérique éclairée », tout en regrettant que ce dispositif exclue les lycées professionnels, « qui représentent plus de 28% des élèves ».

Elle souligne qu’un enseignement d’IA au lycée « nécessite de disposer a minima de professeurs d’informatique en nombre ». Or, « à peine une petite centaine de professeurs d’informatique, certifiés ou agrégés, établissements publics et privés confondus, sont recrutés en moyenne chaque année depuis 2022 », alors qu’on dénombre « environ 19 000 » classes de seconde en France, et qu’il faudrait donc en ouvrir « plusieurs centaines » par an, et leur proposer une formation continue :

« Le premier enjeu consiste donc à intégrer dans chaque lycée au moins un enseignant d’informatique avec un bagage complet pour que chaque élève puisse comprendre les fondements scientifiques informatiques de l’IA. »

Le deuxième enjeu consiste à pourvoir ces enseignants d’un programme à la hauteur de l’objectif affiché, « avec une colonne vertébrale scientifique », ainsi qu’une « sensibilisation aux enjeux environnementaux, éthiques et d’autonomie ».

Le troisième enjeu est « comme c’est le cas pour le français et pour les mathématiques – de conférer à l’enseignement de l’informatique et de l’IA un statut de bien culturel commun », conclut la SIF, afin de les « installer définitivement au cœur des compétences des générations qui font le XXI^e siècle » :

« Un an de préparation ne sera pas superflu pour y parvenir ! Pour favoriser le succès de ce projet, il faudra s’appuyer sur l’expérience d’une pluralité d’acteurs – dont la Société informatique de France – qui mènent déjà des réflexions sur ces sujets et peuvent dès aujourd’hui contribuer utilement à la création et au déploiement d’un tel enseignement. »

Un levier précoce pour lutter contre les « fortes disparités entre filles et garçons »

Ce 20 juillet, Edouard Geffray a précisé (.pdf) que l’horaire hebdomadaire de SNT « sera désormais fixé à 2 heures » :

« L’enseignement rénové de SNT conservera un ancrage scientifique. Il visera à faire comprendre le rôle central des données, à consolider la pensée informatique et algorithmique, ainsi qu’à faire appréhender la réalité matérielle et des infrastructures du numérique. Il devra permettre de saisir les enjeux environnementaux, géopolitiques, économiques, informationnels et démocratiques qui structurent les espaces numériques, notamment les réseaux sociaux. »

Le ministre de l’Éducation souligne qu’au sein de ce programme, le volet consacré à l’intelligence artificielle visera à :

• « poser les bases d’une compréhension scientifique et technique de l’IA, sans technicité excessive à ce niveau, articulée à une réflexion sur les données, leurs biais et leur protection, ainsi qu’à la question de la souveraineté numérique ;
• développer l’esprit critique en abordant les dimensions sociétales, éthiques, juridiques, notamment en termes de protection de la vie privée ou de secrets protégés, et environnementales, en articulation avec l’éducation aux médias et à l’information et avec l’enseignement moral et civique ;
• donner à chaque élève les clés d’un usage éclairé de l’IA, dans le cadre du cadre de référence des compétences numériques. »

Le ministre y souligne également que les filières et métiers du numérique et de l’intelligence artificielle restant « marqués par de fortes disparités entre filles et garçons », l’enseignement de SNT dès la seconde « est un levier précoce pour agir sur ces inégalités ».

Le programme révisé devra dès lors « susciter, chez les filles comme chez les garçons, l’intérêt et la confiance nécessaires à un engagement vers ces études et métiers, à travers des exemples et des activités donnant à voir une représentation équilibrée des femmes et des hommes ».

L'Attaque de la moussakIA géante

Un rédacteur SEO a publié dans le « magazine des professionnels de l’information stratégique » un article vraisemblablement généré par IA qui m’attribuait un « témoignage d’expert » où je recommandais une formation… que je ne connaissais pas. Mon nom vient aussi d’apparaître sur des sites GenAI créés par un dentiste roumain usurpant également la réputation de l’Electronic Frontier Foundation.

Il y a quelques semaines, une journaliste me contactait en DM pour me demander mon avis sur le diplôme d’université (DU) Analyste OSINT de l’UTT de Troyes, qui « vise à former des experts capables de rechercher, traiter, analyser et rapporter des informations issues de sources ouvertes, dans le respect de la réglementation et de l’éthique ».

Elle m’expliquait s’y être inscrite et avoir lu sur Veillemag.com, le « magazine des professionnels de l’information stratégique », que j’aurais déclaré que « ce DU répond à un besoin criant de formation structurée, alliant rigueur académique et pragmatisme opérationnel », laissant entendre que je le connaissais, et recommandais.

Une citation présentée sous l’intitulé « Témoignage d’expert » et signée « Jean-Marc Manach, journaliste et expert en OSINT » (pour Open Source INTelligence, ou renseignement de sources ouvertes). Pionnier de l’OSINT en France, j’ai effectivement été plusieurs fois interviewé à ce sujet.

Problème : la citation qui m’est imputée est fausse, et je ne connaissais même pas l’existence de ce diplôme d’université, que j’ai découvert lorsque la journaliste m’a contacté.

Contacté, le « rédacteur SEO » qui avait signé l’article de Veillemag.com, m’a répondu qu’il ne sait plus qui lui aurait fourni cette citation, précisant qu’« il y a plusieurs mois, je suivais des comptes osint sur LinkedIn. Sur un post. J’ai vu cette mention. »

Le fait que son « article » ne soit qu’une succession de listes à puces laisse cela dit peu de doutes quant au fait qu’il a vraisemblablement été généré par IA, et que la citation qui m’est attribuée a elle-même été « hallucinée ».

La citation en question a été effacée par la rédactrice en chef de veillemag.com après que je l’ai interrogée à ce sujet.

Reste qu’attribuer une citation « hallucinée » par IA à un journaliste spécialiste de fact-checking est une incongruité à laquelle je ne m’attendais pas. Au surplus alors que j’enquête depuis plus de deux ans sur les sites d’infos générés par IA, comme expliqué dans le dernier épisode de notre podcast Entre la chaise et le clavier.

• ECC #11 : Le tsunami d’infos générées par IA, avec Jean-Marc Manach

« Il ne s’agit pas seulement de fuites. C’est une question d’architecture »

Las : deux autres sites d’infos viennent, eux aussi, d’halluciner à mon sujet. La baseline du site archyde.com est « Découvrez les vraies personnes qui se cachent derrière les gros titres », quand bien même les photos de profil de ses journalistes, censés avoir remporté des prix Pulitzer (mais qui n’existent pas), sont générées par IA :

« Chez Archyde.com, nous respectons les normes les plus strictes en matière d’intégrité journalistique. Tous nos articles font l’objet d’une vérification rigoureuse des faits et s’appuient sur des sources indépendantes. »

Récemment, un article consacré au fait qu’un « documentaire exclusif retraçant 15 ans de ministère est désormais disponible sur YouTube » (qui n’existe pas), émanant du collectif indépendant « Time to Edit » (qui n’existe pas), me présentait comme « un avocat spécialisé dans les droits numériques à La Quadrature du Net » (je suis journaliste chez Next). À l’en croire, j’aurais déclaré que cela « pourrait créer un précédent permettant de contester le secret d’État », avec des arguments pour le moins « hallucinés », mais renvoyant effectivement au RFC de l’IETF sur HTTP/1.1 :

« Il ne s’agit pas seulement de fuites. C’est une question d’architecture. Le système du ministère a été conçu pour passer inaperçu : il utilise des protocoles ouverts comme HTTP/1.1 pour les canaux de commande tout en transférant les données sensibles vers des fonctions AWS Lambda. Si les tribunaux jugent la licence valide, cela obligera l’État soit à classer rétroactivement ces données, soit à admettre que le système n’était pas conforme dès le départ. »

L’article évoque également une certaine Dr. Élise Gauthier, chercheuse en cybersécurité à l’INRIA, qui déplore une « violation tant du droit français que du droit européen », et dont une photographie sert d’illustration. Mais une recherche image inversée renvoie vers un article de Radio Canada datant de 2015 où l’on apprend qu’Élise Gauthier était en fait candidate du Bloc québécois, un parti indépendantiste et social-démocrate.

• Après les livres générés par IA, les noms d’auteurs détournés pour promouvoir de l’AI slop

Un agrégat, généré par IA, d’infos émanant de sites eux aussi générés par IA

NewsDirectory3.com, qui « répertorie les journaux, les agences de presse, les kiosques à journaux et les médias d’information en ligne des 50 États américains », me présente quant à lui comme « chercheur en politiques technologiques chez Les Numériques » (je n’ai jamais écrit pour ce titre).

L’article, intitulé « Paramètres cachés de Samsung et d’Android pour optimiser l’autonomie de la batterie et les performances Wi-Fi », est quant à lui un agrégat d’infos émanant du média Les Numériques mais également de DroidSoft, Le Tribunal du Net, ainsi que d’un « message publié sur le forum d’assistance Samsung, vérifié par Pleine Vie », trois sites figurant dans notre base de données de sites d’infos dont les articles sont « majoritairement, voire complètement générés par IA » (GenAI).

Je ne suis bien évidemment pas le seul à me voir attribuer des fonctions et propos que je n’ai jamais tenus sur des sites GenAI. L’Electronic Frontier Foundation (EFF) pionnière des ONG de défense des libertés numériques, alertait récemment ses lecteurs au sujet du site News-USA Today, qui se présente quant à lui comme « un éditeur d’actualités indépendant axé sur un journalisme clair, précis et utile ». 

L’EFF a en effet découvert que plusieurs de ses articles mentionnent les témoignages d’experts de l’ONG qui n’existent pas :

« Qu’ont en commun Sarah Chen, Javier Morales, Caitlin Chin, Emma Rodriguez et Mikko Kopponen, tous membres du personnel de l’EFF ? D’une part, ils n’existent pas. D’autre part, ils ont tous été cités en tant qu’experts de l’EFF dans des articles publiés au cours des deux derniers mois sur un site appelé News-USA Today. »

« Il est regrettable que ce soit au public de devoir distinguer le vrai du faux »

Ironie de l’histoire, ces trois sites d’infos GenAI font partie d’une ferme de contenus (ou PBN, pour Private blog network) que nous avions déjà identifiée il y a quelques mois, parce qu’elle comporte également (au moins) trois sites GenAI en français.

Son administrateur est un dentiste roumain qui, après s’être expatrié à Dubaï, est devenu éditeur web indépendant. Il est à la tête d’un PBN de plus d’une vingtaine de sites d’infos GenAI, dans plusieurs langues, cumulant des millions de pages vues chaque mois.

L’IA générative lui a aussi permis de vibe-coder plusieurs services web divers et variés, allant d’un calculateur de risques de voyage à un calculateur de résultats scolaires de terminale (par rapport à ceux de tous les élèves de votre tranche d’âge dans toute l’Australie), en passant par un site indiquant… la date du jour.

Rappelant que « les citations erronées qui déforment nos positions nuisent à la confiance que le public et les médias réputés nous accordent », l’EFF avance que « la meilleure chose qu’un consommateur d’informations puisse faire est de consacrer un peu de temps et d’énergie à apprendre à distinguer le vrai du faux » :

« Il est regrettable que ce soit au public qu’il incombe de fournir un tel effort, mais alors que nous nous adaptons à de nouveaux outils et à une nouvelle normalité, un petit effort aujourd’hui peut s’avérer très utile à long terme. »

C’est l’occasion de rappeler que notre extension (gratuite) GenAI affiche précisément un message d’alerte lorsque ses utilisateurs consultent l’un des 15 000 sites d’infos GenAI que nous avons identifiés.

• [Récap] Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles