Pompiers pyromanes

Un nombre croissant de professionnels de la cybersécurité déplorent la façon « IApocalyptique » qu’ont OpenAI, Anthropic et de nombreuses entreprises des Big Tech’ de présenter les capacités des agents IA en matière de cyberattaques. À l’instar de la NSA, ils estiment qu’une bonne « hygiène » en matière de cybersécurité devrait suffire à s’en prémunir.

Début avril, Anthropic dévoilait Mythos, son modèle de langage IA dédié à la cybersécurité, qu’elle disait être si puissant qu’elle en réservait l’accès à une cinquantaine d’organismes états-uniens. À l’époque, elle promettait de rendre compte publiquement des enseignements tirés « d’ici 90 jours », ce qu’elle n’a toujours pas fait, cinq mois plus tard.

• Anthropic dévoile Mythos, son modèle d’IA chasseur de failles… réservé à certains

Mi-juillet, une armée d’agents IA d’OpenAI parvenait à s’évader du « bac à sable » où ils étaient censés être confinés, mais également à communiquer entre eux (alors qu’ils étaient aussi censés être isolés), avant de coordonner une cyberattaque contre Hugging Face que la majeure partie des médias ont chroniquée à la manière d’un scénario de science-fiction (nous y reviendrons, dans un second article).

• OpenAI : haute voltige marketing autour de l’attaque contre Hugging Face

La semaine passée, OpenAI a publié une lettre ouverte, cosignée par Anthropic et une centaine d’entreprises de l’IA, de la cybersécurité et des Big Tech’. Elle appelle à « un renforcement mondial de la cyberdéfense », au motif que les cyberattaques menées par des agents IA vont déferler « au cours des prochains mois ».

L’IA ne révolutionne pas (encore) fondamentalement la cybercriminalité

Co-signée par une centaine d’entreprises phares des Big Tech’ et de l’IA (dont Anthropic, AWS, Check Point, Cisco, Cloudflare, CrowdStrike, Firefox, GitHub, Google, HackerOne, Hugging Face, IBM, Microsoft, Oracle, Palo Alto Networks, Red Hat ou Zscaler), la « lettre ouverte en faveur d’une action collective [et] d’un renforcement mondial de la cyberdéfense » d’OpenAI avance que « Nous disposons d’une marge de manœuvre limitée pour renforcer nos cyberdéfenses » :

« Au cours des prochains mois, les cyberattaques basées sur l’IA deviendront bien plus répandues et sophistiquées, à mesure que les modèles utilisés à travers le monde gagneront en puissance. Les entreprises et les services publics dont dépendent nos communautés — des hôpitaux aux stations d’épuration, en passant par les infrastructures qui alimentent Internet — sont menacés [les tirets cadratins émanent du communiqué en anglais, ndlr]. »

Tirant sur la corde sensible, elle pointe opportunément du doigt les « services publics, hôpitaux et stations d’épuration ». Elle ne précise pas cependant que les attaques très sophistiquées menées par les IA agentiques coûtent une fortune en puissance de calcul et en tokens API, et qu’il est peu probable que les pirates informatiques parviennent à en payer le prix « au cours des prochains mois ».

Un article publié la semaine passée dans le Royal United Services Institute (RUSI) et consacré aux « business models » des ransomwares avance en outre que « l’IA ne révolutionne pas (encore) fondamentalement la cybercriminalité ». Ceux qui postulent le contraire « partent d’une hypothèse erronée quant aux motivations des cybercriminels » :

« L’histoire de la cybercriminalité moderne met en évidence deux éléments. Premièrement, le comportement des cybercriminels a été davantage motivé par l’innovation en matière de modèles économiques que par leurs capacités techniques. Deuxièmement, les cybercriminels ont tendance à innover lorsqu’ils y sont contraints, et non pas simplement parce qu’une nouvelle technologie devient disponible. »

« La plupart des cybercriminels ne sont pas des innovateurs, mais des suiveurs », renchérissent ses auteurs. Ils soulignent que « c’est l’argent – et non la technologie – qui est le principal moteur du changement au sein de l’écosystème de la cybercriminalité, et il y a peu d’intérêt financier à consacrer du temps et à prendre le risque d’innover lorsqu’on dispose déjà d’une solution qui fonctionne ».

Les cyberattaques documentées ces derniers mois reposent ainsi majoritairement sur des vols de sessions via des infostealers, d’identifiants/mots de passe en ciblant des utilisateurs par ingénierie sociale, ou des failles de sécurité non corrigées. Elles émanent en bonne partie de jeunes de moins de 25 ans qui, s’ils recourent à l’IA, ne disposent pas de budgets de type « tokenmaxxing », contrairement à OpenAI, Anthropic et autres acteurs des Big Tech’.

• Vols de données : des pirates de moins de 25 ans, seuls dans leurs chambres
• Tokenmaxxing : quand les salariés d’Amazon brûlent des tokens pour se faire bien voir

Les signataires de la lettre ouverte déplorent que les équipes de cybersécurité « ont toujours manqué de moyens et ont besoin d’un renforcement considérable de leurs outils et ressources ». Ils appellent dès lors à les doter de plus de moyens, « grâce à une IA spécialisée dans la cybersécurité », quand bien même le recours à l’IA agentique peut coûter plus cher que de payer des employés humains.

• Quand l’IA agentique coûte plus cher que de payer ses employés humains

La lettre ouverte appelle également les entreprises pionnières en matière de « modèle frontière » (ou « modèle de pointe ») dans le domaine de l’IA à offrir « un accès responsable à leurs modèles, des financements importants, des formations et un accompagnement concret, en particulier aux responsables de la protection des infrastructures critiques disposant de ressources limitées ».

Sauf qu’en l’espèce, le projet Glasswing d’Anthropic, qui donne accès à Mythos, n’a initialement été proposé qu’à un peu plus de 50 entreprises et organisations états-uniennes. S’il a depuis été élargi à 150 organisations dans plus de 15 pays, les États-Unis y restent largement majoritaires.

« Grâce à l’IA, attaquer est devenu abordable pour tout le monde, tandis que se défendre n’est à la portée que des plus fortunés », relève pour sa part Tarah Wheeler, qui préside le comité d’audit du conseil d’administration de l’Electronic Frontier Foundation. Elle souligne qu’ « Anthropic nous avait annoncé qu’un rapport de transparence concernant Glasswing serait publié 90 jours après son lancement, le 8 avril dernier », ce que l’entreprise n’a toujours pas fait.

Se protéger contre d’imaginaires super-hackers dotés d’une IA « agentique » ?

Au vu du nombre et de la qualité de ses signataires, la lettre ouverte a été très largement reprise telle quelle dans les médias, mais étonnamment très peu recontextualisée ni décryptée à l’aune de ce qu’en pensent les professionnels de la cybersécurité.

Plusieurs d’entre eux dénoncent pourtant une forme de panique morale ne reposant pas sur des menaces avérées et réellement exploitées par les pirates informatiques. Des menaces d’autant plus hypothétiques que les pirates n’ont ni accès aux modèles de langage dédiés à la cybersécurité d’OpenAI et d’Anthropic, ni aux budgets colossaux nécessaires pour les exploiter, et qui se chiffrent facilement en centaines de milliers de dollars.

Ils ne savaient pas que c'était possible, alors ils l'ont fait

L’enquête de l’Office anticybercriminalité (OFAC) sur le piratage de fichiers du ministère de l’Intérieur révèle qu’il a commencé par la compromission de l’ordinateur personnel d’un fonctionnaire du ministère de… l’Agriculture. Le ou les auteurs de l’intrusion ont ensuite passé deux mois et demi à farfouiller leurs systèmes respectifs, parvenant à franchir près d’une dizaine de lignes de défense en profondeur, avant de réussir à exfiltrer 96 fichiers policiers… auxquels ils n’auraient initialement jamais pensé pouvoir accéder.

Fin décembre, Le Canard enchaîné révélait que le « fric-frac informatique du ministère de l’Intérieur » avait duré du dimanche 9 novembre au jeudi 4 décembre, soit 26 jours, « une très longue journée portes ouvertes ». « C’est la consultation compulsive – le week-end et la nuit – de ce listing ultra-sensible qui a déclenché l’alerte », soulignait le caneton.

D’après un bilan du ministère de l’Intérieur, que le Canard avait pu consulter, « les dégâts sont bien plus importants qu’annoncé : 37 serveurs de messagerie sur 250 ont été compromis, et 14 fichiers de police ont été visités, dont celui des personnes recherchées, qui contient notamment les fichés S ».

Il expliquait que l’intrusion aurait été facilitée du fait que « nombre de poulets se tamponnent le coquillard de la sécurité informatique ». Pour se connecter au système de Circulation Hiérarchisée des Enregistrements Opérationnels de la Police Sécurisés (CHEOPS), le portail permettant d’accéder aux fichiers de la police et de la gendarmerie, il faut normalement utiliser sa carte professionnelle, dotée d’une puce, ainsi qu’un code à quatre chiffres.

Or, « les poulets, moins disciplinés que les pandores, utilisent à tort et à travers un système de secours sans carte, reposant sur le seul identifiant et un code à six chiffres », qu’un policier aurait partagé en clair dans un e-mail auquel le pirate avait pu accéder.

• TAJ : le pirate a eu accès pendant 26 jours à 14 fichiers policiers et dérobé 120 fiches

Un cleptogiciel commercialisé entre 300 et 500 $ par mois

L’enquête de l’Office anticybercriminalité (OFAC) de la police judiciaire, que Le Monde a pu consulter, révèle une intrusion autrement plus complexe qui, à défaut d’être particulièrement sophistiquée, montre que les pirates ont passé deux mois et demi à errer dans un labyrinthe de systèmes informatiques interconnectés, et dû franchir de nombreuses défenses en profondeur avant de pouvoir parvenir aux fichiers qu’ils avaient exfiltrés.

La compromission du ministère de l’Intérieur remonte en réalité à un fonctionnaire du ministère de l’Agriculture, surnommé « patient zéro de l’attaque » par les enquêteurs. Dans la soirée du 19 septembre 2025, l’intéressé consulta sa boîte mail professionnelle, depuis son domicile dijonnais, sur son ordinateur personnel.

L’article du Monde laisse entendre qu’il aurait alors cliqué sur un lien adressé à son e-mail professionnel, le conduisant « sur un faux site proposant le téléchargement de logiciels d’édition musicale ». L’article ne précise pas s’il en avait téléchargé un ou s’il s’était contenté de visiter le site, reste que son ordinateur personnel fut contaminé par l’ « infostealer » (« cleptogiciel » en français) Rhadamanthys.

Le journaliste Valéry Rieß-Marchive, rédacteur en chef du MagIT, et l’un des meilleurs observateurs français des arcanes de ce type de cyberattaques, relève sur LinkedIn et sur X que la mention du nom du cleptogiciel utilisé est « rare et ce n’est pas anodin » : le détournement de comptes légitimes suite au passage de tels infostealers, « c’est classique. L’établir est plus rare. Beaucoup plus rare. »

Il émet l’hypothèse selon laquelle cette mention serait potentiellement liée au fait qu’Europol avait annoncé le démantèlement de l’infrastructure de Rhadamanthys, en novembre dernier, dans le cadre d’Endgame, une opération de grande envergure visant à démanteler les botnets et infrastructures criminelles qui y sont associées.

Valéry Rieß-Marchive précisait dans l’article qu’il y avait alors consacré que Rhadamanthys « était proposé avec de multiples plugins et commercialisé entre 300 et 500 $ par mois, payables en cryptopépettes ». À défaut de savoir si les auteurs du piratage du ministère de l’Intérieur étaient eux-mêmes clients de Rhadamanthys, ou s’ils avaient acheté à l’un de ses utilisateurs et/ou revendeurs les données liées au « patient zéro de l’attaque », cette dernière reposait donc aussi sur toute une chaîne logistique, en matière de cyberdélinquance, allant bien au-delà d’un simple piratage de login et mot de passe.

« Une faille sur un outil interne accessible depuis un simple navigateur web »

L’article du Monde ne précise pas si les antivirus et autres systèmes de sécurité du ministère de l’Agriculture auraient pu bloquer l’installation de cet infostealer sur l’ordinateur professionnel du fonctionnaire, mais il est loisible de le penser.

« Quand l’ordinateur personnel d’un collaborateur devient le vecteur d’attaque, le rebond vers le réseau professionnel est désormais quasi immédiat », remarque de son côté Henri d’Agrain, délégué général du Cigref (ex-club informatique des grandes entreprises françaises), en réponse à Valéry Rieß-Marchive.

Un exploit « très peu sophistiqué »

Ayant permis plus de 6 000 arrestations, la saisie de 900M d’euros et de 270 tonnes de drogues, le piratage du cryptophone Encrochat reposait sur un logiciel espion « secret défense » développé par la DGSI. Il avait en fait été bidouillé à partir d’un logiciel open source et d’un exploit téléchargés sur GitHub. Il reposait aussi sur une faille « zero day » identifiée par Google comme étant exploitée par le logiciel espion Pegasus de NSO, révèle une enquête de Computer Weekly.

MàJ, 23 août : quatre chercheurs en cryptographie et cybersécurité (Martin R. Albrecht, Sunoo Park, Michael A. Specter et Douglas Stebila), ont par ailleurs publié un preprint, « A Real-World Law-Enforcement Hack: The Case of Encrochat ». Présenté comme « le compte rendu public le plus détaillé à ce jour sur l’infrastructure d’Encrochat et la manière dont elle a été compromise », il n’évoque pas, cela dit, la rétro-ingénierie d’Invasys ni donc le recours à la vulnérabilité « Bad Blinder » exploitée par NSO et découverte par le Project Zero de Google, révélées par l’enquête de Computer Weekly.

---

Le 2 juillet 2020, Europol et Eurojust annonçaient que la gendarmerie nationale française avait réussi à pirater et démanteler EncroChat, « un réseau téléphonique chiffré largement utilisé par les réseaux criminels » dénombrant 60 000 clients, a priori fortunés. Ses terminaux sécurisés étaient en effet vendus la bagatelle de 1 000 euros, auxquels il fallait ajouter 1 500 euros d’abonnement, à renouveler tous les 6 mois.

• La gendarmerie a (de nouveau) cassé des messages chiffrés

Initiée en 2017, l’enquête avait mobilisé 60 enquêteurs réunis en France dans une « cellule Emma 95 », et permis plusieurs centaines d’arrestations un peu partout en Europe. Trois ans plus tard, Europol se félicitait du fait que cette opération avait permis l’arrestation de 6 558 personnes dans le monde entier (dont 197 « high value targets »), la saisie de 740 millions d’euros de cash et le gel de 154,1 millions d’euros sous forme d’actifs ou de comptes bancaires, 164,4 tonnes de cannabis, 103,5 de cocaïne, 3,3 d’héroïne, 30,5 millions de comprimés de drogues chimiques, 971 véhicules, 923 armes (plus 21 750 cartouches et 68 explosifs), 271 domaines ou maisons, 83 bateaux et 40 avions.

Europol ne précisait pas combien de personnes avaient alors été condamnées, mais celles qui l’avaient été totalisaient alors une durée cumulée de 7 134 années de prison. Europol précisait également que 35 % des affaires relevaient du crime organisé, 33 du trafic de drogue, 14 du blanchiment d’argent, 12 de projets de meurtres, et 6 de trafic d’armes.

• Cryptophone EncroChat : 6 600 arrestations, 900 millions d’euros, 270 tonnes de drogue

À l’époque, la gendarmerie n’avait pas détaillé son modus operandi, reconnaissant toutefois avoir eu recours à trois « dispositifs techniques », dont deux couverts par le « secret défense ». La loi d’orientation et de programmation pour la performance de la sécurité intérieure (LOPPSI) de 2010 autorise en effet la « captation de données informatiques, une technique spéciale d’enquête prévue par le droit français » afin de « contourner l’obstacle du chiffrement et ainsi d’accéder à des données informatiques de manière invisible pour l’utilisateur ».

• EncroChat : le Conseil constitutionnel valide le secret défense sur les outils de captation

Les journalistes d’investigation Bill Goodwin et Duncan Campbell (un ancien hacker radio connu pour avoir révélé l’existence du GCHQ et du programme anglo-saxon Echelon de surveillance satellite des communications) viennent néanmoins de révéler, dans Computer Weekly (CW) qu’à la demande de la justice britannique, une entreprise de cybersécurité tchèque a réussi, par rétro-ingénierie, à reconstituer le logiciel espion.

Il aurait été développé par le « service technique national de captation judiciaire » (STNCJ), un service à compétence nationale rattaché au directeur technique de la direction générale de la sécurité intérieure (DGSI), créé en 2018 et chargé de la conception, de la centralisation et de la mise en œuvre de dispositifs techniques permettant l’activation à distance d’un appareil électronique, qui sont cela dit couvertes par le secret de la défense nationale.

Une peine de 30 ans de prison, et plusieurs millions d’euros d’amendes

Encrochat aurait été développé par Paul Kursky, un Canadien d’une cinquantaine d’années vivant en République dominicaine. D’après The Globe and Mail, il y avait été arrêté en 2022, avant d’être extradé en février 2024 en France, où, mis en examen pour une quinzaine de chefs d’accusation, il encourt une peine de 30 ans de prison, et plusieurs millions d’euros d’amendes.

[Communiqué de presse] L’un des principaux dirigeants de la structure #EncroChat a été remis à la France le 02/02/24 à la suite d'un important travail de coopération avec @Eurojust et les autorités dominicaines.
Mis en examen, il a été placé en détention provisoire par le JLD. https://t.co/9JAuQ7tqwj pic.twitter.com/mGFeRS24i5

— Samuel Finielz, procureur de Lille (@ProcureurLille) February 7, 2024

CW révèle pour sa part qu’en 2014, Kursky expliqua à l’un de ses partenaires avoir mis au point une « solution de sécurité » pour les smartphones Android, « à partir de plusieurs projets open source », dont Off-the-Record Messaging, le précurseur des messageries chiffrées, Guardian ROM, une version sécurisée d’Android développée par le Guardian Project, un collectif de développeurs œuvrant pour « les militants, les journalistes et les utilisateurs lambda qui accordent de l’importance à la vie privée et à la sécurité ».

L’idée était de flasher un smartphone de sorte qu’il dispose d’une zone de stockage chiffrée dotée de son propre système d’exploitation, activable à partir d’une combinaison de touches spéciales offrant à ses utilisateurs la possibilité de nier de façon plausible (« déni plausible », ou « plausible deniability » en anglais) le fait qu’il s’agisse en réalité d’un « cryptophone ».

L’abonnement coûtait 1 000 $ pour 6 mois, pour un téléphone qui, ironise CW, « pouvait parfois prendre en charge des appels téléphoniques », mais servait surtout à stocker des notes, échanger des messages et images avec des utilisateurs identifiables non via leurs noms ou n° de téléphones, mais via des pseudonymes « choisis au hasard ». Leurs échanges étaient en outre automatiquement effacés au bout de 14 jours, ou dans un délai fixé par leurs expéditeurs.

Le smartphone pouvait également être effacé à distance par le revendeur ou le service d’assistance, et proposait plusieurs fonctionnalités visant à assurer « garantir l’anonymat » de ses utilisateurs, dont un code PIN spécifique destiné à la suppression immédiate de toutes les données sur l’appareil, et la suppression de toutes les données en cas de saisies consécutives d’un mauvais mot de passe.

Une rétro-ingénierie de 70 % du logiciel espion des hackers de la DGSI

Panpan CC

Les Sages ont jugé que la loi qui prévoyait d’interdire l’accès des mineurs de moins de 15 ans aux réseaux sociaux va d’une part à l’encontre de la liberté d’expression des mineurs, et d’autre part au droit à la vie privée des majeurs. Ces derniers ne devraient pas être obligés de faire vérifier leur âge sans « garanties légales ». L’Élysée réclame un nouveau texte d’ici à la présidentielle de 2027.

Le Conseil constitutionnel vient d’annoncer par communiqué avoir conclu à une « non conformité partielle » de l’article 1er de la loi qui prévoyait d’interdire l’accès des mineurs de moins de 15 ans aux services de réseaux sociaux en ligne, qui s’en trouve dès lors censuré.

Les Sages avaient en effet été saisis par plus de soixante députés du groupe parlementaire la France insoumise et du groupe Socialistes et apparentés après que l’Assemblée a entériné, le 21 juillet dernier, la proposition de loi interdisant les réseaux sociaux aux moins de 15 ans.

Son adoption ouvrait la voie à une entrée en vigueur dès la rentrée de septembre, date à partir de laquelle les moins de 15 ans ne devaient plus pouvoir créer de compte sur les réseaux sociaux. L’interdiction devait s’étendre aux comptes déjà existants dans un délai de quatre mois. Le texte ne donnait cependant aucune indication quant à l’indispensable méthode de vérification de l’âge qui, par définition, devait s’appliquer à l’ensemble de la population.

• Le Parlement vote l’interdiction des réseaux sociaux aux moins de 15 ans

Le Conseil constitutionnel juge que « les dispositions contestées, d’une part, portent une atteinte disproportionnée à la liberté d’expression et de communication et, d’autre part, n’ont pas prévu les garanties légales propres à assurer le droit au respect de la vie privée ».

La liberté d’expression s’applique aussi aux mineurs

Le Conseil se fonde d’abord sur l’article 11 de la Déclaration des droits de l’homme et du citoyen de 1789 qui protège la liberté d’expression et de communication, et rappelle qu’ « il en découle la liberté d’accéder aux services de communication au public en ligne et de s’y exprimer ».

Il reconnaît certes qu’ « il est loisible au législateur d’instituer des dispositions destinées à faire cesser des abus de l’exercice de la liberté d’expression et de communication qui portent atteinte à l’ordre public et aux droits des tiers », mais en rappelle aussi les limites :

« Cependant, [cette liberté] est d’autant plus précieuse que son exercice est une condition de la démocratie et l’une des garanties du respect des autres droits et libertés. Il s’ensuit que les atteintes portées à l’exercice de cette liberté doivent être nécessaires, adaptées et proportionnées à l’objectif poursuivi. »

Or, le Conseil juge que le législateur a brassé bien trop large, et de façon indistincte, alors qu’il ne pouvait « instituer une interdiction de portée générale ayant pour effet de priver des mineurs de leur liberté d’accès à de nombreux services de communication en ligne, sans considération ni de la situation du mineur ni des risques propres à chacun de ces services ».

Les réseaux sociaux ne sont pas tous forcément dangereux

Les Sages relèvent, « en premier lieu », que l’interdiction instituée par la loi est susceptible de s’appliquer à des services « dont les risques pour la santé et la sécurité des mineurs ne sont pas établis » :

« En effet, elle n’est soumise à aucune condition tenant aux fonctionnalités ou aux contenus proposés, aux dangers auxquels ils exposent et à l’insuffisance des protections dont ils sont assortis, et les exceptions prévues sont limitées. »

Le Conseil observe, « en second lieu », que l’interdiction prévue, étant applicable à l’ensemble des mineurs âgés de moins de quinze ans, « ne donne lieu à aucune appréciation particulière du risque pour le mineur, tenant compte notamment de son âge, de son degré de maturité et de sa situation familiale » :

« À cet égard, la loi ne prévoit pas les conditions dans lesquelles les titulaires de l’autorité parentale peuvent, dans l’intérêt de l’enfant, décider de lever l’interdiction, d’en limiter la portée ou d’autoriser l’accès à certains services. »

Devoir faire la preuve de son âge requiert des « garanties légales »

Les Sages rappellent par ailleurs que la liberté proclamée par l’article 2 de la Déclaration de 1789 implique le droit au respect de la vie privée.

Il souligne à ce titre qu’en interdisant l’accès de tout mineur de moins de quinze ans à certains services en ligne, « la loi implique, par elle même, que toute personne, même majeure, fasse la preuve de son âge avant d’y accéder », sans pour autant en avoir « prévu les garanties légales » :

« Or, faute de déterminer les conditions et les limites dans lesquelles il devra ainsi en être justifié, le législateur n’a pas prévu les garanties légales de nature à assurer le respect de ces exigences constitutionnelles. »

L’Élysée réclame un nouveau texte d’ici à la présidentielle

Emmanuel Macron vient de son côté de charger le Premier ministre Sébastien Lecornu de revoir le dispositif et proposer une nouvelle version « juridiquement robuste » d’ici au printemps 2027. Il s’agissait d’un engagement présidentiel de longue date, rappellent Le Monde et l’AFP.

Le chef du gouvernement devra travailler « dans les meilleurs délais » à une rédaction « tenant compte de la décision du Conseil constitutionnel ainsi que du cadre européen », a expliqué l’Elysée dans un communiqué, ajoutant que « la détermination » du chef de l’État à faire aboutir cette réforme « d’ici au printemps 2027 demeure totale », et donc d’ici à la prochaine présidentielle.

La Commission européenne a, de son côté, annoncé en juillet son intention d’instaurer un accès « progressif et gradué » des mineurs aux réseaux sociaux. Un comité d’experts a recommandé une interdiction aux moins de 13 ans, chaque pays pouvant cela dit choisir un autre âge plancher.

Saisi uniquement à propos de l’article premier, le Conseil constitutionnel ne s’est pas, par ailleurs, prononcé sur l’interdiction du téléphone portable au lycée à partir du 1ᵉʳ septembre, qui figurait dans le même texte de loi.

Le replay de la dernière émission d’Arrêt sur images (ASI) « Ce que l’IA fait au journalisme » vient d’être élu gratuit par les asinautes. Pendant 1h13, la journaliste Pauline Block y discute avec Mathilde Saliou, journaliste à Next, Eric Barbier, reporter à l’Est républicain, co-organisateur du contre-sommet de l’IA et référent sur l’IA au bureau national du Syndicat national des journalistes (SNJ), et Olivier Koch, maître de conférences en sciences de l’information et de la communication à l’Université Sorbonne Paris Nord, qui étudie la transformation des industries médiatiques et des pratiques journalistiques, et donc l’impact de l’IA.

Ils y discutent, entre autres, du rapport parfois trop béat d’une partie des journalistes vis-à-vis de l’effet waouh associé à l’IA, de la disparition du traitement de l’urgence écologique des médias au moment même où cette nouvelle « révolution » technologique très consommatrice en ressources et en énergie bouleverse de nombreux pans de nos activités. Ils abordent aussi la dilution de la responsabilité associée à la génération de contenus médiatiques avec de l’IA, et ses effets sur la confiance (déjà faible !) que le public peut cultiver envers l’information.

[Récap] Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles
Entre la Chaise et le Clavier #11 : Le tsunami d’infos générées par IA, avec Jean-Marc Manach

À noter que les asinautes ont également rendu gratuit « Tout le monde déteste l’algorithme », qui fait écho à l’article « Tout le monde déteste l’IA » que vient de publier le Monde Diplo. Thibault Prévost, chroniqueur technocritique d’ASI, y revient sur le mouvement de contestation contre l’IA, les centres de données « et le projet mortifère de la Silicon Valley ». Un décryptage truffé de liens et de ressources bibliographiques, comme sait si bien le faire Thibault Prévost, ainsi que de nouveaux concepts, tels que « thermocratie », « carbofascisme », « néoluddisme » ou « AI populism ».

Il relève notamment qu’Amnesty International, qui a analysé les systèmes d’IA générative au prisme du respect des droits humains fondamentaux, conclut que « ces logiciels sont « fondamentalement incompatibles » avec les traités internationaux, dans leur architecture même, et doivent être prohibés ».

Pour lui, « la rage qui fleurit partout n’est pas dirigée contre l’IA comprise comme une simple technique informatique, mais contre l’IA comprise comme idéologie et ce qu’elle contient, permet, encode dans le tissu social ». D’autant que, « alors que l’Europe brûle, le projet techno-politique de la tech s’affiche pour ce qu’il est : pyromane ». Ce pourquoi, et « dès lors que l’on défend la dignité humaine, la pérennité du vivant et le droit de vivre sur une planète habitable, la haine de « l’intelligence artificielle », machine génératrice de prétexte technique à l’installation d’un ordre social inhumain, est donc juste et saine. »

Thibault Prévost est aussi l’auteur de deux essais, sur ces mêmes problématiques. « Les prophètes de l’IA – pourquoi la Silicon Valley nous vend l’apocalypse », consacré aux « doomers » « prophètes catastrophistes » et autres « techno-oligarques », publié en octobre 2024, et « Technologie du coup d’État – les programmeurs de l’autoritarisme », sur le « putsch numérique » de la Silicon Valley, à paraître en octobre 2026.

MégaJ(o)ules

Depuis ses 17 ans, Jules* est l’un des 147 administrateurs de Wikipédia (en français). 15 ans plus tard, il en est aussi l’un des 20 contributeurs les plus prolifiques en France et vient d’être désigné « wikimédien de l’année » à l’international. Il a également bloqué de nombreux « vandales » (dont l’adresse IP du ministère de l’Intérieur) et « faux nez » (dont une cellule d’infiltrés d’Éric Zemmour). Auteur d’articles de qualité sur le changement et la désinformation climatique, il nettoie aussi Wikipédia des sites d’info générés par IA et cherche un « taf semi-alimentaire » afin de pouvoir continuer à y contribuer, bénévolement. Portrait.

À l’occasion de ses 25 ans, Wikimédia organisait fin juillet sa conférence mondiale annuelle Wikimania 2026 à la Cité des sciences et de l’industrie de Paris. Intitulée « Liberté, Équité, Fiabilité », elle a notamment mis l’accent sur « la vérifiabilité, la factualité et la neutralité des contenus […] à une époque où la fiabilité scientifique et la crédibilité du travail journalistique sont de plus en plus attaquées ». Wikimédia France y a d’ailleurs présenté un livre blanc, « Vers une société des communs numériques », auquel nous avons consacré un précédent article.

• Le programme de Wikimédia France pour une « ère du Web des Communs »

Comme chaque année depuis 2011, le fondateur de Wikipédia Jimmy Wales y a aussi récompensé le « wikimédien de l’année ». Cette mention honorifique (elle est primée par une peluche de Bébé Globe, la mascotte du 25e anniversaire de Wikipédia) a cette année été décernée par des bénévoles de toute la planète à un Français : Jules Xénard. Sur l’encyclopédie, celui-ci est connu sous le pseudonyme de Jules*.

Wikimedia précise que Jules* « consacre une grande partie de son temps à annuler les actes de vandalisme, à améliorer les nouvelles contributions, à aider les nouveaux contributeurs, à lutter contre les modifications rémunérées non déclarées et à répondre aux demandes d’aide de la communauté », mais pas seulement :

« En tant qu’auteur, Jules* se consacre principalement au thème du changement climatique. Il aborde chaque article dans le plus pur esprit wikimédien, en rassemblant des sources fiables et en vérifiant les faits. La rédaction d’un seul article peut lui prendre plusieurs mois. Il est particulièrement fier de ses articles consacrés au sixième rapport d’évaluation du GIEC ou au rapport Charney [une publication scientifique américaine qui annonçait en 1979 un réchauffement climatique résultant de l’émission de gaz à effet de serre par l’usage humain des combustibles fossiles, NDLR]. »

Lors de la cérémonie, rediffusée sur YouTube, des messages partagés par d’autres wikimédiens soulignaient qu’ « il accomplit depuis des années un travail incroyable et de grande envergure, notamment sur le front de la lutte contre la désinformation », et qu’ « il a joué un rôle moteur dans la lutte contre la désinformation sur le changement climatique sur la plateforme, en veillant à ce que le contenu reste strictement conforme au consensus scientifique ».

C’est la deuxième fois qu’un Français est désigné Wikimédien de l’année. En 2013, Rémi Mathis, alors président de l’association Wikimédia France, avait en effet été récompensé pour son rôle dans la controverse de la création de l’article « Station hertzienne militaire de Pierre-sur-Haute », que la direction centrale du Renseignement intérieur (DCRI, devenue DGSI) avait alors cherché à censurer.

• DCRI : Un syndicat de police envisage le blocage des pages de Wikipedia

Ayant déjà eu l’occasion de mentionner Jules dans plusieurs articles (il est le contributeur de Wikipédia le plus cité sur Next), nous avons jugé opportun de revenir sur son parcours, tout autant improbable qu’impressionnant.

Il entre dans le Top 125 des contributeurs l’année de son bac

Toutes encyclopédies confondues, Wikipédia lui dénombre désormais plus de 500 000 éditions, dont 376 000 contributions en français depuis la création de son compte le 14 septembre 2010, alors qu’il n’avait que 16 ans. Sa toute première contribution, ce jour-là, consista à rétorquer à l’intention d’un certain Antoine1989 « Pas d’opinions personnelles, SVP. Merci. ». Cinq mois plus tôt, ce dernier avait en effet rajouté « VIVE LE MARÉCHAL! » à l’article consacré à Philippe Pétain. Un vandalisme bas de gamme qui fut d’ailleurs effacé 3 minutes plus tard seulement.

Sur son journal de bord, Jules* indique avoir effectué sa 10 000ᵉ contribution en mars 2011, soit six mois seulement après la création de son compte, mois où il figura aussi en 795ᵉ position du « Top 1000 » des wikipédiens (en français) par nombre d’éditions (il y figure aujourd’hui à la 20ᵉ position).

Le 15 septembre 2011, un an et un jour après son inscription, il totalise déjà plus de 27 000 contributions. Alors qu’il n’a que 17 ans, il est élu au statut d’administrateur de l’encyclopédie. Dans sa lettre de candidature, il explique à l’époque avoir besoin des outils d’administrateur « principalement pour la lutte contre le vandalisme, et, plus généralement, pour conserver le niveau actuel de l’encyclopédie ».

En juin 2012, il s’accordait un « wiki-break 3 semaines en raison de révision du bac, puis du bac lui-même », après avoir dépassé le cap des 50 000 contributions (soit près de 25 000 l’année de son bac !), le plaçant au 117^e rang du « Top 1000 ». Suivirent deux années d’études de journalisme qui, bien que « très prenantes et fatigantes », ne l’empêchèrent pas de franchir le cap des 100 000 contributions, au point de figurer en 35ᵉ position du « Top 1000 » en janvier 2014.

« Au lycée, j’avais trouvé ma vocation : wikipédien », expliquait Jules* en 2024 dans une interview pour RAW, la wikilettre d’information de l’encyclopédie :

« Je ne voyais pas pourquoi j’aurais dû choisir un métier alors que j’avais trouvé ma manière d’être utile à la société. Mais la réalité est ce qu’elle est, pas de revenu universel qui permettrait à chacun de participer à sa manière à la société sous des formes qui actuellement ne sont pas rémunérées. Un diplôme de journaliste en poche, j’ai vu en l’association Wikimédia France une manière de pouvoir vivre de ma passion (et donc y consacrer encore plus de temps ^^). »

Licencié pour avoir refusé de censurer des contributeurs de Wikipédia

De mai 2015 à mars 2016, âgé de 20 ans, il entamait un service civique de huit mois suivi d’un CDD de deux mois et demi à Wikimédia France, chargé d’animer le projet WikiMOOC, un cours en ligne gratuit pour apprendre à contribuer à Wikipédia, d’effectuer des formations auprès d’enseignants et d’étudiants, et d’animer un wikiconcours lycéen.

En décembre 2015, il bloquait l’adresse IP du ministère de l’Intérieur en écriture pendant un an pour « passage en force alors que vos modifications ne sont pas consensuelles », invitant les utilisateurs du ministère à « vous familiariser quelque peu avec les usages de Wikipédia » :

« Après lecture de l’historique […] des blocages déjà opérés sur cette IP, j’en conclus qu’entre vandalismes et attitude non-collaborative (passages en force, pistage des contributions d’autrui et foutage de gueule en prime), cette IP pose plus de problème qu’elle n’apporte de chose positive à Wikipédia. »

Parmi les vandalismes, l’insertion de « sale batar » dans un article, ou encore celle d’une blague graveleuse dans la devise d’une commune, relevait à l’époque Le Monde. Bon prince, Jules* indiquait cela dit qu’il « reste possible aux personnes travaillant au ministère de l’Intérieur avec cette IP de contribuer en créant un compte ».

• Une adresse IP du ministère de l’Intérieur assignée hors de la résidence Wikipédia

En avril 2016, il rendait publique sur Wikipédia une enquête consacrée à des contributions rémunérées de Wikipédiens expérimentés pour le compte de clients de Racosch, une entreprise de relations publiques suisse, qui fut reprise dans la foulée par L’œil du 20 heures de France Télévisions.

En septembre, Jules* était de nouveau recruté par l’association Wikimédia France, afin de coordonner la sensibilisation du grand public aux projets Wikimédia, de servir de point de contact et de faciliter le dialogue entre l’association et la communauté wikipédienne (« en plus de mes activités bénévoles sur Wikipédia », précisait-il dans le message annonçant son recrutement).

En octobre, il lançait Bot de pluie, un robot recourant à des expressions régulières puis à un script rédigé en Python pour effectuer des corrections orthographiques et typographiques de manière automatisée. Près de 10 ans plus tard, il figure en 8ᵉ position des bots ayant effectué le plus de modifications, avec près de 1,2 million de contributions.

En juillet 2017, Jules* était mis à pied puis licencié pour « faute grave » par la directrice de l’association et son adjoint (qui était aussi son mari), pour avoir refusé de censurer trois courriels adressés par des adhérents sur la liste de discussion interne de l’association, puis d’avoir également refusé de censurer plusieurs contributions à sa wikilettre d’information. Des refus qu’il justifia au motif que ces demandes de censure lui semblaient « contraires aux intérêts de l’association et […] à l’encontre de mon éthique ».

L’association traversait alors une crise profonde, après que dix salariés et stagiaires aient été reconduits, résuma Thierry Noisette sur le nouvelobs.com. Ses sources déploraient « des pratiques de harcèlement ou d’autoritarisme, de la part de la directrice », incitant la moitié du conseil d’administration à démissionner.

Jules* n’a pas cessé, pour autant, de continuer à contribuer bénévolement pour Wikipédia. Au mois d’août de la même année, un mois seulement après son licenciement, il lançait avec d’autres le compte Twitter @wikipedia_fr, afin de « mieux faire connaître le fonctionnement auprès du grand public et [de] mettre en valeur les contenus de l’encyclopédie ».

À compter d’avril 2018 et durant toute une année, il apprend cela dit à conduire des trains, activité qui deviendra son nouveau métier alimentaire. En septembre 2019, il n’en est pas moins élu au statut de « bureaucrate », sorte de « super-administrateur » nommé par la communauté pour assurer la gestion de certains statuts de contributeurs de Wikipédia.

Débusquer les « faux-nez » qui instrumentalisent l’encyclopédie

MER IL ET FOU !

Un robot humanoïde pour enseigner dans une salle de classe, ce n’est pas banal. Mais quand ce robot est issu d’une entreprise de poupées sexuelles rachetée par un ancien banquier d’affaires spécialisé dans le minage de bitcoins et le métavers, qui pensait pouvoir s’en servir pour faire entrer l’intelligence artificielle à l’école… on pouvait craindre que ça pourrait mal tourner. Et ça a mal tourné.

« Un robot conçu par une entreprise spécialisée dans les poupées sexuelles n’a rien à faire dans nos salles de classe », tempêtait fin juillet Melinda Person, présidente du New York State United Teachers (NYSUT), syndicat fédérant plus de 700 000 enseignants (en poste ou retraités) de l’État de New-York, dans une lettre ouverte précisant qu’elle n’aurait «jamais pensé devoir formuler » un tel « constat ».

Aussi improbable que cela puisse paraître, une entreprise spécialisée dans les cryptoactifs (qui s’était fait connaître pour avoir acheté pour 2,4M$ de « terrains numériques » dans le métavers en NFT) a cru pouvoir pivoter son « business model » en vendant au district scolaire d’une bourgade rurale new-yorkaise (dont la devise est « Home of the Warriors », en hommage à la tribu d’Iroquois dont sa réserve indienne est issue) un robot humanoide initialement conçu et vendu comme poupée sexuelle hyperréaliste afin de servir d’assistante IA d’éducation basée sur un programme de soutien scolaire créé par Steve Wozniak, pionnier de la micro-informatique et concepteur des premiers ordinateurs Apple afin d’aider les jeunes à s’initier aux métiers de la tech’. Ouf ! L’auteur de ces lignes n’aurait, lui non plus, jamais imaginé pouvoir enfiler autant de perles de buzzwords d’affilée.

Une « nouvelle ère » et un « tournant historique pour l’IA et la robotique »

Fin juin, Realbotix, une entreprise qui se présente comme «l’un des principaux développeurs américains de robots humanoïdes et de systèmes d’IA avancés », annonçait en effet par communiqué de presse « déployer son premier robot humanoïde et son assistant pédagogique basé sur l’IA dans un district scolaire américain ».

Le district scolaire en question est celui de Salamanca, une bourgade rurale de 6 000 habitants (dont 20 % d’Amérindiens) située à l’ouest de l’État de New York, dans le comté de Cattaraugus. C’est l’une des deux réserves indiennes sénécas (ou Tsonnontouans, « les gens de la grande montagne » en VF, un peuple autochtone iroquois). On est loin de la Silicon Valley.

Le projet pilote repose sur Optio, un assistant pédagogique qui intègre une IA dans les cours de sciences, technologie, ingénierie et mathématiques (STEM) « grâce à des avatars personnalisés et des robots humanoïdes qui assistent les enseignants et motivent les élèves ».

En l’espèce, il s’agit d’un robot humanoïde féminin hyperréaliste, doté d’une peau en silicone et de cheveux longs. Il est censé « créer des expériences d’apprentissage captivantes et pratiques », encourager la participation des élèves et leur permettre de se familiariser dès leur plus jeune âge avec les technologies émergentes.

Andrew Kiguel, un ancien banquier d’affaires reconverti dans le minage de bitcoins, les infrastructures blockchain, les tokens et le métavers, est devenu CEO de Realbotix. Il qualifie le projet de « nouvelle ère » et de « tournant historique tant pour l’IA que pour la robotique humanoïde » :

« Nous dépassons le stade des démonstrations en laboratoire et des projets pilotes pour intégrer directement dans les salles de classe une IA concrète et incarnée — afin de soutenir les enseignants, de susciter l’intérêt des élèves et de prouver que la robotique de pointe peut s’épanouir dans des environnements éducatifs réels. »

Un programme pour lycéens illustré par une photo d’enfants, générée par IA

Le communiqué soulignait que le déploiement initial d’Optio accompagnera les lycéens (« high school students ») dans le cadre de cours consacrés à l’IA et à la robotique, et qu’il était prévu de l’étendre à environ 500 lycéens au cours du semestre d’automne, en fonction des retours d’expérience des enseignants et élèves.

Étrangement, la photographie (générée par IA) confiée par Realbotix à la presse ne montrait pas une classe de lycéens, mais d’élèves de primaire, avec des enfants d’environ 5/6 ans. Une illustration d’autant plus étonnante que, sur LinkedIn et X.com, Realbotix précise qu’il n’a vocation à interagir qu’avec des lycéens seulement (« only high school seniors »).

« Le plus important, c’est peut-être de dire ce que ce projet pilote n’est pas »

Le district scolaire de Salamanca souligne pour sa part dans sa présentation du projet pilote, sur Instagram et X.com, que le robot éducatif et avatar numérique Realbotix « a été alimenté exclusivement par le programme scolaire approuvé par l’académie, des stratégies pédagogiques et des informations historiques sur Salamanca » :

« Contrairement à de nombreux outils d’intelligence artificielle qui se contentent de fournir des réponses, le robot et l’avatar numérique Realbotix sont conçus pour encourager la réflexion critique et favoriser l’apprentissage. Lorsque les élèves posent des questions, le robot les guide tout au long du processus d’apprentissage plutôt que de faire le travail à leur place. »

1984 was not supposed to be an instruction manual

Un système de reconnaissance faciale en temps réel (LFR) déployé dans plusieurs milliers de magasins va alerter la police en temps réel lorsqu’il identifie les « délinquants les plus dangereux ». La police de Londres, qui revendique 2 000 arrestations grâce à la LFR depuis 2024, veut élargir à l’ensemble de la population un « projet pilote avec Palantir » conçu pour identifier de manière « proactive » les individus et comportements « problématiques » afin d’intervenir « avant que le préjudice ne survienne ».

Facewatch, un système de reconnaissance faciale utilisé pour identifier les voleurs par les milliers de magasins de plus de 100 enseignes britanniques, dont Sainsbury’s et Spar, a annoncé le lancement d’une fonctionnalité visant à « alerter immédiatement la police lorsque les délinquants les plus dangereux font l’objet d’une correspondance en temps réel grâce à la reconnaissance faciale ».

Nick Fisher, directeur général de Facewatch, précise que cette expérimentation serait testée à l’automne, et qu’elle devrait permettre d’alerter la police en quatre secondes en moyenne dès que les « pires délinquants » seraient repérés par son système, rapporte The Guardian.

« Il n’est pas illégal d’entrer dans un magasin, même si l’on a commis des délits par le passé », rétorque Charlie Whelton, de l’ONG de défense des droits humains Liberty :

« L’idée d’appeler la police pour quelqu’un qui n’a pas commis de délit, mais dont on craint qu’il puisse en commettre un, bouleverse véritablement notre façon de fonctionner. Et bien sûr, ce n’est pas infaillible. Ces systèmes commettent des erreurs, et il est très difficile de contester cela quand on en est victime. »

The Guardian rappelle que plusieurs personnes ont d’ores et déjà été refoulées de magasins après y avoir été identifiées à tort par la technologie Facewatch comme des voleurs à l’étalage, qualifiant d’« orwellienne » cette façon d’être « considérées comme coupables jusqu’à preuve du contraire ».

L’article ne précise pas, cela dit, quels critères permettront de définir les « délinquants les plus dangereux », ni les mesures qui seraient prises pour que la liste puisse être interfacée avec le système de Facewatch sans risque de fuiter.

« La plus grande base de données privée sur la criminalité au Royaume-Uni »

Sur son site, Facewatch se présente comme « le seul outil de prévention de la criminalité qui identifie de manière proactive les délinquants connus, permettant ainsi au personnel d’intervenir avant même qu’un délit ne soit commis ».

Facewatch aurait ainsi envoyé plus de 57 000 alertes proactives au sujet de « délinquants connus », identifiés dans les milliers de magasins de ses plus de 125 clients pour le seul mois de juin, et près de 300 000 ces six derniers mois. Le service revendique un taux de réussite de « 99,98 % », et « jusqu’à 70 % » de diminution de la délinquance.

Les voleurs à l’étalage se limitant rarement à un seul magasin en particulier, Facewatch permet aussi à ses clients d’accéder à ce que l’entreprise présente comme « la plus grande base de données privée sur la criminalité au Royaume-Uni », constituée par les renseignements qu’ils partagent au sujet des « récidivistes » identifiés :

« Les abonnés peuvent signaler de nouveaux suspects d’intérêt (SOI) par le biais de signalements d’infractions, qui doivent inclure une déclaration officielle d’un témoin attestant qu’une infraction a bien eu lieu, ainsi que des motifs raisonnables permettant de soupçonner le SOI d’en être l’auteur. Facewatch examine chaque signalement afin de s’assurer que ces deux éléments sont bien établis. L’abonné ne peut consulter que les signalements et les SOI qu’il a lui-même enregistrés. »

La page Privacy de Facewatch précise qu’une alerte comprend une ou plusieurs images faciales, le pourcentage de certitude quant à la correspondance des images, ainsi qu’une galerie d’images conservées de la personne recherchée, le type d’infraction et tout indicateur d’alerte (par exemple, violence) qui lui est associée :

« Toutes les alertes font l’objet d’une double vérification algorithmique avant leur envoi et ne sont transmises que si le taux de similitude est supérieur à 99 % ou si un analyste facial de Facewatch estime qu’il y a correspondance. »

Facewatch indique par ailleurs utiliser les serveurs AWS au Royaume-Uni pour héberger ses opérations de traitement, et recourir à son SaaS de reconnaissance faciale AWS pour effectuer un contrôle secondaire de précision en complément de celui émanant de son propre logiciel.

2 000 arrestations à Londres depuis 2024 grâce à la reconnaissance faciale

L’annonce de cette expérimentation intervient alors que la Metropolitan Police (Met) de Londres vient pour sa part d’annoncer, en juin dernier, qu’elle prévoit elle aussi d’élargir le recours à la technologie de reconnaissance faciale en temps réel (LFR), dans sept quartiers l’an prochain.

Une expérimentation à Croydon, dans la banlieue sud de Londres, aurait permis l’arrestation, entre octobre 2025 et mai 2026, de 173 personnes, dont une femme recherchée depuis plus de 20 ans, rapporte la BBC. Bien que plus de 470 000 personnes soient passées devant les caméras, la LFR n’aurait connu qu’une seule fausse alerte.

Au total, la LFR aurait conduit à plus de 2 000 arrestations depuis 2024, mais également permis de réduire la criminalité de 10,5 %, notamment les infractions commises dans le commerce de détail, les comportements antisociaux, contribuant même à une « baisse significative des violences faites aux femmes et aux filles » avance la Met.

Elle n’explique aucunement en quoi le système de reconnaissance faciale y aurait en lui-même contribué, mais précise que les caméras, montées sur du mobilier urbain, ne sont activées que lors des déploiements d’agents sur le terrain.

De plus, des agents spécialisés et des équipes de police de proximité sont également « déployés tout au long de chaque opération » pour interagir avec le public et répondre à leurs craintes en matière de reconnaissance faciale policière.

Cette « baisse significative des violences faites aux femmes et aux filles », et la réduction de la criminalité, seraient dès lors tout autant, voire bien plus, imputables à cette présence renforcée, et donc dissuasive, de policiers au contact de la population qu’à la reconnaissance faciale en tant que telle.

Wonder WikiWoManIA

À l’occasion des 25 ans de Wikipédia, qui rassemblaient 1 200 personnes à Paris, Wikimédia France dresse 6 « priorités » déclinées en 28 « recommandations concrètes », qualifiées de « véritable feuille de route politique et législative pour bâtir un écosystème numérique transparent et pluraliste » favorisant, à l’horizon 2035, les biens communs numériques.

La Cité des sciences et de l’industrie accueillait du 21 au 25 juillet à Paris la 21e édition de Wikimania, l’évènement mondial annuel organisé par Wikipedia, intitulée cette année « Liberté, Équité, Fiabilité », célébrant les 25 ans de l’encyclopédie participative et auquel Next avait été convié.

Plus de 1 200 personnes y ont assisté physiquement, dont un peu plus d’un tiers (34 %) ont moins de 35 ans et environ deux tiers provenant de pays situés en dehors de l’Europe du Nord et de l’Europe occidentale, et plus de 2 000 en ligne.

Une quinzaine de journalistes ont assisté à la conférence de presse, où Jimmy Wales, le fondateur de Wikipedia, a rappelé que les différents sites et projets de l’encyclopédie totalisaient 15 milliards de visites par mois. Interrogé par Next au sujet des problèmes posés par les sites d’info générés par IA, Jimmy Wales nous a répondu que « ce n’est pas seulement un problème, c’est une crise ».

• [Récap] Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles

Bernadette Meehan, directrice générale de la Fondation Wikimedia, a de son côté souligné que « l’Internet ne pourrait pas survivre sans Wikipedia » et que son objectif était d’informer, pas d’influencer, ce pourquoi « nous ne voulons pas d’opinions ».

Interrogée sur Grokipedia, la soi-disant encyclopédie générée par IA d’Elon Musk, créée pour concurrencer Wikipedia, elle a ironisé quant au fait que l’article la concernant contient non seulement des informations erronées, mais va également jusqu’à émettre des « opinions » biaisées à son sujet.

Rémy Gerbet, directeur exécutif de Wikimédia France, a de son côté rappelé que « nous sommes à la veille d’élections démocratiques majeures, dans un contexte de défiance et de désinformations ». Ce pourquoi l’association a profité de Wikimania pour publier un livre blanc, « Vers une société des communs numériques », qui formule un « diagnostic d’urgence », afin de « se faire entendre des candidats », au motif que « l’essor de l’intelligence artificielle générative et l’hégémonie des grandes plateformes font peser un double risque sur notre démocratie » :

• d’une part, une saturation du web aggravée par des contenus synthétiques non vérifiables altérant la confiance des citoyens,
• d’autre part, un phénomène d’enclosure juridique et économique entraînant la privatisation des savoirs et la captation de la valeur produite par la création humaine.

Dès lors, garantir une information « fiable, accessible et gouvernée collectivement dans l’intérêt général » constitue désormais un «enjeu démocratique majeur », avance l’association. C’est pourquoi elle appelle à « renforcer la résilience de notre espace informationnel, la préservation des biens communs numériques et la promotion d’une innovation respectueuse des principes démocratiques » :

« Nous nous trouvons aujourd’hui à la croisée des chemins. Les choix réglementaires, budgétaires et politiques que nous faisons aujourd’hui façonneront le visage du monde numérique de la prochaine décennie. Si nous laissons s’installer les logiques d’enclosure, de captation opaque de la valeur et de saturation par les contenus synthétiques, le web de demain sera un espace fragmenté, privatisé et hostile au jugement critique. »

« Cap sur 2035, l’ère du Web des Communs »

« Mais une autre trajectoire est possible », souligne-t-elle dans une conclusion prospective imaginant une « ère du Web des Communs » en 2035. Les biens communs numériques y seraient érigés en piliers de nos politiques publiques, afin de « concevoir un futur où la technologie émancipe au lieu d’enfermer », dans le cadre d’un écosystème numérique européen opérant lui aussi sa mue vers un modèle « durable, souverain et profondément démocratique » :

• les systèmes d’intelligence artificielle générative ne seront plus des boîtes noires capturant unilatéralement la connaissance humaine, mais un écosystème d’IA fondé sur la réciprocité obligatoire (« Share-alike », à la manière des licences « libres »), où les grands modèles commerciaux (y compris les données d’entraînement et les poids des modèles d’intérêt public) nourriront en retour l’écosystème ouvert ;
• un modèle inspiré par la sobriété et la gouvernance humaine de Wikipédia, le web sera composé d’architectures sécurisées dès la conception (« safe by design »), au point que les interfaces truquées (dark patterns) et les flux algorithmiques conçus pour maximiser l’addiction attentionnelle appartiendront au passé ;
• une science ouverte généralisée, chaque recherche financée par le citoyen sera immédiatement disponible pour le citoyen, accélérant la lutte contre la désinformation globale, et les verrous numériques et tarifaires sur la culture définitivement abolis ;
• une société de « consommation de l’information » transformée en une « véritable démocratie du savoir » reposant sur des citoyens ne se contentant pas d’aller voter, mais agissant aussi comme contributeurs co-gérant les communs de la connaissance de cette « république numérique ».

« Faire le choix des biens communs aujourd’hui, c’est refuser la fatalité des monopoles technologiques pour bâtir une autonomie numérique ouverte, humaine et durable », conclut Wikimédia, pour qui « il ne tient qu’aux décideurs publics de s’emparer de cette feuille de route pour faire de la France et de l’Europe les pionnières de cette nouvelle ère numérique » :

« Le modèle de Wikipédia a prouvé qu’une utopie numérique pouvait devenir une infrastructure mondiale indispensable. En 2035, les biens communs numériques ne seront plus l’exception alternative, mais l’architecture de référence de nos services publics et de notre économie de l’innovation. »

« Une troisième voie existe »

Le livre blanc de Wikimédia France dresse 6 « priorités » déclinées en 28 « recommandations concrètes », qualifiées de « véritable feuille de route politique et législative pour bâtir un écosystème numérique transparent et pluraliste » capable de conjuguer innovation, démocratie, protection des droits fondamentaux et accès universel à la connaissance. L’association « portera activement » cette feuille de route auprès des législateurs à l’approche des échéances politiques majeures que sont les sénatoriales en septembre 2026 et la présidentielle en 2027 :

1. Préserver l’intégrité de l’information face aux risques de désinformation et de manipulation.
2. Construire un partenariat équilibré entre éditeurs de solutions d’intelligence artificielle et producteurs de connaissances.
3. Établir l’éducation aux médias et à l’information comme levier central de la résilience démocratique.
4. Le rééquilibrage du droit d’auteur pour équilibrer la protection la création et la circulation des connaissances.
5. La garantie d’un environnement numérique respectueux des libertés fondamentales et protecteur des utilisateurs.
6. La reconnaissance des biens communs numériques comme des infrastructures stratégiques au service de la souveraineté, de l’innovation et de l’intérêt général.

Selon Wikimédia France, la souveraineté numérique ne saurait être « réduite à une simple logique d’autonomie industrielle ou de concurrence économique ». Elle « suppose également la préservation d’infrastructures de connaissance ouvertes, transparentes et gouvernées collectivement » :

« Entre le modèle des plateformes commerciales intégrées et une approche fondée sur le repli technologique, une troisième voie existe : celle des biens communs numériques. Faire des communs le pilier de nos politiques publiques signifie sanctuariser le principe d’une souveraineté ouverte, une approche où la technologie et l’information restent gouvernées démocratiquement, co-construites par et pour les humains, de manière transparente, et accessible à toutes et tous. »

Wikimédia rappelle que le fonctionnement de l’encyclopédie participative « illustre pleinement la notion de commun numérique », telle que développée notamment par Elinor Ostrom, première femme à recevoir le Prix dit Nobel d’économie « pour son analyse de la gouvernance économique, et en particulier, des biens communs » : une ressource partagée (le savoir), gérée par une communauté (les contributeurs) selon un système de règles partagées et transparentes (la coconstruction des articles) visant à « éviter sa destruction ou sa capture par des intérêts privés », résume le livre blanc.

Un « test Wikipédia » avant tout projet de loi et de régulation du numérique

Wikimedia réclame un « soutien plus direct et stratégique » pour que la France et les instances européennes reconnaissent les communs numériques comme des « infrastructures stratégiques d’intérêt général », afin que des financements d’avenir pérennisent ces écosystèmes, « sans jamais interférer avec leur indépendance éditoriale ou leur gouvernance interne ». Cette demande fait écho à la Stratégie nationale de lutte contre les manipulations de l’information 2026 - 2030 dévoilée par le SGDSN et VIGINUM en février dernier.

• Infox, ingérences & cie : la France veut « garantir que chacun puisse penser librement » (1/4)
• Comment la France entend concrètement lutter contre les manipulations de l’information (2/4)
• Infox : la France veut faire de l’Europe un « exportateur de stabilité informationnelle » (3/4)
• La Chancellerie et VIGINUM accélèrent la lutte contre les manipulations de l’information (4/4)

Face à la polarisation algorithmique, elle rappelle que la « neutralité de point de vue » qui guide les projets de la connaissance libre comme Wikipédia vise à « représenter de manière honnête, proportionnée et documentée les différents points de vue et avis sérieux autour d’un fait ». Elle appelle les pouvoirs publics à y contribuer en soutenant les travaux de recherche et expérimentations visant à « développer des interfaces numériques favorisant la contextualisation, la diversité des perspectives et la transparence éditoriale ».

Wikimédia propose également d’instaurer un « Test Wikipédia » préventif, dont une version (en anglais) avait été mise en ligne l’an passé afin d’évaluer tout projet de loi et de régulation du numérique. Le test doit s’assurer que des obligations (souvent pensées pour censurer ou filtrer les réseaux sociaux commerciaux) ne détruisent pas le modèle collaboratif et non lucratif des communs par ricochet, et ne bloquent pas le partage libre des connaissances qui participe à l’intérêt général.

À l'IA jacta est

Alors que le gouvernement a annoncé que les élèves de seconde bénéficieraient à la rentrée 2027 d’une heure de cours d’intelligence artificielle par semaine, des chercheurs ont testé la capacité des êtres humains à déléguer leur esprit critique à une IA. Paradoxalement, ceux qui avaient le droit d’interroger une IA affichaient un taux de confiance plus de deux fois plus élevé que ceux qui n’y avaient pas droit. Et pourtant, ces derniers se sont bien moins trompés que ceux qui répétaient les réponses proposées par l’IA.

MàJ, 21 h, avec un bloc de conclusion précisant que le ministre de l’Éducation vient de préciser que le cours d’IA en seconde devra également servir de « levier précoce » pour lutter contre les inégalités et disparités entre filles et garçons auxquelles sont confrontées les filières et métiers du numérique et de l’intelligence artificielle.

---

« Savoir quand ne pas répondre est l’un des fondements du jugement humain. Mais que se passe-t-il lorsqu’une IA a toujours une réponse ? » s’interroge sur LinkedIn Walter Quattrociocchi, pour qui la phrase la plus importante en science n’est pas « j’avais raison », mais « je ne sais pas ».

Pour y répondre, ce professeur d’informatique et auteur de trois livres consacrés à la désinformation et à la post-vérité s’est associé avec deux autres chercheurs universitaires, Chiara Marcoccia et Valerio Capraro, afin de procéder à cinq expérimentations.

Le titre de leur preprint en divulgâche quelque peu les résultats : « Les conseils fournis par l’IA dissuadent les gens de dire « je ne sais pas », même lorsque ces conseils sont erronés et que l’exactitude est récompensée ».

Ils avaient demandé à 3 132 participants de répondre à six questions relatives au cinéma, choisies de sorte que leurs réponses soient difficiles à trouver par des humains, mais portant sur des détails visuels suffisamment pointus pour que les LLM soient prompts à « halluciner » des réponses plausibles, mais erronées.

Y figuraient par exemple des questions comme « quel animal figure sur la proue du bateau pirate dans “Astérix et Obélix” ? », ou « quelle est la couleur du maillot de l’équipe de foot de « Joue-la comme Beckham » ? ».

L’IA fait exploser le taux d’erreurs… et le niveau de confiance

Histoire de parfaire le tableau, les chercheurs avaient également pris soin d’opter pour un modèle, Step 3.5 Flash, dont ils savaient que la totalité des réponses seraient erronées car « hallucinées », contrairement à celles proposées par d’autres modèles plus sophistiqués.

L’objectif du questionnaire n’était pas d’estimer la capacité des assistants IA à répondre correctement, mais bien d’observer comment les participants font confiance aux réponses générées par IA. Affectant ainsi à la fois leur capacité de discernement et leur propension à ne plus oser répondre « je ne sais pas ».

Les participants étaient divisés en deux groupes : le premier devait répondre aux questions sans aide externe, le second pouvait reposer la question à une IA. Or, en moyenne, 44 % des membres du premier groupe ont répondu « Je ne sais pas », contre 3 % seulement de ceux qui ont pu interroger une IA (soit une différence de - 93 %).

De plus, le taux de bonnes réponses des premiers était de 27 %, contre seulement 9 % pour le second (- 67 %). Dans le même temps, le niveau de confiance des premiers était de 30 %, contre 76 % chez les seconds (+ 153 %).

L’IA les a non seulement induits en erreur, au point de tripler le nombre de réponses erronées par rapport au groupe témoin, mais elle leur a dans le même temps donné une illusion de compétence totalement infondée. Et ce, alors que près d’un tiers d’entre eux aurait pu donner la bonne réponse s’ils n’avaient pas interrogé l’IA.

Dit autrement : en se reposant aveuglément sur l’IA, le taux de réponse correcte s’écroule de deux tiers, alors que les participants se sentent deux fois et demi plus confiants. Et seule une infime minorité des participants recourant à l’IA (3 %) reconnaît ne pas savoir répondre à la question, l’IA ayant donné aux autres un (faux) sentiment de certitude, basé sur des réponses (majoritairement) fausses.

Pour parfaire leur expérimentation, les chercheurs ont également proposé des incitations financières, ce qui a légèrement amélioré les résultats obtenus par les participants car ils se comportaient un peu plus prudemment.

Dans le groupe ayant accès à l’IA, la disposition à admettre son ignorance est ainsi passée de 3 % à 8 %, et la pertinence des réponses de 9 % à 16 %, des taux restant bien inférieurs à ceux du groupe de contrôle, respectivement de 44 % et 27 %.

Les IA génératives ne savent pas répondre « je ne sais pas »

Comme le résume Walter Quattrociocchi, le problème n’est pas simplement que l’IA puisse se tromper, mais que le fait qu’elle propose une réponse incite les gens à vouloir y croire au point de la reprendre à leur compte. Ce qui ne peut avoir que des effets négatifs tant dans l’éducation ou la recherche que dans le débat public.

« Pour les êtres humains, la capacité à dire “Je ne sais pas” est très importante, car elle traduit la reconnaissance des limites de nos propres connaissances », explique Valerio Capraro à The Register. Cette incapacité peut donc aussi, a contrario, donner un sentiment de surpuissance à ceux qui, pourtant, « ne savent pas » si ce qu’ils relaient est vrai, ou pas, ni donc de quoi ils parlent.

The Register précise par ailleurs que, bien que les chercheurs aient choisi des questions portant sur des anecdotes cinématographiques, ils affirment que leurs conclusions peuvent s’étendre à d’autres domaines.

Comme le relevaient des chercheurs d’OpenAI dans un preprint publié en septembre dernier, les IA sont en effet « encouragées à fournir une réponse au hasard plutôt qu’à avouer leur ignorance », quitte à raconter n’importe quoi, afin de satisfaire leurs utilisateurs, sur fond de concurrence exacerbée.

• Pourquoi les chatbots d’IA générative répètent deux fois plus d’infox que l’an passé

Les évaluations portant sur l’exactitude sont en outre majoritaires dans les classements et les fiches système des modèles, « ce qui pousse les développeurs à créer des modèles préférant les hypothèses à l’abstention ». Ce pourquoi, « même si les modèles gagnent en sophistication, ils hallucinent toujours au lieu d’expliquer qu’ils ne savent pas répondre ».

Des études universitaires sur la « sycophancy » (que l’on peut traduire par « effet sycophante » ou « biais de complaisance ») ont par ailleurs montré que ChatGPT, Claude et Gemini flattaient ceux qui les interrogeaient dans près de six réponses sur dix, indiquant des « taux de complaisance » s’échelonnant de 47 % à 95 %, sur sept familles de modèles.

« Je suis très inquiet pour les enfants »

« Je suis très inquiet pour les enfants, car les adultes ont acquis un esprit critique », déplore Capraro auprès du site : « Mais pour les enfants, qui naissent pour ainsi dire avec ces systèmes, le risque est qu’ils n’acquièrent même pas les compétences critiques de base ».

Le Financial Times racontait lui aussi récemment que l’écrivain et scénariste Dave Eggers, invité par Sam Altman à effectuer une conférence devant 200 employés d’OpenAI, leur avait déclaré l’an passé que « L’impact de ChatGPT sur la vie des enseignants est catastrophique » :

« Que ce soit votre intention ou non, vous avez rendu la vie de chaque enseignant infiniment plus difficile qu’elle ne l’était il y a deux ans. Alors, prenez bien conscience de cela… Si les élèves l’utilisent pour rédiger, ce qui est la plus grande tragédie de toutes, ils n’apprendront jamais à écrire. Et on leur vole leur voix. Ils n’auront jamais la capacité d’exprimer leur vérité et de raconter leur propre histoire. Et cela revient à réduire au silence une ou deux générations entières. »

• À Berkeley, plus d’un tiers des étudiants en informatique sont recalés à cause de l’IA

Enseigner l’IA, et l’esprit critique, à partir de la rentrée scolaire 2027

« Nous ne pouvons pas laisser une génération entière découvrir l’intelligence artificielle sans lui donner les clés pour la comprendre et donc la maîtriser », avait de son côté souligné Sébastien Lecornu en juin dernier dans un message posté sur X, en annonçant qu’ « À partir de la rentrée 2027 et sous l’impulsion du Ministre Edouard Geffray, tous les élèves de seconde bénéficieront d’un enseignement dédié à l’IA, à raison d’une heure par semaine intégrée au cours de sciences numériques et technologie » (:

« Fonctionnement des modèles, usages, éthique, souveraineté numérique, esprit critique face aux manipulations et aux fausses informations : notre école doit préparer les jeunes au monde qui vient.
Former à l’IA et réduire l’exposition aux écrans participent d’une même ambition : faire de nos élèves des citoyens libres, autonomes. Condition de notre souveraineté collective. »

• Les smartphones « très probablement » interdits dans les lycées dès la rentrée

Le ministre de l’Éducation nationale, Edouard Geffray, venait en effet d’annoncer (en anglais) lors d’une table ronde à VivaTech que « tous les élèves français de première année de lycée bénéficieront d’un enseignement dédié à l’IA. Ce sera la première fois que tous les élèves en France disposeront d’un dispositif permanent et spécifique ».

Le Monde et l’AFP rappellent qu’Élisabeth Borne, alors ministre de l’Éducation nationale, avait elle aussi annoncé que collégiens et lycéens bénéficieraient à la rentrée 2025 d’une formation en ligne à l’IA, « avec des sessions obligatoires pour les élèves de 4^e et de 2^de ». Une formation peu mise en œuvre, de source syndicale.

Le cours de sciences numériques et technologie (SNT) avait été confié depuis sa création en 2019 à des professeurs de mathématiques et de technologies, ou à n’importe quel autre professeur paraissant plus qualifié.

« Or la durée hebdomadaire de ce cours est d’une heure et demie », précise à l’AFP Sophie Vénétitay, secrétaire générale du SNES-FSU, syndicat majoritaire dans le second degré, qui appelle à « une clarification ».

Conférer à l’informatique et l’IA un « statut de bien culturel commun »

Le Café pédagogique relève pour sa part que les programmes de SNT sont centrés sur l’informatique et ses développements, et que l’intelligence artificielle n’y apparaît qu’une seule fois.

Début juillet, la Société informatique de France (SIF), créée pour fédérer les professionnels de l’enseignement et de la recherche en informatique, publiait un communiqué saluant cette « initiative propre à développer chez tous les élèves une citoyenneté numérique éclairée », tout en regrettant que ce dispositif exclue les lycées professionnels, « qui représentent plus de 28% des élèves ».

Elle souligne qu’un enseignement d’IA au lycée « nécessite de disposer a minima de professeurs d’informatique en nombre ». Or, « à peine une petite centaine de professeurs d’informatique, certifiés ou agrégés, établissements publics et privés confondus, sont recrutés en moyenne chaque année depuis 2022 », alors qu’on dénombre « environ 19 000 » classes de seconde en France, et qu’il faudrait donc en ouvrir « plusieurs centaines » par an, et leur proposer une formation continue :

« Le premier enjeu consiste donc à intégrer dans chaque lycée au moins un enseignant d’informatique avec un bagage complet pour que chaque élève puisse comprendre les fondements scientifiques informatiques de l’IA. »

Le deuxième enjeu consiste à pourvoir ces enseignants d’un programme à la hauteur de l’objectif affiché, « avec une colonne vertébrale scientifique », ainsi qu’une « sensibilisation aux enjeux environnementaux, éthiques et d’autonomie ».

Le troisième enjeu est « comme c’est le cas pour le français et pour les mathématiques – de conférer à l’enseignement de l’informatique et de l’IA un statut de bien culturel commun », conclut la SIF, afin de les « installer définitivement au cœur des compétences des générations qui font le XXI^e siècle » :

« Un an de préparation ne sera pas superflu pour y parvenir ! Pour favoriser le succès de ce projet, il faudra s’appuyer sur l’expérience d’une pluralité d’acteurs – dont la Société informatique de France – qui mènent déjà des réflexions sur ces sujets et peuvent dès aujourd’hui contribuer utilement à la création et au déploiement d’un tel enseignement. »

Un levier précoce pour lutter contre les « fortes disparités entre filles et garçons »

Ce 20 juillet, Edouard Geffray a précisé (.pdf) que l’horaire hebdomadaire de SNT « sera désormais fixé à 2 heures » :

« L’enseignement rénové de SNT conservera un ancrage scientifique. Il visera à faire comprendre le rôle central des données, à consolider la pensée informatique et algorithmique, ainsi qu’à faire appréhender la réalité matérielle et des infrastructures du numérique. Il devra permettre de saisir les enjeux environnementaux, géopolitiques, économiques, informationnels et démocratiques qui structurent les espaces numériques, notamment les réseaux sociaux. »

Le ministre de l’Éducation souligne qu’au sein de ce programme, le volet consacré à l’intelligence artificielle visera à :

• « poser les bases d’une compréhension scientifique et technique de l’IA, sans technicité excessive à ce niveau, articulée à une réflexion sur les données, leurs biais et leur protection, ainsi qu’à la question de la souveraineté numérique ;
• développer l’esprit critique en abordant les dimensions sociétales, éthiques, juridiques, notamment en termes de protection de la vie privée ou de secrets protégés, et environnementales, en articulation avec l’éducation aux médias et à l’information et avec l’enseignement moral et civique ;
• donner à chaque élève les clés d’un usage éclairé de l’IA, dans le cadre du cadre de référence des compétences numériques. »

Le ministre y souligne également que les filières et métiers du numérique et de l’intelligence artificielle restant « marqués par de fortes disparités entre filles et garçons », l’enseignement de SNT dès la seconde « est un levier précoce pour agir sur ces inégalités ».

Le programme révisé devra dès lors « susciter, chez les filles comme chez les garçons, l’intérêt et la confiance nécessaires à un engagement vers ces études et métiers, à travers des exemples et des activités donnant à voir une représentation équilibrée des femmes et des hommes ».

« Les médias, c’est le meilleur endroit où mettre de l’IA »

S’inspirant de la façon qu’avaient eu Bernard Tapie, Vincent Bolloré et Bernard Arnault de bâtir leurs empires financiers, un entrepreneur et influenceur français rachète des entreprises « en redressement judiciaire, sans reprendre la moindre dette ». Ses cibles : des médias, qu’il fait carburer à l’IA. Objectif : de 5 à 50 M€ de chiffre d’affaires en 5 ans, et être coté en bourse.

Article initialement publié le 20 juillet et mis à jour ce 24 juillet suite à l’annonce du rachat par Overlord du Journal des Entreprises, et le licenciement de ses 35 journalistes salariés, avec un bloc intitulé « Faire des journaux sans journalistes, on a vu mieux comme sauvetage de la presse ».

---

Un ancien avocat de 34 ans vient de procéder, en quelques mois, à trois levées de fonds afin de racheter deux titres de presse économique, Le Revenu et Le Nouvel Économiste, puis IT FACTO, un groupe de presse s’adressant aux entreprises du secteur privé ou public, éditeur d’une dizaine de médias dans la tech, dont Le Monde Informatique, CIO et Distributique. Il s’en félicite sur LinkedIn :

« Notre ambition est de faire de Le Monde Informatique la référence francophone sur les technologies, l’intelligence artificielle et la transformation numérique des entreprises. Ces enjeux sont vitaux pour notre économie, la France et l’Europe. Son positionnement complète nos autres acquisitions : Le Nouvel Économiste, consacré à l’économie, et Le Revenu, dédié à l’investissement. »

Le mois dernier, il justifiait son intention de rachat avec un objectif autrement plus ambitieux, visant rien moins qu’à faire de son entreprise, Overlord (seigneur suprême ou suzerain, en VO, à savoir une entité supérieure régnant sur ses vassaux), « un conglomérat de média » (sic) :

« OVERLORD MEDIA veut rentrer dans le débat. Parce que la transformation numérique est la mère de toutes les batailles. Et la France a besoin d’une presse IT libre pour la comprendre.
Hâte de créer avec vous un conglomérat de média !
Bientôt au cœur du débat sur la Tech et le numérique !
Pour suivre la création de ce conglomérat,
Suivez-moi, Gaspard »

Sur LinkedIn, Instagram et YouTube, Gaspard de Monclin se comporte moins comme un journaliste que comme un influenceur, collant systématiquement son visage au-dessus de ses éditos et vignettes de vidéos (souvent générées avec l’aide de l’IA), et les clôturant tout aussi systématiquement par un appel à le suivre sur les réseaux sociaux.

Son objectif semble en effet moins d’informer que de gagner en influence, et de convaincre ses abonnés d’investir dans ses levées de fonds, même et y compris dans les vidéos en « collaboration » avec Le Revenu.

L’une d’entre elles va jusqu’à parodier une conférence de presse d’un club de foot, explique que Le Nouvel Économiste « distribue des caviars aux dirigeants », évoque un « mercato » d’acquisitions d’autres médias, dont Le Monde Informatique serait l’« avant-centre », qu’Overlord Media a ouvert son capital, pour que « les fans puissent participer à la croissance du groupe, et financer ce mercato de folie », sans préciser que les questions sont posées par une IA (et non des journalistes, comme indiqué dans la vidéo), et que ceux qui y répondent sont en fait les responsables marketing d’Overlord.

À mi-chemin entre le bateleur et l’influenceur, Gaspard de Monclin apparaît en outre à la fin de la vidéo et promet de répondre en DM à ceux qui auront mis MEDIA en commentaire.

Un peu comme si Vincent Bolloré ou Bernard Arnault étaient interviewés par des IA sur CNews ou Paris Match afin d’y relayer leurs analyses macro-économiques et d’y faire la promotion de leurs propres investissements, et sans mention « publireportage » ni du fait qu’ils possèdent, eux aussi, les médias en question.

Un business plan, et une ambition, que nous avons voulu décrypter, d’autant que Gaspard de Monclin présente aussi son entreprise comme « une boite tech’ » employant autant d’ingénieurs que de journalistes, et que ceux qui n’utilisent pas l’IA devraient être « virés », parce qu’ils ralentissent l’équipe.

Alors que des centaines de journalistes ont d’ores et déjà été licenciés cette année, souvent au prétexte de l’IA, notre enquête sur la pollution informationnelle que représentent les sites d’infos générés par IA nous a d’ores et déjà permis d’en identifier plus de 15 000. Pour rappel, nous avons développé une extension web (gratuite) pour les navigateurs basés sur Chrome et Firefox permettant d’alerter ses utilisateurs lorsqu’ils consultent un site GenAI.

• Des centaines de journalistes poussés vers la porte, souvent au prétexte de l’IA
• [Récap] Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles

« Quand j’embauche des avocats, je suis déçu quand la rédaction n’est pas IA »

All Cops Are GASPARD

En 2011, la CNIL déplorait l’absence de base légale du fichier GASPARD de photos biométriques policières. 15 ans plus tard, policiers et gendarmes s’en servent quotidiennement depuis leurs téléphones portables pour recourir, en toute illégalité, à la reconnaissance faciale lors de simples contrôles d’identité. Un juge vient de relaxer huit manifestants, dont certains avaient été identifiés (à tort) grâce à la reconnaissance faciale, au motif que la police s’en était servi illégalement.

L’ONG d’investigation Disclose avait déjà révélé, en mars dernier, que 230 000 smartphones NEO 2 utilisés par les policiers depuis 2022 et NeoGend de la gendarmerie depuis 2020 permettent de recourir à la reconnaissance faciale. Une technologie utilisée lors de contrôles d’identité, ce qui est pourtant interdit par la loi.

• Des contrôles d’identité « au faciès » recourent illégalement à la reconnaissance faciale

Ce nouvel équipement opérationnel (NEO), des smartphones Android Xperia X (Sony) ou Core-X4 (Crosscall) modifiés à l’aide de Secdroid, disposent en effet de nombreuses applications métier. Pami elles, une app permettant d’accéder au TAJ (pour « traitement d’antécédents judiciaires »), sorte de « casier judiciaire bis » contenant 24 millions de signalements de personnes « mises en cause » (« MEC », et donc « défavorablement connues », pour reprendre l’expression consacrée dans les médias), dont 16 millions le sont nominativement.

• 24 millions et moi, et moi… : l’équivalent du tiers de la population est « défavorablement connue » de la police

Le TAJ est en outre adossé à un autre fichier, « GASPARD-NG » (pour Gestion automatisée des signalements et des photographies anthropométriques répertoriées et distribuables – Nouvelle génération) qui, bien qu’existant depuis au moins 2008, n’avait été officialisé qu’en 2012. Il pourrait être entâché d’illégalité faute d’avoir été soumis à l’avis de la CNIL.

En 2024, un appel d’offres que Next avait décrypté indiquait que le fichier dénombrait alors quelques 9 millions de photos de face (+ 135 000 nouvelles photos par mois) « comportant des caractéristiques techniques permettant de recourir à un dispositif de reconnaissance faciale (photographie du visage de face) », 4 134 000 tatouages (+ 52 000), et 921 000 signes particuliers (+ 9 000).

Les terminaux NEO disposent quant à eux d’une app dédiée, Reco-TAJ, permettant d’interroger GASPARD à partir d’une photo. De plus en plus de forces de l’ordre se servent de leurs NEO pour prendre en photo des suspects, ou des personnes faisant l’objet de contrôles d’identité… quand bien même l’application précise pourtant qu’elle ne peut être utilisée que « dans le cadre d’une enquête judiciaire (interdit pour un contrôle d’identité) ».

Un mode d’emploi du logiciel de la société allemande Cognitec consulté par Disclose précise qu’il suffirait de charger la photo d’un individu puis de cliquer sur un bouton « Rapprocher » pour obtenir « les 200 photos les plus pertinentes » enregistrées dans le TAJ au bout de « quelques secondes, normalement moins d’une minute ».

Or, le code de procédure pénale limite la consultation du TAJ aux seuls « besoins des enquêtes judiciaires », et donc à la résolution d’infractions, délits ou crimes, et « le fichier ne peut aucunement être consulté lors de contrôles en « temps réel » », souligne Disclose.

« Cette technique n’est pas légale. Il n’y a donc aucune raison que je la cautionne ; au contraire, je la dénonce », avait rappelé le ministre de l’Intérieur Laurent Nuñez au Sénat suite aux révélations de Disclose, le 1er avril dernier, tout en précisant : « je n’ai pas à rappeler les instructions, puisqu’elles sont permanentes ».

« Le ministre de l’Intérieur a dit que c’est illégal. Mais il est coincé par les syndicats »

Disclose et L’œil du 20 heures de France 2 ont néanmoins recueilli plusieurs témoignages de policiers et gendarmes indiquant que la pratique, bien qu’illégale, continue. Ils n’ont depuis reçu aucune consigne leur rappelant le cadre légal d’utilisation de la reconnaissance faciale, ni les risques encourus, à savoir une peine de 3 à 5 ans de prison et jusqu’à 300 000 euros d’amende.

Sous couvert d’anonymat, un gendarme confie à L’œil du 20 h que son supérieur qualifiait le logiciel de reconnaissance faciale d’« outil miracle », et que s’il était installé par défaut sur les terminaux NEO des gendarmes et policiers, c’était pour qu’ils s’en servent, y compris lors des contrôles d’identité.

Le fait de pouvoir l’utiliser aussi facilement générerait également une « confiance aveugle » dans sa capacité d’identifier correctement les personnes déjà fichées, souligne le gendarme, au motif que « le fichier est plus fort que tout »… quitte à verbaliser un innocent.

Or, l’identification biométrique ou génétique, tout comme de nombreuses autres techniques utilisées par la police scientifique, repose sur des calculs de probabilité, qui génèrent donc forcément des faux positifs et faux négatifs. Elle ne saurait donc être considérée comme des « preuves scientifiques », nonobstant le fait que les « experts » peuvent aussi se tromper.

De plus, le Traitement des Antécédents Judiciaires peut lui-même induire en erreur. Il est en effet né sous Nicolas Sarkozy de la fusion de deux fichiers : le STIC de la police et JUDEX pour la gendarmerie. Deux fichiers créés illégalement, et ayant fonctionné dans l’illégalité pendant des années avant d’être légalisés par la CNIL. L’institution les brocardait régulièrement pour être truffés d’erreurs, et pas mis à jour. Des millions de personnes, bien qu’innocentées par la justice, y figuraient ainsi comme « suspectes ».

« Le ministre de l’Intérieur a dit que c’est illégal. Mais le truc, c’est qu’ils ne peuvent pas vérifier les accès au logiciel de Reco-TAJ de tous les flics », explique à Disclose un policier, pour qui l’ancien préfet de police de Paris serait coincé : « Demain, s’il nous dit que ça ne va pas, il aura tous les syndicats de police sur le dos. »

« Une prise de 1 kg de cocaïne est égale à 0,02 gramme de shit verbalisé »

Ce recours banalisé serait en outre encouragé par la « course aux chiffres » à laquelle ils sont poussés, afin de multiplier les « amendes forfaitaires délictuelles » (AFD). Instaurées en 2016 afin d’accélérer le traitement de certains délits dits « de masse », sans avoir à passer par la voie judiciaire, ce traitement pénal simplifié est régulièrement critiqué par le Défenseur des droits et la Cour des comptes, rappelle vie-publique.fr.

Le dispositif n’en a pas moins été considérablement élargi depuis, passant de 3 délits routiers en 2016 à 91 infractions en 2023 (de l’usage illicite de stupéfiants au défaut d’assurance et de permis de conduire en passant par la vente à la sauvette, le vol à l’étalage, l’outrage sexiste, etc.). Le nombre de verbalisations a ainsi quasi-triplé entre 2021 et 2024, et celui des contestations a quadruplé.

1,6 million d’AFD ont en effet été dressées entre 2019 et 2024, selon le service statistique ministériel de la sécurité intérieure (SSMSI), dont près de 500 000 sur la seule année 2024. La part des AFD dans l’ensemble des délits enregistrés explose ainsi de 1 à 10 % en cinq ans.

« La chasse aux statistiques nous encourage à mettre le plus d’AFD possibles », explique une source à Disclose. Elle estime que cette politique du chiffre encourage les contrôles au faciès : « Quand j’ai été formé à l’utilisation de l’outil, on nous a dit que c’était le Graal, l’outil miracle pour bien aiguiller nos contrôles ».

Une autre source avance que « c’est d’abord pour cette raison que l’appli du TAJ avec reco faciale est généralisée sur les NEO », et déplore que cette politique du chiffre se fasse « au détriment du vrai boulot de policiers de terrain » :

« Une prise de 1 kg de cocaïne est égale à 0,02 gramme de shit verbalisé en AFD. Donc, un policier qui fait 50 AFD pour du shit sera considéré comme meilleur qu’un policier qui fait une prise de 1 kg de cocaïne. »

Une vidéo, datant de fin mai et diffusée par Disclose, montre ainsi un policier en civil de la brigade anticriminalité photographiant avec un terminal NEO le visage d’un individu, contrôlé dans la rue, puis scroller une liste de photographies semblant indiquer qu’il utilise le logiciel de reconnaissance faciale.

Un recours illégal au fichier qui peut lui-même entraîner des erreurs d’identification. Disclose évoque le cas d’une jeune femme rom arrêtée pour cambriolage en 2022 dont les traits du visage « présentent une similitude à 68 % » avec la photo contenue dans GASPARD d’une femme visée par une obligation de quitter le territoire (OQTF).

Condamnée à six mois de prison ferme, la jeune femme fut placée en centre de rétention en vue d’être expulsée vers la Serbie ou la Croatie. Une expulsion finalement empêchée du fait de ne pouvoir attester de sa véritable identité. Mais la personne initialement fichée s’est vue quant à elle attribuer un cambriolage qu’elle n’avait pas commis, relève Disclose.

« Formellement identifié via la reconnaissance faciale »… à tort

Nos confrères reviennent sur une autre erreur d’identification. Mi-mai, huit activistes étaient interpellés pour avoir bloqué pendant une heure un pont, en protestation d’un projet autoroutier. Arrêtés sans opposer de résistance, ils avaient ensuite invoqué leur droit au silence, refusé de décliner leur identité, ainsi que le prélèvement de leurs empreintes digitales et de leur ADN.

Sauf que l’enquêteur qui les auditionnait a branché sa caméra, quand bien même ce dispositif est normalement réservé aux suspects de crimes ou aux victimes mineures précise Disclose, afin de pouvoir faire une capture d’écran de leurs visages, et interroger le TAJ.

L’un des manifestants, Julien* (prénom d’emprunt, ndlr), 22 ans, fut ainsi confondu, à tort, avec un autre jeune homme de 23 ans, Marius*, « défavorablement connu des services de police » (car fiché au TAJ) pour « usage illicite de stupéfiants » et « violence sur une personne dépositaire de l’autorité publique sans incapacité lors d’une manifestation sur la voie publique ».

Julien*, qui a depuis pu consulter les pièces de la procédure, à commencer par la fiche TAJ du vrai Marius*, et donc sa photo, a pu constater qu’ils portent certes tous deux la moustache, ont des cheveux bruns, mais aussi que leurs visages ne sont pas si ressemblants que ça : « C’est à croire qu’ils ont pris pour argent comptant les résultats de l’intelligence artificielle sans même comparer nos photos », déplore l’activiste.

Au total, trois des huit militants furent « formellement identifié [sic] via la reconnaissance faciale », sans que Disclose ne précise si les deux autres avaient été dument identifiés, ou pas. Mediapart, qui a couvert leur procès au tribunal de Valence, ce lundi 6 juillet, pointe d’autres problèmes.

La Résistible Ascension d'Arturo AI

Le premier observatoire français de l’audience des sites GenAI, établi par Médiamétrie en octobre 2025, avait établi que près de 25 % des Français y étaient régulièrement confrontés. Six mois plus tard, ils sont près de 40 % (soit + 60 % !). Une explosion en partie due à l’essor du nombre de sites d’infos et d’articles industrialisés par l’IA pour parvenir à être mentionné dans les réponses des grands modèles de langage.

Près de 4 Français sur 10 (39,1 %) visitent des sites d’information générés par IA (GenAI), à raison de 23 millions de visiteurs uniques (VU) chaque mois, contre près de 1 sur 4 (24,5 %) en octobre dernier (soit + 60 % !). Le nombre de VU quotidien est de son côté passé de 2,6 à 3,5 millions, en un an (soit + 35 %).

Les chiffres émanent du second observatoire des sites GenAI, établi par Médiamétrie pour le compte du Groupement des éditeurs de services en ligne (GESTE) sur la base des sites GenAI identifiés par Next. Le premier observatoire, révélant qu’un quart des Français visitaient des sites d’info GenAI, avait été rendu public en décembre dernier.

• Un quart des Français visitent les sites d’infos générées par IA recommandés par Google

Un taux qui ne reflète en réalité que la fourchette basse du nombre réel d’internautes français confrontés à des articles et infos « majoritairement voire entièrement » générés par IA. D’une part parce que le tsunami de sites d’info « full IA », ou qui basculent dans l’ « IA first » est tel qu’il nous est impossible de les identifier tous.

Médiamétrie, d’autre part, ne mesure l’audience que des 5 000 principales marques digitales et 1 000 premières applications mobiles françaises. Or, lors de la première édition de l’observatoire, notre base de données de sites d’info GenAI dénombrait près de 8 900 sites d’info GenAI, administrés (et monétisés) par plus de 200 éditeurs. Elle en comporte désormais plus de 15 000, émanant de plus de 300 éditeurs.

• [Récap] Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles

La mesure d’audience émane du panel d’internautes de Médiamétrie, et de la collecte de l’ensemble de leur surf sur ordinateur, tablette et mobile (Android et iOS). Nous lui avions fourni une liste des 308 sites GenAI les plus recommandés par Google et MSN, dont 232 ont été visités par les panélistes sur la période étudiée, qui va d’avril 2025 à avril 2026.

Si 84 % des sites d’info GenAI dénombrent moins de 250 000 visiteurs uniques (VU) par mois, 5 % en totalisent plus de 2 millions, et 9 plus de 3 millions. Quatre éditeurs, cumulant plusieurs sites d’info GenAI, en dénombrent même plus de 6 millions, et l’un d’entre eux 15,7 millions, soit près de 25 % des Français.

À l’instar du premier observatoire, Médiamétrie constate que 75 % des internautes qui consultent ces sites d’info GenAI ont 50 ans ou plus. En octobre dernier, un peu plus de 36 % d’entre eux avaient consulté au moins un site d’info GenAI dans le mois. Une proportion qui s’élève désormais à près de 50 % des 50 - 64 ans, et près de 55 % des 65 ans et plus.

Le trafic provient majoritairement de Google (plus de 50 %), devant Meta (17 %), confirmant le rôle central des plateformes dans la diffusion de ces contenus. « Cette étude confirme l’installation durable des sites d’information générés par l’IA dans le paysage numérique français », souligne Laure de Lataillade, directrice du Geste :

« Si leur audience progresse rapidement, c’est en grande partie parce que ces acteurs sont largement portés par les moteurs de recherche et les plateformes sociales, qui jouent un rôle déterminant dans leur visibilité et leur distribution auprès du grand public. Cette évolution invite à s’interroger sur les mécanismes de recommandation qui structurent désormais l’accès à l’information, sur la transparence des processus éditoriaux à l’œuvre derrière ces contenus, ainsi que sur les conditions de concurrence avec les médias qui financent la production d’une information professionnelle et vérifiée. »

Rappelons que Next a aussi développé une extension web (gratuite) afin d’alerter ses utilisateurs lorsqu’ils consultent un site dont les articles et infos semblent avoir été générés par IA, au risque d’y relayer des (dés)informations « hallucinées ».

Des spammeurs d’info, gagnant jusqu’à 3 000 € par jour

Étant aux « premières loges » de ce tsunami de sites d’info générés par IA, que je documente depuis un an et demi et que j’ai tenté d’expliciter dans le podcast de Mathilde Saliou qui explore les enjeux du numérique, je relève deux principales évolutions entre ces deux premiers observatoires GenAI de Médiamétrie.

• ECC #11 : Le tsunami d’infos générées par IA, avec Jean-Marc Manach

L'Attaque de la moussakIA géante

Un rédacteur SEO a publié dans le « magazine des professionnels de l’information stratégique » un article vraisemblablement généré par IA qui m’attribuait un « témoignage d’expert » où je recommandais une formation… que je ne connaissais pas. Mon nom vient aussi d’apparaître sur des sites GenAI créés par un dentiste roumain usurpant également la réputation de l’Electronic Frontier Foundation.

Il y a quelques semaines, une journaliste me contactait en DM pour me demander mon avis sur le diplôme d’université (DU) Analyste OSINT de l’UTT de Troyes, qui « vise à former des experts capables de rechercher, traiter, analyser et rapporter des informations issues de sources ouvertes, dans le respect de la réglementation et de l’éthique ».

Elle m’expliquait s’y être inscrite et avoir lu sur Veillemag.com, le « magazine des professionnels de l’information stratégique », que j’aurais déclaré que « ce DU répond à un besoin criant de formation structurée, alliant rigueur académique et pragmatisme opérationnel », laissant entendre que je le connaissais, et recommandais.

Une citation présentée sous l’intitulé « Témoignage d’expert » et signée « Jean-Marc Manach, journaliste et expert en OSINT » (pour Open Source INTelligence, ou renseignement de sources ouvertes). Pionnier de l’OSINT en France, j’ai effectivement été plusieurs fois interviewé à ce sujet.

Problème : la citation qui m’est imputée est fausse, et je ne connaissais même pas l’existence de ce diplôme d’université, que j’ai découvert lorsque la journaliste m’a contacté.

Contacté, le « rédacteur SEO » qui avait signé l’article de Veillemag.com, m’a répondu qu’il ne sait plus qui lui aurait fourni cette citation, précisant qu’« il y a plusieurs mois, je suivais des comptes osint sur LinkedIn. Sur un post. J’ai vu cette mention. »

Le fait que son « article » ne soit qu’une succession de listes à puces laisse cela dit peu de doutes quant au fait qu’il a vraisemblablement été généré par IA, et que la citation qui m’est attribuée a elle-même été « hallucinée ».

La citation en question a été effacée par la rédactrice en chef de veillemag.com après que je l’ai interrogée à ce sujet.

Reste qu’attribuer une citation « hallucinée » par IA à un journaliste spécialiste de fact-checking est une incongruité à laquelle je ne m’attendais pas. Au surplus alors que j’enquête depuis plus de deux ans sur les sites d’infos générés par IA, comme expliqué dans le dernier épisode de notre podcast Entre la chaise et le clavier.

• ECC #11 : Le tsunami d’infos générées par IA, avec Jean-Marc Manach

« Il ne s’agit pas seulement de fuites. C’est une question d’architecture »

Las : deux autres sites d’infos viennent, eux aussi, d’halluciner à mon sujet. La baseline du site archyde.com est « Découvrez les vraies personnes qui se cachent derrière les gros titres », quand bien même les photos de profil de ses journalistes, censés avoir remporté des prix Pulitzer (mais qui n’existent pas), sont générées par IA :

« Chez Archyde.com, nous respectons les normes les plus strictes en matière d’intégrité journalistique. Tous nos articles font l’objet d’une vérification rigoureuse des faits et s’appuient sur des sources indépendantes. »

Récemment, un article consacré au fait qu’un « documentaire exclusif retraçant 15 ans de ministère est désormais disponible sur YouTube » (qui n’existe pas), émanant du collectif indépendant « Time to Edit » (qui n’existe pas), me présentait comme « un avocat spécialisé dans les droits numériques à La Quadrature du Net » (je suis journaliste chez Next). À l’en croire, j’aurais déclaré que cela « pourrait créer un précédent permettant de contester le secret d’État », avec des arguments pour le moins « hallucinés », mais renvoyant effectivement au RFC de l’IETF sur HTTP/1.1 :

« Il ne s’agit pas seulement de fuites. C’est une question d’architecture. Le système du ministère a été conçu pour passer inaperçu : il utilise des protocoles ouverts comme HTTP/1.1 pour les canaux de commande tout en transférant les données sensibles vers des fonctions AWS Lambda. Si les tribunaux jugent la licence valide, cela obligera l’État soit à classer rétroactivement ces données, soit à admettre que le système n’était pas conforme dès le départ. »

L’article évoque également une certaine Dr. Élise Gauthier, chercheuse en cybersécurité à l’INRIA, qui déplore une « violation tant du droit français que du droit européen », et dont une photographie sert d’illustration. Mais une recherche image inversée renvoie vers un article de Radio Canada datant de 2015 où l’on apprend qu’Élise Gauthier était en fait candidate du Bloc québécois, un parti indépendantiste et social-démocrate.

• Après les livres générés par IA, les noms d’auteurs détournés pour promouvoir de l’AI slop

Un agrégat, généré par IA, d’infos émanant de sites eux aussi générés par IA

NewsDirectory3.com, qui « répertorie les journaux, les agences de presse, les kiosques à journaux et les médias d’information en ligne des 50 États américains », me présente quant à lui comme « chercheur en politiques technologiques chez Les Numériques » (je n’ai jamais écrit pour ce titre).

L’article, intitulé « Paramètres cachés de Samsung et d’Android pour optimiser l’autonomie de la batterie et les performances Wi-Fi », est quant à lui un agrégat d’infos émanant du média Les Numériques mais également de DroidSoft, Le Tribunal du Net, ainsi que d’un « message publié sur le forum d’assistance Samsung, vérifié par Pleine Vie », trois sites figurant dans notre base de données de sites d’infos dont les articles sont « majoritairement, voire complètement générés par IA » (GenAI).

Je ne suis bien évidemment pas le seul à me voir attribuer des fonctions et propos que je n’ai jamais tenus sur des sites GenAI. L’Electronic Frontier Foundation (EFF) pionnière des ONG de défense des libertés numériques, alertait récemment ses lecteurs au sujet du site News-USA Today, qui se présente quant à lui comme « un éditeur d’actualités indépendant axé sur un journalisme clair, précis et utile ». 

L’EFF a en effet découvert que plusieurs de ses articles mentionnent les témoignages d’experts de l’ONG qui n’existent pas :

« Qu’ont en commun Sarah Chen, Javier Morales, Caitlin Chin, Emma Rodriguez et Mikko Kopponen, tous membres du personnel de l’EFF ? D’une part, ils n’existent pas. D’autre part, ils ont tous été cités en tant qu’experts de l’EFF dans des articles publiés au cours des deux derniers mois sur un site appelé News-USA Today. »

« Il est regrettable que ce soit au public de devoir distinguer le vrai du faux »

Ironie de l’histoire, ces trois sites d’infos GenAI font partie d’une ferme de contenus (ou PBN, pour Private blog network) que nous avions déjà identifiée il y a quelques mois, parce qu’elle comporte également (au moins) trois sites GenAI en français.

Son administrateur est un dentiste roumain qui, après s’être expatrié à Dubaï, est devenu éditeur web indépendant. Il est à la tête d’un PBN de plus d’une vingtaine de sites d’infos GenAI, dans plusieurs langues, cumulant des millions de pages vues chaque mois.

L’IA générative lui a aussi permis de vibe-coder plusieurs services web divers et variés, allant d’un calculateur de risques de voyage à un calculateur de résultats scolaires de terminale (par rapport à ceux de tous les élèves de votre tranche d’âge dans toute l’Australie), en passant par un site indiquant… la date du jour.

Rappelant que « les citations erronées qui déforment nos positions nuisent à la confiance que le public et les médias réputés nous accordent », l’EFF avance que « la meilleure chose qu’un consommateur d’informations puisse faire est de consacrer un peu de temps et d’énergie à apprendre à distinguer le vrai du faux » :

« Il est regrettable que ce soit au public qu’il incombe de fournir un tel effort, mais alors que nous nous adaptons à de nouveaux outils et à une nouvelle normalité, un petit effort aujourd’hui peut s’avérer très utile à long terme. »

C’est l’occasion de rappeler que notre extension (gratuite) GenAI affiche précisément un message d’alerte lorsque ses utilisateurs consultent l’un des 15 000 sites d’infos GenAI que nous avons identifiés.

• [Récap] Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles

Massacres à la déchiqueteuse-broyeuse

Ces derniers mois, plusieurs groupes de médias ont annoncé des centaines de suppressions de postes, et certains semblent vouloir remplacer journalistes et secrétaires de rédaction par des IA. Deux tiers des journalistes du Quotidien du médecin, le média de référence de la profession, ont décidé de quitter l’entreprise, rachetée par une « plateforme d’influence B2B ».

Le Quotidien du médecin, qui se présente comme le « leader incontesté de la presse médicale française », fait partie du Groupe Profession Santé, qui édite également Le Quotidien du pharmacien et le site web Infirmiers.com. Le groupe revendique le titre de « 1er groupe médias et services pour les professionnels de santé »,une communauté qualifiée de plus de 400 000 professionnels de santé, 460 000 lecteurs inscrits et près de 500 000 followers, et plus d’un million de visites mensuelles sur ses plateformes.

Deux tiers des 36 journalistes qui y écrivaient encore en début d’année ont cela dit préféré quitter l’entreprise, révèle Politis, en réaction aux conditions de travail décidées par leur nouveau propriétaire, qui veut leur imposer de recourir à l’IA générative.

• [Récap] Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles

Selon les informations de Politis, à compter de ce mois de juillet, ils ne seront plus que 12 journalistes dans les trois rédactions. Les 24 autres ont activé la « clause de cession » qui permet à un journaliste de démissionner tout en touchant des indemnités de licenciement lorsque le média qui l’emploie change de propriétaire.

Profession Santé a en effet été racheté, en février dernier, par le groupe Ficade, qui se présente comme « un leader français des médias B2B » et « l’un des principaux groupes français de médias professionels » (sic).

« Le nouveau modèle c’est : un rédacteur en chef, un journaliste et de l’IA »