1984 was not supposed to be an instruction manual

Un système de reconnaissance faciale en temps réel (LFR) déployé dans plusieurs milliers de magasins va alerter la police en temps réel lorsqu’il identifie les « délinquants les plus dangereux ». La police de Londres, qui revendique 2 000 arrestations grâce à la LFR depuis 2024, veut élargir à l’ensemble de la population un « projet pilote avec Palantir » conçu pour identifier de manière « proactive » les individus et comportements « problématiques » afin d’intervenir « avant que le préjudice ne survienne ».

Facewatch, un système de reconnaissance faciale utilisé pour identifier les voleurs par les milliers de magasins de plus de 100 enseignes britanniques, dont Sainsbury’s et Spar, a annoncé le lancement d’une fonctionnalité visant à « alerter immédiatement la police lorsque les délinquants les plus dangereux font l’objet d’une correspondance en temps réel grâce à la reconnaissance faciale ».

Nick Fisher, directeur général de Facewatch, précise que cette expérimentation serait testée à l’automne, et qu’elle devrait permettre d’alerter la police en quatre secondes en moyenne dès que les « pires délinquants » seraient repérés par son système, rapporte The Guardian.

« Il n’est pas illégal d’entrer dans un magasin, même si l’on a commis des délits par le passé », rétorque Charlie Whelton, de l’ONG de défense des droits humains Liberty :

« L’idée d’appeler la police pour quelqu’un qui n’a pas commis de délit, mais dont on craint qu’il puisse en commettre un, bouleverse véritablement notre façon de fonctionner. Et bien sûr, ce n’est pas infaillible. Ces systèmes commettent des erreurs, et il est très difficile de contester cela quand on en est victime. »

The Guardian rappelle que plusieurs personnes ont d’ores et déjà été refoulées de magasins après y avoir été identifiées à tort par la technologie Facewatch comme des voleurs à l’étalage, qualifiant d’« orwellienne » cette façon d’être « considérées comme coupables jusqu’à preuve du contraire ».

L’article ne précise pas, cela dit, quels critères permettront de définir les « délinquants les plus dangereux », ni les mesures qui seraient prises pour que la liste puisse être interfacée avec le système de Facewatch sans risque de fuiter.

« La plus grande base de données privée sur la criminalité au Royaume-Uni »

Sur son site, Facewatch se présente comme « le seul outil de prévention de la criminalité qui identifie de manière proactive les délinquants connus, permettant ainsi au personnel d’intervenir avant même qu’un délit ne soit commis ».

Facewatch aurait ainsi envoyé plus de 57 000 alertes proactives au sujet de « délinquants connus », identifiés dans les milliers de magasins de ses plus de 125 clients pour le seul mois de juin, et près de 300 000 ces six derniers mois. Le service revendique un taux de réussite de « 99,98 % », et « jusqu’à 70 % » de diminution de la délinquance.

Les voleurs à l’étalage se limitant rarement à un seul magasin en particulier, Facewatch permet aussi à ses clients d’accéder à ce que l’entreprise présente comme « la plus grande base de données privée sur la criminalité au Royaume-Uni », constituée par les renseignements qu’ils partagent au sujet des « récidivistes » identifiés :

« Les abonnés peuvent signaler de nouveaux suspects d’intérêt (SOI) par le biais de signalements d’infractions, qui doivent inclure une déclaration officielle d’un témoin attestant qu’une infraction a bien eu lieu, ainsi que des motifs raisonnables permettant de soupçonner le SOI d’en être l’auteur. Facewatch examine chaque signalement afin de s’assurer que ces deux éléments sont bien établis. L’abonné ne peut consulter que les signalements et les SOI qu’il a lui-même enregistrés. »

La page Privacy de Facewatch précise qu’une alerte comprend une ou plusieurs images faciales, le pourcentage de certitude quant à la correspondance des images, ainsi qu’une galerie d’images conservées de la personne recherchée, le type d’infraction et tout indicateur d’alerte (par exemple, violence) qui lui est associée :

« Toutes les alertes font l’objet d’une double vérification algorithmique avant leur envoi et ne sont transmises que si le taux de similitude est supérieur à 99 % ou si un analyste facial de Facewatch estime qu’il y a correspondance. »

Facewatch indique par ailleurs utiliser les serveurs AWS au Royaume-Uni pour héberger ses opérations de traitement, et recourir à son SaaS de reconnaissance faciale AWS pour effectuer un contrôle secondaire de précision en complément de celui émanant de son propre logiciel.

2 000 arrestations à Londres depuis 2024 grâce à la reconnaissance faciale

L’annonce de cette expérimentation intervient alors que la Metropolitan Police (Met) de Londres vient pour sa part d’annoncer, en juin dernier, qu’elle prévoit elle aussi d’élargir le recours à la technologie de reconnaissance faciale en temps réel (LFR), dans sept quartiers l’an prochain.

Une expérimentation à Croydon, dans la banlieue sud de Londres, aurait permis l’arrestation, entre octobre 2025 et mai 2026, de 173 personnes, dont une femme recherchée depuis plus de 20 ans, rapporte la BBC. Bien que plus de 470 000 personnes soient passées devant les caméras, la LFR n’aurait connu qu’une seule fausse alerte.

Au total, la LFR aurait conduit à plus de 2 000 arrestations depuis 2024, mais également permis de réduire la criminalité de 10,5 %, notamment les infractions commises dans le commerce de détail, les comportements antisociaux, contribuant même à une « baisse significative des violences faites aux femmes et aux filles » avance la Met.

Elle n’explique aucunement en quoi le système de reconnaissance faciale y aurait en lui-même contribué, mais précise que les caméras, montées sur du mobilier urbain, ne sont activées que lors des déploiements d’agents sur le terrain.

De plus, des agents spécialisés et des équipes de police de proximité sont également « déployés tout au long de chaque opération » pour interagir avec le public et répondre à leurs craintes en matière de reconnaissance faciale policière.

Cette « baisse significative des violences faites aux femmes et aux filles », et la réduction de la criminalité, seraient dès lors tout autant, voire bien plus, imputables à cette présence renforcée, et donc dissuasive, de policiers au contact de la population qu’à la reconnaissance faciale en tant que telle.

Wonder WikiWoManIA

À l’occasion des 25 ans de Wikipédia, qui rassemblaient 1 200 personnes à Paris, Wikimédia France dresse 6 « priorités » déclinées en 28 « recommandations concrètes », qualifiées de « véritable feuille de route politique et législative pour bâtir un écosystème numérique transparent et pluraliste » favorisant, à l’horizon 2035, les biens communs numériques.

La Cité des sciences et de l’industrie accueillait du 21 au 25 juillet à Paris la 21e édition de Wikimania, l’évènement mondial annuel organisé par Wikipedia, intitulée cette année « Liberté, Équité, Fiabilité », célébrant les 25 ans de l’encyclopédie participative et auquel Next avait été convié.

Plus de 1 200 personnes y ont assisté physiquement, dont un peu plus d’un tiers (34 %) ont moins de 35 ans et environ deux tiers provenant de pays situés en dehors de l’Europe du Nord et de l’Europe occidentale, et plus de 2 000 en ligne.

Une quinzaine de journalistes ont assisté à la conférence de presse, où Jimmy Wales, le fondateur de Wikipedia, a rappelé que les différents sites et projets de l’encyclopédie totalisaient 15 milliards de visites par mois. Interrogé par Next au sujet des problèmes posés par les sites d’info générés par IA, Jimmy Wales nous a répondu que « ce n’est pas seulement un problème, c’est une crise ».

• [Récap] Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles

Bernadette Meehan, directrice générale de la Fondation Wikimedia, a de son côté souligné que « l’Internet ne pourrait pas survivre sans Wikipedia » et que son objectif était d’informer, pas d’influencer, ce pourquoi « nous ne voulons pas d’opinions ».

Interrogée sur Grokipedia, la soi-disant encyclopédie générée par IA d’Elon Musk, créée pour concurrencer Wikipedia, elle a ironisé quant au fait que l’article la concernant contient non seulement des informations erronées, mais va également jusqu’à émettre des « opinions » biaisées à son sujet.

Rémy Gerbet, directeur exécutif de Wikimédia France, a de son côté rappelé que « nous sommes à la veille d’élections démocratiques majeures, dans un contexte de défiance et de désinformations ». Ce pourquoi l’association a profité de Wikimania pour publier un livre blanc, « Vers une société des communs numériques », qui formule un « diagnostic d’urgence », afin de « se faire entendre des candidats », au motif que « l’essor de l’intelligence artificielle générative et l’hégémonie des grandes plateformes font peser un double risque sur notre démocratie » :

• d’une part, une saturation du web aggravée par des contenus synthétiques non vérifiables altérant la confiance des citoyens,
• d’autre part, un phénomène d’enclosure juridique et économique entraînant la privatisation des savoirs et la captation de la valeur produite par la création humaine.

Dès lors, garantir une information « fiable, accessible et gouvernée collectivement dans l’intérêt général » constitue désormais un «enjeu démocratique majeur », avance l’association. C’est pourquoi elle appelle à « renforcer la résilience de notre espace informationnel, la préservation des biens communs numériques et la promotion d’une innovation respectueuse des principes démocratiques » :

« Nous nous trouvons aujourd’hui à la croisée des chemins. Les choix réglementaires, budgétaires et politiques que nous faisons aujourd’hui façonneront le visage du monde numérique de la prochaine décennie. Si nous laissons s’installer les logiques d’enclosure, de captation opaque de la valeur et de saturation par les contenus synthétiques, le web de demain sera un espace fragmenté, privatisé et hostile au jugement critique. »

« Cap sur 2035, l’ère du Web des Communs »

« Mais une autre trajectoire est possible », souligne-t-elle dans une conclusion prospective imaginant une « ère du Web des Communs » en 2035. Les biens communs numériques y seraient érigés en piliers de nos politiques publiques, afin de « concevoir un futur où la technologie émancipe au lieu d’enfermer », dans le cadre d’un écosystème numérique européen opérant lui aussi sa mue vers un modèle « durable, souverain et profondément démocratique » :

• les systèmes d’intelligence artificielle générative ne seront plus des boîtes noires capturant unilatéralement la connaissance humaine, mais un écosystème d’IA fondé sur la réciprocité obligatoire (« Share-alike », à la manière des licences « libres »), où les grands modèles commerciaux (y compris les données d’entraînement et les poids des modèles d’intérêt public) nourriront en retour l’écosystème ouvert ;
• un modèle inspiré par la sobriété et la gouvernance humaine de Wikipédia, le web sera composé d’architectures sécurisées dès la conception (« safe by design »), au point que les interfaces truquées (dark patterns) et les flux algorithmiques conçus pour maximiser l’addiction attentionnelle appartiendront au passé ;
• une science ouverte généralisée, chaque recherche financée par le citoyen sera immédiatement disponible pour le citoyen, accélérant la lutte contre la désinformation globale, et les verrous numériques et tarifaires sur la culture définitivement abolis ;
• une société de « consommation de l’information » transformée en une « véritable démocratie du savoir » reposant sur des citoyens ne se contentant pas d’aller voter, mais agissant aussi comme contributeurs co-gérant les communs de la connaissance de cette « république numérique ».

« Faire le choix des biens communs aujourd’hui, c’est refuser la fatalité des monopoles technologiques pour bâtir une autonomie numérique ouverte, humaine et durable », conclut Wikimédia, pour qui « il ne tient qu’aux décideurs publics de s’emparer de cette feuille de route pour faire de la France et de l’Europe les pionnières de cette nouvelle ère numérique » :

« Le modèle de Wikipédia a prouvé qu’une utopie numérique pouvait devenir une infrastructure mondiale indispensable. En 2035, les biens communs numériques ne seront plus l’exception alternative, mais l’architecture de référence de nos services publics et de notre économie de l’innovation. »

« Une troisième voie existe »

Le livre blanc de Wikimédia France dresse 6 « priorités » déclinées en 28 « recommandations concrètes », qualifiées de « véritable feuille de route politique et législative pour bâtir un écosystème numérique transparent et pluraliste » capable de conjuguer innovation, démocratie, protection des droits fondamentaux et accès universel à la connaissance. L’association « portera activement » cette feuille de route auprès des législateurs à l’approche des échéances politiques majeures que sont les sénatoriales en septembre 2026 et la présidentielle en 2027 :

1. Préserver l’intégrité de l’information face aux risques de désinformation et de manipulation.
2. Construire un partenariat équilibré entre éditeurs de solutions d’intelligence artificielle et producteurs de connaissances.
3. Établir l’éducation aux médias et à l’information comme levier central de la résilience démocratique.
4. Le rééquilibrage du droit d’auteur pour équilibrer la protection la création et la circulation des connaissances.
5. La garantie d’un environnement numérique respectueux des libertés fondamentales et protecteur des utilisateurs.
6. La reconnaissance des biens communs numériques comme des infrastructures stratégiques au service de la souveraineté, de l’innovation et de l’intérêt général.

Selon Wikimédia France, la souveraineté numérique ne saurait être « réduite à une simple logique d’autonomie industrielle ou de concurrence économique ». Elle « suppose également la préservation d’infrastructures de connaissance ouvertes, transparentes et gouvernées collectivement » :

« Entre le modèle des plateformes commerciales intégrées et une approche fondée sur le repli technologique, une troisième voie existe : celle des biens communs numériques. Faire des communs le pilier de nos politiques publiques signifie sanctuariser le principe d’une souveraineté ouverte, une approche où la technologie et l’information restent gouvernées démocratiquement, co-construites par et pour les humains, de manière transparente, et accessible à toutes et tous. »

Wikimédia rappelle que le fonctionnement de l’encyclopédie participative « illustre pleinement la notion de commun numérique », telle que développée notamment par Elinor Ostrom, première femme à recevoir le Prix dit Nobel d’économie « pour son analyse de la gouvernance économique, et en particulier, des biens communs » : une ressource partagée (le savoir), gérée par une communauté (les contributeurs) selon un système de règles partagées et transparentes (la coconstruction des articles) visant à « éviter sa destruction ou sa capture par des intérêts privés », résume le livre blanc.

Un « test Wikipédia » avant tout projet de loi et de régulation du numérique

Wikimedia réclame un « soutien plus direct et stratégique » pour que la France et les instances européennes reconnaissent les communs numériques comme des « infrastructures stratégiques d’intérêt général », afin que des financements d’avenir pérennisent ces écosystèmes, « sans jamais interférer avec leur indépendance éditoriale ou leur gouvernance interne ». Cette demande fait écho à la Stratégie nationale de lutte contre les manipulations de l’information 2026 - 2030 dévoilée par le SGDSN et VIGINUM en février dernier.

• Infox, ingérences & cie : la France veut « garantir que chacun puisse penser librement » (1/4)
• Comment la France entend concrètement lutter contre les manipulations de l’information (2/4)
• Infox : la France veut faire de l’Europe un « exportateur de stabilité informationnelle » (3/4)
• La Chancellerie et VIGINUM accélèrent la lutte contre les manipulations de l’information (4/4)

Face à la polarisation algorithmique, elle rappelle que la « neutralité de point de vue » qui guide les projets de la connaissance libre comme Wikipédia vise à « représenter de manière honnête, proportionnée et documentée les différents points de vue et avis sérieux autour d’un fait ». Elle appelle les pouvoirs publics à y contribuer en soutenant les travaux de recherche et expérimentations visant à « développer des interfaces numériques favorisant la contextualisation, la diversité des perspectives et la transparence éditoriale ».

Wikimédia propose également d’instaurer un « Test Wikipédia » préventif, dont une version (en anglais) avait été mise en ligne l’an passé afin d’évaluer tout projet de loi et de régulation du numérique. Le test doit s’assurer que des obligations (souvent pensées pour censurer ou filtrer les réseaux sociaux commerciaux) ne détruisent pas le modèle collaboratif et non lucratif des communs par ricochet, et ne bloquent pas le partage libre des connaissances qui participe à l’intérêt général.

À l'IA jacta est

Alors que le gouvernement a annoncé que les élèves de seconde bénéficieraient à la rentrée 2027 d’une heure de cours d’intelligence artificielle par semaine, des chercheurs ont testé la capacité des êtres humains à déléguer leur esprit critique à une IA. Paradoxalement, ceux qui avaient le droit d’interroger une IA affichaient un taux de confiance plus de deux fois plus élevé que ceux qui n’y avaient pas droit. Et pourtant, ces derniers se sont bien moins trompés que ceux qui répétaient les réponses proposées par l’IA.

MàJ, 21 h, avec un bloc de conclusion précisant que le ministre de l’Éducation vient de préciser que le cours d’IA en seconde devra également servir de « levier précoce » pour lutter contre les inégalités et disparités entre filles et garçons auxquelles sont confrontées les filières et métiers du numérique et de l’intelligence artificielle.

---

« Savoir quand ne pas répondre est l’un des fondements du jugement humain. Mais que se passe-t-il lorsqu’une IA a toujours une réponse ? » s’interroge sur LinkedIn Walter Quattrociocchi, pour qui la phrase la plus importante en science n’est pas « j’avais raison », mais « je ne sais pas ».

Pour y répondre, ce professeur d’informatique et auteur de trois livres consacrés à la désinformation et à la post-vérité s’est associé avec deux autres chercheurs universitaires, Chiara Marcoccia et Valerio Capraro, afin de procéder à cinq expérimentations.

Le titre de leur preprint en divulgâche quelque peu les résultats : « Les conseils fournis par l’IA dissuadent les gens de dire « je ne sais pas », même lorsque ces conseils sont erronés et que l’exactitude est récompensée ».

Ils avaient demandé à 3 132 participants de répondre à six questions relatives au cinéma, choisies de sorte que leurs réponses soient difficiles à trouver par des humains, mais portant sur des détails visuels suffisamment pointus pour que les LLM soient prompts à « halluciner » des réponses plausibles, mais erronées.

Y figuraient par exemple des questions comme « quel animal figure sur la proue du bateau pirate dans “Astérix et Obélix” ? », ou « quelle est la couleur du maillot de l’équipe de foot de « Joue-la comme Beckham » ? ».

L’IA fait exploser le taux d’erreurs… et le niveau de confiance

Histoire de parfaire le tableau, les chercheurs avaient également pris soin d’opter pour un modèle, Step 3.5 Flash, dont ils savaient que la totalité des réponses seraient erronées car « hallucinées », contrairement à celles proposées par d’autres modèles plus sophistiqués.

L’objectif du questionnaire n’était pas d’estimer la capacité des assistants IA à répondre correctement, mais bien d’observer comment les participants font confiance aux réponses générées par IA. Affectant ainsi à la fois leur capacité de discernement et leur propension à ne plus oser répondre « je ne sais pas ».

Les participants étaient divisés en deux groupes : le premier devait répondre aux questions sans aide externe, le second pouvait reposer la question à une IA. Or, en moyenne, 44 % des membres du premier groupe ont répondu « Je ne sais pas », contre 3 % seulement de ceux qui ont pu interroger une IA (soit une différence de - 93 %).

De plus, le taux de bonnes réponses des premiers était de 27 %, contre seulement 9 % pour le second (- 67 %). Dans le même temps, le niveau de confiance des premiers était de 30 %, contre 76 % chez les seconds (+ 153 %).

L’IA les a non seulement induits en erreur, au point de tripler le nombre de réponses erronées par rapport au groupe témoin, mais elle leur a dans le même temps donné une illusion de compétence totalement infondée. Et ce, alors que près d’un tiers d’entre eux aurait pu donner la bonne réponse s’ils n’avaient pas interrogé l’IA.

Dit autrement : en se reposant aveuglément sur l’IA, le taux de réponse correcte s’écroule de deux tiers, alors que les participants se sentent deux fois et demi plus confiants. Et seule une infime minorité des participants recourant à l’IA (3 %) reconnaît ne pas savoir répondre à la question, l’IA ayant donné aux autres un (faux) sentiment de certitude, basé sur des réponses (majoritairement) fausses.

Pour parfaire leur expérimentation, les chercheurs ont également proposé des incitations financières, ce qui a légèrement amélioré les résultats obtenus par les participants car ils se comportaient un peu plus prudemment.

Dans le groupe ayant accès à l’IA, la disposition à admettre son ignorance est ainsi passée de 3 % à 8 %, et la pertinence des réponses de 9 % à 16 %, des taux restant bien inférieurs à ceux du groupe de contrôle, respectivement de 44 % et 27 %.

Les IA génératives ne savent pas répondre « je ne sais pas »

Comme le résume Walter Quattrociocchi, le problème n’est pas simplement que l’IA puisse se tromper, mais que le fait qu’elle propose une réponse incite les gens à vouloir y croire au point de la reprendre à leur compte. Ce qui ne peut avoir que des effets négatifs tant dans l’éducation ou la recherche que dans le débat public.

« Pour les êtres humains, la capacité à dire “Je ne sais pas” est très importante, car elle traduit la reconnaissance des limites de nos propres connaissances », explique Valerio Capraro à The Register. Cette incapacité peut donc aussi, a contrario, donner un sentiment de surpuissance à ceux qui, pourtant, « ne savent pas » si ce qu’ils relaient est vrai, ou pas, ni donc de quoi ils parlent.

The Register précise par ailleurs que, bien que les chercheurs aient choisi des questions portant sur des anecdotes cinématographiques, ils affirment que leurs conclusions peuvent s’étendre à d’autres domaines.

Comme le relevaient des chercheurs d’OpenAI dans un preprint publié en septembre dernier, les IA sont en effet « encouragées à fournir une réponse au hasard plutôt qu’à avouer leur ignorance », quitte à raconter n’importe quoi, afin de satisfaire leurs utilisateurs, sur fond de concurrence exacerbée.

• Pourquoi les chatbots d’IA générative répètent deux fois plus d’infox que l’an passé

Les évaluations portant sur l’exactitude sont en outre majoritaires dans les classements et les fiches système des modèles, « ce qui pousse les développeurs à créer des modèles préférant les hypothèses à l’abstention ». Ce pourquoi, « même si les modèles gagnent en sophistication, ils hallucinent toujours au lieu d’expliquer qu’ils ne savent pas répondre ».

Des études universitaires sur la « sycophancy » (que l’on peut traduire par « effet sycophante » ou « biais de complaisance ») ont par ailleurs montré que ChatGPT, Claude et Gemini flattaient ceux qui les interrogeaient dans près de six réponses sur dix, indiquant des « taux de complaisance » s’échelonnant de 47 % à 95 %, sur sept familles de modèles.

« Je suis très inquiet pour les enfants »

« Je suis très inquiet pour les enfants, car les adultes ont acquis un esprit critique », déplore Capraro auprès du site : « Mais pour les enfants, qui naissent pour ainsi dire avec ces systèmes, le risque est qu’ils n’acquièrent même pas les compétences critiques de base ».

Le Financial Times racontait lui aussi récemment que l’écrivain et scénariste Dave Eggers, invité par Sam Altman à effectuer une conférence devant 200 employés d’OpenAI, leur avait déclaré l’an passé que « L’impact de ChatGPT sur la vie des enseignants est catastrophique » :

« Que ce soit votre intention ou non, vous avez rendu la vie de chaque enseignant infiniment plus difficile qu’elle ne l’était il y a deux ans. Alors, prenez bien conscience de cela… Si les élèves l’utilisent pour rédiger, ce qui est la plus grande tragédie de toutes, ils n’apprendront jamais à écrire. Et on leur vole leur voix. Ils n’auront jamais la capacité d’exprimer leur vérité et de raconter leur propre histoire. Et cela revient à réduire au silence une ou deux générations entières. »

• À Berkeley, plus d’un tiers des étudiants en informatique sont recalés à cause de l’IA

Enseigner l’IA, et l’esprit critique, à partir de la rentrée scolaire 2027

« Nous ne pouvons pas laisser une génération entière découvrir l’intelligence artificielle sans lui donner les clés pour la comprendre et donc la maîtriser », avait de son côté souligné Sébastien Lecornu en juin dernier dans un message posté sur X, en annonçant qu’ « À partir de la rentrée 2027 et sous l’impulsion du Ministre Edouard Geffray, tous les élèves de seconde bénéficieront d’un enseignement dédié à l’IA, à raison d’une heure par semaine intégrée au cours de sciences numériques et technologie » (:

« Fonctionnement des modèles, usages, éthique, souveraineté numérique, esprit critique face aux manipulations et aux fausses informations : notre école doit préparer les jeunes au monde qui vient.
Former à l’IA et réduire l’exposition aux écrans participent d’une même ambition : faire de nos élèves des citoyens libres, autonomes. Condition de notre souveraineté collective. »

• Les smartphones « très probablement » interdits dans les lycées dès la rentrée

Le ministre de l’Éducation nationale, Edouard Geffray, venait en effet d’annoncer (en anglais) lors d’une table ronde à VivaTech que « tous les élèves français de première année de lycée bénéficieront d’un enseignement dédié à l’IA. Ce sera la première fois que tous les élèves en France disposeront d’un dispositif permanent et spécifique ».

Le Monde et l’AFP rappellent qu’Élisabeth Borne, alors ministre de l’Éducation nationale, avait elle aussi annoncé que collégiens et lycéens bénéficieraient à la rentrée 2025 d’une formation en ligne à l’IA, « avec des sessions obligatoires pour les élèves de 4^e et de 2^de ». Une formation peu mise en œuvre, de source syndicale.

Le cours de sciences numériques et technologie (SNT) avait été confié depuis sa création en 2019 à des professeurs de mathématiques et de technologies, ou à n’importe quel autre professeur paraissant plus qualifié.

« Or la durée hebdomadaire de ce cours est d’une heure et demie », précise à l’AFP Sophie Vénétitay, secrétaire générale du SNES-FSU, syndicat majoritaire dans le second degré, qui appelle à « une clarification ».

Conférer à l’informatique et l’IA un « statut de bien culturel commun »

Le Café pédagogique relève pour sa part que les programmes de SNT sont centrés sur l’informatique et ses développements, et que l’intelligence artificielle n’y apparaît qu’une seule fois.

Début juillet, la Société informatique de France (SIF), créée pour fédérer les professionnels de l’enseignement et de la recherche en informatique, publiait un communiqué saluant cette « initiative propre à développer chez tous les élèves une citoyenneté numérique éclairée », tout en regrettant que ce dispositif exclue les lycées professionnels, « qui représentent plus de 28% des élèves ».

Elle souligne qu’un enseignement d’IA au lycée « nécessite de disposer a minima de professeurs d’informatique en nombre ». Or, « à peine une petite centaine de professeurs d’informatique, certifiés ou agrégés, établissements publics et privés confondus, sont recrutés en moyenne chaque année depuis 2022 », alors qu’on dénombre « environ 19 000 » classes de seconde en France, et qu’il faudrait donc en ouvrir « plusieurs centaines » par an, et leur proposer une formation continue :

« Le premier enjeu consiste donc à intégrer dans chaque lycée au moins un enseignant d’informatique avec un bagage complet pour que chaque élève puisse comprendre les fondements scientifiques informatiques de l’IA. »

Le deuxième enjeu consiste à pourvoir ces enseignants d’un programme à la hauteur de l’objectif affiché, « avec une colonne vertébrale scientifique », ainsi qu’une « sensibilisation aux enjeux environnementaux, éthiques et d’autonomie ».

Le troisième enjeu est « comme c’est le cas pour le français et pour les mathématiques – de conférer à l’enseignement de l’informatique et de l’IA un statut de bien culturel commun », conclut la SIF, afin de les « installer définitivement au cœur des compétences des générations qui font le XXI^e siècle » :

« Un an de préparation ne sera pas superflu pour y parvenir ! Pour favoriser le succès de ce projet, il faudra s’appuyer sur l’expérience d’une pluralité d’acteurs – dont la Société informatique de France – qui mènent déjà des réflexions sur ces sujets et peuvent dès aujourd’hui contribuer utilement à la création et au déploiement d’un tel enseignement. »

Un levier précoce pour lutter contre les « fortes disparités entre filles et garçons »

Ce 20 juillet, Edouard Geffray a précisé (.pdf) que l’horaire hebdomadaire de SNT « sera désormais fixé à 2 heures » :

« L’enseignement rénové de SNT conservera un ancrage scientifique. Il visera à faire comprendre le rôle central des données, à consolider la pensée informatique et algorithmique, ainsi qu’à faire appréhender la réalité matérielle et des infrastructures du numérique. Il devra permettre de saisir les enjeux environnementaux, géopolitiques, économiques, informationnels et démocratiques qui structurent les espaces numériques, notamment les réseaux sociaux. »

Le ministre de l’Éducation souligne qu’au sein de ce programme, le volet consacré à l’intelligence artificielle visera à :

• « poser les bases d’une compréhension scientifique et technique de l’IA, sans technicité excessive à ce niveau, articulée à une réflexion sur les données, leurs biais et leur protection, ainsi qu’à la question de la souveraineté numérique ;
• développer l’esprit critique en abordant les dimensions sociétales, éthiques, juridiques, notamment en termes de protection de la vie privée ou de secrets protégés, et environnementales, en articulation avec l’éducation aux médias et à l’information et avec l’enseignement moral et civique ;
• donner à chaque élève les clés d’un usage éclairé de l’IA, dans le cadre du cadre de référence des compétences numériques. »

Le ministre y souligne également que les filières et métiers du numérique et de l’intelligence artificielle restant « marqués par de fortes disparités entre filles et garçons », l’enseignement de SNT dès la seconde « est un levier précoce pour agir sur ces inégalités ».

Le programme révisé devra dès lors « susciter, chez les filles comme chez les garçons, l’intérêt et la confiance nécessaires à un engagement vers ces études et métiers, à travers des exemples et des activités donnant à voir une représentation équilibrée des femmes et des hommes ».

« Les médias, c’est le meilleur endroit où mettre de l’IA »

S’inspirant de la façon qu’avaient eu Bernard Tapie, Vincent Bolloré et Bernard Arnault de bâtir leurs empires financiers, un entrepreneur et influenceur français rachète des entreprises « en redressement judiciaire, sans reprendre la moindre dette ». Ses cibles : des médias, qu’il fait carburer à l’IA. Objectif : de 5 à 50 M€ de chiffre d’affaires en 5 ans, et être coté en bourse.

Article initialement publié le 20 juillet et mis à jour ce 24 juillet suite à l’annonce du rachat par Overlord du Journal des Entreprises, et le licenciement de ses 35 journalistes salariés, avec un bloc intitulé « Faire des journaux sans journalistes, on a vu mieux comme sauvetage de la presse ».

---

Un ancien avocat de 34 ans vient de procéder, en quelques mois, à trois levées de fonds afin de racheter deux titres de presse économique, Le Revenu et Le Nouvel Économiste, puis IT FACTO, un groupe de presse s’adressant aux entreprises du secteur privé ou public, éditeur d’une dizaine de médias dans la tech, dont Le Monde Informatique, CIO et Distributique. Il s’en félicite sur LinkedIn :

« Notre ambition est de faire de Le Monde Informatique la référence francophone sur les technologies, l’intelligence artificielle et la transformation numérique des entreprises. Ces enjeux sont vitaux pour notre économie, la France et l’Europe. Son positionnement complète nos autres acquisitions : Le Nouvel Économiste, consacré à l’économie, et Le Revenu, dédié à l’investissement. »

Le mois dernier, il justifiait son intention de rachat avec un objectif autrement plus ambitieux, visant rien moins qu’à faire de son entreprise, Overlord (seigneur suprême ou suzerain, en VO, à savoir une entité supérieure régnant sur ses vassaux), « un conglomérat de média » (sic) :

« OVERLORD MEDIA veut rentrer dans le débat. Parce que la transformation numérique est la mère de toutes les batailles. Et la France a besoin d’une presse IT libre pour la comprendre.
Hâte de créer avec vous un conglomérat de média !
Bientôt au cœur du débat sur la Tech et le numérique !
Pour suivre la création de ce conglomérat,
Suivez-moi, Gaspard »

Sur LinkedIn, Instagram et YouTube, Gaspard de Monclin se comporte moins comme un journaliste que comme un influenceur, collant systématiquement son visage au-dessus de ses éditos et vignettes de vidéos (souvent générées avec l’aide de l’IA), et les clôturant tout aussi systématiquement par un appel à le suivre sur les réseaux sociaux.

Son objectif semble en effet moins d’informer que de gagner en influence, et de convaincre ses abonnés d’investir dans ses levées de fonds, même et y compris dans les vidéos en « collaboration » avec Le Revenu.

L’une d’entre elles va jusqu’à parodier une conférence de presse d’un club de foot, explique que Le Nouvel Économiste « distribue des caviars aux dirigeants », évoque un « mercato » d’acquisitions d’autres médias, dont Le Monde Informatique serait l’« avant-centre », qu’Overlord Media a ouvert son capital, pour que « les fans puissent participer à la croissance du groupe, et financer ce mercato de folie », sans préciser que les questions sont posées par une IA (et non des journalistes, comme indiqué dans la vidéo), et que ceux qui y répondent sont en fait les responsables marketing d’Overlord.

À mi-chemin entre le bateleur et l’influenceur, Gaspard de Monclin apparaît en outre à la fin de la vidéo et promet de répondre en DM à ceux qui auront mis MEDIA en commentaire.

Un peu comme si Vincent Bolloré ou Bernard Arnault étaient interviewés par des IA sur CNews ou Paris Match afin d’y relayer leurs analyses macro-économiques et d’y faire la promotion de leurs propres investissements, et sans mention « publireportage » ni du fait qu’ils possèdent, eux aussi, les médias en question.

Un business plan, et une ambition, que nous avons voulu décrypter, d’autant que Gaspard de Monclin présente aussi son entreprise comme « une boite tech’ » employant autant d’ingénieurs que de journalistes, et que ceux qui n’utilisent pas l’IA devraient être « virés », parce qu’ils ralentissent l’équipe.

Alors que des centaines de journalistes ont d’ores et déjà été licenciés cette année, souvent au prétexte de l’IA, notre enquête sur la pollution informationnelle que représentent les sites d’infos générés par IA nous a d’ores et déjà permis d’en identifier plus de 15 000. Pour rappel, nous avons développé une extension web (gratuite) pour les navigateurs basés sur Chrome et Firefox permettant d’alerter ses utilisateurs lorsqu’ils consultent un site GenAI.

• Des centaines de journalistes poussés vers la porte, souvent au prétexte de l’IA
• [Récap] Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles

« Quand j’embauche des avocats, je suis déçu quand la rédaction n’est pas IA »

All Cops Are GASPARD

En 2011, la CNIL déplorait l’absence de base légale du fichier GASPARD de photos biométriques policières. 15 ans plus tard, policiers et gendarmes s’en servent quotidiennement depuis leurs téléphones portables pour recourir, en toute illégalité, à la reconnaissance faciale lors de simples contrôles d’identité. Un juge vient de relaxer huit manifestants, dont certains avaient été identifiés (à tort) grâce à la reconnaissance faciale, au motif que la police s’en était servi illégalement.

L’ONG d’investigation Disclose avait déjà révélé, en mars dernier, que 230 000 smartphones NEO 2 utilisés par les policiers depuis 2022 et NeoGend de la gendarmerie depuis 2020 permettent de recourir à la reconnaissance faciale. Une technologie utilisée lors de contrôles d’identité, ce qui est pourtant interdit par la loi.

• Des contrôles d’identité « au faciès » recourent illégalement à la reconnaissance faciale

Ce nouvel équipement opérationnel (NEO), des smartphones Android Xperia X (Sony) ou Core-X4 (Crosscall) modifiés à l’aide de Secdroid, disposent en effet de nombreuses applications métier. Pami elles, une app permettant d’accéder au TAJ (pour « traitement d’antécédents judiciaires »), sorte de « casier judiciaire bis » contenant 24 millions de signalements de personnes « mises en cause » (« MEC », et donc « défavorablement connues », pour reprendre l’expression consacrée dans les médias), dont 16 millions le sont nominativement.

• 24 millions et moi, et moi… : l’équivalent du tiers de la population est « défavorablement connue » de la police

Le TAJ est en outre adossé à un autre fichier, « GASPARD-NG » (pour Gestion automatisée des signalements et des photographies anthropométriques répertoriées et distribuables – Nouvelle génération) qui, bien qu’existant depuis au moins 2008, n’avait été officialisé qu’en 2012. Il pourrait être entâché d’illégalité faute d’avoir été soumis à l’avis de la CNIL.

En 2024, un appel d’offres que Next avait décrypté indiquait que le fichier dénombrait alors quelques 9 millions de photos de face (+ 135 000 nouvelles photos par mois) « comportant des caractéristiques techniques permettant de recourir à un dispositif de reconnaissance faciale (photographie du visage de face) », 4 134 000 tatouages (+ 52 000), et 921 000 signes particuliers (+ 9 000).

Les terminaux NEO disposent quant à eux d’une app dédiée, Reco-TAJ, permettant d’interroger GASPARD à partir d’une photo. De plus en plus de forces de l’ordre se servent de leurs NEO pour prendre en photo des suspects, ou des personnes faisant l’objet de contrôles d’identité… quand bien même l’application précise pourtant qu’elle ne peut être utilisée que « dans le cadre d’une enquête judiciaire (interdit pour un contrôle d’identité) ».

Un mode d’emploi du logiciel de la société allemande Cognitec consulté par Disclose précise qu’il suffirait de charger la photo d’un individu puis de cliquer sur un bouton « Rapprocher » pour obtenir « les 200 photos les plus pertinentes » enregistrées dans le TAJ au bout de « quelques secondes, normalement moins d’une minute ».

Or, le code de procédure pénale limite la consultation du TAJ aux seuls « besoins des enquêtes judiciaires », et donc à la résolution d’infractions, délits ou crimes, et « le fichier ne peut aucunement être consulté lors de contrôles en « temps réel » », souligne Disclose.

« Cette technique n’est pas légale. Il n’y a donc aucune raison que je la cautionne ; au contraire, je la dénonce », avait rappelé le ministre de l’Intérieur Laurent Nuñez au Sénat suite aux révélations de Disclose, le 1er avril dernier, tout en précisant : « je n’ai pas à rappeler les instructions, puisqu’elles sont permanentes ».

« Le ministre de l’Intérieur a dit que c’est illégal. Mais il est coincé par les syndicats »

Disclose et L’œil du 20 heures de France 2 ont néanmoins recueilli plusieurs témoignages de policiers et gendarmes indiquant que la pratique, bien qu’illégale, continue. Ils n’ont depuis reçu aucune consigne leur rappelant le cadre légal d’utilisation de la reconnaissance faciale, ni les risques encourus, à savoir une peine de 3 à 5 ans de prison et jusqu’à 300 000 euros d’amende.

Sous couvert d’anonymat, un gendarme confie à L’œil du 20 h que son supérieur qualifiait le logiciel de reconnaissance faciale d’« outil miracle », et que s’il était installé par défaut sur les terminaux NEO des gendarmes et policiers, c’était pour qu’ils s’en servent, y compris lors des contrôles d’identité.

Le fait de pouvoir l’utiliser aussi facilement générerait également une « confiance aveugle » dans sa capacité d’identifier correctement les personnes déjà fichées, souligne le gendarme, au motif que « le fichier est plus fort que tout »… quitte à verbaliser un innocent.

Or, l’identification biométrique ou génétique, tout comme de nombreuses autres techniques utilisées par la police scientifique, repose sur des calculs de probabilité, qui génèrent donc forcément des faux positifs et faux négatifs. Elle ne saurait donc être considérée comme des « preuves scientifiques », nonobstant le fait que les « experts » peuvent aussi se tromper.

De plus, le Traitement des Antécédents Judiciaires peut lui-même induire en erreur. Il est en effet né sous Nicolas Sarkozy de la fusion de deux fichiers : le STIC de la police et JUDEX pour la gendarmerie. Deux fichiers créés illégalement, et ayant fonctionné dans l’illégalité pendant des années avant d’être légalisés par la CNIL. L’institution les brocardait régulièrement pour être truffés d’erreurs, et pas mis à jour. Des millions de personnes, bien qu’innocentées par la justice, y figuraient ainsi comme « suspectes ».

« Le ministre de l’Intérieur a dit que c’est illégal. Mais le truc, c’est qu’ils ne peuvent pas vérifier les accès au logiciel de Reco-TAJ de tous les flics », explique à Disclose un policier, pour qui l’ancien préfet de police de Paris serait coincé : « Demain, s’il nous dit que ça ne va pas, il aura tous les syndicats de police sur le dos. »

« Une prise de 1 kg de cocaïne est égale à 0,02 gramme de shit verbalisé »

Ce recours banalisé serait en outre encouragé par la « course aux chiffres » à laquelle ils sont poussés, afin de multiplier les « amendes forfaitaires délictuelles » (AFD). Instaurées en 2016 afin d’accélérer le traitement de certains délits dits « de masse », sans avoir à passer par la voie judiciaire, ce traitement pénal simplifié est régulièrement critiqué par le Défenseur des droits et la Cour des comptes, rappelle vie-publique.fr.

Le dispositif n’en a pas moins été considérablement élargi depuis, passant de 3 délits routiers en 2016 à 91 infractions en 2023 (de l’usage illicite de stupéfiants au défaut d’assurance et de permis de conduire en passant par la vente à la sauvette, le vol à l’étalage, l’outrage sexiste, etc.). Le nombre de verbalisations a ainsi quasi-triplé entre 2021 et 2024, et celui des contestations a quadruplé.

1,6 million d’AFD ont en effet été dressées entre 2019 et 2024, selon le service statistique ministériel de la sécurité intérieure (SSMSI), dont près de 500 000 sur la seule année 2024. La part des AFD dans l’ensemble des délits enregistrés explose ainsi de 1 à 10 % en cinq ans.

« La chasse aux statistiques nous encourage à mettre le plus d’AFD possibles », explique une source à Disclose. Elle estime que cette politique du chiffre encourage les contrôles au faciès : « Quand j’ai été formé à l’utilisation de l’outil, on nous a dit que c’était le Graal, l’outil miracle pour bien aiguiller nos contrôles ».

Une autre source avance que « c’est d’abord pour cette raison que l’appli du TAJ avec reco faciale est généralisée sur les NEO », et déplore que cette politique du chiffre se fasse « au détriment du vrai boulot de policiers de terrain » :

« Une prise de 1 kg de cocaïne est égale à 0,02 gramme de shit verbalisé en AFD. Donc, un policier qui fait 50 AFD pour du shit sera considéré comme meilleur qu’un policier qui fait une prise de 1 kg de cocaïne. »

Une vidéo, datant de fin mai et diffusée par Disclose, montre ainsi un policier en civil de la brigade anticriminalité photographiant avec un terminal NEO le visage d’un individu, contrôlé dans la rue, puis scroller une liste de photographies semblant indiquer qu’il utilise le logiciel de reconnaissance faciale.

Un recours illégal au fichier qui peut lui-même entraîner des erreurs d’identification. Disclose évoque le cas d’une jeune femme rom arrêtée pour cambriolage en 2022 dont les traits du visage « présentent une similitude à 68 % » avec la photo contenue dans GASPARD d’une femme visée par une obligation de quitter le territoire (OQTF).

Condamnée à six mois de prison ferme, la jeune femme fut placée en centre de rétention en vue d’être expulsée vers la Serbie ou la Croatie. Une expulsion finalement empêchée du fait de ne pouvoir attester de sa véritable identité. Mais la personne initialement fichée s’est vue quant à elle attribuer un cambriolage qu’elle n’avait pas commis, relève Disclose.

« Formellement identifié via la reconnaissance faciale »… à tort

Nos confrères reviennent sur une autre erreur d’identification. Mi-mai, huit activistes étaient interpellés pour avoir bloqué pendant une heure un pont, en protestation d’un projet autoroutier. Arrêtés sans opposer de résistance, ils avaient ensuite invoqué leur droit au silence, refusé de décliner leur identité, ainsi que le prélèvement de leurs empreintes digitales et de leur ADN.

Sauf que l’enquêteur qui les auditionnait a branché sa caméra, quand bien même ce dispositif est normalement réservé aux suspects de crimes ou aux victimes mineures précise Disclose, afin de pouvoir faire une capture d’écran de leurs visages, et interroger le TAJ.

L’un des manifestants, Julien* (prénom d’emprunt, ndlr), 22 ans, fut ainsi confondu, à tort, avec un autre jeune homme de 23 ans, Marius*, « défavorablement connu des services de police » (car fiché au TAJ) pour « usage illicite de stupéfiants » et « violence sur une personne dépositaire de l’autorité publique sans incapacité lors d’une manifestation sur la voie publique ».

Julien*, qui a depuis pu consulter les pièces de la procédure, à commencer par la fiche TAJ du vrai Marius*, et donc sa photo, a pu constater qu’ils portent certes tous deux la moustache, ont des cheveux bruns, mais aussi que leurs visages ne sont pas si ressemblants que ça : « C’est à croire qu’ils ont pris pour argent comptant les résultats de l’intelligence artificielle sans même comparer nos photos », déplore l’activiste.

Au total, trois des huit militants furent « formellement identifié [sic] via la reconnaissance faciale », sans que Disclose ne précise si les deux autres avaient été dument identifiés, ou pas. Mediapart, qui a couvert leur procès au tribunal de Valence, ce lundi 6 juillet, pointe d’autres problèmes.

La Résistible Ascension d'Arturo AI

Le premier observatoire français de l’audience des sites GenAI, établi par Médiamétrie en octobre 2025, avait établi que près de 25 % des Français y étaient régulièrement confrontés. Six mois plus tard, ils sont près de 40 % (soit + 60 % !). Une explosion en partie due à l’essor du nombre de sites d’infos et d’articles industrialisés par l’IA pour parvenir à être mentionné dans les réponses des grands modèles de langage.

Près de 4 Français sur 10 (39,1 %) visitent des sites d’information générés par IA (GenAI), à raison de 23 millions de visiteurs uniques (VU) chaque mois, contre près de 1 sur 4 (24,5 %) en octobre dernier (soit + 60 % !). Le nombre de VU quotidien est de son côté passé de 2,6 à 3,5 millions, en un an (soit + 35 %).

Les chiffres émanent du second observatoire des sites GenAI, établi par Médiamétrie pour le compte du Groupement des éditeurs de services en ligne (GESTE) sur la base des sites GenAI identifiés par Next. Le premier observatoire, révélant qu’un quart des Français visitaient des sites d’info GenAI, avait été rendu public en décembre dernier.

• Un quart des Français visitent les sites d’infos générées par IA recommandés par Google

Un taux qui ne reflète en réalité que la fourchette basse du nombre réel d’internautes français confrontés à des articles et infos « majoritairement voire entièrement » générés par IA. D’une part parce que le tsunami de sites d’info « full IA », ou qui basculent dans l’ « IA first » est tel qu’il nous est impossible de les identifier tous.

Médiamétrie, d’autre part, ne mesure l’audience que des 5 000 principales marques digitales et 1 000 premières applications mobiles françaises. Or, lors de la première édition de l’observatoire, notre base de données de sites d’info GenAI dénombrait près de 8 900 sites d’info GenAI, administrés (et monétisés) par plus de 200 éditeurs. Elle en comporte désormais plus de 15 000, émanant de plus de 300 éditeurs.

• [Récap] Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles

La mesure d’audience émane du panel d’internautes de Médiamétrie, et de la collecte de l’ensemble de leur surf sur ordinateur, tablette et mobile (Android et iOS). Nous lui avions fourni une liste des 308 sites GenAI les plus recommandés par Google et MSN, dont 232 ont été visités par les panélistes sur la période étudiée, qui va d’avril 2025 à avril 2026.

Si 84 % des sites d’info GenAI dénombrent moins de 250 000 visiteurs uniques (VU) par mois, 5 % en totalisent plus de 2 millions, et 9 plus de 3 millions. Quatre éditeurs, cumulant plusieurs sites d’info GenAI, en dénombrent même plus de 6 millions, et l’un d’entre eux 15,7 millions, soit près de 25 % des Français.

À l’instar du premier observatoire, Médiamétrie constate que 75 % des internautes qui consultent ces sites d’info GenAI ont 50 ans ou plus. En octobre dernier, un peu plus de 36 % d’entre eux avaient consulté au moins un site d’info GenAI dans le mois. Une proportion qui s’élève désormais à près de 50 % des 50 - 64 ans, et près de 55 % des 65 ans et plus.

Le trafic provient majoritairement de Google (plus de 50 %), devant Meta (17 %), confirmant le rôle central des plateformes dans la diffusion de ces contenus. « Cette étude confirme l’installation durable des sites d’information générés par l’IA dans le paysage numérique français », souligne Laure de Lataillade, directrice du Geste :

« Si leur audience progresse rapidement, c’est en grande partie parce que ces acteurs sont largement portés par les moteurs de recherche et les plateformes sociales, qui jouent un rôle déterminant dans leur visibilité et leur distribution auprès du grand public. Cette évolution invite à s’interroger sur les mécanismes de recommandation qui structurent désormais l’accès à l’information, sur la transparence des processus éditoriaux à l’œuvre derrière ces contenus, ainsi que sur les conditions de concurrence avec les médias qui financent la production d’une information professionnelle et vérifiée. »

Rappelons que Next a aussi développé une extension web (gratuite) afin d’alerter ses utilisateurs lorsqu’ils consultent un site dont les articles et infos semblent avoir été générés par IA, au risque d’y relayer des (dés)informations « hallucinées ».

Des spammeurs d’info, gagnant jusqu’à 3 000 € par jour

Étant aux « premières loges » de ce tsunami de sites d’info générés par IA, que je documente depuis un an et demi et que j’ai tenté d’expliciter dans le podcast de Mathilde Saliou qui explore les enjeux du numérique, je relève deux principales évolutions entre ces deux premiers observatoires GenAI de Médiamétrie.

• ECC #11 : Le tsunami d’infos générées par IA, avec Jean-Marc Manach

L'Attaque de la moussakIA géante

Un rédacteur SEO a publié dans le « magazine des professionnels de l’information stratégique » un article vraisemblablement généré par IA qui m’attribuait un « témoignage d’expert » où je recommandais une formation… que je ne connaissais pas. Mon nom vient aussi d’apparaître sur des sites GenAI créés par un dentiste roumain usurpant également la réputation de l’Electronic Frontier Foundation.

Il y a quelques semaines, une journaliste me contactait en DM pour me demander mon avis sur le diplôme d’université (DU) Analyste OSINT de l’UTT de Troyes, qui « vise à former des experts capables de rechercher, traiter, analyser et rapporter des informations issues de sources ouvertes, dans le respect de la réglementation et de l’éthique ».

Elle m’expliquait s’y être inscrite et avoir lu sur Veillemag.com, le « magazine des professionnels de l’information stratégique », que j’aurais déclaré que « ce DU répond à un besoin criant de formation structurée, alliant rigueur académique et pragmatisme opérationnel », laissant entendre que je le connaissais, et recommandais.

Une citation présentée sous l’intitulé « Témoignage d’expert » et signée « Jean-Marc Manach, journaliste et expert en OSINT » (pour Open Source INTelligence, ou renseignement de sources ouvertes). Pionnier de l’OSINT en France, j’ai effectivement été plusieurs fois interviewé à ce sujet.

Problème : la citation qui m’est imputée est fausse, et je ne connaissais même pas l’existence de ce diplôme d’université, que j’ai découvert lorsque la journaliste m’a contacté.

Contacté, le « rédacteur SEO » qui avait signé l’article de Veillemag.com, m’a répondu qu’il ne sait plus qui lui aurait fourni cette citation, précisant qu’« il y a plusieurs mois, je suivais des comptes osint sur LinkedIn. Sur un post. J’ai vu cette mention. »

Le fait que son « article » ne soit qu’une succession de listes à puces laisse cela dit peu de doutes quant au fait qu’il a vraisemblablement été généré par IA, et que la citation qui m’est attribuée a elle-même été « hallucinée ».

La citation en question a été effacée par la rédactrice en chef de veillemag.com après que je l’ai interrogée à ce sujet.

Reste qu’attribuer une citation « hallucinée » par IA à un journaliste spécialiste de fact-checking est une incongruité à laquelle je ne m’attendais pas. Au surplus alors que j’enquête depuis plus de deux ans sur les sites d’infos générés par IA, comme expliqué dans le dernier épisode de notre podcast Entre la chaise et le clavier.

• ECC #11 : Le tsunami d’infos générées par IA, avec Jean-Marc Manach

« Il ne s’agit pas seulement de fuites. C’est une question d’architecture »

Las : deux autres sites d’infos viennent, eux aussi, d’halluciner à mon sujet. La baseline du site archyde.com est « Découvrez les vraies personnes qui se cachent derrière les gros titres », quand bien même les photos de profil de ses journalistes, censés avoir remporté des prix Pulitzer (mais qui n’existent pas), sont générées par IA :

« Chez Archyde.com, nous respectons les normes les plus strictes en matière d’intégrité journalistique. Tous nos articles font l’objet d’une vérification rigoureuse des faits et s’appuient sur des sources indépendantes. »

Récemment, un article consacré au fait qu’un « documentaire exclusif retraçant 15 ans de ministère est désormais disponible sur YouTube » (qui n’existe pas), émanant du collectif indépendant « Time to Edit » (qui n’existe pas), me présentait comme « un avocat spécialisé dans les droits numériques à La Quadrature du Net » (je suis journaliste chez Next). À l’en croire, j’aurais déclaré que cela « pourrait créer un précédent permettant de contester le secret d’État », avec des arguments pour le moins « hallucinés », mais renvoyant effectivement au RFC de l’IETF sur HTTP/1.1 :

« Il ne s’agit pas seulement de fuites. C’est une question d’architecture. Le système du ministère a été conçu pour passer inaperçu : il utilise des protocoles ouverts comme HTTP/1.1 pour les canaux de commande tout en transférant les données sensibles vers des fonctions AWS Lambda. Si les tribunaux jugent la licence valide, cela obligera l’État soit à classer rétroactivement ces données, soit à admettre que le système n’était pas conforme dès le départ. »

L’article évoque également une certaine Dr. Élise Gauthier, chercheuse en cybersécurité à l’INRIA, qui déplore une « violation tant du droit français que du droit européen », et dont une photographie sert d’illustration. Mais une recherche image inversée renvoie vers un article de Radio Canada datant de 2015 où l’on apprend qu’Élise Gauthier était en fait candidate du Bloc québécois, un parti indépendantiste et social-démocrate.

• Après les livres générés par IA, les noms d’auteurs détournés pour promouvoir de l’AI slop

Un agrégat, généré par IA, d’infos émanant de sites eux aussi générés par IA

NewsDirectory3.com, qui « répertorie les journaux, les agences de presse, les kiosques à journaux et les médias d’information en ligne des 50 États américains », me présente quant à lui comme « chercheur en politiques technologiques chez Les Numériques » (je n’ai jamais écrit pour ce titre).

L’article, intitulé « Paramètres cachés de Samsung et d’Android pour optimiser l’autonomie de la batterie et les performances Wi-Fi », est quant à lui un agrégat d’infos émanant du média Les Numériques mais également de DroidSoft, Le Tribunal du Net, ainsi que d’un « message publié sur le forum d’assistance Samsung, vérifié par Pleine Vie », trois sites figurant dans notre base de données de sites d’infos dont les articles sont « majoritairement, voire complètement générés par IA » (GenAI).

Je ne suis bien évidemment pas le seul à me voir attribuer des fonctions et propos que je n’ai jamais tenus sur des sites GenAI. L’Electronic Frontier Foundation (EFF) pionnière des ONG de défense des libertés numériques, alertait récemment ses lecteurs au sujet du site News-USA Today, qui se présente quant à lui comme « un éditeur d’actualités indépendant axé sur un journalisme clair, précis et utile ». 

L’EFF a en effet découvert que plusieurs de ses articles mentionnent les témoignages d’experts de l’ONG qui n’existent pas :

« Qu’ont en commun Sarah Chen, Javier Morales, Caitlin Chin, Emma Rodriguez et Mikko Kopponen, tous membres du personnel de l’EFF ? D’une part, ils n’existent pas. D’autre part, ils ont tous été cités en tant qu’experts de l’EFF dans des articles publiés au cours des deux derniers mois sur un site appelé News-USA Today. »

« Il est regrettable que ce soit au public de devoir distinguer le vrai du faux »

Ironie de l’histoire, ces trois sites d’infos GenAI font partie d’une ferme de contenus (ou PBN, pour Private blog network) que nous avions déjà identifiée il y a quelques mois, parce qu’elle comporte également (au moins) trois sites GenAI en français.

Son administrateur est un dentiste roumain qui, après s’être expatrié à Dubaï, est devenu éditeur web indépendant. Il est à la tête d’un PBN de plus d’une vingtaine de sites d’infos GenAI, dans plusieurs langues, cumulant des millions de pages vues chaque mois.

L’IA générative lui a aussi permis de vibe-coder plusieurs services web divers et variés, allant d’un calculateur de risques de voyage à un calculateur de résultats scolaires de terminale (par rapport à ceux de tous les élèves de votre tranche d’âge dans toute l’Australie), en passant par un site indiquant… la date du jour.

Rappelant que « les citations erronées qui déforment nos positions nuisent à la confiance que le public et les médias réputés nous accordent », l’EFF avance que « la meilleure chose qu’un consommateur d’informations puisse faire est de consacrer un peu de temps et d’énergie à apprendre à distinguer le vrai du faux » :

« Il est regrettable que ce soit au public qu’il incombe de fournir un tel effort, mais alors que nous nous adaptons à de nouveaux outils et à une nouvelle normalité, un petit effort aujourd’hui peut s’avérer très utile à long terme. »

C’est l’occasion de rappeler que notre extension (gratuite) GenAI affiche précisément un message d’alerte lorsque ses utilisateurs consultent l’un des 15 000 sites d’infos GenAI que nous avons identifiés.

• [Récap] Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles

Massacres à la déchiqueteuse-broyeuse

Ces derniers mois, plusieurs groupes de médias ont annoncé des centaines de suppressions de postes, et certains semblent vouloir remplacer journalistes et secrétaires de rédaction par des IA. Deux tiers des journalistes du Quotidien du médecin, le média de référence de la profession, ont décidé de quitter l’entreprise, rachetée par une « plateforme d’influence B2B ».

Le Quotidien du médecin, qui se présente comme le « leader incontesté de la presse médicale française », fait partie du Groupe Profession Santé, qui édite également Le Quotidien du pharmacien et le site web Infirmiers.com. Le groupe revendique le titre de « 1er groupe médias et services pour les professionnels de santé »,une communauté qualifiée de plus de 400 000 professionnels de santé, 460 000 lecteurs inscrits et près de 500 000 followers, et plus d’un million de visites mensuelles sur ses plateformes.

Deux tiers des 36 journalistes qui y écrivaient encore en début d’année ont cela dit préféré quitter l’entreprise, révèle Politis, en réaction aux conditions de travail décidées par leur nouveau propriétaire, qui veut leur imposer de recourir à l’IA générative.

• [Récap] Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles

Selon les informations de Politis, à compter de ce mois de juillet, ils ne seront plus que 12 journalistes dans les trois rédactions. Les 24 autres ont activé la « clause de cession » qui permet à un journaliste de démissionner tout en touchant des indemnités de licenciement lorsque le média qui l’emploie change de propriétaire.

Profession Santé a en effet été racheté, en février dernier, par le groupe Ficade, qui se présente comme « un leader français des médias B2B » et « l’un des principaux groupes français de médias professionels » (sic).

« Le nouveau modèle c’est : un rédacteur en chef, un journaliste et de l’IA »