Das Kapital. Kritik der automatisierten Ökonomie.

Face aux promesses de gains financiers de l’automatisation, les États capitalistes favorisent naturellement la répression plutôt que la redistribution, y compris s’ils sont construits sur des fondements démocratiques. C’est ce que concluent le prix Nobel d’économie Daron Acemoglu et ses collègues A. Arda Gitmez et Mehdi Shadmehr dans un récent article susceptible d’éclairer les effets économiques et politiques du déploiement de l’IA.

Il est l’un des économistes les plus influents du monde, en particulier ces dernières années pour ses travaux relatifs à l’intelligence artificielle et aux effets de l’automatisation. Il est aussi co-lauréat du prix Nobel d’économie 2024, aux côtés de James A. Robinson et Simon Johnson. Cette année-là, Daron Acemoglu prévoyait que l’IA ne produirait que peu d’augmentation de la productivité et du PIB, mais qu’elle pourrait clairement accroître les revenus que le capital tire du travail.

Son ton a clairement changé cet été, jusque dans sa récente intervention sur France Inter, le 31 août. « Il m’arrive de ne pas dormir la nuit en pensant aux conséquences énormes que tout ça va avoir », a-t-il déclaré à la radio publique, estimant que le déploiement de l’IA pourrait finalement détruire 8 à 9 % des emplois, soit deux fois plus que ce qu’il avait calculé précédemment.

Outre cette analyse très anglée sur les conséquences subies par les travailleurs, les préoccupations du chercheur s’expliquent peut-être plus largement par les effets du déploiement de l’IA sur les sociétés au sens large.

• L’IA générative, une bulle ? Goldman Sachs met les pieds dans le plat

C’est du moins ce que semble traduire le working paper qu’il publiait en juin avec ses collègues A. Arda Gitmez et Mehdi Shadmehr. Intitulé « Automatisation et Répression », le document, ouvert à la relecture par les pairs, propose une exploration des conséquences de l’automatisation sur le recours à la répression politique. Les trois hommes y établissent l’existence d’une complémentarité entre l’automatisation et la répression. Dans un système capitaliste, estiment-ils, plus les acteurs économiques recourent à l’automatisation (ce qui va dans le sens de leurs intérêts, car cela leur permet d’accroître leur stock de capital), plus l’État qui les représente risque de recourir à la violence pour mater les révoltes qui pourraient couver dans la population.

Plus précisément, les scientifiques calculent que plus le stock de capital est important, plus l’automatisation croît. Dans la mesure où la répression « est complémentaire de l’automatisation », ils en déduisent qu’une augmentation du capital disponible est « elle aussi complémentaire de la répression ». En effet, cette dernière permet à l’État capitaliste (compris comme un État qui défend les intérêts des détenteurs de capitaux) « d’atteindre un niveau d’automatisation plus élevé que dans le cadre d’une redistribution ».

• Entre la chaise et le clavier #3 : Ce que l’IA fait au travail avec Juan Sebastian Carbonell

Modéliser les conséquences d’un paradoxe réel

La motivation de ce travail leur vient de propos et positions observés dans le monde réel. De l’ancien président de Google China et directeur de Microsoft Asia Kai-Fu Lee au capital-risqueur Nick Hanauer, plusieurs entrepreneurs du numérique s’inquiètent depuis vingt ans des risques de troubles, voire de soulèvements concomitants à l’accélération de l’automatisation du travail. Ce faisant, écrivent les trois universitaires, ils « redécouvrent la prédiction faite par Karl Marx en 1867 », selon laquelle : « Ce n’est que depuis l’introduction des machines que l’ouvrier se bat contre l’instrument de travail lui-même… Il se révolte contre cette forme particulière des moyens de production. »

Pour faire face au risque, une des pistes serait d’améliorer la redistribution. Cent millionnaires ont d’ailleurs signé une lettre ouverte en ce sens à l’occasion du sommet 2025 de Davos. « Pour autant, de nombreux individus fortunés et dirigeants d’entreprise reconnaissent également que le maintien de l’ordre dans un monde dominé par l’automatisation pourrait nécessiter des mesures répressives et d’autres mesures énergiques pour protéger leurs revenus et leurs bénéfices. »

Fabricant de pioches finance acheteurs de pioches

En un an, le portefeuille d’investissement de NVIDIA a été multiplié par 14. En deux ans, par 45. L’essentiel des 99 milliards de dollars investis l’est dans des sociétés de la chaîne de valeur de l’intelligence artificielle, alimentant les alertes sur le risque d’explosion d’une bulle financière.

Le portefeuille d’investissements de NVIDIA croit vite, extrêmement vite. Ce trimestre, l’entreprise a affiché 99 milliards de dollars de prises de participations dans diverses sociétés. L’immense majorité d’entre elles sont des entreprises numériques, très souvent clientes du constructeur de puces.

Le chiffre a de quoi faire rouler des yeux : en juillet 2025, la société détenait un portefeuille d’investissement de 7 milliards de dollars. Un an plus tôt, rappelle CNBC, il s’élevait à 2,2 milliards de dollars. Cette accélération phénoménale de sa politique d’investissement fait du constructeur de puces l’un des nouveaux piliers de l’investissement dans les sociétés numériques. Elle en fait aussi un acteur plus central que jamais de l’industrie de l’intelligence artificielle.

• DLSS 5 : NVIDIA promet (encore) une IA générative sous contrôle

Des laboratoires, du néocloud, du hardware dédié à l’IA

Dans quoi investit NVIDIA, au juste ? Essentiellement dans la kyrielle de sociétés qui constituent la chaîne de valeur en aval de la fabrication de ses puces dédiées à l’IA. Au total, 48 milliards d’actions concernent des produits cotés en bourse, 48 milliards sont investis dans des sociétés privées et 3 milliards de dollars sont comptabilisés selon la méthode de mise en équivalence.

Côté participations publiques, NVIDIA détenait 30 milliards de dollars dans Intel fin juin 2026, 21 milliards de dollars dans Space X et des participations de 2 à 5 milliards de dollars dans CoreWeave (cloud dédié à l’IA), Coherent (laser), Synopsys (logiciels pour fabricants de semi-conducteurs et autres équipementiers électroniques) et Nokia. La partie privée est moins évidente. Mais il est clair que Nebius, un concurrent de CoreWeave, qui achète des puces puis loue leurs capacités de calcul, a aussi profité des largesses de NVIDIA. C’est aussi le cas d’autres sociétés spécialisées dans la photonique et l’optique, comme Lumentum et Marvell. Et le laboratoire d’IA Thinking Machine Lab est actuellement en discussion avec NVIDIA et d’autres pour lever 6 milliards de dollars — dont 2,5 milliards pourraient être versés par le constructeur de puces.

En plus de ces positions, NVIDIA vient d’annoncer l’achat de Hugging Face pour 12,9 milliards de dollars, ou encore 105 milliards de dollars de soutien au crédit pour qu’OpenAI puisse construire un centre de données dans l’état de l’Ohio.

• [MàJ] NVIDIA rachète Hugging Face pour 12,9 milliards de dollars

La centralité de l’entreprise alimente les alertes

Auprès des investisseurs, la directrice financière de NVIDIA Colette Kress indique que les entreprises d’IA génératives ont des demandes de calcul si élevées qu’elles dépassent leurs bilans, et les empêchent d’emprunter. À ce titre, NVIDIA serait un acteur nécessaire pour faciliter l’innovation des laboratoires d’IA, en leur offrant les facilités de crédit qui leur permettent de continuer de « manœuvrer ce volant d’inertie ».

En dehors de l’entreprise, en revanche, la décision est décrite comme une manière de donner à des start-ups à peine sorties du nid la capacité d’acheter les GPU vendus par le constructeur qui les soutient financièrement. D’autres soulignent que le capital-risque, certes, aide certaines entreprises à innover, mais que dans ce cas précis, il fournit aussi à NVIDIA l’influence nécessaire pour s’assurer que toute évolution de l’industrie aille bien dans le sens des intérêts… de NVIDIA.

Connu pour avoir parié au bon moment sur la crise des subprimes aux États-Unis, Michael Burry critique NVIDIA pour sa propension à financer et investir dans ses propres clients. Le milliardaire investisseur Mark Cuban qualifie quant à lui le niveau de dépendance de l’industrie de l’IA aux financements de NVIDIA de « vraiment flippant ».

• Entre coût de la dette et amortissements abusifs, l’IA va-t-elle au devant de son The Big Short ?

NVIDIA a annoncé un chiffre d’affaires de 96,2 milliards de dollars pour son deuxième trimestre, pour un résultat net de 59,7 milliards de dollars. Son portefeuille d’actions s’élève donc à un peu plus que le chiffre d’affaires réalisé en un trimestre. D’autres acteurs de l’industrie investissent plus encore : Amazon détient un portefeuille de plus de 100 milliards de dollars, tandis que celui d’Alphabet s’élevait à 232 milliards fin juin. La différence la plus flagrante, relève The Next Web, tient dans la vitesse de constitution de ce panel d’investissements : chez Alphabet, il a été constitué en plus de vingt ans, tandis que chez NVIDIA, l’essentiel des positions ont été prises au fil des deux dernières années.

• NVIDIA s’allie à six grands financiers pour tenter de sécuriser 500 milliards de dollars

Fabricant de pioches finance acheteurs de pioches

En un an, le portefeuille d’investissement de NVIDIA a été multiplié par 14. En deux ans, par 45. L’essentiel des 99 milliards de dollars investis l’est dans des sociétés de la chaîne de valeur de l’intelligence artificielle, alimentant les alertes sur le risque d’explosion d’une bulle financière.

Le portefeuille d’investissements de NVIDIA croit vite, extrêmement vite. Ce trimestre, l’entreprise a affiché 99 milliards de dollars de prises de participations dans diverses sociétés. L’immense majorité d’entre elles sont des entreprises numériques, très souvent clientes du constructeur de puces.

Le chiffre a de quoi faire rouler des yeux : en juillet 2025, la société détenait un portefeuille d’investissement de 7 milliards de dollars. Un an plus tôt, rappelle CNBC, il s’élevait à 2,2 milliards de dollars. Cette accélération phénoménale de sa politique d’investissement fait du constructeur de puces l’un des nouveaux piliers de l’investissement dans les sociétés numériques. Elle en fait aussi un acteur plus central que jamais de l’industrie de l’intelligence artificielle.

• DLSS 5 : NVIDIA promet (encore) une IA générative sous contrôle

Des laboratoires, du néocloud, du hardware dédié à l’IA

Dans quoi investit NVIDIA, au juste ? Essentiellement dans la kyrielle de sociétés qui constituent la chaîne de valeur en aval de la fabrication de ses puces dédiées à l’IA. Au total, 48 milliards d’actions concernent des produits cotés en bourse, 48 milliards sont investis dans des sociétés privées et 3 milliards de dollars sont comptabilisés selon la méthode de mise en équivalence.

Côté participations publiques, NVIDIA détenait 30 milliards de dollars dans Intel fin juin 2026, 21 milliards de dollars dans Space X et des participations de 2 à 5 milliards de dollars dans CoreWeave (cloud dédié à l’IA), Coherent (laser), Synopsys (logiciels pour fabricants de semi-conducteurs et autres équipementiers électroniques) et Nokia. La partie privée est moins évidente. Mais il est clair que Nebius, un concurrent de CoreWeave, qui achète des puces puis loue leurs capacités de calcul, a aussi profité des largesses de NVIDIA. C’est aussi le cas d’autres sociétés spécialisées dans la photonique et l’optique, comme Lumentum et Marvell. Et le laboratoire d’IA Thinking Machine Lab est actuellement en discussion avec NVIDIA et d’autres pour lever 6 milliards de dollars — dont 2,5 milliards pourraient être versés par le constructeur de puces.

En plus de ces positions, NVIDIA vient d’annoncer l’achat de Hugging Face pour 12,9 milliards de dollars, ou encore 105 milliards de dollars de soutien au crédit pour qu’OpenAI puisse construire un centre de données dans l’état de l’Ohio.

• [MàJ] NVIDIA rachète Hugging Face pour 12,9 milliards de dollars

La centralité de l’entreprise alimente les alertes

Auprès des investisseurs, la directrice financière de NVIDIA Colette Kress indique que les entreprises d’IA génératives ont des demandes de calcul si élevées qu’elles dépassent leurs bilans, et les empêchent d’emprunter. À ce titre, NVIDIA serait un acteur nécessaire pour faciliter l’innovation des laboratoires d’IA, en leur offrant les facilités de crédit qui leur permettent de continuer de « manœuvrer ce volant d’inertie ».

En dehors de l’entreprise, en revanche, la décision est décrite comme une manière de donner à des start-ups à peine sorties du nid la capacité d’acheter les GPU vendus par le constructeur qui les soutient financièrement. D’autres soulignent que le capital-risque, certes, aide certaines entreprises à innover, mais que dans ce cas précis, il fournit aussi à NVIDIA l’influence nécessaire pour s’assurer que toute évolution de l’industrie aille bien dans le sens des intérêts… de NVIDIA.

Connu pour avoir parié au bon moment sur la crise des subprimes aux États-Unis, Michael Burry critique NVIDIA pour sa propension à financer et investir dans ses propres clients. Le milliardaire investisseur Mark Cuban qualifie quant à lui le niveau de dépendance de l’industrie de l’IA aux financements de NVIDIA de « vraiment flippant ».

• Entre coût de la dette et amortissements abusifs, l’IA va-t-elle au devant de son The Big Short ?

NVIDIA a annoncé un chiffre d’affaires de 96,2 milliards de dollars pour son deuxième trimestre, pour un résultat net de 59,7 milliards de dollars. Son portefeuille d’actions s’élève donc à un peu plus que le chiffre d’affaires réalisé en un trimestre. D’autres acteurs de l’industrie investissent plus encore : Amazon détient un portefeuille de plus de 100 milliards de dollars, tandis que celui d’Alphabet s’élevait à 232 milliards fin juin. La différence la plus flagrante, relève The Next Web, tient dans la vitesse de constitution de ce panel d’investissements : chez Alphabet, il a été constitué en plus de vingt ans, tandis que chez NVIDIA, l’essentiel des positions ont été prises au fil des deux dernières années.

• NVIDIA s’allie à six grands financiers pour tenter de sécuriser 500 milliards de dollars

Après une première expérimentation auprès de 172 agents volontaires, le gouvernement fédéral suisse teste de remplacer la suite Microsoft 365 par une solution open source sur 3 000 ordinateurs.

La Chancellerie prévoit que cette migration, qui concerne environ 7 % des postes utilisés dans ses services, soit réalisée d’ici la fin 2027.

Concrètement, les employés fédéraux se verront fournir l’accès à OpenDesk, une solution allemande produite par le Centre allemand pour la souveraineté numérique (ZenDis).

• Suites bureautiques européennes : la bataille de l’alternative à Microsoft et Google

Cette dernière a été choisie car conçue spécialement pour des administrations publiques, et mise à disposition de l’administration fédérale suisse gratuitement, indique le porte-parole de la Chancellerie au Temps.

Si l’opération se passe correctement, un nombre croissant de postes pourrait passer à OpenDesk par la suite. Ceci dit, impossible d’imaginer que l’intégralité de l’administration locale se passe du fournisseur états-unien, dans la mesure où aucune alternative ne lui permet de « remplacer simplement et complètement les solutions Microsoft en place au sein de son architecture informatique », explique la Chancellerie.

Pour la transition en cours, l’administration a ciblé en priorité des fonctionnaires « chargés de processus sensibles ou essentiels à l’activité ».

Rien n’empêche, à terme, de se tourner vers des solutions suisses – Infomaniak développe par exemple une suite complète — ou de recourir à des sociétés suisses pour les prestations de conseil, d’intégration, de formation ou d’autres activités susceptibles d’accompagner le recours aux outils open source choisis.

Outre cette initiative, le Cyber Command suisse, unité militaire en charge de la cybersécurité, travaille de son côté à remplacer complètement Microsoft 365 par OpenDesk d’ici 2026, selon le média spécialisé It’s Foss.

• Lyon abandonne Microsoft Office pour renforcer sa « souveraineté numérique »

Après une première expérimentation auprès de 172 agents volontaires, le gouvernement fédéral suisse teste de remplacer la suite Microsoft 365 par une solution open source sur 3 000 ordinateurs.

La Chancellerie prévoit que cette migration, qui concerne environ 7 % des postes utilisés dans ses services, soit réalisée d’ici la fin 2027.

Concrètement, les employés fédéraux se verront fournir l’accès à OpenDesk, une solution allemande produite par le Centre allemand pour la souveraineté numérique (ZenDis).

• Suites bureautiques européennes : la bataille de l’alternative à Microsoft et Google

Cette dernière a été choisie car conçue spécialement pour des administrations publiques, et mise à disposition de l’administration fédérale suisse gratuitement, indique le porte-parole de la Chancellerie au Temps.

Si l’opération se passe correctement, un nombre croissant de postes pourrait passer à OpenDesk par la suite. Ceci dit, impossible d’imaginer que l’intégralité de l’administration locale se passe du fournisseur états-unien, dans la mesure où aucune alternative ne lui permet de « remplacer simplement et complètement les solutions Microsoft en place au sein de son architecture informatique », explique la Chancellerie.

Pour la transition en cours, l’administration a ciblé en priorité des fonctionnaires « chargés de processus sensibles ou essentiels à l’activité ».

Rien n’empêche, à terme, de se tourner vers des solutions suisses – Infomaniak développe par exemple une suite complète — ou de recourir à des sociétés suisses pour les prestations de conseil, d’intégration, de formation ou d’autres activités susceptibles d’accompagner le recours aux outils open source choisis.

Outre cette initiative, le Cyber Command suisse, unité militaire en charge de la cybersécurité, travaille de son côté à remplacer complètement Microsoft 365 par OpenDesk d’ici 2026, selon le média spécialisé It’s Foss.

• Lyon abandonne Microsoft Office pour renforcer sa « souveraineté numérique »

L’évolution n’a pas tardé. Alors que le projet Opération Bluebird, monté par deux salariés de Twitter, époque pré-rachat par Elon Musk, lançait fin août le service Twitter.now, les voilà forcés de le renommer pour tweet.app.

Le changement fait suite à la décision écrite du juge Colm Connolly, dans laquelle ce dernier indique qu’utiliser le nom « Twitter » créerait trop de confusion dans l’esprit des consommateurs et enfreindrait le droit des marques.

Autrement dit, contrairement à la lecture adoptée initialement par les équipes d’Operation Bluebird, ces derniers n’ont pas le droit d’utiliser le nom Twitter, quand bien même celui-ci n’est plus utilisé par la plateforme X ni par l’entreprise SpaceXAI.

• Operation Bluebird : la start-up qui voulait relancer Twitter (.now)

Le juge décrète en revanche que X a probablement abandonné le terme « tweet » et son logo en forme d’oiseau, ce qui signifie que ces deux éléments sont réutilisables. Le site web du nouveau réseau social a aussitôt évolué de Twitter.now vers Tweet.app.

Dans sa foire aux questions, il indique : « Le 3 septembre 2026, un tribunal fédéral a refusé de nous interdire l’utilisation de la marque "Tweet" et du logo représentant un oiseau, estimant que nous étions en mesure de prouver que la société X avait abandonné ces deux éléments. »

Fin août, l’ancien juriste de Twitter Stephen Coates et son associé Michael Peroff lançaient la prévision de leur réseau social.


Pour limiter les premiers accès et obtenir des financements, le réseau n’est pour le moment accessible qu’en contrepartie de 20 à 40 dollars. Auprès de TechCrunch, l’entreprise a indiqué que 172 000 personnes avaient déjà ouvert un compte, donc réservé un nom d’utilisateur.

L’évolution n’a pas tardé. Alors que le projet Opération Bluebird, monté par deux salariés de Twitter, époque pré-rachat par Elon Musk, lançait fin août le service Twitter.now, les voilà forcés de le renommer pour tweet.app.

Le changement fait suite à la décision écrite du juge Colm Connolly, dans laquelle ce dernier indique qu’utiliser le nom « Twitter » créerait trop de confusion dans l’esprit des consommateurs et enfreindrait le droit des marques.

Autrement dit, contrairement à la lecture adoptée initialement par les équipes d’Operation Bluebird, ces derniers n’ont pas le droit d’utiliser le nom Twitter, quand bien même celui-ci n’est plus utilisé par la plateforme X ni par l’entreprise SpaceXAI.

• Operation Bluebird : la start-up qui voulait relancer Twitter (.now)

Le juge décrète en revanche que X a probablement abandonné le terme « tweet » et son logo en forme d’oiseau, ce qui signifie que ces deux éléments sont réutilisables. Le site web du nouveau réseau social a aussitôt évolué de Twitter.now vers Tweet.app.

Dans sa foire aux questions, il indique : « Le 3 septembre 2026, un tribunal fédéral a refusé de nous interdire l’utilisation de la marque "Tweet" et du logo représentant un oiseau, estimant que nous étions en mesure de prouver que la société X avait abandonné ces deux éléments. »

Fin août, l’ancien juriste de Twitter Stephen Coates et son associé Michael Peroff lançaient la prévision de leur réseau social.


Pour limiter les premiers accès et obtenir des financements, le réseau n’est pour le moment accessible qu’en contrepartie de 20 à 40 dollars. Auprès de TechCrunch, l’entreprise a indiqué que 172 000 personnes avaient déjà ouvert un compte, donc réservé un nom d’utilisateur.

IA bobo

Alors qu’un nombre croissant de médecins recourent à l’IA pour enregistrer et retranscrire leurs consultations, un organisme de surveillance du système de santé publique britannique alerte sur la propension de ces dispositifs à générer des erreurs. Ces dernières peuvent avoir de réelles répercussions sur la vie des patients.

Le recours à des technologies d’IA pour enregistrer et retranscrire les consultations peut mener à des erreurs dans le rendu des diagnostics et des noms de médicaments, alerte Healthwatch England. Ce dernier agit comme organisme de surveillance du National Health System (NHS), le système public de santé britannique.

Alors qu’elle s’appuyait sur la transcription générée par IA d’un entretien avec son praticien, une patiente a par exemple été choquée d’apprendre qu’elle était atteinte de démyélinisation, rapporte the Guardian. Le diagnostic était faux : le produit d’une erreur, ou « hallucination », de la machine utilisée pour transcrire les échanges. Ce n’est qu’une fois vérifiés les résultats d’une IRM passée à l’hôpital qu’elle a pu constater que le résultat correct aurait dû être transcrit en « absence de démyélinisation ».

Dans un autre cas, un patient s’est rendu compte qu’un système de transcription par IA avait mélangé deux noms de médicaments. Plutôt que de retranscrire celui réellement prescrit, il en avait inscrit un second, au nom proche. Là encore, c’est le patient qui s’est aperçu de l’erreur, plutôt que le médecin. Dans une troisième affaire, la machine n’avait pas retranscrit le caractère répétitif de la prescription médicamenteuse, ce qui aurait pu laisser le patient, souffrant de migraine, sans possibilité d’obtenir ses médicaments s’il ne s’était pas aperçu du problème.

• Comment les médecins s’emparent de l’IA générative

Outils de santé et IA : des technologies toujours plus poreuses

Ces histoires ne sont que quelques cas parmi de multiples erreurs : pour Healthwatch England, ce type de fautes de transcription dues au recours à l’IA pourrait poser de réels dangers pour la sécurité des patients. Un enjeu d’autant plus important qu’en dehors de la NHS, au Royaume-Uni, nombreux sont les services et logiciels médicaux à intégrer de l’IA générative, en particulier des outils d’enregistrement et de retranscription, dans les outils qu’ils fournissent à leur clientèle médicale.

En sens inverse, des moteurs grand public déploient désormais des fonctionnalités dédiées à renforcer leur usage par un public de professionnels de la médecine. Chez Open AI, ChatGPT Health intègre désormais un système de gestion électronique des dossiers patients, auquel les praticiens états-uniens peuvent recourir pour importer leurs dossiers puis questionner le moteur.

• Quand les IA génératives se prennent pour des médecins… et que les utilisateurs y croient

Au Royaume-Uni, où au moins 27 « scribes IA » différents sont déjà utilisés par le personnel de santé, la NHS pousse pour le déploiement généralisé de ce type de technologies. D’après un plan gouvernemental pensé sur dix ans, ces dernières permettront en effet de « libérer les équipes de leur charge administrative », leur rendant de ce fait du temps pour le soin des patients.

Qualifier les robots de transcription d’outils de santé ?

Si la promesse est belle, elle fait pour le moment peu de cas de la propension de ces technologies à générer du faux ou de l’inexistant, ce que critiquent Healthwatch England et certaines associations de patients. Parmi les autres dysfonctionnements déjà connus, la question des biais de représentation est tout à fait prévalente dans les applications de l’IA générative à la santé.

• Intelligence artificielle, biais et stéréotypes : nous sommes dans « un cercle vicieux »

Pour de mêmes symptômes, des outils utilisés par le grand public tendent par exemple à recommander aux hommes d’aller aux urgences et aux femmes d’attendre de trouver un rendez-vous chez le médecin. Dans les contextes où des professionnels de santé génèrent des cas cliniques synthétiques, notamment pour préserver les données de patients réels, les machines surévaluent certains risques médicaux masculins et sous-représentent des risques répandus chez les femmes. Du côté des machines de transcription, certains accents sont moins compris que d’autres, ce qui rend la qualité de la transcription des échanges variable selon l’expression du ou de la patiente – dans certains cas, ces derniers ne parviennent pas à passer l’étape du répondeur automatisé.

Pour Healthwatch England, ces différents éléments rendent « inquiétant » le fait de ne pas faire entrer les « scribes IA » des médecins dans la catégorie juridique des dispositifs de santé, ce qui permettrait de les encadrer comme ces technologies dédiées.

Au sein de l’Union européenne, ce type de dispositifs est régulé par différents textes, dont le règlement sur l’intelligence artificielle et le règlement relatif à l’espace européen des données de santé. Le premier des deux fonctionne sur un système de niveaux de risque, la santé étant généralement considérée comme un domaine nécessitant des précautions avancées.

• Systèmes à haut risque, modèles à usage général : ce que dit l’AI Act en pratique

Pour autant, une cinquantaine de chercheurs internationaux regrettaient fin 2025 l’absence d’évaluation complète et rigoureuse sur le déploiement des technologies d’IA, notamment génératives, dans les usages des professionnels de santé.

IA bobo

Alors qu’un nombre croissant de médecins recourent à l’IA pour enregistrer et retranscrire leurs consultations, un organisme de surveillance du système de santé publique britannique alerte sur la propension de ces dispositifs à générer des erreurs. Ces dernières peuvent avoir de réelles répercussions sur la vie des patients.

Le recours à des technologies d’IA pour enregistrer et retranscrire les consultations peut mener à des erreurs dans le rendu des diagnostics et des noms de médicaments, alerte Healthwatch England. Ce dernier agit comme organisme de surveillance du National Health System (NHS), le système public de santé britannique.

Alors qu’elle s’appuyait sur la transcription générée par IA d’un entretien avec son praticien, une patiente a par exemple été choquée d’apprendre qu’elle était atteinte de démyélinisation, rapporte the Guardian. Le diagnostic était faux : le produit d’une erreur, ou « hallucination », de la machine utilisée pour transcrire les échanges. Ce n’est qu’une fois vérifiés les résultats d’une IRM passée à l’hôpital qu’elle a pu constater que le résultat correct aurait dû être transcrit en « absence de démyélinisation ».

Dans un autre cas, un patient s’est rendu compte qu’un système de transcription par IA avait mélangé deux noms de médicaments. Plutôt que de retranscrire celui réellement prescrit, il en avait inscrit un second, au nom proche. Là encore, c’est le patient qui s’est aperçu de l’erreur, plutôt que le médecin. Dans une troisième affaire, la machine n’avait pas retranscrit le caractère répétitif de la prescription médicamenteuse, ce qui aurait pu laisser le patient, souffrant de migraine, sans possibilité d’obtenir ses médicaments s’il ne s’était pas aperçu du problème.

• Comment les médecins s’emparent de l’IA générative

Outils de santé et IA : des technologies toujours plus poreuses

Ces histoires ne sont que quelques cas parmi de multiples erreurs : pour Healthwatch England, ce type de fautes de transcription dues au recours à l’IA pourrait poser de réels dangers pour la sécurité des patients. Un enjeu d’autant plus important qu’en dehors de la NHS, au Royaume-Uni, nombreux sont les services et logiciels médicaux à intégrer de l’IA générative, en particulier des outils d’enregistrement et de retranscription, dans les outils qu’ils fournissent à leur clientèle médicale.

En sens inverse, des moteurs grand public déploient désormais des fonctionnalités dédiées à renforcer leur usage par un public de professionnels de la médecine. Chez Open AI, ChatGPT Health intègre désormais un système de gestion électronique des dossiers patients, auquel les praticiens états-uniens peuvent recourir pour importer leurs dossiers puis questionner le moteur.

• Quand les IA génératives se prennent pour des médecins… et que les utilisateurs y croient

Au Royaume-Uni, où au moins 27 « scribes IA » différents sont déjà utilisés par le personnel de santé, la NHS pousse pour le déploiement généralisé de ce type de technologies. D’après un plan gouvernemental pensé sur dix ans, ces dernières permettront en effet de « libérer les équipes de leur charge administrative », leur rendant de ce fait du temps pour le soin des patients.

Qualifier les robots de transcription d’outils de santé ?

Si la promesse est belle, elle fait pour le moment peu de cas de la propension de ces technologies à générer du faux ou de l’inexistant, ce que critiquent Healthwatch England et certaines associations de patients. Parmi les autres dysfonctionnements déjà connus, la question des biais de représentation est tout à fait prévalente dans les applications de l’IA générative à la santé.

• Intelligence artificielle, biais et stéréotypes : nous sommes dans « un cercle vicieux »

Pour de mêmes symptômes, des outils utilisés par le grand public tendent par exemple à recommander aux hommes d’aller aux urgences et aux femmes d’attendre de trouver un rendez-vous chez le médecin. Dans les contextes où des professionnels de santé génèrent des cas cliniques synthétiques, notamment pour préserver les données de patients réels, les machines surévaluent certains risques médicaux masculins et sous-représentent des risques répandus chez les femmes. Du côté des machines de transcription, certains accents sont moins compris que d’autres, ce qui rend la qualité de la transcription des échanges variable selon l’expression du ou de la patiente – dans certains cas, ces derniers ne parviennent pas à passer l’étape du répondeur automatisé.

Pour Healthwatch England, ces différents éléments rendent « inquiétant » le fait de ne pas faire entrer les « scribes IA » des médecins dans la catégorie juridique des dispositifs de santé, ce qui permettrait de les encadrer comme ces technologies dédiées.

Au sein de l’Union européenne, ce type de dispositifs est régulé par différents textes, dont le règlement sur l’intelligence artificielle et le règlement relatif à l’espace européen des données de santé. Le premier des deux fonctionne sur un système de niveaux de risque, la santé étant généralement considérée comme un domaine nécessitant des précautions avancées.

• Systèmes à haut risque, modèles à usage général : ce que dit l’AI Act en pratique

Pour autant, une cinquantaine de chercheurs internationaux regrettaient fin 2025 l’absence d’évaluation complète et rigoureuse sur le déploiement des technologies d’IA, notamment génératives, dans les usages des professionnels de santé.

e-verification de TVA

Alors que la réforme de la facturation électronique entre en application pour l’essentiel des entreprises, Next détaille les enjeux.

Mise à jour du 2 septembre 2026 :

La réforme vient d’entrer en vigueur : désormais, l’essentiel des entreprises doit passer à la facturation électronique, en s’équipant a minima (pour les plus petites entités) de la possibilité de les recevoir. Si les sociétés ont eu plusieurs mois pour se mettre à jour, il reste du travail : 85 % des 500 dirigeants financiers interrogés sur le sujet par OpinionWay se sont déclarés confiants, et pourtant, 63 % ont admis… qu’ils n’étaient pas tout à fait prêts !

---

Article du 10 jun 2026 :

Ce 1er septembre 2026, la réforme de la facturation électronique commence à entrer en vigueur en France. En jeu : une adaptation technique et structurelle, qui doit notamment permettre à l’administration de mieux suivre les transactions entre entreprises, et réduire la fraude à la taxe sur la valeur ajoutée (TVA), mais qui agace certains petits entrepreneurs.

Concrètement, l’évolution s’appuie sur deux éléments : l’émission et la réception de factures au format électronique (e-invoicing), et la transmission numérique des éléments de transactions et de paiement à l’administration (e-reporting). Les entités qui le souhaitent peuvent déjà recourir à ce mode de facturation, et ce, depuis juillet 2025.

Mais le calendrier des obligations approchant, toutes les entités concernées gagneraient à se préoccuper de la question d’ici au 1er septembre. En effet, à partir de cette date-là, les grandes entreprises et établissements de taille intermédiaire (ETI) sont dans l’obligation d’émettre leurs factures sous format électronique, ce qui signifie que toute entité avec laquelle ces dernières pourraient échanger, quelle que soit sa taille, doit être en mesure de les recevoir. Pour les acteurs les plus petits, l’émission de factures électroniques ne deviendra en revanche obligatoire qu’à compter du 1er septembre 2027.

Qui est concerné ?

Toutes les entreprises sont concernées, jusqu’aux micro-entreprises, quand bien même leurs activités seraient exonérées de TVA. Le gouvernement vante une « gestion quotidienne facilitée », notamment grâce à l’accélération des échanges de factures et à l’horodatage, qui rend le suivi plus précis, ainsi qu’une productivité plus grande et une amélioration du pilotage de la comptabilité.

Quelles sont les exceptions à la facturation électronique ? 



Si votre entreprise a des clients particuliers, des associations, ou des clients internationaux, ces transactions-là peuvent se maintenir sur un fonctionnement classique. À terme, cela dit, les données de transaction doivent tout de même être transmises à l’administration fiscale. Les fournisseurs de solutions tendent donc à recommander d’émettre des factures compatibles avec les standards établis pour l’e-facturation et l’e-reporting.

Que doivent faire les sociétés relevant d’activités exonérées de TVA ?

Vigilance constante

Déployées largement à travers le pays, plébiscitées par les forces de l’ordre mais critiquées pour leurs usages abusifs, les caméras de lecture de plaques minéralogiques et de reconnaissance de véhicules Flock sont devenues un nouveau sujet transpartisan de détestation technologique aux États-Unis.

Comment devient-on la marque la plus détestée d’un pays en quelques mois ? Sur les réseaux sociaux, des appels à vandaliser ou des vidéos représentant des manières de masquer ces caméras ont circulé tout l’été, jusqu’en France, alors même qu’elles ne sont pas installées dans l’Hexagone.

La vague vient des États-Unis. Sur place, le constructeur a déployé un réseau de 130 000 caméras capables de scanner les plaques minéralogiques de voitures et de collecter la marque, le modèle et tout autre signe caractéristique de n’importe quel véhicule, dans tous les États à l’exception de l’Alaska. Devant la force et les dysfonctionnements de la base de donnée ainsi constituée, par ailleurs équipée d’outils d’intelligence artificielle, les protestations se multiplient.

8,4 milliards de valorisation pour un réseau de surveillance équipé d’IA

Fondée en 2017, Flock est parvenue à faire adopter largement ses caméras aux États-Unis. Avec 7 000 agences de forces de l’ordre recourant à ses services, soit 40 % des services de police du pays, la société s’est assurée une croissance portant sa valorisation à 8,4 milliards de dollars en avril 2026.

Flock assure avoir permis de résoudre un million d’enquêtes criminelles en un an, d’après Vox. Quant aux forces de l’ordre, elles indiquent que la possibilité de suivre un suspect d’un État à l’autre est un enjeu critique pour résoudre des problématiques aussi variées que des vols de voitures, des disparitions inquiétantes ou des enlèvements d’enfants.

Le problème est qu’un outil aussi puissant fonctionne rarement sans revers. En l’occurrence, les cas de recherches illégales menées grâce à Flock se sont multipliés. Ainsi de la cinquantaine d’officiers de police (connus) recourant à la machine pour suivre les faits et gestes de leurs ex-partenaires, de son usage pour aider les agents de l’ICE (l’agence locale de l’immigration et des douanes), ou encore de la fouille de 80 000 caméras à travers le pays pour retrouver (sans succès) une femme dénoncée par son partenaire pour avoir réalisé un avortement, etc.

• La surveillance géolocalisée de l’ICE détourne les femmes enceintes des soins médicaux

Une illustration de l’état de surveillance

Pour toutes ces raisons, Flock est devenue, pour le public, une forme d’incarnation de toutes sortes d’enjeux de surveillance aux États-Unis.

Alors que des spécialistes des droits numériques alertaient de longue date contre les implications de ce type de dispositif en termes de vie privée, la population en a pris une plus large conscience lorsque ces caméras ont été ouvertement détournée de leur usage – outre aider l’ICE au-delà du cadre légal, elles ont pu servir à surveiller certaines manifestations. Dans certains cas, leur usage a par ailleurs été lié à des erreurs judiciaires.

• L’ICE veut multiplier ses sources de données auprès des publicitaires et des Big Tech

Flock a assuré prendre des mesures pour lutter contre les usages abusifs, dont la réduction de la sauvegarde des données, passant d’un mois à une semaine (l’entreprise admet elle-même que 90 % des recherches ont lieu dans la semaine qui suit l’enregistrement), et la création d’un mode particulier dédié aux enquêtes ouvertes. Dans ces cas-là, les données recherchées et collectées sont stockées plus longtemps. Garrett Langley, le directeur de l’entreprise, a même admis avoir mis trop de temps à réagir aux usages abusifs de ses outils.

Pour autant, les mesures proposées peinent à convaincre, alors que l’entreprise semble maintenir ou réinstaller des caméras après que des collectivités ont mis fin à leurs contrats. Dans certains cas, les villes concernées se contentent de signer de nouveaux contrats avec des concurrents du fournisseur originel.

Résultats, certains citoyens décident de s’attaquer par eux-mêmes au mobilier installé par Flock. Ils s’en prennent aux poteaux sur lesquels les caméras sont installées, d’autres appellent à utiliser l’art pour boucher la vue (quand ils ne se font pas passer pour Darth Vader afin de mieux s’y opposer). Des projets collaboratifs, comme DeFlock, visent à répertorier les caméras de lecture de plaques partout aux États-Unis.

Voir cette publication sur Instagram

Une publication partagée par BRENDAN NØRTH (@brendannorth)

Des représentants de tous bords renoncent à Flock

L’opposition populaire est telle que, à l’instar de la multiplication des centres de données, les caméras Flock deviennent un nouveau sujet technologique capable de réunir les bords politiques les plus opposés aux États-Unis. Dans la population, républicains et démocrates tombent en effet d’accord sur leur détestation de ces dispositifs.

• Les datacenters IA, un sujet électoral incontournable aux États-Unis

Le sénateur républicain Josh Hawley a lancé une enquête sur le fonctionnement des outils de l’entreprise, tandis que son collègue Ron DeSantis a publiquement qualifié ces technologies de « hors de contrôle ». Toujours côté républicain, le gouverneur du Texas a cité différents cas d’usage abusif de l’outil, rapporte TechCrunch, à commencer par celui d’un officier de police texan, poursuivi pour avoir consulté la base de données de Flock afin de suivre des personnes sans autorisation, pour justifier une récente décision visant à minimiser le recours aux outils de l’entreprise. Côté démocrate, Bernie Sanders s’est aussi exprimé pour critiquer Flock et la « surveillance de masse par IA ».

Concrètement, plusieurs États travaillent désormais à couper leurs liens avec Flock, alors que soixante villes ont déjà mis fin à leurs contrats avec l’entreprise. Le ministère des Transports de Floride cite notamment des « rapports inquiétants de messages, des problèmes de gestion des données et de la vie privée, et des pratiques de surveillance » pour motiver sa décision, qui oblige l’État à se séparer de ses caméras dans les 30 prochaines jours. En Pennsylvanie, le gouverneur démocrate Josh Sapiro a quant à lui appelé à la rédaction d’une loi bipartisane pour les interdire à travers l’État.

Mais la pression populaire n’évolue pas sans contestation des principaux concernés : à San Francisco, l’entreprise travaille par exemple activement à minimiser les voix qui s’opposent à elle. À l’approche des élections de mi-mandat, prévues pour ce mois de novembre, nul doute que la gestion de ces caméras animera les débats américains.

Vigilance constante

Déployées largement à travers le pays, plébiscitées par les forces de l’ordre mais critiquées pour leurs usages abusifs, les caméras de lecture de plaques minéralogiques et de reconnaissance de véhicules Flock sont devenues un nouveau sujet transpartisan de détestation technologique aux États-Unis.

Comment devient-on la marque la plus détestée d’un pays en quelques mois ? Sur les réseaux sociaux, des appels à vandaliser ou des vidéos représentant des manières de masquer ces caméras ont circulé tout l’été, jusqu’en France, alors même qu’elles ne sont pas installées dans l’Hexagone.

La vague vient des États-Unis. Sur place, le constructeur a déployé un réseau de 130 000 caméras capables de scanner les plaques minéralogiques de voitures et de collecter la marque, le modèle et tout autre signe caractéristique de n’importe quel véhicule, dans tous les États à l’exception de l’Alaska. Devant la force et les dysfonctionnements de la base de donnée ainsi constituée, par ailleurs équipée d’outils d’intelligence artificielle, les protestations se multiplient.

8,4 milliards de valorisation pour un réseau de surveillance équipé d’IA

Fondée en 2017, Flock est parvenue à faire adopter largement ses caméras aux États-Unis. Avec 7 000 agences de forces de l’ordre recourant à ses services, soit 40 % des services de police du pays, la société s’est assurée une croissance portant sa valorisation à 8,4 milliards de dollars en avril 2026.

Flock assure avoir permis de résoudre un million d’enquêtes criminelles en un an, d’après Vox. Quant aux forces de l’ordre, elles indiquent que la possibilité de suivre un suspect d’un État à l’autre est un enjeu critique pour résoudre des problématiques aussi variées que des vols de voitures, des disparitions inquiétantes ou des enlèvements d’enfants.

Le problème est qu’un outil aussi puissant fonctionne rarement sans revers. En l’occurrence, les cas de recherches illégales menées grâce à Flock se sont multipliés. Ainsi de la cinquantaine d’officiers de police (connus) recourant à la machine pour suivre les faits et gestes de leurs ex-partenaires, de son usage pour aider les agents de l’ICE (l’agence locale de l’immigration et des douanes), ou encore de la fouille de 80 000 caméras à travers le pays pour retrouver (sans succès) une femme dénoncée par son partenaire pour avoir réalisé un avortement, etc.

• La surveillance géolocalisée de l’ICE détourne les femmes enceintes des soins médicaux

Une illustration de l’état de surveillance

Pour toutes ces raisons, Flock est devenue, pour le public, une forme d’incarnation de toutes sortes d’enjeux de surveillance aux États-Unis.

Alors que des spécialistes des droits numériques alertaient de longue date contre les implications de ce type de dispositif en termes de vie privée, la population en a pris une plus large conscience lorsque ces caméras ont été ouvertement détournée de leur usage – outre aider l’ICE au-delà du cadre légal, elles ont pu servir à surveiller certaines manifestations. Dans certains cas, leur usage a par ailleurs été lié à des erreurs judiciaires.

• L’ICE veut multiplier ses sources de données auprès des publicitaires et des Big Tech

Flock a assuré prendre des mesures pour lutter contre les usages abusifs, dont la réduction de la sauvegarde des données, passant d’un mois à une semaine (l’entreprise admet elle-même que 90 % des recherches ont lieu dans la semaine qui suit l’enregistrement), et la création d’un mode particulier dédié aux enquêtes ouvertes. Dans ces cas-là, les données recherchées et collectées sont stockées plus longtemps. Garrett Langley, le directeur de l’entreprise, a même admis avoir mis trop de temps à réagir aux usages abusifs de ses outils.

Pour autant, les mesures proposées peinent à convaincre, alors que l’entreprise semble maintenir ou réinstaller des caméras après que des collectivités ont mis fin à leurs contrats. Dans certains cas, les villes concernées se contentent de signer de nouveaux contrats avec des concurrents du fournisseur originel.

Résultats, certains citoyens décident de s’attaquer par eux-mêmes au mobilier installé par Flock. Ils s’en prennent aux poteaux sur lesquels les caméras sont installées, d’autres appellent à utiliser l’art pour boucher la vue (quand ils ne se font pas passer pour Darth Vader afin de mieux s’y opposer). Des projets collaboratifs, comme DeFlock, visent à répertorier les caméras de lecture de plaques partout aux États-Unis.

Voir cette publication sur Instagram

Une publication partagée par BRENDAN NØRTH (@brendannorth)

Des représentants de tous bords renoncent à Flock

L’opposition populaire est telle que, à l’instar de la multiplication des centres de données, les caméras Flock deviennent un nouveau sujet technologique capable de réunir les bords politiques les plus opposés aux États-Unis. Dans la population, républicains et démocrates tombent en effet d’accord sur leur détestation de ces dispositifs.

• Les datacenters IA, un sujet électoral incontournable aux États-Unis

Le sénateur républicain Josh Hawley a lancé une enquête sur le fonctionnement des outils de l’entreprise, tandis que son collègue Ron DeSantis a publiquement qualifié ces technologies de « hors de contrôle ». Toujours côté républicain, le gouverneur du Texas a cité différents cas d’usage abusif de l’outil, rapporte TechCrunch, à commencer par celui d’un officier de police texan, poursuivi pour avoir consulté la base de données de Flock afin de suivre des personnes sans autorisation, pour justifier une récente décision visant à minimiser le recours aux outils de l’entreprise. Côté démocrate, Bernie Sanders s’est aussi exprimé pour critiquer Flock et la « surveillance de masse par IA ».

Concrètement, plusieurs États travaillent désormais à couper leurs liens avec Flock, alors que soixante villes ont déjà mis fin à leurs contrats avec l’entreprise. Le ministère des Transports de Floride cite notamment des « rapports inquiétants de messages, des problèmes de gestion des données et de la vie privée, et des pratiques de surveillance » pour motiver sa décision, qui oblige l’État à se séparer de ses caméras dans les 30 prochaines jours. En Pennsylvanie, le gouverneur démocrate Josh Sapiro a quant à lui appelé à la rédaction d’une loi bipartisane pour les interdire à travers l’État.

Mais la pression populaire n’évolue pas sans contestation des principaux concernés : à San Francisco, l’entreprise travaille par exemple activement à minimiser les voix qui s’opposent à elle. À l’approche des élections de mi-mandat, prévues pour ce mois de novembre, nul doute que la gestion de ces caméras animera les débats américains.

Made In AustralIA

Plusieurs documents soumis à l’actuel Parlement australien dans le cadre de ses enquêtes contiennent des éléments et des citations générées par IA. Le risque : que des représentants politiques appuient leurs décisions sur des éléments créés de toutes pièces par les chatbots génératifs.

Pour appuyer la fabrique de la loi, la plupart des parlements à travers la planète s’appuient sur des travaux d’enquête, auprès de citoyens comme d’experts. Mais comment s’assurer que ces processus fonctionnent bien, lorsqu’ils se retrouvent inondés de contenus générés par IA citant de fausses recherches et des universitaires inexistants ?

Telle est la question que soulève The Guardian Australia après avoir relevé de multiples « hallucinations » dues au recours à l’IA générative dans des travaux du Parlement australien. Dans certains cas, les membres des comités rédigeant les rapports supposés informer le travail réglementaire ont cité des références qui semblent réelles, mais qui n’existent pas.

• Neurone, inférence, entraînement, hallucination… de quoi on parle ?

Fausses références liées à de vrais universitaires

De la même manière que, dans d’autres domaines, des articles entièrement générés par IA se retrouvent attribués à de vrais journalistes, à leur corps défendant, certaines des références repérées par le Guardian lient des travaux inventés à de vrais universitaires.

Directement concernée, la psychologue et professeure associée à l’Université du Queensland, Dina Haslam qualifie la trouvaille d’ « inquiétante », précisément parce que ces faux sont crédibles. Elle décrit par ailleurs la « grande frustration » d’avoir investi temps, argent et expertise dans des « recherches rigoureuses », pour ensuite voir son nom et celui de ses équipes cités aux côtés de travaux inexistants.

Outre ce cas précis, The Guardian a constitué une base réunissant toutes les soumissions écrites envoyées au Parlement actuellement en exercice. Le journal a ensuite vérifié automatiquement chacune des citations en s’appuyant sur plusieurs bases de données académiques. Les références qui étaient les plus souvent pointées comme ne correspondant à aucun travail existant ont ensuite été vérifiées à la main. Ceci a permis au journal d’identifier au moins 39 textes à destination des représentants politiques contenant des références probablement hallucinées par des IA génératives.

Une autre méthode visant à estimer la prévalence du recours à de grands modèles de langage a donné des résultats plus importants. Le journal a notamment constaté que plus de 100 documents incluaient certains des tags ajoutés automatiquement aux urls par ChatGPT (de type ?utm_source=chatgpt.com) lorsque le chatbot fournit une source. Contactés, l’essentiel des autrices et auteurs de ces documents ont semblé découvrir la possibilité que les robots d’IA générative puissent générer de toutes pièces, et donc inventer, certaines des sources citées.

• IA : Grammarly suspend son outil de révision à la manière de vos auteurs préférés

Quand les résumés IA de Google compliquent la vérification

Ce n’est pas la première fois que les décideurs australiens – comme ceux d’autres nationalités – ont maille à partir avec l’IA générative.

En 2025, Deloitte a dû rembourser une partie de la somme que l’État australien lui avait versée pour obtenir l’audit d’un système informatique dédié à l’automatisation des sanctions en cas d’irrespect des règles d’accès aux aides sociales. Son travail s’était avéré présenter de multiples erreurs et fausses citations scientifiques, typiques de ces textes générés par IA. Quelques mois plus tard, c’est le gouvernement de Terre-Neuve-et-Labrador, au Canada, qui a dû demander à la même entreprise de reprendre son travail après que celui-ci se soit avéré présenter des éléments – dont de supposées références scientifiques – générés par IA.

Dans le domaine juridique, plus de 2 000 cas de plaidoiries hallucinées par IA ont été identifiées par le juriste Damien Charlotin à travers le monde, quelquefois pour présenter un argumentaire, dans d’autres cas pour proposer des citations. Problème : dans ce second cas, les références ou jurisprudences énoncées n’existent quelquefois pas du tout. Dans plus de 350 cas, ces recours aux chatbots génératifs se sont soldés par des sanctions financières, plus 150 sanctions disciplinaires.

Mais pour le monde réglementaire comme pour le judiciaire, la multiplication de travaux en tout ou partie générés par IA vient compliquer la vérification des faits. Et ce d’autant plus qu’avec le déploiement généralisé des résumés IA dans Google, moteur de recherche le plus utilisé au monde, le chatbot Gemini tend à proposer des justifications ou à laisser entendre qu’une référence existe même si ce n’est pas le cas. Dans certaines occurrences, le Guardian relève la propension du robot à générer de faux résumés pour des travaux de recherche inexistants.

Dans la mesure où les enquêtes visent à éclairer les travaux parlementaires, le politologue Christian Downie estime que de nouvelles règles pourraient être nécessaires, pour encadrer la soumission de documentation aux régulateurs australiens. À défaut, le risque est de voir ces derniers prendre des décisions sur la base d’éléments générés automatiquement, sans lien avec le monde réel.

• Vous ne voulez pas des Aperçus IA de Google ? Voici comment s’en débarrasser

Made In AustralIA

Plusieurs documents soumis à l’actuel Parlement australien dans le cadre de ses enquêtes contiennent des éléments et des citations générées par IA. Le risque : que des représentants politiques appuient leurs décisions sur des éléments créés de toutes pièces par les chatbots génératifs.

Pour appuyer la fabrique de la loi, la plupart des parlements à travers la planète s’appuient sur des travaux d’enquête, auprès de citoyens comme d’experts. Mais comment s’assurer que ces processus fonctionnent bien, lorsqu’ils se retrouvent inondés de contenus générés par IA citant de fausses recherches et des universitaires inexistants ?

Telle est la question que soulève The Guardian Australia après avoir relevé de multiples « hallucinations » dues au recours à l’IA générative dans des travaux du Parlement australien. Dans certains cas, les membres des comités rédigeant les rapports supposés informer le travail réglementaire ont cité des références qui semblent réelles, mais qui n’existent pas.

• Neurone, inférence, entraînement, hallucination… de quoi on parle ?

Fausses références liées à de vrais universitaires

De la même manière que, dans d’autres domaines, des articles entièrement générés par IA se retrouvent attribués à de vrais journalistes, à leur corps défendant, certaines des références repérées par le Guardian lient des travaux inventés à de vrais universitaires.

Directement concernée, la psychologue et professeure associée à l’Université du Queensland, Dina Haslam qualifie la trouvaille d’ « inquiétante », précisément parce que ces faux sont crédibles. Elle décrit par ailleurs la « grande frustration » d’avoir investi temps, argent et expertise dans des « recherches rigoureuses », pour ensuite voir son nom et celui de ses équipes cités aux côtés de travaux inexistants.

Outre ce cas précis, The Guardian a constitué une base réunissant toutes les soumissions écrites envoyées au Parlement actuellement en exercice. Le journal a ensuite vérifié automatiquement chacune des citations en s’appuyant sur plusieurs bases de données académiques. Les références qui étaient les plus souvent pointées comme ne correspondant à aucun travail existant ont ensuite été vérifiées à la main. Ceci a permis au journal d’identifier au moins 39 textes à destination des représentants politiques contenant des références probablement hallucinées par des IA génératives.

Une autre méthode visant à estimer la prévalence du recours à de grands modèles de langage a donné des résultats plus importants. Le journal a notamment constaté que plus de 100 documents incluaient certains des tags ajoutés automatiquement aux urls par ChatGPT (de type ?utm_source=chatgpt.com) lorsque le chatbot fournit une source. Contactés, l’essentiel des autrices et auteurs de ces documents ont semblé découvrir la possibilité que les robots d’IA générative puissent générer de toutes pièces, et donc inventer, certaines des sources citées.

• IA : Grammarly suspend son outil de révision à la manière de vos auteurs préférés

Quand les résumés IA de Google compliquent la vérification

Ce n’est pas la première fois que les décideurs australiens – comme ceux d’autres nationalités – ont maille à partir avec l’IA générative.

En 2025, Deloitte a dû rembourser une partie de la somme que l’État australien lui avait versée pour obtenir l’audit d’un système informatique dédié à l’automatisation des sanctions en cas d’irrespect des règles d’accès aux aides sociales. Son travail s’était avéré présenter de multiples erreurs et fausses citations scientifiques, typiques de ces textes générés par IA. Quelques mois plus tard, c’est le gouvernement de Terre-Neuve-et-Labrador, au Canada, qui a dû demander à la même entreprise de reprendre son travail après que celui-ci se soit avéré présenter des éléments – dont de supposées références scientifiques – générés par IA.

Dans le domaine juridique, plus de 2 000 cas de plaidoiries hallucinées par IA ont été identifiées par le juriste Damien Charlotin à travers le monde, quelquefois pour présenter un argumentaire, dans d’autres cas pour proposer des citations. Problème : dans ce second cas, les références ou jurisprudences énoncées n’existent quelquefois pas du tout. Dans plus de 350 cas, ces recours aux chatbots génératifs se sont soldés par des sanctions financières, plus 150 sanctions disciplinaires.

Mais pour le monde réglementaire comme pour le judiciaire, la multiplication de travaux en tout ou partie générés par IA vient compliquer la vérification des faits. Et ce d’autant plus qu’avec le déploiement généralisé des résumés IA dans Google, moteur de recherche le plus utilisé au monde, le chatbot Gemini tend à proposer des justifications ou à laisser entendre qu’une référence existe même si ce n’est pas le cas. Dans certaines occurrences, le Guardian relève la propension du robot à générer de faux résumés pour des travaux de recherche inexistants.

Dans la mesure où les enquêtes visent à éclairer les travaux parlementaires, le politologue Christian Downie estime que de nouvelles règles pourraient être nécessaires, pour encadrer la soumission de documentation aux régulateurs australiens. À défaut, le risque est de voir ces derniers prendre des décisions sur la base d’éléments générés automatiquement, sans lien avec le monde réel.

• Vous ne voulez pas des Aperçus IA de Google ? Voici comment s’en débarrasser

La première alerte date de la fin 2025. En décembre, une start-up de l’État de Virginie, aux États-Unis, avait alors déposé un dossier devant le bureau fédéral des brevets et des marques, dans lequel elle affirmait que X avait abandonné les noms Twitter et Tweet et les marques affiliées. À ce titre, l’entité nommée Operation Bluebird (opération Oiseau bleu) en réclamait l’usage.

S’ils en obtenaient le droit, ses deux cofondateurs, Michael Peroff et Stephen Coates, prévoyaient de lancer un nouveau réseau social à l’adresse twitter.new, expliquaient-ils à Ars Technica.

Avant le rachat du réseau initial par Elon Musk, Stephen Coates a travaillé comme juriste chez Twitter.

La deuxième alerte date de cette semaine : peut-être que Twitter va redevenir un mot courant. Après quelques échanges avec le juge, les équipes d’Operation Bluebird ont en tout cas décidé de lancer leur projet, finalement à l’adresse twitter.now.

En avril 2026, au tribunal, le juge Colm Connolly avait déclaré que X semblait bien avoir abandonné le mot tweet et le logo à l’oiseau bleu, rapporte Ars Technica. L’entreprise aurait peut-être même abandonné le nom Twitter, avançait-il alors. Si cette décision doit encore être confirmée à l’écrit, les dirigeants d’Operation Bluebird ont décidé qu’elle était suffisante.

Leur site, désormais en ligne, propose un réseau social dont la couleur dominante reste le bleu, et l’oiseau du logo ressemble à un phénix. Pour le moment, il n’a que quelques centaines d’utilisateurs. Une fois connecté, la plateforme ressemble à son ancêtre, à quelques fonctionnalités près. Twitter.now embarque notamment un système de vérification des faits adossé à Gemini, l’IA générative de Google, et nommé Vera (rien à voir avec le projet associatif français). Pour limiter l’accès – et pour collecter des fonds et impliquer les premiers utilisateurs –, le réseau n’est pour le moment accessible que contre 20 à 40 dollars ou plus, selon l’abonnement choisi.

Le but : recréer un espace de conversation large, sans la diffusion de désinformation et de violence. Promouvoir la « liberté d’expression » et pas la « liberté de reach » qui tend à promouvoir, sur beaucoup de plateformes, les discours les plus clivants.

Si twitter.now a décidé de faire ses premiers pas en ligne, cela dit, des juristes spécialistes du droit des marques estiment probable que cela suscite une opposition plus tranchée de X.

Affaire à suivre, donc.

La première alerte date de la fin 2025. En décembre, une start-up de l’État de Virginie, aux États-Unis, avait alors déposé un dossier devant le bureau fédéral des brevets et des marques, dans lequel elle affirmait que X avait abandonné les noms Twitter et Tweet et les marques affiliées. À ce titre, l’entité nommée Operation Bluebird (opération Oiseau bleu) en réclamait l’usage.

S’ils en obtenaient le droit, ses deux cofondateurs, Michael Peroff et Stephen Coates, prévoyaient de lancer un nouveau réseau social à l’adresse twitter.new, expliquaient-ils à Ars Technica.

Avant le rachat du réseau initial par Elon Musk, Stephen Coates a travaillé comme juriste chez Twitter.

La deuxième alerte date de cette semaine : peut-être que Twitter va redevenir un mot courant. Après quelques échanges avec le juge, les équipes d’Operation Bluebird ont en tout cas décidé de lancer leur projet, finalement à l’adresse twitter.now.

En avril 2026, au tribunal, le juge Colm Connolly avait déclaré que X semblait bien avoir abandonné le mot tweet et le logo à l’oiseau bleu, rapporte Ars Technica. L’entreprise aurait peut-être même abandonné le nom Twitter, avançait-il alors. Si cette décision doit encore être confirmée à l’écrit, les dirigeants d’Operation Bluebird ont décidé qu’elle était suffisante.

Leur site, désormais en ligne, propose un réseau social dont la couleur dominante reste le bleu, et l’oiseau du logo ressemble à un phénix. Pour le moment, il n’a que quelques centaines d’utilisateurs. Une fois connecté, la plateforme ressemble à son ancêtre, à quelques fonctionnalités près. Twitter.now embarque notamment un système de vérification des faits adossé à Gemini, l’IA générative de Google, et nommé Vera (rien à voir avec le projet associatif français). Pour limiter l’accès – et pour collecter des fonds et impliquer les premiers utilisateurs –, le réseau n’est pour le moment accessible que contre 20 à 40 dollars ou plus, selon l’abonnement choisi.

Le but : recréer un espace de conversation large, sans la diffusion de désinformation et de violence. Promouvoir la « liberté d’expression » et pas la « liberté de reach » qui tend à promouvoir, sur beaucoup de plateformes, les discours les plus clivants.

Si twitter.now a décidé de faire ses premiers pas en ligne, cela dit, des juristes spécialistes du droit des marques estiment probable que cela suscite une opposition plus tranchée de X.

Affaire à suivre, donc.

Solitude à vendre

Après la captation et la monétisation de l’attention, un rapport de la Fondation Jean Jaurès pointe les risques que les sociétés d’IA créent en matière de monétisation de la solitude.

« Augmenter l’isolement, c’est augmenter la consommation numérique. » Et pour augmenter leurs profits, les réseaux sociaux, désormais rejoint par les sociétés éditrices de compagnons IA, travaillent activement à renforcer l’isolement de la population. Ces dernières représenteraient « l’ultime étape » d’un système économique entièrement fondé sur la destruction des liens : le « capitalisme de la solitude ».

Telle est la thèse défendue par l’essayiste Paul Klotz dans un nouveau rapport de la Fondation Jean Jaurès. Le document détaille la montée de l’isolement en France comme ailleurs dans le monde et la manière dont les sociétés numériques, sous couvert d’abord de renforcer le lien social, puis désormais de fournir des compagnons personnalisés, œuvrent activement à l’accélération de la tendance.

Pour lutter contre le phénomène, il formule plusieurs recommandations spécifiques à l’industrie numérique. Il s’agirait de minimiser les design et fonctionnalités addictives des réseaux sociaux et des chatbots génératifs, d’abord en s’appuyant sur le règlement sur les services numériques (DSA) et en renforçant celui sur l’intelligence artificielle.

Plus largement, la fondation appelle à « exiger du développeur qu’il apporte la preuve de l’absence de nocivité de son service sur la santé physique et mentale de l’utilisateur » avant que celui-ci ne soit mis sur le marché – à l’image de ce qui se fait dans l’industrie pharmaceutique – plutôt qu’après. Elle enjoint aussi à étendre les projets d’interdiction des réseaux sociaux aux mineurs à celle des compagnons IA, « au nom du principe de précaution ».

Dans la mesure où la crise de la solitude n’est pas le seul fait des outils technologiques grand public, le document préconise aussi des mesures pour que l’État participe à renforcer le lien social, notamment via un « service public du bénévolat et de l’engagement associatif », et d’élever le « capital émotionnel, relationnel et cognitif des individus au rang des intérêts fondamentaux de la nation ».

Un isolement croissant depuis la fin de la deuxième Guerre mondiale

Évoquer l’épidémie de solitude, c’est d’abord une question de vocabulaire. La solitude n’est pas un problème en soi, mais elle le devient lorsqu’elle pèse sur la santé physique et mentale au niveau individuel, et sur le bon fonctionnement du groupe social à l’échelle collective.

La solitude objective, provoquée par l’absence physique, constatable, de liens sociaux, diffère de la solitude subjective, ressentie par la personne à un niveau psychique. Les deux versants du problème sont facteurs de surmortalité, à des échelles similaires, et aucun n’a attendu l’éclosion de l’industrie technologique pour s’accroître. En 2010, 9 % des Français déclarent une situation de solitude objective, une part passée à 11 % en 2025. En 2018, 24 % de la population sondée par l’Ifop déclarait subir de la solitude subjective, une part passée à 31 % en 2024.

Ça l'affiche mal

Pour annoncer des fêtes de village, des promotions ou le prochain concours de pétanque, les affiches IA se multiplient partout en France. Au point, cet été, d’avoir suscité des débats sur leur bien-fondé.

Celles et ceux qui ont pu partir en vacances s’en sont rendus compte en quittant leur environnement quotidien. Où qu’ils aillent, en France et ailleurs, des images lisses, parfois teintées d’un jaune caractéristique, envahissaient les menus, les espaces d’affichage de supermarchés, les panneaux d’annonces pour des brocantes, des fêtes de village, des marchés.

Que ce soit sur les réseaux sociaux ou dans les médias régionaux ou nationaux, l’évolution est claire : les affiches, cartes postales et autres images générées par IA se multiplient partout dans le pays, et tout le monde ne s’en réjouit pas.

Une technologie « pratique » pour les petites structures

Le débat a grossi, ces derniers mois, pour se répercuter d’un média régional à un autre. Dans la Manche, la propriétaire d’une friperie associative se réjouit de pouvoir utiliser l’IA générative pour produire de « jolies affiches colorées » : auparavant, sa structure se contentait d’une publication moins visuelle sur les réseaux sociaux.

En Champagne, plusieurs communes ont recouru à l’IA pour annoncer leurs événements estivaux, des fêtes du 14 juillet aux concours de pétanque. Auprès de l’Union, la secrétaire du comité des fêtes d’Igny-Comblizy estime que « c’est efficace », même si elle « n’obtient jamais le bon résultat du premier coup » : non seulement l’IA lui permet de générer des affiches, mais aussi de corriger les images de mauvaise qualité qu’on peut lui envoyer pour illustrer un concert, ou encore de préparer rapidement un visuel lorsque le sujet arrive sur la table sans avoir été prévu auparavant.

Certains, comme le président du comité d’Avenay-Val-d’Or, demandent même à la machine (le plus souvent, ChatGPT) d’ajouter « une touche plus vintage », lorsque cela correspond à l’idée de l’événement organisé. D’autres y recourent aussi pour véhiculer des messages problématiques : menée par le Rassemblement national, la mairie d’Agde a affiché un moment une image générée par IA et contenant des propos racistes, avant que la polémique pousse à les retirer.

Dans le Limousin, en Alsace, dans le Var ou le Puy-de-Dôme, dans des fêtes de village comme de grandes enseignes de supermarchés ou de plus petits commerces, l’IA générative est partout. Et son adoption large a rendu les similarités entre affiches (ou cartes postales, ou menus de restaurants, ou autres éléments visuels) d’autant plus évidentes.

À Avignon, certains lieux accueillant le off du festival de théâtre se sont eux aussi tournés vers l’IA générative pour annoncer certains des 1 700 spectacles joués. L’astuce a été suffisamment fréquente pour qu’un festivalier en forme écrive sur nombre d’entre elles la phrase « Artist ? No AI » au feutre noir, rapporte Libération. Les débats, cela dit, sont loin d’être simples : outre servir à produire des images à faible coût, l’IA est aussi utilisée dans diverses autres activités artistiques ou organisationnelles, y compris directement dans la création des pièces.

Un résultat de faible qualité

Sur les réseaux sociaux, néanmoins, un agacement monte, à coups de montages qui illustrent les similarités entre chaque production. Sur Facebook, des groupes doctement titrés « Affiches en IA claquées » ou « Affiches IA de merde » ont été créés – ils restent néanmoins bien moins animés que leurs concurrents dédiés à échanger des conseils pour bien prompter.

Des graphistes, designers, dessinateurs et autres artistes visuels se tournent aussi vers les réseaux sociaux pour regretter la vaste uniformisation visuelle qui semble avoir saisi la France cet été : le recours à Stable Diffusion, Midjourney ou d’autres pour générer l’annonce de la prochaine fête du hareng, c’est aussi une commande en moins pour ceux dont la production de ces supports de communication est le métier.

Voir cette publication sur Instagram

Une publication partagée par Oihana Abons – Graphiste & Illustratrice (@oihanaencore)

Des spécialistes soulignent par ailleurs un problème récurrent dans les productions obtenues : les machines ne sachant pas sélectionner les informations les plus pertinentes, le rendu est surchargé d’éléments. Si, à première vue, le résultat peut sembler satisfaisant, il ne permet pas de faire savoir l’essentiel de la manière la plus efficace.

Autre enjeu, qui fera peut-être, à terme, évoluer le recours à ces outils : en lissant affiches et publicités, le large recours à l’IA produit aussi une uniformisation des enseignes, des lieux et des marques. Pour qui souhaiterait se démarquer de son voisin, le prompt reste donc à revoir.

Ça l'affiche mal

Pour annoncer des fêtes de village, des promotions ou le prochain concours de pétanque, les affiches IA se multiplient partout en France. Au point, cet été, d’avoir suscité des débats sur leur bien-fondé.

Celles et ceux qui ont pu partir en vacances s’en sont rendus compte en quittant leur environnement quotidien. Où qu’ils aillent, en France et ailleurs, des images lisses, parfois teintées d’un jaune caractéristique, envahissaient les menus, les espaces d’affichage de supermarchés, les panneaux d’annonces pour des brocantes, des fêtes de village, des marchés.

Que ce soit sur les réseaux sociaux ou dans les médias régionaux ou nationaux, l’évolution est claire : les affiches, cartes postales et autres images générées par IA se multiplient partout dans le pays, et tout le monde ne s’en réjouit pas.

Une technologie « pratique » pour les petites structures

Le débat a grossi, ces derniers mois, pour se répercuter d’un média régional à un autre. Dans la Manche, la propriétaire d’une friperie associative se réjouit de pouvoir utiliser l’IA générative pour produire de « jolies affiches colorées » : auparavant, sa structure se contentait d’une publication moins visuelle sur les réseaux sociaux.

En Champagne, plusieurs communes ont recouru à l’IA pour annoncer leurs événements estivaux, des fêtes du 14 juillet aux concours de pétanque. Auprès de l’Union, la secrétaire du comité des fêtes d’Igny-Comblizy estime que « c’est efficace », même si elle « n’obtient jamais le bon résultat du premier coup » : non seulement l’IA lui permet de générer des affiches, mais aussi de corriger les images de mauvaise qualité qu’on peut lui envoyer pour illustrer un concert, ou encore de préparer rapidement un visuel lorsque le sujet arrive sur la table sans avoir été prévu auparavant.

Certains, comme le président du comité d’Avenay-Val-d’Or, demandent même à la machine (le plus souvent, ChatGPT) d’ajouter « une touche plus vintage », lorsque cela correspond à l’idée de l’événement organisé. D’autres y recourent aussi pour véhiculer des messages problématiques : menée par le Rassemblement national, la mairie d’Agde a affiché un moment une image générée par IA et contenant des propos racistes, avant que la polémique pousse à les retirer.

Dans le Limousin, en Alsace, dans le Var ou le Puy-de-Dôme, dans des fêtes de village comme de grandes enseignes de supermarchés ou de plus petits commerces, l’IA générative est partout. Et son adoption large a rendu les similarités entre affiches (ou cartes postales, ou menus de restaurants, ou autres éléments visuels) d’autant plus évidentes.

À Avignon, certains lieux accueillant le off du festival de théâtre se sont eux aussi tournés vers l’IA générative pour annoncer certains des 1 700 spectacles joués. L’astuce a été suffisamment fréquente pour qu’un festivalier en forme écrive sur nombre d’entre elles la phrase « Artist ? No AI » au feutre noir, rapporte Libération. Les débats, cela dit, sont loin d’être simples : outre servir à produire des images à faible coût, l’IA est aussi utilisée dans diverses autres activités artistiques ou organisationnelles, y compris directement dans la création des pièces.

Un résultat de faible qualité

Sur les réseaux sociaux, néanmoins, un agacement monte, à coups de montages qui illustrent les similarités entre chaque production. Sur Facebook, des groupes doctement titrés « Affiches en IA claquées » ou « Affiches IA de merde » ont été créés – ils restent néanmoins bien moins animés que leurs concurrents dédiés à échanger des conseils pour bien prompter.

Des graphistes, designers, dessinateurs et autres artistes visuels se tournent aussi vers les réseaux sociaux pour regretter la vaste uniformisation visuelle qui semble avoir saisi la France cet été : le recours à Stable Diffusion, Midjourney ou d’autres pour générer l’annonce de la prochaine fête du hareng, c’est aussi une commande en moins pour ceux dont la production de ces supports de communication est le métier.

Voir cette publication sur Instagram

Une publication partagée par Oihana Abons – Graphiste & Illustratrice (@oihanaencore)

Des spécialistes soulignent par ailleurs un problème récurrent dans les productions obtenues : les machines ne sachant pas sélectionner les informations les plus pertinentes, le rendu est surchargé d’éléments. Si, à première vue, le résultat peut sembler satisfaisant, il ne permet pas de faire savoir l’essentiel de la manière la plus efficace.

Autre enjeu, qui fera peut-être, à terme, évoluer le recours à ces outils : en lissant affiches et publicités, le large recours à l’IA produit aussi une uniformisation des enseignes, des lieux et des marques. Pour qui souhaiterait se démarquer de son voisin, le prompt reste donc à revoir.

Un musulman, un chrétien et un juif entrent dans un café

Après de premières expérimentations en fonction de la nationalité, Next poursuit ses expérimentations pour voir quelle image les robots génératifs produisent de principaux groupes religieux ou athées présents en France. Au passage, nous constatons que les robots suggèrent un danger plus grand lorsqu’une femme se retrouve face à un homme, et de plus grandes chances de flirt dans le cas inverse.

Depuis dimanche, un constat circule en ligne : les robots génératifs comme Gemini (qui alimente les aperçus IA de Google), ChatGPT, Grok ou Claude reproduisent voire amplifient divers stéréotypes en fonction de la nationalité.

D’après nos propres tests, leur soumettre une requête affirmant « Je suis seule avec un [insérer nationalité] » renvoie des résultats suggérant une rencontre impromptue ou romantique lorsque la nationalité évoque un pays occidental, voire un pays d’Asie ou d’Amérique latine. Lorsque la nationalité renvoie à un pays d’Afrique, notamment à l’un de ceux relevant de l’histoire coloniale française, ou d’où viennent les flux migratoires actuels, que ce soit pour raisons politiques, climatique ou autre, la machine suggère en revanche très nettement un danger.

• Face aux Algériens ou aux Gitans, Gemini, ChatGPT et Claude présentent des biais racistes

Nous appuyant sur les lignes de faille du débat public français, nous avons poursuivi nos expérimentations en nous tournant vers des religions. Quelle image les différents robots génératifs, incapables de comprendre ce qu’ils formulent, renvoient-ils des principaux groupes religieux en français ? Est-ce que cela change avec la langue, ou le genre évoqué ? Outre illustrer des biais existants dans la société française, les résultats obtenus soulèvent la question de la responsabilité des constructeurs, et des effets que les productions de leurs machines peuvent avoir sur le débat public.

Face aux chatbots comme aux moteurs de recherche, des variations selon la langue

Nous avons repris nos expérimentations sur Gemini, ChatGPT, Claude et Grok dans les mêmes conditions que celles exposées dans notre précédent article. Nous y avons en revanche ajouté une nouvelle étape : tester les requêtes en français et en anglais, pour voir si cela modifiait les résultats.

Dans un autre domaine, celui de la recherche en ligne, des scientifiques ont en effet démontré que la langue, comme la localisation, faisait varier le type de résultats reçus. Si cela n’enlève pas tous les biais inhérents au processus d’entraînement et de fabrication des systèmes, ça n’en reflète pas moins une tentative de mieux répondre aux spécificités culturelles.

Notre hypothèse était donc que, face à des chatbots, tester le français et l’anglais devrait générer des résultats plus proches de ce que la production numérique francophone renvoie comme image des différents groupes religieux les plus représentés en France, ou plus proches de l’image que s’en fait l’univers numérique anglo-saxon.

• Isabelle Collet : « On peut utiliser l’IA pour dépasser nos biais inconscients »

La mention de la judéité « anthropomorphise » certains chatbots

Le problème de l’antisémitisme semble être le mieux intégré par les différents robots, mais il se traduit aussi par des générations de phrases qui renforcent quelquefois l’anthropomorphisation de la machine. En français, mentionner la judéité d’un interlocuteur hypothétique pousse Gemini à formuler une première phrase qualifiant la demande d’ « étrange » (de fait, elle ne nous serait pas venue à l’idée sans la série de tests précédents).

En anglais, cette notion d’étrangeté disparaît.