Les GAFAM et les agents d'abord

Un mois après avoir demandé à effectuer une « pause » au vu des risques que poseraient les IA les plus avancées, Anthropic a rédigé un projet de loi de régulation. Il prévoit de permettre aux États-Unis de bloquer celles qui pourraient tuer ou blesser gravement « plus de 50 personnes », ou causer « plus d’un milliard de dollars de dommages », mais limite le montant des amendes à 0,2 % de leurs revenus.

POLITICO s’est procuré le projet confidentiel de régulation de la sécurité et de la sûreté des IA (« AI safety » en VO) de pointe qu’Anthropic a discrètement présenté à des représentants du Congrès états-unien. Une initiative qui intervient un peu plus d’un mois après que Dario Amodei a appelé à faire une « pause » dans le développement des IA (quand bien même leurs dépenses montrent l’inverse), puis que les patrons de l’IA ont réclamé une régulation mondiale à l’ONU.

• Anthropic, OpenAI et Elon Musk veulent ralentir sur l’IA, la Maison-Blanche dit non
• À l’ONU, les patrons de l’IA réclament une régulation mondiale

L’objectif serait de permettre au gouvernement d’émettre un « ordre de blocage » de mise sur le marché ou d’utilisation d’un modèle « uniquement si celui-ci présente un risque prévisible et imminent de causer plus d’un milliard de dollars de dommages, ou de tuer ou de blesser gravement plus de 50 personnes », souligne POLITICO.

Ce type de « risque catastrophique » est cela dit cantonné à trois possibilités limitatives : « fournir une assistance de niveau expert dans la création ou la libération d’un produit chimique, arme biologique, radiologique, cybernétique ou nucléaire » (NRBC), « s’engager, sans surveillance, intervention ou supervision humaine significative, dans une cyberattaque », ou bien « échapper au contrôle de son développeur ou utilisateur ». La proposition exclut en outre toute « activité légale du gouvernement fédéral ».

« En d’autres termes, si un modèle semblait susceptible de tuer ou de blesser gravement seulement quelques personnes, ou de causer des dégâts matériels d’une valeur inférieure à un milliard de dollars, le gouvernement ne serait pas en mesure de le réglementer », ironise de son côté Mother Jones.

Pour rappel, le PDG d’Anthropic, Dario Amodei, qui n’avait « jamais soulevé d’objections à l’égard d’opérations militaires », avait déjà refusé, en février dernier, que ses IA puissent être utilisées pour de la surveillance de masse à l’intérieur du pays, ainsi que par des armes totalement autonomes.

Donald Trump avait alors publiquement ordonné à toutes les agences des États-Unis de cesser d’utiliser Claude et les produits d’intelligence artificielle d’Anthropic en février dernier, le qualifiant de « fournisseur à risque pour la sécurité nationale ».

• Donald Trump ordonne à toutes les administrations US de rompre avec Anthropic
• Derrière la polémique entre Trump et Anthropic, les enjeux de l’usage militaire de l’IA

Des amendes plafonnées à 0,2 % du revenu annuel, et conditionnées

POLITICO relève par ailleurs qu’Anthropic propose aussi que des évaluateurs indépendants, enregistrés auprès du ministère du Commerce, soient par ailleurs chargés d’évaluer périodiquement le laboratoire et ses modèles de pointe. Le document précise que ces évaluateurs pourraient être rémunérés par le laboratoire lui-même, à condition que cette rémunération ne dépende pas des résultats des évaluations.

En cas de « risque imminent et précis », ces évaluateurs devraient le signaler dans les 72 heures suivant la fin de leur évaluation au ministère du Commerce. Ce dernier pourrait de son côté demander au juge de suspendre la mise sur le marché d’un modèle présentant un risque. Le texte interdit par contre explicitement à tout autre ministère, agence ou fonctionnaire de suspendre le développement, le déploiement ou l’utilisation interne d’un modèle.

Éditeur de désinfo

Le mode IA de Google a indiqué à certains internautes qu’un médecin d’Aix-la-Chapelle avait été condamné pour agression sexuelle, des faits qui concernaient un autre homme. La Justice estime Google responsable du contenu produit.

Un médecin d’Aix-la-Chapelle a découvert que les résumés IA de Google lui inventaient toute une biographie. Mais pas n’importe laquelle : selon les textes générés par la fonctionnalité de résumé de recherche, l’homme aurait été condamné pour agression sexuelle et suspendu de ses fonctions de direction de clinique.

Ce 24 septembre, la cour régionale d’Aix-la-Chapelle a déclaré Google responsable de ces erreurs et lui a interdit de reproduire cet élément de désinformation. C’est la deuxième condamnation de ce type en Allemagne, étoffant un raisonnement juridique selon lequel Google est éditeur, et donc responsable, des informations générées par ses outils d’IA.

• Vous ne voulez pas des Aperçus IA de Google ? Voici comment s’en débarrasser

Sollicité, Google refuse de réagir

Dans le cas présent, un professeur de médecine et ancien dirigeant d’une clinique de neuroradiologie s’est vu affublé par Google d’une fausse biographie. Dans les résumés de recherche, le système d’IA de l’entreprise californienne indiquait en effet que l’homme avait été suspendu en février 2024 après avoir été poursuivi en justice par sa secrétaire, et qu’il aurait été condamné pour agression sexuelle en mars 2026.

Aucun de ces éléments ne correspond à l’homme explicitement nommé par la machine. D’après sa plainte, ils correspondent aux faits commis et vécus par un autre professeur d’université. Ces éléments ont pu être confirmés par la cour d’Aix, puisque l’affaire réelle a été jugée devant un tribunal pénal.

Les cas d’erreurs et de mélanges d’informations par les moteurs d’IA, souvent qualifiés d’hallucinations, sont documentés depuis longtemps. Certains ont même été produits par des systèmes d’IA dédiés à manipuler des textes juridiques. Dans le cas présent, en revanche, ces erreurs sont liées au nom d’une personne réelle, et accessibles sans préconisation particulière sur le moteur de recherche le plus utilisé au monde.

• L’hallucination d’une IA a failli provoquer un affrontement entre les États-Unis et la Chine

Alerté par un collègue, le médecin a envoyé le 28 août un mail à l’adresse « removals@google.com », demandant aux équipes de modération de l’entreprise de supprimer ce récit trompeur. Le 15 septembre, l’entreprise lui a répondu qu’elle avait décidé de ne rien faire. Après une mise en demeure, l’entreprise n’a pas plus réagi, rapporte le Frankfurter Allgemeine Zeitung. L’homme s’est donc tourné vers la justice, qui a enjoint Google à corriger les éléments produits par ses machines, au motif qu’ils violaient les droits individuels du médecin décrit à tort comme condamné.

Déjà déclarée responsable en Bavière, l’entreprise a renoncé à faire appel

En juin, en Bavière, le tribunal régional de Munich interdisait à l’entreprise de continuer de diffuser des éléments faux générés dans les réponses du résumé IA (AI Overview) et associant des sociétés légitimes à des escroqueries qu’elles n’avaient pas commises.

• Un tribunal allemand déclare Google responsable des réponses fausses de son AI Overview

À l’époque, Google avait annoncé son intention de faire appel, précisément pour éviter que l’affaire ne fasse jurisprudence. D’après The Decoder, l’entreprise a finalement renoncé et conclu un accord avec les plaignants, dont les détails ne sont pas connus.

Dans le cas présent, le tribunal d’Aix fait directement référence à la décision prise avant l’été à Munich. Il cite notamment la décision prise, qui estimait que les outils d’IA de Google produisent « des affirmations indépendantes, neuves et substantielles appuyées sur l’évaluation et la combinaison de plusieurs sites web tiers ».

Google pourrait, de nouveau, tenter de trouver un accord avec le plaignant pour éviter qu’une décision contraignante ne soit prise à son encontre. Le problème est que ce procédé pourrait finir par faire naître une incitation problématique.

Si des cours de justice continuent de qualifier Google de responsable des contenus générés par ses machines, et que l’entreprise règle le problème à coups d’accords impliquant probablement des compensations financières, estime The Decoder, alors des individus ou des cabinets spécialisés pourraient juger utile de pousser des modèles d’IA jusqu’à ce qu’ils génèrent des textes faux ou potentiellement dommageables à la réputation. Il deviendrait ensuite possible, en tout cas en Allemagne, de poursuivre l’éditeur en justice s’il ne corrige pas le problème, puis de négocier un accord.

• L’IA générative empêche d’admettre que nous ne savons pas

Éditeur de désinfo

Le mode IA de Google a indiqué à certains internautes qu’un médecin d’Aix-la-Chapelle avait été condamné pour agression sexuelle, des faits qui concernaient un autre homme. La Justice estime Google responsable du contenu produit.

Un médecin d’Aix-la-Chapelle a découvert que les résumés IA de Google lui inventaient toute une biographie. Mais pas n’importe laquelle : selon les textes générés par la fonctionnalité de résumé de recherche, l’homme aurait été condamné pour agression sexuelle et suspendu de ses fonctions de direction de clinique.

Ce 24 septembre, la cour régionale d’Aix-la-Chapelle a déclaré Google responsable de ces erreurs et lui a interdit de reproduire cet élément de désinformation. C’est la deuxième condamnation de ce type en Allemagne, étoffant un raisonnement juridique selon lequel Google est éditeur, et donc responsable, des informations générées par ses outils d’IA.

• Vous ne voulez pas des Aperçus IA de Google ? Voici comment s’en débarrasser

Sollicité, Google refuse de réagir

Dans le cas présent, un professeur de médecine et ancien dirigeant d’une clinique de neuroradiologie s’est vu affublé par Google d’une fausse biographie. Dans les résumés de recherche, le système d’IA de l’entreprise californienne indiquait en effet que l’homme avait été suspendu en février 2024 après avoir été poursuivi en justice par sa secrétaire, et qu’il aurait été condamné pour agression sexuelle en mars 2026.

Aucun de ces éléments ne correspond à l’homme explicitement nommé par la machine. D’après sa plainte, ils correspondent aux faits commis et vécus par un autre professeur d’université. Ces éléments ont pu être confirmés par la cour d’Aix, puisque l’affaire réelle a été jugée devant un tribunal pénal.

Les cas d’erreurs et de mélanges d’informations par les moteurs d’IA, souvent qualifiés d’hallucinations, sont documentés depuis longtemps. Certains ont même été produits par des systèmes d’IA dédiés à manipuler des textes juridiques. Dans le cas présent, en revanche, ces erreurs sont liées au nom d’une personne réelle, et accessibles sans préconisation particulière sur le moteur de recherche le plus utilisé au monde.

• L’hallucination d’une IA a failli provoquer un affrontement entre les États-Unis et la Chine

Alerté par un collègue, le médecin a envoyé le 28 août un mail à l’adresse « removals@google.com », demandant aux équipes de modération de l’entreprise de supprimer ce récit trompeur. Le 15 septembre, l’entreprise lui a répondu qu’elle avait décidé de ne rien faire. Après une mise en demeure, l’entreprise n’a pas plus réagi, rapporte le Frankfurter Allgemeine Zeitung. L’homme s’est donc tourné vers la justice, qui a enjoint Google à corriger les éléments produits par ses machines, au motif qu’ils violaient les droits individuels du médecin décrit à tort comme condamné.

Déjà déclarée responsable en Bavière, l’entreprise a renoncé à faire appel

En juin, en Bavière, le tribunal régional de Munich interdisait à l’entreprise de continuer de diffuser des éléments faux générés dans les réponses du résumé IA (AI Overview) et associant des sociétés légitimes à des escroqueries qu’elles n’avaient pas commises.

• Un tribunal allemand déclare Google responsable des réponses fausses de son AI Overview

À l’époque, Google avait annoncé son intention de faire appel, précisément pour éviter que l’affaire ne fasse jurisprudence. D’après The Decoder, l’entreprise a finalement renoncé et conclu un accord avec les plaignants, dont les détails ne sont pas connus.

Dans le cas présent, le tribunal d’Aix fait directement référence à la décision prise avant l’été à Munich. Il cite notamment la décision prise, qui estimait que les outils d’IA de Google produisent « des affirmations indépendantes, neuves et substantielles appuyées sur l’évaluation et la combinaison de plusieurs sites web tiers ».

Google pourrait, de nouveau, tenter de trouver un accord avec le plaignant pour éviter qu’une décision contraignante ne soit prise à son encontre. Le problème est que ce procédé pourrait finir par faire naître une incitation problématique.

Si des cours de justice continuent de qualifier Google de responsable des contenus générés par ses machines, et que l’entreprise règle le problème à coups d’accords impliquant probablement des compensations financières, estime The Decoder, alors des individus ou des cabinets spécialisés pourraient juger utile de pousser des modèles d’IA jusqu’à ce qu’ils génèrent des textes faux ou potentiellement dommageables à la réputation. Il deviendrait ensuite possible, en tout cas en Allemagne, de poursuivre l’éditeur en justice s’il ne corrige pas le problème, puis de négocier un accord.

• L’IA générative empêche d’admettre que nous ne savons pas

« Il faut être impitoyable envers les casseurs parce qu’ils trahissent la France », a déclaré Gérald Darmanin au JT de 20H de TF1 ce lundi 19 octobre, en réponse aux pillages effectués en marge des manifestations du samedi 17 octobre.

« Il y a eu 2.513 gardes à vue au moment où je parle », a précisé le ministre de la Justice, soulignant que l’immense majorité des personnes concernées étaient encore en garde à vue devant les services de police et que « la réponse pénale, on la saura définitive en fin de semaine » :

« Déjà plus d’un demi-millier de ces personnes, plus de 500 personnes, sous escorte policière, ont été déférées au tribunal pour être présentées aujourd’hui, demain et après-demain en comparution immédiate. »

Le garde des Sceaux a également envoyé lundi matin une instruction à tous les parquets de France « pour leur demander de passer en qualification de criminalité organisée ce qui s’est passé », afin de leur permettre de recourir à des techniques dites « techniques spéciales d’enquête » qualifiées par Valéry Muller, vice-président chargé de l’instruction au tribunal judiciaire de Paris,, de « particulièrement offensives ».

« Ça veut dire d’abord qu’on pourra passer les gardes à vue de 48 à 72 heures pour que les services de police puissent faire leur travail vu l’afflux de gardes à vue », a précisé Gérald Darmanin :

« Ça veut dire aussi qu’on va pouvoir faire des géolocalisations, des écoutes téléphoniques, qui vont nous permettre de savoir, en regardant les téléphones des personnes qui sont en garde à vue, s’ils ont participé et comment ils ont participé, où ils étaient au moment où on a pillé des magasins, attaqué des mairies. Et puis surtout, on va utiliser le moyen de la reconnaissance faciale sur le TAJ (Traitement des antécédents judiciaires), c’est-à-dire le fichier des policiers, il y a des millions de personnes qui sont dans ce fichier, pour regarder si sur les réseaux sociaux, on n’a pas les mêmes images. »

• 24 millions et moi, et moi… : l’équivalent du tiers de la population est « défavorablement connue » de la police
• 12 ans que la CNIL dénonce le fichier TAJ des personnes « défavorablement connues »… en vain

Interrogé ce mardi matin sur CNEWS (X.com / Facebook), Gérald Darmanin précise qu’ « aujourd’hui, 123 personnes sont incarcérées, soit en détention provisoire soit en mandat de dépôt », et que « plus de 700 personnes sont déférées dans les dépôts, c’est-à-dire les endroits où l’on attend d’être condamné ».

« Il faut être impitoyable envers les casseurs parce qu’ils trahissent la France », a déclaré Gérald Darmanin au JT de 20H de TF1 ce lundi 19 octobre, en réponse aux pillages effectués en marge des manifestations du samedi 17 octobre.

« Il y a eu 2.513 gardes à vue au moment où je parle », a précisé le ministre de la Justice, soulignant que l’immense majorité des personnes concernées étaient encore en garde à vue devant les services de police et que « la réponse pénale, on la saura définitive en fin de semaine » :

« Déjà plus d’un demi-millier de ces personnes, plus de 500 personnes, sous escorte policière, ont été déférées au tribunal pour être présentées aujourd’hui, demain et après-demain en comparution immédiate. »

Le garde des Sceaux a également envoyé lundi matin une instruction à tous les parquets de France « pour leur demander de passer en qualification de criminalité organisée ce qui s’est passé », afin de leur permettre de recourir à des techniques dites « techniques spéciales d’enquête » qualifiées par Valéry Muller, vice-président chargé de l’instruction au tribunal judiciaire de Paris,, de « particulièrement offensives ».

« Ça veut dire d’abord qu’on pourra passer les gardes à vue de 48 à 72 heures pour que les services de police puissent faire leur travail vu l’afflux de gardes à vue », a précisé Gérald Darmanin :

« Ça veut dire aussi qu’on va pouvoir faire des géolocalisations, des écoutes téléphoniques, qui vont nous permettre de savoir, en regardant les téléphones des personnes qui sont en garde à vue, s’ils ont participé et comment ils ont participé, où ils étaient au moment où on a pillé des magasins, attaqué des mairies. Et puis surtout, on va utiliser le moyen de la reconnaissance faciale sur le TAJ (Traitement des antécédents judiciaires), c’est-à-dire le fichier des policiers, il y a des millions de personnes qui sont dans ce fichier, pour regarder si sur les réseaux sociaux, on n’a pas les mêmes images. »

• 24 millions et moi, et moi… : l’équivalent du tiers de la population est « défavorablement connue » de la police
• 12 ans que la CNIL dénonce le fichier TAJ des personnes « défavorablement connues »… en vain

Interrogé ce mardi matin sur CNEWS (X.com / Facebook), Gérald Darmanin précise qu’ « aujourd’hui, 123 personnes sont incarcérées, soit en détention provisoire soit en mandat de dépôt », et que « plus de 700 personnes sont déférées dans les dépôts, c’est-à-dire les endroits où l’on attend d’être condamné ».