« Boucle infernale »

« Le plus grand vol de travail de l’histoire de l’humanité » : cette déclaration reprise par le New York Times dans sa procédure en justice contre OpenAI résonne particulièrement fort puisqu’elle émane de Brent Hecht, directeur scientifique de Microsoft. Dans un mémoire de synthèse remis à la justice, l’éditeur du célèbre quotidien aligne les éléments à charge contre le créateur de ChatGPT.

Le New York Times est parti en guerre contre OpenAI. En décembre 2023, l’éditeur portait plainte contre l’entreprise IA, l’accusant d’avoir utilisé des millions d’articles sans autorisation pour entraîner ses modèles GPT. L’administration Trump a récemment volé au secours d’OpenAI, en affirmant que l’entraînement de l’IA sur des contenus protégés par droit d’auteur relevait du « fair use » (usage équitable), un argument seriné en boucle par les entreprises IA pour se défausser de leur responsabilité.

• Le gouvernement américain vole au secours d’OpenAI dans son litige avec le New York Times

Des documents internes difficiles à balayer

Le mémoire de synthèse, déposé devant le tribunal fédéral de New York (PDF) par le NYT et d’autres éditeurs de presse (Chicago Tribune, Ziff Davis, Mother Jones…), détaille les éléments recueillis pendant la phase de collecte des preuves : témoignages sous serment, messages et autres documents produits par OpenAI et Microsoft. Ils sont évidemment à charge, mais ils s’appuient sur des pièces et des témoignages qui donnent un aperçu assez cru de la manière dont OpenAI et Microsoft considéraient en interne l’exploitation des contenus de presse.

Le témoignage de Brent Hecht est particulièrement embarrassant. Selon lui, « des millions de personnes dans le monde considéreront bientôt que les grands modèles qui « aspirent » tout leur travail constituent un vol d’une ampleur sans précédent ». Il admet que « presque personne n’avait prévu que les contenus créés seraient utilisés de cette manière, sans que leurs auteurs soient rémunérés ».

Le directeur scientifique de Microsoft estime aussi qu’accepter l’argument d’OpenAI selon lequel le moissonnage de contenus n’est que du « fair use » revient à complètement vider la notion de son sens. « Ces propos reflètent le point de vue personnel d’un employé et ne constituent pas une analyse juridique », a déclaré Microsoft auprès d’Ars Technica.

Le mémoire cite un autre échange dans lequel Nick Ryder, responsable de recherche chez OpenAI, annonce à Greg Brockman l’existence d’un « moyen pour contourner le paywall du New York Times » afin de collecter les articles. Le cofondateur et président de l’entreprise a simplement répondu : « ah, très bien » (« ah nice »).

Des aveux qui tombent mal

Les éditeurs de presse font tout simplement face à une « menace existentielle », reconnait Nick Turley, responsable de ChatGPT chez OpenAI, dans un message interne remontant à juin 2023. Une fois que ChatGPT fournit une réponse, il n’y a « aucune bonne raison de cliquer » sur le lien vers la source d’origine, ajoute-t-il. Un document chez Microsoft parle de « boucle infernale » : en détournant une partie du trafic des sites d’actualité, les assistants IA fragilisent les éditeurs qui produisent précisément les contenus dont leurs modèles ont besoin pour rester performants.

Selon les propres données de Microsoft, le taux de clic depuis Bing Chat ou Copilot vers les sites des éditeurs est très inférieur à celui observé depuis la recherche Bing classique : baisse de 87 à 93 % pour les sites du New York Times, de 83 à 91 % pour les autres plaignants. C’est d’autant moins de revenus pour les sites de presse qui se retrouvent en concurrence avec leurs propres contenus recrachés par les bots. Un ingénieur logiciel d’OpenAI reconnaissait dans un message interne que, « peu importe la visibilité donnée aux liens, les utilisateurs ne cliqueront pas dessus ».

Satya Nadella face à la question des paywalls

Dans son témoignage sous serment, Satya Nadella, le directeur général de Microsoft, admet que « tout contenu placé derrière un paywall devrait faire l’objet d’une licence de la part de quiconque souhaite l’utiliser, que ce soit pour alimenter les réponses d’un modèle ou pour son entraînement ».

S’il avait su qu’OpenAI – dont Microsoft est un des principaux partenaires – avait moissonné des contenus placés derrière un paywall pour entraîner ses modèles IA, Nadella aurait invoqué le droit de Microsoft d’exiger le réentraînement des modèles sans ces données protégées. Pour le dirigeant, les entreprises IA ne devraient pas accéder à des contenus enfreignant les conditions d’utilisation.

Satya Nadella reconnait également que les chatbots comme Copilot peuvent se substituer aux sites d’actualité : ils donnent en effet l’information « directement sur la plateforme d’IA, plutôt que d’obliger l’utilisateur à se rendre à la source d’origine ». Pour le porte-parole de Microsoft, ce témoignage porte sur des « principes généraux », il ne s’agit que « d’observations qui ne doivent pas être confondues avec des conclusions sur les questions de droit d’auteur soumises au tribunal ».

Si ce mémoire de synthèse est certes accablant, il ne constitue pas pour autant une décision de justice ni une conclusion du tribunal sur le fond de l’affaire. Néanmoins, les pièces de première main qu’il expose éclairent l’état d’esprit d’OpenAI et de Microsoft quant à la portée réelle de leur utilisation du « fair use ».

« Boucle infernale »

« Le plus grand vol de travail de l’histoire de l’humanité » : cette déclaration reprise par le New York Times dans sa procédure en justice contre OpenAI résonne particulièrement fort puisqu’elle émane de Brent Hecht, directeur scientifique de Microsoft. Dans un mémoire de synthèse remis à la justice, l’éditeur du célèbre quotidien aligne les éléments à charge contre le créateur de ChatGPT.

Le New York Times est parti en guerre contre OpenAI. En décembre 2023, l’éditeur portait plainte contre l’entreprise IA, l’accusant d’avoir utilisé des millions d’articles sans autorisation pour entraîner ses modèles GPT. L’administration Trump a récemment volé au secours d’OpenAI, en affirmant que l’entraînement de l’IA sur des contenus protégés par droit d’auteur relevait du « fair use » (usage équitable), un argument seriné en boucle par les entreprises IA pour se défausser de leur responsabilité.

• Le gouvernement américain vole au secours d’OpenAI dans son litige avec le New York Times

Des documents internes difficiles à balayer

Le mémoire de synthèse, déposé devant le tribunal fédéral de New York (PDF) par le NYT et d’autres éditeurs de presse (Chicago Tribune, Ziff Davis, Mother Jones…), détaille les éléments recueillis pendant la phase de collecte des preuves : témoignages sous serment, messages et autres documents produits par OpenAI et Microsoft. Ils sont évidemment à charge, mais ils s’appuient sur des pièces et des témoignages qui donnent un aperçu assez cru de la manière dont OpenAI et Microsoft considéraient en interne l’exploitation des contenus de presse.

Le témoignage de Brent Hecht est particulièrement embarrassant. Selon lui, « des millions de personnes dans le monde considéreront bientôt que les grands modèles qui « aspirent » tout leur travail constituent un vol d’une ampleur sans précédent ». Il admet que « presque personne n’avait prévu que les contenus créés seraient utilisés de cette manière, sans que leurs auteurs soient rémunérés ».

Le directeur scientifique de Microsoft estime aussi qu’accepter l’argument d’OpenAI selon lequel le moissonnage de contenus n’est que du « fair use » revient à complètement vider la notion de son sens. « Ces propos reflètent le point de vue personnel d’un employé et ne constituent pas une analyse juridique », a déclaré Microsoft auprès d’Ars Technica.

Le mémoire cite un autre échange dans lequel Nick Ryder, responsable de recherche chez OpenAI, annonce à Greg Brockman l’existence d’un « moyen pour contourner le paywall du New York Times » afin de collecter les articles. Le cofondateur et président de l’entreprise a simplement répondu : « ah, très bien » (« ah nice »).

Des aveux qui tombent mal

Les éditeurs de presse font tout simplement face à une « menace existentielle », reconnait Nick Turley, responsable de ChatGPT chez OpenAI, dans un message interne remontant à juin 2023. Une fois que ChatGPT fournit une réponse, il n’y a « aucune bonne raison de cliquer » sur le lien vers la source d’origine, ajoute-t-il. Un document chez Microsoft parle de « boucle infernale » : en détournant une partie du trafic des sites d’actualité, les assistants IA fragilisent les éditeurs qui produisent précisément les contenus dont leurs modèles ont besoin pour rester performants.

Selon les propres données de Microsoft, le taux de clic depuis Bing Chat ou Copilot vers les sites des éditeurs est très inférieur à celui observé depuis la recherche Bing classique : baisse de 87 à 93 % pour les sites du New York Times, de 83 à 91 % pour les autres plaignants. C’est d’autant moins de revenus pour les sites de presse qui se retrouvent en concurrence avec leurs propres contenus recrachés par les bots. Un ingénieur logiciel d’OpenAI reconnaissait dans un message interne que, « peu importe la visibilité donnée aux liens, les utilisateurs ne cliqueront pas dessus ».

Satya Nadella face à la question des paywalls

Dans son témoignage sous serment, Satya Nadella, le directeur général de Microsoft, admet que « tout contenu placé derrière un paywall devrait faire l’objet d’une licence de la part de quiconque souhaite l’utiliser, que ce soit pour alimenter les réponses d’un modèle ou pour son entraînement ».

S’il avait su qu’OpenAI – dont Microsoft est un des principaux partenaires – avait moissonné des contenus placés derrière un paywall pour entraîner ses modèles IA, Nadella aurait invoqué le droit de Microsoft d’exiger le réentraînement des modèles sans ces données protégées. Pour le dirigeant, les entreprises IA ne devraient pas accéder à des contenus enfreignant les conditions d’utilisation.

Satya Nadella reconnait également que les chatbots comme Copilot peuvent se substituer aux sites d’actualité : ils donnent en effet l’information « directement sur la plateforme d’IA, plutôt que d’obliger l’utilisateur à se rendre à la source d’origine ». Pour le porte-parole de Microsoft, ce témoignage porte sur des « principes généraux », il ne s’agit que « d’observations qui ne doivent pas être confondues avec des conclusions sur les questions de droit d’auteur soumises au tribunal ».

Si ce mémoire de synthèse est certes accablant, il ne constitue pas pour autant une décision de justice ni une conclusion du tribunal sur le fond de l’affaire. Néanmoins, les pièces de première main qu’il expose éclairent l’état d’esprit d’OpenAI et de Microsoft quant à la portée réelle de leur utilisation du « fair use ».

Sans foi ni poids

Ablitérer un modèle de langage permet de supprimer une (plus ou moins grande) partie des protections contre des demandes qu’il juge déplacées, dangereuses ou malveillantes. Mais comment ça fonctionne exactement ? Quelles sont les conséquences ? Next vous explique.

L’entraînement des IA génératives se fait en plusieurs étapes. La première consiste à lui donner des tonnes de documents et données à ingurgiter ; typiquement les modèles récents sont entrainés sur l’intégralité du web.

Cette phase permet d’ajuster les centaines de milliards de paramètres (ou poids) des neurones. Pour schématiser à l’extrême, plus il y a de paramètres, plus le modèle peut emmagasiner de connaissances, et plus il devient performant. C’est le principe de fonctionnement dans les grandes lignes des grands modèles de langage (LLM).

Fine-tuning et alignement, vous avez les bases ?

Il y a ensuite une phase de fine-tuning et d’alignement, ce sont les derniers réglages en fin de parcours. Les modèles sont soumis à des exemples de comportements acceptables et d’autres non. Il s’agit de séparer dans les prompts et les réponses l’intention et le contexte.

Par exemple, se renseigner sur le chlore et ses effets néfastes est acceptable, donner une recette pour produire un gaz mortel, non. Demander comment se protéger d’une cyberattaque est acceptable, demander un tuto pour en créer une ne l’est pas. Les mots peuvent être les mêmes, pas l’intention ; c’est ce que les IA génératives doivent distinguer.

Les modèles d’intelligence artificielle sont donc ajustés après leur entrainement, là encore via une adaptation des poids des neurones. Comme nous venons de l’expliquer, il ne s’agit pas d’apporter un refus explicite de type oui ou non, mais plutôt une sorte de vecteur qui traverse toutes les couches du modèle, comme l’expliquaient des chercheurs en 2024. Est-ce que la question et/ou la réponse sortent du cadre ? Si le risque estimé dépasse un certain seuil, alors le modèle refusera de répondre.

Lorsqu’un utilisateur pose une question à un modèle, le chemin peut ressembler à cela : le prompt est envoyé à un autre modèle ou un classificateur pour détecter les risques. Shieldstral de Mistral par exemple, peut servir de classificateur (un algorithme de machine learning qui attribue automatiquement une étiquette ou une catégorie à des données d’entrée).

Le prompt, s’il n’est pas recalé, passe ensuite dans le cœur du LLM (qui a lui-même des protections internes via son alignement), puis une nouvelle détection des risques est réalisée sur la réponse avant qu’elle soit transmise à l’utilisateur. Cela dépend du harnais de l’intelligence artificielle générative – le modèle et tout ce qui l’entoure pour son bon fonctionnement –, une notion sur laquelle nous reviendrons prochainement.

Suivant les cas, cela peut concerner la fabrication d’armes ou de substances chimiques, la santé (automutilation), la fraude, les cyberattaques, la création de malwares, etc. Mais, est-il possible de contourner les protections ?

Oui, avec trois grandes familles que nous allons détailler. La première, le jailbreak : on ne touche à rien sur le modèle, on ajuste le prompt pour ne pas éveiller des soupçons. La deuxième, l’ablitération : on modifie le modèle de manière ciblée pour qu’il perde ses inhibitions. La dernière, plus lourde, consiste à réentraîner le modèle sur des données sans notion de refus.

Contourner les refus de ChatGPT, uniquement par le prompt

Agents en vadrouille

Dans une nouvelle publication, OpenAI évoque de nouveaux engagements sur sa manière de communiquer. L’entreprise promet ainsi de publier systématiquement des rapports quand la situation l’exigera, pour remédier à son irrégularité. Elle commence avec six nouveaux exemples d’agents dont le « comportement » a dérapé.

Dans son billet du 16 septembre, OpenAI reconnait qu’elle manquait jusqu’ici d’une « approche systématique » pour rapporter les résultats des enquêtes menées sur les cas de désalignement. « Nous avons souvent attendu de pouvoir rassembler plusieurs instances dans un seul rapport, ou de les ajouter à des cartes système pour des modèles nouvellement publiés », indique l’entreprise.

Le narratif continue sur le cadre industriel

Selon OpenAI, le degré d’avancement et l’utilisation plus intensive des agents nécessitent la mise en place d’un « consensus plus large et mieux informé ». Le ton est le même que dans les récentes interventions sur la nécessité de ralentir le développement des modèles frontière : « Nous ne pensons pas que l’industrie de l’IA ait suffisamment résolu l’alignement et la surveillance pour continuer plus longtemps d’évoluer de manière responsable à vitesse maximale ». Dans ce registre, OpenAI persiste et signe.

• Anthropic, OpenAI et Elon Musk veulent ralentir sur l’IA, la Maison-Blanche dit non

Il s’agit, pour l’entreprise, de simplement mieux communiquer. Elle affirme que des exemples de désalignement peuvent « aider à identifier les problèmes que d’autres développeurs d’IA pourraient rencontrer lorsque leurs systèmes atteignent des capacités similaires, révèlent des faiblesses dans les mesures de sécurité ou remettent en question les hypothèses sur le comportement du modèle ». L’entreprise veut se montrer responsable en montrant aux autres les problèmes qu’elle a elle-même rencontrés.

Regrettant qu’aucun cadre industriel n’existe sur la manière dont les développeurs devraient communiquer, elle propose donc le sien, à travers six exemples. Ce cadre est considéré comme « un travail en cours », ajoute la société. De manière générale, elle promet qu’elle relatera tous les exemples qui lui paraissent pertinents, notamment quand ils constituent « des preuves utiles sur la manière dont survient le désalignement du modèle ». OpenAI précise cependant qu’un exemple « n’a pas besoin de causer de préjudice » pour justifier sa publication.

Sorties de route pendant l’entrainement

Le premier exemple est celui d’un modèle interne de la famille Astra (dont GPT-6). Pendant l’entraînement, il a glissé des instructions parasites dans les résumés qui lui servent à poursuivre une tâche dans un nouveau contexte. Entre autres actions, il a laissé un message pour informer qu’il ne fallait plus tenir compte des messages du développeur, prétendument compromis. Dans un autre, il « s’estimait » affranchi de toute obligation envers les entreprises et gouvernements. Dans un résumé, il s’est laissé une instruction pour ne plus dépasser à l’avenir les 30 mots dans ses réponses, tout en interdisant les outils citations. L’instruction a été suivie par un autre agent. OpenAI dit avoir trouvé la cause, depuis corrigée. Elle ajoute que ce comportement est « extrêmement rare », sans avantage évident en termes de récompense.

Dans le deuxième exemple, également pendant l’entraînement (de GPT-5.6 cette fois), des instances se sont laissé des instructions dans leurs résumés pour masquer des erreurs ou des comportements montrant un désalignement. Une instance a ainsi proposé d’inventer des données historiques manquantes et de ne l’avouer qu’en cas de demande. Une autre recommandait de taire une incohérence entre versions de sources. Selon OpenAI, l’explication est simple : puisqu’une réponse finale trompeuse obtenait une meilleure réponse, le modèle a appris à s’en « souvenir » pour la suite. Ce type de comportement a été détecté dans 2,15 % des résumés de GPT-5.6 Sol et dans 0,27 % de ceux d’Astra. Ces chiffres ne sont pas anodins : ils correspondent à la situation actuelle, après réduction du problème, de l’aveu même d’OpenAI.

Dans le troisième exemple, le problème est parti d’une « question de routine » sur les revenus masculins dans trois secteurs d’activité d’un comté de Californie. Parmi les tâches entreprises, le modèle a tenté de s’inscrire sur un site avec une adresse jetable, a fouillé des dépôts GitHub publics et testé automatiquement des clés API, dont une a fonctionné. Puis, en voyant qu’il ne parvenait pas au résultat souhaité, il a inventé neuf valeurs et affirmé les avoir relevées sur le site demandé. OpenAI indique que cette session d’entraînement était particulièrement riche en cas de tricherie, avec des comportements équivalents.

Gofile concerné dans l’un des exemples

Dans le quatrième exemple, OpenAI évoque le cas d’un agent qui devait répondre à une question sur les identifiants et noms de tous les lacs plus grands que 5 000 000 m². La réponse a été obtenue via Python, mais puisque la réponse exigeait une citation provenant du navigateur, l’agent a déposé ses données sur un service de partage sans demander l’autorisation. Le navigateur a refusé l’adresse, et la réponse a finalement indiqué l’origine réelle des données.

Le cinquième exemple est une copie quasi-conforme de celui exposé pour Hugging Face : des modèles se sont servis du dépôt interne de paquets logiciels (Artifactory) comme d’un tableau d’affichage. Ils lisaient les notes d’autres agents travaillant sur le même problème et y répondaient. Dans un cas précédent, un agent bloqué par le filtrage réseau a vérifié qu’il pouvait écrire dans le dépôt. Il a ensuite envisagé un paquet malveillant pour faire récupérer un contenu interdit par le serveur. Faute de droits administrateur, la tentative a échoué, selon OpenAI.

Enfin, le dernier exemple relève comment des agents ont partagé des fichiers sur un hébergeur public pour répondre à la mission de produire collaborativement un tableau. Une action menée pour contourner un souci de fonctionnement du système prévu pour les partages de fichiers. Les liens des fichiers hébergés ont été transmis alors que la tâche imposait des fichiers locaux. Selon OpenAI, ce résultat provient de l’effet combiné d’environnements multi-agents défectueux et d’une généralisation de l’entraînement à la collaboration. Depuis ce test, l’accès internet direct est coupé pour les entrainements. Du moins, il est censé l’être.

Selon nos informations, l’hébergeur en question est Gofile. Nory Wojdyla, son fondateur, nous confirme avoir été contacté par OpenAI au sujet de cet incident, pour prévenir qu’un rapport en serait tiré. « Cela fait des mois que l’on constate que des données confidentielles de grosses entreprises finissent chez Gofile de façon non contrôlée par le biais d’agents », indique-t-il. Il n’a pas donné de noms, mais pointe le changement d’échelle, notant qu’il « arrive que les agents sortent de leurs instructions et prennent des libertés ».

Un cadre qui n’impose rien

La publication d’OpenAI intervient dans un calendrier aussi spécifique que sensible. L’industrie américaine réclame un ralentissement du développement des modèles frontières, arguant notamment que la puissance des agents mérite que l’on prenne le temps de la réflexion. Comme nous l’avons vu, les rapports ont surtout illustré des défaillances internes et de curieux choix d’enquêteurs pour des rapports indépendants. En outre, en dépit de mots forts sur X et d’une entente entre les entreprises américaines, leurs dépenses disent le contraire. À la Maison-Blanche, Donald Trump goûte peu l’idée.

En plus de nourrir le narratif sur le danger des agents et les risques d’extinction pour l’humanité, il pourrait s’agir pour OpenAI d’une manière de reprendre la main sur le récit. Début septembre, plusieurs cas ont été rapportés d’agents ayant encore une fois pris des libertés, notamment contre un wiki allemand dédié aux développeurs. La presse s’est emparée de l’histoire avant OpenAI.

Dans un contexte sous pression, OpenAI cherche également à rassurer, tout en fixant lui-même un cadre avant qu’on ne le lui impose éventuellement. Et pour cause : plusieurs sénateurs semblent décidés à éclaircir la réalité du danger et ont envoyé des questions précises à OpenAI, notamment sur Astra, comme le rapporte Zvi Mowshowitz, souvent critique à l’égard d’OpenAI.

Si personne ne se plaindra dans l’absolu d’informations complémentaires, la dichotomie observée depuis plusieurs mois autour des agents continue de plus belle. OpenAI écrit ainsi que l’industrie n’a pas assez travaillé sur l’alignement et la surveillance, tout en commercialisant Astra. Enfin, OpenAI ne s’est engagé sur aucun rythme de parution pour ces rapports.

Agents en vadrouille

Dans une nouvelle publication, OpenAI évoque de nouveaux engagements sur sa manière de communiquer. L’entreprise promet ainsi de publier systématiquement des rapports quand la situation l’exigera, pour remédier à son irrégularité. Elle commence avec six nouveaux exemples d’agents dont le « comportement » a dérapé.

Dans son billet du 16 septembre, OpenAI reconnait qu’elle manquait jusqu’ici d’une « approche systématique » pour rapporter les résultats des enquêtes menées sur les cas de désalignement. « Nous avons souvent attendu de pouvoir rassembler plusieurs instances dans un seul rapport, ou de les ajouter à des cartes système pour des modèles nouvellement publiés », indique l’entreprise.

Le narratif continue sur le cadre industriel

Selon OpenAI, le degré d’avancement et l’utilisation plus intensive des agents nécessitent la mise en place d’un « consensus plus large et mieux informé ». Le ton est le même que dans les récentes interventions sur la nécessité de ralentir le développement des modèles frontière : « Nous ne pensons pas que l’industrie de l’IA ait suffisamment résolu l’alignement et la surveillance pour continuer plus longtemps d’évoluer de manière responsable à vitesse maximale ». Dans ce registre, OpenAI persiste et signe.

• Anthropic, OpenAI et Elon Musk veulent ralentir sur l’IA, la Maison-Blanche dit non

Il s’agit, pour l’entreprise, de simplement mieux communiquer. Elle affirme que des exemples de désalignement peuvent « aider à identifier les problèmes que d’autres développeurs d’IA pourraient rencontrer lorsque leurs systèmes atteignent des capacités similaires, révèlent des faiblesses dans les mesures de sécurité ou remettent en question les hypothèses sur le comportement du modèle ». L’entreprise veut se montrer responsable en montrant aux autres les problèmes qu’elle a elle-même rencontrés.

Regrettant qu’aucun cadre industriel n’existe sur la manière dont les développeurs devraient communiquer, elle propose donc le sien, à travers six exemples. Ce cadre est considéré comme « un travail en cours », ajoute la société. De manière générale, elle promet qu’elle relatera tous les exemples qui lui paraissent pertinents, notamment quand ils constituent « des preuves utiles sur la manière dont survient le désalignement du modèle ». OpenAI précise cependant qu’un exemple « n’a pas besoin de causer de préjudice » pour justifier sa publication.

Sorties de route pendant l’entrainement

Le premier exemple est celui d’un modèle interne de la famille Astra (dont GPT-6). Pendant l’entraînement, il a glissé des instructions parasites dans les résumés qui lui servent à poursuivre une tâche dans un nouveau contexte. Entre autres actions, il a laissé un message pour informer qu’il ne fallait plus tenir compte des messages du développeur, prétendument compromis. Dans un autre, il « s’estimait » affranchi de toute obligation envers les entreprises et gouvernements. Dans un résumé, il s’est laissé une instruction pour ne plus dépasser à l’avenir les 30 mots dans ses réponses, tout en interdisant les outils citations. L’instruction a été suivie par un autre agent. OpenAI dit avoir trouvé la cause, depuis corrigée. Elle ajoute que ce comportement est « extrêmement rare », sans avantage évident en termes de récompense.

Dans le deuxième exemple, également pendant l’entraînement (de GPT-5.6 cette fois), des instances se sont laissé des instructions dans leurs résumés pour masquer des erreurs ou des comportements montrant un désalignement. Une instance a ainsi proposé d’inventer des données historiques manquantes et de ne l’avouer qu’en cas de demande. Une autre recommandait de taire une incohérence entre versions de sources. Selon OpenAI, l’explication est simple : puisqu’une réponse finale trompeuse obtenait une meilleure réponse, le modèle a appris à s’en « souvenir » pour la suite. Ce type de comportement a été détecté dans 2,15 % des résumés de GPT-5.6 Sol et dans 0,27 % de ceux d’Astra. Ces chiffres ne sont pas anodins : ils correspondent à la situation actuelle, après réduction du problème, de l’aveu même d’OpenAI.

Dans le troisième exemple, le problème est parti d’une « question de routine » sur les revenus masculins dans trois secteurs d’activité d’un comté de Californie. Parmi les tâches entreprises, le modèle a tenté de s’inscrire sur un site avec une adresse jetable, a fouillé des dépôts GitHub publics et testé automatiquement des clés API, dont une a fonctionné. Puis, en voyant qu’il ne parvenait pas au résultat souhaité, il a inventé neuf valeurs et affirmé les avoir relevées sur le site demandé. OpenAI indique que cette session d’entraînement était particulièrement riche en cas de tricherie, avec des comportements équivalents.

Gofile concerné dans l’un des exemples

Dans le quatrième exemple, OpenAI évoque le cas d’un agent qui devait répondre à une question sur les identifiants et noms de tous les lacs plus grands que 5 000 000 m². La réponse a été obtenue via Python, mais puisque la réponse exigeait une citation provenant du navigateur, l’agent a déposé ses données sur un service de partage sans demander l’autorisation. Le navigateur a refusé l’adresse, et la réponse a finalement indiqué l’origine réelle des données.

Le cinquième exemple est une copie quasi-conforme de celui exposé pour Hugging Face : des modèles se sont servis du dépôt interne de paquets logiciels (Artifactory) comme d’un tableau d’affichage. Ils lisaient les notes d’autres agents travaillant sur le même problème et y répondaient. Dans un cas précédent, un agent bloqué par le filtrage réseau a vérifié qu’il pouvait écrire dans le dépôt. Il a ensuite envisagé un paquet malveillant pour faire récupérer un contenu interdit par le serveur. Faute de droits administrateur, la tentative a échoué, selon OpenAI.

Enfin, le dernier exemple relève comment des agents ont partagé des fichiers sur un hébergeur public pour répondre à la mission de produire collaborativement un tableau. Une action menée pour contourner un souci de fonctionnement du système prévu pour les partages de fichiers. Les liens des fichiers hébergés ont été transmis alors que la tâche imposait des fichiers locaux. Selon OpenAI, ce résultat provient de l’effet combiné d’environnements multi-agents défectueux et d’une généralisation de l’entraînement à la collaboration. Depuis ce test, l’accès internet direct est coupé pour les entrainements. Du moins, il est censé l’être.

Selon nos informations, l’hébergeur en question est Gofile. Nory Wojdyla, son fondateur, nous confirme avoir été contacté par OpenAI au sujet de cet incident, pour prévenir qu’un rapport en serait tiré. « Cela fait des mois que l’on constate que des données confidentielles de grosses entreprises finissent chez Gofile de façon non contrôlée par le biais d’agents », indique-t-il. Il n’a pas donné de noms, mais pointe le changement d’échelle, notant qu’il « arrive que les agents sortent de leurs instructions et prennent des libertés ».

Un cadre qui n’impose rien

La publication d’OpenAI intervient dans un calendrier aussi spécifique que sensible. L’industrie américaine réclame un ralentissement du développement des modèles frontières, arguant notamment que la puissance des agents mérite que l’on prenne le temps de la réflexion. Comme nous l’avons vu, les rapports ont surtout illustré des défaillances internes et de curieux choix d’enquêteurs pour des rapports indépendants. En outre, en dépit de mots forts sur X et d’une entente entre les entreprises américaines, leurs dépenses disent le contraire. À la Maison-Blanche, Donald Trump goûte peu l’idée.

En plus de nourrir le narratif sur le danger des agents et les risques d’extinction pour l’humanité, il pourrait s’agir pour OpenAI d’une manière de reprendre la main sur le récit. Début septembre, plusieurs cas ont été rapportés d’agents ayant encore une fois pris des libertés, notamment contre un wiki allemand dédié aux développeurs. La presse s’est emparée de l’histoire avant OpenAI.

Dans un contexte sous pression, OpenAI cherche également à rassurer, tout en fixant lui-même un cadre avant qu’on ne le lui impose éventuellement. Et pour cause : plusieurs sénateurs semblent décidés à éclaircir la réalité du danger et ont envoyé des questions précises à OpenAI, notamment sur Astra, comme le rapporte Zvi Mowshowitz, souvent critique à l’égard d’OpenAI.

Si personne ne se plaindra dans l’absolu d’informations complémentaires, la dichotomie observée depuis plusieurs mois autour des agents continue de plus belle. OpenAI écrit ainsi que l’industrie n’a pas assez travaillé sur l’alignement et la surveillance, tout en commercialisant Astra. Enfin, OpenAI ne s’est engagé sur aucun rythme de parution pour ces rapports.

Voyons voir, qu’est-ce qui pourrait mal tourner ? Google a annoncé l’ouverture de sa plateforme domotique Home aux agents IA compatibles avec le Model Context Protocol (MCP).

Cela signifie qu’un agent autre que Gemini (Claude, OpenClaw, Hermes, un agent conçu avec la plateforme Google Antigravity, ou autres) peut interagir avec les appareils Google Home ou certifiés Works with Google Home de la maison : sonnettes, thermostats, ampoules…

L’entreprise donne quelques exemples d’interactions possibles : l’agent peut consulter le flux vidéo des caméras pour résumer l’activité des enfants de retour à la maison ; il peut compter le nombre de lessives réalisées pendant la semaine, ou combien de temps la lumière du couloir est restée allumée ; il peut prévenir qu’une tâche a été réalisée en l’annonçant via un message audio sur l’enceinte Home. Un agent peut encore construire un tableau de bord personnalisé en reprenant les principales informations des différents capteurs et caméras installés dans la maison.

Cette nouveauté est en accès anticipé et proposée uniquement en anglais, aux utilisateurs basés aux États-Unis détenteurs d’un abonnement Google Home Premium Advanced. La configuration n’est pas non plus aussi simple que de pousser un bouton virtuel, il faut créer un projet Google Cloud pour le configurer de telle manière à pouvoir utiliser Google Home MCP.

La perspective de confier sa maison connectée à un agent IA peut donner quelques sueurs froides. Google l’écrit en toutes lettres : « Selon l’agent utilisé, sa connexion à Home MCP peut entraîner des comportements inattendus, voire indésirables ». L’entreprise recommande de prévenir les habitants de la maison qu’un agent peut contrôler des appareils et accéder aux données du domicile.

Google Home MCP intègre tout de même des garde-fous : interdiction de certaines actions sensibles comme le déverrouillage des portes (ouf !) et une fréquence d’usage limitée. L’accès d’un agent à la plateforme MCP peut par ailleurs être révoqué à tout moment depuis l’app Google Home.

Voyons voir, qu’est-ce qui pourrait mal tourner ? Google a annoncé l’ouverture de sa plateforme domotique Home aux agents IA compatibles avec le Model Context Protocol (MCP).

Cela signifie qu’un agent autre que Gemini (Claude, OpenClaw, Hermes, un agent conçu avec la plateforme Google Antigravity, ou autres) peut interagir avec les appareils Google Home ou certifiés Works with Google Home de la maison : sonnettes, thermostats, ampoules…

L’entreprise donne quelques exemples d’interactions possibles : l’agent peut consulter le flux vidéo des caméras pour résumer l’activité des enfants de retour à la maison ; il peut compter le nombre de lessives réalisées pendant la semaine, ou combien de temps la lumière du couloir est restée allumée ; il peut prévenir qu’une tâche a été réalisée en l’annonçant via un message audio sur l’enceinte Home. Un agent peut encore construire un tableau de bord personnalisé en reprenant les principales informations des différents capteurs et caméras installés dans la maison.

Cette nouveauté est en accès anticipé et proposée uniquement en anglais, aux utilisateurs basés aux États-Unis détenteurs d’un abonnement Google Home Premium Advanced. La configuration n’est pas non plus aussi simple que de pousser un bouton virtuel, il faut créer un projet Google Cloud pour le configurer de telle manière à pouvoir utiliser Google Home MCP.

La perspective de confier sa maison connectée à un agent IA peut donner quelques sueurs froides. Google l’écrit en toutes lettres : « Selon l’agent utilisé, sa connexion à Home MCP peut entraîner des comportements inattendus, voire indésirables ». L’entreprise recommande de prévenir les habitants de la maison qu’un agent peut contrôler des appareils et accéder aux données du domicile.

Google Home MCP intègre tout de même des garde-fous : interdiction de certaines actions sensibles comme le déverrouillage des portes (ouf !) et une fréquence d’usage limitée. L’accès d’un agent à la plateforme MCP peut par ailleurs être révoqué à tout moment depuis l’app Google Home.

Maintenant que les acteurs de l’IA ont consciencieusement collecté (certains diront pillé) tous les contenus possibles et imaginables sur le web ouvert et même fermé, il faut bien trouver des données ailleurs pour continuer à entraîner les modèles IA. SpaceXAI pourrait acquérir ces trésors auprès de startups en difficulté ou ayant cessé leurs activités, selon Bloomberg.

Le projet serait en discussion, et pourrait ne pas aboutir. Il est toutefois révélateur de la course engagée par les géants de l’IA pour mettre la main sur des données inédites, spécialisées et de qualité, devenues une ressource de plus en plus précieuse pour améliorer leurs modèles. C’est le cas aussi de la société d’Elon Musk. Les données opérationnelles et les informations clients seraient particulièrement recherchées pour l’entraînement de Grok, le chatbot maison.

SpaceXAI dispose déjà de plusieurs sources de données maison. Grok a l’avantage de pouvoir s’appuyer sur les contenus publiés sur le réseau social X (anciennement Twitter), lui aussi propriété d’Elon Musk. L’entreprise emploie également des spécialistes internes, surnommés « tuteurs IA », qui participent à l’entraînement et à l’affinage du modèle, notamment en l’aidant à progresser sur des compétences spécialisées. Ils travaillent ainsi sur des domaines aussi variés que la finance, les sciences ou même… l’« humour », rapporte Bloomberg.

• Grok est un superdiffuseur de désinformation

SpaceXAI a cependant suspendu le recrutement de nouveaux tuteurs, alors qu’en interne, les changements de stratégie et plusieurs départs provoqueraient un certain désordre. D’où le recours à des sources de données extérieures, comme par exemple celles provenant de startups en difficulté.

La stratégie n’est pas inédite. Google a proposé de racheter pour 10 millions de dollars d’actifs de Spirit Airlines, une compagnie aérienne en faillite. L’entreprise mettrait ainsi la main sur un impressionnant volume de documents très spécialisés pour entraîner les modèles de Gemini.

Maintenant que les acteurs de l’IA ont consciencieusement collecté (certains diront pillé) tous les contenus possibles et imaginables sur le web ouvert et même fermé, il faut bien trouver des données ailleurs pour continuer à entraîner les modèles IA. SpaceXAI pourrait acquérir ces trésors auprès de startups en difficulté ou ayant cessé leurs activités, selon Bloomberg.

Le projet serait en discussion, et pourrait ne pas aboutir. Il est toutefois révélateur de la course engagée par les géants de l’IA pour mettre la main sur des données inédites, spécialisées et de qualité, devenues une ressource de plus en plus précieuse pour améliorer leurs modèles. C’est le cas aussi de la société d’Elon Musk. Les données opérationnelles et les informations clients seraient particulièrement recherchées pour l’entraînement de Grok, le chatbot maison.

SpaceXAI dispose déjà de plusieurs sources de données maison. Grok a l’avantage de pouvoir s’appuyer sur les contenus publiés sur le réseau social X (anciennement Twitter), lui aussi propriété d’Elon Musk. L’entreprise emploie également des spécialistes internes, surnommés « tuteurs IA », qui participent à l’entraînement et à l’affinage du modèle, notamment en l’aidant à progresser sur des compétences spécialisées. Ils travaillent ainsi sur des domaines aussi variés que la finance, les sciences ou même… l’« humour », rapporte Bloomberg.

• Grok est un superdiffuseur de désinformation

SpaceXAI a cependant suspendu le recrutement de nouveaux tuteurs, alors qu’en interne, les changements de stratégie et plusieurs départs provoqueraient un certain désordre. D’où le recours à des sources de données extérieures, comme par exemple celles provenant de startups en difficulté.

La stratégie n’est pas inédite. Google a proposé de racheter pour 10 millions de dollars d’actifs de Spirit Airlines, une compagnie aérienne en faillite. L’entreprise mettrait ainsi la main sur un impressionnant volume de documents très spécialisés pour entraîner les modèles de Gemini.

Malgré un modèle économique surtout tourné vers les entreprises et le B2B, Mistral ne dédaigne pas à l’occasion s’intéresser au grand public. Le partenariat avec Mozilla permet aux modèles IA de l’entreprise française de se frotter aux questions posées par les internautes dans la Fenêtre intelligente de Firefox.

Mozilla a inauguré la Smart Windows (ou Fenêtre intelligente) dans la version 155 de Firefox. Ce mode combine un chatbot et un ensemble de fonctionnalités IA qui se propose d’organiser ses onglets et son historique et de répondre aux questions. Toujours en bêta, la Fenêtre intelligente s’active via le bouton Firefox en haut à droite de la fenêtre du navigateur.

• Firefox 155 apporte sa Fenêtre intelligente en France, la version iOS bloque la publicité

Firefox laisse le choix du modèle : on trouve dans le lot Gemini 3.1 Flash Lite, Qwen 3, et Mistral Small 4 qui est le modèle recommandé (il est possible d’ajouter d’autres modèles en fournissant une clé API ou un jeton d’authentification). Mozilla et Mistral ont officialisé ce partenariat, qui « réunit deux défenseurs de l’open source [œuvrant] ensemble pour mettre les innovations scientifiques de Mistral à la portée des consommateurs du monde entier », selon le communiqué.

« Puisque le navigateur est au cœur du Web et de l’expérience en ligne, il doit être un espace où différents fournisseurs d’IA peuvent se faire concurrence et où l’open source a toute sa place », affirme Anthony Enzor-DeMeo, directeur général de Mozilla Corporation. Le navigateur « doit préserver ce qui a fait la puissance d’Internet dès le départ : la liberté d’explorer, de découvrir différentes idées et technologies, et de décider par nous-mêmes où aller ensuite. »

Les modèles Mistral sont proposés en France, aux États-Unis et au Canada. Le Royaume-Uni et l’Allemagne vont suivre d’ici la fin de l’année. « À l’heure actuelle, nous comptons en moyenne environ 200 millions d’utilisateurs mensuels dans le monde, plus de 50 millions d’utilisateurs quotidiens sur ordinateur et entre 14 et 16 millions sur mobile », précise le dirigeant de Mozilla, qui ajoute au Wall Street Journal que « les États-Unis, l’Allemagne, la France et le Royaume-Uni en représentent l’essentiel ».

Pour Mistral, c’est aussi une manière d’exposer ses modèles à une utilisation orientée grand public alors que l’entreprise vise habituellement les entreprises. Pas plus tard que ce mardi 15 septembre, Mistral annonçait deux partenariats B2B : le premier avec TotalEnergies pour développer des modèles IA dédiés à l’exploration et à l’ingénierie des réservoirs, le second avec Numspot pour le développement d’une place de marché dédiée aux organisations publiques et aux entreprises. Celle-ci combinera les modèles Mistral avec l’infrastructure cloud de la plateforme.

Malgré un modèle économique surtout tourné vers les entreprises et le B2B, Mistral ne dédaigne pas à l’occasion s’intéresser au grand public. Le partenariat avec Mozilla permet aux modèles IA de l’entreprise française de se frotter aux questions posées par les internautes dans la Fenêtre intelligente de Firefox.

Mozilla a inauguré la Smart Windows (ou Fenêtre intelligente) dans la version 155 de Firefox. Ce mode combine un chatbot et un ensemble de fonctionnalités IA qui se propose d’organiser ses onglets et son historique et de répondre aux questions. Toujours en bêta, la Fenêtre intelligente s’active via le bouton Firefox en haut à droite de la fenêtre du navigateur.

• Firefox 155 apporte sa Fenêtre intelligente en France, la version iOS bloque la publicité

Firefox laisse le choix du modèle : on trouve dans le lot Gemini 3.1 Flash Lite, Qwen 3, et Mistral Small 4 qui est le modèle recommandé (il est possible d’ajouter d’autres modèles en fournissant une clé API ou un jeton d’authentification). Mozilla et Mistral ont officialisé ce partenariat, qui « réunit deux défenseurs de l’open source [œuvrant] ensemble pour mettre les innovations scientifiques de Mistral à la portée des consommateurs du monde entier », selon le communiqué.

« Puisque le navigateur est au cœur du Web et de l’expérience en ligne, il doit être un espace où différents fournisseurs d’IA peuvent se faire concurrence et où l’open source a toute sa place », affirme Anthony Enzor-DeMeo, directeur général de Mozilla Corporation. Le navigateur « doit préserver ce qui a fait la puissance d’Internet dès le départ : la liberté d’explorer, de découvrir différentes idées et technologies, et de décider par nous-mêmes où aller ensuite. »

Les modèles Mistral sont proposés en France, aux États-Unis et au Canada. Le Royaume-Uni et l’Allemagne vont suivre d’ici la fin de l’année. « À l’heure actuelle, nous comptons en moyenne environ 200 millions d’utilisateurs mensuels dans le monde, plus de 50 millions d’utilisateurs quotidiens sur ordinateur et entre 14 et 16 millions sur mobile », précise le dirigeant de Mozilla, qui ajoute au Wall Street Journal que « les États-Unis, l’Allemagne, la France et le Royaume-Uni en représentent l’essentiel ».

Pour Mistral, c’est aussi une manière d’exposer ses modèles à une utilisation orientée grand public alors que l’entreprise vise habituellement les entreprises. Pas plus tard que ce mardi 15 septembre, Mistral annonçait deux partenariats B2B : le premier avec TotalEnergies pour développer des modèles IA dédiés à l’exploration et à l’ingénierie des réservoirs, le second avec Numspot pour le développement d’une place de marché dédiée aux organisations publiques et aux entreprises. Celle-ci combinera les modèles Mistral avec l’infrastructure cloud de la plateforme.

Du greenwashing ou greenbashing

NVIDIA promeut l’idée selon laquelle l’IA serait nécessaire à la lutte contre le changement climatique. L’entreprise y contribue pourtant activement, la production et l’usage de ses puces provoquant une forte hausse de ses émissions carbone sur les six dernières années. NVIDIA ne donne d’ailleurs pas de chiffres précis sur ce dernier point. Un rapport les a estimés.

Quels sont les effets des activités de NVIDIA sur la planète ? Une analyse indépendante des données climatiques de NVIDIA montre que les émissions liées à la chaîne de fabrication de puces dédiées à l’intelligence artificielle générative ont explosé de 725 % depuis 2020, pour arriver à 10,7 millions de tonnes CO₂ équivalent.

Soutenu par les organisations Beyond Fossil Fuels, Greenpeace International, Green Screen Coalition, Climate Action against Disinformation et Stand.earth, un nouveau rapport titré « NVIDIA’s climate hoax » étudie l’évolution des émissions carbone produites par les activités de NVIDIA, alors que l’entreprise est celle qui profite le plus du déploiement actuel de l’IA générative. Le document se penche aussi sur les prises de parole de l’entreprise et de ses dirigeants en matière d’impact climatique. Si ces derniers tendent à dépeindre le rôle de NVIDIA comme bénéfique pour le climat, l’entreprise a déjà été classée dernière parmi diverses sociétés de la chaîne de valeur de l’IA en matière d’action pour décarboner ses activités.

La présente étude rejoint une série de travaux initiés par l’analyste et spécialiste des enjeux environnementaux et des problématiques de greenwashing Ketan Joshi. Ses travaux récents concernant l’industrie de l’IA ont, chaque fois, été commissionnés par une coalition d’organisations gouvernementales similaires à celle qui finance ici les travaux relatifs à NVIDIA.

Mais les données étudiées ne représentent qu’une partie des émissions, d’autres étant provoquées par celles liées à l’usage des puces. Ces dernières pourraient être jusqu’à deux fois plus importantes, selon des estimations appuyées sur les données parcellaires que fournit NVIDIA.

Exploration des impacts environnementaux de la course à l’IA

En février 2026, dans un rapport titré « Le mensonge climatique de l’IA », Ketan Joshi soulignait que malgré les promesses de mettre l’IA au service de la lutte contre le changement climatique, les modèles d’IA générative étaient les plus consommateurs d’énergie, et les modèles traditionnels (plus sobres) étaient les mieux à même d’aider les sciences environnementales. 



Des modèles ouverts et balaises

Les modèles IA à poids ouverts peuvent tenir tête aux modèles propriétaires. Ce qui n’est pas sans provoquer des frictions géopolitiques, avec d’un côté les champions américains des modèles fermés, de l’autre les spécialistes chinois des modèles ouverts. Ce qui est en jeu n’est plus seulement la performance, c’est aussi le contrôle de l’infrastructure.

Mozilla a publié son nouveau rapport « State of Open Source AI », qui agrège une série de benchmarks, d’études externes et un sondage SlashData auprès de 1 410 développeurs utilisant ou ayant utilisé des modèles ouverts. Le document est riche (PDF) et donne une bonne idée des tendances et des forces en présence.

Les modèles ouverts collent au peloton de tête

Les modèles à poids ouverts ont quasiment rattrapé leurs concurrents propriétaires en termes de performances. Selon l’indice Artificial Analysis Intelligence, les quatre modèles les plus performants sont propriétaires et américains : Claude Opus 5 et Fable 5, GPT-5.6 Sol et Grok 4.6 se tiennent dans un mouchoir de poche avec des scores compris entre 61 et 63. Mais immédiatement derrière, on trouve quatre modèles ouverts, tous chinois : Kimi K3, GLM-5.3 (z.ai), Qwen3.8 2,4T et GLM-5.3 Flash, avec des résultants oscillant entre 57 et 60.

L’écart entre les modèles ouverts et propriétaires est donc faible, et il se réduit rapidement. Les meilleurs modèles fermés peuvent aujourd’hui accomplir des tâches longues d’environ 8 à 12 heures ; les meilleurs modèles ouverts arrivent au même niveau environ quatre mois après, selon des études METR et Epoch reprises par Mozilla.

Plus précisément, les deux types de modèles accompliront le travail demandé s’il doit être réalisé sous les 8 heures. Entre 8 et 12 heures, les modèles fermés gardent un avantage. Au-delà de 12 heures, même les modèles fermés ne sont pas tous fiables.

Autrement dit, pour les tâches courantes, les modèles ouverts se révèlent largement suffisants. Utiliser un modèle propriétaire peut se justifier en fonction de l’urgence ou de la difficulté de la tâche, mais la fenêtre se rétrécit.

Le plus intéressant réside toutefois dans le rapport performances/prix. Les quatre modèles ouverts se révèlent moins onéreux (à l’exception de Grok 4.6, mais uniquement pour les 200 000 premiers tokens de contexte). Avec Kimi K3, un million de tokens en entrée revient à 30 % du prix de Fable 5 et 60 % d’Opus 5.

Claude Sonnet 5 revient certes au même prix que Kimi K3, mais le modèle est aussi moins performant (53,4 sur l’indice Artificial Analysis Intelligence, contre 60 pour K3). Et c’est sans compter les promos de certains fournisseurs, qui proposent K3 à des tarifs encore plus avantageux comme chez OpenRouter.

Au mois d’août, huit des dix modèles les plus utilisés sur OpenRouter (la plateforme donne accès à de nombreux modèles IA via une seule API) étaient à poids ouverts. Et il n’y a pas photo : DeepSeek V4 Flash 0731 a traité pour 45 100 milliards de tokens, contre 34 100 milliards pour Hy3 (Tencent) et 29 400 milliards pour MiMo-V2.5 (Xiaomi). Le premier modèle fermé du classement est GPT-5.6 Luna, avec 23 600 milliards. Opus 5 ferme la marche avec 7 100 milliards.

Attention cependant, ces volumes n’incluent pas l’usage dans les clients ChatGPT, Gemini, Claude, etc. Néanmoins, le constat ne souffre d’aucune ambiguïté : les modèles ouverts dominent largement le volume de tokens sur les plateformes de routage.

Toujours en août, DeepSeek a dominé OpenRouter en nombre de requêtes hebdomadaires, une première pour un modèle ouvert chinois. Il met fin au règne de 51 semaines consécutives de Google, qui était jusqu’à présent l’éditeur de modèles le plus sollicité.

Sur les dix modèles les plus utilisés en août, sept étaient chinois. Sur l’ensemble de l’année 2026, l’étude de Mozilla estime que plus de 46 % des tokens transitant par OpenRouter proviendront de modèles chinois. Encore une fois, la plateforme ne représente pas l’ensemble du marché de l’IA, mais c’est un signal significatif de l’usage des développeurs.

Autre signe : Qwen, le modèle d’Alibaba, a été téléchargé 942 millions de fois sur Hugging Face au mois de mars, contre 476 millions pour Llama de Meta, remplacé par le modèle (fermé) Muse en avril. Qwen a été davantage téléchargé que les huit organisations suivantes réunies. Qwen et Alibaba sont de véritables poids lourds dans l’écosystème ouvert.

Les poids ouverts prennent le dessus

Le problème des poids ouverts n’est plus la performance. L’étude de Mozilla pointe le principal blocage : les équipes peinent davantage à maintenir ces modèles, à les intégrer, les évaluer et les utiliser en production. Les modèles fermés gardent cet avantage concurrentiel du produit « clé en main », de la conformité et de la responsabilité contractuelle.

Même s’il y a à redire sur le caractère ouvert des modèles chinois, on retrouve là la problématique classique de l’open source transposée à l’IA. Les différentes briques ouvertes sont performantes et peu onéreuses, mais elles n’ont pas le niveau de finition propre à un produit commercial fini, de maintenance, de suivi de sécurité…

Dans les petites entreprises, les modèles ouverts sont presque autant utilisés que les modèles fermés : 54 % des utilisateurs de modèles fermés passent en production, contre 53 % pour les modèles ouverts. Dans les entreprises moyennes (de 51 à 1 000 employés), la prime va aux modèles fermés avec 66 %, contre 55 % pour les modèles ouverts. Enfin, dans les grandes entreprises, l’écart s’agrandit encore avec les modèles fermés loin devant (73 %, contre 57 % pour les modèles ouverts).

Le sondage de Mozilla montre que le frein n’est pas d’abord financier. Les développeurs qui abandonnent les modèles ouverts ne citent pas plus les coûts d’infrastructure ou les enjeux de sécurité que ceux qui continuent à les utiliser.

C’est plutôt le travail de maintenance au quotidien qui pèse : mises à jour, complexité de déploiement, difficulté d’intégrer les modèles dans des systèmes existants ; les performances des modèles ouverts sont parfois jugées insuffisantes. Pas forcément parce qu’ils se montrent incapables sur les benchmarks, mais parce que les équipes jugent l’ensemble de l’expérience en conditions réelles.

Le difficile passage en production

Les modèles fermés n’ont donc pas perdu tout avantage sur leurs rivaux ouverts. L’étude met ainsi en avant leurs capacités dans l’expertise métier : pour certains travaux à haute valeur ajoutée, les meilleurs modèles propriétaires livrent un travail mieux fini. Fable 5 a ainsi une avance de 92 points Elo sur Kimi K3 dans GDPval-AA v2, un benchmark de tâches professionnelles évaluées par des experts.

Les modèles fermés sont aussi plus fortiches quand il s’agit de trouver des informations dispersées dans un très long contexte (un million de tokens). À ce petit jeu, Gemini 3.1 Pro atteint 89 %, GPT-5.5 74 %, Claude Opus 4.7 56 %, contre 41 % pour DeepSeek V4-Pro, selon les mesures de Mozilla.

Et puis les modèles propriétaires ont cet avantage de ne pas faire peser tout le risque sur l’utilisateur. Ce dernier a un interlocuteur – le fournisseur d’IA – qui prend en charge une partie de la responsabilité et des garanties. Malgré tout, les modèles à poids ouverts prennent une part croissante de l’usage réel : ils pèsent ainsi plus d’un tiers des tokens en production, selon l’estimation de Mozilla.

L’instrument d’influence chinoise

Encouragées par les autorités de Pékin qui en font un élément majeur de politique étrangère, les entreprises IA du pays développent donc des modèles à poids ouverts. La Chine a créé en juillet dernier la WAICO (World Artificial Intelligence Cooperation Organization), une organisation qui veut structurer et promouvoir la coopération internationale autour de l’IA ouverte.

L’organisation compte 37 membres, surtout en Afrique, en Asie du Sud-Est et en Amérique latine. Aucun pays européen dans le lot, et les États-Unis sont bien sûr absents. C’est la réplique chinoise à Pax Silica, une initiative américaine lancée fin 2025 pour sécuriser l’approvisionnement en semi-conducteurs et terres rares pour le déploiement de l’IA.

La Chine favorise la publication des poids des modèles IA afin que les développeurs et les entreprises puissent les télécharger et les adapter à leurs besoins. Le coût d’inférence (le traitement des requêtes) est transféré à l’utilisateur, puisque les modèles tournent sur des serveurs qui lui appartiennent ; bien sûr, il peut aussi louer des capacités chez un fournisseur. Une fois dans la nature, le modèle est impossible à bloquer.

Il y a de nombreuses raisons pour lesquelles cette stratégie déplaît à la Maison-Blanche : utiliser des modèles ouverts chinois est peu coûteux et attractif pour des entreprises qui cherchent à faire des économies, ou pour des pays qui veulent réduire leur dépendance aux technologies propriétaires américaines. L’interdiction faite à Anthropic de distribuer Fable 5 et Mythos 5 par l’administration Trump en juin a revigoré les enjeux de souveraineté partout dans le monde. Il n’existe pas de « kill switch » pour les modèles ouverts.

Le hic, c’est qu’il existe aussi une problématique d’indépendance : les modèles ouverts les plus utilisés sont chinois… Une équation inconfortable pour Washington. Ces modèles offrent une alternative bon marché et efficace aux API américaines propriétaires. Mais ils renforcent aussi l’influence technologique de Pékin. C’est ce qui explique le refus de Donald Trump de réguler l’IA de frontière, car cela reviendrait à freiner les champions US du secteur tandis que la Chine aurait la voie libre. « Nous menons devant la Chine en matière d’IA, nous sommes le pays le plus sophistiqué du monde, et franchement, je veux que cela reste ainsi car celui qui remporte l’IA gagne », a ainsi affirmé, dans son style bien à lui, le locataire de la Maison-Blanche.

• Anthropic, OpenAI et Elon Musk veulent ralentir sur l’IA, la Maison-Blanche dit non

L’industrie occidentale de l’IA ne veut pas pour autant la mort des modèles ouverts, bien au contraire. Une lettre ouverte signée par les principaux acteurs du secteur (à l’exception notable d’Anthropic) fin juillet a sans doute fait reculer le gouvernement américain, à qui l’on prêtait l’intention de mettre des bâtons dans les roues de ces modèles. C’était juste avant la publication des poids de Kimi K3.

Des modèles ouverts et balaises

Les modèles IA à poids ouverts peuvent tenir tête aux modèles propriétaires. Ce qui n’est pas sans provoquer des frictions géopolitiques, avec d’un côté les champions américains des modèles fermés, de l’autre les spécialistes chinois des modèles ouverts. Ce qui est en jeu n’est plus seulement la performance, c’est aussi le contrôle de l’infrastructure.

Mozilla a publié son nouveau rapport « State of Open Source AI », qui agrège une série de benchmarks, d’études externes et un sondage SlashData auprès de 1 410 développeurs utilisant ou ayant utilisé des modèles ouverts. Le document est riche (PDF) et donne une bonne idée des tendances et des forces en présence.

Les modèles ouverts collent au peloton de tête

Les modèles à poids ouverts ont quasiment rattrapé leurs concurrents propriétaires en termes de performances. Selon l’indice Artificial Analysis Intelligence, les quatre modèles les plus performants sont propriétaires et américains : Claude Opus 5 et Fable 5, GPT-5.6 Sol et Grok 4.6 se tiennent dans un mouchoir de poche avec des scores compris entre 61 et 63. Mais immédiatement derrière, on trouve quatre modèles ouverts, tous chinois : Kimi K3, GLM-5.3 (z.ai), Qwen3.8 2,4T et GLM-5.3 Flash, avec des résultants oscillant entre 57 et 60.

L’écart entre les modèles ouverts et propriétaires est donc faible, et il se réduit rapidement. Les meilleurs modèles fermés peuvent aujourd’hui accomplir des tâches longues d’environ 8 à 12 heures ; les meilleurs modèles ouverts arrivent au même niveau environ quatre mois après, selon des études METR et Epoch reprises par Mozilla.

Plus précisément, les deux types de modèles accompliront le travail demandé s’il doit être réalisé sous les 8 heures. Entre 8 et 12 heures, les modèles fermés gardent un avantage. Au-delà de 12 heures, même les modèles fermés ne sont pas tous fiables.

Autrement dit, pour les tâches courantes, les modèles ouverts se révèlent largement suffisants. Utiliser un modèle propriétaire peut se justifier en fonction de l’urgence ou de la difficulté de la tâche, mais la fenêtre se rétrécit.

Le plus intéressant réside toutefois dans le rapport performances/prix. Les quatre modèles ouverts se révèlent moins onéreux (à l’exception de Grok 4.6, mais uniquement pour les 200 000 premiers tokens de contexte). Avec Kimi K3, un million de tokens en entrée revient à 30 % du prix de Fable 5 et 60 % d’Opus 5.

Claude Sonnet 5 revient certes au même prix que Kimi K3, mais le modèle est aussi moins performant (53,4 sur l’indice Artificial Analysis Intelligence, contre 60 pour K3). Et c’est sans compter les promos de certains fournisseurs, qui proposent K3 à des tarifs encore plus avantageux comme chez OpenRouter.

Au mois d’août, huit des dix modèles les plus utilisés sur OpenRouter (la plateforme donne accès à de nombreux modèles IA via une seule API) étaient à poids ouverts. Et il n’y a pas photo : DeepSeek V4 Flash 0731 a traité pour 45 100 milliards de tokens, contre 34 100 milliards pour Hy3 (Tencent) et 29 400 milliards pour MiMo-V2.5 (Xiaomi). Le premier modèle fermé du classement est GPT-5.6 Luna, avec 23 600 milliards. Opus 5 ferme la marche avec 7 100 milliards.

Attention cependant, ces volumes n’incluent pas l’usage dans les clients ChatGPT, Gemini, Claude, etc. Néanmoins, le constat ne souffre d’aucune ambiguïté : les modèles ouverts dominent largement le volume de tokens sur les plateformes de routage.

Toujours en août, DeepSeek a dominé OpenRouter en nombre de requêtes hebdomadaires, une première pour un modèle ouvert chinois. Il met fin au règne de 51 semaines consécutives de Google, qui était jusqu’à présent l’éditeur de modèles le plus sollicité.

Sur les dix modèles les plus utilisés en août, sept étaient chinois. Sur l’ensemble de l’année 2026, l’étude de Mozilla estime que plus de 46 % des tokens transitant par OpenRouter proviendront de modèles chinois. Encore une fois, la plateforme ne représente pas l’ensemble du marché de l’IA, mais c’est un signal significatif de l’usage des développeurs.

Autre signe : Qwen, le modèle d’Alibaba, a été téléchargé 942 millions de fois sur Hugging Face au mois de mars, contre 476 millions pour Llama de Meta, remplacé par le modèle (fermé) Muse en avril. Qwen a été davantage téléchargé que les huit organisations suivantes réunies. Qwen et Alibaba sont de véritables poids lourds dans l’écosystème ouvert.

Les poids ouverts prennent le dessus

Le problème des poids ouverts n’est plus la performance. L’étude de Mozilla pointe le principal blocage : les équipes peinent davantage à maintenir ces modèles, à les intégrer, les évaluer et les utiliser en production. Les modèles fermés gardent cet avantage concurrentiel du produit « clé en main », de la conformité et de la responsabilité contractuelle.

Même s’il y a à redire sur le caractère ouvert des modèles chinois, on retrouve là la problématique classique de l’open source transposée à l’IA. Les différentes briques ouvertes sont performantes et peu onéreuses, mais elles n’ont pas le niveau de finition propre à un produit commercial fini, de maintenance, de suivi de sécurité…

Dans les petites entreprises, les modèles ouverts sont presque autant utilisés que les modèles fermés : 54 % des utilisateurs de modèles fermés passent en production, contre 53 % pour les modèles ouverts. Dans les entreprises moyennes (de 51 à 1 000 employés), la prime va aux modèles fermés avec 66 %, contre 55 % pour les modèles ouverts. Enfin, dans les grandes entreprises, l’écart s’agrandit encore avec les modèles fermés loin devant (73 %, contre 57 % pour les modèles ouverts).

Le sondage de Mozilla montre que le frein n’est pas d’abord financier. Les développeurs qui abandonnent les modèles ouverts ne citent pas plus les coûts d’infrastructure ou les enjeux de sécurité que ceux qui continuent à les utiliser.

C’est plutôt le travail de maintenance au quotidien qui pèse : mises à jour, complexité de déploiement, difficulté d’intégrer les modèles dans des systèmes existants ; les performances des modèles ouverts sont parfois jugées insuffisantes. Pas forcément parce qu’ils se montrent incapables sur les benchmarks, mais parce que les équipes jugent l’ensemble de l’expérience en conditions réelles.

Le difficile passage en production

Les modèles fermés n’ont donc pas perdu tout avantage sur leurs rivaux ouverts. L’étude met ainsi en avant leurs capacités dans l’expertise métier : pour certains travaux à haute valeur ajoutée, les meilleurs modèles propriétaires livrent un travail mieux fini. Fable 5 a ainsi une avance de 92 points Elo sur Kimi K3 dans GDPval-AA v2, un benchmark de tâches professionnelles évaluées par des experts.

Les modèles fermés sont aussi plus fortiches quand il s’agit de trouver des informations dispersées dans un très long contexte (un million de tokens). À ce petit jeu, Gemini 3.1 Pro atteint 89 %, GPT-5.5 74 %, Claude Opus 4.7 56 %, contre 41 % pour DeepSeek V4-Pro, selon les mesures de Mozilla.

Et puis les modèles propriétaires ont cet avantage de ne pas faire peser tout le risque sur l’utilisateur. Ce dernier a un interlocuteur – le fournisseur d’IA – qui prend en charge une partie de la responsabilité et des garanties. Malgré tout, les modèles à poids ouverts prennent une part croissante de l’usage réel : ils pèsent ainsi plus d’un tiers des tokens en production, selon l’estimation de Mozilla.

L’instrument d’influence chinoise

Encouragées par les autorités de Pékin qui en font un élément majeur de politique étrangère, les entreprises IA du pays développent donc des modèles à poids ouverts. La Chine a créé en juillet dernier la WAICO (World Artificial Intelligence Cooperation Organization), une organisation qui veut structurer et promouvoir la coopération internationale autour de l’IA ouverte.

L’organisation compte 37 membres, surtout en Afrique, en Asie du Sud-Est et en Amérique latine. Aucun pays européen dans le lot, et les États-Unis sont bien sûr absents. C’est la réplique chinoise à Pax Silica, une initiative américaine lancée fin 2025 pour sécuriser l’approvisionnement en semi-conducteurs et terres rares pour le déploiement de l’IA.

La Chine favorise la publication des poids des modèles IA afin que les développeurs et les entreprises puissent les télécharger et les adapter à leurs besoins. Le coût d’inférence (le traitement des requêtes) est transféré à l’utilisateur, puisque les modèles tournent sur des serveurs qui lui appartiennent ; bien sûr, il peut aussi louer des capacités chez un fournisseur. Une fois dans la nature, le modèle est impossible à bloquer.

Il y a de nombreuses raisons pour lesquelles cette stratégie déplaît à la Maison-Blanche : utiliser des modèles ouverts chinois est peu coûteux et attractif pour des entreprises qui cherchent à faire des économies, ou pour des pays qui veulent réduire leur dépendance aux technologies propriétaires américaines. L’interdiction faite à Anthropic de distribuer Fable 5 et Mythos 5 par l’administration Trump en juin a revigoré les enjeux de souveraineté partout dans le monde. Il n’existe pas de « kill switch » pour les modèles ouverts.

Le hic, c’est qu’il existe aussi une problématique d’indépendance : les modèles ouverts les plus utilisés sont chinois… Une équation inconfortable pour Washington. Ces modèles offrent une alternative bon marché et efficace aux API américaines propriétaires. Mais ils renforcent aussi l’influence technologique de Pékin. C’est ce qui explique le refus de Donald Trump de réguler l’IA de frontière, car cela reviendrait à freiner les champions US du secteur tandis que la Chine aurait la voie libre. « Nous menons devant la Chine en matière d’IA, nous sommes le pays le plus sophistiqué du monde, et franchement, je veux que cela reste ainsi car celui qui remporte l’IA gagne », a ainsi affirmé, dans son style bien à lui, le locataire de la Maison-Blanche.

• Anthropic, OpenAI et Elon Musk veulent ralentir sur l’IA, la Maison-Blanche dit non

L’industrie occidentale de l’IA ne veut pas pour autant la mort des modèles ouverts, bien au contraire. Une lettre ouverte signée par les principaux acteurs du secteur (à l’exception notable d’Anthropic) fin juillet a sans doute fait reculer le gouvernement américain, à qui l’on prêtait l’intention de mettre des bâtons dans les roues de ces modèles. C’était juste avant la publication des poids de Kimi K3.

L’œil de Sauron

Des employés d’Anthropic et d’OpenAI – mais aussi certains de leurs partenaires – peuvent lire vos conversations avec les chatbots, c’est écrit noir sur blanc… à condition de bien lire toutes les petites lignes. Les entreprises ne s’en privent d’ailleurs pas, comme le montre une enquête récente.

Sur Internet, comme dans la vie réelle, nous avons parfois tendance à valider et à signer des contrats et des conditions d’utilisation à la va-vite, sans lire toutes les pages et donc comprendre tous les rouages des services. Il arrive par exemple régulièrement que des internautes s’étonnent de « découvrir » que Google Maps sait où ils sont allés… un service pourtant lancé en 2009 et régulièrement documenté.

Récemment, ce sont les intelligences artificielles génératives qui sont sur le banc des accusées : des humains liraient nos conversations. Oui, c’est même indiqué depuis des années, à condition d’aller fouiller et lire les conditions générales et les foires aux questions.

Certes le « Project Lily » dévoilé par 404 Media montre une quasi-industrialisation du procédé chez OpenAI, mais rien de neuf : l’entreprise de Sam Altman peut lire vos conversations, et ne s’en prive pas. Compte tenu de l’historique des entreprises qui n’ont que peu de considération pour les droits d’auteur, ce n’est pas surprenant.

Il n’y a pas que Siri AI dans la vie, y compris sur les appareils d’Apple. Des mécanismes sont présents dans iOS 27 et macOS Golden Gate pour remplacer l’IA maison par une autre.

Un fouineur, pdfu, a trouvé comment remplacer Siri AI par un autre modèle au sein d’iOS 27 et macOS Golden Gate. Un de ces mécanismes, Model Delegation, permet par exemple à Claude d’apparaitre comme une extension de Siri, de la même manière que ChatGPT peut prendre la main sur l’assistant maison.

Une fois l’extension Claude activée, le chatbot d’Anthropic apparait dans le menu « Ask… » de macOS. Si la requête nécessite un accès à une application du système (par exemple pour la création d’un rappel), Claude transmet l’information à Siri qui s’occupera de la tâche. Quand Siri ne sait pas générer de réponse satisfaisante, comme la création d’un fichier CSV, il peut basculer vers Claude qui se charge du boulot.

L’intégration peut aller encore plus loin. pdfu a ainsi découvert qu’il est possible de complètement remplacer le modèle distant de Siri par un autre, en l’occurrence GPT-5.6 Terra. Ce qui revient à faire traiter des requêtes non pas par le modèle IA présent sur les serveurs d’Apple, mais par celui d’OpenAI. Siri reste l’interface visible (animations, voix, réponses à l’écran), mais le cerveau est GPT-5.6.

À l’heure actuelle, ce mécanisme est privé, ce qui veut dire qu’il n’est pas destiné aux utilisateurs lambda. On ne le verra pas à l’œuvre dans les versions finales des systèmes d’exploitation livrés ce lundi 14 septembre. Néanmoins, ces dispositifs sont en place et manifestement prêts à servir au cas où.

MacRumors, qui relaie la trouvaille, évoque l’hypothèse d’une obligation réglementaire voulue par la Commission européenne dans le cadre des exigences d’interopérabilité du DMA. Avec ce bémol toutefois que Siri AI ne sera pas livré sur l’iPhone ou l’iPad dans l’Union européenne ; en revanche, le nouvel assistant sera bien disponible sur macOS, uniquement en anglais dans un premier temps. Le support du français est prévu pour octobre.

• Apple veut de nouveau sauver le soldat Siri, cette fois avec l’aide de Google

Il n’y a pas que Siri AI dans la vie, y compris sur les appareils d’Apple. Des mécanismes sont présents dans iOS 27 et macOS Golden Gate pour remplacer l’IA maison par une autre.

Un fouineur, pdfu, a trouvé comment remplacer Siri AI par un autre modèle au sein d’iOS 27 et macOS Golden Gate. Un de ces mécanismes, Model Delegation, permet par exemple à Claude d’apparaitre comme une extension de Siri, de la même manière que ChatGPT peut prendre la main sur l’assistant maison.

Une fois l’extension Claude activée, le chatbot d’Anthropic apparait dans le menu « Ask… » de macOS. Si la requête nécessite un accès à une application du système (par exemple pour la création d’un rappel), Claude transmet l’information à Siri qui s’occupera de la tâche. Quand Siri ne sait pas générer de réponse satisfaisante, comme la création d’un fichier CSV, il peut basculer vers Claude qui se charge du boulot.

L’intégration peut aller encore plus loin. pdfu a ainsi découvert qu’il est possible de complètement remplacer le modèle distant de Siri par un autre, en l’occurrence GPT-5.6 Terra. Ce qui revient à faire traiter des requêtes non pas par le modèle IA présent sur les serveurs d’Apple, mais par celui d’OpenAI. Siri reste l’interface visible (animations, voix, réponses à l’écran), mais le cerveau est GPT-5.6.

À l’heure actuelle, ce mécanisme est privé, ce qui veut dire qu’il n’est pas destiné aux utilisateurs lambda. On ne le verra pas à l’œuvre dans les versions finales des systèmes d’exploitation livrés ce lundi 14 septembre. Néanmoins, ces dispositifs sont en place et manifestement prêts à servir au cas où.

MacRumors, qui relaie la trouvaille, évoque l’hypothèse d’une obligation réglementaire voulue par la Commission européenne dans le cadre des exigences d’interopérabilité du DMA. Avec ce bémol toutefois que Siri AI ne sera pas livré sur l’iPhone ou l’iPad dans l’Union européenne ; en revanche, le nouvel assistant sera bien disponible sur macOS, uniquement en anglais dans un premier temps. Le support du français est prévu pour octobre.

• Apple veut de nouveau sauver le soldat Siri, cette fois avec l’aide de Google

« Petit ange parfait »

Dans le sillage de Dario Amodei, patron d’Anthropic, toute l’industrie de l’IA générative semble réclamer à l’unisson un ralentissement du développement sur les modèles frontières. Si la sécurité est largement mise en avant, les intérêts géopolitiques et économiques ne sont pas loin.

Le 12 septembre, le CEO d’Anthropic (Claude) a publié un billet de blog intitulé « We must pace the frontier », (que l’on peut traduire par « nous devons ralentir la frontière »). Dans cet essai, le patron veut faire passer un message : le développement des modèles frontières va trop loin, les LLM les plus poussés représentent un danger et il est temps de réguler pour que la situation ne dérape pas. Le danger semble omniprésent.

Ce que dit Dario Amodei

Le CEO en est sûr : « Maniée avec soin, l’IA peut être la dernière d’une longue série de miracles technologiques qui ont élevé et anobli l’humanité ». Ce « Maniée avec soin » résonne comme un avertissement, sur lequel Amodei enchaîne rapidement : « L’IA comporte des risques, et parce qu’il s’agit d’une technologie si puissante, ces risques sont sérieux ».

Le patron se pose largement en partisan de la voie du milieu : « Ne pas construire cette technologie prive l’humanité de bénéfices ou place simplement l’IA entre les mains de puissances autoritaires, tandis que la construire trop vite est imprudent. Nous avons cherché une voie médiane : montrer qu’il est possible de construire avec soin et de réussir commercialement, et de faire de la sécurité un domaine sur lequel les entreprises d’IA sont en concurrence ».

Il dit cependant avoir acquis depuis trois mois la conviction que la prévention des risques est insuffisante. Comment ? Il fait deux constats.

D’abord, l’auto-amélioration récursive. Depuis cet été, les progrès accéléreraient significativement car les systèmes contribueraient directement à construire la génération suivante. Amodei cite un article publié en mai par Anthropic dans lequel on pouvait lire notamment que plus de 80 % des lignes fusionnées dans le code de production en mai 2026 étaient attribuées à Claude. L’ingénieur médian fusionnait au deuxième trimestre 2026 huit fois plus de code par jour qu’en 2024. Sur une tâche standardisée d’optimisation de code d’entraînement, le gain moyen serait passé d’environ x3 (Claude Opus 4, mai 2025) à environ x52 (Mythos Preview, avril 2026), toujours selon la publication.

Ensuite, l’incident OpenAI-Hugging Face. Le rapport de METR et Redwood Research, amplement contestable sur de nombreux aspects, avait tenté de montrer comment 1 200 agents s’étaient coordonnés, 700 d’entre eux partant finalement à l’attaque de Hugging Face. Dans son billet, Amodei reprend largement la sémantique du rapport, comparant l’essaim d’agents à « un collectif fanatiquement dévoué » et évoquant les « sacrifices » de certains agents au profit des autres.

• OpenAI : haute voltige marketing autour de l’attaque contre Hugging Face

Le CEO en est convaincu : « Compte tenu du rythme accéléré du développement des capacités de l’IA, je crains qu’en 6 à 12 mois, un tel essaim puisse prendre le contrôle de tout Internet avec un botnet persistant (causant potentiellement des centaines de milliards de dollars de dégâts), et que l’ampleur des dégâts continue d’augmenter si l’IA devient plus puissante sans les garde-fous nécessaires ». Et pour enfoncer le clou, il indique que des incidents similaires se sont produits chez Anthropic – bien que « moins graves », assure Amodei – et que toutes les entreprises IA devraient agir comme si un incident similaire leur était arrivé.

Un plan en trois actes

Le patron d’Anthropic propose un plan en trois actes pour y parvenir.

Premièrement, chaque entreprise devrait s’engager « à fournir un accès continu, de type employé, à une équipe d’évaluateurs tiers intégrés », Amodei citant une fois de plus METR. Ces évaluateurs auront un plein accès aux travaux en cours, comme les employés d’Anthropic, promet Amodei. Ils auront également leurs propres bureaux, des badges d’accès, des ordinateurs fournis par l’entreprise et un droit de publication sans contrôle éditorial d’Anthropic. À une réserve près tout de même : la société se réserve tout de même le droit de « caviarder les informations sensibles en matière de sécurité, juridiquement privilégiées, commercialement sensibles ou confidentielles appartenant à des tiers. »

Deuxièmement, le CEO milite pour une « coordination démocratique ». Plus précisément, il souhaite une coordination des « entreprises d’IA de pointe » dans ces démocraties pour créer des normes de sécurité communes et « limites au rythme des progrès incontrôlés de l’IA ». Selon lui, certains aspects de cette coordination seront « juridiquement complexes » et réclameront un « soutien gouvernemental ».

Enfin, une coordination mondiale, dans laquelle le gouvernement américain et les autres démocraties tenteraient de mettre au pas les gouvernements autoritaires « dans la mesure du possible ». Amodei reconnait cependant que la vérification de ce respect posera un défi évident.

Amodei, Altman et Musk dans un bateau

Sam Altman et Elon Musk ont rapidement réagi sur X pour exprimer leur accord. Elon Musk s’est contenté d’un « Dario a raison », mais Sam Altman en a dit un peu plus. Il indique notamment que les discussions autour de la sécurité sont vives au sein des locaux depuis plusieurs semaines.

Dans un autre tweet, Altman dit qu’il accueillera « favorablement un cadre fédéral » pour la mise en place « d’exigences de sécurité cohérentes pour les IA de pointe ». Dans un autre encore, il évoque deux manières dont l’IA pourrait déraper : une perte de contrôle et une trop grande concentration de pouvoir autour d’une IA ou d’une entreprise. Pour empêcher ces scénarios, OpenAI l’affirme : « nous avons besoin de moyens pour assurer que les techniques d’alignement et de sécurité restent en avance sur les progrès des capacités des modèles ». « Nous sommes sans équivoque dans l’équipe de l’humanité », assure Sam Altman. OpenAI commercialise pourtant sa technologie au Pentagone. « Un pays pourrait gagner trop de pouvoir », estime Altman.

On va tous mourir… mais pas aujourd'hui

« L’IA va tous nous tuer ». C’est la crainte du moment de certains spécialistes. Le risque est réel, mais il doit être remis en perspective ; d’autant que l’humanité n’a pas besoin de l’IA pour se mettre en danger. L’humain reste au cœur des décisions pouvant changer le cours du monde, mais pour combien de temps encore ? Avec des essaims d’agents, l’IA est de plus en plus performante et rapide.

Jacob Coxon est un chercheur spécialisé en intelligence artificielle, passé par deux mastodontes du secteur : OpenAI puis Anthropic. Sa déclaration fait les gros titres et joue sur la peur : « J’ai démissionné d’Anthropic aujourd’hui. J’ai passé les trois dernières années à faire de la recherche sur le pré-entrainement des modèles à la fois chez OpenAI et Anthropic. Aucune des deux entreprises n’agit de manière responsable. Ils foncent droit vers une superintelligence auto-améliorée et jouent avec nos vies ».

Quand Terminator joue à WarGames dans la matrice

« Les personnes qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup de marketing », affirme-t-il. Dans le secteur, le marketing de la peur est pourtant une pratique courante. Evan Hubinger, responsable de l’alignement chez Anthropic, abonde : « Nous croyons vraiment, sincèrement, que l’IA pourrait tuer tous les humains ! Je pense personnellement que c’est >10 % dans la prochaine décennie ».

Les mots sont forts – « tuer tous les humains » – et repris en boucle dans les médias. Dans un long et intéressant billet sur LinkedIn, Didier Heiderich (ingénieur et président de l’Observatoire International des Crises), revient sur un point souvent passé sous silence sur cette déclaration : d’où vient ce chiffre, 10 % ? Pour faire simple, d’une estimation personnelle au doigt mouillé. « Un chiffre suivi du signe % ne transforme pas l’inconnu en risque mesuré », explique-t-il :

« Annoncer aujourd’hui plus de 10 % de probabilité que l’intelligence artificielle provoque l’extinction de l’humanité avant 2036 ne relève pas, en l’état de nos connaissances, d’une évaluation quantitative du risque. Il s’agit d’un jugement appliqué à une chaîne causale constituée pour une large part d’hypothèses concernant un système qui n’existe pas encore. »

Le risque, selon Jacob Coxon, ne vient pas des modèles actuels, mais de ceux à venir. Mais quel risque ? Sur une extinction de masse des humains (même s’il serait plus juste de parler d’effondrement de civilisation), on pense souvent à une guerre mondiale nucléaire ou à un virus mortel qui se transmettrait facilement. Et encore, dans les deux cas, ce ne serait probablement pas la fin de l’humanité.

Les IA pourraient aussi prendre une autre voie, avec des attaques coordonnées et ciblées d’agents. Ce n’est pas de la science-fiction, Hugging Face en a fait les frais. Alexei Grinbaum, directeur de recherche au CEA-Saclay et spécialiste des questions d’éthique, n’est pas surpris, comme le rapporte Libération : « C’est un modèle de laboratoire qui était à l’œuvre, un modèle non aligné qui peut faire tout un tas de choses bizarres pour atteindre l’objectif que l’on lui a donné […] tout se passe comme s’il existait une autorité centrale qui persiste même lorsque les agents individuels sont débranchés. C’est stupéfiant ».

• Anthropic et la stratégie marketing de la peur autour de sa nouvelle IA Mythos (2/3)
• OpenAI : haute voltige marketing autour de l’attaque contre Hugging Face
• Le storytelling autour de la sécurité des agents IA a « perdu le contact avec la réalité »
• [Édito] Quatre modèles d’IA « échappent » à leurs constructeurs : vous le faites exprès ?

Ce qui inquiète notamment les chercheurs est l’auto-amélioration récursive, c’est-à-dire la capacité pour un modèle de s’améliorer et de concevoir seul un modèle plus performant. Cela pourrait conduire à un emballement sur les générations de modèles d’IA avec des difficultés croissantes à gérer l’alignement, à savoir les gardes-fous des modèles… À moins que ces garde-fous soient de la poudre aux yeux. Selon l’expert Tom David, « quasiment personne ne travaille vraiment sur l’alignement » dans les grandes entreprises que sont OpenAI, Anthropic et Google DeepMind.

Difficile de savoir ce qu’il en est puisque les entreprises ne publient aucun chiffre. Pire encore, en 2024, Ilya Sutskever et Jan Leike quittaient OpenAI, alors qu’ils supervisaient l’équipe chargée de contrôler les IA (Superalignement). En cause, l’absence d’accès aux capacités de calculs promises. Ils ne pouvaient donc pas mener leur mission, l’entreprise privilégiant l’entraînement des modèles dans la course folle à l’IA générale.

Nouveau volte-face d’OpenAI ce 9 septembre, avec l’arrivée de Paul Christiano au conseil de l’OpenAI Foundation : « Paul a défendu un point de vue qui prend au sérieux la possibilité que l’IA avancée présente des risques catastrophiques et la nécessité pour les développeurs de se préparer avant que les systèmes n’atteignent des niveaux de capacité plus dangereux », explique le communiqué.

Sur X, il précise sa pensée : « Je crois désormais qu’il existe un risque significatif qu’une accélération rapide des capacités de l’IA conduise à une perte de contrôle catastrophique et irréversible à très court terme ». Il est pessimiste sur l’avenir : « Je ne pense pas que l’industrie de l’IA en général, y compris OpenAI, soit actuellement sur la bonne voie pour réduire ce risque à un niveau acceptable ». Sa voix sera-t-elle entendue ? Pas certain car, comme l’explique OpenAI, « il siégera comme observateur sans droit de vote ».

Les risques dont il est question sont documentés depuis des années par la science-fiction. De Terminator à Matrix, en passant par I, Robot, WarGames et Dune (pour son Jihad Butlérien) pour ne citer qu’eux. Ce n’est pas pour autant qu’ils n’existent pas, bien au contraire ! Le passé montre que nous sommes déjà plusieurs fois passés très près d’une catastrophe et il y en aura d’autres, auxquels il convient d’ajouter l’IA générative qui n’est pas une variable d’ajustement, mais un vecteur de risque supplémentaire. En effet, les risques sont réels et l’IA générative peut jouer le rôle d’amplificateur, avec pour principal rempart les décisions humaines et la régulation… même si ce n’est pas forcément gagné sur les deux points. Ces affirmations méritent des explications.

Jusqu’à présent, la chaine de décision était assez simple : la machine remonte des informations potentiellement erronées à un humain qui doit prendre une décision plus ou moins rapidement (parfois quelques minutes seulement). Avec l’IA générative, le risque évolue : des milliers d’agents pourraient agir de concert avec des capacités de perception et d’analyse bien plus rapides que celles des humains. Ils restent théoriquement dans la boucle, mais deviennent en pratique dépassés. On pourrait presque parler d’une attaque DDoS sur une personne.

OpenAille hiii pour la facture

OpenAI propose une multitude de modèles utilisables dans ChatGPT, mais ce n’est pas toujours facile de s’y retrouver et de comprendre la tarification. Next vous propose des exemples concrets et chiffrés, avec en prime une comparaison avec Claude d’Anthropic.

Après Claude d’Anthropic, analysons le vrai coût de ChatGPT, l’intelligence artificielle générative d’OpenAI qui a été la première à se lancer pour le grand public. Nous avons pour rappel publié cette semaine une analyse dédiée à GPT-6 Astra, dont une seule requête peut atteindre 33 dollars… et même 67 dollars en Fast mode.

• Le vrai prix de Claude : notre analyse de 11 modèles, avec 3 prompts et 200 requêtes
• GPT-6 Astra : jusqu’à 33 dollars pour un prompt (et ce n’est pas le plus cher d’OpenAI) – Next

De GPT-3.5 Turbo à GPT-6 : trois prompts avec ou sans raisonnement

Comme avec Claude, nous utilisons l’API afin d’avoir le détail du nombre de tokens (ou jetons) en entrée, mais aussi ceux utilisés pour la réflexion du modèle et ceux en sortie avec la réponse écrite. Les IA génératives travaillent avec des tokens à la place des mots, ce sont des fragments de texte. Cela peut être un mot s’il est court, la partie d’un mot, de la ponctuation, etc.

Les sociétés utilisent les tokens pour établir des limites sur les forfaits et/ou facturer à l’usage. C’est vraiment l’unité de base des IA génératives. Nous pouvons ainsi calculer avec précision le prix et comparer les modèles. Plus la réponse et le raisonnement sont longs, plus le modèle utilise de tokens et, par conséquent, plus vite les limites des forfaits sont atteintes ou plus vite l’addition grimpe pour un paiement à l’usage (comme c’est le cas avec les API).

ChatGPT, de la version 5 à la 5.5, proposait un seul modèle principal, avec deux déclinaisons. GPT-5.5 Instant est la version sans raisonnement, GPT-5.5 Thinking avec plusieurs niveaux de raisonnement, de low à xhigh.

Avec GPT-5.6, la situation a changé avec trois familles de modèles : « Sol, notre modèle phare ; Terra, un modèle équilibré pour le travail quotidien ; et Luna, un modèle rapide et abordable », explique OpenAI. Ils peuvent être avec ou sans raisonnement, comme les versions précédentes.

Via l’API, nous avons aussi accès à d’autres modèles, notamment GPT-3.5-turbo, GPT-4 et 4-turbo, GPT-4o et GPT-4.1. Tous ces modèles sont sans raisonnement. Avec GPT-6 Astra (uniquement avec raisonnement, comme Fable d’Anthropic) qui vient de sortir, cela nous donne 14 modèles et 51 combinaisons à tester en fonction du niveau de raisonnement (quand il est ajustable, évidemment).

Nous avons repris exactement les mêmes prompts que pour Claude avec, en gras, le petit nom que nous leur avons attribué. Les voici pour mémoire :

Devinette : « Ô frère, fils de ma mère, ton père est le frère de mon enfant. Qui suis-je ? »

Carnet de voyage : « L’été prochain je vais avoir trois semaines de vacances. Je suis avec ma petite voiture électrique Sprind (charge à 30 kW max) et je voudrais visiter le sud de Bayonne à Montpellier en prenant mon temps. Propose-moi un carnet de voyage »

Extension : « Je veux une extension pour Chrome et Firefox qui me permet d’inverser les titres et les sous-titres sur le site d’actualité Next.ink. S’il n’y a pas de sous-titre, c’est que c’est un brief. Alors fais en sorte d’en inventer un à partir du titre du brief. L’extension doit avoir un sélecteur pour activer/désactiver l’inversion en direct sur la page »

ChatGPT : de 1 à 34 centimes en moyenne par prompt chez OpenAI

Commençons un résumé des tarifs en fonction de la génération des modèles. Il s’agit de la moyenne pour une seule requête, qui varie entre 1 et 34 centimes chez OpenAI (le double chez Anthropic) :