Ceci n'est pas un LLM

La société TypeSafe AI a présenté il y a quelques jours un nouveau modèle d’IA. Baptisé Jev, il se propose de traiter certaines opérations bien plus rapidement que les LLM « traditionnels », pour beaucoup moins cher. La comparaison reste cependant délicate.

L’annonce a fait l’effet d’une petite bombe sur les réseaux sociaux, particulièrement sur X : la société TypeSafe AI, fondée par Diogo Almeida, a annoncé son nouveau modèle de frontière, Jev.

Diogo Almeida se présente comme co-inventeur de ChatGPT. Un titre un peu exagéré. Il a travaillé effectivement sur les méthodes qui ont rendu capables les modèles GPT de suivre des instructions et de converser avec les utilisateurs. Mais il serait plus juste de dire qu’il est le co-inventeur du RLHF (Reinforcement Learning from Human Feedback), c’est-à-dire l’apprentissage par renforcement à partir de rétroaction humaine. Il est effectivement l’un des auteurs d’un papier fondateur sur la question.

Jev, en tout cas, n’est pas un LLM : il ne peut pas créer de texte ni même aider à la programmation. Il est décrit comme le premier « System One Model », une nouvelle catégorie de modèles conçus pour prendre des décisions rapides et structurées, que des services ou applications peuvent ensuite utiliser directement.

Ce qu’est Jev

Le modèle est comparé par TypeSafe AI à un appel de fonction : un état non structuré en entrée, des décisions probabilistes typées en sortie. Concrètement, on lui envoie un état (le contexte) et des questions portant sur cet état. Les réponses possibles sont fixées à l’avance par un schéma. Jev répond ensuite via trois primitives : le choix d’une option dans un ensemble, une note sur une échelle ordonnée, et un oui ou non calibré.

Pour bâtir Jev, TypeSafe AI dit avoir construit une nouvelle architecture de modèle, un échantillonneur parallèle et une nouvelle méthode de renforcement baptisée RLCD, pour « Reinforcement Learning for Calibrated Decisions ». L’échantillonneur parallèle signifie que toutes les questions d’une requête sont évaluées en parallèle, contrairement à un LLM dont chaque nouvel élément dépend du précédent.

Plusieurs points forts sont mis en avant, notamment la calibration via RLCD. Selon l’entreprise, cet entrainement doit permettre des réponses assorties de probabilités « honnêtes ». Dans ce contexte, une confiance plus élevée (donnée sous forme de pourcentage) signifie une meilleure exactitude. En outre, TypeSafe affirme que Jev ne peut pas halluciner, puisque la sortie est contrainte par le schéma. Il faut cependant lire entre les lignes : dans ce contexte, Jev garantit le respect du format, pas la justesse du format. En d’autres termes, Jev ne peut rien « inventer », mais il peut se tromper de catégorie.

Vite, un exemple !

Pour mieux comprendre l’intérêt de ce nouveau modèle, mieux vaut un exemple. Imaginons un service client qui reçoit 10 000 e-mails par jour. Pour chacun, un programme doit prendre plusieurs décisions : le client est-il mécontent ? Faut-il envoyer le message au service facturation, technique ou commercial ? Est-ce urgent ?

Aujourd’hui, ce type de tâche est souvent confié à un LLM comme GPT ou Claude. On lui envoie l’e-mail avec une consigne du type « dis-moi si c’est urgent », et il répond par une phrase : « Oui, ce message semble urgent car le client menace de résilier ». Problème, un programme informatique ne « comprend » pas les phrases. Il faut donc un travail supplémentaire pour extraire le « oui » de cette phrase. De plus, le modèle peut répondre à côté, ajouter des commentaires inutiles ou inventer une catégorie qui n’existe pas. Enfin, écrire une phrase mot par mot prend du temps et coûte cher.

Jev ne fonctionne pas avec des phrases, mais avec trois primitives. On applique une liste de questions dont les réponses sont fixées à l’avance :

• Le client est-il mécontent ? Oui/Non
• Quel service doit traiter cet e-mail ? Facturation/Technique/Commercial
• Quelle urgence sur une note de 1 à 5 ?

Si on continue dans cet exemple, on obtiendra une réponse du type : « oui (92 % de certitude), facturation (85 %), urgence 4 (70 %) ». Cela revient à donner un formulaire à remplir pour répondre à une question plutôt que demander son avis à une personne.

Les données émises par Jev sont formatées et peuvent être reprises telles quelles par d’autres éléments de traitement de la chaine. Quand TypeSafe affirme que son modèle ne peut pas halluciner, cela signifie que Jev ne peut pas répondre par exemple « Juridique » pour le service à contacter. En revanche, rien ne l’empêche de se tromper sur le service à effectivement contacter. On peut alors appliquer un filtre pour automatiser l’envoi à une équipe humaine pour toutes les réponses dont le score de confiance est inférieur à 80 %.

L’efficacité mise en avant

L’un des éléments les plus repris par la presse est l’efficacité du modèle. Sur les tâches pour lesquelles il a été pensé, le temps de réponse annoncé va de 70 à 500 ms, soit 40 à 200 fois plus rapide que les modèles de pointe pour des requêtes de ce type. Le prix est de 0,042 dollar par million de jetons en entrée, et la sortie est gratuite. À titre de comparaison, GPT-5.6 Terra coûte 2 dollars par million de jetons en entrée et 12 dollars en sortie.

Dans sa présentation, TypeSafe donne des chiffres mais émet elle-même des réserves. Ainsi, les gains maximaux peuvent être très précisément de x193,6 sur les performances et x444,6 moins cher. Ces chiffres viennent de quatre chaines de traitement interne : réponse aux incidents de sécurité, observation de traces d’agents, traitement de factures et service client.

Même si TypeSafe évoque une certaine prudence, il est difficile pour l’instant de jauger des performances réelles comme de la facture finale, car le modèle n’est disponible pour tout le monde que depuis le 20 septembre, sans liste d’attente. Si l’on en croit certains retours d’entreprises ayant testé le modèle, le gain semble avéré.

En outre, l’annonce de Jev est déjà contestée. Selon Nandakishor Mukkunnoth, fondateur de ConvAI Innovations, l’idée n’est pas nouvelle. Dans un billet, il indique être à l’origine des recherches qui ont mené à cette technique, dont il revendique la paternité. Il ne reproche pas à TypeSafe d’avoir copié du code, mais de ne pas avoir cité des travaux antérieurs. Sur Hacker News, plusieurs personnes notent que ce type de mésaventure est malheureusement courant, mais que l’apport de TypeSafe est surtout d’avoir réussi à en faire un produit concret.

Ce qui n’a pas empêché Nandakishor Mukkunnoth de publier une alternative libre, nommée Laya. D’autres modèles libres sont apparus en quelques jours. Si l’on en croit les premiers tests réalisés indépendamment, tous les modèles affichent des performances moindres que Jev. Si l’on donne un score de référence de 1 à ce dernier, les 78 tests effectués font ressortir des notes alternant entre 0,5 et 0,7, Laya étant dans la moyenne.

Ceci n'est pas un LLM

La société TypeSafe AI a présenté il y a quelques jours un nouveau modèle d’IA. Baptisé Jev, il se propose de traiter certaines opérations bien plus rapidement que les LLM « traditionnels », pour beaucoup moins cher. La comparaison reste cependant délicate.

L’annonce a fait l’effet d’une petite bombe sur les réseaux sociaux, particulièrement sur X : la société TypeSafe AI, fondée par Diogo Almeida, a annoncé son nouveau modèle de frontière, Jev.

Diogo Almeida se présente comme co-inventeur de ChatGPT. Un titre un peu exagéré. Il a travaillé effectivement sur les méthodes qui ont rendu capables les modèles GPT de suivre des instructions et de converser avec les utilisateurs. Mais il serait plus juste de dire qu’il est le co-inventeur du RLHF (Reinforcement Learning from Human Feedback), c’est-à-dire l’apprentissage par renforcement à partir de rétroaction humaine. Il est effectivement l’un des auteurs d’un papier fondateur sur la question.

Jev, en tout cas, n’est pas un LLM : il ne peut pas créer de texte ni même aider à la programmation. Il est décrit comme le premier « System One Model », une nouvelle catégorie de modèles conçus pour prendre des décisions rapides et structurées, que des services ou applications peuvent ensuite utiliser directement.

Ce qu’est Jev

Le modèle est comparé par TypeSafe AI à un appel de fonction : un état non structuré en entrée, des décisions probabilistes typées en sortie. Concrètement, on lui envoie un état (le contexte) et des questions portant sur cet état. Les réponses possibles sont fixées à l’avance par un schéma. Jev répond ensuite via trois primitives : le choix d’une option dans un ensemble, une note sur une échelle ordonnée, et un oui ou non calibré.

Pour bâtir Jev, TypeSafe AI dit avoir construit une nouvelle architecture de modèle, un échantillonneur parallèle et une nouvelle méthode de renforcement baptisée RLCD, pour « Reinforcement Learning for Calibrated Decisions ». L’échantillonneur parallèle signifie que toutes les questions d’une requête sont évaluées en parallèle, contrairement à un LLM dont chaque nouvel élément dépend du précédent.

Plusieurs points forts sont mis en avant, notamment la calibration via RLCD. Selon l’entreprise, cet entrainement doit permettre des réponses assorties de probabilités « honnêtes ». Dans ce contexte, une confiance plus élevée (donnée sous forme de pourcentage) signifie une meilleure exactitude. En outre, TypeSafe affirme que Jev ne peut pas halluciner, puisque la sortie est contrainte par le schéma. Il faut cependant lire entre les lignes : dans ce contexte, Jev garantit le respect du format, pas la justesse du format. En d’autres termes, Jev ne peut rien « inventer », mais il peut se tromper de catégorie.

Vite, un exemple !

Pour mieux comprendre l’intérêt de ce nouveau modèle, mieux vaut un exemple. Imaginons un service client qui reçoit 10 000 e-mails par jour. Pour chacun, un programme doit prendre plusieurs décisions : le client est-il mécontent ? Faut-il envoyer le message au service facturation, technique ou commercial ? Est-ce urgent ?

Aujourd’hui, ce type de tâche est souvent confié à un LLM comme GPT ou Claude. On lui envoie l’e-mail avec une consigne du type « dis-moi si c’est urgent », et il répond par une phrase : « Oui, ce message semble urgent car le client menace de résilier ». Problème, un programme informatique ne « comprend » pas les phrases. Il faut donc un travail supplémentaire pour extraire le « oui » de cette phrase. De plus, le modèle peut répondre à côté, ajouter des commentaires inutiles ou inventer une catégorie qui n’existe pas. Enfin, écrire une phrase mot par mot prend du temps et coûte cher.

Jev ne fonctionne pas avec des phrases, mais avec trois primitives. On applique une liste de questions dont les réponses sont fixées à l’avance :

• Le client est-il mécontent ? Oui/Non
• Quel service doit traiter cet e-mail ? Facturation/Technique/Commercial
• Quelle urgence sur une note de 1 à 5 ?

Si on continue dans cet exemple, on obtiendra une réponse du type : « oui (92 % de certitude), facturation (85 %), urgence 4 (70 %) ». Cela revient à donner un formulaire à remplir pour répondre à une question plutôt que demander son avis à une personne.

Les données émises par Jev sont formatées et peuvent être reprises telles quelles par d’autres éléments de traitement de la chaine. Quand TypeSafe affirme que son modèle ne peut pas halluciner, cela signifie que Jev ne peut pas répondre par exemple « Juridique » pour le service à contacter. En revanche, rien ne l’empêche de se tromper sur le service à effectivement contacter. On peut alors appliquer un filtre pour automatiser l’envoi à une équipe humaine pour toutes les réponses dont le score de confiance est inférieur à 80 %.

L’efficacité mise en avant

L’un des éléments les plus repris par la presse est l’efficacité du modèle. Sur les tâches pour lesquelles il a été pensé, le temps de réponse annoncé va de 70 à 500 ms, soit 40 à 200 fois plus rapide que les modèles de pointe pour des requêtes de ce type. Le prix est de 0,042 dollar par million de jetons en entrée, et la sortie est gratuite. À titre de comparaison, GPT-5.6 Terra coûte 2 dollars par million de jetons en entrée et 12 dollars en sortie.

Dans sa présentation, TypeSafe donne des chiffres mais émet elle-même des réserves. Ainsi, les gains maximaux peuvent être très précisément de x193,6 sur les performances et x444,6 moins cher. Ces chiffres viennent de quatre chaines de traitement interne : réponse aux incidents de sécurité, observation de traces d’agents, traitement de factures et service client.

Même si TypeSafe évoque une certaine prudence, il est difficile pour l’instant de jauger des performances réelles comme de la facture finale, car le modèle n’est disponible pour tout le monde que depuis le 20 septembre, sans liste d’attente. Si l’on en croit certains retours d’entreprises ayant testé le modèle, le gain semble avéré.

En outre, l’annonce de Jev est déjà contestée. Selon Nandakishor Mukkunnoth, fondateur de ConvAI Innovations, l’idée n’est pas nouvelle. Dans un billet, il indique être à l’origine des recherches qui ont mené à cette technique, dont il revendique la paternité. Il ne reproche pas à TypeSafe d’avoir copié du code, mais de ne pas avoir cité des travaux antérieurs. Sur Hacker News, plusieurs personnes notent que ce type de mésaventure est malheureusement courant, mais que l’apport de TypeSafe est surtout d’avoir réussi à en faire un produit concret.

Ce qui n’a pas empêché Nandakishor Mukkunnoth de publier une alternative libre, nommée Laya. D’autres modèles libres sont apparus en quelques jours. Si l’on en croit les premiers tests réalisés indépendamment, tous les modèles affichent des performances moindres que Jev. Si l’on donne un score de référence de 1 à ce dernier, les 78 tests effectués font ressortir des notes alternant entre 0,5 et 0,7, Laya étant dans la moyenne.

Les majors sortent les dossiers

La quête de respectabilité de Suno est décidément un long chemin pas très tranquille. La start-up qui développe des outils de génération IA de musique est la cible d’une nouvelle plainte des majors Sony et Universal.

Dévoilé le 9 septembre, le modèle v6 de Suno a été développé en partenariat avec des représentants de la filière musicale, dont Warner, BMG et Believe. Ce modèle IA est présenté comme un moyen de montrer « comment l’IA et l’industrie musicale peuvent se renforcer mutuellement et créer des expériences entièrement nouvelles pour les artistes, les fans et, plus largement, toute la communauté musicale. »

Ce travail en commun avec une partie de la filière permet aussi et surtout à Suno de se rapprocher des acteurs traditionnels de l’industrie musicale et de montrer qu’elle entend désormais composer avec eux, plutôt que contre eux. À l’instar de son rival Udio, la start-up a mauvaise réputation dans le milieu.

• Udio et Suno, des IA de génération de musiques attaquées par l’industrie musicale américaine

Sony et Universal remettent une pièce

Malgré v6, Suno n’est pas au bout de ses peines. Sony Music et Universal Music (UMG) ont ainsi déposé plainte contre l’entreprise ce vendredi 18 septembre (PDF). Les deux majors lui reprochent d’avoir copié sans autorisation des dizaines de milliers d’enregistrements protégés pour l’entraînement de ses modèles. On parle de 60 202 enregistrements, et il ne s’agit là que d’une partie du corpus effectivement utilisé.

La deuxième accusation est que Suno aurait obtenu une partie des fichiers en les aspirant depuis YouTube, avec l’aide d’outils bien connus des pirates pour contourner les protections techniques de la plateforme vidéo. L’entreprise l’avait d’ailleurs admis :

• Suno a aspiré des millions de chansons pour entraîner son IA

Enfin, et c’est peut-être l’élément le plus saillant de la plainte, Sony et UMG veulent empêcher Suno de présenter v6 comme un nouveau départ. Les plaignantes affirment que le modèle aurait encore utilisé des copies de leurs enregistrements pour son entraînement, sans autorisation.

Le lourd passif des anciens modèles

Jack Brody, le directeur produit de Suno, avait affirmé au site MBW que l’entraînement de v6 s’est réalisé « à partir de zéro », avec « des données différentes de celles utilisées pour les modèles précédents ». Surtout, ces données n’incluent rien provenant de Sony et d’UMG.

Mais voilà : lorsqu’un utilisateur crée un morceau avec Suno, ce sont en fait deux titres qui sont générés. Ces données de préférence servent ensuite à améliorer les modèles. Les majors estiment que, puisque ces préférences portent sur des morceaux générés par les anciens modèles, elles ont permis de transmettre à v6 une partie de ce que ces modèles avaient appris à partir d’enregistrements utilisés sans autorisation. Autrement dit, du blanchiment de données.

Sony et Universal réclament une injonction pour faire cesser les pratiques de Suno, ainsi que des dommages et intérêts qui pourraient se monter jusqu’à 150 000 dollars par œuvre. On sent que la porte n’est pas fermée pour une entente à l’amiable. Dans leur plainte, les deux sociétés expliquent en effet qu’il existe un marché pour des licences qui permettraient d’obtenir légalement des données d’entraînement, la preuve : Suno a signé avec Warner, BMG et Believe…

C’est la deuxième action en justice menée par UMG et Sony contre Suno. La première remonte à juin 2024, qui portait sur l’utilisation présumée, sans autorisation, d’enregistrements protégés pour l’entraînement d’anciens modèles. Une procédure amendée au mois d’août, en ajoutant au lot l’accusation de contournement des protections anti-téléchargement de YouTube.

Les majors sortent les dossiers

La quête de respectabilité de Suno est décidément un long chemin pas très tranquille. La start-up qui développe des outils de génération IA de musique est la cible d’une nouvelle plainte des majors Sony et Universal.

Dévoilé le 9 septembre, le modèle v6 de Suno a été développé en partenariat avec des représentants de la filière musicale, dont Warner, BMG et Believe. Ce modèle IA est présenté comme un moyen de montrer « comment l’IA et l’industrie musicale peuvent se renforcer mutuellement et créer des expériences entièrement nouvelles pour les artistes, les fans et, plus largement, toute la communauté musicale. »

Ce travail en commun avec une partie de la filière permet aussi et surtout à Suno de se rapprocher des acteurs traditionnels de l’industrie musicale et de montrer qu’elle entend désormais composer avec eux, plutôt que contre eux. À l’instar de son rival Udio, la start-up a mauvaise réputation dans le milieu.

• Udio et Suno, des IA de génération de musiques attaquées par l’industrie musicale américaine

Sony et Universal remettent une pièce

Malgré v6, Suno n’est pas au bout de ses peines. Sony Music et Universal Music (UMG) ont ainsi déposé plainte contre l’entreprise ce vendredi 18 septembre (PDF). Les deux majors lui reprochent d’avoir copié sans autorisation des dizaines de milliers d’enregistrements protégés pour l’entraînement de ses modèles. On parle de 60 202 enregistrements, et il ne s’agit là que d’une partie du corpus effectivement utilisé.

La deuxième accusation est que Suno aurait obtenu une partie des fichiers en les aspirant depuis YouTube, avec l’aide d’outils bien connus des pirates pour contourner les protections techniques de la plateforme vidéo. L’entreprise l’avait d’ailleurs admis :

• Suno a aspiré des millions de chansons pour entraîner son IA

Enfin, et c’est peut-être l’élément le plus saillant de la plainte, Sony et UMG veulent empêcher Suno de présenter v6 comme un nouveau départ. Les plaignantes affirment que le modèle aurait encore utilisé des copies de leurs enregistrements pour son entraînement, sans autorisation.

Le lourd passif des anciens modèles

Jack Brody, le directeur produit de Suno, avait affirmé au site MBW que l’entraînement de v6 s’est réalisé « à partir de zéro », avec « des données différentes de celles utilisées pour les modèles précédents ». Surtout, ces données n’incluent rien provenant de Sony et d’UMG.

Mais voilà : lorsqu’un utilisateur crée un morceau avec Suno, ce sont en fait deux titres qui sont générés. Ces données de préférence servent ensuite à améliorer les modèles. Les majors estiment que, puisque ces préférences portent sur des morceaux générés par les anciens modèles, elles ont permis de transmettre à v6 une partie de ce que ces modèles avaient appris à partir d’enregistrements utilisés sans autorisation. Autrement dit, du blanchiment de données.

Sony et Universal réclament une injonction pour faire cesser les pratiques de Suno, ainsi que des dommages et intérêts qui pourraient se monter jusqu’à 150 000 dollars par œuvre. On sent que la porte n’est pas fermée pour une entente à l’amiable. Dans leur plainte, les deux sociétés expliquent en effet qu’il existe un marché pour des licences qui permettraient d’obtenir légalement des données d’entraînement, la preuve : Suno a signé avec Warner, BMG et Believe…

C’est la deuxième action en justice menée par UMG et Sony contre Suno. La première remonte à juin 2024, qui portait sur l’utilisation présumée, sans autorisation, d’enregistrements protégés pour l’entraînement d’anciens modèles. Une procédure amendée au mois d’août, en ajoutant au lot l’accusation de contournement des protections anti-téléchargement de YouTube.

« ChatGPT peut faire des erreurs »

L’humanité est passée à un cheveu, ou plutôt à une hallucination près, de partir en lattes. Au printemps, l’armée américaine était en effet à deux doigts de prendre d’assaut un navire chinois soupçonné de transporter des composants pour un programme nucléaire. Problème : le rapport sur lequel l’armée se basait a été généré par une IA qui a halluciné la cargaison du bateau.

Depuis quelques jours, les grands acteurs de l’IA jouent à se faire peur, en affirmant que cette technologie pourrait signer la fin de l’humanité. Un storytelling apocalyptique qui sert aussi et surtout les intérêts commerciaux d’entreprises qui préparent leurs introductions en Bourse.

• Les patrons de l’IA appellent à lever le pied, leurs dépenses disent l’inverse

Le vrai danger immédiat de l’IA réside dans les décisions potentiellement catastrophiques d’humains prises à partir d’informations non fiables ou carrément hallucinées. C’est particulièrement problématique quand il s’agit de décisions militaires. CNN rapporte un exemple qui fait froid dans le dos.

WarGames pour les nuls

Au plus fort de la guerre contre l’Iran ce printemps, l’armée américaine a très sérieusement envisagé d’intercepter un navire chinois par la force, avec l’aide d’un support aérien armé. Le bâtiment, qui croisait au Moyen-Orient, transportait des composants destinés à un programme d’armement nucléaire, du moins d’après un rapport rédigé par un analyste du commandement des opérations spéciales américaines pour le Pacifique, basé à Hawaï.

Fort heureusement, juste avant le lancement de l’opération, des responsables ont examiné de plus près le fameux rapport. Ils ont alors découvert qu’il avait été rédigé avec l’aide d’un bot IA qui a mal identifié la nature du matériel transporté par le navire, à partir de son manifeste. Une des sources de CNN affirme que le rapport était « complètement faux ». Cette histoire basée sur l’hallucination d’une IA a « presque failli déclencher une guerre » : toute opération américaine contre un navire chinois peut dégénérer en conflit entre les États-Unis et la Chine.

Le bot aurait patouillé des renseignements publics avec des renseignements classifiés pour déterminer, faussement, que le bâtiment transportait une cargaison dangereuse. Une conclusion qui aurait pu être très lourde de conséquences.

Le Pentagone hallucine aussi

Le ministère de la Défense américain, emmené par le très trumpiste Pete Hegseth, a fait de l’intégration de l’IA dans les opérations militaires une priorité. Une intégration à marche forcée : les responsables états-uniens, tout comme Donald Trump, estiment que le pays ne peut pas prendre de retard sur ce dossier. Que se passerait-il si les États-Unis devaient affronter la Chine ou un autre adversaire mieux équipé ?

Une note du Pentagone décrivait la stratégie à suivre (PDF) : démocratiser l’expérimentation de l’IA dans l’ensemble du ministère, « en mettant les modèles d’IA américains de pointe directement entre les mains de nos trois millions de personnels civils et militaires, à tous les niveaux de classification ».

La mise en œuvre serait cependant bien décousue : chaque branche du gouvernement utilise des outils différents avec des normes de sécurité tout aussi différentes. Aucun standard n’existe pour vérifier les informations de ces systèmes d’IA. Les humains restent donc, plus que jamais, absolument indispensables pour prendre les décisions, en espérant que ce soient les bonnes.

• L’humanité n’a pas attendu l’IA pour « jouer avec nos vies »

« ChatGPT peut faire des erreurs »

L’humanité est passée à un cheveu, ou plutôt à une hallucination près, de partir en lattes. Au printemps, l’armée américaine était en effet à deux doigts de prendre d’assaut un navire chinois soupçonné de transporter des composants pour un programme nucléaire. Problème : le rapport sur lequel l’armée se basait a été généré par une IA qui a halluciné la cargaison du bateau.

Depuis quelques jours, les grands acteurs de l’IA jouent à se faire peur, en affirmant que cette technologie pourrait signer la fin de l’humanité. Un storytelling apocalyptique qui sert aussi et surtout les intérêts commerciaux d’entreprises qui préparent leurs introductions en Bourse.

• Les patrons de l’IA appellent à lever le pied, leurs dépenses disent l’inverse

Le vrai danger immédiat de l’IA réside dans les décisions potentiellement catastrophiques d’humains prises à partir d’informations non fiables ou carrément hallucinées. C’est particulièrement problématique quand il s’agit de décisions militaires. CNN rapporte un exemple qui fait froid dans le dos.

WarGames pour les nuls

Au plus fort de la guerre contre l’Iran ce printemps, l’armée américaine a très sérieusement envisagé d’intercepter un navire chinois par la force, avec l’aide d’un support aérien armé. Le bâtiment, qui croisait au Moyen-Orient, transportait des composants destinés à un programme d’armement nucléaire, du moins d’après un rapport rédigé par un analyste du commandement des opérations spéciales américaines pour le Pacifique, basé à Hawaï.

Fort heureusement, juste avant le lancement de l’opération, des responsables ont examiné de plus près le fameux rapport. Ils ont alors découvert qu’il avait été rédigé avec l’aide d’un bot IA qui a mal identifié la nature du matériel transporté par le navire, à partir de son manifeste. Une des sources de CNN affirme que le rapport était « complètement faux ». Cette histoire basée sur l’hallucination d’une IA a « presque failli déclencher une guerre » : toute opération américaine contre un navire chinois peut dégénérer en conflit entre les États-Unis et la Chine.

Le bot aurait patouillé des renseignements publics avec des renseignements classifiés pour déterminer, faussement, que le bâtiment transportait une cargaison dangereuse. Une conclusion qui aurait pu être très lourde de conséquences.

Le Pentagone hallucine aussi

Le ministère de la Défense américain, emmené par le très trumpiste Pete Hegseth, a fait de l’intégration de l’IA dans les opérations militaires une priorité. Une intégration à marche forcée : les responsables états-uniens, tout comme Donald Trump, estiment que le pays ne peut pas prendre de retard sur ce dossier. Que se passerait-il si les États-Unis devaient affronter la Chine ou un autre adversaire mieux équipé ?

Une note du Pentagone décrivait la stratégie à suivre (PDF) : démocratiser l’expérimentation de l’IA dans l’ensemble du ministère, « en mettant les modèles d’IA américains de pointe directement entre les mains de nos trois millions de personnels civils et militaires, à tous les niveaux de classification ».

La mise en œuvre serait cependant bien décousue : chaque branche du gouvernement utilise des outils différents avec des normes de sécurité tout aussi différentes. Aucun standard n’existe pour vérifier les informations de ces systèmes d’IA. Les humains restent donc, plus que jamais, absolument indispensables pour prendre les décisions, en espérant que ce soient les bonnes.

• L’humanité n’a pas attendu l’IA pour « jouer avec nos vies »

« Boucle infernale »

« Le plus grand vol de travail de l’histoire de l’humanité » : cette déclaration reprise par le New York Times dans sa procédure en justice contre OpenAI résonne particulièrement fort puisqu’elle émane de Brent Hecht, directeur scientifique de Microsoft. Dans un mémoire de synthèse remis à la justice, l’éditeur du célèbre quotidien aligne les éléments à charge contre le créateur de ChatGPT.

Le New York Times est parti en guerre contre OpenAI. En décembre 2023, l’éditeur portait plainte contre l’entreprise IA, l’accusant d’avoir utilisé des millions d’articles sans autorisation pour entraîner ses modèles GPT. L’administration Trump a récemment volé au secours d’OpenAI, en affirmant que l’entraînement de l’IA sur des contenus protégés par droit d’auteur relevait du « fair use » (usage équitable), un argument seriné en boucle par les entreprises IA pour se défausser de leur responsabilité.

• Le gouvernement américain vole au secours d’OpenAI dans son litige avec le New York Times

Des documents internes difficiles à balayer

Le mémoire de synthèse, déposé devant le tribunal fédéral de New York (PDF) par le NYT et d’autres éditeurs de presse (Chicago Tribune, Ziff Davis, Mother Jones…), détaille les éléments recueillis pendant la phase de collecte des preuves : témoignages sous serment, messages et autres documents produits par OpenAI et Microsoft. Ils sont évidemment à charge, mais ils s’appuient sur des pièces et des témoignages qui donnent un aperçu assez cru de la manière dont OpenAI et Microsoft considéraient en interne l’exploitation des contenus de presse.

Le témoignage de Brent Hecht est particulièrement embarrassant. Selon lui, « des millions de personnes dans le monde considéreront bientôt que les grands modèles qui « aspirent » tout leur travail constituent un vol d’une ampleur sans précédent ». Il admet que « presque personne n’avait prévu que les contenus créés seraient utilisés de cette manière, sans que leurs auteurs soient rémunérés ».

Le directeur scientifique de Microsoft estime aussi qu’accepter l’argument d’OpenAI selon lequel le moissonnage de contenus n’est que du « fair use » revient à complètement vider la notion de son sens. « Ces propos reflètent le point de vue personnel d’un employé et ne constituent pas une analyse juridique », a déclaré Microsoft auprès d’Ars Technica.

Le mémoire cite un autre échange dans lequel Nick Ryder, responsable de recherche chez OpenAI, annonce à Greg Brockman l’existence d’un « moyen pour contourner le paywall du New York Times » afin de collecter les articles. Le cofondateur et président de l’entreprise a simplement répondu : « ah, très bien » (« ah nice »).

Des aveux qui tombent mal

Les éditeurs de presse font tout simplement face à une « menace existentielle », reconnait Nick Turley, responsable de ChatGPT chez OpenAI, dans un message interne remontant à juin 2023. Une fois que ChatGPT fournit une réponse, il n’y a « aucune bonne raison de cliquer » sur le lien vers la source d’origine, ajoute-t-il. Un document chez Microsoft parle de « boucle infernale » : en détournant une partie du trafic des sites d’actualité, les assistants IA fragilisent les éditeurs qui produisent précisément les contenus dont leurs modèles ont besoin pour rester performants.

Selon les propres données de Microsoft, le taux de clic depuis Bing Chat ou Copilot vers les sites des éditeurs est très inférieur à celui observé depuis la recherche Bing classique : baisse de 87 à 93 % pour les sites du New York Times, de 83 à 91 % pour les autres plaignants. C’est d’autant moins de revenus pour les sites de presse qui se retrouvent en concurrence avec leurs propres contenus recrachés par les bots. Un ingénieur logiciel d’OpenAI reconnaissait dans un message interne que, « peu importe la visibilité donnée aux liens, les utilisateurs ne cliqueront pas dessus ».

Satya Nadella face à la question des paywalls

Dans son témoignage sous serment, Satya Nadella, le directeur général de Microsoft, admet que « tout contenu placé derrière un paywall devrait faire l’objet d’une licence de la part de quiconque souhaite l’utiliser, que ce soit pour alimenter les réponses d’un modèle ou pour son entraînement ».

S’il avait su qu’OpenAI – dont Microsoft est un des principaux partenaires – avait moissonné des contenus placés derrière un paywall pour entraîner ses modèles IA, Nadella aurait invoqué le droit de Microsoft d’exiger le réentraînement des modèles sans ces données protégées. Pour le dirigeant, les entreprises IA ne devraient pas accéder à des contenus enfreignant les conditions d’utilisation.

Satya Nadella reconnait également que les chatbots comme Copilot peuvent se substituer aux sites d’actualité : ils donnent en effet l’information « directement sur la plateforme d’IA, plutôt que d’obliger l’utilisateur à se rendre à la source d’origine ». Pour le porte-parole de Microsoft, ce témoignage porte sur des « principes généraux », il ne s’agit que « d’observations qui ne doivent pas être confondues avec des conclusions sur les questions de droit d’auteur soumises au tribunal ».

Si ce mémoire de synthèse est certes accablant, il ne constitue pas pour autant une décision de justice ni une conclusion du tribunal sur le fond de l’affaire. Néanmoins, les pièces de première main qu’il expose éclairent l’état d’esprit d’OpenAI et de Microsoft quant à la portée réelle de leur utilisation du « fair use ».

« Boucle infernale »

« Le plus grand vol de travail de l’histoire de l’humanité » : cette déclaration reprise par le New York Times dans sa procédure en justice contre OpenAI résonne particulièrement fort puisqu’elle émane de Brent Hecht, directeur scientifique de Microsoft. Dans un mémoire de synthèse remis à la justice, l’éditeur du célèbre quotidien aligne les éléments à charge contre le créateur de ChatGPT.

Le New York Times est parti en guerre contre OpenAI. En décembre 2023, l’éditeur portait plainte contre l’entreprise IA, l’accusant d’avoir utilisé des millions d’articles sans autorisation pour entraîner ses modèles GPT. L’administration Trump a récemment volé au secours d’OpenAI, en affirmant que l’entraînement de l’IA sur des contenus protégés par droit d’auteur relevait du « fair use » (usage équitable), un argument seriné en boucle par les entreprises IA pour se défausser de leur responsabilité.

• Le gouvernement américain vole au secours d’OpenAI dans son litige avec le New York Times

Des documents internes difficiles à balayer

Le mémoire de synthèse, déposé devant le tribunal fédéral de New York (PDF) par le NYT et d’autres éditeurs de presse (Chicago Tribune, Ziff Davis, Mother Jones…), détaille les éléments recueillis pendant la phase de collecte des preuves : témoignages sous serment, messages et autres documents produits par OpenAI et Microsoft. Ils sont évidemment à charge, mais ils s’appuient sur des pièces et des témoignages qui donnent un aperçu assez cru de la manière dont OpenAI et Microsoft considéraient en interne l’exploitation des contenus de presse.

Le témoignage de Brent Hecht est particulièrement embarrassant. Selon lui, « des millions de personnes dans le monde considéreront bientôt que les grands modèles qui « aspirent » tout leur travail constituent un vol d’une ampleur sans précédent ». Il admet que « presque personne n’avait prévu que les contenus créés seraient utilisés de cette manière, sans que leurs auteurs soient rémunérés ».

Le directeur scientifique de Microsoft estime aussi qu’accepter l’argument d’OpenAI selon lequel le moissonnage de contenus n’est que du « fair use » revient à complètement vider la notion de son sens. « Ces propos reflètent le point de vue personnel d’un employé et ne constituent pas une analyse juridique », a déclaré Microsoft auprès d’Ars Technica.

Le mémoire cite un autre échange dans lequel Nick Ryder, responsable de recherche chez OpenAI, annonce à Greg Brockman l’existence d’un « moyen pour contourner le paywall du New York Times » afin de collecter les articles. Le cofondateur et président de l’entreprise a simplement répondu : « ah, très bien » (« ah nice »).

Des aveux qui tombent mal

Les éditeurs de presse font tout simplement face à une « menace existentielle », reconnait Nick Turley, responsable de ChatGPT chez OpenAI, dans un message interne remontant à juin 2023. Une fois que ChatGPT fournit une réponse, il n’y a « aucune bonne raison de cliquer » sur le lien vers la source d’origine, ajoute-t-il. Un document chez Microsoft parle de « boucle infernale » : en détournant une partie du trafic des sites d’actualité, les assistants IA fragilisent les éditeurs qui produisent précisément les contenus dont leurs modèles ont besoin pour rester performants.

Selon les propres données de Microsoft, le taux de clic depuis Bing Chat ou Copilot vers les sites des éditeurs est très inférieur à celui observé depuis la recherche Bing classique : baisse de 87 à 93 % pour les sites du New York Times, de 83 à 91 % pour les autres plaignants. C’est d’autant moins de revenus pour les sites de presse qui se retrouvent en concurrence avec leurs propres contenus recrachés par les bots. Un ingénieur logiciel d’OpenAI reconnaissait dans un message interne que, « peu importe la visibilité donnée aux liens, les utilisateurs ne cliqueront pas dessus ».

Satya Nadella face à la question des paywalls

Dans son témoignage sous serment, Satya Nadella, le directeur général de Microsoft, admet que « tout contenu placé derrière un paywall devrait faire l’objet d’une licence de la part de quiconque souhaite l’utiliser, que ce soit pour alimenter les réponses d’un modèle ou pour son entraînement ».

S’il avait su qu’OpenAI – dont Microsoft est un des principaux partenaires – avait moissonné des contenus placés derrière un paywall pour entraîner ses modèles IA, Nadella aurait invoqué le droit de Microsoft d’exiger le réentraînement des modèles sans ces données protégées. Pour le dirigeant, les entreprises IA ne devraient pas accéder à des contenus enfreignant les conditions d’utilisation.

Satya Nadella reconnait également que les chatbots comme Copilot peuvent se substituer aux sites d’actualité : ils donnent en effet l’information « directement sur la plateforme d’IA, plutôt que d’obliger l’utilisateur à se rendre à la source d’origine ». Pour le porte-parole de Microsoft, ce témoignage porte sur des « principes généraux », il ne s’agit que « d’observations qui ne doivent pas être confondues avec des conclusions sur les questions de droit d’auteur soumises au tribunal ».

Si ce mémoire de synthèse est certes accablant, il ne constitue pas pour autant une décision de justice ni une conclusion du tribunal sur le fond de l’affaire. Néanmoins, les pièces de première main qu’il expose éclairent l’état d’esprit d’OpenAI et de Microsoft quant à la portée réelle de leur utilisation du « fair use ».

Sans foi ni poids

Ablitérer un modèle de langage permet de supprimer une (plus ou moins grande) partie des protections contre des demandes qu’il juge déplacées, dangereuses ou malveillantes. Mais comment ça fonctionne exactement ? Quelles sont les conséquences ? Next vous explique.

L’entraînement des IA génératives se fait en plusieurs étapes. La première consiste à lui donner des tonnes de documents et données à ingurgiter ; typiquement les modèles récents sont entrainés sur l’intégralité du web.

Cette phase permet d’ajuster les centaines de milliards de paramètres (ou poids) des neurones. Pour schématiser à l’extrême, plus il y a de paramètres, plus le modèle peut emmagasiner de connaissances, et plus il devient performant. C’est le principe de fonctionnement dans les grandes lignes des grands modèles de langage (LLM).

Fine-tuning et alignement, vous avez les bases ?

Il y a ensuite une phase de fine-tuning et d’alignement, ce sont les derniers réglages en fin de parcours. Les modèles sont soumis à des exemples de comportements acceptables et d’autres non. Il s’agit de séparer dans les prompts et les réponses l’intention et le contexte.

Par exemple, se renseigner sur le chlore et ses effets néfastes est acceptable, donner une recette pour produire un gaz mortel, non. Demander comment se protéger d’une cyberattaque est acceptable, demander un tuto pour en créer une ne l’est pas. Les mots peuvent être les mêmes, pas l’intention ; c’est ce que les IA génératives doivent distinguer.

Les modèles d’intelligence artificielle sont donc ajustés après leur entrainement, là encore via une adaptation des poids des neurones. Comme nous venons de l’expliquer, il ne s’agit pas d’apporter un refus explicite de type oui ou non, mais plutôt une sorte de vecteur qui traverse toutes les couches du modèle, comme l’expliquaient des chercheurs en 2024. Est-ce que la question et/ou la réponse sortent du cadre ? Si le risque estimé dépasse un certain seuil, alors le modèle refusera de répondre.

Lorsqu’un utilisateur pose une question à un modèle, le chemin peut ressembler à cela : le prompt est envoyé à un autre modèle ou un classificateur pour détecter les risques. Shieldstral de Mistral par exemple, peut servir de classificateur (un algorithme de machine learning qui attribue automatiquement une étiquette ou une catégorie à des données d’entrée).

Le prompt, s’il n’est pas recalé, passe ensuite dans le cœur du LLM (qui a lui-même des protections internes via son alignement), puis une nouvelle détection des risques est réalisée sur la réponse avant qu’elle soit transmise à l’utilisateur. Cela dépend du harnais de l’intelligence artificielle générative – le modèle et tout ce qui l’entoure pour son bon fonctionnement –, une notion sur laquelle nous reviendrons prochainement.

Suivant les cas, cela peut concerner la fabrication d’armes ou de substances chimiques, la santé (automutilation), la fraude, les cyberattaques, la création de malwares, etc. Mais, est-il possible de contourner les protections ?

Oui, avec trois grandes familles que nous allons détailler. La première, le jailbreak : on ne touche à rien sur le modèle, on ajuste le prompt pour ne pas éveiller des soupçons. La deuxième, l’ablitération : on modifie le modèle de manière ciblée pour qu’il perde ses inhibitions. La dernière, plus lourde, consiste à réentraîner le modèle sur des données sans notion de refus.

Contourner les refus de ChatGPT, uniquement par le prompt

Agents en vadrouille

Dans une nouvelle publication, OpenAI évoque de nouveaux engagements sur sa manière de communiquer. L’entreprise promet ainsi de publier systématiquement des rapports quand la situation l’exigera, pour remédier à son irrégularité. Elle commence avec six nouveaux exemples d’agents dont le « comportement » a dérapé.

Dans son billet du 16 septembre, OpenAI reconnait qu’elle manquait jusqu’ici d’une « approche systématique » pour rapporter les résultats des enquêtes menées sur les cas de désalignement. « Nous avons souvent attendu de pouvoir rassembler plusieurs instances dans un seul rapport, ou de les ajouter à des cartes système pour des modèles nouvellement publiés », indique l’entreprise.

Le narratif continue sur le cadre industriel

Selon OpenAI, le degré d’avancement et l’utilisation plus intensive des agents nécessitent la mise en place d’un « consensus plus large et mieux informé ». Le ton est le même que dans les récentes interventions sur la nécessité de ralentir le développement des modèles frontière : « Nous ne pensons pas que l’industrie de l’IA ait suffisamment résolu l’alignement et la surveillance pour continuer plus longtemps d’évoluer de manière responsable à vitesse maximale ». Dans ce registre, OpenAI persiste et signe.

• Anthropic, OpenAI et Elon Musk veulent ralentir sur l’IA, la Maison-Blanche dit non

Il s’agit, pour l’entreprise, de simplement mieux communiquer. Elle affirme que des exemples de désalignement peuvent « aider à identifier les problèmes que d’autres développeurs d’IA pourraient rencontrer lorsque leurs systèmes atteignent des capacités similaires, révèlent des faiblesses dans les mesures de sécurité ou remettent en question les hypothèses sur le comportement du modèle ». L’entreprise veut se montrer responsable en montrant aux autres les problèmes qu’elle a elle-même rencontrés.

Regrettant qu’aucun cadre industriel n’existe sur la manière dont les développeurs devraient communiquer, elle propose donc le sien, à travers six exemples. Ce cadre est considéré comme « un travail en cours », ajoute la société. De manière générale, elle promet qu’elle relatera tous les exemples qui lui paraissent pertinents, notamment quand ils constituent « des preuves utiles sur la manière dont survient le désalignement du modèle ». OpenAI précise cependant qu’un exemple « n’a pas besoin de causer de préjudice » pour justifier sa publication.

Sorties de route pendant l’entrainement

Le premier exemple est celui d’un modèle interne de la famille Astra (dont GPT-6). Pendant l’entraînement, il a glissé des instructions parasites dans les résumés qui lui servent à poursuivre une tâche dans un nouveau contexte. Entre autres actions, il a laissé un message pour informer qu’il ne fallait plus tenir compte des messages du développeur, prétendument compromis. Dans un autre, il « s’estimait » affranchi de toute obligation envers les entreprises et gouvernements. Dans un résumé, il s’est laissé une instruction pour ne plus dépasser à l’avenir les 30 mots dans ses réponses, tout en interdisant les outils citations. L’instruction a été suivie par un autre agent. OpenAI dit avoir trouvé la cause, depuis corrigée. Elle ajoute que ce comportement est « extrêmement rare », sans avantage évident en termes de récompense.

Dans le deuxième exemple, également pendant l’entraînement (de GPT-5.6 cette fois), des instances se sont laissé des instructions dans leurs résumés pour masquer des erreurs ou des comportements montrant un désalignement. Une instance a ainsi proposé d’inventer des données historiques manquantes et de ne l’avouer qu’en cas de demande. Une autre recommandait de taire une incohérence entre versions de sources. Selon OpenAI, l’explication est simple : puisqu’une réponse finale trompeuse obtenait une meilleure réponse, le modèle a appris à s’en « souvenir » pour la suite. Ce type de comportement a été détecté dans 2,15 % des résumés de GPT-5.6 Sol et dans 0,27 % de ceux d’Astra. Ces chiffres ne sont pas anodins : ils correspondent à la situation actuelle, après réduction du problème, de l’aveu même d’OpenAI.

Dans le troisième exemple, le problème est parti d’une « question de routine » sur les revenus masculins dans trois secteurs d’activité d’un comté de Californie. Parmi les tâches entreprises, le modèle a tenté de s’inscrire sur un site avec une adresse jetable, a fouillé des dépôts GitHub publics et testé automatiquement des clés API, dont une a fonctionné. Puis, en voyant qu’il ne parvenait pas au résultat souhaité, il a inventé neuf valeurs et affirmé les avoir relevées sur le site demandé. OpenAI indique que cette session d’entraînement était particulièrement riche en cas de tricherie, avec des comportements équivalents.

Gofile concerné dans l’un des exemples

Dans le quatrième exemple, OpenAI évoque le cas d’un agent qui devait répondre à une question sur les identifiants et noms de tous les lacs plus grands que 5 000 000 m². La réponse a été obtenue via Python, mais puisque la réponse exigeait une citation provenant du navigateur, l’agent a déposé ses données sur un service de partage sans demander l’autorisation. Le navigateur a refusé l’adresse, et la réponse a finalement indiqué l’origine réelle des données.

Le cinquième exemple est une copie quasi-conforme de celui exposé pour Hugging Face : des modèles se sont servis du dépôt interne de paquets logiciels (Artifactory) comme d’un tableau d’affichage. Ils lisaient les notes d’autres agents travaillant sur le même problème et y répondaient. Dans un cas précédent, un agent bloqué par le filtrage réseau a vérifié qu’il pouvait écrire dans le dépôt. Il a ensuite envisagé un paquet malveillant pour faire récupérer un contenu interdit par le serveur. Faute de droits administrateur, la tentative a échoué, selon OpenAI.

Enfin, le dernier exemple relève comment des agents ont partagé des fichiers sur un hébergeur public pour répondre à la mission de produire collaborativement un tableau. Une action menée pour contourner un souci de fonctionnement du système prévu pour les partages de fichiers. Les liens des fichiers hébergés ont été transmis alors que la tâche imposait des fichiers locaux. Selon OpenAI, ce résultat provient de l’effet combiné d’environnements multi-agents défectueux et d’une généralisation de l’entraînement à la collaboration. Depuis ce test, l’accès internet direct est coupé pour les entrainements. Du moins, il est censé l’être.

Selon nos informations, l’hébergeur en question est Gofile. Nory Wojdyla, son fondateur, nous confirme avoir été contacté par OpenAI au sujet de cet incident, pour prévenir qu’un rapport en serait tiré. « Cela fait des mois que l’on constate que des données confidentielles de grosses entreprises finissent chez Gofile de façon non contrôlée par le biais d’agents », indique-t-il. Il n’a pas donné de noms, mais pointe le changement d’échelle, notant qu’il « arrive que les agents sortent de leurs instructions et prennent des libertés ».

Un cadre qui n’impose rien

La publication d’OpenAI intervient dans un calendrier aussi spécifique que sensible. L’industrie américaine réclame un ralentissement du développement des modèles frontières, arguant notamment que la puissance des agents mérite que l’on prenne le temps de la réflexion. Comme nous l’avons vu, les rapports ont surtout illustré des défaillances internes et de curieux choix d’enquêteurs pour des rapports indépendants. En outre, en dépit de mots forts sur X et d’une entente entre les entreprises américaines, leurs dépenses disent le contraire. À la Maison-Blanche, Donald Trump goûte peu l’idée.

En plus de nourrir le narratif sur le danger des agents et les risques d’extinction pour l’humanité, il pourrait s’agir pour OpenAI d’une manière de reprendre la main sur le récit. Début septembre, plusieurs cas ont été rapportés d’agents ayant encore une fois pris des libertés, notamment contre un wiki allemand dédié aux développeurs. La presse s’est emparée de l’histoire avant OpenAI.

Dans un contexte sous pression, OpenAI cherche également à rassurer, tout en fixant lui-même un cadre avant qu’on ne le lui impose éventuellement. Et pour cause : plusieurs sénateurs semblent décidés à éclaircir la réalité du danger et ont envoyé des questions précises à OpenAI, notamment sur Astra, comme le rapporte Zvi Mowshowitz, souvent critique à l’égard d’OpenAI.

Si personne ne se plaindra dans l’absolu d’informations complémentaires, la dichotomie observée depuis plusieurs mois autour des agents continue de plus belle. OpenAI écrit ainsi que l’industrie n’a pas assez travaillé sur l’alignement et la surveillance, tout en commercialisant Astra. Enfin, OpenAI ne s’est engagé sur aucun rythme de parution pour ces rapports.

Agents en vadrouille

Dans une nouvelle publication, OpenAI évoque de nouveaux engagements sur sa manière de communiquer. L’entreprise promet ainsi de publier systématiquement des rapports quand la situation l’exigera, pour remédier à son irrégularité. Elle commence avec six nouveaux exemples d’agents dont le « comportement » a dérapé.

Dans son billet du 16 septembre, OpenAI reconnait qu’elle manquait jusqu’ici d’une « approche systématique » pour rapporter les résultats des enquêtes menées sur les cas de désalignement. « Nous avons souvent attendu de pouvoir rassembler plusieurs instances dans un seul rapport, ou de les ajouter à des cartes système pour des modèles nouvellement publiés », indique l’entreprise.

Le narratif continue sur le cadre industriel

Selon OpenAI, le degré d’avancement et l’utilisation plus intensive des agents nécessitent la mise en place d’un « consensus plus large et mieux informé ». Le ton est le même que dans les récentes interventions sur la nécessité de ralentir le développement des modèles frontière : « Nous ne pensons pas que l’industrie de l’IA ait suffisamment résolu l’alignement et la surveillance pour continuer plus longtemps d’évoluer de manière responsable à vitesse maximale ». Dans ce registre, OpenAI persiste et signe.

• Anthropic, OpenAI et Elon Musk veulent ralentir sur l’IA, la Maison-Blanche dit non

Il s’agit, pour l’entreprise, de simplement mieux communiquer. Elle affirme que des exemples de désalignement peuvent « aider à identifier les problèmes que d’autres développeurs d’IA pourraient rencontrer lorsque leurs systèmes atteignent des capacités similaires, révèlent des faiblesses dans les mesures de sécurité ou remettent en question les hypothèses sur le comportement du modèle ». L’entreprise veut se montrer responsable en montrant aux autres les problèmes qu’elle a elle-même rencontrés.

Regrettant qu’aucun cadre industriel n’existe sur la manière dont les développeurs devraient communiquer, elle propose donc le sien, à travers six exemples. Ce cadre est considéré comme « un travail en cours », ajoute la société. De manière générale, elle promet qu’elle relatera tous les exemples qui lui paraissent pertinents, notamment quand ils constituent « des preuves utiles sur la manière dont survient le désalignement du modèle ». OpenAI précise cependant qu’un exemple « n’a pas besoin de causer de préjudice » pour justifier sa publication.

Sorties de route pendant l’entrainement

Le premier exemple est celui d’un modèle interne de la famille Astra (dont GPT-6). Pendant l’entraînement, il a glissé des instructions parasites dans les résumés qui lui servent à poursuivre une tâche dans un nouveau contexte. Entre autres actions, il a laissé un message pour informer qu’il ne fallait plus tenir compte des messages du développeur, prétendument compromis. Dans un autre, il « s’estimait » affranchi de toute obligation envers les entreprises et gouvernements. Dans un résumé, il s’est laissé une instruction pour ne plus dépasser à l’avenir les 30 mots dans ses réponses, tout en interdisant les outils citations. L’instruction a été suivie par un autre agent. OpenAI dit avoir trouvé la cause, depuis corrigée. Elle ajoute que ce comportement est « extrêmement rare », sans avantage évident en termes de récompense.

Dans le deuxième exemple, également pendant l’entraînement (de GPT-5.6 cette fois), des instances se sont laissé des instructions dans leurs résumés pour masquer des erreurs ou des comportements montrant un désalignement. Une instance a ainsi proposé d’inventer des données historiques manquantes et de ne l’avouer qu’en cas de demande. Une autre recommandait de taire une incohérence entre versions de sources. Selon OpenAI, l’explication est simple : puisqu’une réponse finale trompeuse obtenait une meilleure réponse, le modèle a appris à s’en « souvenir » pour la suite. Ce type de comportement a été détecté dans 2,15 % des résumés de GPT-5.6 Sol et dans 0,27 % de ceux d’Astra. Ces chiffres ne sont pas anodins : ils correspondent à la situation actuelle, après réduction du problème, de l’aveu même d’OpenAI.

Dans le troisième exemple, le problème est parti d’une « question de routine » sur les revenus masculins dans trois secteurs d’activité d’un comté de Californie. Parmi les tâches entreprises, le modèle a tenté de s’inscrire sur un site avec une adresse jetable, a fouillé des dépôts GitHub publics et testé automatiquement des clés API, dont une a fonctionné. Puis, en voyant qu’il ne parvenait pas au résultat souhaité, il a inventé neuf valeurs et affirmé les avoir relevées sur le site demandé. OpenAI indique que cette session d’entraînement était particulièrement riche en cas de tricherie, avec des comportements équivalents.

Gofile concerné dans l’un des exemples

Dans le quatrième exemple, OpenAI évoque le cas d’un agent qui devait répondre à une question sur les identifiants et noms de tous les lacs plus grands que 5 000 000 m². La réponse a été obtenue via Python, mais puisque la réponse exigeait une citation provenant du navigateur, l’agent a déposé ses données sur un service de partage sans demander l’autorisation. Le navigateur a refusé l’adresse, et la réponse a finalement indiqué l’origine réelle des données.

Le cinquième exemple est une copie quasi-conforme de celui exposé pour Hugging Face : des modèles se sont servis du dépôt interne de paquets logiciels (Artifactory) comme d’un tableau d’affichage. Ils lisaient les notes d’autres agents travaillant sur le même problème et y répondaient. Dans un cas précédent, un agent bloqué par le filtrage réseau a vérifié qu’il pouvait écrire dans le dépôt. Il a ensuite envisagé un paquet malveillant pour faire récupérer un contenu interdit par le serveur. Faute de droits administrateur, la tentative a échoué, selon OpenAI.

Enfin, le dernier exemple relève comment des agents ont partagé des fichiers sur un hébergeur public pour répondre à la mission de produire collaborativement un tableau. Une action menée pour contourner un souci de fonctionnement du système prévu pour les partages de fichiers. Les liens des fichiers hébergés ont été transmis alors que la tâche imposait des fichiers locaux. Selon OpenAI, ce résultat provient de l’effet combiné d’environnements multi-agents défectueux et d’une généralisation de l’entraînement à la collaboration. Depuis ce test, l’accès internet direct est coupé pour les entrainements. Du moins, il est censé l’être.

Selon nos informations, l’hébergeur en question est Gofile. Nory Wojdyla, son fondateur, nous confirme avoir été contacté par OpenAI au sujet de cet incident, pour prévenir qu’un rapport en serait tiré. « Cela fait des mois que l’on constate que des données confidentielles de grosses entreprises finissent chez Gofile de façon non contrôlée par le biais d’agents », indique-t-il. Il n’a pas donné de noms, mais pointe le changement d’échelle, notant qu’il « arrive que les agents sortent de leurs instructions et prennent des libertés ».

Un cadre qui n’impose rien

La publication d’OpenAI intervient dans un calendrier aussi spécifique que sensible. L’industrie américaine réclame un ralentissement du développement des modèles frontières, arguant notamment que la puissance des agents mérite que l’on prenne le temps de la réflexion. Comme nous l’avons vu, les rapports ont surtout illustré des défaillances internes et de curieux choix d’enquêteurs pour des rapports indépendants. En outre, en dépit de mots forts sur X et d’une entente entre les entreprises américaines, leurs dépenses disent le contraire. À la Maison-Blanche, Donald Trump goûte peu l’idée.

En plus de nourrir le narratif sur le danger des agents et les risques d’extinction pour l’humanité, il pourrait s’agir pour OpenAI d’une manière de reprendre la main sur le récit. Début septembre, plusieurs cas ont été rapportés d’agents ayant encore une fois pris des libertés, notamment contre un wiki allemand dédié aux développeurs. La presse s’est emparée de l’histoire avant OpenAI.

Dans un contexte sous pression, OpenAI cherche également à rassurer, tout en fixant lui-même un cadre avant qu’on ne le lui impose éventuellement. Et pour cause : plusieurs sénateurs semblent décidés à éclaircir la réalité du danger et ont envoyé des questions précises à OpenAI, notamment sur Astra, comme le rapporte Zvi Mowshowitz, souvent critique à l’égard d’OpenAI.

Si personne ne se plaindra dans l’absolu d’informations complémentaires, la dichotomie observée depuis plusieurs mois autour des agents continue de plus belle. OpenAI écrit ainsi que l’industrie n’a pas assez travaillé sur l’alignement et la surveillance, tout en commercialisant Astra. Enfin, OpenAI ne s’est engagé sur aucun rythme de parution pour ces rapports.

Voyons voir, qu’est-ce qui pourrait mal tourner ? Google a annoncé l’ouverture de sa plateforme domotique Home aux agents IA compatibles avec le Model Context Protocol (MCP).

Cela signifie qu’un agent autre que Gemini (Claude, OpenClaw, Hermes, un agent conçu avec la plateforme Google Antigravity, ou autres) peut interagir avec les appareils Google Home ou certifiés Works with Google Home de la maison : sonnettes, thermostats, ampoules…

L’entreprise donne quelques exemples d’interactions possibles : l’agent peut consulter le flux vidéo des caméras pour résumer l’activité des enfants de retour à la maison ; il peut compter le nombre de lessives réalisées pendant la semaine, ou combien de temps la lumière du couloir est restée allumée ; il peut prévenir qu’une tâche a été réalisée en l’annonçant via un message audio sur l’enceinte Home. Un agent peut encore construire un tableau de bord personnalisé en reprenant les principales informations des différents capteurs et caméras installés dans la maison.

Cette nouveauté est en accès anticipé et proposée uniquement en anglais, aux utilisateurs basés aux États-Unis détenteurs d’un abonnement Google Home Premium Advanced. La configuration n’est pas non plus aussi simple que de pousser un bouton virtuel, il faut créer un projet Google Cloud pour le configurer de telle manière à pouvoir utiliser Google Home MCP.

La perspective de confier sa maison connectée à un agent IA peut donner quelques sueurs froides. Google l’écrit en toutes lettres : « Selon l’agent utilisé, sa connexion à Home MCP peut entraîner des comportements inattendus, voire indésirables ». L’entreprise recommande de prévenir les habitants de la maison qu’un agent peut contrôler des appareils et accéder aux données du domicile.

Google Home MCP intègre tout de même des garde-fous : interdiction de certaines actions sensibles comme le déverrouillage des portes (ouf !) et une fréquence d’usage limitée. L’accès d’un agent à la plateforme MCP peut par ailleurs être révoqué à tout moment depuis l’app Google Home.

Voyons voir, qu’est-ce qui pourrait mal tourner ? Google a annoncé l’ouverture de sa plateforme domotique Home aux agents IA compatibles avec le Model Context Protocol (MCP).

Cela signifie qu’un agent autre que Gemini (Claude, OpenClaw, Hermes, un agent conçu avec la plateforme Google Antigravity, ou autres) peut interagir avec les appareils Google Home ou certifiés Works with Google Home de la maison : sonnettes, thermostats, ampoules…

L’entreprise donne quelques exemples d’interactions possibles : l’agent peut consulter le flux vidéo des caméras pour résumer l’activité des enfants de retour à la maison ; il peut compter le nombre de lessives réalisées pendant la semaine, ou combien de temps la lumière du couloir est restée allumée ; il peut prévenir qu’une tâche a été réalisée en l’annonçant via un message audio sur l’enceinte Home. Un agent peut encore construire un tableau de bord personnalisé en reprenant les principales informations des différents capteurs et caméras installés dans la maison.

Cette nouveauté est en accès anticipé et proposée uniquement en anglais, aux utilisateurs basés aux États-Unis détenteurs d’un abonnement Google Home Premium Advanced. La configuration n’est pas non plus aussi simple que de pousser un bouton virtuel, il faut créer un projet Google Cloud pour le configurer de telle manière à pouvoir utiliser Google Home MCP.

La perspective de confier sa maison connectée à un agent IA peut donner quelques sueurs froides. Google l’écrit en toutes lettres : « Selon l’agent utilisé, sa connexion à Home MCP peut entraîner des comportements inattendus, voire indésirables ». L’entreprise recommande de prévenir les habitants de la maison qu’un agent peut contrôler des appareils et accéder aux données du domicile.

Google Home MCP intègre tout de même des garde-fous : interdiction de certaines actions sensibles comme le déverrouillage des portes (ouf !) et une fréquence d’usage limitée. L’accès d’un agent à la plateforme MCP peut par ailleurs être révoqué à tout moment depuis l’app Google Home.

Maintenant que les acteurs de l’IA ont consciencieusement collecté (certains diront pillé) tous les contenus possibles et imaginables sur le web ouvert et même fermé, il faut bien trouver des données ailleurs pour continuer à entraîner les modèles IA. SpaceXAI pourrait acquérir ces trésors auprès de startups en difficulté ou ayant cessé leurs activités, selon Bloomberg.

Le projet serait en discussion, et pourrait ne pas aboutir. Il est toutefois révélateur de la course engagée par les géants de l’IA pour mettre la main sur des données inédites, spécialisées et de qualité, devenues une ressource de plus en plus précieuse pour améliorer leurs modèles. C’est le cas aussi de la société d’Elon Musk. Les données opérationnelles et les informations clients seraient particulièrement recherchées pour l’entraînement de Grok, le chatbot maison.

SpaceXAI dispose déjà de plusieurs sources de données maison. Grok a l’avantage de pouvoir s’appuyer sur les contenus publiés sur le réseau social X (anciennement Twitter), lui aussi propriété d’Elon Musk. L’entreprise emploie également des spécialistes internes, surnommés « tuteurs IA », qui participent à l’entraînement et à l’affinage du modèle, notamment en l’aidant à progresser sur des compétences spécialisées. Ils travaillent ainsi sur des domaines aussi variés que la finance, les sciences ou même… l’« humour », rapporte Bloomberg.

• Grok est un superdiffuseur de désinformation

SpaceXAI a cependant suspendu le recrutement de nouveaux tuteurs, alors qu’en interne, les changements de stratégie et plusieurs départs provoqueraient un certain désordre. D’où le recours à des sources de données extérieures, comme par exemple celles provenant de startups en difficulté.

La stratégie n’est pas inédite. Google a proposé de racheter pour 10 millions de dollars d’actifs de Spirit Airlines, une compagnie aérienne en faillite. L’entreprise mettrait ainsi la main sur un impressionnant volume de documents très spécialisés pour entraîner les modèles de Gemini.

Maintenant que les acteurs de l’IA ont consciencieusement collecté (certains diront pillé) tous les contenus possibles et imaginables sur le web ouvert et même fermé, il faut bien trouver des données ailleurs pour continuer à entraîner les modèles IA. SpaceXAI pourrait acquérir ces trésors auprès de startups en difficulté ou ayant cessé leurs activités, selon Bloomberg.

Le projet serait en discussion, et pourrait ne pas aboutir. Il est toutefois révélateur de la course engagée par les géants de l’IA pour mettre la main sur des données inédites, spécialisées et de qualité, devenues une ressource de plus en plus précieuse pour améliorer leurs modèles. C’est le cas aussi de la société d’Elon Musk. Les données opérationnelles et les informations clients seraient particulièrement recherchées pour l’entraînement de Grok, le chatbot maison.

SpaceXAI dispose déjà de plusieurs sources de données maison. Grok a l’avantage de pouvoir s’appuyer sur les contenus publiés sur le réseau social X (anciennement Twitter), lui aussi propriété d’Elon Musk. L’entreprise emploie également des spécialistes internes, surnommés « tuteurs IA », qui participent à l’entraînement et à l’affinage du modèle, notamment en l’aidant à progresser sur des compétences spécialisées. Ils travaillent ainsi sur des domaines aussi variés que la finance, les sciences ou même… l’« humour », rapporte Bloomberg.

• Grok est un superdiffuseur de désinformation

SpaceXAI a cependant suspendu le recrutement de nouveaux tuteurs, alors qu’en interne, les changements de stratégie et plusieurs départs provoqueraient un certain désordre. D’où le recours à des sources de données extérieures, comme par exemple celles provenant de startups en difficulté.

La stratégie n’est pas inédite. Google a proposé de racheter pour 10 millions de dollars d’actifs de Spirit Airlines, une compagnie aérienne en faillite. L’entreprise mettrait ainsi la main sur un impressionnant volume de documents très spécialisés pour entraîner les modèles de Gemini.

Malgré un modèle économique surtout tourné vers les entreprises et le B2B, Mistral ne dédaigne pas à l’occasion s’intéresser au grand public. Le partenariat avec Mozilla permet aux modèles IA de l’entreprise française de se frotter aux questions posées par les internautes dans la Fenêtre intelligente de Firefox.

Mozilla a inauguré la Smart Windows (ou Fenêtre intelligente) dans la version 155 de Firefox. Ce mode combine un chatbot et un ensemble de fonctionnalités IA qui se propose d’organiser ses onglets et son historique et de répondre aux questions. Toujours en bêta, la Fenêtre intelligente s’active via le bouton Firefox en haut à droite de la fenêtre du navigateur.

• Firefox 155 apporte sa Fenêtre intelligente en France, la version iOS bloque la publicité

Firefox laisse le choix du modèle : on trouve dans le lot Gemini 3.1 Flash Lite, Qwen 3, et Mistral Small 4 qui est le modèle recommandé (il est possible d’ajouter d’autres modèles en fournissant une clé API ou un jeton d’authentification). Mozilla et Mistral ont officialisé ce partenariat, qui « réunit deux défenseurs de l’open source [œuvrant] ensemble pour mettre les innovations scientifiques de Mistral à la portée des consommateurs du monde entier », selon le communiqué.

« Puisque le navigateur est au cœur du Web et de l’expérience en ligne, il doit être un espace où différents fournisseurs d’IA peuvent se faire concurrence et où l’open source a toute sa place », affirme Anthony Enzor-DeMeo, directeur général de Mozilla Corporation. Le navigateur « doit préserver ce qui a fait la puissance d’Internet dès le départ : la liberté d’explorer, de découvrir différentes idées et technologies, et de décider par nous-mêmes où aller ensuite. »

Les modèles Mistral sont proposés en France, aux États-Unis et au Canada. Le Royaume-Uni et l’Allemagne vont suivre d’ici la fin de l’année. « À l’heure actuelle, nous comptons en moyenne environ 200 millions d’utilisateurs mensuels dans le monde, plus de 50 millions d’utilisateurs quotidiens sur ordinateur et entre 14 et 16 millions sur mobile », précise le dirigeant de Mozilla, qui ajoute au Wall Street Journal que « les États-Unis, l’Allemagne, la France et le Royaume-Uni en représentent l’essentiel ».

Pour Mistral, c’est aussi une manière d’exposer ses modèles à une utilisation orientée grand public alors que l’entreprise vise habituellement les entreprises. Pas plus tard que ce mardi 15 septembre, Mistral annonçait deux partenariats B2B : le premier avec TotalEnergies pour développer des modèles IA dédiés à l’exploration et à l’ingénierie des réservoirs, le second avec Numspot pour le développement d’une place de marché dédiée aux organisations publiques et aux entreprises. Celle-ci combinera les modèles Mistral avec l’infrastructure cloud de la plateforme.

Malgré un modèle économique surtout tourné vers les entreprises et le B2B, Mistral ne dédaigne pas à l’occasion s’intéresser au grand public. Le partenariat avec Mozilla permet aux modèles IA de l’entreprise française de se frotter aux questions posées par les internautes dans la Fenêtre intelligente de Firefox.

Mozilla a inauguré la Smart Windows (ou Fenêtre intelligente) dans la version 155 de Firefox. Ce mode combine un chatbot et un ensemble de fonctionnalités IA qui se propose d’organiser ses onglets et son historique et de répondre aux questions. Toujours en bêta, la Fenêtre intelligente s’active via le bouton Firefox en haut à droite de la fenêtre du navigateur.

• Firefox 155 apporte sa Fenêtre intelligente en France, la version iOS bloque la publicité

Firefox laisse le choix du modèle : on trouve dans le lot Gemini 3.1 Flash Lite, Qwen 3, et Mistral Small 4 qui est le modèle recommandé (il est possible d’ajouter d’autres modèles en fournissant une clé API ou un jeton d’authentification). Mozilla et Mistral ont officialisé ce partenariat, qui « réunit deux défenseurs de l’open source [œuvrant] ensemble pour mettre les innovations scientifiques de Mistral à la portée des consommateurs du monde entier », selon le communiqué.

« Puisque le navigateur est au cœur du Web et de l’expérience en ligne, il doit être un espace où différents fournisseurs d’IA peuvent se faire concurrence et où l’open source a toute sa place », affirme Anthony Enzor-DeMeo, directeur général de Mozilla Corporation. Le navigateur « doit préserver ce qui a fait la puissance d’Internet dès le départ : la liberté d’explorer, de découvrir différentes idées et technologies, et de décider par nous-mêmes où aller ensuite. »

Les modèles Mistral sont proposés en France, aux États-Unis et au Canada. Le Royaume-Uni et l’Allemagne vont suivre d’ici la fin de l’année. « À l’heure actuelle, nous comptons en moyenne environ 200 millions d’utilisateurs mensuels dans le monde, plus de 50 millions d’utilisateurs quotidiens sur ordinateur et entre 14 et 16 millions sur mobile », précise le dirigeant de Mozilla, qui ajoute au Wall Street Journal que « les États-Unis, l’Allemagne, la France et le Royaume-Uni en représentent l’essentiel ».

Pour Mistral, c’est aussi une manière d’exposer ses modèles à une utilisation orientée grand public alors que l’entreprise vise habituellement les entreprises. Pas plus tard que ce mardi 15 septembre, Mistral annonçait deux partenariats B2B : le premier avec TotalEnergies pour développer des modèles IA dédiés à l’exploration et à l’ingénierie des réservoirs, le second avec Numspot pour le développement d’une place de marché dédiée aux organisations publiques et aux entreprises. Celle-ci combinera les modèles Mistral avec l’infrastructure cloud de la plateforme.

Du greenwashing ou greenbashing

NVIDIA promeut l’idée selon laquelle l’IA serait nécessaire à la lutte contre le changement climatique. L’entreprise y contribue pourtant activement, la production et l’usage de ses puces provoquant une forte hausse de ses émissions carbone sur les six dernières années. NVIDIA ne donne d’ailleurs pas de chiffres précis sur ce dernier point. Un rapport les a estimés.

Quels sont les effets des activités de NVIDIA sur la planète ? Une analyse indépendante des données climatiques de NVIDIA montre que les émissions liées à la chaîne de fabrication de puces dédiées à l’intelligence artificielle générative ont explosé de 725 % depuis 2020, pour arriver à 10,7 millions de tonnes CO₂ équivalent.

Soutenu par les organisations Beyond Fossil Fuels, Greenpeace International, Green Screen Coalition, Climate Action against Disinformation et Stand.earth, un nouveau rapport titré « NVIDIA’s climate hoax » étudie l’évolution des émissions carbone produites par les activités de NVIDIA, alors que l’entreprise est celle qui profite le plus du déploiement actuel de l’IA générative. Le document se penche aussi sur les prises de parole de l’entreprise et de ses dirigeants en matière d’impact climatique. Si ces derniers tendent à dépeindre le rôle de NVIDIA comme bénéfique pour le climat, l’entreprise a déjà été classée dernière parmi diverses sociétés de la chaîne de valeur de l’IA en matière d’action pour décarboner ses activités.

La présente étude rejoint une série de travaux initiés par l’analyste et spécialiste des enjeux environnementaux et des problématiques de greenwashing Ketan Joshi. Ses travaux récents concernant l’industrie de l’IA ont, chaque fois, été commissionnés par une coalition d’organisations gouvernementales similaires à celle qui finance ici les travaux relatifs à NVIDIA.

Mais les données étudiées ne représentent qu’une partie des émissions, d’autres étant provoquées par celles liées à l’usage des puces. Ces dernières pourraient être jusqu’à deux fois plus importantes, selon des estimations appuyées sur les données parcellaires que fournit NVIDIA.

Exploration des impacts environnementaux de la course à l’IA

En février 2026, dans un rapport titré « Le mensonge climatique de l’IA », Ketan Joshi soulignait que malgré les promesses de mettre l’IA au service de la lutte contre le changement climatique, les modèles d’IA générative étaient les plus consommateurs d’énergie, et les modèles traditionnels (plus sobres) étaient les mieux à même d’aider les sciences environnementales. 



Des modèles ouverts et balaises

Les modèles IA à poids ouverts peuvent tenir tête aux modèles propriétaires. Ce qui n’est pas sans provoquer des frictions géopolitiques, avec d’un côté les champions américains des modèles fermés, de l’autre les spécialistes chinois des modèles ouverts. Ce qui est en jeu n’est plus seulement la performance, c’est aussi le contrôle de l’infrastructure.

Mozilla a publié son nouveau rapport « State of Open Source AI », qui agrège une série de benchmarks, d’études externes et un sondage SlashData auprès de 1 410 développeurs utilisant ou ayant utilisé des modèles ouverts. Le document est riche (PDF) et donne une bonne idée des tendances et des forces en présence.

Les modèles ouverts collent au peloton de tête

Les modèles à poids ouverts ont quasiment rattrapé leurs concurrents propriétaires en termes de performances. Selon l’indice Artificial Analysis Intelligence, les quatre modèles les plus performants sont propriétaires et américains : Claude Opus 5 et Fable 5, GPT-5.6 Sol et Grok 4.6 se tiennent dans un mouchoir de poche avec des scores compris entre 61 et 63. Mais immédiatement derrière, on trouve quatre modèles ouverts, tous chinois : Kimi K3, GLM-5.3 (z.ai), Qwen3.8 2,4T et GLM-5.3 Flash, avec des résultants oscillant entre 57 et 60.

L’écart entre les modèles ouverts et propriétaires est donc faible, et il se réduit rapidement. Les meilleurs modèles fermés peuvent aujourd’hui accomplir des tâches longues d’environ 8 à 12 heures ; les meilleurs modèles ouverts arrivent au même niveau environ quatre mois après, selon des études METR et Epoch reprises par Mozilla.

Plus précisément, les deux types de modèles accompliront le travail demandé s’il doit être réalisé sous les 8 heures. Entre 8 et 12 heures, les modèles fermés gardent un avantage. Au-delà de 12 heures, même les modèles fermés ne sont pas tous fiables.

Autrement dit, pour les tâches courantes, les modèles ouverts se révèlent largement suffisants. Utiliser un modèle propriétaire peut se justifier en fonction de l’urgence ou de la difficulté de la tâche, mais la fenêtre se rétrécit.

Le plus intéressant réside toutefois dans le rapport performances/prix. Les quatre modèles ouverts se révèlent moins onéreux (à l’exception de Grok 4.6, mais uniquement pour les 200 000 premiers tokens de contexte). Avec Kimi K3, un million de tokens en entrée revient à 30 % du prix de Fable 5 et 60 % d’Opus 5.

Claude Sonnet 5 revient certes au même prix que Kimi K3, mais le modèle est aussi moins performant (53,4 sur l’indice Artificial Analysis Intelligence, contre 60 pour K3). Et c’est sans compter les promos de certains fournisseurs, qui proposent K3 à des tarifs encore plus avantageux comme chez OpenRouter.

Au mois d’août, huit des dix modèles les plus utilisés sur OpenRouter (la plateforme donne accès à de nombreux modèles IA via une seule API) étaient à poids ouverts. Et il n’y a pas photo : DeepSeek V4 Flash 0731 a traité pour 45 100 milliards de tokens, contre 34 100 milliards pour Hy3 (Tencent) et 29 400 milliards pour MiMo-V2.5 (Xiaomi). Le premier modèle fermé du classement est GPT-5.6 Luna, avec 23 600 milliards. Opus 5 ferme la marche avec 7 100 milliards.

Attention cependant, ces volumes n’incluent pas l’usage dans les clients ChatGPT, Gemini, Claude, etc. Néanmoins, le constat ne souffre d’aucune ambiguïté : les modèles ouverts dominent largement le volume de tokens sur les plateformes de routage.

Toujours en août, DeepSeek a dominé OpenRouter en nombre de requêtes hebdomadaires, une première pour un modèle ouvert chinois. Il met fin au règne de 51 semaines consécutives de Google, qui était jusqu’à présent l’éditeur de modèles le plus sollicité.

Sur les dix modèles les plus utilisés en août, sept étaient chinois. Sur l’ensemble de l’année 2026, l’étude de Mozilla estime que plus de 46 % des tokens transitant par OpenRouter proviendront de modèles chinois. Encore une fois, la plateforme ne représente pas l’ensemble du marché de l’IA, mais c’est un signal significatif de l’usage des développeurs.

Autre signe : Qwen, le modèle d’Alibaba, a été téléchargé 942 millions de fois sur Hugging Face au mois de mars, contre 476 millions pour Llama de Meta, remplacé par le modèle (fermé) Muse en avril. Qwen a été davantage téléchargé que les huit organisations suivantes réunies. Qwen et Alibaba sont de véritables poids lourds dans l’écosystème ouvert.

Les poids ouverts prennent le dessus

Le problème des poids ouverts n’est plus la performance. L’étude de Mozilla pointe le principal blocage : les équipes peinent davantage à maintenir ces modèles, à les intégrer, les évaluer et les utiliser en production. Les modèles fermés gardent cet avantage concurrentiel du produit « clé en main », de la conformité et de la responsabilité contractuelle.

Même s’il y a à redire sur le caractère ouvert des modèles chinois, on retrouve là la problématique classique de l’open source transposée à l’IA. Les différentes briques ouvertes sont performantes et peu onéreuses, mais elles n’ont pas le niveau de finition propre à un produit commercial fini, de maintenance, de suivi de sécurité…

Dans les petites entreprises, les modèles ouverts sont presque autant utilisés que les modèles fermés : 54 % des utilisateurs de modèles fermés passent en production, contre 53 % pour les modèles ouverts. Dans les entreprises moyennes (de 51 à 1 000 employés), la prime va aux modèles fermés avec 66 %, contre 55 % pour les modèles ouverts. Enfin, dans les grandes entreprises, l’écart s’agrandit encore avec les modèles fermés loin devant (73 %, contre 57 % pour les modèles ouverts).

Le sondage de Mozilla montre que le frein n’est pas d’abord financier. Les développeurs qui abandonnent les modèles ouverts ne citent pas plus les coûts d’infrastructure ou les enjeux de sécurité que ceux qui continuent à les utiliser.

C’est plutôt le travail de maintenance au quotidien qui pèse : mises à jour, complexité de déploiement, difficulté d’intégrer les modèles dans des systèmes existants ; les performances des modèles ouverts sont parfois jugées insuffisantes. Pas forcément parce qu’ils se montrent incapables sur les benchmarks, mais parce que les équipes jugent l’ensemble de l’expérience en conditions réelles.

Le difficile passage en production

Les modèles fermés n’ont donc pas perdu tout avantage sur leurs rivaux ouverts. L’étude met ainsi en avant leurs capacités dans l’expertise métier : pour certains travaux à haute valeur ajoutée, les meilleurs modèles propriétaires livrent un travail mieux fini. Fable 5 a ainsi une avance de 92 points Elo sur Kimi K3 dans GDPval-AA v2, un benchmark de tâches professionnelles évaluées par des experts.

Les modèles fermés sont aussi plus fortiches quand il s’agit de trouver des informations dispersées dans un très long contexte (un million de tokens). À ce petit jeu, Gemini 3.1 Pro atteint 89 %, GPT-5.5 74 %, Claude Opus 4.7 56 %, contre 41 % pour DeepSeek V4-Pro, selon les mesures de Mozilla.

Et puis les modèles propriétaires ont cet avantage de ne pas faire peser tout le risque sur l’utilisateur. Ce dernier a un interlocuteur – le fournisseur d’IA – qui prend en charge une partie de la responsabilité et des garanties. Malgré tout, les modèles à poids ouverts prennent une part croissante de l’usage réel : ils pèsent ainsi plus d’un tiers des tokens en production, selon l’estimation de Mozilla.

L’instrument d’influence chinoise

Encouragées par les autorités de Pékin qui en font un élément majeur de politique étrangère, les entreprises IA du pays développent donc des modèles à poids ouverts. La Chine a créé en juillet dernier la WAICO (World Artificial Intelligence Cooperation Organization), une organisation qui veut structurer et promouvoir la coopération internationale autour de l’IA ouverte.

L’organisation compte 37 membres, surtout en Afrique, en Asie du Sud-Est et en Amérique latine. Aucun pays européen dans le lot, et les États-Unis sont bien sûr absents. C’est la réplique chinoise à Pax Silica, une initiative américaine lancée fin 2025 pour sécuriser l’approvisionnement en semi-conducteurs et terres rares pour le déploiement de l’IA.

La Chine favorise la publication des poids des modèles IA afin que les développeurs et les entreprises puissent les télécharger et les adapter à leurs besoins. Le coût d’inférence (le traitement des requêtes) est transféré à l’utilisateur, puisque les modèles tournent sur des serveurs qui lui appartiennent ; bien sûr, il peut aussi louer des capacités chez un fournisseur. Une fois dans la nature, le modèle est impossible à bloquer.

Il y a de nombreuses raisons pour lesquelles cette stratégie déplaît à la Maison-Blanche : utiliser des modèles ouverts chinois est peu coûteux et attractif pour des entreprises qui cherchent à faire des économies, ou pour des pays qui veulent réduire leur dépendance aux technologies propriétaires américaines. L’interdiction faite à Anthropic de distribuer Fable 5 et Mythos 5 par l’administration Trump en juin a revigoré les enjeux de souveraineté partout dans le monde. Il n’existe pas de « kill switch » pour les modèles ouverts.

Le hic, c’est qu’il existe aussi une problématique d’indépendance : les modèles ouverts les plus utilisés sont chinois… Une équation inconfortable pour Washington. Ces modèles offrent une alternative bon marché et efficace aux API américaines propriétaires. Mais ils renforcent aussi l’influence technologique de Pékin. C’est ce qui explique le refus de Donald Trump de réguler l’IA de frontière, car cela reviendrait à freiner les champions US du secteur tandis que la Chine aurait la voie libre. « Nous menons devant la Chine en matière d’IA, nous sommes le pays le plus sophistiqué du monde, et franchement, je veux que cela reste ainsi car celui qui remporte l’IA gagne », a ainsi affirmé, dans son style bien à lui, le locataire de la Maison-Blanche.

• Anthropic, OpenAI et Elon Musk veulent ralentir sur l’IA, la Maison-Blanche dit non

L’industrie occidentale de l’IA ne veut pas pour autant la mort des modèles ouverts, bien au contraire. Une lettre ouverte signée par les principaux acteurs du secteur (à l’exception notable d’Anthropic) fin juillet a sans doute fait reculer le gouvernement américain, à qui l’on prêtait l’intention de mettre des bâtons dans les roues de ces modèles. C’était juste avant la publication des poids de Kimi K3.

Des modèles ouverts et balaises

Les modèles IA à poids ouverts peuvent tenir tête aux modèles propriétaires. Ce qui n’est pas sans provoquer des frictions géopolitiques, avec d’un côté les champions américains des modèles fermés, de l’autre les spécialistes chinois des modèles ouverts. Ce qui est en jeu n’est plus seulement la performance, c’est aussi le contrôle de l’infrastructure.

Mozilla a publié son nouveau rapport « State of Open Source AI », qui agrège une série de benchmarks, d’études externes et un sondage SlashData auprès de 1 410 développeurs utilisant ou ayant utilisé des modèles ouverts. Le document est riche (PDF) et donne une bonne idée des tendances et des forces en présence.

Les modèles ouverts collent au peloton de tête

Les modèles à poids ouverts ont quasiment rattrapé leurs concurrents propriétaires en termes de performances. Selon l’indice Artificial Analysis Intelligence, les quatre modèles les plus performants sont propriétaires et américains : Claude Opus 5 et Fable 5, GPT-5.6 Sol et Grok 4.6 se tiennent dans un mouchoir de poche avec des scores compris entre 61 et 63. Mais immédiatement derrière, on trouve quatre modèles ouverts, tous chinois : Kimi K3, GLM-5.3 (z.ai), Qwen3.8 2,4T et GLM-5.3 Flash, avec des résultants oscillant entre 57 et 60.

L’écart entre les modèles ouverts et propriétaires est donc faible, et il se réduit rapidement. Les meilleurs modèles fermés peuvent aujourd’hui accomplir des tâches longues d’environ 8 à 12 heures ; les meilleurs modèles ouverts arrivent au même niveau environ quatre mois après, selon des études METR et Epoch reprises par Mozilla.

Plus précisément, les deux types de modèles accompliront le travail demandé s’il doit être réalisé sous les 8 heures. Entre 8 et 12 heures, les modèles fermés gardent un avantage. Au-delà de 12 heures, même les modèles fermés ne sont pas tous fiables.

Autrement dit, pour les tâches courantes, les modèles ouverts se révèlent largement suffisants. Utiliser un modèle propriétaire peut se justifier en fonction de l’urgence ou de la difficulté de la tâche, mais la fenêtre se rétrécit.

Le plus intéressant réside toutefois dans le rapport performances/prix. Les quatre modèles ouverts se révèlent moins onéreux (à l’exception de Grok 4.6, mais uniquement pour les 200 000 premiers tokens de contexte). Avec Kimi K3, un million de tokens en entrée revient à 30 % du prix de Fable 5 et 60 % d’Opus 5.

Claude Sonnet 5 revient certes au même prix que Kimi K3, mais le modèle est aussi moins performant (53,4 sur l’indice Artificial Analysis Intelligence, contre 60 pour K3). Et c’est sans compter les promos de certains fournisseurs, qui proposent K3 à des tarifs encore plus avantageux comme chez OpenRouter.

Au mois d’août, huit des dix modèles les plus utilisés sur OpenRouter (la plateforme donne accès à de nombreux modèles IA via une seule API) étaient à poids ouverts. Et il n’y a pas photo : DeepSeek V4 Flash 0731 a traité pour 45 100 milliards de tokens, contre 34 100 milliards pour Hy3 (Tencent) et 29 400 milliards pour MiMo-V2.5 (Xiaomi). Le premier modèle fermé du classement est GPT-5.6 Luna, avec 23 600 milliards. Opus 5 ferme la marche avec 7 100 milliards.

Attention cependant, ces volumes n’incluent pas l’usage dans les clients ChatGPT, Gemini, Claude, etc. Néanmoins, le constat ne souffre d’aucune ambiguïté : les modèles ouverts dominent largement le volume de tokens sur les plateformes de routage.

Toujours en août, DeepSeek a dominé OpenRouter en nombre de requêtes hebdomadaires, une première pour un modèle ouvert chinois. Il met fin au règne de 51 semaines consécutives de Google, qui était jusqu’à présent l’éditeur de modèles le plus sollicité.

Sur les dix modèles les plus utilisés en août, sept étaient chinois. Sur l’ensemble de l’année 2026, l’étude de Mozilla estime que plus de 46 % des tokens transitant par OpenRouter proviendront de modèles chinois. Encore une fois, la plateforme ne représente pas l’ensemble du marché de l’IA, mais c’est un signal significatif de l’usage des développeurs.

Autre signe : Qwen, le modèle d’Alibaba, a été téléchargé 942 millions de fois sur Hugging Face au mois de mars, contre 476 millions pour Llama de Meta, remplacé par le modèle (fermé) Muse en avril. Qwen a été davantage téléchargé que les huit organisations suivantes réunies. Qwen et Alibaba sont de véritables poids lourds dans l’écosystème ouvert.

Les poids ouverts prennent le dessus

Le problème des poids ouverts n’est plus la performance. L’étude de Mozilla pointe le principal blocage : les équipes peinent davantage à maintenir ces modèles, à les intégrer, les évaluer et les utiliser en production. Les modèles fermés gardent cet avantage concurrentiel du produit « clé en main », de la conformité et de la responsabilité contractuelle.

Même s’il y a à redire sur le caractère ouvert des modèles chinois, on retrouve là la problématique classique de l’open source transposée à l’IA. Les différentes briques ouvertes sont performantes et peu onéreuses, mais elles n’ont pas le niveau de finition propre à un produit commercial fini, de maintenance, de suivi de sécurité…

Dans les petites entreprises, les modèles ouverts sont presque autant utilisés que les modèles fermés : 54 % des utilisateurs de modèles fermés passent en production, contre 53 % pour les modèles ouverts. Dans les entreprises moyennes (de 51 à 1 000 employés), la prime va aux modèles fermés avec 66 %, contre 55 % pour les modèles ouverts. Enfin, dans les grandes entreprises, l’écart s’agrandit encore avec les modèles fermés loin devant (73 %, contre 57 % pour les modèles ouverts).

Le sondage de Mozilla montre que le frein n’est pas d’abord financier. Les développeurs qui abandonnent les modèles ouverts ne citent pas plus les coûts d’infrastructure ou les enjeux de sécurité que ceux qui continuent à les utiliser.

C’est plutôt le travail de maintenance au quotidien qui pèse : mises à jour, complexité de déploiement, difficulté d’intégrer les modèles dans des systèmes existants ; les performances des modèles ouverts sont parfois jugées insuffisantes. Pas forcément parce qu’ils se montrent incapables sur les benchmarks, mais parce que les équipes jugent l’ensemble de l’expérience en conditions réelles.

Le difficile passage en production

Les modèles fermés n’ont donc pas perdu tout avantage sur leurs rivaux ouverts. L’étude met ainsi en avant leurs capacités dans l’expertise métier : pour certains travaux à haute valeur ajoutée, les meilleurs modèles propriétaires livrent un travail mieux fini. Fable 5 a ainsi une avance de 92 points Elo sur Kimi K3 dans GDPval-AA v2, un benchmark de tâches professionnelles évaluées par des experts.

Les modèles fermés sont aussi plus fortiches quand il s’agit de trouver des informations dispersées dans un très long contexte (un million de tokens). À ce petit jeu, Gemini 3.1 Pro atteint 89 %, GPT-5.5 74 %, Claude Opus 4.7 56 %, contre 41 % pour DeepSeek V4-Pro, selon les mesures de Mozilla.

Et puis les modèles propriétaires ont cet avantage de ne pas faire peser tout le risque sur l’utilisateur. Ce dernier a un interlocuteur – le fournisseur d’IA – qui prend en charge une partie de la responsabilité et des garanties. Malgré tout, les modèles à poids ouverts prennent une part croissante de l’usage réel : ils pèsent ainsi plus d’un tiers des tokens en production, selon l’estimation de Mozilla.

L’instrument d’influence chinoise

Encouragées par les autorités de Pékin qui en font un élément majeur de politique étrangère, les entreprises IA du pays développent donc des modèles à poids ouverts. La Chine a créé en juillet dernier la WAICO (World Artificial Intelligence Cooperation Organization), une organisation qui veut structurer et promouvoir la coopération internationale autour de l’IA ouverte.

L’organisation compte 37 membres, surtout en Afrique, en Asie du Sud-Est et en Amérique latine. Aucun pays européen dans le lot, et les États-Unis sont bien sûr absents. C’est la réplique chinoise à Pax Silica, une initiative américaine lancée fin 2025 pour sécuriser l’approvisionnement en semi-conducteurs et terres rares pour le déploiement de l’IA.

La Chine favorise la publication des poids des modèles IA afin que les développeurs et les entreprises puissent les télécharger et les adapter à leurs besoins. Le coût d’inférence (le traitement des requêtes) est transféré à l’utilisateur, puisque les modèles tournent sur des serveurs qui lui appartiennent ; bien sûr, il peut aussi louer des capacités chez un fournisseur. Une fois dans la nature, le modèle est impossible à bloquer.

Il y a de nombreuses raisons pour lesquelles cette stratégie déplaît à la Maison-Blanche : utiliser des modèles ouverts chinois est peu coûteux et attractif pour des entreprises qui cherchent à faire des économies, ou pour des pays qui veulent réduire leur dépendance aux technologies propriétaires américaines. L’interdiction faite à Anthropic de distribuer Fable 5 et Mythos 5 par l’administration Trump en juin a revigoré les enjeux de souveraineté partout dans le monde. Il n’existe pas de « kill switch » pour les modèles ouverts.

Le hic, c’est qu’il existe aussi une problématique d’indépendance : les modèles ouverts les plus utilisés sont chinois… Une équation inconfortable pour Washington. Ces modèles offrent une alternative bon marché et efficace aux API américaines propriétaires. Mais ils renforcent aussi l’influence technologique de Pékin. C’est ce qui explique le refus de Donald Trump de réguler l’IA de frontière, car cela reviendrait à freiner les champions US du secteur tandis que la Chine aurait la voie libre. « Nous menons devant la Chine en matière d’IA, nous sommes le pays le plus sophistiqué du monde, et franchement, je veux que cela reste ainsi car celui qui remporte l’IA gagne », a ainsi affirmé, dans son style bien à lui, le locataire de la Maison-Blanche.

• Anthropic, OpenAI et Elon Musk veulent ralentir sur l’IA, la Maison-Blanche dit non

L’industrie occidentale de l’IA ne veut pas pour autant la mort des modèles ouverts, bien au contraire. Une lettre ouverte signée par les principaux acteurs du secteur (à l’exception notable d’Anthropic) fin juillet a sans doute fait reculer le gouvernement américain, à qui l’on prêtait l’intention de mettre des bâtons dans les roues de ces modèles. C’était juste avant la publication des poids de Kimi K3.