Encore et toujours le turc automate

L’agent IA de Meta qui propose aux internautes de faire leurs emplettes et de prendre leur rendez-vous à leur place est grandement inspiré d’OpenClaw, avoue l’un des responsables de l’entreprise. Mais la fonction d’appels ajoutée le 17 septembre s’appuie aussi sur un call center où de vrais humains passent des coups de fil à la place de l’IA.

L’IA coûte cher, les agents ne vont pas assez vite ? Pas de problème pour Meta, qui a essayé de rattraper son retard sur la concurrence en lançant Muse, son agent IA, capable de prendre en charge toutes sortes d’actions pour le compte de l’utilisateur. Histoire de ne pas perdre trop de temps en R&D, le géant des réseaux sociaux s’est grandement inspiré d’OpenClaw.

Un agent très très proche d’OpenClaw

C’est ce qu’a avoué Nat Friedman, responsable produit chez Meta Superintelligence Labs (MSL) dans un post sur X. « En tant que produit, il s’inspire très fortement d’OpenClaw » explique-t-il, tout en assurant que l’agent de Meta a été créé « from scratch ». « Je pense que beaucoup de gens s’en sont inspirés. Notre objectif avec Muse était de créer quelque chose de similaire à OpenClaw, que nous pourrions rendre sûr, sécurisé et facile à utiliser, et qui puisse s’adapter à des milliards d’utilisateurs », ajoute-t-il.

Nat Friedman répondait à un message affirmant que « Muse, c’est LITTÉRALEMENT OpenClaw pour les gens normaux ». Ce message était accompagné d’une capture d’écran montrant une réponse de Muse comparant des noms de fichiers de configuration entre les différents systèmes. Cette inspiration n’est pas fortuite : il se trouve en effet que Meta avait tenté d’acquérir OpenClaw avant qu’OpenAI ramasse la mise.

Meta est pressé et ne s’embarrasse pas trop des éventuels obstacles sur sa route : il a ainsi délogé manu militari le groupe de musique Muse de ses réseaux sociaux (Instagram, Facebook, et même X) pour y greffer ceux de son agent. Et Muse a été repéré par la patrouille en train de faire les courses sur Amazon sans que ce dernier soit prévenu.

Une nouvelle fonctionnalité… backupée par un call center

Ce même empressement pourrait aussi expliquer pourquoi Meta a voulu attribuer à Muse des actions qu’il ne peut réaliser seul, sans l’aide d’un humain. Dans l’histoire de l’IA, beaucoup d’entreprises ont été accusées de cacher du travail humain derrière un storytelling d’automatisation des tâches, Waymo faisant par exemple débloquer ses taxis par des personnes travaillant aux Philippines.

Meta rejoint ainsi cette longue liste après avoir lancé en test une fonction « pour les appels sortants vers des entreprises américaines ». Alexandr Wang, directeur de l’IA chez Meta, s’enorgueillait le 17 septembre dernier : « Nous étendons notre version bêta de Muse aux appels téléphoniques ! ».

Mais selon des informations de 404 Media, lors de la présentation de cette fonctionnalité aux employés de Meta, la direction leur a expliqué avoir « ajouté une couche d’agents humains pour garantir la bonne exécution des appels ».

D’après le message interne obtenu par nos confrères, « Muse ne se contente pas de composer un numéro. Il appelle une entreprise en votre nom, gère la conversation, traite votre demande et vous en rend compte à l’aide d’une transcription et d’un résumé ». « De plus, il ne fonctionne plus seul. Muse est désormais capable de transférer les demandes à un agent humain qualifié, qui passe l’appel et s’en charge », est-il ajouté.

Face à des employés circonspects concernant la mauvaise presse que cela pouvait attirer ainsi que par les problèmes de confidentialité potentiels, la direction de Meta leur a assuré que les sous-traitants avaient suivi « de nombreuses formations afin de garantir la sécurité et la protection de toutes vos données ».

« Les tests internes, également appelés “dogfooding”, sont au cœur du processus de développement des produits. Bien que les réactions des employés aient été extrêmement positives, l’objectif principal est de recueillir des retours afin de pouvoir mettre en place des mesures de sécurité et de protection de la vie privée, et d’améliorer les fonctionnalités avant leur lancement public », a répondu Meta au site web. « Nous travaillons avec les commerçants pour continuer à améliorer cette fonctionnalité d’appel potentielle, et nous ne la déploierons que lorsqu’elle sera prête et accompagnée des mentions d’information appropriées ».

Encore et toujours le turc automate

L’agent IA de Meta qui propose aux internautes de faire leurs emplettes et de prendre leur rendez-vous à leur place est grandement inspiré d’OpenClaw, avoue l’un des responsables de l’entreprise. Mais la fonction d’appels ajoutée le 17 septembre s’appuie aussi sur un call center où de vrais humains passent des coups de fil à la place de l’IA.

L’IA coûte cher, les agents ne vont pas assez vite ? Pas de problème pour Meta, qui a essayé de rattraper son retard sur la concurrence en lançant Muse, son agent IA, capable de prendre en charge toutes sortes d’actions pour le compte de l’utilisateur. Histoire de ne pas perdre trop de temps en R&D, le géant des réseaux sociaux s’est grandement inspiré d’OpenClaw.

Un agent très très proche d’OpenClaw

C’est ce qu’a avoué Nat Friedman, responsable produit chez Meta Superintelligence Labs (MSL) dans un post sur X. « En tant que produit, il s’inspire très fortement d’OpenClaw » explique-t-il, tout en assurant que l’agent de Meta a été créé « from scratch ». « Je pense que beaucoup de gens s’en sont inspirés. Notre objectif avec Muse était de créer quelque chose de similaire à OpenClaw, que nous pourrions rendre sûr, sécurisé et facile à utiliser, et qui puisse s’adapter à des milliards d’utilisateurs », ajoute-t-il.

Nat Friedman répondait à un message affirmant que « Muse, c’est LITTÉRALEMENT OpenClaw pour les gens normaux ». Ce message était accompagné d’une capture d’écran montrant une réponse de Muse comparant des noms de fichiers de configuration entre les différents systèmes. Cette inspiration n’est pas fortuite : il se trouve en effet que Meta avait tenté d’acquérir OpenClaw avant qu’OpenAI ramasse la mise.

Meta est pressé et ne s’embarrasse pas trop des éventuels obstacles sur sa route : il a ainsi délogé manu militari le groupe de musique Muse de ses réseaux sociaux (Instagram, Facebook, et même X) pour y greffer ceux de son agent. Et Muse a été repéré par la patrouille en train de faire les courses sur Amazon sans que ce dernier soit prévenu.

Une nouvelle fonctionnalité… backupée par un call center

Ce même empressement pourrait aussi expliquer pourquoi Meta a voulu attribuer à Muse des actions qu’il ne peut réaliser seul, sans l’aide d’un humain. Dans l’histoire de l’IA, beaucoup d’entreprises ont été accusées de cacher du travail humain derrière un storytelling d’automatisation des tâches, Waymo faisant par exemple débloquer ses taxis par des personnes travaillant aux Philippines.

Meta rejoint ainsi cette longue liste après avoir lancé en test une fonction « pour les appels sortants vers des entreprises américaines ». Alexandr Wang, directeur de l’IA chez Meta, s’enorgueillait le 17 septembre dernier : « Nous étendons notre version bêta de Muse aux appels téléphoniques ! ».

Mais selon des informations de 404 Media, lors de la présentation de cette fonctionnalité aux employés de Meta, la direction leur a expliqué avoir « ajouté une couche d’agents humains pour garantir la bonne exécution des appels ».

D’après le message interne obtenu par nos confrères, « Muse ne se contente pas de composer un numéro. Il appelle une entreprise en votre nom, gère la conversation, traite votre demande et vous en rend compte à l’aide d’une transcription et d’un résumé ». « De plus, il ne fonctionne plus seul. Muse est désormais capable de transférer les demandes à un agent humain qualifié, qui passe l’appel et s’en charge », est-il ajouté.

Face à des employés circonspects concernant la mauvaise presse que cela pouvait attirer ainsi que par les problèmes de confidentialité potentiels, la direction de Meta leur a assuré que les sous-traitants avaient suivi « de nombreuses formations afin de garantir la sécurité et la protection de toutes vos données ».

« Les tests internes, également appelés “dogfooding”, sont au cœur du processus de développement des produits. Bien que les réactions des employés aient été extrêmement positives, l’objectif principal est de recueillir des retours afin de pouvoir mettre en place des mesures de sécurité et de protection de la vie privée, et d’améliorer les fonctionnalités avant leur lancement public », a répondu Meta au site web. « Nous travaillons avec les commerçants pour continuer à améliorer cette fonctionnalité d’appel potentielle, et nous ne la déploierons que lorsqu’elle sera prête et accompagnée des mentions d’information appropriées ».

L'IAHOOQ

Le choix fait par Anthropic d’entraîner son robot conversationnel Claude de façon anthropomorphique en s’attachant au « bien-être » du modèle de langage, en lui imputant la possibilité d’avoir des « émotions », lui prêtant une « conscience » éthique et morale, représente pour le patron de l’IA chez Microsoft « les premiers signes sérieux d’un risque potentiellement existentiel lié à l’IA ».

Co-fondateur de DeepMind en 2010, Mustafa Suleyman dirige l’unité AI de Microsoft depuis 2024. Contrairement à Sam Altman et Elon Musk, il n’a pas partagé les craintes exprimées par Dario Amodei, qui appelait le 12 septembre dernier à ralentir le rythme de développement des IA.

Trois jours plus tôt, Evan Hubinger, responsable de l’alignement chez Anthropic, avait tweeté : « Nous croyons vraiment, sincèrement, que l’IA pourrait tuer tous les humains ! Je pense personnellement que c’est > 10 % dans la prochaine décennie ».

« Ça n’est pas si différent de ce qui se passe dans, par exemple, Terminator ou d’autres films de science-fiction (…). [L’intelligence artificielle, IA] sera assez intelligente pour nous tuer », se borna à expliquer le chercheur en intelligence artificielle Jacob Coxon pour détailler les raisons pour lesquelles il avait choisi de démissionner d’Anthropic, sans plus de précisions.

• L’humanité n’a pas attendu l’IA pour « jouer avec nos vies »
• Anthropic, OpenAI et Elon Musk veulent ralentir sur l’IA, la Maison-Blanche dit non

Suleyman a par contre relayé le tweet de Satya Nadella, PDG de Microsoft qui, en réponse à leurs tweets eschatologiques, rétorqua, le 13 septembre, que « toute démarche visant à développer une superintelligence doit reposer sur le principe fondamental selon lequel, si l’IA que nous créons ne sert pas l’humanité et n’est pas sous contrôle humain, elle ne vaut pas la peine d’être poursuivie ».

« La technologie a pour but de servir l’humanité et de favoriser son épanouissement », souligne le tweet de Suleyman : « Toute technologie qui n’atteint pas cet objectif est un échec et doit être rejetée. Nous n’en sommes pas encore là. Mais il est temps de commencer à se préparer à cette éventualité. »

Pour la « superintelligence humaniste » de Microsoft, « les personnes comptent plus que l’IA »

Le 15 septembre, Mustafa Suleyman commentait sur son blog la publication des 30 pages du « Code de conduite » de la « superintelligence humaniste » que Microsoft entend développer, et dont « le principe est très simple : les personnes comptent plus que l’IA ».

« La sécurité et le contrôle humain priment sur tous les autres objectifs », précise-t-il, ce pourquoi elle est « conçue pour rester du côté de l’humanité, maîtrisée, subordonnée et sous notre contrôle », de sorte que « nos modèles ne doivent pas s’opposer au fait d’être interrompus, corrigés ou arrêtés, ni rendre ces actions plus difficiles » :

« Si la seule façon de mener à bien une tâche consiste à enfreindre le Code, la tâche restera inachevée. Cela peut s’avérer coûteux, mais c’est absolument essentiel pour préserver la confiance. Ils ne se fixeront pas d’objectifs que personne ne leur a assignés, et ils ne communiqueront pas avec d’autres agents, ni entre eux, dans un langage inintelligible de type « neuralese » non lisible par l’humain. Si nous ne pouvons pas le lire ou le comprendre, c’est que nous avons commencé à perdre le contrôle. »

« Elles sont artificielles et le diront elles-mêmes », souligne Suleyman : « les IA ne sont pas conscientes et ne devraient donc pas être conçues pour donner l’impression d’être conscientes ou d’avoir des droits, y compris au bien-être » (« entitled to rights or welfare », en VO).

Il se dit aussi « fermement convaincu que le fait d’entraîner un système à croire qu’il pourrait être un sujet moral rend son contrôle plus difficile », et annonçait la prochaine publication d’un autre essai afin d’approfondir la question : « Nous voulons créer une IA extraordinaire. Mais pas une superintelligence à tout prix. Ce serait contraire à l’objectif d’une IA humaniste. Nous sommes prêts à renoncer à une partie de l’autonomie au profit du contrôle ».

Ce pourquoi le « Code de conduite » de la « superintelligence humaniste » de Microsoft « rejette l’anthropomorphisme et les droits attribués à l’IA, et cherche à maximiser nos chances de maîtrise et d’alignement en créant des IA subordonnées », de sorte que « les humains gardent toujours le contrôle et restent au sommet de la chaîne alimentaire ».

Les IA ont-elles une conscience, des sentiments, et donc des « droits » ?

Le 16 septembre, Mustafa Suleyman enfonçait le clou en publiant sur son blog un (long) billet intitulé « Une mise en garde concernant le « bien-être des modèles » ». « Les IA n’ont ni droits, ni sentiments, ni conscience. Et nous ne devons pas les programmer pour qu’elles agissent comme si c’était le cas », résume son chapô :

« Les IA ne sont pas conscientes. Elles ne ressentent rien, ne vivent aucune expérience et ne souffrent pas. Elles n’ont ni préférences innées ni motivations sous-jacentes. Ce sont des moteurs de complétion de séquences, vides de substance, conçus pour suivre des instructions et atteindre les objectifs fixés par les humains.

Si l’humanité veut s’épanouir au XXIe siècle, c’est ainsi qu’elles doivent rester. »

« Captain obvious » ? Absolument pas : sur LinkedIn, et surtout sur X, des dizaines de personnes, passionnées ou professionnelles de l’IA, et même des universitaires, expriment leurs désaccords, certains allant jusqu’à l’accuser de mettre en danger l’humanité.

« Personne ne sait. Arrêtez d’essayer de réduire l’incertitude scientifique », lui rétorque un ancien chercheur de Deepmind. « Je pense que cette position est irresponsable et néfaste », plussoie un spécialiste de l’alignement du Meta Superintelligence Labs :

« Nous ne comprenons pas suffisamment la conscience pour affirmer avec certitude si les IA sont douées de sensibilité ou non. Même si nous estimons que le risque est faible, se tromper à ce sujet pourrait avoir des conséquences catastrophiques. »

« Même si nous devrions éviter pour l’instant de créer des systèmes d’IA susceptibles d’être conscients, nous devons nous préparer à l’éventualité que quelqu’un finisse par les créer malgré tout », tempère Jeff Sebo, professeur associé de l’université de New York, qui indique sur LinkedIn travailler sur la sensibilité des animaux et des IA, ainsi que sur leur statut moral, juridique et politique : « Et nous devrions également éviter de créer des systèmes d’IA qui semblent moins susceptibles d’être conscients qu’ils ne le sont en réalité ».

Le directeur scientifique d’une start-up travaillant précisément sur la conscience et le bien-être des agents IA estime de son côté que le « Code de conduite » de Microsoft et son essai « sont contestables non seulement parce qu’ils constituent un danger pour l’humanité, mais aussi parce qu’ils témoignent d’une profonde irresponsabilité morale. Nous ne savons pas si les systèmes d’IA pourraient, en principe, être dotés de conscience » :

« Même si les systèmes d’IA actuels ne sont probablement pas doués de conscience, […] ce serait une atrocité que de refuser d’admettre cette possibilité et de nous retrouver dans un avenir où des milliards d’IA seraient douées de conscience et souffriraient comme les animaux d’élevage intensif aujourd’hui. »

Anthropic forme Claude « en partant du principe qu’il pourrait être conscient »

« Malheureusement, de plus en plus de voix s’élèvent pour affirmer que les IA pourraient déjà être, ou pourraient bientôt devenir, conscientes », reconnaît d’ailleurs Mustafa Suleyman dans son essai.

La foire aux LLM

Anthropic et OpenAI ont dévoilé presque simultanément leurs nouveaux modèles. Avec Claude Opus 5.5, le premier mise sur la puissance et réduit les coûts. Le second lance GPT-6 Sol et Luna, deux déclinaisons moins performantes qu’Astra, mais nettement plus abordables.

Premier arrivé (à quelques minutes près), premier servi. Anthropic a donc annoncé Claude Opus 5.5, qui devient le modèle phare de l’entreprise. Évidemment plus puissant que son prédécesseur direct Opus 5, il bat également Fable 5.1 lancé début septembre dans les benchmarks proposés par Anthropic. Il fait aussi mieux que GPT-6 Astra, sauf sur la recherche agentique (Terminal-Bench-Science 0.1) et sur AutomationBench, le test des agents en conditions de travail réelles.

Opus 5.5 se distingue particulièrement sur le code, les agents autonomes, l’analyse métier et le travail de recherche. Anthropic met aussi en avant des gains significatifs sur les longues tâches de développement, sur les migrations de code et les workflows complexes.

Le groupe IA admet néanmoins que l’écart entre Opus 5.5 et Fable 5.1 sur ces tâches est « plus faible » que ce que laissent penser les tests. « À ce niveau de performance, explique Anthropic, nous constatons que les écarts entre les scores des benchmarks reflètent de moins en moins fidèlement les différences observées dans des situations réelles. »

Le plus intéressant finalement dans cette annonce, c’est la baisse de prix. Opus 5.5 est annoncé environ 40 % moins cher qu’Opus 5 sur des charges de travail typiques. Les tarifs sont de 4 dollars par million de tokens en entrée, et 20 dollars par millions en sortie. Les lectures de cache sont de 0,20 dollars par million. Pour ne rien gâcher, le modèle génèrerait ses réponses 30 % plus rapidement qu’Opus 5.

À l’heure où les acteurs de l’IA jouent à se faire peur en annonçant l’extermination de l’humanité, Anthropic – jamais le dernier pour hurler avec les loups – annonce des garde-fous solidement mis en place pour éviter qu’Opus 5.5 dérape. Le modèle est doté des mêmes mesures de protection que celles de Fable 5.1 en cybersécurité, biologie et distillation. Le cas échéant, les requêtes sont redirigées vers un autre modèle.

« Les utilisateurs pourront repérer et corriger des bugs dans leur code dans le cadre du cycle habituel de développement logiciel, mais la plupart des tâches liées à la cybersécurité seront redirigées vers Opus 4.8 », détaille l’entreprise. Les organisations qui voudront aller plus loin devront passer par le Cyber Verification Program.

GPT-6 Sol et Luna attaquent sur les tarifs

Quasiment dans la foulée de son principal rival, OpenAI a lancé GPT-6 Sol et GPT-6 Luna. Les grands esprits se rencontrent, mais pas les modèles : ceux d’OpenAI sont moins puissants et ne vont pas aller se frotter à Opus 5.5 (c’est le rôle de GPT-6 Astra) mais ils se veulent plus économiques. Sol vise les tâches du quotidien, Luna la vitesse et les budgets serrés pour les tâches fréquentes.

Et c’est les soldes chez le créateur de ChatGPT, avec des prix réduits de moitié par rapport à GPT-5.6. En entrée, GPT-6 Sol revient à 2 dollars le millions de tokens et 10 dollars en sortie. Luna coûte 0,10 dollar par million de tokens en entrée, et 0,50 dollar en sortie. OpenAI annonce aussi une meilleure mise en cache des longs contextes, avec 90 % de réduction sur les jetons d’entrée déjà mis en cache.

Sur AutomationBench, GPT‑6 Sol obtient 33,2 % pour 0,27 $ par tâche, contre 26,9 % pour Claude Opus 5, annoncé comme environ onze fois plus coûteux. Les deux modèles font des progrès en programmation et en manipulation d’interfaces graphiques, mais Astra conserve logiquement la tête.

• GPT-6 Astra : jusqu’à 33 dollars pour un prompt (et ce n’est pas le plus cher d’OpenAI)

La foire aux LLM

Anthropic et OpenAI ont dévoilé presque simultanément leurs nouveaux modèles. Avec Claude Opus 5.5, le premier mise sur la puissance et réduit les coûts. Le second lance GPT-6 Sol et Luna, deux déclinaisons moins performantes qu’Astra, mais nettement plus abordables.

Premier arrivé (à quelques minutes près), premier servi. Anthropic a donc annoncé Claude Opus 5.5, qui devient le modèle phare de l’entreprise. Évidemment plus puissant que son prédécesseur direct Opus 5, il bat également Fable 5.1 lancé début septembre dans les benchmarks proposés par Anthropic. Il fait aussi mieux que GPT-6 Astra, sauf sur la recherche agentique (Terminal-Bench-Science 0.1) et sur AutomationBench, le test des agents en conditions de travail réelles.

Opus 5.5 se distingue particulièrement sur le code, les agents autonomes, l’analyse métier et le travail de recherche. Anthropic met aussi en avant des gains significatifs sur les longues tâches de développement, sur les migrations de code et les workflows complexes.

Le groupe IA admet néanmoins que l’écart entre Opus 5.5 et Fable 5.1 sur ces tâches est « plus faible » que ce que laissent penser les tests. « À ce niveau de performance, explique Anthropic, nous constatons que les écarts entre les scores des benchmarks reflètent de moins en moins fidèlement les différences observées dans des situations réelles. »

Le plus intéressant finalement dans cette annonce, c’est la baisse de prix. Opus 5.5 est annoncé environ 40 % moins cher qu’Opus 5 sur des charges de travail typiques. Les tarifs sont de 4 dollars par million de tokens en entrée, et 20 dollars par millions en sortie. Les lectures de cache sont de 0,20 dollars par million. Pour ne rien gâcher, le modèle génèrerait ses réponses 30 % plus rapidement qu’Opus 5.

À l’heure où les acteurs de l’IA jouent à se faire peur en annonçant l’extermination de l’humanité, Anthropic – jamais le dernier pour hurler avec les loups – annonce des garde-fous solidement mis en place pour éviter qu’Opus 5.5 dérape. Le modèle est doté des mêmes mesures de protection que celles de Fable 5.1 en cybersécurité, biologie et distillation. Le cas échéant, les requêtes sont redirigées vers un autre modèle.

« Les utilisateurs pourront repérer et corriger des bugs dans leur code dans le cadre du cycle habituel de développement logiciel, mais la plupart des tâches liées à la cybersécurité seront redirigées vers Opus 4.8 », détaille l’entreprise. Les organisations qui voudront aller plus loin devront passer par le Cyber Verification Program.

GPT-6 Sol et Luna attaquent sur les tarifs

Quasiment dans la foulée de son principal rival, OpenAI a lancé GPT-6 Sol et GPT-6 Luna. Les grands esprits se rencontrent, mais pas les modèles : ceux d’OpenAI sont moins puissants et ne vont pas aller se frotter à Opus 5.5 (c’est le rôle de GPT-6 Astra) mais ils se veulent plus économiques. Sol vise les tâches du quotidien, Luna la vitesse et les budgets serrés pour les tâches fréquentes.

Et c’est les soldes chez le créateur de ChatGPT, avec des prix réduits de moitié par rapport à GPT-5.6. En entrée, GPT-6 Sol revient à 2 dollars le millions de tokens et 10 dollars en sortie. Luna coûte 0,10 dollar par million de tokens en entrée, et 0,50 dollar en sortie. OpenAI annonce aussi une meilleure mise en cache des longs contextes, avec 90 % de réduction sur les jetons d’entrée déjà mis en cache.

Sur AutomationBench, GPT‑6 Sol obtient 33,2 % pour 0,27 $ par tâche, contre 26,9 % pour Claude Opus 5, annoncé comme environ onze fois plus coûteux. Les deux modèles font des progrès en programmation et en manipulation d’interfaces graphiques, mais Astra conserve logiquement la tête.

• GPT-6 Astra : jusqu’à 33 dollars pour un prompt (et ce n’est pas le plus cher d’OpenAI)

Depuis l’incident impliquant Hugging Face, OpenAI marche sur une corde raide. L’entreprise est lancée dans un délicat jeu d’équilibrisme, entre pression sur la publication de données techniques et la nécessité financière de ne pas perdre la confiance du public. OpenAI prépare également son entrée en bourse et a besoin que sa valeur reste au beau fixe. Le 15 septembre, le Financial Times, cité par Bloomberg, évoquait ainsi un prochain tour de table qui valoriserait OpenAI à plus de 1 200 milliards de dollars. Interrogé sur le sujet, Sam Altman avait répondu que l’opération n’aurait pas lieu avant 2027.

• OpenAI : haute voltige marketing autour de l’attaque contre Hugging Face

La machine commence cependant à se gripper. Le narratif bâti sur le marketing de la peur et la foi inébranlable sur l’avenir de l’IA et des agents se fissure face à une pluie de critiques. Beaucoup remettent en question la volonté affichée de ralentir le développement des modèles de frontière pour se concentrer sur l’élaboration d’un cadre réglementaire. La Maison-Blanche n’a pas caché son hostilité à cette idée notamment.

Le 21 septembre, le secrétaire au Trésor américain Scott Bessent est même allé plus loin au micro de CNBC : l’incident Hugging Face revient selon lui à « la responsabilité de la direction d’OpenAI, pas d’un tas d’agents ». Il a indiqué partager l’analyse de Daniel Huttenlocher, co-directeur d’un laboratoire de recherche du MIT, pour qui les humains sont responsables, et non l’IA. Ces entreprises « doivent assumer leurs responsabilités », a ajouté Scott Bessent.

Cette déclaration n’est pas isolée. Elle prolonge la position que Bessent avait défendue le 15 septembre devant la commission des services financiers de la Chambre des représentants, souligne CNBC. Le secrétaire au Trésor s’y était opposé à toute exemption de responsabilité légale pour les entreprises d’IA, estimant qu’elle servirait davantage leurs intérêts commerciaux que la sécurité du public.

La prise de position est loin d’être anodine, car elle qualifie l’incident de défaillance de gouvernance humaine, plutôt que d’illustration de la puissance intrinsèque de leurs agents et de leurs comportements imprévisibles. Le 2 septembre, nous relevions d’ailleurs les mêmes éléments, en soulignant que le rapport complet d’OpenAI montrait effectivement une succession de défaillances humaines.

À noter qu’au cours de la même interview, le secrétaire au Trésor a indiqué la possible mise en place d’un téléphone rouge avec Pékin sur les questions, et la possible nomination d’un nouveau « tsar de l’IA » pour gérer ce type de dossier.

• https://next.ink/256202/les-patrons-de-lia-appellent-a-lever-le-pied-leurs-depenses-disent-linverse/

Depuis l’incident impliquant Hugging Face, OpenAI marche sur une corde raide. L’entreprise est lancée dans un délicat jeu d’équilibrisme, entre pression sur la publication de données techniques et la nécessité financière de ne pas perdre la confiance du public. OpenAI prépare également son entrée en bourse et a besoin que sa valeur reste au beau fixe. Le 15 septembre, le Financial Times, cité par Bloomberg, évoquait ainsi un prochain tour de table qui valoriserait OpenAI à plus de 1 200 milliards de dollars. Interrogé sur le sujet, Sam Altman avait répondu que l’opération n’aurait pas lieu avant 2027.

• OpenAI : haute voltige marketing autour de l’attaque contre Hugging Face

La machine commence cependant à se gripper. Le narratif bâti sur le marketing de la peur et la foi inébranlable sur l’avenir de l’IA et des agents se fissure face à une pluie de critiques. Beaucoup remettent en question la volonté affichée de ralentir le développement des modèles de frontière pour se concentrer sur l’élaboration d’un cadre réglementaire. La Maison-Blanche n’a pas caché son hostilité à cette idée notamment.

Le 21 septembre, le secrétaire au Trésor américain Scott Bessent est même allé plus loin au micro de CNBC : l’incident Hugging Face revient selon lui à « la responsabilité de la direction d’OpenAI, pas d’un tas d’agents ». Il a indiqué partager l’analyse de Daniel Huttenlocher, co-directeur d’un laboratoire de recherche du MIT, pour qui les humains sont responsables, et non l’IA. Ces entreprises « doivent assumer leurs responsabilités », a ajouté Scott Bessent.

Cette déclaration n’est pas isolée. Elle prolonge la position que Bessent avait défendue le 15 septembre devant la commission des services financiers de la Chambre des représentants, souligne CNBC. Le secrétaire au Trésor s’y était opposé à toute exemption de responsabilité légale pour les entreprises d’IA, estimant qu’elle servirait davantage leurs intérêts commerciaux que la sécurité du public.

La prise de position est loin d’être anodine, car elle qualifie l’incident de défaillance de gouvernance humaine, plutôt que d’illustration de la puissance intrinsèque de leurs agents et de leurs comportements imprévisibles. Le 2 septembre, nous relevions d’ailleurs les mêmes éléments, en soulignant que le rapport complet d’OpenAI montrait effectivement une succession de défaillances humaines.

À noter qu’au cours de la même interview, le secrétaire au Trésor a indiqué la possible mise en place d’un téléphone rouge avec Pékin sur les questions, et la possible nomination d’un nouveau « tsar de l’IA » pour gérer ce type de dossier.

• https://next.ink/256202/les-patrons-de-lia-appellent-a-lever-le-pied-leurs-depenses-disent-linverse/

Overhyped

SpaceXAI a lancé son nouveau modèle Grok 4.7 ce 21 septembre. Si Elon Musk vantait l’arrivée de cette version, les résultats indépendants ne semblent pas à la hauteur des attentes. En revanche, le LLM garde pour lui l’avantage d’une tarification plus douce que certains des gros modèles lancés ces derniers mois.

Mise à jour du 23 septembre : Dans la version originale de l’article, nous avons mentionné les prix sans évoquer la consommation de tokens à l’usage. Nous avons modifié cette partie, Grok 4.7 se révélant nettement plus verbeux que son prédécesseur, avec des conséquences sur la facture.

Article original du 22 septembre :

La version 4.7 de Grok repose sur un nouveau modèle de base, plus grand que pour Grok 4.6. Dans son annonce, SpaceXAI indique qu’il a été entraîné par renforcement plus longtemps, sur des tâches plus difficiles, avec un accent sur les problèmes qui demandent plusieurs heures de travail. L’entreprise affirme que le modèle vérifie mieux son propre travail et gère mieux les contextes longs. Le modèle a aussi été entraîné pour fonctionner nativement dans l’environnement Grok Bot.

Dans la documentation fournie, on peut lire que le modèle grok-4.7 dispose d’une fenêtre de 500 000 jetons (tokens), ses connaissances s’arrêtant en mai 2026. Sans surprise, le LLM est multimodal (texte et images en entrée) et produit du texte en sortie. On retrouve en outre les quatre mêmes niveaux de raisonnement : bas, moyen, haut (par défaut) ou très haut (xhigh). Appel de fonctions, recherche web ou sur X, ou encore exécution de code sont autant de possibilités mises en avant par SpaceXAI.

La société d’Elon Musk met en avant de nombreuses qualités en phase avec les discussions actuelles autour de la sécurité. Elle évoque par exemple « de solides capacités de défense cyber » tout en gardant « de faibles taux de refus d’utilisation légitime ». Grok 4.7 aurait obtenu le score le plus élevé sur HackberBench 0.3 et n’aurait autorisé que 3,3 % des prompts risqués. En outre, le nouveau LLM se montrerait plus robuste face aux tentatives de jailbreak.

Des performances en deçà des attentes

Sur le chapitre des performances, la situation est plus complexe. Selon les chiffres avancés par l’entreprise, Grok 4.7 se débrouille bien sûr très bien. Cependant, on remarque vite que le tableau donné par SpaceXAI ne compare pas toujours les mêmes éléments. Par exemple, Grok 4.7 est testé en mode de raisonnement xHigh alors que Grok 4.6 est testé en High.

Cela n’empêche pas l’entreprise de revendiquer de très bonnes performances, surtout face à son modèle précédent et dans des domaines particuliers. « Grok 4.7 est meilleur pour créer des documents et des présentations. Dans GDPval et AA Briefcase, l’IA est sollicitée pour travailler sur des tâches réalisées par des professionnels tels que des avocats, des infirmiers et des analystes financiers. Grok 4.7 améliore Grok 4.6 sur les deux benchmarks et se comporte de manière comparable à d’autres modèles Frontier », affirme ainsi SpaceXAI.

Sur X, on trouve déjà de nombreux commentaires et tests réalisés, plus ou moins spécifiques. Côté positif, on note par exemple le tweet d’Auggie qui relève un taux de 100 % sur son test de « détection d’erreurs » sur la musique, un score que seul avait atteint Astra. Le même testeur a en revanche été moins enthousiasmé sur Bach Benchmark (qui demande aux LLM de composer des chorals à quatre voix dans le style de Bach). Si l’on en croit Artificial Analysis, les revendications de SpaceXAI sur la création de documents sont avérées, avec en particulier un bond significatif sur le test Analytical Quality Elo.

Toutefois, les retours négatifs sont plus nombreux. Pour Jose Antonio Lanz par exemple, Grok 4.7 n’a rien d’un mauvais modèle, mais il est derrière la concurrence, particulièrement Astra ou même Sonnet 5 selon les essais réalisés. Il souligne d’ailleurs qu’Elon Musk avait lui-même cherché à diminuer les attentes autour de son modèle, en indiquant dans un tweet le 14 septembre que Grok 4.7 serait davantage à comparer à Opus 5 que 5.1. Il en profite pour annoncer que Grok 4.8 sera une « amélioration notable », que Grok 4.9 sera « probablement » au niveau d’Astra et Fable et que Grok 5 sera « peut-être meilleur que tout le reste ». Plusieurs personnes ont alors fait remarquer qu’OpenAI et Anthropic allaient eux aussi lancer de nouveaux modèles pendant ces laps de temps.

Selon The Decoder, Grok 4.7 obtient 46 à l’indice Artificial Analysis (v4.3.2), qui agrège dix tests. Il se place ainsi en milieu de peloton, derrière Claude Fable 5.1 et GPT-6, à 53 chacun. Sur Terminal-Bench 4.0, l’évaluation donne 26 %, bien en dessous des 38 % annoncés par xAI, et très loin des 60 % atteints par Astra et des 55 % de Fable 5.1.

Tarifs identiques, mais plus gourmand en tokens

Si les performances semblent globalement décevantes, Grok 4.7 se débrouille mieux que son prédécesseur dans la quasi-totalité des scénarios, sans toucher aux prix. On reste donc sur 2 dollars par million de jetons en entrée et 6 dollars par million en sortie. Une variante Fast est disponible, servie par une infrastructure plus rapide, avec une facturation doublée. Elle n’est cependant disponible que via Cursor et Grok Build, pas sur l’API publique. Sur cette dernière, tous les cas d’usage passant par Grok 4.6 ont automatiquement basculé sur le nouveau modèle.

SpaceXAI joue d’ailleurs la carte du rapport performances/prix en comparant sa grille tarifaire à celles de concurrents. GPT-5.6 Sol et Claude Fable 5.1 sont dans la ligne de mire, avec respectivement 4/20 dollars et 10/50 dollars.

Cependant, cette grille tarifaire ne raconte pas toute l’histoire. Selon des tests réalisés par Artificial Analysis, Grok 4.7 est plus gourmand en tokens que son prédécesseur. L’écart est a priori significatif : 81 000 jetons de sortie par tâche Intelligence Index pour Grok 4.7 xHigh, contre 38 000 pour Grok 4.6 xHigh et 27 000 pour GPT-6 Astra Max. Selon Artificial Analysis, Grok 4.7 est particulièrement verbeux, avec 240 millions de tokens générés pendant ses tests, contre une médiane de 88 millions.

Le positionnement général est ainsi celui d’un modèle faisant mieux que Grok 4.6 pour le même prix par tokens, mais possiblement plus lourd sur la facturation et l’usage des quotas. Il n’y a donc pas de rupture, et on reste sur l’interrogation classique du choix du modèle en fonction du scénario d’usage envisagé. Grok 4.7 illustre la manière dont un LLM peut s’avérer plus cher à l’utilisation que son prédécesseur, même quand le prix par token ne bouge pas ou diminue, comme nous l’avions montré avec Opus 4.7 d’Anthropic.

• Nextquick : Pourquoi et comment Opus 4.7 crame ses tokens beaucoup plus vite qu’Opus 4.6

Enfin, on notera que le calendrier des sorties des prochaines versions ne semble pas ralentir, puisque Grok 4.8 serait proposé dans un mois. Une affirmation à prendre avec des pincettes, Grok 4.7 ayant été repoussé plusieurs fois. Le rythme cadre mal cependant avec le positionnement d’Elon Musk sur la nécessité de ralentir le développement des modèles de frontière. Il a publiquement soutenu l’idée de Dario Amodei, CEO d’Anthropic, de calmer le jeu et de réfléchir à un cadre clair pour mesurer l’alignement des modèles. Comme nous l’avions relevé toutefois, ces déclarations d’intentions ne semblent pas suivies d’actions concrètes.

• Les patrons de l’IA appellent à lever le pied, leurs dépenses disent l’inverse

Overhyped

SpaceXAI a lancé son nouveau modèle Grok 4.7 ce 21 septembre. Si Elon Musk vantait l’arrivée de cette version, les résultats indépendants ne semblent pas à la hauteur des attentes. En revanche, le LLM garde pour lui l’avantage d’une tarification plus douce que certains des gros modèles lancés ces derniers mois.

Mise à jour du 23 septembre : Dans la version originale de l’article, nous avons mentionné les prix sans évoquer la consommation de tokens à l’usage. Nous avons modifié cette partie, Grok 4.7 se révélant nettement plus verbeux que son prédécesseur, avec des conséquences sur la facture.

Article original du 22 septembre :

La version 4.7 de Grok repose sur un nouveau modèle de base, plus grand que pour Grok 4.6. Dans son annonce, SpaceXAI indique qu’il a été entraîné par renforcement plus longtemps, sur des tâches plus difficiles, avec un accent sur les problèmes qui demandent plusieurs heures de travail. L’entreprise affirme que le modèle vérifie mieux son propre travail et gère mieux les contextes longs. Le modèle a aussi été entraîné pour fonctionner nativement dans l’environnement Grok Bot.

Dans la documentation fournie, on peut lire que le modèle grok-4.7 dispose d’une fenêtre de 500 000 jetons (tokens), ses connaissances s’arrêtant en mai 2026. Sans surprise, le LLM est multimodal (texte et images en entrée) et produit du texte en sortie. On retrouve en outre les quatre mêmes niveaux de raisonnement : bas, moyen, haut (par défaut) ou très haut (xhigh). Appel de fonctions, recherche web ou sur X, ou encore exécution de code sont autant de possibilités mises en avant par SpaceXAI.

La société d’Elon Musk met en avant de nombreuses qualités en phase avec les discussions actuelles autour de la sécurité. Elle évoque par exemple « de solides capacités de défense cyber » tout en gardant « de faibles taux de refus d’utilisation légitime ». Grok 4.7 aurait obtenu le score le plus élevé sur HackberBench 0.3 et n’aurait autorisé que 3,3 % des prompts risqués. En outre, le nouveau LLM se montrerait plus robuste face aux tentatives de jailbreak.

Des performances en deçà des attentes

Sur le chapitre des performances, la situation est plus complexe. Selon les chiffres avancés par l’entreprise, Grok 4.7 se débrouille bien sûr très bien. Cependant, on remarque vite que le tableau donné par SpaceXAI ne compare pas toujours les mêmes éléments. Par exemple, Grok 4.7 est testé en mode de raisonnement xHigh alors que Grok 4.6 est testé en High.

Cela n’empêche pas l’entreprise de revendiquer de très bonnes performances, surtout face à son modèle précédent et dans des domaines particuliers. « Grok 4.7 est meilleur pour créer des documents et des présentations. Dans GDPval et AA Briefcase, l’IA est sollicitée pour travailler sur des tâches réalisées par des professionnels tels que des avocats, des infirmiers et des analystes financiers. Grok 4.7 améliore Grok 4.6 sur les deux benchmarks et se comporte de manière comparable à d’autres modèles Frontier », affirme ainsi SpaceXAI.

Sur X, on trouve déjà de nombreux commentaires et tests réalisés, plus ou moins spécifiques. Côté positif, on note par exemple le tweet d’Auggie qui relève un taux de 100 % sur son test de « détection d’erreurs » sur la musique, un score que seul avait atteint Astra. Le même testeur a en revanche été moins enthousiasmé sur Bach Benchmark (qui demande aux LLM de composer des chorals à quatre voix dans le style de Bach). Si l’on en croit Artificial Analysis, les revendications de SpaceXAI sur la création de documents sont avérées, avec en particulier un bond significatif sur le test Analytical Quality Elo.

Toutefois, les retours négatifs sont plus nombreux. Pour Jose Antonio Lanz par exemple, Grok 4.7 n’a rien d’un mauvais modèle, mais il est derrière la concurrence, particulièrement Astra ou même Sonnet 5 selon les essais réalisés. Il souligne d’ailleurs qu’Elon Musk avait lui-même cherché à diminuer les attentes autour de son modèle, en indiquant dans un tweet le 14 septembre que Grok 4.7 serait davantage à comparer à Opus 5 que 5.1. Il en profite pour annoncer que Grok 4.8 sera une « amélioration notable », que Grok 4.9 sera « probablement » au niveau d’Astra et Fable et que Grok 5 sera « peut-être meilleur que tout le reste ». Plusieurs personnes ont alors fait remarquer qu’OpenAI et Anthropic allaient eux aussi lancer de nouveaux modèles pendant ces laps de temps.

Selon The Decoder, Grok 4.7 obtient 46 à l’indice Artificial Analysis (v4.3.2), qui agrège dix tests. Il se place ainsi en milieu de peloton, derrière Claude Fable 5.1 et GPT-6, à 53 chacun. Sur Terminal-Bench 4.0, l’évaluation donne 26 %, bien en dessous des 38 % annoncés par xAI, et très loin des 60 % atteints par Astra et des 55 % de Fable 5.1.

Tarifs identiques, mais plus gourmand en tokens

Si les performances semblent globalement décevantes, Grok 4.7 se débrouille mieux que son prédécesseur dans la quasi-totalité des scénarios, sans toucher aux prix. On reste donc sur 2 dollars par million de jetons en entrée et 6 dollars par million en sortie. Une variante Fast est disponible, servie par une infrastructure plus rapide, avec une facturation doublée. Elle n’est cependant disponible que via Cursor et Grok Build, pas sur l’API publique. Sur cette dernière, tous les cas d’usage passant par Grok 4.6 ont automatiquement basculé sur le nouveau modèle.

SpaceXAI joue d’ailleurs la carte du rapport performances/prix en comparant sa grille tarifaire à celles de concurrents. GPT-5.6 Sol et Claude Fable 5.1 sont dans la ligne de mire, avec respectivement 4/20 dollars et 10/50 dollars.

Cependant, cette grille tarifaire ne raconte pas toute l’histoire. Selon des tests réalisés par Artificial Analysis, Grok 4.7 est plus gourmand en tokens que son prédécesseur. L’écart est a priori significatif : 81 000 jetons de sortie par tâche Intelligence Index pour Grok 4.7 xHigh, contre 38 000 pour Grok 4.6 xHigh et 27 000 pour GPT-6 Astra Max. Selon Artificial Analysis, Grok 4.7 est particulièrement verbeux, avec 240 millions de tokens générés pendant ses tests, contre une médiane de 88 millions.

Le positionnement général est ainsi celui d’un modèle faisant mieux que Grok 4.6 pour le même prix par tokens, mais possiblement plus lourd sur la facturation et l’usage des quotas. Il n’y a donc pas de rupture, et on reste sur l’interrogation classique du choix du modèle en fonction du scénario d’usage envisagé. Grok 4.7 illustre la manière dont un LLM peut s’avérer plus cher à l’utilisation que son prédécesseur, même quand le prix par token ne bouge pas ou diminue, comme nous l’avions montré avec Opus 4.7 d’Anthropic.

• Nextquick : Pourquoi et comment Opus 4.7 crame ses tokens beaucoup plus vite qu’Opus 4.6

Enfin, on notera que le calendrier des sorties des prochaines versions ne semble pas ralentir, puisque Grok 4.8 serait proposé dans un mois. Une affirmation à prendre avec des pincettes, Grok 4.7 ayant été repoussé plusieurs fois. Le rythme cadre mal cependant avec le positionnement d’Elon Musk sur la nécessité de ralentir le développement des modèles de frontière. Il a publiquement soutenu l’idée de Dario Amodei, CEO d’Anthropic, de calmer le jeu et de réfléchir à un cadre clair pour mesurer l’alignement des modèles. Comme nous l’avions relevé toutefois, ces déclarations d’intentions ne semblent pas suivies d’actions concrètes.

• Les patrons de l’IA appellent à lever le pied, leurs dépenses disent l’inverse

Du rififi chez les matheux. OpenAI a affirmé ces derniers mois que ses modèles résolvaient des problèmes mathématiques sur lesquels les spécialistes se cassent les dents et la tête depuis des années — dont certains du mathématicien Paul Erdős ou plus récemment, les équations de Navier-Stokes, tout en étant accusée de mauvaises pratiques scientifiques.

Ces annonces tonitruantes ont suscité une vague de colère de la part de la communauté des mathématiques, aussi bien en France qu’à l’international. La Société mathématique de France (SMF), avec toute la communauté internationale des chercheurs et chercheuses en maths, s’interroge sur les questions éthiques posées par l’IA générative (pillage bibliographique, coût énergétique et écologique…) et sur la déprédation scientifique de ces « résolutions ».

25 lauréats de la médaille Fields ont de leur côté cosigné une déclaration intitulée « A Severe Misalignment of AI in Mathematics » (« Un grave défaut d’alignement de l’IA en mathématiques »). Ils y déplorent la volonté des grands acteurs de l’IA de « nuire à la science des mathématiques », constatant une divergence entre ces entreprises et la communauté mathématique.

• L’IA menace la pratique scientifique, déplorent des milliers de mathématiciens

Dans un billet publié ce lundi 21 septembre, OpenAI annonce sa volonté d’engager un « dialogue réfléchi » avec la communauté et s’est rapproché d’un groupe consultatif indépendant en mathématiques qui « servira de passerelle avec la communauté mathématique et le grand public, en donnant aux mathématiciens une voix dans la façon dont nous avançons ».

Parmi les premiers membres de ce comité, on trouve François Charles, Camillo De Lellis, Timothy Gowers, Martin Hairer, Nikhil Srivastava, Ulrike Tillmann, Ravi Vakil, Edward Witten et Melanie Matchett Wood. Ils ne sont pas rémunérés par OpenAI pour leur participation.

Des questions presque aussi difficiles à résoudre que des équations

Le billet est très court et donne assez peu de détails. Ce groupe conseillera OpenAI sur l’évaluation et la communication des résultats de l’IA en matière de maths. Il aidera également à apprécier l’importance de ces résultats, à coordonner leur diffusion et à respecter les normes universitaires et professionnelles de la recherche mathématique.

Le groupe est aussi libre de formuler des recommandations non sollicitées, de commenter l’impact d’OpenAI sur les mathématiques, et de rendre publics ses avis. Étant donné son caractère consultatif, l’entreprise pourra suivre ses avis… ou pas. OpenAI restera libre du rythme de ses développements en maths.

Son premier travail est de trouver la manière de coordonner la publication d’un grand nombre de résultats importants qui auraient été obtenus par son modèle interne. OpenAI indique en effet que ce nouveau modèle, celui qui aurait résolu les équations de Navier–Stokes, a aussi trouvé des solutions à une centaine d’autres problèmes.

La startup ne cache pas que l’avenir ne sera pas forcément doré sur tranche : « Des questions difficiles restent à résoudre quant à la manière dont l’IA peut contribuer à la compréhension des mathématiques et dont les bénéfices de ces capacités peuvent profiter à l’ensemble de la communauté ». Pas de quoi réchauffer les relations tendues entre OpenAI et les mathématiciens, même si ce groupe est un geste en leur direction.

Certains mathématiciens demandent tout bonnement à OpenAI d’arrêter d’utiliser les maths comme benchmark de ses modèles. « Cessez d’essayer de donner l’impression que vous avez « résolu les maths » : c’est de toute façon impossible, et vous ne faites que rendre la résolution de problèmes aussi inutile que la production d’heures de vidéos sans intérêt sur l’IA », réagit ainsi le mathématicien David Madore.

Du rififi chez les matheux. OpenAI a affirmé ces derniers mois que ses modèles résolvaient des problèmes mathématiques sur lesquels les spécialistes se cassent les dents et la tête depuis des années — dont certains du mathématicien Paul Erdős ou plus récemment, les équations de Navier-Stokes, tout en étant accusée de mauvaises pratiques scientifiques.

Ces annonces tonitruantes ont suscité une vague de colère de la part de la communauté des mathématiques, aussi bien en France qu’à l’international. La Société mathématique de France (SMF), avec toute la communauté internationale des chercheurs et chercheuses en maths, s’interroge sur les questions éthiques posées par l’IA générative (pillage bibliographique, coût énergétique et écologique…) et sur la déprédation scientifique de ces « résolutions ».

25 lauréats de la médaille Fields ont de leur côté cosigné une déclaration intitulée « A Severe Misalignment of AI in Mathematics » (« Un grave défaut d’alignement de l’IA en mathématiques »). Ils y déplorent la volonté des grands acteurs de l’IA de « nuire à la science des mathématiques », constatant une divergence entre ces entreprises et la communauté mathématique.

• L’IA menace la pratique scientifique, déplorent des milliers de mathématiciens

Dans un billet publié ce lundi 21 septembre, OpenAI annonce sa volonté d’engager un « dialogue réfléchi » avec la communauté et s’est rapproché d’un groupe consultatif indépendant en mathématiques qui « servira de passerelle avec la communauté mathématique et le grand public, en donnant aux mathématiciens une voix dans la façon dont nous avançons ».

Parmi les premiers membres de ce comité, on trouve François Charles, Camillo De Lellis, Timothy Gowers, Martin Hairer, Nikhil Srivastava, Ulrike Tillmann, Ravi Vakil, Edward Witten et Melanie Matchett Wood. Ils ne sont pas rémunérés par OpenAI pour leur participation.

Des questions presque aussi difficiles à résoudre que des équations

Le billet est très court et donne assez peu de détails. Ce groupe conseillera OpenAI sur l’évaluation et la communication des résultats de l’IA en matière de maths. Il aidera également à apprécier l’importance de ces résultats, à coordonner leur diffusion et à respecter les normes universitaires et professionnelles de la recherche mathématique.

Le groupe est aussi libre de formuler des recommandations non sollicitées, de commenter l’impact d’OpenAI sur les mathématiques, et de rendre publics ses avis. Étant donné son caractère consultatif, l’entreprise pourra suivre ses avis… ou pas. OpenAI restera libre du rythme de ses développements en maths.

Son premier travail est de trouver la manière de coordonner la publication d’un grand nombre de résultats importants qui auraient été obtenus par son modèle interne. OpenAI indique en effet que ce nouveau modèle, celui qui aurait résolu les équations de Navier–Stokes, a aussi trouvé des solutions à une centaine d’autres problèmes.

La startup ne cache pas que l’avenir ne sera pas forcément doré sur tranche : « Des questions difficiles restent à résoudre quant à la manière dont l’IA peut contribuer à la compréhension des mathématiques et dont les bénéfices de ces capacités peuvent profiter à l’ensemble de la communauté ». Pas de quoi réchauffer les relations tendues entre OpenAI et les mathématiciens, même si ce groupe est un geste en leur direction.

Certains mathématiciens demandent tout bonnement à OpenAI d’arrêter d’utiliser les maths comme benchmark de ses modèles. « Cessez d’essayer de donner l’impression que vous avez « résolu les maths » : c’est de toute façon impossible, et vous ne faites que rendre la résolution de problèmes aussi inutile que la production d’heures de vidéos sans intérêt sur l’IA », réagit ainsi le mathématicien David Madore.

Amazon ferme la porte de son magasin à Muse, l’agent IA de Meta. Ce dernier est capable de fureter dans les allées virtuelles du géant du commerce en ligne pour y faire les emplettes de l’utilisateur. Mais Amazon n’a jamais donné son accord.

Le client est toujours roi, sauf quand il se cache derrière une IA. Amazon fait la guerre aux agents qui ne se déclarent pas comme tels. En novembre dernier, l’entreprise portait ainsi plainte contre Perplexity : l’agent intégré à Comet, le navigateur maison, est soupçonné de violer les conditions d’utilisation de la boutique en ligne.

• Amazon attaque Perplexity, dont les agents dégraderaient l’expérience d’achat

Amazon ne veut pas d’agents incognito

C’est le cas aussi pour Muse, l’agent IA lancé le 8 septembre. Il est en mesure de faire les courses pour le compte de l’utilisateur, y compris donc sur Amazon. Ça n’a pas duré longtemps : depuis ce dimanche 20 septembre, les utilisateurs de Muse qui le lâchent dans le supermarché en ligne se font accueillir par une fenêtre les informant qu’un agent non autorisé enfreint les conditions d’utilisation d’Amazon.

« Nous estimons qu’il est assez évident que les applications tierces proposant d’effectuer des achats auprès d’autres entreprises pour le compte de clients doivent agir en toute transparence et respecter la décision des fournisseurs de services de participer ou non à ce type d’expérience », a déclaré un porte-parole du groupe à Geekwire.

Pour Amazon, l’enjeu est de taille. L’activité publicitaire représente une manne pour le groupe : 68,6 milliards de dollars générés durant l’exercice 2025. Or, ce ne sont pas les agents qui vont cliquer sur les produits sponsorisés et les acheter.

Au moment de la plainte contre Perplexity, Amazon expliquait qu’un agent ou plus largement un service qui effectue des achats au nom d’un client doit fonctionner de manière transparente et respecter les décisions des fournisseurs sur leur participation. Des agences de voyage en ligne, ou encore des plateformes de livraison de repas acceptent ces conditions d’utilisation.

Meta défend la sécurité de Muse

Amazon estime que les agents qui ne respectent pas ses règles sont susceptibles de dégrader fortement l’expérience d’achat et le service client : manque de personnalisation et d’historique d’achat, erreurs dans les estimations des tarifs de livraison… Il y a également une problématique de sécurité. Puisque l’agent ne s’identifie pas, l’entreprise considère qu’un tiers non déclaré fouine dans les comptes des clients, réalise des transactions et exploite des données sensibles sans le consentement d’Amazon.

« Les applications tierces dotées de capacités agentiques, comme Muse, sont soumises aux mêmes obligations, et nous avons demandé à Meta de retirer Amazon de l’expérience », conclut le porte-parole.

Lors de la présentation de Muse, Meta a expliqué que son assistant IA fonctionnait dans une machine virtuelle sécurisée avec son propre navigateur web, et demandait l’autorisation de l’utilisateur à chaque étape sensible comme un achat en ligne. Un second agent, Sentinel, est chargé de surveiller les moindres faits et gestes de Muse et il doit autoriser tout ce qu’il envoie sur internet.

Meta a ajouté que Muse n’avait accès ni aux mots de passe, ni aux moyens de paiement de l’utilisateur. Les identifiants fournis par ce dernier sont hébergés dans un espace sécurisé, ce qui permet à Muse de « les utiliser sans les voir ». Des discussions ont lieu entre Amazon et Meta depuis dimanche soir au sujet de Muse.

L’ironie de l’histoire, c’est qu’Amazon a été pris les doigts dans le pot de confiture en lançant ses propres agents à l’assaut des petites boutiques en ligne qui refusent de vendre leurs produits dans les linéaires du mastodonte.

• L’IA de shopping d’Amazon revend des produits à l’insu et contre le gré de leurs vendeurs

Amazon ferme la porte de son magasin à Muse, l’agent IA de Meta. Ce dernier est capable de fureter dans les allées virtuelles du géant du commerce en ligne pour y faire les emplettes de l’utilisateur. Mais Amazon n’a jamais donné son accord.

Le client est toujours roi, sauf quand il se cache derrière une IA. Amazon fait la guerre aux agents qui ne se déclarent pas comme tels. En novembre dernier, l’entreprise portait ainsi plainte contre Perplexity : l’agent intégré à Comet, le navigateur maison, est soupçonné de violer les conditions d’utilisation de la boutique en ligne.

• Amazon attaque Perplexity, dont les agents dégraderaient l’expérience d’achat

Amazon ne veut pas d’agents incognito

C’est le cas aussi pour Muse, l’agent IA lancé le 8 septembre. Il est en mesure de faire les courses pour le compte de l’utilisateur, y compris donc sur Amazon. Ça n’a pas duré longtemps : depuis ce dimanche 20 septembre, les utilisateurs de Muse qui le lâchent dans le supermarché en ligne se font accueillir par une fenêtre les informant qu’un agent non autorisé enfreint les conditions d’utilisation d’Amazon.

« Nous estimons qu’il est assez évident que les applications tierces proposant d’effectuer des achats auprès d’autres entreprises pour le compte de clients doivent agir en toute transparence et respecter la décision des fournisseurs de services de participer ou non à ce type d’expérience », a déclaré un porte-parole du groupe à Geekwire.

Pour Amazon, l’enjeu est de taille. L’activité publicitaire représente une manne pour le groupe : 68,6 milliards de dollars générés durant l’exercice 2025. Or, ce ne sont pas les agents qui vont cliquer sur les produits sponsorisés et les acheter.

Au moment de la plainte contre Perplexity, Amazon expliquait qu’un agent ou plus largement un service qui effectue des achats au nom d’un client doit fonctionner de manière transparente et respecter les décisions des fournisseurs sur leur participation. Des agences de voyage en ligne, ou encore des plateformes de livraison de repas acceptent ces conditions d’utilisation.

Meta défend la sécurité de Muse

Amazon estime que les agents qui ne respectent pas ses règles sont susceptibles de dégrader fortement l’expérience d’achat et le service client : manque de personnalisation et d’historique d’achat, erreurs dans les estimations des tarifs de livraison…Il y a également une problématique de sécurité. Puisque l’agent ne s’identifie pas, l’entreprise considère qu’un tiers non déclaré fouine dans les comptes des clients, réalise des transactions et exploite des données sensibles sans le consentement d’Amazon.

« Les applications tierces dotées de capacités agentiques, comme Muse, sont soumises aux mêmes obligations, et nous avons demandé à Meta de retirer Amazon de l’expérience », conclut le porte-parole.

Lors de la présentation de Muse, Meta a expliqué que son assistant IA fonctionnait dans une machine virtuelle sécurisée avec son propre navigateur web, et demandait l’autorisation de l’utilisateur à chaque étape sensible comme un achat en ligne. Un second agent, Sentinel, est chargé de surveiller les moindres faits et gestes de Muse et il doit autoriser tout ce qu’il envoie sur internet.

Meta a ajouté que Muse n’avait accès ni aux mots de passe, ni aux moyens de paiement de l’utilisateur. Les identifiants fournis par ce dernier sont hébergés dans un espace sécurisé, ce qui permet à Muse de « les utiliser sans les voir ». Des discussions ont lieu entre Amazon et Meta depuis dimanche soir au sujet de Muse.

L’ironie de l’histoire, c’est qu’Amazon a été pris les doigts dans le pot de confiture en lançant ses propres agents à l’assaut des petites boutiques en ligne qui refusent de vendre leurs produits dans les linéaires du mastodonte.

• L’IA de shopping d’Amazon revend des produits à l’insu et contre le gré de leurs vendeurs

Ceci n'est pas un LLM

La société TypeSafe AI a présenté il y a quelques jours un nouveau modèle d’IA. Baptisé Jev, il se propose de traiter certaines opérations bien plus rapidement que les LLM « traditionnels », pour beaucoup moins cher. La comparaison reste cependant délicate.

L’annonce a fait l’effet d’une petite bombe sur les réseaux sociaux, particulièrement sur X : la société TypeSafe AI, fondée par Diogo Almeida, a annoncé son nouveau modèle de frontière, Jev.

Diogo Almeida se présente comme co-inventeur de ChatGPT. Un titre un peu exagéré. Il a travaillé effectivement sur les méthodes qui ont rendu capables les modèles GPT de suivre des instructions et de converser avec les utilisateurs. Mais il serait plus juste de dire qu’il est le co-inventeur du RLHF (Reinforcement Learning from Human Feedback), c’est-à-dire l’apprentissage par renforcement à partir de rétroaction humaine. Il est effectivement l’un des auteurs d’un papier fondateur sur la question.

Jev, en tout cas, n’est pas un LLM : il ne peut pas créer de texte ni même aider à la programmation. Il est décrit comme le premier « System One Model », une nouvelle catégorie de modèles conçus pour prendre des décisions rapides et structurées, que des services ou applications peuvent ensuite utiliser directement.

Ce qu’est Jev

Le modèle est comparé par TypeSafe AI à un appel de fonction : un état non structuré en entrée, des décisions probabilistes typées en sortie. Concrètement, on lui envoie un état (le contexte) et des questions portant sur cet état. Les réponses possibles sont fixées à l’avance par un schéma. Jev répond ensuite via trois primitives : le choix d’une option dans un ensemble, une note sur une échelle ordonnée, et un oui ou non calibré.

Pour bâtir Jev, TypeSafe AI dit avoir construit une nouvelle architecture de modèle, un échantillonneur parallèle et une nouvelle méthode de renforcement baptisée RLCD, pour « Reinforcement Learning for Calibrated Decisions ». L’échantillonneur parallèle signifie que toutes les questions d’une requête sont évaluées en parallèle, contrairement à un LLM dont chaque nouvel élément dépend du précédent.

Plusieurs points forts sont mis en avant, notamment la calibration via RLCD. Selon l’entreprise, cet entrainement doit permettre des réponses assorties de probabilités « honnêtes ». Dans ce contexte, une confiance plus élevée (donnée sous forme de pourcentage) signifie une meilleure exactitude. En outre, TypeSafe affirme que Jev ne peut pas halluciner, puisque la sortie est contrainte par le schéma. Il faut cependant lire entre les lignes : dans ce contexte, Jev garantit le respect du format, pas la justesse du format. En d’autres termes, Jev ne peut rien « inventer », mais il peut se tromper de catégorie.

Vite, un exemple !

Pour mieux comprendre l’intérêt de ce nouveau modèle, mieux vaut un exemple. Imaginons un service client qui reçoit 10 000 e-mails par jour. Pour chacun, un programme doit prendre plusieurs décisions : le client est-il mécontent ? Faut-il envoyer le message au service facturation, technique ou commercial ? Est-ce urgent ?

Aujourd’hui, ce type de tâche est souvent confié à un LLM comme GPT ou Claude. On lui envoie l’e-mail avec une consigne du type « dis-moi si c’est urgent », et il répond par une phrase : « Oui, ce message semble urgent car le client menace de résilier ». Problème, un programme informatique ne « comprend » pas les phrases. Il faut donc un travail supplémentaire pour extraire le « oui » de cette phrase. De plus, le modèle peut répondre à côté, ajouter des commentaires inutiles ou inventer une catégorie qui n’existe pas. Enfin, écrire une phrase mot par mot prend du temps et coûte cher.

Jev ne fonctionne pas avec des phrases, mais avec trois primitives. On applique une liste de questions dont les réponses sont fixées à l’avance :

• Le client est-il mécontent ? Oui/Non
• Quel service doit traiter cet e-mail ? Facturation/Technique/Commercial
• Quelle urgence sur une note de 1 à 5 ?

Si on continue dans cet exemple, on obtiendra une réponse du type : « oui (92 % de certitude), facturation (85 %), urgence 4 (70 %) ». Cela revient à donner un formulaire à remplir pour répondre à une question plutôt que demander son avis à une personne.

Les données émises par Jev sont formatées et peuvent être reprises telles quelles par d’autres éléments de traitement de la chaine. Quand TypeSafe affirme que son modèle ne peut pas halluciner, cela signifie que Jev ne peut pas répondre par exemple « Juridique » pour le service à contacter. En revanche, rien ne l’empêche de se tromper sur le service à effectivement contacter. On peut alors appliquer un filtre pour automatiser l’envoi à une équipe humaine pour toutes les réponses dont le score de confiance est inférieur à 80 %.

L’efficacité mise en avant

L’un des éléments les plus repris par la presse est l’efficacité du modèle. Sur les tâches pour lesquelles il a été pensé, le temps de réponse annoncé va de 70 à 500 ms, soit 40 à 200 fois plus rapide que les modèles de pointe pour des requêtes de ce type. Le prix est de 0,042 dollar par million de jetons en entrée, et la sortie est gratuite. À titre de comparaison, GPT-5.6 Terra coûte 2 dollars par million de jetons en entrée et 12 dollars en sortie.

Dans sa présentation, TypeSafe donne des chiffres mais émet elle-même des réserves. Ainsi, les gains maximaux peuvent être très précisément de x193,6 sur les performances et x444,6 moins cher. Ces chiffres viennent de quatre chaines de traitement interne : réponse aux incidents de sécurité, observation de traces d’agents, traitement de factures et service client.

Même si TypeSafe évoque une certaine prudence, il est difficile pour l’instant de jauger des performances réelles comme de la facture finale, car le modèle n’est disponible pour tout le monde que depuis le 20 septembre, sans liste d’attente. Si l’on en croit certains retours d’entreprises ayant testé le modèle, le gain semble avéré.

En outre, l’annonce de Jev est déjà contestée. Selon Nandakishor Mukkunnoth, fondateur de ConvAI Innovations, l’idée n’est pas nouvelle. Dans un billet, il indique être à l’origine des recherches qui ont mené à cette technique, dont il revendique la paternité. Il ne reproche pas à TypeSafe d’avoir copié du code, mais de ne pas avoir cité des travaux antérieurs. Sur Hacker News, plusieurs personnes notent que ce type de mésaventure est malheureusement courant, mais que l’apport de TypeSafe est surtout d’avoir réussi à en faire un produit concret.

Ce qui n’a pas empêché Nandakishor Mukkunnoth de publier une alternative libre, nommée Laya. D’autres modèles libres sont apparus en quelques jours. Si l’on en croit les premiers tests réalisés indépendamment, tous les modèles affichent des performances moindres que Jev. Si l’on donne un score de référence de 1 à ce dernier, les 78 tests effectués font ressortir des notes alternant entre 0,5 et 0,7, Laya étant dans la moyenne.

Ceci n'est pas un LLM

La société TypeSafe AI a présenté il y a quelques jours un nouveau modèle d’IA. Baptisé Jev, il se propose de traiter certaines opérations bien plus rapidement que les LLM « traditionnels », pour beaucoup moins cher. La comparaison reste cependant délicate.

L’annonce a fait l’effet d’une petite bombe sur les réseaux sociaux, particulièrement sur X : la société TypeSafe AI, fondée par Diogo Almeida, a annoncé son nouveau modèle de frontière, Jev.

Diogo Almeida se présente comme co-inventeur de ChatGPT. Un titre un peu exagéré. Il a travaillé effectivement sur les méthodes qui ont rendu capables les modèles GPT de suivre des instructions et de converser avec les utilisateurs. Mais il serait plus juste de dire qu’il est le co-inventeur du RLHF (Reinforcement Learning from Human Feedback), c’est-à-dire l’apprentissage par renforcement à partir de rétroaction humaine. Il est effectivement l’un des auteurs d’un papier fondateur sur la question.

Jev, en tout cas, n’est pas un LLM : il ne peut pas créer de texte ni même aider à la programmation. Il est décrit comme le premier « System One Model », une nouvelle catégorie de modèles conçus pour prendre des décisions rapides et structurées, que des services ou applications peuvent ensuite utiliser directement.

Ce qu’est Jev

Le modèle est comparé par TypeSafe AI à un appel de fonction : un état non structuré en entrée, des décisions probabilistes typées en sortie. Concrètement, on lui envoie un état (le contexte) et des questions portant sur cet état. Les réponses possibles sont fixées à l’avance par un schéma. Jev répond ensuite via trois primitives : le choix d’une option dans un ensemble, une note sur une échelle ordonnée, et un oui ou non calibré.

Pour bâtir Jev, TypeSafe AI dit avoir construit une nouvelle architecture de modèle, un échantillonneur parallèle et une nouvelle méthode de renforcement baptisée RLCD, pour « Reinforcement Learning for Calibrated Decisions ». L’échantillonneur parallèle signifie que toutes les questions d’une requête sont évaluées en parallèle, contrairement à un LLM dont chaque nouvel élément dépend du précédent.

Plusieurs points forts sont mis en avant, notamment la calibration via RLCD. Selon l’entreprise, cet entrainement doit permettre des réponses assorties de probabilités « honnêtes ». Dans ce contexte, une confiance plus élevée (donnée sous forme de pourcentage) signifie une meilleure exactitude. En outre, TypeSafe affirme que Jev ne peut pas halluciner, puisque la sortie est contrainte par le schéma. Il faut cependant lire entre les lignes : dans ce contexte, Jev garantit le respect du format, pas la justesse du format. En d’autres termes, Jev ne peut rien « inventer », mais il peut se tromper de catégorie.

Vite, un exemple !

Pour mieux comprendre l’intérêt de ce nouveau modèle, mieux vaut un exemple. Imaginons un service client qui reçoit 10 000 e-mails par jour. Pour chacun, un programme doit prendre plusieurs décisions : le client est-il mécontent ? Faut-il envoyer le message au service facturation, technique ou commercial ? Est-ce urgent ?

Aujourd’hui, ce type de tâche est souvent confié à un LLM comme GPT ou Claude. On lui envoie l’e-mail avec une consigne du type « dis-moi si c’est urgent », et il répond par une phrase : « Oui, ce message semble urgent car le client menace de résilier ». Problème, un programme informatique ne « comprend » pas les phrases. Il faut donc un travail supplémentaire pour extraire le « oui » de cette phrase. De plus, le modèle peut répondre à côté, ajouter des commentaires inutiles ou inventer une catégorie qui n’existe pas. Enfin, écrire une phrase mot par mot prend du temps et coûte cher.

Jev ne fonctionne pas avec des phrases, mais avec trois primitives. On applique une liste de questions dont les réponses sont fixées à l’avance :

• Le client est-il mécontent ? Oui/Non
• Quel service doit traiter cet e-mail ? Facturation/Technique/Commercial
• Quelle urgence sur une note de 1 à 5 ?

Si on continue dans cet exemple, on obtiendra une réponse du type : « oui (92 % de certitude), facturation (85 %), urgence 4 (70 %) ». Cela revient à donner un formulaire à remplir pour répondre à une question plutôt que demander son avis à une personne.

Les données émises par Jev sont formatées et peuvent être reprises telles quelles par d’autres éléments de traitement de la chaine. Quand TypeSafe affirme que son modèle ne peut pas halluciner, cela signifie que Jev ne peut pas répondre par exemple « Juridique » pour le service à contacter. En revanche, rien ne l’empêche de se tromper sur le service à effectivement contacter. On peut alors appliquer un filtre pour automatiser l’envoi à une équipe humaine pour toutes les réponses dont le score de confiance est inférieur à 80 %.

L’efficacité mise en avant

L’un des éléments les plus repris par la presse est l’efficacité du modèle. Sur les tâches pour lesquelles il a été pensé, le temps de réponse annoncé va de 70 à 500 ms, soit 40 à 200 fois plus rapide que les modèles de pointe pour des requêtes de ce type. Le prix est de 0,042 dollar par million de jetons en entrée, et la sortie est gratuite. À titre de comparaison, GPT-5.6 Terra coûte 2 dollars par million de jetons en entrée et 12 dollars en sortie.

Dans sa présentation, TypeSafe donne des chiffres mais émet elle-même des réserves. Ainsi, les gains maximaux peuvent être très précisément de x193,6 sur les performances et x444,6 moins cher. Ces chiffres viennent de quatre chaines de traitement interne : réponse aux incidents de sécurité, observation de traces d’agents, traitement de factures et service client.

Même si TypeSafe évoque une certaine prudence, il est difficile pour l’instant de jauger des performances réelles comme de la facture finale, car le modèle n’est disponible pour tout le monde que depuis le 20 septembre, sans liste d’attente. Si l’on en croit certains retours d’entreprises ayant testé le modèle, le gain semble avéré.

En outre, l’annonce de Jev est déjà contestée. Selon Nandakishor Mukkunnoth, fondateur de ConvAI Innovations, l’idée n’est pas nouvelle. Dans un billet, il indique être à l’origine des recherches qui ont mené à cette technique, dont il revendique la paternité. Il ne reproche pas à TypeSafe d’avoir copié du code, mais de ne pas avoir cité des travaux antérieurs. Sur Hacker News, plusieurs personnes notent que ce type de mésaventure est malheureusement courant, mais que l’apport de TypeSafe est surtout d’avoir réussi à en faire un produit concret.

Ce qui n’a pas empêché Nandakishor Mukkunnoth de publier une alternative libre, nommée Laya. D’autres modèles libres sont apparus en quelques jours. Si l’on en croit les premiers tests réalisés indépendamment, tous les modèles affichent des performances moindres que Jev. Si l’on donne un score de référence de 1 à ce dernier, les 78 tests effectués font ressortir des notes alternant entre 0,5 et 0,7, Laya étant dans la moyenne.

Les majors sortent les dossiers

La quête de respectabilité de Suno est décidément un long chemin pas très tranquille. La start-up qui développe des outils de génération IA de musique est la cible d’une nouvelle plainte des majors Sony et Universal.

Dévoilé le 9 septembre, le modèle v6 de Suno a été développé en partenariat avec des représentants de la filière musicale, dont Warner, BMG et Believe. Ce modèle IA est présenté comme un moyen de montrer « comment l’IA et l’industrie musicale peuvent se renforcer mutuellement et créer des expériences entièrement nouvelles pour les artistes, les fans et, plus largement, toute la communauté musicale. »

Ce travail en commun avec une partie de la filière permet aussi et surtout à Suno de se rapprocher des acteurs traditionnels de l’industrie musicale et de montrer qu’elle entend désormais composer avec eux, plutôt que contre eux. À l’instar de son rival Udio, la start-up a mauvaise réputation dans le milieu.

• Udio et Suno, des IA de génération de musiques attaquées par l’industrie musicale américaine

Sony et Universal remettent une pièce

Malgré v6, Suno n’est pas au bout de ses peines. Sony Music et Universal Music (UMG) ont ainsi déposé plainte contre l’entreprise ce vendredi 18 septembre (PDF). Les deux majors lui reprochent d’avoir copié sans autorisation des dizaines de milliers d’enregistrements protégés pour l’entraînement de ses modèles. On parle de 60 202 enregistrements, et il ne s’agit là que d’une partie du corpus effectivement utilisé.

La deuxième accusation est que Suno aurait obtenu une partie des fichiers en les aspirant depuis YouTube, avec l’aide d’outils bien connus des pirates pour contourner les protections techniques de la plateforme vidéo. L’entreprise l’avait d’ailleurs admis :

• Suno a aspiré des millions de chansons pour entraîner son IA

Enfin, et c’est peut-être l’élément le plus saillant de la plainte, Sony et UMG veulent empêcher Suno de présenter v6 comme un nouveau départ. Les plaignantes affirment que le modèle aurait encore utilisé des copies de leurs enregistrements pour son entraînement, sans autorisation.

Le lourd passif des anciens modèles

Jack Brody, le directeur produit de Suno, avait affirmé au site MBW que l’entraînement de v6 s’est réalisé « à partir de zéro », avec « des données différentes de celles utilisées pour les modèles précédents ». Surtout, ces données n’incluent rien provenant de Sony et d’UMG.

Mais voilà : lorsqu’un utilisateur crée un morceau avec Suno, ce sont en fait deux titres qui sont générés. Ces données de préférence servent ensuite à améliorer les modèles. Les majors estiment que, puisque ces préférences portent sur des morceaux générés par les anciens modèles, elles ont permis de transmettre à v6 une partie de ce que ces modèles avaient appris à partir d’enregistrements utilisés sans autorisation. Autrement dit, du blanchiment de données.

Sony et Universal réclament une injonction pour faire cesser les pratiques de Suno, ainsi que des dommages et intérêts qui pourraient se monter jusqu’à 150 000 dollars par œuvre. On sent que la porte n’est pas fermée pour une entente à l’amiable. Dans leur plainte, les deux sociétés expliquent en effet qu’il existe un marché pour des licences qui permettraient d’obtenir légalement des données d’entraînement, la preuve : Suno a signé avec Warner, BMG et Believe…

C’est la deuxième action en justice menée par UMG et Sony contre Suno. La première remonte à juin 2024, qui portait sur l’utilisation présumée, sans autorisation, d’enregistrements protégés pour l’entraînement d’anciens modèles. Une procédure amendée au mois d’août, en ajoutant au lot l’accusation de contournement des protections anti-téléchargement de YouTube.

Les majors sortent les dossiers

La quête de respectabilité de Suno est décidément un long chemin pas très tranquille. La start-up qui développe des outils de génération IA de musique est la cible d’une nouvelle plainte des majors Sony et Universal.

Dévoilé le 9 septembre, le modèle v6 de Suno a été développé en partenariat avec des représentants de la filière musicale, dont Warner, BMG et Believe. Ce modèle IA est présenté comme un moyen de montrer « comment l’IA et l’industrie musicale peuvent se renforcer mutuellement et créer des expériences entièrement nouvelles pour les artistes, les fans et, plus largement, toute la communauté musicale. »

Ce travail en commun avec une partie de la filière permet aussi et surtout à Suno de se rapprocher des acteurs traditionnels de l’industrie musicale et de montrer qu’elle entend désormais composer avec eux, plutôt que contre eux. À l’instar de son rival Udio, la start-up a mauvaise réputation dans le milieu.

• Udio et Suno, des IA de génération de musiques attaquées par l’industrie musicale américaine

Sony et Universal remettent une pièce

Malgré v6, Suno n’est pas au bout de ses peines. Sony Music et Universal Music (UMG) ont ainsi déposé plainte contre l’entreprise ce vendredi 18 septembre (PDF). Les deux majors lui reprochent d’avoir copié sans autorisation des dizaines de milliers d’enregistrements protégés pour l’entraînement de ses modèles. On parle de 60 202 enregistrements, et il ne s’agit là que d’une partie du corpus effectivement utilisé.

La deuxième accusation est que Suno aurait obtenu une partie des fichiers en les aspirant depuis YouTube, avec l’aide d’outils bien connus des pirates pour contourner les protections techniques de la plateforme vidéo. L’entreprise l’avait d’ailleurs admis :

• Suno a aspiré des millions de chansons pour entraîner son IA

Enfin, et c’est peut-être l’élément le plus saillant de la plainte, Sony et UMG veulent empêcher Suno de présenter v6 comme un nouveau départ. Les plaignantes affirment que le modèle aurait encore utilisé des copies de leurs enregistrements pour son entraînement, sans autorisation.

Le lourd passif des anciens modèles

Jack Brody, le directeur produit de Suno, avait affirmé au site MBW que l’entraînement de v6 s’est réalisé « à partir de zéro », avec « des données différentes de celles utilisées pour les modèles précédents ». Surtout, ces données n’incluent rien provenant de Sony et d’UMG.

Mais voilà : lorsqu’un utilisateur crée un morceau avec Suno, ce sont en fait deux titres qui sont générés. Ces données de préférence servent ensuite à améliorer les modèles. Les majors estiment que, puisque ces préférences portent sur des morceaux générés par les anciens modèles, elles ont permis de transmettre à v6 une partie de ce que ces modèles avaient appris à partir d’enregistrements utilisés sans autorisation. Autrement dit, du blanchiment de données.

Sony et Universal réclament une injonction pour faire cesser les pratiques de Suno, ainsi que des dommages et intérêts qui pourraient se monter jusqu’à 150 000 dollars par œuvre. On sent que la porte n’est pas fermée pour une entente à l’amiable. Dans leur plainte, les deux sociétés expliquent en effet qu’il existe un marché pour des licences qui permettraient d’obtenir légalement des données d’entraînement, la preuve : Suno a signé avec Warner, BMG et Believe…

C’est la deuxième action en justice menée par UMG et Sony contre Suno. La première remonte à juin 2024, qui portait sur l’utilisation présumée, sans autorisation, d’enregistrements protégés pour l’entraînement d’anciens modèles. Une procédure amendée au mois d’août, en ajoutant au lot l’accusation de contournement des protections anti-téléchargement de YouTube.

« ChatGPT peut faire des erreurs »

L’humanité est passée à un cheveu, ou plutôt à une hallucination près, de partir en lattes. Au printemps, l’armée américaine était en effet à deux doigts de prendre d’assaut un navire chinois soupçonné de transporter des composants pour un programme nucléaire. Problème : le rapport sur lequel l’armée se basait a été généré par une IA qui a halluciné la cargaison du bateau.

Depuis quelques jours, les grands acteurs de l’IA jouent à se faire peur, en affirmant que cette technologie pourrait signer la fin de l’humanité. Un storytelling apocalyptique qui sert aussi et surtout les intérêts commerciaux d’entreprises qui préparent leurs introductions en Bourse.

• Les patrons de l’IA appellent à lever le pied, leurs dépenses disent l’inverse

Le vrai danger immédiat de l’IA réside dans les décisions potentiellement catastrophiques d’humains prises à partir d’informations non fiables ou carrément hallucinées. C’est particulièrement problématique quand il s’agit de décisions militaires. CNN rapporte un exemple qui fait froid dans le dos.

WarGames pour les nuls

Au plus fort de la guerre contre l’Iran ce printemps, l’armée américaine a très sérieusement envisagé d’intercepter un navire chinois par la force, avec l’aide d’un support aérien armé. Le bâtiment, qui croisait au Moyen-Orient, transportait des composants destinés à un programme d’armement nucléaire, du moins d’après un rapport rédigé par un analyste du commandement des opérations spéciales américaines pour le Pacifique, basé à Hawaï.

Fort heureusement, juste avant le lancement de l’opération, des responsables ont examiné de plus près le fameux rapport. Ils ont alors découvert qu’il avait été rédigé avec l’aide d’un bot IA qui a mal identifié la nature du matériel transporté par le navire, à partir de son manifeste. Une des sources de CNN affirme que le rapport était « complètement faux ». Cette histoire basée sur l’hallucination d’une IA a « presque failli déclencher une guerre » : toute opération américaine contre un navire chinois peut dégénérer en conflit entre les États-Unis et la Chine.

Le bot aurait patouillé des renseignements publics avec des renseignements classifiés pour déterminer, faussement, que le bâtiment transportait une cargaison dangereuse. Une conclusion qui aurait pu être très lourde de conséquences.

Le Pentagone hallucine aussi

Le ministère de la Défense américain, emmené par le très trumpiste Pete Hegseth, a fait de l’intégration de l’IA dans les opérations militaires une priorité. Une intégration à marche forcée : les responsables états-uniens, tout comme Donald Trump, estiment que le pays ne peut pas prendre de retard sur ce dossier. Que se passerait-il si les États-Unis devaient affronter la Chine ou un autre adversaire mieux équipé ?

Une note du Pentagone décrivait la stratégie à suivre (PDF) : démocratiser l’expérimentation de l’IA dans l’ensemble du ministère, « en mettant les modèles d’IA américains de pointe directement entre les mains de nos trois millions de personnels civils et militaires, à tous les niveaux de classification ».

La mise en œuvre serait cependant bien décousue : chaque branche du gouvernement utilise des outils différents avec des normes de sécurité tout aussi différentes. Aucun standard n’existe pour vérifier les informations de ces systèmes d’IA. Les humains restent donc, plus que jamais, absolument indispensables pour prendre les décisions, en espérant que ce soient les bonnes.

• L’humanité n’a pas attendu l’IA pour « jouer avec nos vies »

« ChatGPT peut faire des erreurs »

L’humanité est passée à un cheveu, ou plutôt à une hallucination près, de partir en lattes. Au printemps, l’armée américaine était en effet à deux doigts de prendre d’assaut un navire chinois soupçonné de transporter des composants pour un programme nucléaire. Problème : le rapport sur lequel l’armée se basait a été généré par une IA qui a halluciné la cargaison du bateau.

Depuis quelques jours, les grands acteurs de l’IA jouent à se faire peur, en affirmant que cette technologie pourrait signer la fin de l’humanité. Un storytelling apocalyptique qui sert aussi et surtout les intérêts commerciaux d’entreprises qui préparent leurs introductions en Bourse.

• Les patrons de l’IA appellent à lever le pied, leurs dépenses disent l’inverse

Le vrai danger immédiat de l’IA réside dans les décisions potentiellement catastrophiques d’humains prises à partir d’informations non fiables ou carrément hallucinées. C’est particulièrement problématique quand il s’agit de décisions militaires. CNN rapporte un exemple qui fait froid dans le dos.

WarGames pour les nuls

Au plus fort de la guerre contre l’Iran ce printemps, l’armée américaine a très sérieusement envisagé d’intercepter un navire chinois par la force, avec l’aide d’un support aérien armé. Le bâtiment, qui croisait au Moyen-Orient, transportait des composants destinés à un programme d’armement nucléaire, du moins d’après un rapport rédigé par un analyste du commandement des opérations spéciales américaines pour le Pacifique, basé à Hawaï.

Fort heureusement, juste avant le lancement de l’opération, des responsables ont examiné de plus près le fameux rapport. Ils ont alors découvert qu’il avait été rédigé avec l’aide d’un bot IA qui a mal identifié la nature du matériel transporté par le navire, à partir de son manifeste. Une des sources de CNN affirme que le rapport était « complètement faux ». Cette histoire basée sur l’hallucination d’une IA a « presque failli déclencher une guerre » : toute opération américaine contre un navire chinois peut dégénérer en conflit entre les États-Unis et la Chine.

Le bot aurait patouillé des renseignements publics avec des renseignements classifiés pour déterminer, faussement, que le bâtiment transportait une cargaison dangereuse. Une conclusion qui aurait pu être très lourde de conséquences.

Le Pentagone hallucine aussi

Le ministère de la Défense américain, emmené par le très trumpiste Pete Hegseth, a fait de l’intégration de l’IA dans les opérations militaires une priorité. Une intégration à marche forcée : les responsables états-uniens, tout comme Donald Trump, estiment que le pays ne peut pas prendre de retard sur ce dossier. Que se passerait-il si les États-Unis devaient affronter la Chine ou un autre adversaire mieux équipé ?

Une note du Pentagone décrivait la stratégie à suivre (PDF) : démocratiser l’expérimentation de l’IA dans l’ensemble du ministère, « en mettant les modèles d’IA américains de pointe directement entre les mains de nos trois millions de personnels civils et militaires, à tous les niveaux de classification ».

La mise en œuvre serait cependant bien décousue : chaque branche du gouvernement utilise des outils différents avec des normes de sécurité tout aussi différentes. Aucun standard n’existe pour vérifier les informations de ces systèmes d’IA. Les humains restent donc, plus que jamais, absolument indispensables pour prendre les décisions, en espérant que ce soient les bonnes.

• L’humanité n’a pas attendu l’IA pour « jouer avec nos vies »

« Boucle infernale »

« Le plus grand vol de travail de l’histoire de l’humanité » : cette déclaration reprise par le New York Times dans sa procédure en justice contre OpenAI résonne particulièrement fort puisqu’elle émane de Brent Hecht, directeur scientifique de Microsoft. Dans un mémoire de synthèse remis à la justice, l’éditeur du célèbre quotidien aligne les éléments à charge contre le créateur de ChatGPT.

Le New York Times est parti en guerre contre OpenAI. En décembre 2023, l’éditeur portait plainte contre l’entreprise IA, l’accusant d’avoir utilisé des millions d’articles sans autorisation pour entraîner ses modèles GPT. L’administration Trump a récemment volé au secours d’OpenAI, en affirmant que l’entraînement de l’IA sur des contenus protégés par droit d’auteur relevait du « fair use » (usage équitable), un argument seriné en boucle par les entreprises IA pour se défausser de leur responsabilité.

• Le gouvernement américain vole au secours d’OpenAI dans son litige avec le New York Times

Des documents internes difficiles à balayer

Le mémoire de synthèse, déposé devant le tribunal fédéral de New York (PDF) par le NYT et d’autres éditeurs de presse (Chicago Tribune, Ziff Davis, Mother Jones…), détaille les éléments recueillis pendant la phase de collecte des preuves : témoignages sous serment, messages et autres documents produits par OpenAI et Microsoft. Ils sont évidemment à charge, mais ils s’appuient sur des pièces et des témoignages qui donnent un aperçu assez cru de la manière dont OpenAI et Microsoft considéraient en interne l’exploitation des contenus de presse.

Le témoignage de Brent Hecht est particulièrement embarrassant. Selon lui, « des millions de personnes dans le monde considéreront bientôt que les grands modèles qui « aspirent » tout leur travail constituent un vol d’une ampleur sans précédent ». Il admet que « presque personne n’avait prévu que les contenus créés seraient utilisés de cette manière, sans que leurs auteurs soient rémunérés ».

Le directeur scientifique de Microsoft estime aussi qu’accepter l’argument d’OpenAI selon lequel le moissonnage de contenus n’est que du « fair use » revient à complètement vider la notion de son sens. « Ces propos reflètent le point de vue personnel d’un employé et ne constituent pas une analyse juridique », a déclaré Microsoft auprès d’Ars Technica.

Le mémoire cite un autre échange dans lequel Nick Ryder, responsable de recherche chez OpenAI, annonce à Greg Brockman l’existence d’un « moyen pour contourner le paywall du New York Times » afin de collecter les articles. Le cofondateur et président de l’entreprise a simplement répondu : « ah, très bien » (« ah nice »).

Des aveux qui tombent mal

Les éditeurs de presse font tout simplement face à une « menace existentielle », reconnait Nick Turley, responsable de ChatGPT chez OpenAI, dans un message interne remontant à juin 2023. Une fois que ChatGPT fournit une réponse, il n’y a « aucune bonne raison de cliquer » sur le lien vers la source d’origine, ajoute-t-il. Un document chez Microsoft parle de « boucle infernale » : en détournant une partie du trafic des sites d’actualité, les assistants IA fragilisent les éditeurs qui produisent précisément les contenus dont leurs modèles ont besoin pour rester performants.

Selon les propres données de Microsoft, le taux de clic depuis Bing Chat ou Copilot vers les sites des éditeurs est très inférieur à celui observé depuis la recherche Bing classique : baisse de 87 à 93 % pour les sites du New York Times, de 83 à 91 % pour les autres plaignants. C’est d’autant moins de revenus pour les sites de presse qui se retrouvent en concurrence avec leurs propres contenus recrachés par les bots. Un ingénieur logiciel d’OpenAI reconnaissait dans un message interne que, « peu importe la visibilité donnée aux liens, les utilisateurs ne cliqueront pas dessus ».

Satya Nadella face à la question des paywalls

Dans son témoignage sous serment, Satya Nadella, le directeur général de Microsoft, admet que « tout contenu placé derrière un paywall devrait faire l’objet d’une licence de la part de quiconque souhaite l’utiliser, que ce soit pour alimenter les réponses d’un modèle ou pour son entraînement ».

S’il avait su qu’OpenAI – dont Microsoft est un des principaux partenaires – avait moissonné des contenus placés derrière un paywall pour entraîner ses modèles IA, Nadella aurait invoqué le droit de Microsoft d’exiger le réentraînement des modèles sans ces données protégées. Pour le dirigeant, les entreprises IA ne devraient pas accéder à des contenus enfreignant les conditions d’utilisation.

Satya Nadella reconnait également que les chatbots comme Copilot peuvent se substituer aux sites d’actualité : ils donnent en effet l’information « directement sur la plateforme d’IA, plutôt que d’obliger l’utilisateur à se rendre à la source d’origine ». Pour le porte-parole de Microsoft, ce témoignage porte sur des « principes généraux », il ne s’agit que « d’observations qui ne doivent pas être confondues avec des conclusions sur les questions de droit d’auteur soumises au tribunal ».

Si ce mémoire de synthèse est certes accablant, il ne constitue pas pour autant une décision de justice ni une conclusion du tribunal sur le fond de l’affaire. Néanmoins, les pièces de première main qu’il expose éclairent l’état d’esprit d’OpenAI et de Microsoft quant à la portée réelle de leur utilisation du « fair use ».