Une méta-analyse sur les effets de ChatGPT sur les élèves qui soutenait « un impact positif considérable » a été rétractée. Des chercheurs ont rapidement pointé des problèmes méthodologiques importants mais la revue n’a réagi qu’un an après.
En mai 2025, la revue Humanities and social sciences communications publiait une méta-analyse effectuée par les chercheurs chinois Jin Wang et Wenxiang Fan sur les effets de l’utilisation du chatbot d’OpenAI sur l’apprentissage à l’école qui affirmait que celui-ci avait « un impact positif considérable sur l’amélioration des résultats scolaires ». Près d’un an après avoir cautionné le sérieux de l’étude en l’ayant publiée, la revue, éditée par le géant Springer Nature, a décidé de la rétracter.
« L’éditeur [membre de l’équipe qui gère la revue] a décidé de rétracter cet article en raison de réserves concernant des incohérences dans la méta-analyse. Ces problèmes remettent en cause la confiance que l’éditeur peut accorder à la validité de l’analyse et aux conclusions qui en découlent », explique la note de rétractation publiée le 22 avril dernier. « Les auteurs n’ont pas répondu aux courriers concernant cette rétractation », ajoute la revue.
Un article cité déjà 500 fois
Entre-temps, selon Google Scholar, la méta-analyse a été citée plus de 500 fois dans des travaux scientifiques (relus par les pairs ou pas). Si ces travaux reposent de façon importante sur cette méta-analyse, les auteurs devront aussi se poser des questions sur la solidité de leurs travaux. Par exemple, elle était encore citée dans un article publié en février dernier dans la revue Scientific Reports, éditée aussi par Springer Nature.
Pourtant des critiques sont vite apparues. Ainsi, on pouvait trouver un commentaire sur la plateforme Pubpeer (qui permet de relever d’éventuels problèmes dans des articles déjà parus dans des revues scientifiques) dès juillet dernier.
Des chercheurs norvégiens ont sonné l’alarme
Il reste 61% de l'article à découvrir. Vous devez être abonné•e pour lire la suite de cet article. Déjà abonné•e ? Générez une clé RSS dans votre profil.
Homebridge est une solution logicielle open source permettant d’ajouter le support de HomeKit (la plateforme d’objets connectés d’Apple) à des produits qui ne le sont pas nativement. Par exemple, des caméras Ring d’Amazon sont ainsi accessibles et utilisables depuis l’application Maison (Home en anglais) d’Apple grâce à Homebridge.
Après trois ans de bêta, Homebridge commence à prendre en charge le standard Matter et passe pour l’occasion en version 2.0. L’app fait donc office de pont Matter, en plus de HomeKit. Les plugins Homebridge peuvent ainsi utiliser des produits Matter (et s’ouvrent notamment à l’écosystème Google). L’application Maison d’Apple est de son côté déjà compatible HomeKit et Matter.
Avant la migration, les développeurs mettent en garde : « Avant de faire une mise à jour, assurez-vous que le(s) plugin(s) que vous utilisez sont compatibles avec cette nouvelle version de Homebridge […] Node.js 18 et 20 ne sont plus pris en charge. Homebridge v2 nécessite Node.js 22 ou 24 ».
Comme le rapporte The Verge, le développeur voit deux principaux cas d’usage. Pour commencer, « combler le fossé dans la prise en charge des appareils HomeKit : Apple a commencé à utiliser Matter pour les nouveaux types d’appareils plutôt que de les ajouter directement à HomeKit. Les aspirateurs en sont un exemple récent : Apple a ajouté la prise en charge des aspirateurs à l’application Home, mais via Matter, et non via HomeKit. Notre objectif est de combler cette lacune afin que les plugins Homebridge puissent offrir toutes les fonctionnalités pour ces types d’appareils. Nous pensons que cet objectif est tout à fait réalisable et qu’il s’agit de la priorité immédiate ».
Deuxième cas d’usage : « Utiliser d’autres contrôleurs Matter avec les plugins Homebridge : cela permettrait d’accéder à vos plugins Homebridge depuis d’autres contrôleurs Matter, comme l’application Aqara par exemple. Il s’agit là d’un projet à plus long terme – il nécessitera des mises à jour individuelles des plugins pour être pris en charge. Il faut donc s’attendre à un déploiement progressif au fil du temps ».
L’année dernière, Apple et Google avaient fait plusieurs annonces autour de Matter afin de faciliter son adoption en vue d’en faire un standard avec l’adoption la plus large possible. Matter débarquait ainsi dans Google Home.
Presque huit ans après Dav1d, VideoLAN remet le couvert avec Dav2d. Comme son nom l’indique, c’est une implémentation logicielle pour décompresser des vidéos AV2, le codec en cours de développement par l’Alliance for Open Media. Il prend donc la suite de Dav1d – qui est l’acronyme récursif de Dav1d is an AV1 decoder – pensé pour le codec AV1.
Dans la foire aux questions, il est précisé que Dav2d est toujours récursif, « mais c’est moins drôle que dav1d », reconnait l’équipe. Quoi qu’il en soit, Dav2d est proposé sous une licence très permissive : BSD 2-Clause ou « Simplified BSD License ».
Illustration : Flock
Sur le GitLab dédié de VideoLAN, il est indiqué que « dav2d est un décodeur AV2 multiplateforme, open source, axé sur la vitesse et la précision. Il est basé sur notre décodeur dav1d, très populaire. Il s’agit d’un projet encore préliminaire, qui ne devrait pas être utilisé en production, notamment parce que la spécification AV2 n’est pas définitive ». Ce projet de VideoLAN est réalisé dans « le cadre de son adhésion à l’Alliance for Open Media/AOM », en charge d’AV1 et AV2.
Les travaux ont débuté il y a quelques mois déjà, mais c’est encore une version très préliminaire en 0.0.1 (alias Merbanan). L’équipe cherche de l’aide, notamment des développeurs C et assembleur, ainsi que des testeurs… La FAQ se termine par un trait d’humour sur ce sujet : « Vous soucierez-vous de <mon architecture > ? De < mon OS > ? ». Réponse : « Oui, mais nous n’avons ni le temps ni les connaissances nécessaires. C’est pourquoi les correctifs et les contributions sont les bienvenus ».
AV1, pour rappel, a été lancé en 2018 et son adoption a pris du temps, notamment pour le navigateur Edge de Microsoft (version 121 en 2024) et les terminaux Apple (Mac avec puce M3, iPhone 15Pro et 16), comme le rappelle Lafibre.info dans son grand tableau récapitulatif des codecs populaires.
L’avantage d’AV1 est sa gratuité (pas de redevance, comme AV2), il peut être encapsulé dans des conteneurs tels que MP4, MKV ou même WebM. Il a donné naissance à AVIF pour AV1 Image File Format (un mélange entre les algorithmes de compression AV1 et du High Efficiency Image File Format ou HEIF).
L’association noyb a déposé plainte contre LinkedIn auprès de l’autorité autrichienne de protection des données. Elle constate que le réseau social refuse de communiquer gratuitement la liste des personnes ayant visité le profil d’un utilisateur au nom de l’article 15 du RGPD, alors que ces informations sont accessibles dans le cadre de l’abonnement LinkedIn Premium.
« 270 personnes ont consulté votre profil au cours des 90 derniers jours », affiche LinkedIn, après clic sur une notification signalant la visite d’un « recruteur » et de trois autres personnes. Problème : le réseau social ne donne que des indices succincts sur le profil des curieux en question. Pour savoir qui ils sont vraiment, la plateforme invite, ou plutôt incite, à souscrire son abonnement payant : « Développez votre carrière ou votre entreprise avec Premium. Accédez à la liste complète maintenant ».
Deux poids deux mesures ?
L’accès à ces données ne devrait-il pas être concédé gratuitement sur demande de l’utilisateur ? C’est l’hypothèse soulevée par l’association de défense de la vie privée noyb (none of your business), dans une plainte (PDF en allemand) déposée mardi 5 mai devant l’autorité autrichienne de protection des données, la DSB. Elle y invoque l’article 15 du RGPD, celui qui dispose qu’un internaute est en droit d’accéder aux données personnelles le concernant, sur demande, auprès d’un responsable de traitement.
Dans le détail, l’association explique représenter un internaute qui a tenté d’obtenir, auprès de LinkedIn, la liste des personnes ayant visité son profil. Pour ce faire, l’utilisateur a d’abord utilisé les fonctions de téléchargement des données personnelles mises à disposition par la plateforme. À défaut d’y avoir trouvé les visiteurs de son profil, il a ensuite sollicité directement le réseau social via son formulaire de contact, et se serait vu opposer une fin de non-recevoir.
Après relance, LinkedIn aurait répondu au plaignant ne pas être tenu de mettre à disposition les données relatives aux personnes ayant consulté son profil, dans la mesure où ce ne sont pas ses propres informations personnelles, mais celles d’autres membres.
LinkedIn utilise la possibilité de voir qui a visité votre profil comme un levier vers ses offres d’abonnement payant – capture d’écran
Autrement dit, le réseau social ne pourrait pas communiquer ces informations dans la mesure où elles concernent d’autres utilisateurs. Mais dans le même temps, son abonnement payant permet de faire sauter cette barrière.
Pour noyb, LinkedIn entretient à ce niveau un double discours difficilement tenable. « Il est clair que si ces données sont affichées dans le cadre d’un abonnement Premium, elles devraient également être accessibles sur demande, conformément à l’article 15 du RGPD », résume l’association dans un communiqué.
L’article 15 mentionne explicitement les « destinataires »
Pour justifier cette position, elle s’appuie notamment sur le sous c du paragraphe 1 de l’article 15, qui dispose que cette obligation de correspondance englobe « les destinataires » auxquels les données personnelles ont été communiquées. Elle rappelle par ailleurs que cette lecture du règlement a été confirmée par une décision de la CJUE faisant jurisprudence.
Elle fait enfin valoir que LinkedIn offre, au niveau du profil, une option permettant de visiter de façon anonyme la page d’autres utilisateurs du réseau : ceux qui n’activent pas cette option acceptent donc, selon noyb, d’être perçus comme destinataires, ce qui écarterait donc le risque d’une atteinte aux droits et libertés d’autrui telle que prévue par le point 4 de l’article 15.
Sur la base de ces éléments, noyb demande à la CNIL autrichienne de donner suite à la demande d’accès formulée par le plaignant, mais aussi de prononcer une amende dissuasive à l’encontre de LinkedIn. « La protection des droits et libertés d’autrui peut effectivement justifier la non-divulgation de données personnelles partagées. Toutefois, si une entreprise a obtenu le consentement requis et se montre clairement disposée à mettre ces mêmes données à disposition moyennant paiement, cet argument ne tient plus », résume Martin Baumann, l’avocat de noyb.
LinkedIn et sa maison-mère, Microsoft, n’ont pour l’instant pas réagi publiquement.
Ce n’est pas une surprise : les jeunes Français et Européens utilisent massivement des outils d’IA. Mais dans quelles proportions, à quelle fréquence et pour quels types d’usages ? La CNIL répond à ces questions.
La CNIL vient de publier les résultats d’une enquête réalisée par Ipsos BVA, en partenariat avec le Groupe VYV (acteur mutualiste de santé et de protection sociale en France) dans quatre pays européens. Elle concerne un sujet ô combien d’actualité : « IA conversationnelle et santé mentale des jeunes ». Pour le sondage, 3 800 jeunes âgés de 11 à 25 ans ont été interrogés en janvier 2026 dans quatre pays européens.
Quasiment 9 jeunes sur 10 utilisent l’IA, dès 11 ans
Premier constat : « 86 % des jeunes Français utilisent des outils d’IA »… et la France est en dernière position sur les quatre pays interrogés. L’Allemagne est en tête avec 92 %, suivie par l’Irlande à 89 % et la Suède à 87 %. À cela s’ajoute un usage dans la durée : « 3 jeunes sur 5 utilisent l’IA conversationnelle depuis plus d’un an ».
L’usage est intensif : un quart des jeunes utilise l’IA chaque jour (58 % une fois par semaine), dans le cadre scolaire ou professionnel. Ils sont également un tiers à la questionner au moins une fois par semaine sur leur vie personnelle et à lui demander des conseils, dont 16 % au moins une fois par jour.
Sur la santé mentale, la réalité semble bien différente du ressenti des utilisateurs. 84 % des jeunes Français – 79 % des filles vs 89 % des garçons – disent se sentir bien dans leur vie quotidienne, mais ils seraient dans le même temps (toujours selon le sondage) 65 % à présenter des troubles anxieux. Le chiffre varie entre 67 et 69 % dans les trois autres pays de l’étude.
L’IA est adoptée très tôt, dès 11 ans selon le sondage. Et, encore, c’est un âge plancher puisque les jeunes interrogés ont, pour rappel, entre 11 et 25 ans (impossible donc de dire ce qu’il en est pour les 10 ans et moins). On passe les 90 % dès la tranche d’âge 15 et 16 ans.
Un tiers des jeunes parle de sujets intimes et personnels
Les usages sont évidemment variés, avec une forte proportion comme outils scolaire ou professionnel, mais aussi pour les loisirs pour 41 % des interrogés (musiques, images, astuces jeux vidéo, idées d’activités…). Les jeunes sont aussi entre 26 et 35 % à parler de sujets intimes et personnels pour recevoir des conseils lorsqu’ils sont stressés, rencontrent des problèmes avec leurs proches, se sentent tristes, en colère ou pas bien dans leur tête, pour gérer des conflits…
Dans sa synthèse, la CNIL note que « les jeunes les plus anxieux déclarent parler plus facilement de leurs problèmes avec une IA qu’avec leurs proches ou qu’avec des professionnels ». La tendance est la même dans les quatre pays.
Le fait qu’elle soit toujours disponible arrive en tête, mais aussi car c’est plus facile que de parler à une vraie personne pour 40 % des jeunes français.
Autre analyse intéressante : un jeune sur trois « ayant utilisé une IA pour des sujets personnels [déclare] s’être déjà [senti] mal à l’aise à cause d’un conseil reçu ». Là encore, cela ne devrait pas surprendre grand monde, mais cela n’empêche évidemment pas de le dire, au contraire !
Deux tiers des jeunes utilisent l’IA comme… un conseiller de vie
Plus de six jeunes Français sur dix considèrent l’IA comme un conseiller de vie et/ou un confident. Un sur deux comme un ami ou un psy, et même un jeune sur cinq comme un amoureux.
Pour 50 % des jeunes, l’IA permet aussi de se sentir mieux et d’avoir davantage confiance en soi. Un jeune sur trois considère même que l’IA peut comprendre les émotions humaines et qu’elle conseille mieux que les humains.
La jeunesse semble heureusement lucide sur la question de la confiance : « 80 % des jeunes n’ont pas totalement confiance en l’IA, malgré son adoption importante ». En être conscient ne veut pas forcément dire l’appliquer au quotidien, malheureusement. C’est un peu comme les mots de passe : tout le monde ou presque sait qu’il ne faut jamais réutiliser le même ; dans la pratique cela arrive souvent.
Les jeunes estiment à 69 % que les IA peuvent donner des conseils fiables, 56 % qu’elles peuvent garder secrets les échanges et 51 % qu’elles peuvent protéger les informations qui leur sont confiées. Preuve que les messages sur le côté statistique des réponses et des données réutilisées pour les entraînements ne sont pas passés auprès de tout le monde.
Des avis partagés, quid d’une disparition de l’IA ?
Les jeunes Français souhaitent davantage d’informations sur ce que l’IA fait de leurs informations, ce qu’il faut éviter de confier à une IA, connaitre les bonnes pratiques et les risques. Seuls 32 % des Français se considèrent bien informés sur ce que deviennent leurs informations confiées à l’IA, contre 37 à 46 % dans les trois autres pays européens. Il serait intéressant de faire le même sondage auprés des autres générations… pas sur qu’elles s’en sortent mieux.
« La moitié des jeunes Français considère que l’IA peut aider à se sentir mieux, à gagner en confiance. L’autre moitié est en désaccord avec ces affirmations ». Pour la majorité des utilisateurs, « la disparition de l’IA n’aurait que très peu d’effets ». C’est une moyenne : les jeunes les plus fragiles (anxieux, qui utilisent l’IA pour des raisons personnelles et/ou intimes) sont ceux qui voient le plus de conséquences néfastes.
La CNIL milite pour une meilleure éducation au numérique
Dans sa conclusion, la CNIL expose qu’une « part croissante de l’expression du stress, du mal-être ou des difficultés personnelles se joue désormais en amont des parcours classiques de prévention et de recours aux professionnels ». Pour la Commission, cela doit appeler une réponse collective, notamment avec une meilleure éducation au numérique.
Pour le Groupe VYV et la Commission, « l’enjeu n’est ni de freiner l’innovation ni de banaliser les usages, mais de contribuer à construire un cadre de confiance ». Pour les deux partenaires du jour, « il devient essentiel d’intégrer pleinement le numérique dans les politiques de prévention, en articulant innovation, protection des données et accompagnement des usages ».
« Pour être tout à fait clair : Notepad++ n’a jamais sorti de version pour macOS », explique, sur son site, Don Ho, le mainteneur de Notepad++ qui a créé le projet en 2003.
Depuis le début, Notepad++ n’est officiellement distribué que sous forme d’une version pour Windows. Un fork existe pour Linux mais il est diffusé sous le nom de Notepadqq. L’information d’un fork pour Mac commençait à circuler depuis quelques jours, renvoyant vers l’url Notepad-plus-plus-mac.org.
Mais l’utilisation du même nom pour le désigner a fait réagir Don Ho. Si le code de l’éditeur de texte est libre (sous licence GPL), Don Ho affirme que le propriétaire du projet pour Mac utilise la marque Notepad++(le nom) sans autorisation.
Il s’en était déjà ému dans une discussion sur le GitHub du projet en publiant la réponse qu’il avait faite au créateur du nouveau projet pour Mac, Andrey Letov. « C’est une bonne chose que vous essayiez de porter Notepad++ sur macOS ; cela pourrait aider de nombreux utilisateurs de Mac. Cependant, non seulement moi, mais aussi beaucoup d’autres ( https://github.com/notepad-plus-plus/notepad-plus-plus/issues/17982#issuecomment - 4345058243) trouvons que votre site web et votre dépôt GitHub sont trompeurs, car ils utilisent tous deux la marque Notepad++(https://data.inpi.fr/marques/FR5133202 ) et le logo caméléon », lui expliquait-il en ajoutant que le problème n’était pas le portage en soi mais l’utilisation du nom officiel.
Depuis peu, le site Notepad-plus-plus-mac.org qui portait le projet renvoie vers un nouveau site web nommé NextPad.org, domaine créé ce lundi 4 mai. Et le projet a été entièrement renommé « Nextpad++ for Mac » sur le site.
Il faut toucher le fond avant de remonter à la surface, mais Xbox est toujours en train de creuser. Les derniers résultats trimestriels de Microsoft confirment, s’il en était besoin, que la division jeux vidéo du groupe ne se porte pas très bien, que ce soit pour les logiciels, les services, ou les consoles.
Aucune entreprise n’aime voir des comptes dans le rouge comme c’est le cas de la division Xbox. Au troisième trimestre fiscal de Microsoft, qui correspond aux trois premiers mois de l’année, cette activité a enregistré une baisse des ventes de 5 % pour ses contenus et services et de 33 % pour le matériel (consoles et périphériques) par rapport au même trimestre fiscal de l’an dernier.
Des consoles en voie de disparition
Ce faisant, Xbox a contribué au recul du chiffre d’affaires sur le trimestre (13,2 milliards de dollars,- 1 %) de la division « More Personal Computing », qui comprend également Windows et la publicité. Les ventes de licences Windows et des appareils ont baissé de 2 %, la publicité en ligne affiche une croissance de 12 % (en excluant les coûts d’acquisition du trafic). Cette division reste cependant rentable avec des revenus d’exploitation de 146 millions de dollars.
Autrement dit : pour Xbox, ce n’est pas un trimestre glorieux. « Nous savons qu’il nous reste du travail pour convaincre chaque joueur, aujourd’hui comme à l’avenir », a admis Asha Sharma, directrice générale de Xbox. Il faut dire que la division est plongée dans une spirale infernale depuis des années. Durant ce troisième trimestre fiscal, l’activité Jeux a globalement reculé de 7 % (- 380 millions de dollars), le gros de la chute venant du hardware et plus spécifiquement des ventes des consoles en chute libre.
Il reste 84% de l'article à découvrir. Vous devez être abonné•e pour lire la suite de cet article. Déjà abonné•e ? Générez une clé RSS dans votre profil.
Les messages RCS entre iPhone et Android seront très bientôt chiffrés de bout en bout. De quoi assurer une bien meilleure sécurisation des messages texte échangés entre plateformes.
Le chemin a décidément été bien long pour le RCS. Le protocole de communication (Rich Communication Services) standardisé par le GSMA est en passe de supplanter le vieillissant SMS. Ses avantages sont nombreux : conversations de groupe, images et vidéos haute définition, statut de lecture, partage de géolocalisation, etc.
La longue route
Google le propose sur Android depuis 2016 (depuis 2019 en France) via l’app Messages, en parallèle des SMS. La démocratisation du protocole a cependant été freinée par Apple, qui a développé et soutenu son propre protocole propriétaire, iMessage. Celui-ci ne fonctionne qu’entre appareils du constructeur — ce sont les fameuses bulles bleues, en opposition aux bulles vertes des SMS.
Les messages échangés dans ce format offrent peu ou prou les mêmes fonctionnalités que le RCS, exception faite de tout son versant purement commercial. Comme l’expliquait l’Association Française pour le développement des services et usages Multimédias Multi-opérateurs (A2FM) l’an dernier, les annonceurs aiment le RCS pour son taux élevé d’ouverture (80 % en moyenne) mesurable pour chaque campagne. Par ailleurs, un message RCS publicitaire « ne nécessite pas d’obtenir de la part de ses clients un consentement spécifiquepour le RCS (si vous avez déjà son consentement pour le SMS) ». Bien pratique…
Il existe bien une composante commerciale d’iMessage, mais elle est bien moins appuyée que le RCS et surtout, elle reste sous le contrôle d’Apple. Sous la pression de la Chine et de l’UE, le constructeur a toutefois cédé avec iOS 18.4, en avril 2025 : les RCS ont désormais droit de cité dans l’app Messages (d’iOS), avec leurs atouts mais toujours dans des bulles vertes.
Il restait cependant un gros problème à résoudre : le chiffrement de bout en bout (E2EE). Entre appareils Google, les messages RCS sont bien chiffrés E2EE grâce à une surcouche maison. Aucun tiers ne peut accéder aux échanges, à l’exception, bien sûr, des correspondants, comme une conversation iMessage. Mais ce n’était pas le cas pour des RCS entre un iPhone et un smartphone Android.
Enfin tranquille
Quelques semaines avant iOS 18.4, la GSMA avait publié les spécifications 3.0 du profil universel du RCS qui ajoutent, entre autres nouveautés, l’intégration du chiffrement de bout en bout basé sur le protocole MLS (Messaging Layer Security). « Ces procédures garantissent que les messages et autres contenus, tels que les fichiers, restent confidentiels et sécurisés lorsqu’ils circulent entre les clients », indiquait Tom Van Pelt, directeur technique de l’association.
La publication des specs est une chose, leur mise en œuvre en est une autre. Il a donc fallu prendre son mal en patience mais enfin, nous y sommes… ou presque. Après des tests dans la version bêta d’iOS 26,4, le RCS E2EE va être officiellement disponible avec la version finale d’iOS 26.5.
La release candidate d’iOS 26.5 confirme en effet la présence de la fonction, certes encore en bêta, mais qui sera livrée au grand public dans quelques jours. Le chiffrement de bout en bout effectif dépendra ensuite de sa prise en charge par les opérateurs, mais en ce qui concerne la France, l’attente ne devrait pas être trop longue : les opérateurs de l’Hexagone ont en effet été assez rapides à activer le RCS sur iPhone.
L’E2EE sera activé par défaut pour le RCS, avec un bouton pour le désactiver dans les réglages de l’app Messages.
L’Universal Profile 3.0 du RCS contient également des nouveautés concernant la communication avec les entreprises : liens profonds plus souples, copie du texte dans le presse-papier de l’appareil, possibilité de s’abonner ou se désabonner d’un service via un message, amélioration des codecs pour les messages audio.
Selon le dernier bilan de l’AF2M, 738 enseignes ont utilisé le RCS for Business en 2025 (+ 75 %) et pas moins de « 200 millions de messages RCS ont été envoyés sur l’année ». Le SMS promotionnel (publicité, marketing direct, drive-to-store) reste largement en tête avec 6,2 milliards de messages.
À quoi rêvent les intelligences artificielles ? À des gobelins, manifestement. Suite à des signalements d’utilisateurs de ChatGPT, OpenAI a découvert d’où provenait l’étrange propension du bot à multiplier les métaphores avec des gobelins et des gremlins ces dernières semaines.
ChatGPT a la métaphore facile, parfois trop, mais ces derniers temps le bot avait décidé d’ajouter un peu de folklore monstrueux à son arsenal. Depuis la mise en route de GPT-5.1 en novembre dernier, les modèles d’OpenAI avaient commencé à développer une curieuse habitude : multiplier les mentions de gobelins, de gremlins et d’autres créatures dans leurs réponses. Une fois de temps en temps, passe encore, mais cela devenait quasiment systématique.
Lors d’un test préliminaire de GPT-5.5 dans Codex
Apprentissage par renforcement à partir de rétroaction humaine
L’enquête d’OpenAI menée à l’époque montrait effectivement une hausse de l’utilisation des mots « gobelin » (+ 175 % par rapport à GPT-5) et « gremlin » (+ 52 %). Bizarre, mais rien de « particulièrement inquiétant », selon l’entreprise. C’est avec GPT-5.4, au mois de mars, que la présence de ces bestioles est devenu franchement envahissante. L’enquête se resserre sur la personnalité « Nerdy », que l’on pouvait sélectionner dans les réglages pour encourager un ton ludique et des métaphores originales, sur un ton un peu décalé.
La personnalisation « Nerdy » ne pesait que 2,5 % des réponses de ChatGPT, mais elle représentait 66,7 % des références à « gobelin ». OpenAI a déterminé que dans les données d’entraînement, les métaphores avec des créatures comme nos fameux gobelins et gremlins étaient souvent mieux notées, ce qui explique pourquoi il s’est mis à en produire davantage. Mais comment se sont-ils propagés aux autres « personnalités » de ChatGPT ?
Image : OpenAI
Les récompenses ne s’appliquaient certes que pour la personnalité « Nerdy », mais une fois qu’un « tic de style » est récompensé, les phases d’entraînement qui s’ensuivent peuvent le propager ou le renforcer ailleurs. En fouillant dans les données d’affinage supervisé (SFT) de GPT-5.5, OpenAI a trouvé de nombreuses références contenant « gobelin » et « gremlin ».
Une boucle de rétroaction s’est mise en place : certaines réponses ludiques récompensées contiennent un tic lexical qui apparait plus souvent dans les générations du modèle ; des générations qui sont utilisées pour l’affinage supervisé, ce qui pousse le modèle à produire ce tic.
Les équipes d’OpenAI ont supprimé le signal de récompense qui favorisait ces métaphores, filtré les données contenant le tic et ajouté des instructions pour limiter l’apparition des créatures. Mais malgré la suppression de la personnalité « Nerdy » dans GPT-5.4, le tic des gobelins a quand même été « réappris » par GPT-5.5 car l’entraînement de ce modèle avait débuté avant l’identification de la cause du problème. Une instruction a été ajoutée au niveau du prompt développeur pour atténuer le phénomène.
L’histoire est plutôt amusante (ou énervante), mais plutôt inoffensive. Elle pourrait pourtant avoir des implications importantes avec des biais plus sérieux. Ces gobelins « constituent aussi un exemple parlant de la manière dont les signaux de récompense peuvent façonner le comportement d’un modèle de façon inattendue, et de la façon dont ces modèles peuvent apprendre à généraliser des récompenses d’un contexte à d’autres sans lien direct », explique l’entreprise dans son post-mortem.
Connexion
