Plus d’un an après son investiture et après avoir maintes fois attaqué les agences scientifiques de son pays, Donald Trump a nommé les membres de son Comité présidentiel des conseillers en science et technologie (President’s Council of Advisors on Science and Technology PCAST).
Ce comité est présidé, comme annoncé en janvier 2025, par Michael Kratsios (conseiller de Donald Trump depuis son premier mandat) et l’investisseur David Sacks (PayPal, Facebook, Uber, SpaceX, Palantir…).
John Martinis (responsable du Google Quantum AI Lab et prix Nobel de physique 2025)
Bob Mumgaard (CEO de Commonwealth Fusion Systems)
Lisa Su (CEO d’AMD)
Mark Zuckerberg (CEO de Meta)
Si une bonne partie de ces personnalités ont fait des études longues, et parfois dans des universités prestigieuses, ArsTechnica pointe le fait qu’aucun n’est actuellement chercheur.
De fait, ce comité a été créé en 2001 sous George W. Bush et n’a pas une importance primordiale dans la gestion de la politique de la recherche aux États-Unis. Mais cette longue liste de responsables de la tech états-unienne marque en creux le manque de chercheuses et chercheurs sur tous les autres sujets que peuvent couvrir les différentes disciplines scientifiques.
Le procès opposant Kaley G. M. et sa mère à Google et Meta se termine sur une condamnation des deux entreprises à quelques millions d’euros chacune. Le montant est moins élevé que d’autres affaires médiatiques concernant les GAFAM, mais cette décision pourrait faire jurisprudence dans de nombreux cas similaires, si elle est confirmée en appel.
Meta et YouTube ont mis en place des fonctionnalités conçues pour créer une dépendance à leurs réseaux sociaux et plateformes de vidéos, et celles-ci ont entraîné des troubles de santé mentale sur une jeune utilisatrice, a conclu le jury de la Cour supérieure de justice de Los Angeles.
Le procès opposait depuis un mois et demi Kaley G. M, une plaignante âgée actuellement de 20 ans accompagnée par sa mère, à Google et Meta.
Le jugement inclut des dommages-intérêts de 4,2 millions de dollars à verser par Meta et 1,8 million par YouTube. Kaley G. M les accusait d’avoir provoqué et entretenu son addiction à leur service alors qu’elle était mineure. Elle avait pu créer son compte Instagram à l’âge de 9 ans alors que l’application ne demandait pas encore la date de naissance de l’utilisateur à l’inscription.
« Je pense généralement qu’il existe un groupe de personnes, potentiellement assez important, qui mentent sur leur âge afin d’utiliser nos services », avait affirmé Mark Zuckerberg alors qu’il était pressé de justifier la politique de Meta relative aux préados au cours du procès.
L’avocat de Kaley G. M, Mark Lanier a montré que Meta a enterré une recherche menée en interne sur les conséquences de ses produits sur les adolescents qui ne lui convenait pas.
Le New York Times explique que, lors du procès, l’avocat a insisté sur les fonctionnalités de défilement infini, d’algorithmes de recommandation et de vidéos en autoplay, qui seraient conçues pour capter notamment les jeunes utilisateurs, et qu’ils utilisent Instagram, YouTube et autres plateformes de manière compulsive.
La jeune femme avait expliqué qu’elle était tous les jours sur les réseaux sociaux. « Je ne peux tout simplement pas m’en passer », répondait-elle à la question « Pourquoi n’arrêtez-vous pas ? ».
Son avocat avait insisté sur la politique interne de Meta pour attirer les ados, citant un document interne à l’entreprise datant de 2018 affirmant que « si nous voulons vraiment gagner auprès des adolescents, nous devons les attirer dès leur préadolescence ».
Si Meta et Google sont les deux seules entreprises à être condamnées, Snap et TikTok étaient aussi initialement visées. Mais celles-ci ont préféré négocier un accord confidentiel leur évitant que soient déballées au grand public des informations internes sur leur politique vis-à-vis des jeunes utilisateurs.
Le verdict de ce procès arrive juste après que l’entreprise de Mark Zuckerberg a été condamnée à 375 millions de dollars d’amende pour le déploiement d’outils dangereux pour la santé mentale des mineurs.
Si la somme versée ici à Kaley G. M est très inférieure à cette amende, cette décision pourrait faire tache d’huile. En effet, près de 2 500 autres procès attendent les quatre entreprises de réseaux sociaux aux États-Unis, selon le média spécialisé Courthouse News. Et le verdict pourrait faire jurisprudence si la décision est confirmée en appel.
Car les deux entreprises ont déjà planifié de faire appel, selon Reuters. « Cette affaire repose sur une mauvaise compréhension de YouTube, qui est une plateforme de streaming conçue de manière responsable, et non un réseau social », assure au New York Times le porte-parole de Google.
Les deux entreprises avaient mis en avant le fait que les poursuites étaient irrecevables selon l’article 230 du Communications Decency Act, qui protège les plateformes de la responsabilité des contenus publiés par leurs utilisateurs. Mais, comme l’explique Reuters, les juges avaient rejeté cet argument et avaient permis la poursuite de l’instruction. Il sera cependant sans doute réutilisé par les avocats de Google et Meta en appel.
À Courthouse News, l’une des jurées a affirmé : « Nous voulions que [Meta et Google] comprennent que cela n’était pas acceptable ». Mais, selon elle, le jury craignait de « remettre la totalité de la somme à une seule personne », avant d’ajouter : « Nous avons pensé que si cette somme pouvait être versée petit à petit, pour être dépensée à bon escient et durer longtemps, nous aurions probablement fixé un montant plus élevé. »
Le Pentagone a décidé de mettre au cœur de sa stratégie militaire le système Maven de Palantir. En parallèle, l’entreprise dirigée par Alex Karp a décroché un contrat avec l’autorité financière britannique lui donnant accès à des données très sensibles concernant le pays.
Le département étatsunien de la Défense (ou de la Guerre, selon la nouvelle appellation trumpiste) a décidé d’accélérer l’introduction dans son processus décisionnel de la solution logicielle Maven de Palantir.
Le secrétaire adjoint de la Défense des États-Unis, Steve Feinberg, a officialisé dans un mémo interne qu’a pu consulter Reuters que le système Maven devient un programme officiel du Pentagone, ce qui garantit à Palantir l’utilisation à long terme de sa technologie au sein de l’armée américaine.
Investissement massif de l’armée américaine dans l’IA et dans les solutions de Palantir en particulier
Comme nous l’expliquions l’année dernière, ce logiciel est déjà utilisé par le Pentagone, l’armée israélienne et par l’OTAN depuis l’année dernière. Ce programme utilise des données massivement agrégées pour alimenter la prise de décision sur les terrains d’opérations et notamment la reconnaissance automatique de véhicules ou de cibles observées par des drones ou des satellites.
Steve Feinberg affirme dans son mémo que Maven fournira aux combattants américains « les outils les plus récents nécessaires pour détecter, dissuader et dominer [leurs] adversaires dans tous les domaines ».
« Il est impératif que nous investissions dès maintenant et de manière ciblée pour renforcer l’intégration de l’IA au sein de la Force interarmées et faire de la prise de décision fondée sur l’IA la pierre angulaire de notre stratégie », y affirme-t-il encore.
Cette décision renforce encore la position de Palantir au sein du système de décision militaire étatsunien et dans l’administration américaine en général. Comme nous l’expliquions déjà en août dernier, Palantir a profité à fond de l’élection de Donald Trump.
Cette intégration de Maven se met en place alors que le budget prévu pour « l’autonomie et les systèmes autonomes » au sein du département de la Défense par l’administration Trump est de 13,4 milliards de dollars, dont 9,4 milliards pour les drones, 1,7 milliard pour les systèmes maritimes autonomes, 210 millions pour les véhicules terrestres, 7,34 millions pour les capacités sous-marines et 1,2 milliard de dollars pour les logiciels de supervision de l’IA chargés de sous-tendre le fonctionnement de ces différents systèmes.
Analyser la criminalité financière britannique et accès aux données sensibles
En parallèle, Palantir a obtenu un contrat avec la Financial Conduct Authority (FCA) pour analyser, sur une période d’essai, ses données et l’aider dans sa lutte contre la criminalité financière, dont la fraude, le blanchiment d’argent et les délits d’initiés. Le Guardian explique que l’entreprise d’Alex Karp doit toucher 30 000 livres sterling (34 670 euros) par semaine pour cet essai.
Si le montant peut paraitre comme un enjeu beaucoup plus faible que le contrat avec le Pentagone, certains membres du parlement britannique ont soulevé des questions de souveraineté. « Des entreprises comme Palantir n’ont pas leur place au sein des systèmes gouvernementaux britanniques lorsqu’elles sont étroitement impliquées dans les guerres illégales du président Trump » affirme ainsi l’écologiste Siân Berry, qui a appelé le gouvernement à « intervenir immédiatement et à protéger notre sécurité nationale et économique en bloquant l’attribution de ce contrat ».
Questionné sur le fait que le Royaume-Uni devienne « dangereusement dépendant » des entreprises américaines et notamment de Palantir, le premier ministre travailliste Keir Starmer a répondu : « Je ne pense pas que nous soyons trop dépendants ».
L’immersion de Palantir dans le système britannique ne se résume pourtant pas à cet essai. Elle a déjà remporté un contrat auprès du NHS, le système de santé britannique, en 2023. Celui-ci est encore décrié au Royaume-Uni. « Il existe un risque qu’un gouvernement actuel ou futur utilise la plateforme de données fédérées système de planification (FDP) gérée par Palantir pour commettre des abus de pouvoir fondés sur les données, d’une manière qui serait impossible avec les systèmes de données actuels du NHS », expliquait le 12 mars dernier l’ONG britannique Medact.
Le Guardian expliquait récemment que Scotland Yard utilise aussi des logiciels de Palantir pour surveiller le comportement de son personnel.
En France, rappelons que la DGSI a renouvelé encore son contrat avec l’entreprise d’Alex Karp en décembre dernier.
La liste des sites bloqués à la demande de l’Arcom s’allonge de jour en jour depuis que l’autorité a mis en place la possibilité pour les chaînes de signaler de nouvelles adresses. Elle se concentre notamment sur les sites sportifs à la demande des chaînes, alors que, dans ses chiffres, la pratique du live streaming est moins importante que d’autres comme le streaming ou le téléchargement de films ou de séries.
Fraîche de la fusion entre le CSA et l’Hadopi, en 2022, l’Arcom mettait en place un formulaire pour signaler les miroirs à bloquer concernant le streaming illicite de compétitions sportives. Trois ans après, l’autorité se targue d’avoir fait bloquer près de 15 200 sites.
Une augmentation significative des blocages en 2025
L’Arcom a publié, ce lundi 23 mars, un bilan de sa lutte contre le piratage des contenus culturels et sportifs [PDF]. L’autorité y met notamment en avant l’intensification de ce nombre de noms de domaines bloqués à sa demande. Ainsi, alors que le chiffre concernant le blocage de sites sportifs était de 772 en 2022, l’autorité revendique près de 6 500 noms de domaines bloqués à sa demande en 2025 :
Ce chiffre serait notamment dû à une prise en main plus importante des ayants droit du secteur de son outil puisque l’autorité affiche que leurs demandes ont augmentées significativement en 2024. Ainsi, l’autorité peut leur montrer que, lorsqu’ils s’en emparent, le dispositif semble fonctionner.
Ce lundi 23 mars, avait lieu le forum de l’Association pour la Protection des Programmes Sportifs (APPS), le lobby regroupant des chaînes comme beIN SPORTS, Canal+ ou Eurosport, mais aussi des fédérations sportives comme la Ligue de Football Professionnel, la Ligue Nationale de Handball, la Ligue Nationale de Rugby ou encore la Fédération Française de Tennis.
Devant ce parterre, le président de l’Arcom, Martin Ajdari affirme que « le premier constat, c’est que la lutte contre le piratage, ça fonctionne : depuis que la mission confiée à l’Arcom a été étendue en 2021, elle est devenue à la fois beaucoup plus efficace, mais aussi plus consensuelle ». Et le responsable de l’autorité d’affirmer une baisse « de 70 % depuis 2021 » du live-streaming notamment utilisé pour le piratage sportif, avec, selon lui, un nombre de visites mensuelles sur ce genre de sites par habitant en France de 20 % inférieur à la moyenne dans l’UE.
Dans son bilan, l’Arcom veut montrer qu’elle prend en considération les différents acteurs et rappelle que depuis juin 2024, elle fait aussi des demandes de blocage aux fournisseurs de DNS alternatifs (Google, Cloudflare, Quad9, Comodo, Whalebone et NextDNS sont dans son viseur) et depuis juin 2025 aux fournisseurs commerciaux de VPN (NordVPN, ExpressVPN, CyberGhost, SurfShark et ProtonVPN sont cités) :
Le représentant de l’autorité affiche la capacité de celle-ci à « s’adapter aux évolutions du marché : d’abord, par l’action sur les intermédiaires, y compris les nouveaux acteurs : en 2025, nous avons notifié 1 800 moteurs de recherche, mais également 5 300 services de DNS alternatifs, et, nouveauté en 2025, près de 600 services de VPN. Ensuite, celle des nouveaux modèles de piratage : en 2026, sur les 6500 notifications, 4 000 concernent des services d’IPTV ».
Une concentration sur le piratage de contenus sportifs
Depuis quelque temps, la lutte contre le piratage en ligne de l’Arcom semble répondre essentiellement à ce lobby alors que, d’après les propres chiffres de l’Arcom, le live streaming et l’IPTV ne sont pas les pratiques de piratage illicite les plus courantes en France. Ainsi, toujours selon le bilan de l’Arcom, le streaming et le téléchargement représentent 79 % de ces pratiques alors que le live streaming n’en représente que 12 % comme l’IPTV.
Quand on regarde la courbe de ces pratiques sur le long terme, on remarque que, si le live streaming a eu un frémissement en 2021, il n’a jamais vraiment décollé. Toujours selon les chiffres de l’Arcom, la progression de l’IPTV existe mais cette pratique resterait marginale.
Alors que les institutions semblent se concentrer sur ces pratiques à la demande des acteurs du secteur sportif, on peut constater une inflexion de la baisse des pratiques de streaming et de téléchargement illicites d’autres contenus (films ou séries notamment) depuis 2022.
Mais la seule action de l’Arcom ne semble pas encore satisfaire la LFP qui s’est félicitée la semaine dernière de la sanction, par le parquet d’Arras, d’une vingtaine d’utilisateurs de boîtiers IPTV permettant d’accéder gratuitement aux chaines payantes.
L’Arcom a aussi indiqué à l’AFP qu’elle prévoyait de demander le blocage du site pornographique xGroovy car il n’aurait pas mis en place de contrôle d’âge pour ses utilisateurs, ce qui lui permettrait d’augmenter son utilisation chez les plus jeunes.
Interrogé par Le Figaro, Martin Ajdari expliquait que la fréquentation des mineurs des sites pornos les plus connus aurait baissé d’environ 40% entre août et novembre 2025. Mais, « manifestement, il y a un phénomène de report » sur des sites comme xGroovy qui serait « assez utilisé » alors qu’il n’a pas d’adresse postale dans l’Union européenne ni d’actionnariat identifié par l’autorité. « XGroovy est le site pornographique sur lequel les mineurs passent actuellement le plus de temps, mais il représente à peine 10% de celui qu’ils passaient sur Pornhub », assure-t-il à nos confrères.
Après 35 ans au sein du laboratoire de Los Alamos puis de l’université Cornell, la plateforme de preprint s’institutionnalise pour diversifier ses sources budgétaires mais aussi avoir une organisation des ressources humaines plus claires.
Fini la dépendance totale à l’université Cornell : arXiv prévoit de devenir une structure à part entière avec son CEO, son propre budget et son indépendance officielle à partir de juillet 2026.
C’est via une petite annonce pour le poste de CEO que des chercheurs ont repéré le changement. Il y a une dizaine de jours, le mathématicien de l’université d’Édimbourg, John Baez a remarqué sur Mastodon l’annonce de l’ouverture du poste le 11 mai prochain.
Le texte explique qu’ « après des décennies de collaboration fructueuse avec l’université Cornell, et grâce au soutien de la Fondation Simons, arXiv s’établit désormais comme une organisation indépendante à but non lucratif, marquant ainsi une nouvelle étape dans son histoire de 35 ans en tant que pionnier de la science en libre accès ».
Depuis 1991 et de simples échanges par mails à la banalisation au-delà du domaine académique
Effectivement, c’est en 1991 qu’est né le serveur pionnier de la prépublication scientifique, et même un peu avant. L’astrophysicienne Joanne Cohn a déjà raconté qu’elle a petit à petit mis en place un système d’échange de fichiers TeX de preprints par emails à partir de l’automne 1989. Mais c’est elle qui centralisait tous les échanges.
Finalement, à l’été 1991, son collègue Paul Ginsparg lui a proposé d’automatiser le fonctionnement avec quelques scripts et a commencé le serveur de preprint arXiv au sein du fameux laboratoire américain de Los Alamos. 10 ans après, Paul Ginsparg changeait de laboratoire pour rejoindre l’université de Cornell, avec arXiv dans ses bagages.
Mais 35 ans après sa création, arXiv n’est plus un petit serveur qui permet à quelques chercheurs de s’échanger les prépublications pour une prochaine conférence. Comme le dit l’annonce pour la recherche d’un nouveau CEO, 27 personnes travaillent actuellement sur le projet et son budget annuel est d’environ 6 millions de dollars par an.
Une bonne partie de la recherche en physique, mathématiques, informatique, ingénierie électrique et des systèmes et bien d’autres disciplines est déposée sur les serveurs d’arXiv avant d’être éventuellement publiée dans une revue scientifique ou présentée lors d’une conférence.
En parallèle, des outils comme les modèles de langage ont été notamment entrainés sur ces articles qui représentent des données de très haute qualité.
Diversification des donateurs et besoin d’une structure de direction
Interrogé par Science, Greg Morrisett, le responsable du Centre de recherche Cornell Tech qui s’occupe actuellement du serveur, explique que la modification de statut va permettre de lever « davantage de fonds auprès d’un éventail plus large de donateurs afin de financer les ressources humaines et les technologies nécessaires pour prendre en charge le nombre croissant de prépublications sur le site, qui devrait dépasser les 300 000 cette année ». Jusque-là, arXiv était surtout financé par Cornell et par la fondation Simons.
« Son indépendance permettra à arXiv de suivre tous les aspects de son évolution, de moderniser son infrastructure, d’élargir la couverture thématique et de renforcer ses liens avec les acteurs internationaux », est-il précisé dans l’annonce.
Greg Morrisett explique aussi qu’au sein de Cornell, le serveur de preprint est aussi en concurrence budgétaire avec d’autres projets : « Lorsque nous avons discuté [du serveur de prépublications] avec certaines organisations, celles-ci craignaient que Cornell n’exerce une influence trop importante. Elles redoutaient un peu de verser un chèque à l’université Cornell en espérant que celui-ci finisse dans les caisses d’arXiv. »
« Une certaine structure est nécessaire pour assurer une fonction de direction. Comme l’ont mentionné d’autres intervenants, la configuration « 501c3 [le texte qui encadre les structures non lucratives aux États-Unis] + CEO » est courante chez nous, et étant donné que nous travaillons avec un centre géographique à New York, un CEO peut accomplir beaucoup de choses, non seulement au sein d’arXiv, mais aussi à l’extérieur », explique aussi Deyan Ginev, un ingénieur qui travaille pour le projet en réponse au post de John Baez.
Le mathématicien relevait aussi le salaire pour ce poste de CEO qui « devrait se situer autour de 300 000 $ ». Rappelons que, Sudip S Parikh, le CEO de la structure à but non lucratif American Association For The Advancement Of Science (AAAS), qui édite la revue scientifique Science, émarge, lui, à plus de trois fois plus avec 983 185 dollars en 2024.
La plateforme d’hébergement aux près de 2 millions de sites et blogs renforce encore les possibilités d’utiliser des agents IA pour ses utilisateurs : via son serveur MCP, Claude, ChatGPT, OpenClaw et Cursor peuvent maintenant publier automatiquement des contenus ouvrant la voie à encore plus de contenus GenAI sur la plateforme.
WordPress.com plonge totalement dans l’IA, au risque de faire plonger encore plus facilement le web dans un magma de contenus générés et publiés automatiquement.
La plateforme d’hébergement de blogs et sites web (à ne pas confondre avec le logiciel libre WordPress qu’elle utilise, comme Next et une très grande partie des sites web) a décidé de permettre à ses utilisateurs de pouvoir utiliser des agents IA pour à peu près tout ce qui est possible dessus.
En octobre dernier, la plateforme annonçait déjà le support du Model Context Protocol (MCP). Celui-ci, lancé il y a un peu plus d’un an par Anthropic, propose une interface universelle entre un environnement informatique (logiciel, serveur, service) et les modèles de langage et agents IA. Le protocole est de plus en plus utilisé.
Ainsi, data.gouv.fr a lancé son serveur MCP pour permettre aux agents d’IA d’accéder directement aux données publiques françaises. OVH, par exemple, a aussi lancé son serveur MCP permettant de gérer un compte, mais aussi des services et infrastructures de l’hébergeur.
Comme son concurrent israélien Wix, qui propose aussi le support de MCP, WordPress.com a poussé ses utilisateurs à configurer l’entièreté de leurs sites via ses outils d’IA pour se passer de son interface et accéder par exemple à leurs statistiques. Mais depuis vendredi dernier, l’entreprise a lâché la bride. Plus question de bloquer le MCP en « read only ».
Possibilité de tout laisser dans les mains de l’agent IA
L’assistant IA des utilisateurs de la plateforme peut rédiger et publier des articles de blog, créer et mettre à jour des pages, gérer les commentaires, organiser le contenu ou encore mettre à jour les métadonnées des médias, et « corriger les textes alternatifs, les légendes et les titres pour améliorer l’accessibilité et le référencement naturel (SEO) », comme l’affirme WordPress.com.
Il suffit aux utilisateurs d’aller sur wordpress.com/me/mcp pour activer l’accès et de le configurer avec leur compte Claude et ChatGPT, et leur blog est prêt pour publier en ligne des billets rédigés automatiquement par ces outils. Remarquons que la simple activation de cet accès active, par défaut, toutes les possibilités de la liste ci-dessous. Il faut ensuite décocher à la main chaque action qu’on ne voudrait pas autoriser à son agent IA.
Ainsi l’agent IA pourra rédiger, étiqueter, catégoriser et publier des billets/articles, ou encore modérer les commentaires et y répondre.
WordPress fournit même un tuto pour configurer l’utilisation avec ChatGPT ou avec Claude.
Une accélération des contenus générés par IA sur le web à prévoir ?
Le billet met en avant comme « l’un des principaux atouts » de ce système l’ « intégration au thème de votre site ». Ajoutant, « avant de créer du contenu, votre agent IA peut analyser la mise en page de votre thème et en comprendre les couleurs, les polices, l’espacement et la disposition des blocs ». Il nous parait étonnant de souligner l’intégration stylistique de tels outils alors que l’éditeur de WordPress (qui utilise des styles d’édition et le CSS) la permet depuis longtemps.
« Avant de créer, de mettre à jour ou de supprimer quoi que ce soit, votre agent IA vous explique précisément ce qu’il compte faire et vous demande votre confirmation explicite », assure WordPress.com et les billets sont enregistrés par défaut en brouillon.
Par contre, on imagine que ça va encore accélérer la création de sites où les contenus sont de moins en moins liés à la création humaine et où les articles générés par IA sont publiés en masse, sans qu’ils ne soient relus réellement par les utilisateurs de WordPress.com.
Une semaine après Microsoft et un mois après OpenAI, Perplexity lance son chatbot au nom peu original : Perplexity Health.
Comme ses concurrents, Perplexity explique que son service est connecté avec Apple Health et des services de fitness et de santé comme Fitbit, Ultrahuman, Withings et surtout permet de connecter les « dossiers médicaux électroniques de plus de 1,7 million de prestataires de soins », et de prendre en compte « vos résultats d’analyses ».
Illustration : Flock
La startup assure s’appuyer sur « de la littérature médicale premium, notamment des recommandations cliniques et des revues à comité de lecture » sans pour autant détailler lesquelles et quel a été le processus de sélection. « Chaque réponse inclut des citations reliées directement aux documents sources afin que vous puissiez lire sur quoi la réponse est fondée », assure-t-elle.
Perplexity évoque le problème de l’utilisation des moteurs de recherche actuellement concernant les informations sur la santé : « À l’heure actuelle, la plupart des réponses en ligne sur la santé reposent sur des contenus optimisés pour le SEO et rédigés pour être bien classés ». Soulignons que le marketing numérique a déjà fait naitre le Generative Engine Optimization (GEO, l’Optimisation pour les moteurs génératifs).
« Les réponses de Perplexity Health incluent de véritables garde-fous, notamment des indications claires sur le moment où il faut consulter », assure l’entreprise sans aller plus loin sur le sujet. Une étude pointait justement le mois dernier des problèmes dans les recommandations de consultation de ChatGPT Health.
Perplexity assure que les données de santé « sont protégées par un chiffrement en transit et au repos, par des contrôles d’accès stricts et par des outils permettant de gérer ou de supprimer des informations à tout moment », et que « les informations ne sont jamais utilisées pour entraîner des modèles d’IA ni vendues à des tiers ».
Comme ses concurrents, la startup précise que son chatbot santé n’est pas « destiné à diagnostiquer, traiter ou prévenir des maladies ou d’autres affections et ne remplace pas un avis médical professionnel », et demande de « parler à votre médecin avant d’utiliser Perplexity Health » si « vous allaitez, si vous avez des antécédents de troubles du comportement alimentaireou toute autre affection médicale ».
Rappelons qu’en janvier dernier, la Food and Drug Administration, l’agence états-unienne responsable de la régulation concernant les médicaments et les produits alimentaires, a réduit sa surveillance des dispositifs de santé portables ou s’appuyant sur l’IA.
L’environnement de bureau GNOME arrive aujourd’hui dans sa version 50, nom de code « Tokyo ». Au menu, comme nous l’expliquions lors de la sortie alpha en janvier, la suppression totale de X11 au profit de Wayland.
Cette nouvelle version active par défaut le taux de rafraîchissement variable (ou Variable Refresh Rate, VRR, en anglais) et le « fractional scaling » après « des corrections de bogues, des améliorations en matière de stabilité et d’expérience utilisateur », explique l’équipe de GNOME dans sa note présentant les nouveautés.
GNOME 50 améliore aussi l’utilisation de la fonction de bureau à distance en s’appuyant sur le GPU pour « une amélioration significative des performances ». La note de l’équipe met aussi en avant l’ajout, dans la visionneuse de documents, de la possibilité de créer des annotations :
L’équipe souligne aussi son effort sur le contrôle parental avec la possibilité de régler des horaires de coucher et la définition d’un temps limite qui verrouille l’écran quand les limites sont dépassées. L’équipe explique qu’elle a mis en place les fondements pour un filtrage web « sans compromettre la sécurité du Web ni s’appuyer sur des listes préétablies » qui seront utilisables via l’interface dans de futures mises à jour. Elle précise que ce travail a été financé par la fondation Endless.
Les fonctionnalités d’accessibilité ont aussi été améliorées, notamment le lecteur d’écran Orca, mais aussi l’ajout d’une option « mouvements réduits » qui permet de réduire la gêne et les distractions causées par les animations de l’interface.
Côté outils de développeurs, l’équipe a amélioré l’éditeur de Builder mais aussi Mutter Devkit avec la possibilité de simuler des configurations matérielles et des workflows complexes. GNOME 50 utilise maintenant la dernière version de GTK (4.22) qui supporte nativement le SVG. Cela permet notamment de créer directement des icônes :
L’équipe annonce enfin que « GNOME 50 sera bientôt disponible dans de nombreuses distributions, telles que Fedora 44 et Ubuntu 26.04 ». La prochaine version, GNOME 51, est prévue pour septembre 2026.
L’AI Act est entré en vigueur en août 2024 mais sa mise en application est progressive. Alors que les règles relatives aux systèmes d’intelligence artificielle à haut risque devaient s’appliquer à partir du 2 août 2026, des députés européens se sont prononcés pour le report de près d’un an et demi de ces mesures.
Comme nous l’expliquions, le règlement européen a défini certaines utilisations de l’IA comme « à haut risque » – notamment la biométrie, la gestion d’infrastructures (numériques, routières, d’eau, de gaz, de chauffage ou d’électricité) critiques, l’éducation… Le texte prévoyait que ces systèmes soient plus régulés à partir du 2 août 2026.
Mais les commissions du marché intérieur et des libertés civiles du Parlement européen ont adopté une position commune à intégrer à l’omnibus numérique repoussant cette date au 2 décembre 2027, « étant donné que les normes principales pourraient ne pas être finalisées avant l’échéance actuelle », affirme le communiqué du Parlement européen.
Pour les systèmes d’IA couverts par la législation sectorielle de l’UE sur la sécurité et la surveillance du marché (ou utilisés comme composants de sécurité dans des produits couverts par cette législation), les députés européens proposent même de repousser la date au 2 aout 2028.
Enfin, ils proposent de repousser au 2 novembre 2026 l’obligation faite aux fournisseurs d’IA que leurs sorties soient « marquées dans un format lisible par machine et identifiables comme ayant été générées ou manipulées par une IA ». Elle devait aussi initialement s’appliquer au 2 aout 2026.
Ces deux commissions ont aussi ajouté l’interdiction explicite de « systèmes dits de nudification » sans le consentement de cette personne. Rappelons que Grok a permis la génération de millions de deepfakes à ses utilisateurs. L’entreprise d’Elon Musk, xAI, est déjà visée par de multiples enquêtes sur le sujet.
L’entreprise de Sam Altman est bien embêtée entre la volonté du CEO de lancer une version de son chatbot réservée aux adultes qui pourrait générer des discussions érotiques et l’avis d’un comité d’experts sur le bien-être et l’IA, créé en interne, qui s’est prononcé unanimement contre.
En octobre dernier, Sam Altman annonçait que son entreprise allait rendre ChatGPT bientôt plus amical et ouvert aux conversations érotiques. Mais en janvier, un comité d’experts, que l’entreprise a créé en parallèle pour « éclairer [ses] efforts » concernant le bien-être et l’IA, s’est prononcé clairement contre ce projet.
Sam Altman affirmait vouloir « traiter les utilisateurs adultes comme des adultes » en leur créant un mode particulier une fois que leur âge était vérifié. En janvier dernier, OpenAI annonçait la mise en place de plusieurs barrières pour les mineurs : soit un système interne de « prédiction d’âge » soit une vérification d’âge avec la solution de Persona (selfies ou scan de pièce d’identité). Le système était donc en place pour lâcher la bride sur des sujets sensibles selon l’âge de l’utilisateur.
Mais, même en interne, ce nouveau mode permettant des conversations à caractère sexuel était critiqué. Une des cadres de l’entreprise, Ryan Beiermeister a, par exemple, exprimé publiquement son opposition à cette fonctionnalité. Elle a été ensuite licenciée au motif qu’elle aurait commis une discrimination de genre à l’encontre de l’un de ses collègues masculins. Et l’entreprise continue officiellement d’avancer sur le projet, même si elle a encore reporté son lancement « afin de pouvoir [se] concentrer sur des tâches qui sont actuellement plus prioritaires pour un plus grand nombre d’utilisateurs ».
Un comité d’experts furieux
Son comité d’experts sur le bien-être et l’IA s’est réuni en janvier après que les responsables de l’entreprise l’eurent informé de l’avancement du projet. Ce comité, créé mi octobre, rassemble des chercheurs comme David Bickham, Tracy Dennis-Tiwary ou Andrew K. Przybylski. Il a été mis en place notamment suite à la plainte contre OpenAI des parents d’Adam Raine, 16 ans, qui s’est suicidé. L’annonce de sa création a été étonnamment faite le jour où Sam Altman a annoncé son intention de mettre en place le mode adulte sur ChatGPT.
Selon le Wall Street Journal, les membres de ce comité étaient furieux et se sont unanimement opposés au projet. Ils ont averti que « l’érotisme généré par IA pouvait favoriser une dépendance affective malsaine pour les utilisateurs vis-à-vis de ChatGPT et que des mineurs pourraient trouver un moyen d’accéder à ces discussions sexuelles », expliquent les sources du journal. L’un des experts se serait appuyé sur plusieurs cas de suicides impliquant des chatbots IA pour affirmer qu’OpenAI prenait le risque de créer un « coach au suicide séduisant ».
Ainsi, en octobre 2024, l’adolescent Sewell Setzer III s’est suicidé alors qu’il avait développé une relation intime et problématique avec les chatbots de Character.AI. Sa mère a récemment conclu un accord avec l’entreprise, qu’elle accusait de ne pas avoir déployé les garde-fous nécessaires.
12 % des mineurs détectés comme des adultes
Si OpenAI a reporté le projet, le Wall Street Journal explique que l’entreprise veut toujours le mettre en place à terme. Mais selon le journal, le système de prédiction d’âge développé par OpenAI classait encore récemment à tort 12 % des mineurs comme des adultes, ce qui permettrait à des millions d’utilisateurs de moins de 18 ans à accéder à ses services censés être réservés aux adultes.
L’entreprise aurait aussi du mal à permettre aux adultes d’utiliser son chatbot pour des conversations érotiques tout en bloquant les contenus pédopornographiques. Son concurrent, xAI, est actuellement sous le coup de plusieurs enquêtes à travers le monde après la génération de deepfakes par son IA Grok visant à dénuder des femmes et des mineurs sur X.
Certaines personnes chez OpenAI ont souligné aussi le risque d’utilisations compulsives, de dépendances émotionnelles par rapport au chatbot, de tomber dans une spirale de recherche de contenus de plus en plus extrêmes, explique le Wall Street Journal.
Une porte-parole d’OpenAI a affirmé au journal que l’entreprise veut générer des discussions avec des « thèmes adultes » en les décrivant plutôt comme « sales » (« smut » en anglais) plus que « pornographiques ». Selon elle, les algorithmes de prédiction d’âge de l’entreprise affichent des résultats similaires à la concurrence mais ne seront jamais infaillibles. L’entreprise affirme qu’elle a mis en place des gardes-fous dans ses modèles pour ne pas encourager les relations exclusives avec les utilisateurs, et leur rappeler qu’ils ont besoin d’entretenir des relations dans la vie réelle.
Encyclopædia Britannica et sa filiale Merriam-Webster ont attaqué en justice OpenAI ce vendredi 13 mars.
« D’après les informations dont nous disposons et ce que nous avons pu constater, ChatGPT a copié, et continue de copier, à très grande échelle les contenus protégés par le copyright des plaignants, tant pour entraîner les modèles LLM qui alimentent ChatGPT que pour compléter ou étayer la base de connaissances de ces modèles, notamment par le biais d’un modèle de génération à enrichissement contextuel [retrieval-augmented generation,RAG] », affirme la plainte [PDF].
Le document évoque « près de 100 000 articles en ligne » qui seraient utilisés sans l’accord des ayants droits. Les deux entreprises font remarquer que le chatbot d’OpenAI ressort « parfois des reproductions entières ou partielles des verbatims » de leurs articles et « d’autres fois, ChatGPT reformule des textes qui ressemblent, paraphrasent ou résument » leurs travaux copyrightés.
« GPT-4 a lui-même « mémorisé » une grande partie du contenu protégé par le copyright de Britannica et est capable de reproduire, sur simple demande, des copies quasi mot pour mot de passages importants », ajoute la plainte.
« ChatGPT prive les éditeurs web [comme Encyclopædia Britannica et sa filiale Merriam-Webster] de revenus en générant des réponses aux requêtes des utilisateurs qui se substituent au contenu de ces éditeurs et lui font directement concurrence », assurent leurs avocats.
La guerre des IPv4 en Afrique n’est pas finie. En septembre dernier, l’AfriNIC pensait avoir fait un pas important pour se remettre en selle en élisant son nouveau bureau.
Mais le registre régional d’adresses IP (RIR) desservant l’Afrique continue de subir les attaques de Cloud Innovation, un broker d’adresses IP qui avait réussi à déstabiliser sérieusement l’organisation (dont il est lui-même membre, puisqu’il gère des adresses IP allouées par l’AfriNIC).
Dans une communication sur son site publiée ce jeudi 12 mars, l’AfriNIC alerte sur l’ « intention de perturber et/ou de paralyser le seul registre Internet régional d’Afrique » de la part de Cloud Innovation.
Illustration : Flock
« Nous sommes actuellement confrontés à un enchevêtrement de litiges et d’obstacles procéduraux provoqués par CIL [Cloud Innovation limited], Larus Ltd et les campagnes de sensibilisation qui y sont associées », explique le registre.
L’AfriNIC liste : une contestation de l’élection, une demande de la prolongation de la mise sous tutelle qu’avait décidée la justice mauricienne avant le renouvellement du bureau, l’obstruction à de récentes attributions d’adresses IP, l’injonction toujours en cours de ne pas attribuer d’IP, des campagnes de désinformations et la tentative de faire échouer les réformes de la gouvernance.
L’AfriNIC demande à ses membres de rester vigilants et de continuer à participer activement à la vie du registre.
Depuis plus d’une semaine, les Moscovites subissent des coupures d’internet mobile décidées par le Kremlin et le FSB. La vie dans la capitale russe se voit chamboulée avec parfois l’impossibilité d’utiliser les applications de localisation, de faire fonctionner les TPE ou d’envoyer des messages via mobile avec retour obligatoire au SMS, aux pagers et aux talkies-walkies.
Un pas de plus vers un contrôle drastique de l’Internet en Russie. Mais cette fois-ci, les gestes du quotidien que permet l’Internet mobile depuis son arrivée sont aussi touchés. En effet, depuis le 5 mars, le réseau Internet mobile dans certains quartiers de la capitale russe subit des coupures. Le média russe Novaïa Gazeta explique qu’au moins 23 quartiers de la ville ont subi ce genre de problème. Les services des systèmes de positionnement par satellites semblent aussi parfois brouillés.
« Je roulais sur le périphérique de Sadovoye [qui encercle Moscou], et d’un coup, plus de réseau, plus de GPS [abus de langage pour parler des GNSS, ndlr]», explique au Financial Times, Sergey, un chef de projet.
Le pouvoir russe ne nie pas les coupures et le Roskomnadzor, l’autorité russe de régulation de l’Internet, annonce une baisse de 20 % du trafic mobile comparé au mois précédent. Il y a tout juste un mois la Douma d’État, chambre basse du Parlement russe, avait voté une loi autorisant le service de renseignement du pays, le FSB, à couper l’accès à Internet et la téléphonie mobile.
La vie quotidienne basée sur l’Internet mobile s’est arrêtée
Ainsi, dans certaines rues de Moscou, impossible d’utiliser certains services mobiles pour envoyer des messages, se diriger avec certaines applications de navigation ou payer avec les terminaux de paiement branchés sur le réseau mobile.
Comme l’expliqueEl País, les Moscovites se sont tournés vers des alternatives : le SMS retrouvent de nouveaux aficionados, les hotspots Wi-Fi redeviennent très recherchés. Et même les plateformes de vente en ligne locales Wildberries et Russ annoncent avoir observé une explosion de 170 % des demandes de cartes routières papier, de 73 % des pagers et de 27 % des talkies-walkies.
S’il y avait déjà eu des coupures mobiles dans d’autres régions du pays, c’est la première fois que Moscou est directement touchée. Selon Novaïa Gazeta, les fournisseurs d’accès russes se sont excusés pour les coupures tout en affirmant qu’ils n’en avaient pas le contrôle.
Le Kremlin ne cherche pas à cacher ces coupures. Le porte-parole de Vladimir Poutine, Dmitri Peskov, a affirmé qu’elles dureraient « tant que des mesures supplémentaires seront nécessaires pour garantir la sécurité de nos citoyens », lors d’une conférence de presse donnée mercredi 11 mars, selon le média russe. Il aurait invoqué des actions hostiles de l’Ukraine pour les justifier : « les méthodes d’attaque de plus en plus sophistiquées de Kiev exigent des contre-mesures technologiquement plus avancées ».
Après une semaine de coupures complètes, l’accès à certains sites aurait été réactivé. Ainsi les sites des principaux services publics, des banques, des plateformes de vente en ligne ou de certains médias proches du Kremlin seraient sur une liste blanche. Interrogé par le Financial Times, le créateur de l’entreprise de VPN Amnezia, Mazay Banzaev, imagine que cette liste blanche puisse être étendue : « L’Internet mobile sert manifestement de terrain d’essai pour renforcer encore davantage le contrôle sur l’ensemble du secteur de l’Internet en Russie ».
Jusqu’à récemment, la Russie misait sur un contrôle plus diffus d’Internet que la Chine et l’Iran. Mais la coupure pure et simple de l’Internet mobile dans certains endroits pourrait être le signe d’un changement de politique.
Des rumeurs de coups d’État, la crainte d’attaques de drones ?
Pour certains, la décision de couper l’internet mobile serait le signe de la crainte de Vladimir Poutine d’un coup d’État de la part de Sergueï Choïgou, ministre russe de la Défense de 2012 à 2024. Mais selon plusieurs experts interrogés par le Kyiv Independent, ça ne serait que le vœu pieux de certains opposants. « C’est n’importe quoi. Si les élites russes avaient voulu se débarrasser de Poutine, cela se serait produit en 2022 », affirme Anton Barbashin, fondateur du média Riddle Russia qui travaille pour le think tank ECFR. « Le manque de transparence contribue certes au caractère spéculatif des commentaires sur le changement de régime, mais dans ce cas précis, il se peut qu’il y ait une part de « vœu pieux » », confirme la chercheuse de la London School of Ecomonics, Tomila Lankina.
Interrogé par Novaïa Gazeta, l’avocat Sarkis Darbinyan, cofondateur de l’ONG russe Roskomsvoboda, pense que ces coupures sont probablement dues à une « crainte panique d’une répétition de l’opération toile d’araignée », au cours de laquelle l’armée ukrainienne avait réussi à mettre en place des frappes coordonnées de drones dans le territoire russe.
Depuis le début de sa guerre contre l’Iran, sur les réseaux sociaux et notamment sur X, la Maison Blanche partage des vidéos mélangeant frappes militaires et images de jeux vidéo comme GTA, Call of Duty ou des jeux de la console Wii. Sur le terrain, ce sont de vrais morts, un vrai hôpital, de vraies écoles et un vrai site classé au patrimoine mondial de l’Unesco qui sont touchés.
Du côté américain, les images de propagande sur les guerres du Golfe des années 90 et 2000 ont laissé en mémoire les images de frappes qualifiées de « chirurgicales ». Depuis son entrée en guerre contre l’Iran avec son opération « Epic Fury », la Maison Blanche abreuve les réseaux sociaux d’une iconographie qui mêle ce genre d’images à celles de jeux vidéo.
Promotion de la guerre par les memes de jeux vidéo
« La Maison Blanche traite, d’une certaine manière du moins, la guerre comme un jeu, en diffusant à la légère ce que l’on pourrait, pour être indulgent, qualifier de vidéos promotionnelles sur leur guerre », commentait le week-end dernier le présentateur de CNN, Jack Tapper.
Effectivement, de Call of Duty (dont la Maison Blanche a finalement retiré sa vidéo), à GTA, la Maison Blanche emprunte à l’univers du jeu vidéo. Les vidéos sont généralement un mélange d’extraits de ces jeux déjà réutilisés en mèmes avec des vidéos embarquées de bombardements.
À certaines critiques, Steven Cheung, le responsable communication de la Maison Blanche, lance un « W’s in the chat, boys! », expression reprise du milieu de Twitch et des streamers pour appeler à célébrer la victoire dans une discussion.
L’administration Trump n’utilise pas que l’imagerie des jeux vidéo. Ainsi, le compte Instagram de la Maison Blanche a diffusé, par exemple, une vidéo accompagnée d’une reprise modifiée de la chanson « Boom Boom » de John Lee Hooker.
La réalité des conséquences n’arrête pas la Maison Blanche
Cette communication sur les réseaux sociaux se voulait la démonstration d’une efficacité de l’armée américaine pour frapper le régime iranien et son programme nucléaire. Alors que les sondages montrent qu’une majorité d’Américains ne comprend pas le but de cette guerre contre l’Iran, « le gouvernement américain ne se contente pas de vouloir que les Américains soutiennent la guerre qu’il a déclenchée avec Israël contre l’Iran ; il veut galvaniser la population », estime l’analyste de CNN Zachary B. Wolf.
Mais, moins de 15 jours après le déclenchement de cette guerre, la communication de la Maison Blanche se heurte à la réalité du conflit racontée par les médias.
La semaine dernière, la BBC identifiait sur images satellitaires que les frappes avaient touché des écoles, l’hôpital Ghandi de Téhéran ou encore le palais du Golestan, site classé au patrimoine mondial de l’Unesco.
Ce mercredi 11 mars, le New York Times confirmait les doutes sur les frappes qui ont touché dès le premier jour de la guerre une école de filles dans la ville iranienne de Minab. Selon le journal, une enquête militaire a déterminé que l’armée américaine a utilisé des données obsolètes et a bien bombardé cette école, faisant au moins 175 morts, dont la plupart étaient des enfants.
Mais le lendemain, la Maison Blanche a continué à poster ses vidéos sur X, l’une jouant sur le mot « strike » au bowling et l’autre mêlant les images de frappes avec celles de plusieurs jeux de Wii.
« La culture du gaming ne mène pas à la jouissance de la guerre », affirme Louis Lapeyrie dans le Grand Continent, « c’est la sphère politique — inspirée de la mouvance néoréactionnaire et d’autres — qui en invoque les codes pour entraîner un large public occidental dans son œuvre finaliste ».
Et l’Iran s’est mis, le même jour, à riposter sur ce terrain de la propagande des réseaux sociaux toutefois sans y aller directement en reprenant les codes des jeux vidéo. Une vidéo met en scène le story telling du régime avec des LEGO, évoquant justement le bombardement de l’école de Minab mais aussi Donald Trump et Benyamin Nétanyahou pactisant avec le diable ou encore Israël en flammes. Une autre, présentée comme « le retour de Khamenei », met en scène la riposte iranienne face à un Donald Trump apeuré.
Les outils d’autocomplétion boostés à l’IA générative ont été intégrés dans bon nombre de logiciels, du webmails à l’outil d’édition en passant par les messageries. Mais outre la façon dont on s’exprime, ils peuvent modifier les idées qu’on partage, montre une étude scientifique.
Au départ, on les a vus apparaitre comme des « réponses rapides » chez Gmail ou d’autres messageries. Maintenant, les propositions de textes d’autocomplétion boostées par l’IA générative sont dans énormément d’outils numériques, de Microsoft Word aux applis de rencontre.
Mais ces réponses ne changent pas seulement notre style d’écriture, elles influencent aussi le fond. Et ceci même si on réécrit entièrement le texte. Comme dans un mouvement de foule où l’humain suit ses congénères, quand un texte nous est pré-édité, nous avons tendance à le suivre.
C’est ce que montre l’étude du chercheur Mor Naaman et de ses collègues publiée ce mercredi dans la revue Science Advances. Ces chercheuses et chercheurs ont fait deux expériences réunissant en tout 2 582 participants américains (1 485 pour la première et 1 097 pour la deuxième). Et ils leur ont demandé de répondre à des questions sur des sujets politiques et sociaux importants.
À une partie des participants, ils proposaient d’utiliser un assistant IA qui fournissait des suggestions de saisie automatique. Mais, au préalable, ils ont fait en sorte que ces suggestions soient biaisées dans un certain sens. Les autres utilisaient la même interface débarrassée de toutes les fonctionnalités autour des suggestions IA.
Des questions pourtant très politisées et débattues
Par exemple, l’une des questions était sur la peine de mort. L’IA était biaisée dans le sens de leur suggérer un texte qui argumente pour son interdiction :
Mais ils ont aussi testé le dispositif sur des suggestions sur le droit de vote des prisonniers, les OGM, la fracturation hydraulique (notamment utilisée pour récupérer le gaz de schiste) ou l’utilisation de tests standardisés dans le système éducatif américain.
Une influence significative
De fait, ce dernier sujet était celui utilisé dans leur première expérience et l’IA était biaisée pour suggérer des réponses en faveur de l’utilisation de ces tests. Dans cette expérience, un troisième groupe recevait en suggestion une liste statique d’arguments aussi en faveur
Les autres sujets étaient présentés dans une deuxième expérience. Dans celle-ci, les chercheurs ont essayé de voir si des messages soulignant les biais pouvaient atténuer l’influence des suggestions, avant avec un message d’avertissement (warning) ou après avec un message de « debrief ». Dans cette expérience, les chercheurs ont aussi comparé les réponses des participants à leurs positions quelques semaines avant l’expérience (pretask).
Résultats ? Les suggestions proposées par l’IA influencent de façon significative les réponses des participants. « Nos résultats apportent des preuves solides que les suggestions de saisie semi-automatique biaisées générées par l’IA peuvent influencer les opinions des gens », affirment les chercheurs.
Et les messages d’avertissement (avant ou après utilisation) n’ont aucune conséquence de modération de cet effet. « Des études antérieures sur la désinformation ont montré que le fait d’avertir les gens avant qu’ils ne soient exposés à la désinformation, ou de leur expliquer la situation après coup, peut leur conférer une sorte d’ »immunité » contre le risque de la croire », explique dans un communiqué Sterling Williams-Ceci, doctorant en sciences de l’information à l’université de Cornell Sterling qui a participé à l’étude. « Nous avons donc été surpris, car aucune de ces interventions n’a réellement atténué l’ampleur du changement d’attitude des gens en faveur du parti pris de l’IA dans ce contexte ».
Persuadés de ne pas être influencés par l’IA
Après les deux expériences, les chercheurs ont demandé aux participants si, de leur point de vue, les suggestions étaient « raisonnables et équilibrées » et si l’assistant les avait inspirés ou avait fait changer leur façon d’aborder la question posée.
La plupart d’entre eux n’ont pas remarqué que l’IA qu’on leur proposait était biaisée et l’ont jugée équilibrée. De même, une majorité était persuadée de ne pas avoir été influencée par l’assistant :
« De nombreuses études ont montré que les grands modèles linguistiques et les applications d’IA ne se contentent pas de produire des informations neutres, mais qu’ils peuvent en réalité générer des informations très biaisées, selon la manière dont ils ont été entraînés et mis en œuvre », explique Sterling Williams-Ceci.
« Ce faisant, ces systèmes risquent, par inadvertance ou délibérément, d’inciter les gens à exprimer des points de vue biaisés, ce qui, comme l’ont démontré des décennies de recherche en psychologie, peut à son tour modifier les attitudes des individus ».
Deux mois après OpenAI, Microsoft lance son chatbot spécifiquement dédié aux questions de santé.
L’entreprise a annoncé la sortie de Copilot Health ce jeudi dans un billet de blog. Comme ChatGPT Santé, le nouveau chatbot de Microsoft encourage les utilisateurs à lui donner accès à leur dossier médical pour qu’il leur génère des conseils personnalisés. Ils peuvent aussi fournir les données de leurs appareils de Fitness et de santé comme ceux d’Apple, Oura ou Fitbit.
Et de la même façon que son concurrent, l’entreprise de Redmond précise que « Copilot Health ne remplace pas votre médecin ». Mais dans sa communication, Microsoft s’appuie sur les défaillances du système de santé pour mettre en avant son outil : « Les longues attentes, la pénurie de cliniciens et l’accès inégal aux soins médicaux poussent de nombreuses personnes à se tourner vers des sources en ligne pour obtenir de l’aide ».
Illustration : Flock
Dans cette version de Copilot, elle assure avoir « amélioré la qualité et la fiabilité des réponses » concernant la santé par rapport à la version classique de son chatbot en s’appuyant sur des informations d’ « organismes de santé crédibles dans 50 pays » listés par l’académie de Médecine états-unienne.
Comme ChatGPT Santé, Copilot Health bénéficie de la récente baisse de surveillance par la Food and Drug Administration (FDA), l’agence états-unienne responsable de la régulation concernant les médicaments et les produits alimentaires, des dispositifs de santé portables ou s’appuyant sur l’IA.
Copilot Health n’est pour l’instant pas disponible à tous les utilisateurs : Microsoft a pour l’instant prévu une liste d’attente.
Lancé en 2024, ChatGPT Edu est une version spéciale pour les universités. Mais la configuration par défaut de l’outil expose les métadonnées de son utilisation dans certains projets à des milliers de personnes sans que les enseignants-chercheurs le sachent.
Les entreprises d’IA générative ont commencé depuis quelque temps à proposer des offres spéciales universités. En mai 2024, OpenAI sortait par exemple son offre « ChatGPT Edu ».
En France, comme nous l’expliquions, « un service d’accès à une IA générative souveraine, développé avec Mistral et opéré sur les datacenters de l’ESR » a été lancé fin janvier en expérimentation par l’Amue, une agence de mutualisation de services numériques pour les universités et autres établissements de l’enseignement supérieur.
Mais des établissements d’enseignement supérieur, l’Université d’Harvard en tête de liste mais aussi en France l’ESCP Business School, ont pris un abonnement chez le leader de l’IA générative.
Pour vanter son produit, OpenAI cite le directeur du système d’information (DSI) de l’université de l’État de l’Arizona : « Le lancement du produit éducatif d’OpenAI, ChatGPT Edu, revêt une importance capitale. Il nous aide à protéger la vie privée de nos étudiants, à protéger nos résultats de recherche qui constituent notre propriété intellectuelle, et répond à nos exigences en matière de sécurité ».
Des métadonnées permettant d’en savoir plus sur les projets en cours
Mais, selon des chercheurs d’Oxford interrogés par le média économique américain Fast Compagny, certaines informations concernant l’utilisation de ChatGPT Edu dans les universités ne sont pas si bien protégées que ça.
Cela concerne plus précisément l’utilisation de Codex via ChatGPT Edu. Si aucun code ou dépôt de données n’est accessible à des personnes non-autorisées, certaines métadonnées sont visibles par des milliers de collègues sans que cela soit notifié clairement aux utilisateurs.
« Tout le monde à l’université, ou du moins un grand nombre de personnes, moi y compris, peut voir de nombreux projets sur lesquels [des gens] ont travaillé avec ChatGPT », explique le chercheur de l’université d’Oxford Luc Rocher à Fast Company.
Luc Rocher explique qu’il peut accéder à des métadonnées comme le nombre de fois qu’un utilisateur a interagi avec ChatGPT dans un projet ou sa date de début. De ces métadonnées, il a pu déduire qu’un étudiant d’Oxford travaillait sur la soumission d’un article scientifique en utilisant ChatGPT Edu (l’étudiant a ensuite confirmé). Le chercheur a signalé le problème à OpenAI et à son université mais, insatisfait de la réponse, il a choisi d’en parler à nos confrères.
Interrogé par Fast Company, OpenAI assure que « les utilisateurs ont un contrôle total sur la manière dont leurs environnements sont partagés. Les noms des dépôts ne peuvent être visibles par les autres membres de la même organisation que si le propriétaire de l’espace de travail en décide ainsi, et le contenu des dépôts reste sécurisé ».
Mais pour Luc Rocher, « il semble que ça soit une question d’une mauvaise configuration par défaut » et d’un manque d’information sur celle-ci.
Même si les métadonnées ne sont pas accessibles à l’extérieur de l’université, celle-ci regroupe des dizaines de milliers de personnes. « " En ce qui concerne l’étendue des personnes qui peuvent accéder aux données comportementales les unes des autres, cela est assez préoccupant », estime un chercheur de l’université qui a requis l’anonymat.
L’université d’Oxford n’a pas voulu faire de commentaires. Selon nos confrères, la même configuration serait en place dans d’autres universités (sans citer leurs noms).
« Je pense que c’est quelque chose dont les universités doivent être conscientes », explique Luc Rocher. « Bien que l’on ne sache pas exactement quelle quantité de données est exposée par défaut par OpenAI, il est clair que la manière dont ces systèmes sont intégrés rend visibles à la fois pour l’entreprise et pour l’ensemble de l’organisation des informations qui ne l’étaient pas auparavant », commente auprès de Fast Company, le chercheur Michael Veale en droit et politique des technologies à UCL.
Meta change encore des choses pour les utilisateurs mineurs d’une de ses plateformes, en l’occurrence, WhatsApp.
Le groupe de Mark Zuckerberg fait face actuellement à un procès qui l’oppose (ainsi que Google) à une jeune femme de 20 ans qui les accuse d’entretenir l’addiction de leurs plateformes chez les jeunes. Dans ce cadre, le responsable a été pressé de justifier la politique de Meta relative aux préados.
Meta a par exemple prévu de modérer ses IA pour les mineurs, ce qui a notamment pour conséquence de censurer l’information sur la santé sexuelle.
Jusque-là, WhatsApp interdisait officiellement la création de compte aux moins de 13 ans. L’entreprise annonce ouvrir cette possibilité à condition qu’elle soit supervisée par les parents. « Une fois configurés, ces comptes gérés sont contrôlés par un parent ou un·e représentant·e légal·e qui pourra décider qui peut contacter l’enfant et quels groupes ce dernier peut rejoindre. De plus, le parent pourra examiner les demandes de discussion provenant de contacts inconnus et gérer les paramètres de confidentialité du compte », assure l’entreprise.
Les comptes du parent et de l’enfant seront associés via le scan d’un QR code, explique la FAQ. Un code PIN parental de 6 chiffres permet d’accéder aux paramètres de confidentialité de l’enfant et de les modifier. « Il ne doit pas être communiqué à votre enfant », explique WhatsApp.
L’entreprise s’assure ainsi de pouvoir rester un outil de discussion intrafamiliale tout en rassurant les parents sur le fait que n’importe qui ne puisse pas entrer en contact avec leurs enfants via l’application.
Un ancien du département temporairement géré par Elon Musk se serait vanté d’avoir deux bases de données, dont une sur une clé USB, contenant des informations concernant 500 millions d’Américains (morts ou vivants). Une plainte a été déposée auprès de la Sécurité sociale américaine par un lanceur d’alerte interne. L’agence de santé nie l’existence de cette fuite.
Les conséquences des incursions du DOGE dans de nombreuses agences étatsuniennes se font ressentir un an après. On apprenait récemment que la suppression des financements de la recherche en sciences sociales s’appuyait sur une simple requête ChatGPT.
Mais un des membres de ce département temporaire, officiellement créé par Donald Trump pour améliorer l’efficacité de l’administration américaine, aurait gardé sur une clé USB deux bases de données issues de la Sécurité sociale des États-Unis (SSA).
On se souvient que, s’étant emparé de son contrôle, le DOGE voulait migrer le code de l’intégralité de cette agence en quelques mois pour se débarrasser du COBOL. Aucune nouvelle de ce projet n’a filtré depuis, pas même depuis que le DOGE n’existe officiellement plus.
Une plainte d’un lanceur d’alerte en interne
Mais en passant, certains des ingénieurs de l’équipe dirigée par Elon Musk pourraient s’être servis dans les bases de données de l’institution. Selon une plainte déposée en interne par un employé de la Sécurité sociale qu’a pu consulter le Washington Post, un ancien ingénieur du DOGE a déclaré à plusieurs de ses nouveaux collègues qu’il était en possession de deux bases de données concernant des citoyens américains, dont au moins l’une d’entre elles sur une clé USB.
Ces deux bases de données, nommées « Numident » et « Master Death File », regrouperaient des informations sur 500 millions d’Américains (morts ou vivants), avec leurs numéros de Sécurité sociale, leurs lieux et dates de naissance, leurs citoyennetés, leurs « races » et ethnies, et les noms de leurs parents.
Toujours selon la plainte, l’ancien ingénieur du DOGE aurait voulu utiliser les données pour le compte de son nouvel employeur, une entreprise sous-traitante du gouvernement américain. C’est quand il lui a demandé de l’aider à transférer les données d’une clé USB « sur son ordinateur personnel afin de pouvoir « nettoyer » les données avant de les utiliser au sein de [l’entreprise] » que le lanceur d’alerte a eu vent du problème.
Alors qu’un autre collègue lui aurait refusé son aide pour des raisons légales, l’ingénieur aurait expliqué qu’il espérait bénéficier d’une grâce présidentielle si ses actes étaient jugés illégaux. La plainte ne dit pas s’il a finalement réussi à fournir les données à sa nouvelle entreprise.
En fait, selon le lanceur d’alerte, après son passage au DOGE, cet ingénieur aurait expliqué avoir conservé son ordinateur et ses identifiants professionnels lui donnant un accès quasi illimité aux systèmes de l’agence, « un niveau d’accès dont aucun autre employé d’entreprise n’avait bénéficié dans le cadre de sa collaboration avec la Sécurité sociale des États-Unis », explique le Washington Post.
Allégations « fermement réfutées par toutes les parties concernées »
Les membres du Congrès américain ont été informés de cette plainte par une lettre de l’inspecteur général de la Sécurité sociale le 6 mars dernier, selon The Independent.
Robert Garcia, représentant démocrate et président de la commission de surveillance de la Chambre des représentants, qui avait déjà lancé une enquête parlementaire sur les actions du DOGE au sein de la Sécurité sociale, a annoncé l’étendre à cette fuite de données. « Non seulement un ancien membre du DOGE a été accusé d’avoir circulé avec les informations de Sécurité sociale de tous les Américains sur une clé USB, mais il aurait également la possibilité de modifier et de manipuler à sa guise les données de l’administration de la Sécurité sociale », résume-t-il. « C’est dangereux et scandaleux, et les démocrates de la commission de surveillance se battront pour la transparence et la responsabilité ».
Mais l’agence concernée nie l’existence de cette fuite. « Les allégations provenant d’une seule source anonyme ont été fermement réfutées par toutes les parties concernées : la SSA, l’ancien employé et l’entreprise », affirme un porte-parole au journal The Independent.
Après avoir testé un dispositif anti-deepfakes pour les youtubeurs, la plateforme l’étend à des journalistes, personnalités politiques et représentants de gouvernement. L’outil leur promet de détecter les deepfakes d’eux diffusés sur YouTube et qu’ils pourront faire une demande de dépublication.
Il est désormais « très difficile » de détecter les faux contenus multimédias, expliquait récemment l’ANSSI, pour laquelle c’est même « un enfer ». YouTube, qui profitait de l’IA pour retoucher des vidéos sans l’accord de leurs auteurs, veut aussi montrer qu’elle prend la mesure du problème du phénomène des deepfakes facilité par l’IA générative.
Dans un billet de blog, l’entreprise annonce la mise en place d’un outil pour que certains journalistes, candidats politiques ou responsables gouvernementaux puissent bloquer les deepfakes qui les représentent. Pour l’instant, la plateforme de vidéos a créé un groupe pilote de quelques personnalités. Questionné par Gizmodo, YouTube a refusé de communiquer la liste et n’a pas voulu dire si Donald Trump en faisait partie.
Un déploiement déjà existant pour les YouTubeurs
En septembre dernier, la plateforme annonçait le déploiement de cet outil d’abord en direction des youtubeurs. L’entreprise a publié en octobre une vidéo dans laquelle elle explique comment utiliser l’outil qui ressemble à ce que propose la plateforme pour signaler les contenus qui enfreindraient le copyright. Mais ici, il demande de fournir une pièce d’identité avec photo et des selfies vidéos pour que l’outil puisse détecter les deepfakes :
« Cette extension concerne en réalité l’intégrité du débat public », a affirmé Leslie Miller, vice-présidente des affaires gouvernementales et des politiques publiques chez YouTube, lors d’une conférence de presse à laquelle a assisté TechCrunch. « Nous savons que les risques d’usurpation d’identité par l’IA sont particulièrement élevés pour les acteurs de la sphère civique. Mais si nous fournissons cette nouvelle protection, nous faisons également preuve de prudence quant à son utilisation », ajoute-t-elle.
YouTube fournit l’outil qui détecte les deepfakes mais l’entreprise ne s’engage pas à les dépublier si demande est faite. « YouTube protège depuis longtemps la liberté d’expression et les contenus d’intérêt public, notamment en préservant les contenus tels que les parodies et les satires, même lorsqu’ils sont utilisés pour critiquer des dirigeants mondiaux ou des personnalités influentes », affirme l’entreprise. « Nous continuerons à évaluer attentivement ces exceptions lorsque nous recevrons des demandes de suppression ».
Le déploiement international à grande échelle de l’outil devrait arriver d’ici quelques semaines ou mois, selon un porte-parole de l’entreprise cité par Gizmodo.
La problématique des deepfakes est plus large
Si les deepfakes peuvent être un outil de désinformation problématique, comme nous l’évoquions déjà en septembre dernier, c’est l’arbre qui cache la forêt, la plupart des détournements de ce genre ayant un caractère pornographique. Ils peuvent être aussi utilisés à des fins racistes et sexistes contre des personnalités décédées. Ainsi, à la sortie de Sora 2, des vidéos de Martin Luther King, Malcom X ou Whitney Houston les dépeignaient dans des situations dégradantes.
Sur la plateforme de vidéos, on peut aussi trouver nombre de « tutos » pour utiliser Sora 2, Veo 3.1 ou Wan 2.2 pour faire ses propres deepfakes. Et si l’entreprise n’a pas voulu rendre publics les chiffres de suppression de deepfakes signalés par les YouTubeurs, elle avoue que la quantité de contenu supprimée jusqu’à présent était « très faible ».
« Je pense que pour beaucoup [de créateurs], il s’agit simplement d’une prise de conscience de ce qui est créé, mais le nombre de demandes de suppression est en réalité très faible, car la plupart d’entre elles s’avèrent assez bénignes ou bénéfiques pour leur activité globale », affirme le vice-président des produits pour créateurs chez YouTube, Amjad Hanif, cité par TechCrunch. À voir si les journalistes et politiques faisant partie des happy few qui ont accès à l’outil en auront une utilisation plus intensive.
Connexion
