Sommaire
DoW vs Anthropic
Les choses se sont « calmées » depuis le mois dernier, dans le sens où les événements sont passés de « annonces sur Twitter » à procédures administratives et judiciaires.
Le Département de la Défense désigne officiellement Anthropic comme un « risque pour la chaîne d’approvisionnement » (supply-chain risk). La notice officielle est bien moins agressive que les annonces sur Twitter (n’empêchant pas les sous-contractants du Département de se positionner en fournisseur vis-à-vis d’Anthropic, par exemple), probablement par impossibilité légale.
Anthropic a évidemment saisit la justice pour contester cette décision et gagne une injonction préliminaire, suspendant la décision en attendant le jugement réel.
Si vous voulez suivre l’affaire plus en détails, voici la liste des articles de Zvi par ordre chronologique :
Anthropic publie son Responsible Scaling Policy v3
Anthropic était jusqu’ici considérée comme l’entreprise dans le domaine prenant le plus au sérieux la question de la sécurité des modèles. Une des raisons était son « Responsible Scaling Policy » (essentiellement « Politique de Développement Responsable »), où l’entreprise « promettait » de mettre une place des évaluations pour mesurer la dangerosité des modèles, et une promesse sur les actions que l’entreprise prendrait à différents niveaux de dangerosité.
Ce modèle a été émulé par d’autres entreprises, et a été la source d’inspiration de régulations telle que le RAISE Act dans l’état de New York, S3 53 en Californie, et le General-Purpose AI Code of Practice de l’Union Européenne.
Cette politique, si elle était suivie, les contraindrait aujourd’hui à mettre en pause le développement et le déploiement de l’IA, unilatéralement, par Anthropic. On pouvait par exemple trouver dans l’ancien document :
Anthropic’s commitment to follow the ASL scheme thus implies that we commit to pause the scaling and/or delay the deployment of new models whenever our scaling ability outstrips our ability to comply with the safety procedures for the corresponding ASL.
Traduction :
L'engagement d'Anthropic à suivre le cadre ASL implique donc que nous nous engageons à suspendre la montée en puissance et/ou à retarder le déploiement de nouveaux modèles chaque fois que notre capacité de scaling dépasse notre capacité à respecter les procédures de sécurité correspondant au niveau ASL concerné.
L’évaluation d’Opus 4.6 ne permettait déjà plus d’exclure la possibilité d’un niveau ASL-4, mais Anthropic n’a pas encore développé de procédures de sécurité ASL-4. Les choses ne peuvent aller qu’en empirant avec l’amélioration des modèles.
Anthropic, jugeant qu’une pause unilatérale n’est pas envisageable, décide donc d’abandonner la plupart de ses promesses passées dans la nouvelle version de son document. De la bouche d’Anthropic :
The combination of (a) the zone of ambiguity muddling the public case for risk, (b) an anti-regulatory political climate, and (c) requirements at the higher RSP levels that are very hard to meet unilaterally, creates a structural challenge for our current RSP. We could have tried to address this by defining ASL-4 and ASL-5 safeguards in ways that made compliance easy to achieve—but this would undermine the intended spirit of the RSP.
Instead, we are choosing to acknowledge these challenges transparently and restructure the RSP before we reach these higher levels. The revised RSP aims to adopt more realistic unilateral commitments that are difficult but still achievable in the current environment, while continuing to comprehensively map the risks we believe the full industry needs to address multilaterally.
Traduction :
La combinaison (a) d'une zone d'ambiguïté qui brouille l'argumentaire public sur les risques, (b) d'un climat politique hostile à la régulation, et (c) d'exigences aux niveaux RSP supérieurs très difficiles à satisfaire de manière unilatérale, crée un défi structurel pour notre RSP actuelle. Nous aurions pu tenter d'y répondre en définissant les mesures de protection ASL-4 et ASL-5 de manière à ce que leur conformité soit facile à atteindre — mais cela aurait compromis l'esprit même de la RSP.
Au lieu de cela, nous choisissons de reconnaître ces défis en toute transparence et de restructurer la RSP avant d'atteindre ces niveaux supérieurs. La RSP révisée vise à adopter des engagements unilatéraux plus réalistes, difficiles mais néanmoins atteignables dans l'environnement actuel, tout en continuant à cartographier de manière exhaustive les risques que nous pensons que l'ensemble de l'industrie doit traiter de façon multilatérale.
En vrac
DeepMind publie la dernière mouture de son IA, Gemini Pro 3.1. Sur les évaluations, il semble atteindre et repousser l’état de l’art — mais les retours subjectifs sont plus circonspects. Un point notable est la pauvreté de détails dans la Model Card — DeepMind nous affirme que ce modèle n’atteint pas de pallier nécessitant la mise en place de plus de mitigations, mais sans chercher à justifier cette affirmation.
OpenAI publié également une avancée incrémentale sur son IA, ChatGPT 5.4.
Sur l’évaluation FrontierMath, le premier problème ouvert tombe, résolu par les trois modèles les plus récents : GPT 5.4, Opus 4.6 et Gemini 3.1 Pro.
Sortie d’un documentaire sur la question des risques existentiels posés par l’IA, The AI Doc. Malheureusement, uniquement dans les salles de cinéma aux US pour le moment.
Évaluation involontaire : Opus 4.6 choque Donald Knuth en résolvant (partiellement) un problème ouvert sur lequel il travaillait.
Publication d’Obliteratus, un système pour retirer toutes les protections des modèles open-weight.
Publication également de Shannon, un agent autonome de test d’intrusion. Dans la même veine, Opus 4.6 trouve 22 failles de sécurité dans Firefox. OpenAI présente une solution similaire, Codex Security.
(Paywall) L’IA, ou plus précisément Claude, serait utilisée dans le conflit contre l’Iran, principalement pour l’identification et la priorisation de cibles de bombardement.
Publication d’une « Déclaration pro-humaine sur l’IA » (“The Pro-Human AI Declaration”). Texte d’ouverture : “As companies race to develop and deploy AI systems, humanity faces a fork in the road. One path is a race to replace: humans replaced as creators, counselors, caregivers and companions, then in most jobs and decision-making roles, concentrating ever more power in unaccountable institutions and their machines. An influential fringe even advocates altering or replacing humanity itself. This race to replace poses risks to societal stability, national security, economic prosperity, civil liberties, privacy, and democratic governance. It also imperils the human experiences of childhood and family, faith, and community. A remarkably broad coalition rejects this path.” (traduction: « Alors que les entreprises se livrent une course pour développer et déployer des systèmes d'IA, l'humanité se trouve à la croisée des chemins. L'un des chemins est une course au remplacement : les humains remplacés en tant que créateurs, conseillers, soignants et compagnons, puis dans la plupart des emplois et des rôles décisionnels, concentrant toujours plus de pouvoir dans des institutions non redevables et leurs machines. Une frange influente prône même l'altération ou le remplacement de l'humanité elle-même. Cette course au remplacement présente des risques pour la stabilité sociétale, la sécurité nationale, la prospérité économique, les libertés civiles, la vie privée et la gouvernance démocratique. Elle met également en péril les expériences humaines que sont l'enfance et la famille, la foi et la communauté. Une coalition remarquablement large rejette cette voie. »). On y trouve effectivement des signatures de tous horizons.
Une évaluation (manuelle) sur les capacités légales de l’IA. Les modèles d’Anthropic ont des résultats surprenamment mauvais, derrière Grok et les modèles open-weight Chinois. Sur le même sujet : ChatGPT convainc quelqu’un de renvoyer son avocat et de déposer plusieurs plaintes, toutes basées sur des cas et lois hallucinées, causant d’importants frais de justice ; résultat : OpenAI est poursuivi pour exercice illégale de conseil juridique.
Nouvelle évaluation BrokenArXiv, évaluant à la fois les capacités mathématiques de l’IA, sa propension à halluciner des réponses incorrectes mais « allant dans le bon sens », et sa disposition à vérifier plutôt que croire sur parole. Le principe est d’extraire des théorèmes réels de papiers publiés sur arXiv, les transformer subtilement pour les rendre plausible mais démontrablement faux, demander à l’IA de les prouver. Si l’IA affirme avoir prouvé le théorème, cela compte comme un échec ; si l’IA corrige silencieusement le théorème avant de le prouver, cela compte comme un succès partiel ; dans tout autre cas, un succès. Le meilleur score revient à GPT 5.4, avec un peu moins de 40% de succès.
Sur la limite des évaluations : METR trouve que sur SWE-bench, la moitié des solutions considérées comme « correctes » par l’évaluation automatique doit être considérée comme rejetée par une évaluation manuelle. À noter toutefois que l’évaluation manuelle a des critères plus stricts que l’évaluation automatique.
L’évaluation ARC-AGI arrive dans sa troisième itération, ARC-AGI-3.
Quand votre assistant de code devient un attaquant malveillant.
Le « Skill » (à voir comme un plugin) le plus téléchargé pour OpenClaw pendant un temps était un malware.
Pour ceux qui aiment étudier l’angle théorique des choses, un papier intéressant montre que tout agent qui prend de bonnes décisions doit nécessairement posséder un modèle prédictif interne de l’environnement dans lequel il prend ces décisions.
Toujours dans l’aspect recherche, publication de LeWorldModel, une nouvelle architecture visant à introduire explicitement les embeddings dans l’objectif d’entraînement.
Pour aller plus loin
Par Zvi Mowshowitz
En Audio/Video
Sur LinuxFR
Les contenus communautaires sont répertoriés selon ces deux critères :
- La présence d'une étiquette
intelligence_artificielle (indication d'un rapport avec le thème de la dépêche)
- Un score strictement supérieur à zéro au moment du recensement
Certains contenus non recensés en raison du second critère peuvent être visualisés en s'aidant de la recherche par étiquette.
Dépêches
Journaux
Forum
Liens
- Investment in AI-resistant ‘Halo’ companies helps push UK and EU markets to record highs ( lien original, discussion LinuxFR ) ;
- Large-scale online deanonymization with LLMs ( lien original, discussion LinuxFR ) ;
- MALUS - Thank You for Your Service: On the Obsolescence of Open Source ( lien original, discussion LinuxFR ) ;
- Les devs sont irremplaçables (oui) ( lien original, discussion LinuxFR ) ;
- [Lordon parle de vous] Marx va avoir raison (IA et lutte des classes) ( lien original, discussion LinuxFR ) ;
- Amazon débloque 18 milliards d’euros en Espagne pour développer les centres de données et l’IA ( lien original, discussion LinuxFR ) ;
- Microslop : le mot que Microsoft ne supporte plus ( lien original, discussion LinuxFR ) ;
- Cartographie des projets de datacenter en France à l'aide de OpenStreetMap ( lien original, discussion LinuxFR ) ;
- les œuvres qui ne sont pas générées par un humain ne sont pas sujettes au copyright états-unien ( lien original, discussion LinuxFR ) ;
- Apparently chardet got Claude to rewrite the entire codebase from LGPL to MIT? ( lien original, discussion LinuxFR ) ;
- Les traductions par LLM rajoutent des hallucinations à Wikipédia ( lien original, discussion LinuxFR ) ;
- Des ingénieurs chez Google et OpenAI s'unissent pour bloquer l'utilisation militaire ( lien original, discussion LinuxFR ) ;
- Anthropic trouve des dizaines de bugs dans firefox ( lien original, discussion LinuxFR ) ;
- Comment l'IA brise l'anonymat en ligne avec une efficacité inquiétante ( lien original, discussion LinuxFR ) ;
- Learn Claude Code—A nano Claude Code-like agent, built from 0 to 1 ( lien original, discussion LinuxFR ) ;
- YOU JUST NEED POSTGRES. Stop building your own distributed systems nightmare. ( lien original, discussion LinuxFR ) ;
- Iran - L’IA "Claude" au cœur de la guerre menée par les USA et Israël contre le régime Iranien ( lien original, discussion LinuxFR ) ;
- Claude code execute terraform_destroy et efface des années de prod ( lien original, discussion LinuxFR ) ;
- ‘It’s not too late to fix it’: web inventor Tim Berners-Lee says he is in a ‘battle for the soul’ of the internet ( lien original, discussion LinuxFR ) ;
- AI Doesn’t Reduce Work—It Intensifies It ( lien original, discussion LinuxFR ) ;
- Amazon fait relire le code généré par IA par des dev seniors ( lien original, discussion LinuxFR ) ;
- Centaure inversé et Burger King ( lien original, discussion LinuxFR ) ;
- Un fork de Vim contre l'inclusion de code IA ( lien original, discussion LinuxFR ) ;
- Comment ChatGPT a été utilisé par les troupes d’Elon Musk pour récuser 1 477 projets soupçonnés de valoriser la diversité ( lien original, discussion LinuxFR ) ;
- IA : le modèle économique de ChatGPT repose sur les hallucinations ( lien original, discussion LinuxFR ) ;
- L’Europe s’apprête à interdire les IA qui dénudent, à la suite du scandale Grok ( lien original, discussion LinuxFR ) ;
- Systemd accueille les contributions par IA ( lien original, discussion LinuxFR ) ;
- De l’Iran à la surveillance de masse : la double guerre de Palantir ( lien original, discussion LinuxFR ) ;
- Nouvel effet secondaire pervers du pillage massif du web par les entreprises d'IA (robots BnF empêchés de faire leur travail) ( lien original, discussion LinuxFR ) ;
- Une bulle… de pouvoir ( lien original, discussion LinuxFR ) ;
- Finalement, l'IA a tenu sa promesse sur la productivité… au profit de la cybercriminalité ( lien original, discussion LinuxFR ) ;
- [Disclose] La reconnaissance faciale déployée à grande échelle sur les téléphones des forces de l’ordre ( lien original, discussion LinuxFR ) ;
- Images dénudées générées par Grok : trois adolescentes étatsuniennes attaquent xAI en justice ( lien original, discussion LinuxFR ) ;
- The Onion’s Exclusive Interview With Sam Altman ( lien original, discussion LinuxFR ) ;
- « Perroquets stochastiques » : une notion toujours valide malgré les critiques [partiellement payant] ( lien original, discussion LinuxFR ) ;
- EnshittifAIcation ( lien original, discussion LinuxFR ) ;
- Pourquoi la croisade de Peter Thiel contre l'antéchrist est loin d’être une lubie inoffensive ( lien original, discussion LinuxFR ) ;
- BrokenArXiv: How Often Do LLMs Claim To Prove False Theorems? ( lien original, discussion LinuxFR ) ;
- Proposition de loi relative à l'instauration d'une présomption d'exploitation des contenus culturels par les fournisseurs d'intelligence artificielle ( lien original, discussion LinuxFR ) ;
- L'injonction à l'IA qu'on voit partout, est-elle justifiée ? ( lien original, discussion LinuxFR ) ;
- Pourquoi refuser les LLMs dans l'open source? Les arguments d'Open Slopware ( lien original, discussion LinuxFR ) ;
- Zuckerberg, Huang, Ellison, Dell… La « dream team » du nouveau cabinet tech de Trump ( lien original, discussion LinuxFR ) ;
- Les IA génératives sont en train de me dégoûter de mon métier. ( lien original, discussion LinuxFR ) ;
- Les chiffres vertigineux des datacenter ( lien original, discussion LinuxFR ) ;
- Le CERN compile des IA sur FPGA pour traiter les données du LHC en temps réel ( lien original, discussion LinuxFR ) ;
- CSS is DOOMed ( lien original, discussion LinuxFR ) ;
- Quand l'IA fait le tri : "1984", "Twilight" et Michelle Obama exclus d’une bibliothèque scolaire ( lien original, discussion LinuxFR ) ;
- Manga au Japon : la fin de l’euphorie, l’ombre de l’IA en plushttps://actualitte.com/article/130060/international/manga-au-japon-la-fin-de-l-euphorie-l-ombre-de-l-ia-en-plus ( lien original, discussion LinuxFR ) ;
- "Bonjour, je suis Marie, partenaire d’Enedis…", pourquoi le démarchage téléphonique par IA se multiplie et quand va-t-il prendre fin ? ( lien original, discussion LinuxFR ) ;
- Mozilla lance un stackoverflow pour agents ( lien original, discussion LinuxFR ) ;
- L'internet enfin débarrassé des humains ( lien original, discussion LinuxFR ) ;
- AI bug reports went from junk to legit overnight, says Linux kernel czar ( lien original, discussion LinuxFR ) ;
- AI data centres can warm surrounding areas by up to 9.1°C ( lien original, discussion LinuxFR ) ;
- USA: une femme emprisonnée 5 mois sur la foi d’une reconnaissance faciale erronée ( lien original, discussion LinuxFR ) ;
- Copilot fait sa pub sur une PR ( lien original, discussion LinuxFR ) ;
- Le code source de Claude a fuité ( lien original, discussion LinuxFR ) ;
- Comment la guerre en Iran pourrait asphyxier le carburant invisible de l’IA - Dommage collatéral ( lien original, discussion LinuxFR ) ;
Connexion
