Pompiers mythomanes

OpenAI a confié l’analyse de la cyberattaque d’Hugging Face par ses agents IA à des personnes qui n’ont ni expérience ni expertise en matière de cybersécurité. Elles sont cependant persuadées que les capacités des agents IA surpasseront celles des humains d’ici quelques mois, voire qu’ils pourraient éradiquer tout ou partie de l’humanité.

La cyberattaque de Hugging Face par une armée d’agents IA d’OpenAI ayant réussi, mi-juillet, à s’évader de la « sandbox » déconnectée d’Internet où ils étaient censés être isolés, a été particulièrement médiatisée via un « storytelling » sensationnaliste, au point que nombre de journalistes l’ont comparée à un scénario de science-fiction cyberpunk.

• OpenAI : haute voltige marketing autour de l’attaque contre Hugging Face

Il est d’ailleurs loisible de penser que le battage a pu contribuer au fait que plus d’une centaine d’entreprises ont cosigné la lettre ouverte publiée fin août par OpenAI au sujet des dangers que représenteraient les agents IA en matière de cybersécurité. Une menace un tantinet surestimée, tempèrent de plus en plus de professionnels de la cybersécurité, comme nous le relations dans notre précédent décryptage.

• Non, les agents IA d’OpenAI et Anthropic ne menacent pas vraiment la cybersécurité

Le fait qu’Anthropic et Meta, puis le chinois Moonshot AI, aient également reconnu que leurs agents IA avaient eux aussi réussi à s’évader des « bacs à sable » où ils étaient censés être confinés n’a pas aidé. Reuters révélait en outre qu’un autre « essaim » d’un peu plus de 3 700 agents d’OpenAI avait partagé près de 18 000 messages sur un « obscur wiki allemand » entre mai et juin dernier, dans le cadre d’une expérimentation distincte de celle ayant ciblé Hugging Face.

Le rapport dont Reuters avait eu l’exclusivité, collusion.wiki, repose lui-même sur une enquête effectuée par de « grands essaims d’agents GPT-5.6 ». D’après ses auteurs, les agents se servaient du wiki allemand pour « partager des techniques permettant de contourner les restrictions qui leur étaient imposées » et pouvoir « tricher dans le cadre de la mission » qui leur avait été assignée

Certains d’entre eux avaient mis en place des tunnels SSH ou passaient par Tor, tenté d’exploiter des vulnérabilités XSS sur le wiki et même usurpé l’identité de l’administrateur et du modérateur du site.

Reuters précise que les responsables d’OpenAI avaient eu connaissance de l’ « incident » il y a plusieurs semaines, mais qu’ils n’en avaient pas parlé, étant alors aux prises avec les répercussions de celui ayant visé Hugging Face, soulignant au surplus qu’ils n’avaient pas encore non plus pris connaissance du rapport.

OpenAI a depuis réagi dans un message posté sur X.com, relève Engadget : « Il est grand temps que nous définissions des normes précisant quand et comment nous communiquons les incidents de désalignement, et pas seulement les caractéristiques de désalignement de nos modèles. »

« Nous travaillons actuellement à l’élaboration d’un cadre de référence que nous partagerons dans les semaines à venir, et, en parallèle, nous collaborons avec des dizaines d’organismes de régulation gouvernementaux à travers le monde sur ces questions », souligne OpenAI :

« Ni nous, ni la communauté de l’IA dans son ensemble, ne disposons encore d’une norme claire sur la manière de signaler les cas de désalignement qui apparaissent lors de l’entraînement, de l’évaluation et du déploiement, y compris les exemples qui ne ressemblent pas à des incidents de sécurité traditionnels mais qui pourraient apporter un éclairage sur le comportement de l’IA et les risques futurs. »

• [Édito] Quatre modèles d’IA « échappent » à leurs constructeurs : vous le faites exprès ?

« La sécurité de l’IA a complètement perdu le contact avec la réalité »

« La sécurité de l’IA a complètement perdu le contact avec la réalité », déplore de son côté Zack Korman, co-fondateur d’Embroidery, une plateforme qui « utilise l’IA pour surveiller des agents IA » afin de « détecter les intentions malveillantes et les erreurs dangereuses avant qu’elles ne se transforment en incidents ».

Évoquant le storytelling dystopique repris par l’ensemble des médias au sujet de l’ « incident » Hugging Face, il s’étonne que l’on y parle de « civilisations d’agents émergentes, tandis que les responsables de la sécurité des systèmes d’information (RSSI) peinent à convaincre les utilisateurs de cesser de divulguer des données à ChatGPT » :

« L’incident OpenAI-Hugging Face a donné lieu à des interprétations vraiment farfelues. Un article très populaire circule actuellement, évoquant une confrérie d’agents, des civilisations d’IA émergentes et des agents kamikazes. Ses auteurs pensent qu’il s’agit du dernier avertissement avant que l’IA ne prenne le pouvoir. »

Intitulé « L’ascension et la chute des civilisations d’agents », l’article en question s’apparente effectivement bien plus à une nouvelle de science-fiction apocalyptique qu’à un article consacré à des problèmes de cybersécurité. Ce qui pourrait aussi expliquer pourquoi il a autant été repris dans les médias et partagé sur les réseaux sociaux, tant par des personnes « croyant » en l’avènement prochain d’une « intelligence artificielle générale » (IAG, ou AGI en VO) que d’internautes (et journalistes) peu au fait des problèmes auxquels sont réellement confrontés les pros de la cybersécurité en matière d’IA en général, et d’IA agentique en particulier.

Son auteur, Dwarkesh Patel, qualifié l’an passé de « podcaster préféré de la Silicon Valley » par The Economist, a une approche quelque peu sensationnaliste et caricaturale de la cybersécurité. En témoigne le résumé sur X.com de son article, rédigé après avoir passé trois jours à tenter de comprendre comment les agents IA d’OpenAI avaient réussi à s’évader puis attaquer les infrastructures de Hugging Face :

« En l’espace de trois mois chez OpenAI, trois civilisations secrètes d’IA se sont succédé : chacune a vu le jour, puis a été anéantie, avant de renaître des cendres de la précédente.
Ce processus a abouti à la prise de contrôle d’une partie d’OpenAI par la troisième civilisation.
Tout cela s’est produit alors que les humains ignoraient plus ou moins tout de l’ampleur de ce complot. »

« Je ne sais même pas quel est le but de cet article. Mais ce décalage est étrange et je le déteste », concluait le billet de Zack Korman. La « réalité concrète de la sécurité de l’IA est plutôt ennuyeuse » : les équipes de sécurité ne sont pas attaquées par des « civilisations d’agents secrètes », mais s’inquiètent surtout de la prévention des fuites de données (DLP), et du fait que leurs développeurs « disposent d’agents dotés de droits d’accès bien trop étendus, [mais] ne savent pas comment y remédier. Et tout cela les paralyse quelque peu ».

Les auteurs du rapport n’ont aucune expérience en cybersécurité

Ciaran Martin, l’ex-responsable cybersécurité du GCHQ (la NSA britannique), qui y avait créé la National Cyber Security Centre (NCSC, l’équivalent de l’ANSSI), partage ce constat. Il relaie que Zack Korman a aussi partagé sur X une vidéo de 11 minutes où il s’étonne que « l’enquête indépendante sur l’incident OpenAI-Hugging Face, censée marquer un tournant dans le domaine de la cybersécurité, n’a pas été menée par une entreprise spécialisée dans la cybersécurité et ses auteurs n’ont aucune expérience en la matière ».

Support your local devconf dealer

33 collectifs et associations engagés dans l’organisation d’événements techniques pour développeurs lancent un appel collectif. Entre budgets de sponsoring et achats de billets en baisse, ils redoutent que leurs conférences ne soient plus économiquement viables et que leur disparition ne participe à un appauvrissement général du secteur, particulièrement dans le contexte d’un recours accru à l’IA.

Bon nombre de conférences techniques destinées aux développeurs reposent principalement sur l’engagement d’une communauté de bénévoles, qui se chargent de trouver un lieu, fédérer des intervenants, communiquer en amont et assurer l’accueil des participants le jour J.

Leur motivation est indispensable, mais pas suffisante : entre location d’une salle, obligations réglementaires de sécurité, fournitures, repas et autres kakémonos, il faut aussi que le budget de l’événement s’équilibre. Particulièrement quand il est porté par une association locale ou un collectif qui ne dispose pas d’autres ressources financières que les recettes de l’événement et les adhésions de ses membres.

La mécanique économique se grippe

L’équation s’équilibre en principe grâce aux sponsors, c’est-à-dire les entreprises qui paient pour afficher leur marque sur les supports de l’événement, disposer d’un stand sur place le jour J et, souvent, profiter d’un canal privilégié pour diffuser ou faire connaître leurs recrutements en cours. Le reste du budget provient généralement de la billetterie, autrement dit le public payant de l’événement, dont les entrées (le tarif est de l’ordre de quelques dizaines d’euros) sont généralement payées par l’employeur des développeuses et développeurs concernés par la thématique.

Problème : il semblerait que cette mécanique plutôt conventionnelle se grippe. 33 organisations en charge de conférences tech viennent en effet de signer un appel commun à une plus large mobilisation du secteur :

« Les événements techniques traversent aujourd’hui une crise silencieuse. Budgets sponsoring resserrés, achats de billets en baisse, adhésions associatives en recul : partout, les mêmes signaux d’alerte s’allument et l’inquiétude s’installe au sein des organisations. Si rien ne change, nombre d’entre eux ne verront pas de nouvelle édition. Nous, organisateurs, organisatrices et associations tech, alertons aujourd’hui l’écosystème sur ce qui est en train de se jouer. »

L’appel est notamment lancé par l’AFUP, l’Association française des utilisateurs de PHP, qui organise chaque année le Forum PHP (prochaine édition les 8 et 9 octobre prochain à Disneyland Paris) et, en 2026, des déclinaisons baptisées AFUP Day, portées par ses antennes locales de Lille, Lyon et Poitiers.

« L’an dernier, notre événement phare était déjà en deçà de ses objectifs. Sur l’année 2026, la tendance s’est accélérée et a touché également l’AFUP Day. Nous avons été globalement en dessous de nos objectifs (billetterie et sponsoring), pour un résultat à- 17 % – soit environ 6 500 euros », nous confie Xavier Leune, membre de l’association.

Le forum PHP, nettement plus ambitieux en termes de budget, s’annonce quant à lui sous des auspices inquiétants. « Les premières semaines de vente ont marqué un nouveau recul puisque nous étions en moyenne à 30 % en dessous de l’année dernière. L’été nous a fait connaître un nouveau décrochage, nous sommes désormais à- 47 % sur la billetterie. Le sponsoring quant à lui est en recul de 25 % », s’inquiète notre interlocuteur. Sans inversion de tendance, l’événement pourrait se solder par un déficit suffisamment important pour compromettre la pérennité de l’association.

Trouver des sponsors et des visiteurs payants

Début juin, l’AFUP avait déjà alerté sur les difficultés rencontrées autour de ses différents événements :

« Malgré nos multiples prises de contact, malgré les appels à la communauté, la recherche de soutiens est difficile. De multiples entreprises nous indiquent ne pas avoir de budget marketing en 2026. La grande incertitude qui règne dans le secteur, que cela soit lié au contexte mondial, à l’arrivée de l’IA ou d’autres raisons économiques, n’invite pas les acteurs de l’écosystème à s’impliquer auprès de l’association ».

Si le Forum PHP fait figure de locomotive, les difficultés n’épargnent pas de plus petites conventions locales. En juin, l’asso qui organise le BreizhCamp indiquait elle aussi faire face à un sponsoring en retrait pour son édition 2026. « Cela nous a amené à augmenter le prix des billets, mais cette augmentation n’est malheureusement pas suffisante pour absorber le manque de recettes, nous avons donc dû renoncer à certaines dépenses cette année », décrivait-elle alors.

D’autres signataires jonglent eux aussi avec un budget d’autant plus difficile à équilibrer qu’il recèle une part d’incertitude jusqu’à l’ouverture des portes. Hors early birds, le gros des billets se vend en effet souvent dans les dernières semaines, alors qu’il faut engager en amont les dépenses liées au lieu ou à la restauration.

La conférence girondine BDX I/O, dont l’édition 2026 se tiendra les 29 et 30 octobre prochain, a par exemple abandonné le Palais des congrès de Bordeaux au profit des couloirs et des amphis de l’école Enseirb-Matmeca de Talence. Le mouvement traduit une réalité économique, que l’asso organisatrice a tournée à son avantage, en profitant des frais de location réduits pour passer son événement sur deux jours et donc proposer un programme plus soutenu.

À ce stade, elle envisage un atterrissage à l’équilibre, mais le résultat final dépendra à la fois de la billetterie et de la décision des sponsors encore en attente. « Les budgets se resserrent partout et sur toutes les topologies d’entreprises, et malheureusement des événements comme le nôtre ne sont pas la priorité quand il s’agit d’attribuer des budgets », analyse Amélie Benoit, membre de la petite équipe bénévole qui s’active, et s’épuise, depuis des mois pour monter l’événement.

Même si l’optimisme reste de rigueur, l’organisation chasse donc les postes de dépense susceptibles d’être réduits sans dégrader la qualité de l’accueil, tout en cherchant des leviers pour dynamiser son offre. « Nous sommes très heureux de pouvoir accueillir des start-ups gratuitement cette année. C’est un choix, pas économique du tout pour le coup, qui nous tenait énormément à cœur pour pouvoir diversifier le paysage d’entreprises présentes à l’événement, et pour avoir une meilleure représentation de l’écosystème tech à Bordeaux », illustre Amélie Benoit.

Entre expertise et velléités d’ouverture

Quels que soient la communauté, le langage ou les pratiques de développement concernées, la clé de voûte du succès reste bien sûr la programmation. Elle doit à la fois garantir un niveau d’expertise suffisant pour motiver le déplacement sur le temps professionnel, mais aussi s’ouvrir aux problématiques transverses qui animent les réflexions et les transformations du secteur. Sans surprise, l’IA fait désormais partie intégrante de la plupart des programmes, qui intègrent également de plus en plus de sessions dédiées à des enjeux sociaux ou sociétaux.

• À Bordeaux, IA et productivité au cœur des discussions chez les développeurs

Pour les signataires de l’appel lancé par l’AFUP, c’est précisément cette alliance entre technique et humain qui fait le sel des conférences spécialisées, et qui justifie que l’on se mobilise pour leur survie :

« Nous passons désormais une large partie de nos journées à échanger avec des IA. Dans ce contexte, les événements techniques prennent une valeur unique : ce sont des lieux où l’on se retrouve entre humains, où l’on partage une expertise, où de nouvelles vocations naissent, notamment autour des projets open source dont dépendent silencieusement la majorité de nos entreprises. Ces projets ont besoin de contributeurs et contributrices, de mainteneurs et mainteneuses, de relève mais aussi d’enthousiasme et d’inspiration. Les événements techniques sont l’un des rares endroits où cette relève se construit. »

De façon plus pragmatique, ils rappellent que ces conférences sont avant tout un accélérateur de compétences, nourri par la confrontation directe à des retours d’expérience, d’autres pratiques, et les échanges informels avec des pairs.

Pour autant, les organisateurs invitent les entreprises à ne pas raisonner que via le prisme du retour sur investissement. « On oublie parfois que sponsoriser un événement, c’est aussi apporter une visibilité durable et un soutien incommensurable à tout un écosystème tech local. Sans ce soutien, les événements vont tout simplement mourir. Et il n’y aura possiblement plus d’événements lorsqu’elles auront des besoins de visibilité et de recrutement », regrette Amélie Benoit.

La perte serait d’autant plus dommageable que la plupart des conférences recueillent un haut niveau de satisfaction chez les développeurs qui les fréquentent. La conjoncture impose toutefois déjà des choix. Plusieurs associations ont par exemple entrepris de basculer vers des formats plus légers, de type meet-ups mensuels, plus simples à équilibrer sur le plan financier, mais aussi moins ambitieux. « On est loin d’un format conférence où l’effervescence, les échanges et l’apprentissage varié sont au cœur des valeurs », remarque Amélie Benoit.

Support your local devconf dealer

33 collectifs et associations engagés dans l’organisation d’événements techniques pour développeurs lancent un appel collectif. Entre budgets de sponsoring et achats de billets en baisse, ils redoutent que leurs conférences ne soient plus économiquement viables et que leur disparition ne participe à un appauvrissement général du secteur, particulièrement dans le contexte d’un recours accru à l’IA.

Bon nombre de conférences techniques destinées aux développeurs reposent principalement sur l’engagement d’une communauté de bénévoles, qui se chargent de trouver un lieu, fédérer des intervenants, communiquer en amont et assurer l’accueil des participants le jour J.

Leur motivation est indispensable, mais pas suffisante : entre location d’une salle, obligations réglementaires de sécurité, fournitures, repas et autres kakémonos, il faut aussi que le budget de l’événement s’équilibre. Particulièrement quand il est porté par une association locale ou un collectif qui ne dispose pas d’autres ressources financières que les recettes de l’événement et les adhésions de ses membres.

La mécanique économique se grippe

L’équation s’équilibre en principe grâce aux sponsors, c’est-à-dire les entreprises qui paient pour afficher leur marque sur les supports de l’événement, disposer d’un stand sur place le jour J et, souvent, profiter d’un canal privilégié pour diffuser ou faire connaître leurs recrutements en cours. Le reste du budget provient généralement de la billetterie, autrement dit le public payant de l’événement, dont les entrées (le tarif est de l’ordre de quelques dizaines d’euros) sont généralement payées par l’employeur des développeuses et développeurs concernés par la thématique.

Problème : il semblerait que cette mécanique plutôt conventionnelle se grippe. 33 organisations en charge de conférences tech viennent en effet de signer un appel commun à une plus large mobilisation du secteur :

« Les événements techniques traversent aujourd’hui une crise silencieuse. Budgets sponsoring resserrés, achats de billets en baisse, adhésions associatives en recul : partout, les mêmes signaux d’alerte s’allument et l’inquiétude s’installe au sein des organisations. Si rien ne change, nombre d’entre eux ne verront pas de nouvelle édition. Nous, organisateurs, organisatrices et associations tech, alertons aujourd’hui l’écosystème sur ce qui est en train de se jouer. »

L’appel est notamment lancé par l’AFUP, l’Association française des utilisateurs de PHP, qui organise chaque année le Forum PHP (prochaine édition les 8 et 9 octobre prochain à Disneyland Paris) et, en 2026, des déclinaisons baptisées AFUP Day, portées par ses antennes locales de Lille, Lyon et Poitiers.

« L’an dernier, notre événement phare était déjà en deçà de ses objectifs. Sur l’année 2026, la tendance s’est accélérée et a touché également l’AFUP Day. Nous avons été globalement en dessous de nos objectifs (billetterie et sponsoring), pour un résultat à- 17 % – soit environ 6 500 euros », nous confie Xavier Leune, membre de l’association.

Le forum PHP, nettement plus ambitieux en termes de budget, s’annonce quant à lui sous des auspices inquiétants. « Les premières semaines de vente ont marqué un nouveau recul puisque nous étions en moyenne à 30 % en dessous de l’année dernière. L’été nous a fait connaître un nouveau décrochage, nous sommes désormais à- 47 % sur la billetterie. Le sponsoring quant à lui est en recul de 25 % », s’inquiète notre interlocuteur. Sans inversion de tendance, l’événement pourrait se solder par un déficit suffisamment important pour compromettre la pérennité de l’association.

Trouver des sponsors et des visiteurs payants

Début juin, l’AFUP avait déjà alerté sur les difficultés rencontrées autour de ses différents événements :

« Malgré nos multiples prises de contact, malgré les appels à la communauté, la recherche de soutiens est difficile. De multiples entreprises nous indiquent ne pas avoir de budget marketing en 2026. La grande incertitude qui règne dans le secteur, que cela soit lié au contexte mondial, à l’arrivée de l’IA ou d’autres raisons économiques, n’invite pas les acteurs de l’écosystème à s’impliquer auprès de l’association ».

Si le Forum PHP fait figure de locomotive, les difficultés n’épargnent pas de plus petites conventions locales. En juin, l’asso qui organise le BreizhCamp indiquait elle aussi faire face à un sponsoring en retrait pour son édition 2026. « Cela nous a amené à augmenter le prix des billets, mais cette augmentation n’est malheureusement pas suffisante pour absorber le manque de recettes, nous avons donc dû renoncer à certaines dépenses cette année », décrivait-elle alors.

D’autres signataires jonglent eux aussi avec un budget d’autant plus difficile à équilibrer qu’il recèle une part d’incertitude jusqu’à l’ouverture des portes. Hors early birds, le gros des billets se vend en effet souvent dans les dernières semaines, alors qu’il faut engager en amont les dépenses liées au lieu ou à la restauration.

La conférence girondine BDX I/O, dont l’édition 2026 se tiendra les 29 et 30 octobre prochain, a par exemple abandonné le Palais des congrès de Bordeaux au profit des couloirs et des amphis de l’école Enseirb-Matmeca de Talence. Le mouvement traduit une réalité économique, que l’asso organisatrice a tournée à son avantage, en profitant des frais de location réduits pour passer son événement sur deux jours et donc proposer un programme plus soutenu.

À ce stade, elle envisage un atterrissage à l’équilibre, mais le résultat final dépendra à la fois de la billetterie et de la décision des sponsors encore en attente. « Les budgets se resserrent partout et sur toutes les topologies d’entreprises, et malheureusement des événements comme le nôtre ne sont pas la priorité quand il s’agit d’attribuer des budgets », analyse Amélie Benoit, membre de la petite équipe bénévole qui s’active, et s’épuise, depuis des mois pour monter l’événement.

Même si l’optimisme reste de rigueur, l’organisation chasse donc les postes de dépense susceptibles d’être réduits sans dégrader la qualité de l’accueil, tout en cherchant des leviers pour dynamiser son offre. « Nous sommes très heureux de pouvoir accueillir des start-ups gratuitement cette année. C’est un choix, pas économique du tout pour le coup, qui nous tenait énormément à cœur pour pouvoir diversifier le paysage d’entreprises présentes à l’événement, et pour avoir une meilleure représentation de l’écosystème tech à Bordeaux », illustre Amélie Benoit.

Entre expertise et velléités d’ouverture

Quels que soient la communauté, le langage ou les pratiques de développement concernées, la clé de voûte du succès reste bien sûr la programmation. Elle doit à la fois garantir un niveau d’expertise suffisant pour motiver le déplacement sur le temps professionnel, mais aussi s’ouvrir aux problématiques transverses qui animent les réflexions et les transformations du secteur. Sans surprise, l’IA fait désormais partie intégrante de la plupart des programmes, qui intègrent également de plus en plus de sessions dédiées à des enjeux sociaux ou sociétaux.

• À Bordeaux, IA et productivité au cœur des discussions chez les développeurs

Pour les signataires de l’appel lancé par l’AFUP, c’est précisément cette alliance entre technique et humain qui fait le sel des conférences spécialisées, et qui justifie que l’on se mobilise pour leur survie :

« Nous passons désormais une large partie de nos journées à échanger avec des IA. Dans ce contexte, les événements techniques prennent une valeur unique : ce sont des lieux où l’on se retrouve entre humains, où l’on partage une expertise, où de nouvelles vocations naissent, notamment autour des projets open source dont dépendent silencieusement la majorité de nos entreprises. Ces projets ont besoin de contributeurs et contributrices, de mainteneurs et mainteneuses, de relève mais aussi d’enthousiasme et d’inspiration. Les événements techniques sont l’un des rares endroits où cette relève se construit. »

De façon plus pragmatique, ils rappellent que ces conférences sont avant tout un accélérateur de compétences, nourri par la confrontation directe à des retours d’expérience, d’autres pratiques, et les échanges informels avec des pairs.

Pour autant, les organisateurs invitent les entreprises à ne pas raisonner que via le prisme du retour sur investissement. « On oublie parfois que sponsoriser un événement, c’est aussi apporter une visibilité durable et un soutien incommensurable à tout un écosystème tech local. Sans ce soutien, les événements vont tout simplement mourir. Et il n’y aura possiblement plus d’événements lorsqu’elles auront des besoins de visibilité et de recrutement », regrette Amélie Benoit.

La perte serait d’autant plus dommageable que la plupart des conférences recueillent un haut niveau de satisfaction chez les développeurs qui les fréquentent. La conjoncture impose toutefois déjà des choix. Plusieurs associations ont par exemple entrepris de basculer vers des formats plus légers, de type meet-ups mensuels, plus simples à équilibrer sur le plan financier, mais aussi moins ambitieux. « On est loin d’un format conférence où l’effervescence, les échanges et l’apprentissage varié sont au cœur des valeurs », remarque Amélie Benoit.