Réguler, c'est pas si mal ?

Alors qu’OpenAI a récemment laissé des agents IA attaquer deux sites gouvernementaux australiens et que les autres entreprises d’IA génératives ont suivi en faisant le même genre de revendication, la Commission européenne a lancé des enquêtes ciblant OpenAI et Anthropic. Elle en profite pour mettre en avant les vertus de l’AI Act mais se demande encore comment enquêter sur ce genre d’événement.

Depuis l’été, les entreprises d’IA générative se vantent régulièrement d’attaques par leurs propres agents IA contre des sites web, attaques dont elles n’auraient pas la maîtrise. Ainsi, OpenAI annonçait que certains de ses agents avaient tenté, en vain, d’exploiter des failles de sécurité et de pirater des sites web (dont deux sites de statistiques du ministère de la Santé australien). « Des dizaines de milliers d’incidents au cours desquels leurs modèles de pointe ont pris des mesures que des évaluateurs externes jugeraient problématiques », affirmait même l’entreprise fin septembre.

• [Édito] Quatre modèles d’IA « échappent » à leurs constructeurs : vous le faites exprès ?

« Notre réglementation est parfaitement adaptée pour faire face à ces évolutions »

La Commission européenne en profite pour mettre en avant le texte de l’AI Act qui doit encadrer l’utilisation de l’intelligence artificielle en Europe. Henna Virkkunen, la vice-présidente de la Commission, a pris la parole lors de l’International AI Summit qui se déroule ce 14 octobre à Dublin dans le cadre de la présidence irlandaise du Conseil de l’Union européenne 2026.

Elle y a rappelé que, depuis le 2 août, une révision ciblée de la réglementation européenne sur l’intelligence artificielle est en application. Ajoutons quand même que, dans le même temps, certaines mesures ont été repoussées à des dates ultérieures.

• Le 2 août, l’AI Act avance et recule à la fois

Henna Virkkunen note quand même « qu’il n’existait pas d’agents d’IA modernes au moment de l’adoption de la loi sur l’IA ». « Pourtant, notre réglementation est parfaitement adaptée pour faire face à ces évolutions », ajoute-t-elle.

Et d’insister sur ce qui est déjà en place et qui peut servir alors que les agents IA sont lancés dans la nature : « en particulier, le Code de bonnes pratiques de l’UE sur l’IA à usage général – que la plupart des fournisseurs d’IA ont déjà signé – définit les mesures que ces derniers doivent mettre en place pour se conformer aux obligations prévues par la loi sur l’IA. Ces mesures comprennent, par exemple, le recours à des évaluateurs externes ».

Des enquêtes concernant Anthropic et OpenAI

« Notre Bureau de l’IA a commencé à faire appliquer ces règles et a adressé des demandes d’informations portant sur des questions telles que la sécurité, l’évaluation externe et le suivi de l’utilisation des modèles », explique Henna Virkkunen. « Par ailleurs, vendredi dernier, j’ai convoqué une réunion avec le comité scientifique créé en vertu de l’AI Act afin de solliciter son avis et son aide sur la manière d’enquêter sur les incidents récents ».

Selon nos confrères d’Euronews, les enquêtes de la Commission portent notamment sur l’attaque d’un agent d’OpenAI contre Hugging Face et celles des agents d’Anthropic. Le bureau de l’IA créé par l’AI Act a envoyé des demandes d’information complémentaires aux deux entreprises après avoir estimé l’insuffisance des documents qu’elles lui avaient envoyés spontanément, toujours selon Euronews.

Des doutes sur l’application aux cas de R&D

Ces enquêtes pourraient devenir un premier test pour l’AI Act. En effet, si le texte s’applique aux services d’IA commercialisés ou au moins disponibles publiquement, les deux entreprises affirment que les attaques ont été perpétrées avec des outils internes encore en développement. La loi européenne comporte des exemptions concernant la R&D dont l’application ne sera pas simple : « l’AI Act part du principe qu’il existe une distinction nette entre la recherche et la commercialisation, mais en réalité, la recherche moderne s’inscrit souvent dans un continuum plutôt que dans une opposition binaire », expliquaient en début d’année des chercheurs dans la revue scientifique npj Digital Medicine.

Sous couvert d’anonymat, un responsable de la Commission a confié à Euronews : « Nous n’appliquerons pas la loi [sur les outils d’IA] en phase de test. Mais si le modèle d’IA sort de l’environnement de test et qu’il a ensuite un impact sur le marché de l’UE, comme cela a été le cas pour Hugging Face, alors la loi sur l’IA deviendra applicable ».

Officiellement, Henna Virkkunen assure que « la Commission s’est exprimée haut et fort : l’IA doit rester sous la direction, la supervision et le contrôle de l’humain, et nous sommes prêts à prendre toutes les mesures nécessaires pour veiller à ce que les entreprises respectent les règles de l’AI Act, afin que les citoyens et les entreprises européens puissent faire confiance aux modèles et aux systèmes d’IA ».

Réguler, c'est pas si mal ?

Alors qu’OpenAI a récemment laissé des agents IA attaquer deux sites gouvernementaux australiens et que les autres entreprises d’IA génératives ont suivi en faisant le même genre de revendication, la Commission européenne a lancé des enquêtes ciblant OpenAI et Anthropic. Elle en profite pour mettre en avant les vertus de l’AI Act mais se demande encore comment enquêter sur ce genre d’événement.

Depuis l’été, les entreprises d’IA générative se vantent régulièrement d’attaques par leurs propres agents IA contre des sites web, attaques dont elles n’auraient pas la maîtrise. Ainsi, OpenAI annonçait que certains de ses agents avaient tenté, en vain, d’exploiter des failles de sécurité et de pirater des sites web (dont deux sites de statistiques du ministère de la Santé australien). « Des dizaines de milliers d’incidents au cours desquels leurs modèles de pointe ont pris des mesures que des évaluateurs externes jugeraient problématiques », affirmait même l’entreprise fin septembre.

• [Édito] Quatre modèles d’IA « échappent » à leurs constructeurs : vous le faites exprès ?

« Notre réglementation est parfaitement adaptée pour faire face à ces évolutions »

La Commission européenne en profite pour mettre en avant le texte de l’AI Act qui doit encadrer l’utilisation de l’intelligence artificielle en Europe. Henna Virkkunen, la vice-présidente de la Commission, a pris la parole lors de l’International AI Summit qui se déroule ce 14 octobre à Dublin dans le cadre de la présidence irlandaise du Conseil de l’Union européenne 2026.

Elle y a rappelé que, depuis le 2 août, une révision ciblée de la réglementation européenne sur l’intelligence artificielle est en application. Ajoutons quand même que, dans le même temps, certaines mesures ont été repoussées à des dates ultérieures.

• Le 2 août, l’AI Act avance et recule à la fois

Henna Virkkunen note quand même « qu’il n’existait pas d’agents d’IA modernes au moment de l’adoption de la loi sur l’IA ». « Pourtant, notre réglementation est parfaitement adaptée pour faire face à ces évolutions », ajoute-t-elle.

Et d’insister sur ce qui est déjà en place et qui peut servir alors que les agents IA sont lancés dans la nature : « en particulier, le Code de bonnes pratiques de l’UE sur l’IA à usage général – que la plupart des fournisseurs d’IA ont déjà signé – définit les mesures que ces derniers doivent mettre en place pour se conformer aux obligations prévues par la loi sur l’IA. Ces mesures comprennent, par exemple, le recours à des évaluateurs externes ».

Des enquêtes concernant Anthropic et OpenAI

« Notre Bureau de l’IA a commencé à faire appliquer ces règles et a adressé des demandes d’informations portant sur des questions telles que la sécurité, l’évaluation externe et le suivi de l’utilisation des modèles », explique Henna Virkkunen. « Par ailleurs, vendredi dernier, j’ai convoqué une réunion avec le comité scientifique créé en vertu de l’AI Act afin de solliciter son avis et son aide sur la manière d’enquêter sur les incidents récents ».

Selon nos confrères d’Euronews, les enquêtes de la Commission portent notamment sur l’attaque d’un agent d’OpenAI contre Hugging Face et celles des agents d’Anthropic. Le bureau de l’IA créé par l’AI Act a envoyé des demandes d’information complémentaires aux deux entreprises après avoir estimé l’insuffisance des documents qu’elles lui avaient envoyés spontanément, toujours selon Euronews.

Des doutes sur l’application aux cas de R&D

Ces enquêtes pourraient devenir un premier test pour l’AI Act. En effet, si le texte s’applique aux services d’IA commercialisés ou au moins disponibles publiquement, les deux entreprises affirment que les attaques ont été perpétrées avec des outils internes encore en développement. La loi européenne comporte des exemptions concernant la R&D dont l’application ne sera pas simple : « l’AI Act part du principe qu’il existe une distinction nette entre la recherche et la commercialisation, mais en réalité, la recherche moderne s’inscrit souvent dans un continuum plutôt que dans une opposition binaire », expliquaient en début d’année des chercheurs dans la revue scientifique npj Digital Medicine.

Sous couvert d’anonymat, un responsable de la Commission a confié à Euronews : « Nous n’appliquerons pas la loi [sur les outils d’IA] en phase de test. Mais si le modèle d’IA sort de l’environnement de test et qu’il a ensuite un impact sur le marché de l’UE, comme cela a été le cas pour Hugging Face, alors la loi sur l’IA deviendra applicable ».

Officiellement, Henna Virkkunen assure que « la Commission s’est exprimée haut et fort : l’IA doit rester sous la direction, la supervision et le contrôle de l’humain, et nous sommes prêts à prendre toutes les mesures nécessaires pour veiller à ce que les entreprises respectent les règles de l’AI Act, afin que les citoyens et les entreprises européens puissent faire confiance aux modèles et aux systèmes d’IA ».