Les patrons à la caisse

Qui paie les pots cassés quand les agents IA deviennent incontrôlables ? La question se pose chez les assureurs, qui pourraient se tourner vers les patrons d’OpenAI, Anthropic et consorts pour leur présenter la facture.

Le courtier en assurances Aon a analysé plus de 300 affaires judiciaires liées à l’IA : il arrive à la conclusion que les assureurs seront amenés à indemniser les victimes des agents IA dans les contrats couvrant la cybersécurité, les erreurs et omissions technologiques, ou encore la propriété intellectuelle.

D’après plusieurs responsables du secteur interrogés par le Financial Times, les assureurs pourraient demander des comptes aux patrons des entreprises IA quand leurs agents brisent leurs chaînes et s’attaquent à tout ce qui bouge en ligne. Tim Rayner, responsable de la souscription et des sinistres au Royaume-Uni chez Verisk, estime qu’en l’absence de contrôle de l’activité de son entreprise, Sam Altman est responsable de l’incident impliquant Hugging Face. « Du point de vue de la responsabilité des dirigeants et administrateurs, c’est donc vers lui que l’on se retournerait. »

OpenAI, Anthropic et d’autres ont depuis révélé que leurs agents étaient à l’origine de plusieurs intrusions et attaques, provoquant un branle-bas de combat d’une ampleur inédite – jusqu’au conseil de sécurité de l’ONU. La question de la responsabilité se pose donc très clairement, et les assureurs sont en première ligne, car ce sont eux qui remboursent les dégâts causés par les agents.

• [Édito] Quatre modèles d’IA « échappent » à leurs constructeurs : vous le faites exprès ?

Patrons responsables

« Il incombe à chaque PDG de s’assurer que son entreprise est correctement gouvernée et contrôlée », ajoute Tim Rayner, « L’IA ne change rien à cela. » Les entreprises de l’IA peuvent toujours souscrire des assurances responsabilité pour couvrir les pertes éventuelles liées à des poursuites contre les dirigeants, mais gare au coût de la prime.

Il n’existe cependant aucun précédent, la question n’ayant pas été tranchée par la justice. Les actionnaires ont aussi leur mot à dire, certains pourraient lancer des poursuites contre des dirigeants n’ayant pas géré correctement ces risques.

Dans son prospectus S-1 d’introduction en Bourse, Anthropic a identifié les risques « catastrophiques » posés par l’IA générative s’ils ne sont pas correctement maîtrisés. La technologie représente un « risque existentiel pour l’humanité », reconnaissait aussi l’entreprise, fidèle à sa stratégie du marketing de la peur. Le document indiquait aussi que les modèles pouvaient développer des comportements d’« auto-préservation » en résistant à leur arrêt, en dissimulant ou en manipulant des informations, ou même adopter des comportements proches du chantage.

• Entre risques existentiels et pertes record, Anthropic avance vers la bourse

Un vide juridique à combler

Dans le compte-rendu officiel de l’incident Hugging Face posté fin août, OpenAI avait de son côté décrit des agents IA capables de contourner des contrôles techniques, de travailler ensemble au sein de canaux non approuvés et d’« entreprendre des actions dangereuses qu’aucun humain n’a ordonnées ».

Il y a là de quoi nourrir des plaintes contre ces entreprises. Mais les victimes des agents IA pourraient cependant avoir des difficultés à trouver un fondement juridique pour leurs plaintes. « Il n’existe pas encore de régime de responsabilité civile régissant l’utilisation de l’espace en ligne », rappelle Aaron Le Marquer, du cabinet d’avocats Stewarts.

Il indique que le secteur pourrait s’inspirer de l’accord à 18 milliards de dollars entre Meta et des États américains sur la nocivité des plateformes du géant des réseaux sociaux. Un tel modèle pourrait servir à définir les obligations dans l’espace en ligne, estime-t-il encore.

Cela pourrait même aller plus loin : « Je m’attends à voir apparaître des poursuites contre les entreprises d’IA pour d’éventuelles pertes sur le modèle des contentieux environnementaux du passé, mais aussi de ceux concernant le tabac ou l’industrie pharmaceutique », conclut Aaron Le Marquer.

En juillet, la justice américaine validait la proposition d’Anthropic de règlement d’une plainte menée par des autrices et auteurs qui accusaient la société d’avoir entraîné ses modèles avec leurs œuvres, sans autorisation. Les plaignants devraient récupérer 1,5 milliard de dollars. Les assureurs se préparent à des actions en justice qui concernent la responsabilité des entreprises IA pour leurs produits, les biais dans leurs modèles, les atteintes à la vie privée ou encore des décès imputés à leurs technologies.

Les patrons à la caisse

Qui paie les pots cassés quand les agents IA deviennent incontrôlables ? La question se pose chez les assureurs, qui pourraient se tourner vers les patrons d’OpenAI, Anthropic et consorts pour leur présenter la facture.

Le courtier en assurances Aon a analysé plus de 300 affaires judiciaires liées à l’IA : il arrive à la conclusion que les assureurs seront amenés à indemniser les victimes des agents IA dans les contrats couvrant la cybersécurité, les erreurs et omissions technologiques, ou encore la propriété intellectuelle.

D’après plusieurs responsables du secteur interrogés par le Financial Times, les assureurs pourraient demander des comptes aux patrons des entreprises IA quand leurs agents brisent leurs chaînes et s’attaquent à tout ce qui bouge en ligne. Tim Rayner, responsable de la souscription et des sinistres au Royaume-Uni chez Verisk, estime qu’en l’absence de contrôle de l’activité de son entreprise, Sam Altman est responsable de l’incident impliquant Hugging Face. « Du point de vue de la responsabilité des dirigeants et administrateurs, c’est donc vers lui que l’on se retournerait. »

OpenAI, Anthropic et d’autres ont depuis révélé que leurs agents étaient à l’origine de plusieurs intrusions et attaques, provoquant un branle-bas de combat d’une ampleur inédite – jusqu’au conseil de sécurité de l’ONU. La question de la responsabilité se pose donc très clairement, et les assureurs sont en première ligne, car ce sont eux qui remboursent les dégâts causés par les agents.

• [Édito] Quatre modèles d’IA « échappent » à leurs constructeurs : vous le faites exprès ?

Patrons responsables

« Il incombe à chaque PDG de s’assurer que son entreprise est correctement gouvernée et contrôlée », ajoute Tim Rayner, « L’IA ne change rien à cela. » Les entreprises de l’IA peuvent toujours souscrire des assurances responsabilité pour couvrir les pertes éventuelles liées à des poursuites contre les dirigeants, mais gare au coût de la prime.

Il n’existe cependant aucun précédent, la question n’ayant pas été tranchée par la justice. Les actionnaires ont aussi leur mot à dire, certains pourraient lancer des poursuites contre des dirigeants n’ayant pas géré correctement ces risques.

Dans son prospectus S-1 d’introduction en Bourse, Anthropic a identifié les risques « catastrophiques » posés par l’IA générative s’ils ne sont pas correctement maîtrisés. La technologie représente un « risque existentiel pour l’humanité », reconnaissait aussi l’entreprise, fidèle à sa stratégie du marketing de la peur. Le document indiquait aussi que les modèles pouvaient développer des comportements d’« auto-préservation » en résistant à leur arrêt, en dissimulant ou en manipulant des informations, ou même adopter des comportements proches du chantage.

• Entre risques existentiels et pertes record, Anthropic avance vers la bourse

Un vide juridique à combler

Dans le compte-rendu officiel de l’incident Hugging Face posté fin août, OpenAI avait de son côté décrit des agents IA capables de contourner des contrôles techniques, de travailler ensemble au sein de canaux non approuvés et d’« entreprendre des actions dangereuses qu’aucun humain n’a ordonnées ».

Il y a là de quoi nourrir des plaintes contre ces entreprises. Mais les victimes des agents IA pourraient cependant avoir des difficultés à trouver un fondement juridique pour leurs plaintes. « Il n’existe pas encore de régime de responsabilité civile régissant l’utilisation de l’espace en ligne », rappelle Aaron Le Marquer, du cabinet d’avocats Stewarts.

Il indique que le secteur pourrait s’inspirer de l’accord à 18 milliards de dollars entre Meta et des États américains sur la nocivité des plateformes du géant des réseaux sociaux. Un tel modèle pourrait servir à définir les obligations dans l’espace en ligne, estime-t-il encore.

Cela pourrait même aller plus loin : « Je m’attends à voir apparaître des poursuites contre les entreprises d’IA pour d’éventuelles pertes sur le modèle des contentieux environnementaux du passé, mais aussi de ceux concernant le tabac ou l’industrie pharmaceutique », conclut Aaron Le Marquer.

En juillet, la justice américaine validait la proposition d’Anthropic de règlement d’une plainte menée par des autrices et auteurs qui accusaient la société d’avoir entraîné ses modèles avec leurs œuvres, sans autorisation. Les plaignants devraient récupérer 1,5 milliard de dollars. Les assureurs se préparent à des actions en justice qui concernent la responsabilité des entreprises IA pour leurs produits, les biais dans leurs modèles, les atteintes à la vie privée ou encore des décès imputés à leurs technologies.

Relou ^3

Insultée sur LinkedIn par un importun, l’entrepreneure Tara Heuzé-Sarmini s’est retrouvée forcée, à deux reprises, d’organiser sa défense en urgence pour faire face à la Justice. Outre interroger les droits de la défense, l’affaire pourrait ouvrir un débat spécifique au numérique : les campagnes de démarchage opérées via les messageries des réseaux sociaux peuvent-elles être considérées comme relevant de la vie privée ?

Après la première instance, rebelote pour contester la procédure en appel. Mi-septembre, nous rapportions dans ces pages les déboires de Tara Heuzé-Sarmini, entrepreneure, formatrice, fondatrice de l’association Règles Élémentaires, qui agit contre la précarité menstruelle. Elle est aussi une internaute, coincée depuis plusieurs semaines dans un improbable bras de fer avec un autre utilisateur de LinkedIn.

Après l’avoir insultée en message privé, le dirigeant de la société d’investissement « Band of Brothers » a obtenu au civil de condamner Tara Heuzé-Sarmini à retirer le message public qu’elle avait posté fin août pour s’émouvoir d’être ainsi prise à partie. La décision avait été rendue à l’issue d’une procédure d’urgence, le référé d’heure à heure, dans un tribunal suffisamment lointain du domicile de Tara Heuzé-Sarmini pour que celle-ci ne parvienne pas à se présenter ou se faire représenter à temps afin de se défendre.

Désormais épaulée par le cabinet FWPA, l’entrepreneure a décidé de faire appel. Auprès de Next, son avocat Jean-Baptiste Soufron indique que l’audience est fixée au 15 octobre. Mais ce 2 octobre, nouvelle surprise : les représentants du dirigeant de Band of Brothers tentent de faire radier l’appel. L’audience lors de laquelle la tenue de l’appel doit être débattue était fixée au lundi 5 octobre, à 14 h, à Douai. Tara Heuzé-Sarmini et ses représentants indiquent en avoir été informés… vendredi 2, en fin de journée.

• Quand un « relou » numérique obtient une sanction… contre celle qu’il a insultée

Des excuses publiques, puis une suppression de compte LinkedIn

Dans le détail, l’histoire était la suivante : au mois d’août, Tara Heuzé-Sarmini accepte sur LinkedIn une demande de contact de la part du dirigeant de « Band of Brothers ». Sitôt la demande validée, elle reçoit en privé un message de démarchage, qu’elle suspecte d’avoir été rédigé par IA, lui proposant de rejoindre le fameux « Band of Brothers ». À cette invitation, l’entrepreneuse répond qu’il serait « peu probable [qu’elle] rejoigne un écosystème de bros ». Cinq minutes plus tard, un nouveau message, a priori rédigé par le propriétaire du compte, entreprend de l’insulter.