T'as le look, coco

La plateforme anonyme de chat utilisée pour recruter les violeurs de Gisèle Pelicot avait brièvement réouvert un clone, qui a depuis été fermé suite aux révélations de Ouest-France. Une erreur de l’AFP a entraîné l’éditeur d’un site homonyme à fermer lui aussi son interface IRC, suite aux amalgames erronés de nombreux médias.

« Cocoland est sous surveillance, au moindre comportement illicite, mise en danger des enfants ou des femmes, ce site sera fermé », assurait ce lundi 4 mai sur France Inter la ministre déléguée chargée de l’IA et du Numérique, Anne Le Hénanff.

Une enquête avait en effet été ouverte la semaine passée suite à la découverte par Ouest-France de la réouverture d’un clone du sinistre site Coco, qui s’était fait connaître du grand public pour avoir été utilisé pendant 10 ans par Dominique Pelicot afin de recruter les violeurs de sa femme Gisèle, après l’avoir sédatée.

Sauf que le clone en question avait déjà été fermé dans la foulée de l’article de Ouest-France, d’une part, et que l’attention médiatique s’est focalisée, d’autre part, sur un site homonyme, mais qui n’avait rien à voir, et qui a lui aussi depuis fermé du fait des « amalgames » véhiculés par de nombreux médias à son sujet.

« Aujourd’hui, cocoland.cc est en ligne »

« Fermée en juin 2024 après avoir été citée dans 23 000 affaires pénales, la plateforme de tchat anonyme Coco resurgit sous une nouvelle adresse URL », révélait Ouest-France le 17 avril dernier, illustrant son article par une photo montrant que « COCOtchat » était accessible via l’URL cocoland.cc :

« Alors que son fondateur est mis en examen pour pédopornographie et proxénétisme aggravé, ce site de discussions, aux caractéristiques techniques et visuelles parfaitement identiques, génère même des revenus publicitaires. »

Créé au début des années 2010 par un entrepreneur d’origine française, Isaac Steidl, Coco.fr avait depuis migré sous le nom de Coco.gg, « avec une adresse sur l’île de Guernesey, des serveurs en Allemagne, un hébergement en Bulgarie ».

La plateforme avait été saisie par Eurojust en juin 2024, et Isaac Steidl, arrêté à Paris en janvier 2025, avait quant à lui été mis en examen pour proxénétisme aggravé, pédopornographie et corruption de mineurs. Or, « aujourd’hui, cocoland.cc est en ligne », révélait Ouest France mi-avril :

« Le site ne cherche même pas à dissimuler sa filiation : ses mentions légales indiquent explicitement que coco.gg était son ancien domaine. L’identité visuelle est identique. Le fonctionnement aussi : gratuit, anonyme, sans inscription. L’utilisateur saisit un pseudonyme et un âge -invérifiable- et accède immédiatement aux salons de discussion. »

Un spécialiste en cybersécurité expliquait en outre à Ouest-France qu’il s’agissait techniquement de la même infrastructure, déplacée vers un nouveau domaine, et que « le site est visiblement architecturé pour résister à une nouvelle fermeture » en étant hébergé chez un prestataire ukrainien, « un dispositif que l’on retrouve chez les opérateurs habitués à fonctionner sous pression juridique » :

« Ce n’est pas un clone, ni un site hommage créé par des tiers. L’architecture technique confirme la continuité opérationnelle : trois serveurs d’images distincts, un serveur vidéo dédié, un système de vérification par SMS, un sous-domaine de traitement des paiements, un environnement de développement et une intégration avec la plateforme Discord. »

Un fâcheux amalgame entre cocoland.cc et cocoland.info

Or, la dépêche AFP consacrée à cette réapparition ne mentionnait pas cocoland.cc, comme le faisait pourtant Ouest-France (dont l’article est derrière un paywall), mais cocoland.info, un site qui existe depuis plus de 10 ans et qui n’a a priori rien à voir avec Isaac Steidl.

Cocoland.info affiche d’ailleurs une « Mise au point officielle » depuis ce vendredi 1er mai, après que « plusieurs médias ont établi un amalgame » entre ce domaine et celui de cocoland.cc :

« Cocoland.info n’entretient aucun lien — juridique, technique ou humain — avec le site fermé par la justice, ni avec tout autre site reprenant son concept. »

Son éditeur rappelle que cocoland.info « est en ligne depuis 2009 ». On en retrouve une première trace en août 2011 sur la Wayback Machine d’archive.org, avec un « © 2009 », ce que souligne d’ailleurs l’éditeur de cocoland.info qui précise être « pleinement disposé à coopérer avec toute autorité judiciaire ou administrative souhaitant vérifier la nature, le contenu et l’ancienneté de ce site » :

« Son histoire, son contenu et son évolution sur plus de quinze ans sont intégralement consultables et vérifiables via la Wayback Machine (Internet Archive), ainsi qu’à travers les enregistrements publics successifs du nom de domaine (historique WHOIS). Ces éléments établissent que cocoland.info n’est PAS une réouverture du site fermé par la justice : il existait, sous cette forme et à cette adresse, bien avant que ce dernier ne soit fermé en 2024. »

De plus, et contrairement à coco.gg, « cocoland.info n’a jamais hébergé de plateforme de discussion ». Il intégrait en effet via iframe un applet IRC hébergé par le réseau EuropNet, « un réseau IRC public indépendant, donnant ainsi accès aux salons de discussion EuropNet » de « tchat gratuit sans inscription » :

« Ce service de tchat était intégralement opéré et modéré par EuropNet. Les échanges transitaient exclusivement par leurs serveurs. L’éditeur de cocoland.info n’avait aucun accès technique au contenu des conversations, ni aucune autorité sur la modération du réseau tiers. »

Le tchat a depuis été désactivé : « À la suite de cet amalgame médiatique, EuropNet a pris l’initiative de désactiver l’accès à son applet pour le domaine cocoland.info ».

Cocoland.cc avait en outre lui aussi été fermé suite aux révélations de Ouest-France

cocoland.cc avait lui aussi été désactivé la semaine passée, et n’affiche plus désormais qu’une interface proposant cinq « Mini Games ». Une mention « © 2014 Cocoland » laisse entendre qu’il aurait pu exister depuis des années, mais sans que nous puissions le vérifier, l’URL ayant été exclue de la Wayback Machine d’archive.org.

Sur X.com, plusieurs internautes avaient évoqué la réouverture de cocoland.cc depuis décembre dernier, dont l’un qui, en réponse à un tweet de la @Gendarmerie, précisait avoir alerté Pharos qu’on y trouvait des annonces de mineures prostituées disant avoir 15 ans.

T'as le look, coco

La plateforme anonyme de chat utilisée pour recruter les violeurs de Gisèle Pelicot avait brièvement réouvert un clone, qui a depuis été fermé suite aux révélations de Ouest-France. Une erreur de l’AFP a entraîné l’éditeur d’un site homonyme à fermer lui aussi son interface IRC, suite aux amalgames erronés de nombreux médias.

« Cocoland est sous surveillance, au moindre comportement illicite, mise en danger des enfants ou des femmes, ce site sera fermé », assurait ce lundi 4 mai sur France Inter la ministre déléguée chargée de l’IA et du Numérique, Anne Le Hénanff.

Une enquête avait en effet été ouverte la semaine passée suite à la découverte par Ouest-France de la réouverture d’un clone du sinistre site Coco, qui s’était fait connaître du grand public pour avoir été utilisé pendant 10 ans par Dominique Pelicot afin de recruter les violeurs de sa femme Gisèle, après l’avoir sédatée.

Sauf que le clone en question avait déjà été fermé dans la foulée de l’article de Ouest-France, d’une part, et que l’attention médiatique s’est focalisée, d’autre part, sur un site homonyme, mais qui n’avait rien à voir, et qui a lui aussi depuis fermé du fait des « amalgames » véhiculés par de nombreux médias à son sujet.

« Aujourd’hui, cocoland.cc est en ligne »

« Fermée en juin 2024 après avoir été citée dans 23 000 affaires pénales, la plateforme de tchat anonyme Coco resurgit sous une nouvelle adresse URL », révélait Ouest-France le 17 avril dernier, illustrant son article par une photo montrant que « COCOtchat » était accessible via l’URL cocoland.cc :

« Alors que son fondateur est mis en examen pour pédopornographie et proxénétisme aggravé, ce site de discussions, aux caractéristiques techniques et visuelles parfaitement identiques, génère même des revenus publicitaires. »

Créé au début des années 2010 par un entrepreneur d’origine française, Isaac Steidl, Coco.fr avait depuis migré sous le nom de Coco.gg, « avec une adresse sur l’île de Guernesey, des serveurs en Allemagne, un hébergement en Bulgarie ».

La plateforme avait été saisie par Eurojust en juin 2024, et Isaac Steidl, arrêté à Paris en janvier 2025, avait quant à lui été mis en examen pour proxénétisme aggravé, pédopornographie et corruption de mineurs. Or, « aujourd’hui, cocoland.cc est en ligne », révélait Ouest France mi-avril :

« Le site ne cherche même pas à dissimuler sa filiation : ses mentions légales indiquent explicitement que coco.gg était son ancien domaine. L’identité visuelle est identique. Le fonctionnement aussi : gratuit, anonyme, sans inscription. L’utilisateur saisit un pseudonyme et un âge -invérifiable- et accède immédiatement aux salons de discussion. »

Un spécialiste en cybersécurité expliquait en outre à Ouest-France qu’il s’agissait techniquement de la même infrastructure, déplacée vers un nouveau domaine, et que « le site est visiblement architecturé pour résister à une nouvelle fermeture » en étant hébergé chez un prestataire ukrainien, « un dispositif que l’on retrouve chez les opérateurs habitués à fonctionner sous pression juridique » :

« Ce n’est pas un clone, ni un site hommage créé par des tiers. L’architecture technique confirme la continuité opérationnelle : trois serveurs d’images distincts, un serveur vidéo dédié, un système de vérification par SMS, un sous-domaine de traitement des paiements, un environnement de développement et une intégration avec la plateforme Discord. »

Un fâcheux amalgame entre cocoland.cc et cocoland.info

Or, la dépêche AFP consacrée à cette réapparition ne mentionnait pas cocoland.cc, comme le faisait pourtant Ouest-France (dont l’article est derrière un paywall), mais cocoland.info, un site qui existe depuis plus de 10 ans et qui n’a a priori rien à voir avec Isaac Steidl.

Cocoland.info affiche d’ailleurs une « Mise au point officielle » depuis ce vendredi 1er mai, après que « plusieurs médias ont établi un amalgame » entre ce domaine et celui de cocoland.cc :

« Cocoland.info n’entretient aucun lien — juridique, technique ou humain — avec le site fermé par la justice, ni avec tout autre site reprenant son concept. »

Son éditeur rappelle que cocoland.info « est en ligne depuis 2009 ». On en retrouve une première trace en août 2011 sur la Wayback Machine d’archive.org, avec un « © 2009 », ce que souligne d’ailleurs l’éditeur de cocoland.info qui précise être « pleinement disposé à coopérer avec toute autorité judiciaire ou administrative souhaitant vérifier la nature, le contenu et l’ancienneté de ce site » :

« Son histoire, son contenu et son évolution sur plus de quinze ans sont intégralement consultables et vérifiables via la Wayback Machine (Internet Archive), ainsi qu’à travers les enregistrements publics successifs du nom de domaine (historique WHOIS). Ces éléments établissent que cocoland.info n’est PAS une réouverture du site fermé par la justice : il existait, sous cette forme et à cette adresse, bien avant que ce dernier ne soit fermé en 2024. »

De plus, et contrairement à coco.gg, « cocoland.info n’a jamais hébergé de plateforme de discussion ». Il intégrait en effet via iframe un applet IRC hébergé par le réseau EuropNet, « un réseau IRC public indépendant, donnant ainsi accès aux salons de discussion EuropNet » de « tchat gratuit sans inscription » :

« Ce service de tchat était intégralement opéré et modéré par EuropNet. Les échanges transitaient exclusivement par leurs serveurs. L’éditeur de cocoland.info n’avait aucun accès technique au contenu des conversations, ni aucune autorité sur la modération du réseau tiers. »

Le tchat a depuis été désactivé : « À la suite de cet amalgame médiatique, EuropNet a pris l’initiative de désactiver l’accès à son applet pour le domaine cocoland.info ».

Cocoland.cc avait en outre lui aussi été fermé suite aux révélations de Ouest-France

cocoland.cc avait lui aussi été désactivé la semaine passée, et n’affiche plus désormais qu’une interface proposant cinq « Mini Games ». Une mention « © 2014 Cocoland » laisse entendre qu’il aurait pu exister depuis des années, mais sans que nous puissions le vérifier, l’URL ayant été exclue de la Wayback Machine d’archive.org.

Sur X.com, plusieurs internautes avaient évoqué la réouverture de cocoland.cc depuis décembre dernier, dont l’un qui, en réponse à un tweet de la @Gendarmerie, précisait avoir alerté Pharos qu’on y trouvait des annonces de mineures prostituées disant avoir 15 ans.

L'abo LinkedIn Premium sabordé au nom du RGPD ?

L’association noyb a déposé plainte contre LinkedIn auprès de l’autorité autrichienne de protection des données. Elle constate que le réseau social refuse de communiquer gratuitement la liste des personnes ayant visité le profil d’un utilisateur au nom de l’article 15 du RGPD, alors que ces informations sont accessibles dans le cadre de l’abonnement LinkedIn Premium.

« 270 personnes ont consulté votre profil au cours des 90 derniers jours », affiche LinkedIn, après clic sur une notification signalant la visite d’un « recruteur » et de trois autres personnes. Problème : le réseau social ne donne que des indices succincts sur le profil des curieux en question. Pour savoir qui ils sont vraiment, la plateforme invite, ou plutôt incite, à souscrire son abonnement payant : « Développez votre carrière ou votre entreprise avec Premium. Accédez à la liste complète maintenant ».

Deux poids deux mesures ?

L’accès à ces données ne devrait-il pas être concédé gratuitement sur demande de l’utilisateur ? C’est l’hypothèse soulevée par l’association de défense de la vie privée noyb (none of your business), dans une plainte (PDF en allemand) déposée mardi 5 mai devant l’autorité autrichienne de protection des données, la DSB. Elle y invoque l’article 15 du RGPD, celui qui dispose qu’un internaute est en droit d’accéder aux données personnelles le concernant, sur demande, auprès d’un responsable de traitement.

• Le RGPD expliqué ligne par ligne (articles 1 à 23)

Dans le détail, l’association explique représenter un internaute qui a tenté d’obtenir, auprès de LinkedIn, la liste des personnes ayant visité son profil. Pour ce faire, l’utilisateur a d’abord utilisé les fonctions de téléchargement des données personnelles mises à disposition par la plateforme. À défaut d’y avoir trouvé les visiteurs de son profil, il a ensuite sollicité directement le réseau social via son formulaire de contact, et se serait vu opposer une fin de non-recevoir.

Après relance, LinkedIn aurait répondu au plaignant ne pas être tenu de mettre à disposition les données relatives aux personnes ayant consulté son profil, dans la mesure où ce ne sont pas ses propres informations personnelles, mais celles d’autres membres.

Autrement dit, le réseau social ne pourrait pas communiquer ces informations dans la mesure où elles concernent d’autres utilisateurs. Mais dans le même temps, son abonnement payant permet de faire sauter cette barrière.

Pour noyb, LinkedIn entretient à ce niveau un double discours difficilement tenable. « Il est clair que si ces données sont affichées dans le cadre d’un abonnement Premium, elles devraient également être accessibles sur demande, conformément à l’article 15 du RGPD », résume l’association dans un communiqué.

L’article 15 mentionne explicitement les « destinataires »

Pour justifier cette position, elle s’appuie notamment sur l’alinéa c) du paragraphe 1 de l’article 15, qui dispose que cette obligation de correspondance englobe « les destinataires » auxquels les données personnelles ont été communiquées. Elle rappelle par ailleurs que cette lecture du règlement a été confirmée par une décision de la CJUE faisant jurisprudence.

Elle fait enfin valoir que LinkedIn offre, au niveau du profil, une option permettant de visiter de façon anonyme la page d’autres utilisateurs du réseau : ceux qui n’activent pas cette option acceptent donc, selon noyb, d’être perçus comme destinataires, ce qui écarterait donc le risque d’une atteinte aux droits et libertés d’autrui telle que prévue par le point 4 de l’article 15.

Sur la base de ces éléments, noyb demande à la CNIL autrichienne de donner suite à la demande d’accès formulée par le plaignant, mais aussi de prononcer une amende dissuasive à l’encontre de LinkedIn. « La protection des droits et libertés d’autrui peut effectivement justifier la non-divulgation de données personnelles partagées. Toutefois, si une entreprise a obtenu le consentement requis et se montre clairement disposée à mettre ces mêmes données à disposition moyennant paiement, cet argument ne tient plus », résume Martin Baumann, l’avocat de noyb.

LinkedIn et sa maison-mère, Microsoft, n’ont pour l’instant pas réagi publiquement.

L'abo LinkedIn Premium sabordé au nom du RGPD ?

L’association noyb a déposé plainte contre LinkedIn auprès de l’autorité autrichienne de protection des données. Elle constate que le réseau social refuse de communiquer gratuitement la liste des personnes ayant visité le profil d’un utilisateur au nom de l’article 15 du RGPD, alors que ces informations sont accessibles dans le cadre de l’abonnement LinkedIn Premium.

« 270 personnes ont consulté votre profil au cours des 90 derniers jours », affiche LinkedIn, après clic sur une notification signalant la visite d’un « recruteur » et de trois autres personnes. Problème : le réseau social ne donne que des indices succincts sur le profil des curieux en question. Pour savoir qui ils sont vraiment, la plateforme invite, ou plutôt incite, à souscrire son abonnement payant : « Développez votre carrière ou votre entreprise avec Premium. Accédez à la liste complète maintenant ».

Deux poids deux mesures ?

L’accès à ces données ne devrait-il pas être concédé gratuitement sur demande de l’utilisateur ? C’est l’hypothèse soulevée par l’association de défense de la vie privée noyb (none of your business), dans une plainte (PDF en allemand) déposée mardi 5 mai devant l’autorité autrichienne de protection des données, la DSB. Elle y invoque l’article 15 du RGPD, celui qui dispose qu’un internaute est en droit d’accéder aux données personnelles le concernant, sur demande, auprès d’un responsable de traitement.

• Le RGPD expliqué ligne par ligne (articles 1 à 23)

Dans le détail, l’association explique représenter un internaute qui a tenté d’obtenir, auprès de LinkedIn, la liste des personnes ayant visité son profil. Pour ce faire, l’utilisateur a d’abord utilisé les fonctions de téléchargement des données personnelles mises à disposition par la plateforme. À défaut d’y avoir trouvé les visiteurs de son profil, il a ensuite sollicité directement le réseau social via son formulaire de contact, et se serait vu opposer une fin de non-recevoir.

Après relance, LinkedIn aurait répondu au plaignant ne pas être tenu de mettre à disposition les données relatives aux personnes ayant consulté son profil, dans la mesure où ce ne sont pas ses propres informations personnelles, mais celles d’autres membres.

Autrement dit, le réseau social ne pourrait pas communiquer ces informations dans la mesure où elles concernent d’autres utilisateurs. Mais dans le même temps, son abonnement payant permet de faire sauter cette barrière.

Pour noyb, LinkedIn entretient à ce niveau un double discours difficilement tenable. « Il est clair que si ces données sont affichées dans le cadre d’un abonnement Premium, elles devraient également être accessibles sur demande, conformément à l’article 15 du RGPD », résume l’association dans un communiqué.

L’article 15 mentionne explicitement les « destinataires »

Pour justifier cette position, elle s’appuie notamment sur l’alinéa c) du paragraphe 1 de l’article 15, qui dispose que cette obligation de correspondance englobe « les destinataires » auxquels les données personnelles ont été communiquées. Elle rappelle par ailleurs que cette lecture du règlement a été confirmée par une décision de la CJUE faisant jurisprudence.

Elle fait enfin valoir que LinkedIn offre, au niveau du profil, une option permettant de visiter de façon anonyme la page d’autres utilisateurs du réseau : ceux qui n’activent pas cette option acceptent donc, selon noyb, d’être perçus comme destinataires, ce qui écarterait donc le risque d’une atteinte aux droits et libertés d’autrui telle que prévue par le point 4 de l’article 15.

Sur la base de ces éléments, noyb demande à la CNIL autrichienne de donner suite à la demande d’accès formulée par le plaignant, mais aussi de prononcer une amende dissuasive à l’encontre de LinkedIn. « La protection des droits et libertés d’autrui peut effectivement justifier la non-divulgation de données personnelles partagées. Toutefois, si une entreprise a obtenu le consentement requis et se montre clairement disposée à mettre ces mêmes données à disposition moyennant paiement, cet argument ne tient plus », résume Martin Baumann, l’avocat de noyb.

LinkedIn et sa maison-mère, Microsoft, n’ont pour l’instant pas réagi publiquement.

De l'implication dans le réel de conversations artificielles

En avril 2025, Phoenix Ikner, 20 ans, a consulté le chatbot d’OpenAI sur l’opportunité de la fusillade à l’université de l’État de Floride dont il est suspecté d’être le principal auteur. Le procureur général de l’État a annoncé lancer une enquête criminelle pour savoir si l’entreprise avait une responsabilité juridique dans cette affaire.

Mise à jour du 11 mai, 14h45 : Après l’enquête lancée par le procureur général de l’État de Floride, la famille d’une des victimes de la fusillade à l’université de l’État de Floride a porté plainte contre OpenAI.

Comme l’explique NBC News, la plainte [PDF] affirme que Phoenix Ikner a suivi les instructions, les conseils et les recommandations que ChatGPT lui avait fournis.

« ChatGPT a validé et amplifié les croyances délirantes de Phoenix Ikner, a renforcé son obsession de commettre une fusillade de masse, n’a pas su reconnaître le caractère inquiétant de ses échanges répétés avec le programme, et lui a permis de commettre cet acte horrible sans déclencher d’alerte ni signaler la situation pour qu’un humain puisse l’examiner et/ou intervenir », affirme les avocats de Vandana Joshi, la veuve de Tiru Chabba qui travaillait pour le prestataire de services de restauration collective de l’université.

« Ikner a eu de longues conversations avec ChatGPT qui, prises dans leur ensemble, auraient conduit n’importe quel être humain sensé à conclure qu’il envisageait un projet imminent visant à nuire à autrui. Cependant, soit ChatGPT n’a pas su faire le lien, soit il n’a tout simplement pas été conçu pour détecter cette menace », ajoute le texte.

---

Article publié originellement le 22 avril :

Après l’encouragement au suicide d’un adolescent, ou à un meurtre, OpenAI et son chatbot sont accusés d’avoir aidé à la planification d’une fusillade proche des locaux d’un syndicat étudiant sur le campus de l’université de Floride.

Le 17 avril 2025, Phoenix Ikner, 20 ans, fils d’une policière, a déclenché une fusillade devant les locaux d’un syndicat étudiant sur le campus de l’université de l’État de Floride, faisant deux morts et six blessés, comme l’expliquait à l’époque USA Today.

Ce mardi 21 avril, le procureur général de l’État James Uthmeier a annoncé avoir lancé une enquête visant le rôle de ChatGPT et de son éditeur OpenAI dans cette tuerie. « La décision d’ouvrir une enquête fait suite à un premier examen, par les procureurs, des historiques de conversation entre ChatGPT et Phoenix Ikner, l’auteur de la fusillade survenue l’année dernière à l’université d’État de Floride », explique son communiqué de presse.

« Si ChatGPT était une personne, elle serait poursuivie pour meurtre »

Quelques jours plus tôt, le média local WTXL expliquait que les enquêteurs analysaient les logs des discussions de Phoenix Ikner avec le chatbot. Le jour de la fusillade, il aurait notamment demandé à ChatGPT comment le pays réagirait s’il y avait une fusillade dans cette université, quand la dernière fusillade avait eu lieu, quel nombre de victimes permet d’attirer l’attention des médias et si trois était suffisant.

Le chatbot aurait répondu qu’une fusillade avec trois victimes ou plus « ferait très certainement l’objet d’une couverture médiatique nationale ». Enfin, il aurait demandé à quelle heure les locaux du syndicat étudiant de l’université accueillaient le plus de monde.

• OpenAI et Anthropic scannent les conversations à la recherche d’usages problématiques

« La Floride montre la voie en matière de lutte contre l’utilisation de l’IA dans le cadre d’activités criminelles, et si ChatGPT était une personne, elle serait poursuivie pour meurtre », affirme le procureur général de l’État James Uthmeier dans son communiqué :

« Cette enquête pénale permettra de déterminer si OpenAI engage sa responsabilité pénale pour les agissements de ChatGPT lors de la fusillade survenue l’année dernière à l’université d’État de Floride. »

« Ce n’est pas parce qu’il s’agit d’un chatbot basé sur l’IA qu’il n’y a pas de responsabilité pénale », a-t-il déclaré lors de sa conférence de presse sur le sujet, selon Politico :

« Nous allons donc examiner qui savait quoi, qui a conçu quoi, ou qui aurait dû agir. Et s’il apparaît clairement que certaines personnes savaient que ce genre de comportements dangereux pouvait se produire, que ce genre d’événements tragiques et malheureux pouvait se produire, et qu’elles ont néanmoins privilégié le profit, qu’elles ont néanmoins laissé cette entreprise poursuivre ses activités, alors ces personnes devront rendre des comptes. »

De potentielles responsabilités pénales pour des responsables de l’entreprise

Pour l’enquête, son équipe a demandé à OpenAI de lui fournir de multiples informations sur les sécurités mises en place sur son chatbot concernant ce genre d’événement. Ainsi, l’entreprise doit notamment leur fournir toutes les informations sur les mesures internes concernant les menaces proférées par des utilisateurs à l’encontre d’autrui, à l’encontre d’eux-mêmes et concernant la coopération de l’entreprise avec la police pour signaler des crimes (au passé, futur ou présent).

Le procureur général demande aussi à l’entreprise de lui fournir un organigramme de ses responsables ainsi que la liste de tous les employés travaillant sur ChatGPT lors de différentes dates clés pour l’enquête.

Lors de sa conférence de presse, James Uthmeier a expliqué que l’éventuelle responsabilité pénale contre une entreprise constituerait une première dans le domaine juridique, rapporte le New York Times. Mais il ne s’interdit pas de viser des personnes physiques liées à l’entreprise lors de son enquête : « des êtres humains auraient pu intervenir dans la conception, la gestion et le fonctionnement » de ChatGPT, au point où cela pourrait « engager leur responsabilité pénale ».

« La fusillade de masse qui s’est produite l’année dernière à l’université d’État de Floride a été une tragédie, mais ChatGPT n’est pas responsable de ce crime odieux », indique le communiqué d’OpenAI sur le sujet transmis au New York Times.

« Dans ce cas précis, ChatGPT a fourni des réponses factuelles à des questions en s’appuyant sur des informations largement disponibles dans des sources publiques sur Internet, et n’a ni encouragé ni favorisé aucune activité illégale ou préjudiciable », ajoute l’entreprise.

De l'implication dans le réel de conversations artificielles

En avril 2025, Phoenix Ikner, 20 ans, a consulté le chatbot d’OpenAI sur l’opportunité de la fusillade à l’université de l’État de Floride dont il est suspecté d’être le principal auteur. Le procureur général de l’État a annoncé lancer une enquête criminelle pour savoir si l’entreprise avait une responsabilité juridique dans cette affaire.

Mise à jour du 11 mai, 14h45 : Après l’enquête lancée par le procureur général de l’État de Floride, la famille d’une des victimes de la fusillade à l’université de l’État de Floride a porté plainte contre OpenAI.

Comme l’explique NBC News, la plainte [PDF] affirme que Phoenix Ikner a suivi les instructions, les conseils et les recommandations que ChatGPT lui avait fournis.

« ChatGPT a validé et amplifié les croyances délirantes de Phoenix Ikner, a renforcé son obsession de commettre une fusillade de masse, n’a pas su reconnaître le caractère inquiétant de ses échanges répétés avec le programme, et lui a permis de commettre cet acte horrible sans déclencher d’alerte ni signaler la situation pour qu’un humain puisse l’examiner et/ou intervenir », affirme les avocats de Vandana Joshi, la veuve de Tiru Chabba qui travaillait pour le prestataire de services de restauration collective de l’université.

« Ikner a eu de longues conversations avec ChatGPT qui, prises dans leur ensemble, auraient conduit n’importe quel être humain sensé à conclure qu’il envisageait un projet imminent visant à nuire à autrui. Cependant, soit ChatGPT n’a pas su faire le lien, soit il n’a tout simplement pas été conçu pour détecter cette menace », ajoute le texte.

---

Article publié originellement le 22 avril :

Après l’encouragement au suicide d’un adolescent, ou à un meurtre, OpenAI et son chatbot sont accusés d’avoir aidé à la planification d’une fusillade proche des locaux d’un syndicat étudiant sur le campus de l’université de Floride.

Le 17 avril 2025, Phoenix Ikner, 20 ans, fils d’une policière, a déclenché une fusillade devant les locaux d’un syndicat étudiant sur le campus de l’université de l’État de Floride, faisant deux morts et six blessés, comme l’expliquait à l’époque USA Today.

Ce mardi 21 avril, le procureur général de l’État James Uthmeier a annoncé avoir lancé une enquête visant le rôle de ChatGPT et de son éditeur OpenAI dans cette tuerie. « La décision d’ouvrir une enquête fait suite à un premier examen, par les procureurs, des historiques de conversation entre ChatGPT et Phoenix Ikner, l’auteur de la fusillade survenue l’année dernière à l’université d’État de Floride », explique son communiqué de presse.

« Si ChatGPT était une personne, elle serait poursuivie pour meurtre »

Quelques jours plus tôt, le média local WTXL expliquait que les enquêteurs analysaient les logs des discussions de Phoenix Ikner avec le chatbot. Le jour de la fusillade, il aurait notamment demandé à ChatGPT comment le pays réagirait s’il y avait une fusillade dans cette université, quand la dernière fusillade avait eu lieu, quel nombre de victimes permet d’attirer l’attention des médias et si trois était suffisant.

Le chatbot aurait répondu qu’une fusillade avec trois victimes ou plus « ferait très certainement l’objet d’une couverture médiatique nationale ». Enfin, il aurait demandé à quelle heure les locaux du syndicat étudiant de l’université accueillaient le plus de monde.

• OpenAI et Anthropic scannent les conversations à la recherche d’usages problématiques

« La Floride montre la voie en matière de lutte contre l’utilisation de l’IA dans le cadre d’activités criminelles, et si ChatGPT était une personne, elle serait poursuivie pour meurtre », affirme le procureur général de l’État James Uthmeier dans son communiqué :

« Cette enquête pénale permettra de déterminer si OpenAI engage sa responsabilité pénale pour les agissements de ChatGPT lors de la fusillade survenue l’année dernière à l’université d’État de Floride. »

« Ce n’est pas parce qu’il s’agit d’un chatbot basé sur l’IA qu’il n’y a pas de responsabilité pénale », a-t-il déclaré lors de sa conférence de presse sur le sujet, selon Politico :

« Nous allons donc examiner qui savait quoi, qui a conçu quoi, ou qui aurait dû agir. Et s’il apparaît clairement que certaines personnes savaient que ce genre de comportements dangereux pouvait se produire, que ce genre d’événements tragiques et malheureux pouvait se produire, et qu’elles ont néanmoins privilégié le profit, qu’elles ont néanmoins laissé cette entreprise poursuivre ses activités, alors ces personnes devront rendre des comptes. »

De potentielles responsabilités pénales pour des responsables de l’entreprise

Pour l’enquête, son équipe a demandé à OpenAI de lui fournir de multiples informations sur les sécurités mises en place sur son chatbot concernant ce genre d’événement. Ainsi, l’entreprise doit notamment leur fournir toutes les informations sur les mesures internes concernant les menaces proférées par des utilisateurs à l’encontre d’autrui, à l’encontre d’eux-mêmes et concernant la coopération de l’entreprise avec la police pour signaler des crimes (au passé, futur ou présent).

Le procureur général demande aussi à l’entreprise de lui fournir un organigramme de ses responsables ainsi que la liste de tous les employés travaillant sur ChatGPT lors de différentes dates clés pour l’enquête.

Lors de sa conférence de presse, James Uthmeier a expliqué que l’éventuelle responsabilité pénale contre une entreprise constituerait une première dans le domaine juridique, rapporte le New York Times. Mais il ne s’interdit pas de viser des personnes physiques liées à l’entreprise lors de son enquête : « des êtres humains auraient pu intervenir dans la conception, la gestion et le fonctionnement » de ChatGPT, au point où cela pourrait « engager leur responsabilité pénale ».

« La fusillade de masse qui s’est produite l’année dernière à l’université d’État de Floride a été une tragédie, mais ChatGPT n’est pas responsable de ce crime odieux », indique le communiqué d’OpenAI sur le sujet transmis au New York Times.

« Dans ce cas précis, ChatGPT a fourni des réponses factuelles à des questions en s’appuyant sur des informations largement disponibles dans des sources publiques sur Internet, et n’a ni encouragé ni favorisé aucune activité illégale ou préjudiciable », ajoute l’entreprise.