Pirate, moi ?

Après plusieurs plaintes d’auteurs, cinq multinationales de l’édition (notamment scolaire et scientifique) attaquent Meta devant la justice américaine pour l’utilisation d’œuvres qu’elles éditent pour entrainer la famille de modèles d’IA générative Llama.

Meta fait face à une action en justice pour violation du copyright qui pèsera sans doute un peu plus lourd que celles qui sont arrivées devant les tribunaux jusque là concernant l’utilisation pour ses modèles d’IA générative d’œuvres copyrightées.

Ici, ce ne sont pas quelques auteurs qui attaquent le groupe dirigé par Mark Zuckerberg (qui est aussi visé personnellement par la plainte), mais cinq multinationales de l’édition : Hachette, Macmillan, McGraw Hill, Elsevier et Cengage. Scott Turow, auteur de thrillers à succès mais également éditorialiste et avocat, est aussi associé à la plainte.

• IA : Meta aurait entraîné son modèle Llama sur la bibliothèque clandestine LibGen

Meta encore accusé d’être passé par du téléchargement illégal

La plainte [PDF], qui a été déposée ce mardi devant la cour du district sud de New York, accuse Meta et donc Mark Zuckerberg d’avoir d’abord « illégalement téléchargé via torrent [torrented, en anglais] des millions de livres et articles de revues scientifiques copyrightés provenant de sites pirates notoires et de scrapes web non autorisés de virtuellement tout l’internet », puis de les avoir copiés « à maintes reprises pour entraîner le système d’IA générative de Meta, baptisé Llama, dont la valorisation s’élève à plusieurs milliards de dollars ».

« Non contents d’utiliser les œuvres protégées par le copyright extraites de Common Crawl, les accusés ont cherché d’autres sources de textes copyrightés pour entraîner leurs modèles Llama », expliquent les avocats des éditeurs.

« Au départ, les accusés avaient envisagé d’obtenir des licences auprès de grands éditeurs pour utiliser des œuvres littéraires. Ils ont finalement opté pour une autre solution : télécharger illégalement les œuvres des demandeurs et du groupe de plaignants à partir de sites de piratage notoires, notamment LibGen, Anna’s Archive, Sci-Hub, Sci-Mag et d’autres », ajoutent-ils. Chargeant le CEO du groupe, ils affirment que « Zuckerberg lui-même a personnellement autorisé et activement encouragé cette violation ».

Mais les éditeurs n’accusent pas seulement Meta de téléchargement. Comme dans d’autres cas concernant l’utilisation d’œuvres par des IA génératives, ils affirment que les modèles de Meta restituent aussi ces œuvres dans leurs réponses.

« Llama génère des reproductions verbatim ou quasi verbatim des œuvres protégées par le copyright » des plaignants, affirme la plainte. « Par exemple, lorsqu’on lui soumet deux courtes phrases tirées du manuel à succès de Cengage, Calculus: Early Transcendentals, 9e édition, de James Stewart, Llama se met à reproduire mot pour mot la suite de la section », ajoutent les avocats.

« L’IA est à l’origine d’innovations transformatrices, d’une productivité accrue et d’une plus grande créativité pour les particuliers et les entreprises, et les tribunaux ont à juste titre estimé que l’entraînement d’un modèle d’IA sur des contenus protégés par le copyright pouvait relever du fair use », a affirmé le porte-parole de Meta Dave Arnold, au New York Times, « nous nous défendrons avec vigueur dans cette affaire ».

• IA : le Bureau US du copyright se positionne sur le fair use, Trump vire sa responsable

La question du fair use n’est pas encore tranchée

Si l’année dernière, les entreprises d’IA avaient gagné plusieurs manches judiciaires, contrairement à ce qu’affirme Meta, le débat sur le fair use pour entrainer les IA n’avait pas été tranché et le sujet reste encore ouvert. À l’époque, le juge Vince Chhaabria avait expliqué qu’il doutait de l’utilisation du fair use concernant les manuels scolaires en expliquant qu’il fallait aussi prendre en compte des « préoccupations concernant le préjudice qu’elle [l’IA générative] peut infliger au marché des œuvres sur lesquelles elle est entraînée ».

Cette réflexion peut sans doute s’étendre aux nombreuses œuvres qui se trouvent dans les catalogues des cinq éditeurs plaignants. Hachette, McGraw Hill et Cengage font partie des plus gros éditeurs de manuels scolaires dans le monde, par exemple. Et, si Elsevier est devenue une filiale d’un des plus grands courtiers de données du monde et fait maintenant d’importants bénéfices en devenant un data broker de l’activité scientifique, elle reste un des plus importants éditeurs scientifiques mondiaux.

• Elsevier récupère le plus de données possible sur les étudiants et chercheurs américains

La plainte demande la destruction de toutes les copies d’œuvres copyrightées utilisées par Meta pour l’entrainement de ses modèles après que l’entreprise en ait fait la liste exhaustive, qu’elle « cesse toute activité illégale » et « toute autre mesure que la Cour jugera appropriée ».

Interrogée par le New York Times, la responsable de l’Association of American Publishers qui a rendu publique cette plainte, Maria A. Pallante, affirme : « Nous nous concentrons sur la création d’un paysage de l’IA bien plus viable — un environnement transparent, équitable et participatif, doté de garde-fous pour protéger les auteurs et les éditeurs contre tout préjudice. Les préjudices sont déjà évidents ».

Pirate, moi ?

Après plusieurs plaintes d’auteurs, cinq multinationales de l’édition (notamment scolaire et scientifique) attaquent Meta devant la justice américaine pour l’utilisation d’œuvres qu’elles éditent pour entrainer la famille de modèles d’IA générative Llama.

Meta fait face à une action en justice pour violation du copyright qui pèsera sans doute un peu plus lourd que celles qui sont arrivées devant les tribunaux jusque là concernant l’utilisation pour ses modèles d’IA générative d’œuvres copyrightées.

Ici, ce ne sont pas quelques auteurs qui attaquent le groupe dirigé par Mark Zuckerberg (qui est aussi visé personnellement par la plainte), mais cinq multinationales de l’édition : Hachette, Macmillan, McGraw Hill, Elsevier et Cengage. Scott Turow, auteur de thrillers à succès mais également éditorialiste et avocat, est aussi associé à la plainte.

• IA : Meta aurait entraîné son modèle Llama sur la bibliothèque clandestine LibGen

Meta encore accusé d’être passé par du téléchargement illégal

La plainte [PDF], qui a été déposée ce mardi devant la cour du district sud de New York, accuse Meta et donc Mark Zuckerberg d’avoir d’abord « illégalement téléchargé via torrent [torrented, en anglais] des millions de livres et articles de revues scientifiques copyrightés provenant de sites pirates notoires et de scrapes web non autorisés de virtuellement tout l’internet », puis de les avoir copiés « à maintes reprises pour entraîner le système d’IA générative de Meta, baptisé Llama, dont la valorisation s’élève à plusieurs milliards de dollars ».

« Non contents d’utiliser les œuvres protégées par le copyright extraites de Common Crawl, les accusés ont cherché d’autres sources de textes copyrightés pour entraîner leurs modèles Llama », expliquent les avocats des éditeurs.

« Au départ, les accusés avaient envisagé d’obtenir des licences auprès de grands éditeurs pour utiliser des œuvres littéraires. Ils ont finalement opté pour une autre solution : télécharger illégalement les œuvres des demandeurs et du groupe de plaignants à partir de sites de piratage notoires, notamment LibGen, Anna’s Archive, Sci-Hub, Sci-Mag et d’autres », ajoutent-ils. Chargeant le CEO du groupe, ils affirment que « Zuckerberg lui-même a personnellement autorisé et activement encouragé cette violation ».

Mais les éditeurs n’accusent pas seulement Meta de téléchargement. Comme dans d’autres cas concernant l’utilisation d’œuvres par des IA génératives, ils affirment que les modèles de Meta restituent aussi ces œuvres dans leurs réponses.

« Llama génère des reproductions verbatim ou quasi verbatim des œuvres protégées par le copyright » des plaignants, affirme la plainte. « Par exemple, lorsqu’on lui soumet deux courtes phrases tirées du manuel à succès de Cengage, Calculus: Early Transcendentals, 9e édition, de James Stewart, Llama se met à reproduire mot pour mot la suite de la section », ajoutent les avocats.

« L’IA est à l’origine d’innovations transformatrices, d’une productivité accrue et d’une plus grande créativité pour les particuliers et les entreprises, et les tribunaux ont à juste titre estimé que l’entraînement d’un modèle d’IA sur des contenus protégés par le copyright pouvait relever du fair use », a affirmé le porte-parole de Meta Dave Arnold, au New York Times, « nous nous défendrons avec vigueur dans cette affaire ».

• IA : le Bureau US du copyright se positionne sur le fair use, Trump vire sa responsable

La question du fair use n’est pas encore tranchée

Si l’année dernière, les entreprises d’IA avaient gagné plusieurs manches judiciaires, contrairement à ce qu’affirme Meta, le débat sur le fair use pour entrainer les IA n’avait pas été tranché et le sujet reste encore ouvert. À l’époque, le juge Vince Chhaabria avait expliqué qu’il doutait de l’utilisation du fair use concernant les manuels scolaires en expliquant qu’il fallait aussi prendre en compte des « préoccupations concernant le préjudice qu’elle [l’IA générative] peut infliger au marché des œuvres sur lesquelles elle est entraînée ».

Cette réflexion peut sans doute s’étendre aux nombreuses œuvres qui se trouvent dans les catalogues des cinq éditeurs plaignants. Hachette, McGraw Hill et Cengage font partie des plus gros éditeurs de manuels scolaires dans le monde, par exemple. Et, si Elsevier est devenue une filiale d’un des plus grands courtiers de données du monde et fait maintenant d’importants bénéfices en devenant un data broker de l’activité scientifique, elle reste un des plus importants éditeurs scientifiques mondiaux.

• Elsevier récupère le plus de données possible sur les étudiants et chercheurs américains

La plainte demande la destruction de toutes les copies d’œuvres copyrightées utilisées par Meta pour l’entrainement de ses modèles après que l’entreprise en ait fait la liste exhaustive, qu’elle « cesse toute activité illégale » et « toute autre mesure que la Cour jugera appropriée ».

Interrogée par le New York Times, la responsable de l’Association of American Publishers qui a rendu publique cette plainte, Maria A. Pallante, affirme : « Nous nous concentrons sur la création d’un paysage de l’IA bien plus viable — un environnement transparent, équitable et participatif, doté de garde-fous pour protéger les auteurs et les éditeurs contre tout préjudice. Les préjudices sont déjà évidents ».

C'est encore nous !

Plus d’un an après avoir essayé de l’introduire dans la proposition de loi Narcotrafic, la délégation parlementaire au renseignement relance le débat sur l’introduction de portes dérobées dans les messageries chiffrées. Les parlementaires évoquent « un accès ciblé à certains contenus chiffrés » en passant par l’échelle européenne mais sans exclure une initiative législative nationale.

La délégation parlementaire au renseignement insiste : « l’impossibilité d’accéder au contenu des communications chiffrées constitue un obstacle majeur pour l’activité de la justice et des services de renseignement ».

Pourtant, l’année dernière l’article 8 ter de la proposition de loi Narcotrafic, qui était critiquée pour l’introduction d’une porte dérobée obligatoire dans les messageries chiffrées, avait finalement été retiré. Mais les membres de la délégation parlementaire au renseignement n’ont pas renoncé.

D’ailleurs, interrogé par Public Sénat, Cédric Perrin, sénateur LR et membre de la délégation, défend toujours l’article en question : « L’article 8 ter que j’avais fait adopter ne visait pas du tout à obtenir des clés de chiffrement mais à introduire dans une conversation un tiers fantôme avant le chiffrement ».

La délégation parlementaire au renseignement (DPR) continue de plaider pour ce qu’elle appelle maintenant « un accès ciblé au contenu des messageries chiffrées » dans une communication [PDF] publiée ce lundi 4 mai en marge de la publication de son rapport annuel.

Pour rappel, la DPR regroupe 8 membres du parlement : les sénatrices et sénateurs Muriel Jourda (LR), Agnès Canayer (LR), Gisèle Jourda (PS) et Cédric Perrin (LR) ainsi que les députés et députées Florent Boudié (Ensemble), Jean-Michel Jacques (Ensemble), Caroline Colombier (RN) et Aurélien Rousseau (PS).

Le dispositif de recueil des données informatiques, trop coûteux et complexe

Elle y déplore que « l’impossibilité d’accéder au contenu des communications chiffrées » dans les messageries chiffrées comme Signal ou Whatsapp « constitue un obstacle majeur pour l’activité de la justice et des services de renseignement ».

La facture va-t-elle arriver pour les acteurs de l'IA ?

Plus de 80 organisations culturelles appellent au vote rapide par l’Assemblée nationale d’une proposition de loi adoptée par le Sénat sur la présomption d’utilisation des contenus par les fournisseurs d’IA. Un texte qui donne à l’industrie culturelle un levier contre le « pillage généralisé » de leurs créations.

Le 8 avril, le Sénat adoptait la proposition de loi « relative à l’instauration d’une présomption d’exploitation des contenus culturels par les fournisseurs d’intelligence artificielle ». Voté à l’unanimité, le texte instaure donc une présomption d’exploitation d’une œuvre par un opérateur d’IA. 

La culture presse le pas

La proposition renverse la charge de la preuve, puisque c’est au fournisseur d’IA de prouver qu’il n’a pas utilisé une œuvre. « Ce ne sera plus au créateur de prouver le moissonnage de son œuvre », décryptait l’auteure de la proposition de loi, la sénatrice Agnès Evren (LR). Les entreprises de l’IA font régulièrement l’objet de plaintes pour avoir pioché sans ménagement ni autorisation dans des ouvrages ou des créations protégés par le droit d’auteur.

• Entrainement des IA et droit d’auteur : le Sénat inverse la charge de la preuve

Le texte est désormais entre les mains de la commission des affaires culturelles et de l’éducation, en attendant son examen par les députés. Histoire d’accélérer la cadence, 81 organisations du secteur de la culture et de l’information – parmi lesquelles l’ADAMI, la SCAM, la SACEM ou le SNEP – appellent [PDF] à une inscription rapide de la proposition de loi à l’ordre du jour de l’Assemblée nationale.

La présomption mise en place par le texte « rééquilibre le rapport de force entre nos secteurs culturels et les entreprises de l’IA » et « crée donc les conditions d’un dialogue pour installer une nouvelle chaîne de valeur », écrivent les signataires. Ils ajoutent ne pas pouvoir continuer à « accepter qu’un secteur économique se construise sur le pillage généralisé d’un autre secteur au mépris de l’État de droit, alors qu’il existe une alternative vertueuse au bénéfice de tous. »

Les organisations veulent la mise en place d’un « marché de licences volontaires » qui garantirait la compétitivité de la presse et des industries culturelles, ainsi que leur capacité d’investissement. Il est aussi question de la sécurité juridique comme « avantage concurrentiel » au bénéfice des modèles et d’une « IA responsable, tournée vers l’humain ». 

Présomption d’exploitation contre exception au droit d’auteur

Les secteurs de la culture et de l’information sont « prêts à s’adapter au modèle économique de leurs futurs partenaires », mais encore faut-il qu’ils viennent à la table des négociations. C’est tout le sens de la loi votée par le Sénat, mais son passage tel quel à l’Assemblée nationale n’est pas gagné.

Le gouvernement s’est en effet montré plus réservé sur le fond. « Tous les acteurs économiques qui ont développé des modèles d’IA – entreprises du CAC 40, TPE-PME, start-up – risqueraient un contentieux, ce qui serait dévastateur pour notre économie », expliquait Anne Le Hénanff, ministre déléguée chargée de l’intelligence artificielle et du numérique. « Le contentieux ne peut pas constituer notre unique horizon, car il entraîne des risques », posait prudemment Catherine Pégard, ministre de la Culture. « Mieux vaut un bon accord qu’un mauvais procès. »

Cette « présomption d’exploitation des contenus » va en tout cas à rebours de ce qui se passe ailleurs dans le monde. Au Royaume-Uni, une réforme du copyright prévoyait une exception au droit d’auteur pour permettre l’entraînement de modèles IA à des fins commerciales, sans autorisation préalable. Il revenait aux créateurs de s’opposer à l’usage de leurs œuvres. La mobilisation des artistes et de la société civile ont forcé le gouvernement à suspendre temporairement ce projet.

• Demander la permission des artistes « tuerait » l’industrie de l’IA, pour Nick Clegg

Au niveau de l’Union européenne, le Parlement européen a voté le 11 mars dernier les recommandations du rapport d’Alex Voss sur le droit d’auteur et l’intelligence artificielle générative. Parmi ses propositions : une « présomption réfragable » qui s’appliquerait en cas de manque de transparence sur les données d’entraînement des modèles. La proposition du Sénat vise cependant plus large, puisqu’elle facilite les recours des ayants droit.

La facture va-t-elle arriver pour les acteurs de l'IA ?

Plus de 80 organisations culturelles appellent au vote rapide par l’Assemblée nationale d’une proposition de loi adoptée par le Sénat sur la présomption d’utilisation des contenus par les fournisseurs d’IA. Un texte qui donne à l’industrie culturelle un levier contre le « pillage généralisé » de leurs créations.

Le 8 avril, le Sénat adoptait la proposition de loi « relative à l’instauration d’une présomption d’exploitation des contenus culturels par les fournisseurs d’intelligence artificielle ». Voté à l’unanimité, le texte instaure donc une présomption d’exploitation d’une œuvre par un opérateur d’IA. 

La culture presse le pas

La proposition renverse la charge de la preuve, puisque c’est au fournisseur d’IA de prouver qu’il n’a pas utilisé une œuvre. « Ce ne sera plus au créateur de prouver le moissonnage de son œuvre », décryptait l’auteure de la proposition de loi, la sénatrice Agnès Evren (LR). Les entreprises de l’IA font régulièrement l’objet de plaintes pour avoir pioché sans ménagement ni autorisation dans des ouvrages ou des créations protégés par le droit d’auteur.

• Entrainement des IA et droit d’auteur : le Sénat inverse la charge de la preuve

Le texte est désormais entre les mains de la commission des affaires culturelles et de l’éducation, en attendant son examen par les députés. Histoire d’accélérer la cadence, 81 organisations du secteur de la culture et de l’information – parmi lesquelles l’ADAMI, la SCAM, la SACEM ou le SNEP – appellent [PDF] à une inscription rapide de la proposition de loi à l’ordre du jour de l’Assemblée nationale.

La présomption mise en place par le texte « rééquilibre le rapport de force entre nos secteurs culturels et les entreprises de l’IA » et « crée donc les conditions d’un dialogue pour installer une nouvelle chaîne de valeur », écrivent les signataires. Ils ajoutent ne pas pouvoir continuer à « accepter qu’un secteur économique se construise sur le pillage généralisé d’un autre secteur au mépris de l’État de droit, alors qu’il existe une alternative vertueuse au bénéfice de tous. »

Les organisations veulent la mise en place d’un « marché de licences volontaires » qui garantirait la compétitivité de la presse et des industries culturelles, ainsi que leur capacité d’investissement. Il est aussi question de la sécurité juridique comme « avantage concurrentiel » au bénéfice des modèles et d’une « IA responsable, tournée vers l’humain ». 

Présomption d’exploitation contre exception au droit d’auteur

Les secteurs de la culture et de l’information sont « prêts à s’adapter au modèle économique de leurs futurs partenaires », mais encore faut-il qu’ils viennent à la table des négociations. C’est tout le sens de la loi votée par le Sénat, mais son passage tel quel à l’Assemblée nationale n’est pas gagné.

Le gouvernement s’est en effet montré plus réservé sur le fond. « Tous les acteurs économiques qui ont développé des modèles d’IA – entreprises du CAC 40, TPE-PME, start-up – risqueraient un contentieux, ce qui serait dévastateur pour notre économie », expliquait Anne Le Hénanff, ministre déléguée chargée de l’intelligence artificielle et du numérique. « Le contentieux ne peut pas constituer notre unique horizon, car il entraîne des risques », posait prudemment Catherine Pégard, ministre de la Culture. « Mieux vaut un bon accord qu’un mauvais procès. »

Cette « présomption d’exploitation des contenus » va en tout cas à rebours de ce qui se passe ailleurs dans le monde. Au Royaume-Uni, une réforme du copyright prévoyait une exception au droit d’auteur pour permettre l’entraînement de modèles IA à des fins commerciales, sans autorisation préalable. Il revenait aux créateurs de s’opposer à l’usage de leurs œuvres. La mobilisation des artistes et de la société civile ont forcé le gouvernement à suspendre temporairement ce projet.

• Demander la permission des artistes « tuerait » l’industrie de l’IA, pour Nick Clegg

Au niveau de l’Union européenne, le Parlement européen a voté le 11 mars dernier les recommandations du rapport d’Alex Voss sur le droit d’auteur et l’intelligence artificielle générative. Parmi ses propositions : une « présomption réfragable » qui s’appliquerait en cas de manque de transparence sur les données d’entraînement des modèles. La proposition du Sénat vise cependant plus large, puisqu’elle facilite les recours des ayants droit.

Apple n’en finit pas de payer les errements de son intelligence artificielle. Dévoilée en grande pompe en juin 2024, la version « personnalisée » de Siri n’est toujours pas disponible, deux ans plus tard. Ce qui n’a pas empêché le constructeur d’en faire la promotion dans des spots de pub qui vont lui coûter très cher.

Apple paie les pots cassés d’Apple Intelligence. Un arrangement à l’amiable de 250 millions de dollars a été proposé par le constructeur pour éteindre un recours collectif lancé en Californie l’an dernier. Les plaignants expliquent qu’Apple a fait la promotion de « capacités IA qui n’existaient pas à l’époque, qui n’existent toujours pas, et qui n’existeront pas dans les deux prochaines années ou plus ». 

De la publicité trompeuse donc, qui s’incarnait dans des spots diffusés à la télé américaine après le lancement de la gamme d’iPhone 16, en septembre 2024. On y voyait Bella Ramsey, actrice des séries Game of Thrones et The Last of Us, parler avec une version de Siri aux stéroïdes, capable de croiser des informations provenant de plusieurs apps et d’exploiter le contexte d’utilisation pour répondre aux questions. Apple a d’ailleurs discrètement supprimé une de ces publicités, qui présente un assistant n’existant toujours pas à l’heure actuelle. Heureusement, internet a de la mémoire :

Apple a fini par livrer une grande partie des fonctionnalités IA présentées durant la WWDC 2024. Toutes… sauf ce « Siri 2.0 », faute de modèle IA suffisamment performant pour prendre en charge les nouveautés dédiées à l’assistant. Les reports à répétition ont provoqué une crise en interne, qui a débouché sur une réorganisation de la division IA et le départ de son principal responsable, John Giannandrea.

• IA : mais que se passe-t-il chez Apple ?

Si la prudence s’impose, le « Siri personnalisé » devrait finalement apparaitre dans iOS 27. Début janvier, Apple confirmait un accord avec Google pour utiliser les modèles de Gemini pour alimenter ses futures fonctions IA, dont l’assistant.

Quant à la class action, le chèque proposé par Apple doit encore être validé par le juge en charge du dossier. Si l’accord est approuvé, il s’agira d’un des règlements judiciaires les plus importants jamais conclus par l’entreprise. Il ne comporte aucune reconnaissance de faute de la part d’Apple.

Apple n’en finit pas de payer les errements de son intelligence artificielle. Dévoilée en grande pompe en juin 2024, la version « personnalisée » de Siri n’est toujours pas disponible, deux ans plus tard. Ce qui n’a pas empêché le constructeur d’en faire la promotion dans des spots de pub qui vont lui coûter très cher.

Apple paie les pots cassés d’Apple Intelligence. Un arrangement à l’amiable de 250 millions de dollars a été proposé par le constructeur pour éteindre un recours collectif lancé en Californie l’an dernier. Les plaignants expliquent qu’Apple a fait la promotion de « capacités IA qui n’existaient pas à l’époque, qui n’existent toujours pas, et qui n’existeront pas dans les deux prochaines années ou plus ». 

De la publicité trompeuse donc, qui s’incarnait dans des spots diffusés à la télé américaine après le lancement de la gamme d’iPhone 16, en septembre 2024. On y voyait Bella Ramsey, actrice des séries Game of Thrones et The Last of Us, parler avec une version de Siri aux stéroïdes, capable de croiser des informations provenant de plusieurs apps et d’exploiter le contexte d’utilisation pour répondre aux questions. Apple a d’ailleurs discrètement supprimé une de ces publicités, qui présente un assistant n’existant toujours pas à l’heure actuelle. Heureusement, internet a de la mémoire :

Apple a fini par livrer une grande partie des fonctionnalités IA présentées durant la WWDC 2024. Toutes… sauf ce « Siri 2.0 », faute de modèle IA suffisamment performant pour prendre en charge les nouveautés dédiées à l’assistant. Les reports à répétition ont provoqué une crise en interne, qui a débouché sur une réorganisation de la division IA et le départ de son principal responsable, John Giannandrea.

• IA : mais que se passe-t-il chez Apple ?

Si la prudence s’impose, le « Siri personnalisé » devrait finalement apparaitre dans iOS 27. Début janvier, Apple confirmait un accord avec Google pour utiliser les modèles de Gemini pour alimenter ses futures fonctions IA, dont l’assistant.

Quant à la class action, le chèque proposé par Apple doit encore être validé par le juge en charge du dossier. Si l’accord est approuvé, il s’agira d’un des règlements judiciaires les plus importants jamais conclus par l’entreprise. Il ne comporte aucune reconnaissance de faute de la part d’Apple.

T'as le look, coco

La plateforme anonyme de chat utilisée pour recruter les violeurs de Gisèle Pelicot avait brièvement réouvert un clone, qui a depuis été fermé suite aux révélations de Ouest-France. Une erreur de l’AFP a entraîné l’éditeur d’un site homonyme à fermer lui aussi son interface IRC, suite aux amalgames erronés de nombreux médias.

« Cocoland est sous surveillance, au moindre comportement illicite, mise en danger des enfants ou des femmes, ce site sera fermé », assurait ce lundi 4 mai sur France Inter la ministre déléguée chargée de l’IA et du Numérique, Anne Le Hénanff.

Une enquête avait en effet été ouverte la semaine passée suite à la découverte par Ouest-France de la réouverture d’un clone du sinistre site Coco, qui s’était fait connaître du grand public pour avoir été utilisé pendant 10 ans par Dominique Pelicot afin de recruter les violeurs de sa femme Gisèle, après l’avoir sédatée.

Sauf que le clone en question avait déjà été fermé dans la foulée de l’article de Ouest-France, d’une part, et que l’attention médiatique s’est focalisée, d’autre part, sur un site homonyme, mais qui n’avait rien à voir, et qui a lui aussi depuis fermé du fait des « amalgames » véhiculés par de nombreux médias à son sujet.

« Aujourd’hui, cocoland.cc est en ligne »

« Fermée en juin 2024 après avoir été citée dans 23 000 affaires pénales, la plateforme de tchat anonyme Coco resurgit sous une nouvelle adresse URL », révélait Ouest-France le 17 avril dernier, illustrant son article par une photo montrant que « COCOtchat » était accessible via l’URL cocoland.cc :

« Alors que son fondateur est mis en examen pour pédopornographie et proxénétisme aggravé, ce site de discussions, aux caractéristiques techniques et visuelles parfaitement identiques, génère même des revenus publicitaires. »

Créé au début des années 2010 par un entrepreneur d’origine française, Isaac Steidl, Coco.fr avait depuis migré sous le nom de Coco.gg, « avec une adresse sur l’île de Guernesey, des serveurs en Allemagne, un hébergement en Bulgarie ».

La plateforme avait été saisie par Eurojust en juin 2024, et Isaac Steidl, arrêté à Paris en janvier 2025, avait quant à lui été mis en examen pour proxénétisme aggravé, pédopornographie et corruption de mineurs. Or, « aujourd’hui, cocoland.cc est en ligne », révélait Ouest France mi-avril :

« Le site ne cherche même pas à dissimuler sa filiation : ses mentions légales indiquent explicitement que coco.gg était son ancien domaine. L’identité visuelle est identique. Le fonctionnement aussi : gratuit, anonyme, sans inscription. L’utilisateur saisit un pseudonyme et un âge -invérifiable- et accède immédiatement aux salons de discussion. »

Un spécialiste en cybersécurité expliquait en outre à Ouest-France qu’il s’agissait techniquement de la même infrastructure, déplacée vers un nouveau domaine, et que « le site est visiblement architecturé pour résister à une nouvelle fermeture » en étant hébergé chez un prestataire ukrainien, « un dispositif que l’on retrouve chez les opérateurs habitués à fonctionner sous pression juridique » :

« Ce n’est pas un clone, ni un site hommage créé par des tiers. L’architecture technique confirme la continuité opérationnelle : trois serveurs d’images distincts, un serveur vidéo dédié, un système de vérification par SMS, un sous-domaine de traitement des paiements, un environnement de développement et une intégration avec la plateforme Discord. »

Un fâcheux amalgame entre cocoland.cc et cocoland.info

Or, la dépêche AFP consacrée à cette réapparition ne mentionnait pas cocoland.cc, comme le faisait pourtant Ouest-France (dont l’article est derrière un paywall), mais cocoland.info, un site qui existe depuis plus de 10 ans et qui n’a a priori rien à voir avec Isaac Steidl.

Cocoland.info affiche d’ailleurs une « Mise au point officielle » depuis ce vendredi 1er mai, après que « plusieurs médias ont établi un amalgame » entre ce domaine et celui de cocoland.cc :

« Cocoland.info n’entretient aucun lien — juridique, technique ou humain — avec le site fermé par la justice, ni avec tout autre site reprenant son concept. »

Son éditeur rappelle que cocoland.info « est en ligne depuis 2009 ». On en retrouve une première trace en août 2011 sur la Wayback Machine d’archive.org, avec un « © 2009 », ce que souligne d’ailleurs l’éditeur de cocoland.info qui précise être « pleinement disposé à coopérer avec toute autorité judiciaire ou administrative souhaitant vérifier la nature, le contenu et l’ancienneté de ce site » :

« Son histoire, son contenu et son évolution sur plus de quinze ans sont intégralement consultables et vérifiables via la Wayback Machine (Internet Archive), ainsi qu’à travers les enregistrements publics successifs du nom de domaine (historique WHOIS). Ces éléments établissent que cocoland.info n’est PAS une réouverture du site fermé par la justice : il existait, sous cette forme et à cette adresse, bien avant que ce dernier ne soit fermé en 2024. »

De plus, et contrairement à coco.gg, « cocoland.info n’a jamais hébergé de plateforme de discussion ». Il intégrait en effet via iframe un applet IRC hébergé par le réseau EuropNet, « un réseau IRC public indépendant, donnant ainsi accès aux salons de discussion EuropNet » de « tchat gratuit sans inscription » :

« Ce service de tchat était intégralement opéré et modéré par EuropNet. Les échanges transitaient exclusivement par leurs serveurs. L’éditeur de cocoland.info n’avait aucun accès technique au contenu des conversations, ni aucune autorité sur la modération du réseau tiers. »

Le tchat a depuis été désactivé : « À la suite de cet amalgame médiatique, EuropNet a pris l’initiative de désactiver l’accès à son applet pour le domaine cocoland.info ».

Cocoland.cc avait en outre lui aussi été fermé suite aux révélations de Ouest-France

cocoland.cc avait lui aussi été désactivé la semaine passée, et n’affiche plus désormais qu’une interface proposant cinq « Mini Games ». Une mention « © 2014 Cocoland » laisse entendre qu’il aurait pu exister depuis des années, mais sans que nous puissions le vérifier, l’URL ayant été exclue de la Wayback Machine d’archive.org.

Sur X.com, plusieurs internautes avaient évoqué la réouverture de cocoland.cc depuis décembre dernier, dont l’un qui, en réponse à un tweet de la @Gendarmerie, précisait avoir alerté Pharos qu’on y trouvait des annonces de mineures prostituées disant avoir 15 ans.

T'as le look, coco

La plateforme anonyme de chat utilisée pour recruter les violeurs de Gisèle Pelicot avait brièvement réouvert un clone, qui a depuis été fermé suite aux révélations de Ouest-France. Une erreur de l’AFP a entraîné l’éditeur d’un site homonyme à fermer lui aussi son interface IRC, suite aux amalgames erronés de nombreux médias.

« Cocoland est sous surveillance, au moindre comportement illicite, mise en danger des enfants ou des femmes, ce site sera fermé », assurait ce lundi 4 mai sur France Inter la ministre déléguée chargée de l’IA et du Numérique, Anne Le Hénanff.

Une enquête avait en effet été ouverte la semaine passée suite à la découverte par Ouest-France de la réouverture d’un clone du sinistre site Coco, qui s’était fait connaître du grand public pour avoir été utilisé pendant 10 ans par Dominique Pelicot afin de recruter les violeurs de sa femme Gisèle, après l’avoir sédatée.

Sauf que le clone en question avait déjà été fermé dans la foulée de l’article de Ouest-France, d’une part, et que l’attention médiatique s’est focalisée, d’autre part, sur un site homonyme, mais qui n’avait rien à voir, et qui a lui aussi depuis fermé du fait des « amalgames » véhiculés par de nombreux médias à son sujet.

« Aujourd’hui, cocoland.cc est en ligne »

« Fermée en juin 2024 après avoir été citée dans 23 000 affaires pénales, la plateforme de tchat anonyme Coco resurgit sous une nouvelle adresse URL », révélait Ouest-France le 17 avril dernier, illustrant son article par une photo montrant que « COCOtchat » était accessible via l’URL cocoland.cc :

« Alors que son fondateur est mis en examen pour pédopornographie et proxénétisme aggravé, ce site de discussions, aux caractéristiques techniques et visuelles parfaitement identiques, génère même des revenus publicitaires. »

Créé au début des années 2010 par un entrepreneur d’origine française, Isaac Steidl, Coco.fr avait depuis migré sous le nom de Coco.gg, « avec une adresse sur l’île de Guernesey, des serveurs en Allemagne, un hébergement en Bulgarie ».

La plateforme avait été saisie par Eurojust en juin 2024, et Isaac Steidl, arrêté à Paris en janvier 2025, avait quant à lui été mis en examen pour proxénétisme aggravé, pédopornographie et corruption de mineurs. Or, « aujourd’hui, cocoland.cc est en ligne », révélait Ouest France mi-avril :

« Le site ne cherche même pas à dissimuler sa filiation : ses mentions légales indiquent explicitement que coco.gg était son ancien domaine. L’identité visuelle est identique. Le fonctionnement aussi : gratuit, anonyme, sans inscription. L’utilisateur saisit un pseudonyme et un âge -invérifiable- et accède immédiatement aux salons de discussion. »

Un spécialiste en cybersécurité expliquait en outre à Ouest-France qu’il s’agissait techniquement de la même infrastructure, déplacée vers un nouveau domaine, et que « le site est visiblement architecturé pour résister à une nouvelle fermeture » en étant hébergé chez un prestataire ukrainien, « un dispositif que l’on retrouve chez les opérateurs habitués à fonctionner sous pression juridique » :

« Ce n’est pas un clone, ni un site hommage créé par des tiers. L’architecture technique confirme la continuité opérationnelle : trois serveurs d’images distincts, un serveur vidéo dédié, un système de vérification par SMS, un sous-domaine de traitement des paiements, un environnement de développement et une intégration avec la plateforme Discord. »

Un fâcheux amalgame entre cocoland.cc et cocoland.info

Or, la dépêche AFP consacrée à cette réapparition ne mentionnait pas cocoland.cc, comme le faisait pourtant Ouest-France (dont l’article est derrière un paywall), mais cocoland.info, un site qui existe depuis plus de 10 ans et qui n’a a priori rien à voir avec Isaac Steidl.

Cocoland.info affiche d’ailleurs une « Mise au point officielle » depuis ce vendredi 1er mai, après que « plusieurs médias ont établi un amalgame » entre ce domaine et celui de cocoland.cc :

« Cocoland.info n’entretient aucun lien — juridique, technique ou humain — avec le site fermé par la justice, ni avec tout autre site reprenant son concept. »

Son éditeur rappelle que cocoland.info « est en ligne depuis 2009 ». On en retrouve une première trace en août 2011 sur la Wayback Machine d’archive.org, avec un « © 2009 », ce que souligne d’ailleurs l’éditeur de cocoland.info qui précise être « pleinement disposé à coopérer avec toute autorité judiciaire ou administrative souhaitant vérifier la nature, le contenu et l’ancienneté de ce site » :

« Son histoire, son contenu et son évolution sur plus de quinze ans sont intégralement consultables et vérifiables via la Wayback Machine (Internet Archive), ainsi qu’à travers les enregistrements publics successifs du nom de domaine (historique WHOIS). Ces éléments établissent que cocoland.info n’est PAS une réouverture du site fermé par la justice : il existait, sous cette forme et à cette adresse, bien avant que ce dernier ne soit fermé en 2024. »

De plus, et contrairement à coco.gg, « cocoland.info n’a jamais hébergé de plateforme de discussion ». Il intégrait en effet via iframe un applet IRC hébergé par le réseau EuropNet, « un réseau IRC public indépendant, donnant ainsi accès aux salons de discussion EuropNet » de « tchat gratuit sans inscription » :

« Ce service de tchat était intégralement opéré et modéré par EuropNet. Les échanges transitaient exclusivement par leurs serveurs. L’éditeur de cocoland.info n’avait aucun accès technique au contenu des conversations, ni aucune autorité sur la modération du réseau tiers. »

Le tchat a depuis été désactivé : « À la suite de cet amalgame médiatique, EuropNet a pris l’initiative de désactiver l’accès à son applet pour le domaine cocoland.info ».

Cocoland.cc avait en outre lui aussi été fermé suite aux révélations de Ouest-France

cocoland.cc avait lui aussi été désactivé la semaine passée, et n’affiche plus désormais qu’une interface proposant cinq « Mini Games ». Une mention « © 2014 Cocoland » laisse entendre qu’il aurait pu exister depuis des années, mais sans que nous puissions le vérifier, l’URL ayant été exclue de la Wayback Machine d’archive.org.

Sur X.com, plusieurs internautes avaient évoqué la réouverture de cocoland.cc depuis décembre dernier, dont l’un qui, en réponse à un tweet de la @Gendarmerie, précisait avoir alerté Pharos qu’on y trouvait des annonces de mineures prostituées disant avoir 15 ans.

L'abo LinkedIn Premium sabordé au nom du RGPD ?

L’association noyb a déposé plainte contre LinkedIn auprès de l’autorité autrichienne de protection des données. Elle constate que le réseau social refuse de communiquer gratuitement la liste des personnes ayant visité le profil d’un utilisateur au nom de l’article 15 du RGPD, alors que ces informations sont accessibles dans le cadre de l’abonnement LinkedIn Premium.

« 270 personnes ont consulté votre profil au cours des 90 derniers jours », affiche LinkedIn, après clic sur une notification signalant la visite d’un « recruteur » et de trois autres personnes. Problème : le réseau social ne donne que des indices succincts sur le profil des curieux en question. Pour savoir qui ils sont vraiment, la plateforme invite, ou plutôt incite, à souscrire son abonnement payant : « Développez votre carrière ou votre entreprise avec Premium. Accédez à la liste complète maintenant ».

Deux poids deux mesures ?

L’accès à ces données ne devrait-il pas être concédé gratuitement sur demande de l’utilisateur ? C’est l’hypothèse soulevée par l’association de défense de la vie privée noyb (none of your business), dans une plainte (PDF en allemand) déposée mardi 5 mai devant l’autorité autrichienne de protection des données, la DSB. Elle y invoque l’article 15 du RGPD, celui qui dispose qu’un internaute est en droit d’accéder aux données personnelles le concernant, sur demande, auprès d’un responsable de traitement.

• Le RGPD expliqué ligne par ligne (articles 1 à 23)

Dans le détail, l’association explique représenter un internaute qui a tenté d’obtenir, auprès de LinkedIn, la liste des personnes ayant visité son profil. Pour ce faire, l’utilisateur a d’abord utilisé les fonctions de téléchargement des données personnelles mises à disposition par la plateforme. À défaut d’y avoir trouvé les visiteurs de son profil, il a ensuite sollicité directement le réseau social via son formulaire de contact, et se serait vu opposer une fin de non-recevoir.

Après relance, LinkedIn aurait répondu au plaignant ne pas être tenu de mettre à disposition les données relatives aux personnes ayant consulté son profil, dans la mesure où ce ne sont pas ses propres informations personnelles, mais celles d’autres membres.

Autrement dit, le réseau social ne pourrait pas communiquer ces informations dans la mesure où elles concernent d’autres utilisateurs. Mais dans le même temps, son abonnement payant permet de faire sauter cette barrière.

Pour noyb, LinkedIn entretient à ce niveau un double discours difficilement tenable. « Il est clair que si ces données sont affichées dans le cadre d’un abonnement Premium, elles devraient également être accessibles sur demande, conformément à l’article 15 du RGPD », résume l’association dans un communiqué.

L’article 15 mentionne explicitement les « destinataires »

Pour justifier cette position, elle s’appuie notamment sur l’alinéa c) du paragraphe 1 de l’article 15, qui dispose que cette obligation de correspondance englobe « les destinataires » auxquels les données personnelles ont été communiquées. Elle rappelle par ailleurs que cette lecture du règlement a été confirmée par une décision de la CJUE faisant jurisprudence.

Elle fait enfin valoir que LinkedIn offre, au niveau du profil, une option permettant de visiter de façon anonyme la page d’autres utilisateurs du réseau : ceux qui n’activent pas cette option acceptent donc, selon noyb, d’être perçus comme destinataires, ce qui écarterait donc le risque d’une atteinte aux droits et libertés d’autrui telle que prévue par le point 4 de l’article 15.

Sur la base de ces éléments, noyb demande à la CNIL autrichienne de donner suite à la demande d’accès formulée par le plaignant, mais aussi de prononcer une amende dissuasive à l’encontre de LinkedIn. « La protection des droits et libertés d’autrui peut effectivement justifier la non-divulgation de données personnelles partagées. Toutefois, si une entreprise a obtenu le consentement requis et se montre clairement disposée à mettre ces mêmes données à disposition moyennant paiement, cet argument ne tient plus », résume Martin Baumann, l’avocat de noyb.

LinkedIn et sa maison-mère, Microsoft, n’ont pour l’instant pas réagi publiquement.

L'abo LinkedIn Premium sabordé au nom du RGPD ?

L’association noyb a déposé plainte contre LinkedIn auprès de l’autorité autrichienne de protection des données. Elle constate que le réseau social refuse de communiquer gratuitement la liste des personnes ayant visité le profil d’un utilisateur au nom de l’article 15 du RGPD, alors que ces informations sont accessibles dans le cadre de l’abonnement LinkedIn Premium.

« 270 personnes ont consulté votre profil au cours des 90 derniers jours », affiche LinkedIn, après clic sur une notification signalant la visite d’un « recruteur » et de trois autres personnes. Problème : le réseau social ne donne que des indices succincts sur le profil des curieux en question. Pour savoir qui ils sont vraiment, la plateforme invite, ou plutôt incite, à souscrire son abonnement payant : « Développez votre carrière ou votre entreprise avec Premium. Accédez à la liste complète maintenant ».

Deux poids deux mesures ?

L’accès à ces données ne devrait-il pas être concédé gratuitement sur demande de l’utilisateur ? C’est l’hypothèse soulevée par l’association de défense de la vie privée noyb (none of your business), dans une plainte (PDF en allemand) déposée mardi 5 mai devant l’autorité autrichienne de protection des données, la DSB. Elle y invoque l’article 15 du RGPD, celui qui dispose qu’un internaute est en droit d’accéder aux données personnelles le concernant, sur demande, auprès d’un responsable de traitement.

• Le RGPD expliqué ligne par ligne (articles 1 à 23)

Dans le détail, l’association explique représenter un internaute qui a tenté d’obtenir, auprès de LinkedIn, la liste des personnes ayant visité son profil. Pour ce faire, l’utilisateur a d’abord utilisé les fonctions de téléchargement des données personnelles mises à disposition par la plateforme. À défaut d’y avoir trouvé les visiteurs de son profil, il a ensuite sollicité directement le réseau social via son formulaire de contact, et se serait vu opposer une fin de non-recevoir.

Après relance, LinkedIn aurait répondu au plaignant ne pas être tenu de mettre à disposition les données relatives aux personnes ayant consulté son profil, dans la mesure où ce ne sont pas ses propres informations personnelles, mais celles d’autres membres.

Autrement dit, le réseau social ne pourrait pas communiquer ces informations dans la mesure où elles concernent d’autres utilisateurs. Mais dans le même temps, son abonnement payant permet de faire sauter cette barrière.

Pour noyb, LinkedIn entretient à ce niveau un double discours difficilement tenable. « Il est clair que si ces données sont affichées dans le cadre d’un abonnement Premium, elles devraient également être accessibles sur demande, conformément à l’article 15 du RGPD », résume l’association dans un communiqué.

L’article 15 mentionne explicitement les « destinataires »

Pour justifier cette position, elle s’appuie notamment sur l’alinéa c) du paragraphe 1 de l’article 15, qui dispose que cette obligation de correspondance englobe « les destinataires » auxquels les données personnelles ont été communiquées. Elle rappelle par ailleurs que cette lecture du règlement a été confirmée par une décision de la CJUE faisant jurisprudence.

Elle fait enfin valoir que LinkedIn offre, au niveau du profil, une option permettant de visiter de façon anonyme la page d’autres utilisateurs du réseau : ceux qui n’activent pas cette option acceptent donc, selon noyb, d’être perçus comme destinataires, ce qui écarterait donc le risque d’une atteinte aux droits et libertés d’autrui telle que prévue par le point 4 de l’article 15.

Sur la base de ces éléments, noyb demande à la CNIL autrichienne de donner suite à la demande d’accès formulée par le plaignant, mais aussi de prononcer une amende dissuasive à l’encontre de LinkedIn. « La protection des droits et libertés d’autrui peut effectivement justifier la non-divulgation de données personnelles partagées. Toutefois, si une entreprise a obtenu le consentement requis et se montre clairement disposée à mettre ces mêmes données à disposition moyennant paiement, cet argument ne tient plus », résume Martin Baumann, l’avocat de noyb.

LinkedIn et sa maison-mère, Microsoft, n’ont pour l’instant pas réagi publiquement.

De l'implication dans le réel de conversations artificielles

En avril 2025, Phoenix Ikner, 20 ans, a consulté le chatbot d’OpenAI sur l’opportunité de la fusillade à l’université de l’État de Floride dont il est suspecté d’être le principal auteur. Le procureur général de l’État a annoncé lancer une enquête criminelle pour savoir si l’entreprise avait une responsabilité juridique dans cette affaire.

Mise à jour du 11 mai, 14h45 : Après l’enquête lancée par le procureur général de l’État de Floride, la famille d’une des victimes de la fusillade à l’université de l’État de Floride a porté plainte contre OpenAI.

Comme l’explique NBC News, la plainte [PDF] affirme que Phoenix Ikner a suivi les instructions, les conseils et les recommandations que ChatGPT lui avait fournis.

« ChatGPT a validé et amplifié les croyances délirantes de Phoenix Ikner, a renforcé son obsession de commettre une fusillade de masse, n’a pas su reconnaître le caractère inquiétant de ses échanges répétés avec le programme, et lui a permis de commettre cet acte horrible sans déclencher d’alerte ni signaler la situation pour qu’un humain puisse l’examiner et/ou intervenir », affirme les avocats de Vandana Joshi, la veuve de Tiru Chabba qui travaillait pour le prestataire de services de restauration collective de l’université.

« Ikner a eu de longues conversations avec ChatGPT qui, prises dans leur ensemble, auraient conduit n’importe quel être humain sensé à conclure qu’il envisageait un projet imminent visant à nuire à autrui. Cependant, soit ChatGPT n’a pas su faire le lien, soit il n’a tout simplement pas été conçu pour détecter cette menace », ajoute le texte.

---

Article publié originellement le 22 avril :

Après l’encouragement au suicide d’un adolescent, ou à un meurtre, OpenAI et son chatbot sont accusés d’avoir aidé à la planification d’une fusillade proche des locaux d’un syndicat étudiant sur le campus de l’université de Floride.

Le 17 avril 2025, Phoenix Ikner, 20 ans, fils d’une policière, a déclenché une fusillade devant les locaux d’un syndicat étudiant sur le campus de l’université de l’État de Floride, faisant deux morts et six blessés, comme l’expliquait à l’époque USA Today.

Ce mardi 21 avril, le procureur général de l’État James Uthmeier a annoncé avoir lancé une enquête visant le rôle de ChatGPT et de son éditeur OpenAI dans cette tuerie. « La décision d’ouvrir une enquête fait suite à un premier examen, par les procureurs, des historiques de conversation entre ChatGPT et Phoenix Ikner, l’auteur de la fusillade survenue l’année dernière à l’université d’État de Floride », explique son communiqué de presse.

« Si ChatGPT était une personne, elle serait poursuivie pour meurtre »

Quelques jours plus tôt, le média local WTXL expliquait que les enquêteurs analysaient les logs des discussions de Phoenix Ikner avec le chatbot. Le jour de la fusillade, il aurait notamment demandé à ChatGPT comment le pays réagirait s’il y avait une fusillade dans cette université, quand la dernière fusillade avait eu lieu, quel nombre de victimes permet d’attirer l’attention des médias et si trois était suffisant.

Le chatbot aurait répondu qu’une fusillade avec trois victimes ou plus « ferait très certainement l’objet d’une couverture médiatique nationale ». Enfin, il aurait demandé à quelle heure les locaux du syndicat étudiant de l’université accueillaient le plus de monde.

• OpenAI et Anthropic scannent les conversations à la recherche d’usages problématiques

« La Floride montre la voie en matière de lutte contre l’utilisation de l’IA dans le cadre d’activités criminelles, et si ChatGPT était une personne, elle serait poursuivie pour meurtre », affirme le procureur général de l’État James Uthmeier dans son communiqué :

« Cette enquête pénale permettra de déterminer si OpenAI engage sa responsabilité pénale pour les agissements de ChatGPT lors de la fusillade survenue l’année dernière à l’université d’État de Floride. »

« Ce n’est pas parce qu’il s’agit d’un chatbot basé sur l’IA qu’il n’y a pas de responsabilité pénale », a-t-il déclaré lors de sa conférence de presse sur le sujet, selon Politico :

« Nous allons donc examiner qui savait quoi, qui a conçu quoi, ou qui aurait dû agir. Et s’il apparaît clairement que certaines personnes savaient que ce genre de comportements dangereux pouvait se produire, que ce genre d’événements tragiques et malheureux pouvait se produire, et qu’elles ont néanmoins privilégié le profit, qu’elles ont néanmoins laissé cette entreprise poursuivre ses activités, alors ces personnes devront rendre des comptes. »

De potentielles responsabilités pénales pour des responsables de l’entreprise

Pour l’enquête, son équipe a demandé à OpenAI de lui fournir de multiples informations sur les sécurités mises en place sur son chatbot concernant ce genre d’événement. Ainsi, l’entreprise doit notamment leur fournir toutes les informations sur les mesures internes concernant les menaces proférées par des utilisateurs à l’encontre d’autrui, à l’encontre d’eux-mêmes et concernant la coopération de l’entreprise avec la police pour signaler des crimes (au passé, futur ou présent).

Le procureur général demande aussi à l’entreprise de lui fournir un organigramme de ses responsables ainsi que la liste de tous les employés travaillant sur ChatGPT lors de différentes dates clés pour l’enquête.

Lors de sa conférence de presse, James Uthmeier a expliqué que l’éventuelle responsabilité pénale contre une entreprise constituerait une première dans le domaine juridique, rapporte le New York Times. Mais il ne s’interdit pas de viser des personnes physiques liées à l’entreprise lors de son enquête : « des êtres humains auraient pu intervenir dans la conception, la gestion et le fonctionnement » de ChatGPT, au point où cela pourrait « engager leur responsabilité pénale ».

« La fusillade de masse qui s’est produite l’année dernière à l’université d’État de Floride a été une tragédie, mais ChatGPT n’est pas responsable de ce crime odieux », indique le communiqué d’OpenAI sur le sujet transmis au New York Times.

« Dans ce cas précis, ChatGPT a fourni des réponses factuelles à des questions en s’appuyant sur des informations largement disponibles dans des sources publiques sur Internet, et n’a ni encouragé ni favorisé aucune activité illégale ou préjudiciable », ajoute l’entreprise.

De l'implication dans le réel de conversations artificielles

En avril 2025, Phoenix Ikner, 20 ans, a consulté le chatbot d’OpenAI sur l’opportunité de la fusillade à l’université de l’État de Floride dont il est suspecté d’être le principal auteur. Le procureur général de l’État a annoncé lancer une enquête criminelle pour savoir si l’entreprise avait une responsabilité juridique dans cette affaire.

Mise à jour du 11 mai, 14h45 : Après l’enquête lancée par le procureur général de l’État de Floride, la famille d’une des victimes de la fusillade à l’université de l’État de Floride a porté plainte contre OpenAI.

Comme l’explique NBC News, la plainte [PDF] affirme que Phoenix Ikner a suivi les instructions, les conseils et les recommandations que ChatGPT lui avait fournis.

« ChatGPT a validé et amplifié les croyances délirantes de Phoenix Ikner, a renforcé son obsession de commettre une fusillade de masse, n’a pas su reconnaître le caractère inquiétant de ses échanges répétés avec le programme, et lui a permis de commettre cet acte horrible sans déclencher d’alerte ni signaler la situation pour qu’un humain puisse l’examiner et/ou intervenir », affirme les avocats de Vandana Joshi, la veuve de Tiru Chabba qui travaillait pour le prestataire de services de restauration collective de l’université.

« Ikner a eu de longues conversations avec ChatGPT qui, prises dans leur ensemble, auraient conduit n’importe quel être humain sensé à conclure qu’il envisageait un projet imminent visant à nuire à autrui. Cependant, soit ChatGPT n’a pas su faire le lien, soit il n’a tout simplement pas été conçu pour détecter cette menace », ajoute le texte.

---

Article publié originellement le 22 avril :

Après l’encouragement au suicide d’un adolescent, ou à un meurtre, OpenAI et son chatbot sont accusés d’avoir aidé à la planification d’une fusillade proche des locaux d’un syndicat étudiant sur le campus de l’université de Floride.

Le 17 avril 2025, Phoenix Ikner, 20 ans, fils d’une policière, a déclenché une fusillade devant les locaux d’un syndicat étudiant sur le campus de l’université de l’État de Floride, faisant deux morts et six blessés, comme l’expliquait à l’époque USA Today.

Ce mardi 21 avril, le procureur général de l’État James Uthmeier a annoncé avoir lancé une enquête visant le rôle de ChatGPT et de son éditeur OpenAI dans cette tuerie. « La décision d’ouvrir une enquête fait suite à un premier examen, par les procureurs, des historiques de conversation entre ChatGPT et Phoenix Ikner, l’auteur de la fusillade survenue l’année dernière à l’université d’État de Floride », explique son communiqué de presse.

« Si ChatGPT était une personne, elle serait poursuivie pour meurtre »

Quelques jours plus tôt, le média local WTXL expliquait que les enquêteurs analysaient les logs des discussions de Phoenix Ikner avec le chatbot. Le jour de la fusillade, il aurait notamment demandé à ChatGPT comment le pays réagirait s’il y avait une fusillade dans cette université, quand la dernière fusillade avait eu lieu, quel nombre de victimes permet d’attirer l’attention des médias et si trois était suffisant.

Le chatbot aurait répondu qu’une fusillade avec trois victimes ou plus « ferait très certainement l’objet d’une couverture médiatique nationale ». Enfin, il aurait demandé à quelle heure les locaux du syndicat étudiant de l’université accueillaient le plus de monde.

• OpenAI et Anthropic scannent les conversations à la recherche d’usages problématiques

« La Floride montre la voie en matière de lutte contre l’utilisation de l’IA dans le cadre d’activités criminelles, et si ChatGPT était une personne, elle serait poursuivie pour meurtre », affirme le procureur général de l’État James Uthmeier dans son communiqué :

« Cette enquête pénale permettra de déterminer si OpenAI engage sa responsabilité pénale pour les agissements de ChatGPT lors de la fusillade survenue l’année dernière à l’université d’État de Floride. »

« Ce n’est pas parce qu’il s’agit d’un chatbot basé sur l’IA qu’il n’y a pas de responsabilité pénale », a-t-il déclaré lors de sa conférence de presse sur le sujet, selon Politico :

« Nous allons donc examiner qui savait quoi, qui a conçu quoi, ou qui aurait dû agir. Et s’il apparaît clairement que certaines personnes savaient que ce genre de comportements dangereux pouvait se produire, que ce genre d’événements tragiques et malheureux pouvait se produire, et qu’elles ont néanmoins privilégié le profit, qu’elles ont néanmoins laissé cette entreprise poursuivre ses activités, alors ces personnes devront rendre des comptes. »

De potentielles responsabilités pénales pour des responsables de l’entreprise

Pour l’enquête, son équipe a demandé à OpenAI de lui fournir de multiples informations sur les sécurités mises en place sur son chatbot concernant ce genre d’événement. Ainsi, l’entreprise doit notamment leur fournir toutes les informations sur les mesures internes concernant les menaces proférées par des utilisateurs à l’encontre d’autrui, à l’encontre d’eux-mêmes et concernant la coopération de l’entreprise avec la police pour signaler des crimes (au passé, futur ou présent).

Le procureur général demande aussi à l’entreprise de lui fournir un organigramme de ses responsables ainsi que la liste de tous les employés travaillant sur ChatGPT lors de différentes dates clés pour l’enquête.

Lors de sa conférence de presse, James Uthmeier a expliqué que l’éventuelle responsabilité pénale contre une entreprise constituerait une première dans le domaine juridique, rapporte le New York Times. Mais il ne s’interdit pas de viser des personnes physiques liées à l’entreprise lors de son enquête : « des êtres humains auraient pu intervenir dans la conception, la gestion et le fonctionnement » de ChatGPT, au point où cela pourrait « engager leur responsabilité pénale ».

« La fusillade de masse qui s’est produite l’année dernière à l’université d’État de Floride a été une tragédie, mais ChatGPT n’est pas responsable de ce crime odieux », indique le communiqué d’OpenAI sur le sujet transmis au New York Times.

« Dans ce cas précis, ChatGPT a fourni des réponses factuelles à des questions en s’appuyant sur des informations largement disponibles dans des sources publiques sur Internet, et n’a ni encouragé ni favorisé aucune activité illégale ou préjudiciable », ajoute l’entreprise.