🤢️🤢️🤢️🤢️

Dans une plainte déposée par une femme, l’entreprise d’Elon Musk est accusée d’avoir entrainé son IA générative Grok sur des photos et des images générées par IA pédocriminelles.

Attention : le sujet de cet article est particulièrement difficile et certains détails évoqués peuvent heurter.

Après avoir été accusée d’avoir laissé Grok générer des milliers de contenus pédocriminels pour les utilisateurs de X, SpaceXAI (xAI, l’ancien nom de l’entreprise d’IA générative d’Elon Musk est utilisé dans la plainte dont il est question) va de nouveau devoir se défendre devant la justice états-unienne concernant l’utilisation de ce genre de contenus. Mais, pour la première fois, elle va aussi devoir répondre de l’accusation d’avoir utilisé des contenus pédocriminels pour entrainer son IA.

• Grok aurait généré 7 000 deepfakes pédocriminels d’une mineure pour son beau-père

En effet, une victime-survivante de viols et d’agressions sexuelles dans les années 2000, lorsqu’elle était très jeune enfant, vient de porter plainte contre l’entreprise d’Elon Musk. Sa plainte [PDF] (obtenue par Arstechnica et d’autres médias américains) est déposée en tant que « class action » pour que toute personne située aux États-Unis et « dont des images et vidéos d’elle prises lorsqu’elle était mineure, ont été modifiées par Grok pour produire de la pédopornographie » puisse s’y joindre.

Des photos utilisées par Grok étaient déjà estampillées comme pédocriminelles

Le document explique qu’elle « a été victime à plusieurs reprises de viols et d’abus sexuels alors qu’elle était mineure, dans le but précis de produire du matériel pédocriminel destiné à être diffusé sur Internet, qui continue de circuler en ligne à ce jour ».

Ces photos ont été ajoutées à la liste de hash du National Center for Missing & Exploited Children (NCMEC), une organisation états-unienne qui s’occupe des affaires de mineurs disparus et exploités et de son homologue canadien, le Centre canadien de protection de l’enfance. La plaignante s’est volontairement inscrite au programme qui permet à ses avocats d’être alertés lorsqu’un nouveau cas d’utilisation des photos d’elle fait l’objet d’une enquête.

Et cette alerte leur a été envoyée à propos d’enquêtes concernant SpaceXAI. « En effet, sur les forums en ligne fréquentés par des délinquants, on trouve des messages dans lesquels ces derniers discutent de la création de contenus pédocriminels générés par IA mettant en scène la plaignante et d’autres victimes de pédocriminalité connues de longue date », relate le document.

Mais la plainte évoque aussi le fait que « du contenu pédocriminel représentant la plaignante, dont les valeurs de hachage sont connues depuis longtemps, a été utilisé dans le cadre de l’ensemble de données exploité par xAI ». Les avocats expliquent que le Centre canadien de protection de l’enfance a, lui, identifié des images pédocriminelles générées par xAI dans lesquelles la victime-survivante est représentée.

Ils insistent sur le fait que chaque fois que Grok crée une image pédocriminelle d’elle ou qu’il republie une photo pédocriminelle d’elle, cette IA générative lui inflige une nouvelle blessure.

Des soupçons sur leur utilisation pour l’entraînement

Mais, « étant donné que les conditions d’utilisation de Grok considèrent par défaut les publications publiques sur X et les propres résultats de Grok comme des données d’entraînement », expliquent les avocats, « la publication d’une image ne se limite pas à la rendre visible aux internautes, mais cela alimente également directement le pipeline utilisé par xAI pour entraîner et améliorer son modèle, et ainsi générer d’autres images ».

La plainte insiste : « étant donné qu’il est techniquement difficile d’éliminer totalement l’influence d’un exemple d’entraînement sur un modèle déjà entraîné, et que xAI n’a pas publiquement affirmé y être parvenu, tout contenu pédocriminel intégré à l’entraînement avant son retrait a probablement continué à influencer les résultats du modèle, même après que les images originales ont été retirées de l’espace public ». Et les avocats ajoutent que si l’entreprise a indiqué filtrer les contenus « violents », elle ne l’a pas explicitement indiqué concernant les contenus NSFW, pédocriminels ou les images intimes non consensuelles.

« Au lieu de prendre les précautions nécessaires pour empêcher la création d’images à caractère sexuel non consenties, dont des images pédocriminelles, xAI et son fondateur, Elon Musk, ont choisi de tirer profit de l’appétit des prédateurs pour les images et vidéos à caractère sexuel non consenties représentant des personnes réelles, y compris des enfants », accusent les avocats de la victime-survivante.

Elle demande que xAI ait l’interdiction de générer, de posséder, ou de transporter des images pédocriminelles d’elle et des autres victimes, mais aussi que l’entreprise ait l’obligation de détruire toutes les images pédocriminelles que son IA a générées. Comme elle a choisi de faire de cette plainte une « class action », toutes les victimes situées aux États-Unis pourront obtenir des réparations financières si l’entreprise est condamnée.

Contactée par nos consœurs d’ArsTechnica et de Law360, SpaceXAI n’a pas répondu.

🤢️🤢️🤢️🤢️

Dans une plainte déposée par une femme, l’entreprise d’Elon Musk est accusée d’avoir entrainé son IA générative Grok sur des photos et des images générées par IA pédocriminelles.

Attention : le sujet de cet article est particulièrement difficile et certains détails évoqués peuvent heurter.

Après avoir été accusée d’avoir laissé Grok générer des milliers de contenus pédocriminels pour les utilisateurs de X, SpaceXAI (xAI, l’ancien nom de l’entreprise d’IA générative d’Elon Musk est utilisé dans la plainte dont il est question) va de nouveau devoir se défendre devant la justice états-unienne concernant l’utilisation de ce genre de contenus. Mais, pour la première fois, elle va aussi devoir répondre de l’accusation d’avoir utilisé des contenus pédocriminels pour entrainer son IA.

• Grok aurait généré 7 000 deepfakes pédocriminels d’une mineure pour son beau-père

En effet, une victime-survivante de viols et d’agressions sexuelles dans les années 2000, lorsqu’elle était très jeune enfant, vient de porter plainte contre l’entreprise d’Elon Musk. Sa plainte [PDF] (obtenue par Arstechnica et d’autres médias américains) est déposée en tant que « class action » pour que toute personne située aux États-Unis et « dont des images et vidéos d’elle prises lorsqu’elle était mineure, ont été modifiées par Grok pour produire de la pédopornographie » puisse s’y joindre.

Des photos utilisées par Grok étaient déjà estampillées comme pédocriminelles

Le document explique qu’elle « a été victime à plusieurs reprises de viols et d’abus sexuels alors qu’elle était mineure, dans le but précis de produire du matériel pédocriminel destiné à être diffusé sur Internet, qui continue de circuler en ligne à ce jour ».

Ces photos ont été ajoutées à la liste de hash du National Center for Missing & Exploited Children (NCMEC), une organisation états-unienne qui s’occupe des affaires de mineurs disparus et exploités et de son homologue canadien, le Centre canadien de protection de l’enfance. La plaignante s’est volontairement inscrite au programme qui permet à ses avocats d’être alertés lorsqu’un nouveau cas d’utilisation des photos d’elle fait l’objet d’une enquête.

Et cette alerte leur a été envoyée à propos d’enquêtes concernant SpaceXAI. « En effet, sur les forums en ligne fréquentés par des délinquants, on trouve des messages dans lesquels ces derniers discutent de la création de contenus pédocriminels générés par IA mettant en scène la plaignante et d’autres victimes de pédocriminalité connues de longue date », relate le document.

Mais la plainte évoque aussi le fait que « du contenu pédocriminel représentant la plaignante, dont les valeurs de hachage sont connues depuis longtemps, a été utilisé dans le cadre de l’ensemble de données exploité par xAI ». Les avocats expliquent que le Centre canadien de protection de l’enfance a, lui, identifié des images pédocriminelles générées par xAI dans lesquelles la victime-survivante est représentée.

Ils insistent sur le fait que chaque fois que Grok crée une image pédocriminelle d’elle ou qu’il republie une photo pédocriminelle d’elle, cette IA générative lui inflige une nouvelle blessure.

Des soupçons sur leur utilisation pour l’entraînement

Mais, « étant donné que les conditions d’utilisation de Grok considèrent par défaut les publications publiques sur X et les propres résultats de Grok comme des données d’entraînement », expliquent les avocats, « la publication d’une image ne se limite pas à la rendre visible aux internautes, mais cela alimente également directement le pipeline utilisé par xAI pour entraîner et améliorer son modèle, et ainsi générer d’autres images ».

La plainte insiste : « étant donné qu’il est techniquement difficile d’éliminer totalement l’influence d’un exemple d’entraînement sur un modèle déjà entraîné, et que xAI n’a pas publiquement affirmé y être parvenu, tout contenu pédocriminel intégré à l’entraînement avant son retrait a probablement continué à influencer les résultats du modèle, même après que les images originales ont été retirées de l’espace public ». Et les avocats ajoutent que si l’entreprise a indiqué filtrer les contenus « violents », elle ne l’a pas explicitement indiqué concernant les contenus NSFW, pédocriminels ou les images intimes non consensuelles.

« Au lieu de prendre les précautions nécessaires pour empêcher la création d’images à caractère sexuel non consenties, dont des images pédocriminelles, xAI et son fondateur, Elon Musk, ont choisi de tirer profit de l’appétit des prédateurs pour les images et vidéos à caractère sexuel non consenties représentant des personnes réelles, y compris des enfants », accusent les avocats de la victime-survivante.

Elle demande que xAI ait l’interdiction de générer, de posséder, ou de transporter des images pédocriminelles d’elle et des autres victimes, mais aussi que l’entreprise ait l’obligation de détruire toutes les images pédocriminelles que son IA a générées. Comme elle a choisi de faire de cette plainte une « class action », toutes les victimes situées aux États-Unis pourront obtenir des réparations financières si l’entreprise est condamnée.

Contactée par nos consœurs d’ArsTechnica et de Law360, SpaceXAI n’a pas répondu.

Le fait du prince ne passe pas

L’administration de Donald Trump avait classé Anthropic dans la liste des entreprises à risque pour la chaîne d’approvisionnement du Pentagone. La justice états-unienne vient de déclarer cette décision illégale.

Donald Trump ne peut pas imposer les sanctions qu’il avait décidées à Anthropic, a jugé Rita Lin, la juge en charge de l’affaire qui oppose le Département de la Défense des États-Unis à l’entreprise. Elle a qualifié d’ « illégales et sans fondement » ces mesures.

Rappelez-vous : entre fin février et début mars, le torchon brûle entre Donald Trump et le CEO d’Anthropic, Dario Amodei. Le président états-unien demande d’abord publiquement à son administration « de CESSER IMMÉDIATEMENT toute utilisation de la technologie d’Anthropic ». Quelques jours après, la sanction administrative tombe officiellement : Anthropic a été désignée « fournisseur à risque pour la sécurité nationale ».

Le Pentagone est revenu sur son accusation de backdoor

Si Dario Amodei s’est excusé publiquement d’avoir affirmé dans une note interne « Nous n’avons pas fait d’éloges à Trump dignes d’un dictateur (contrairement à Sam [Altman, ndlr]) », il ajoutait que son entreprise allait contester la décision devant la justice.

Six mois après, la juge Rita Lin, chargée de l’affaire, lui a donc donné raison. Dans sa décision [PDF], elle explique que le Pentagone est « désormais revenu sur l’argument central de son évaluation des risques, qui reposait sur l’hypothèse selon laquelle Anthropic disposerait d’une backdoor pour avoir accès à sa technologie une fois celle-ci déployée dans un système de sécurité nationale ».

« Il apparaît désormais clairement qu’Anthropic ne dispose incontestablement d’aucun accès de ce type et que, comme le reconnait la défense, la technologie d’Anthropic ne présente en soi pas plus de risques pour la sécurité nationale que n’importe quel autre modèle d’intelligence artificielle de type « boîte noire » », ajoute-t-elle.

« Invoquer à tort et à travers la sécurité nationale ne constitue pas un blanc-seing »

La juge en profite pour rappeler au gouvernement américain quelques petites règles. Ainsi, dans le document, Rita Lin écrit :

« Il est certain que le gouvernement mérite une certaine déférence sur les questions cruciales de sécurité nationale. Cependant, les propos et les actes de la défense à l’époque confirment que les mesures contestées étaient motivées par la volonté de faire d’Anthropic un exemple public en raison de son « arrogance » à critiquer le gouvernement, et non par un motif concret permettant de croire qu’Anthropic saboterait réellement son modèle ».

Elle ajoute que « le fait d’invoquer à tort et à travers la sécurité nationale ne constitue pas un blanc-seing pour punir et exercer des représailles contre les détracteurs du gouvernement ».

Dans sa décision, Rita Lin explique que, quelques jours seulement avant que l’administration Trump annonce ces mesures de rétorsion, le secrétaire à la Défense, Pete Hegseth, a proposé d’appliquer le Defense Production Act à Anthropic, « ce qui aurait signifié que l’entreprise est essentielle à la sécurité nationale plutôt qu’une menace pour celle-ci ».

Elle poursuit en constatant que le Pentagone a continué à négocier un contrat avec Anthropic après les annonces de Donald Trump, affirmant même : « Nous sommes très proches d’un accord ».

« Même aujourd’hui, le gouvernement discute d’une collaboration avec Anthropic sur son nouveau modèle, Mythos, dans toute une série de contextes sensibles », explique-t-elle. Et de conclure : « Rien de tout cela n’est compatible avec une crainte légitime qu’Anthropic soit un saboteur qui empoisonnerait ses logiciels pour nuire à la sécurité nationale ».

« Nous continuons à nous attacher à collaborer de manière constructive avec le gouvernement afin de mettre l’intelligence artificielle au service de notre sécurité nationale, pour que tous les Américains puissent bénéficier de cette technologie », a déclaré sans trop de triomphalisme apparent un porte-parole de la startup dans un communiqué relayé par l’agence Associated Press.

Plus prompt à essayer d’imposer au Canada un nouveau nom au lac Ontario, Donald Trump n’a pas réagi à cette décision. Ni le Département de la Défense américain ni la Maison Blanche n’ont communiqué sur le sujet. Cette dernière n’a pas répondu aux questions de l’agence Associated Press.

Le fait du prince ne passe pas

L’administration de Donald Trump avait classé Anthropic dans la liste des entreprises à risque pour la chaîne d’approvisionnement du Pentagone. La justice états-unienne vient de déclarer cette décision illégale.

Donald Trump ne peut pas imposer les sanctions qu’il avait décidées à Anthropic, a jugé Rita Lin, la juge en charge de l’affaire qui oppose le Département de la Défense des États-Unis à l’entreprise. Elle a qualifié d’ « illégales et sans fondement » ces mesures.

Rappelez-vous : entre fin février et début mars, le torchon brûle entre Donald Trump et le CEO d’Anthropic, Dario Amodei. Le président états-unien demande d’abord publiquement à son administration « de CESSER IMMÉDIATEMENT toute utilisation de la technologie d’Anthropic ». Quelques jours après, la sanction administrative tombe officiellement : Anthropic a été désignée « fournisseur à risque pour la sécurité nationale ».

Le Pentagone est revenu sur son accusation de backdoor

Si Dario Amodei s’est excusé publiquement d’avoir affirmé dans une note interne « Nous n’avons pas fait d’éloges à Trump dignes d’un dictateur (contrairement à Sam [Altman, ndlr]) », il ajoutait que son entreprise allait contester la décision devant la justice.

Six mois après, la juge Rita Lin, chargée de l’affaire, lui a donc donné raison. Dans sa décision [PDF], elle explique que le Pentagone est « désormais revenu sur l’argument central de son évaluation des risques, qui reposait sur l’hypothèse selon laquelle Anthropic disposerait d’une backdoor pour avoir accès à sa technologie une fois celle-ci déployée dans un système de sécurité nationale ».

« Il apparaît désormais clairement qu’Anthropic ne dispose incontestablement d’aucun accès de ce type et que, comme le reconnait la défense, la technologie d’Anthropic ne présente en soi pas plus de risques pour la sécurité nationale que n’importe quel autre modèle d’intelligence artificielle de type « boîte noire » », ajoute-t-elle.

« Invoquer à tort et à travers la sécurité nationale ne constitue pas un blanc-seing »

La juge en profite pour rappeler au gouvernement américain quelques petites règles. Ainsi, dans le document, Rita Lin écrit :

« Il est certain que le gouvernement mérite une certaine déférence sur les questions cruciales de sécurité nationale. Cependant, les propos et les actes de la défense à l’époque confirment que les mesures contestées étaient motivées par la volonté de faire d’Anthropic un exemple public en raison de son « arrogance » à critiquer le gouvernement, et non par un motif concret permettant de croire qu’Anthropic saboterait réellement son modèle ».

Elle ajoute que « le fait d’invoquer à tort et à travers la sécurité nationale ne constitue pas un blanc-seing pour punir et exercer des représailles contre les détracteurs du gouvernement ».

Dans sa décision, Rita Lin explique que, quelques jours seulement avant que l’administration Trump annonce ces mesures de rétorsion, le secrétaire à la Défense, Pete Hegseth, a proposé d’appliquer le Defense Production Act à Anthropic, « ce qui aurait signifié que l’entreprise est essentielle à la sécurité nationale plutôt qu’une menace pour celle-ci ».

Elle poursuit en constatant que le Pentagone a continué à négocier un contrat avec Anthropic après les annonces de Donald Trump, affirmant même : « Nous sommes très proches d’un accord ».

« Même aujourd’hui, le gouvernement discute d’une collaboration avec Anthropic sur son nouveau modèle, Mythos, dans toute une série de contextes sensibles », explique-t-elle. Et de conclure : « Rien de tout cela n’est compatible avec une crainte légitime qu’Anthropic soit un saboteur qui empoisonnerait ses logiciels pour nuire à la sécurité nationale ».

« Nous continuons à nous attacher à collaborer de manière constructive avec le gouvernement afin de mettre l’intelligence artificielle au service de notre sécurité nationale, pour que tous les Américains puissent bénéficier de cette technologie », a déclaré sans trop de triomphalisme apparent un porte-parole de la startup dans un communiqué relayé par l’agence Associated Press.

Plus prompt à essayer d’imposer au Canada un nouveau nom au lac Ontario, Donald Trump n’a pas réagi à cette décision. Ni le Département de la Défense américain ni la Maison Blanche n’ont communiqué sur le sujet. Cette dernière n’a pas répondu aux questions de l’agence Associated Press.

Solitude à vendre

Après la captation et la monétisation de l’attention, un rapport de la Fondation Jean Jaurès pointe les risques que les sociétés d’IA créent en matière de monétisation de la solitude.

« Augmenter l’isolement, c’est augmenter la consommation numérique. » Et pour augmenter leurs profits, les réseaux sociaux, désormais rejoint par les sociétés éditrices de compagnons IA, travaillent activement à renforcer l’isolement de la population. Ces dernières représenteraient « l’ultime étape » d’un système économique entièrement fondé sur la destruction des liens : le « capitalisme de la solitude ».

Telle est la thèse défendue par l’essayiste Paul Klotz dans un nouveau rapport de la Fondation Jean Jaurès. Le document détaille la montée de l’isolement en France comme ailleurs dans le monde et la manière dont les sociétés numériques, sous couvert d’abord de renforcer le lien social, puis désormais de fournir des compagnons personnalisés, œuvrent activement à l’accélération de la tendance.

Pour lutter contre le phénomène, il formule plusieurs recommandations spécifiques à l’industrie numérique. Il s’agirait de minimiser les design et fonctionnalités addictives des réseaux sociaux et des chatbots génératifs, d’abord en s’appuyant sur le règlement sur les services numériques (DSA) et en renforçant celui sur l’intelligence artificielle.

Plus largement, la fondation appelle à « exiger du développeur qu’il apporte la preuve de l’absence de nocivité de son service sur la santé physique et mentale de l’utilisateur » avant que celui-ci ne soit mis sur le marché – à l’image de ce qui se fait dans l’industrie pharmaceutique – plutôt qu’après. Elle enjoint aussi à étendre les projets d’interdiction des réseaux sociaux aux mineurs à celle des compagnons IA, « au nom du principe de précaution ».

Dans la mesure où la crise de la solitude n’est pas le seul fait des outils technologiques grand public, le document préconise aussi des mesures pour que l’État participe à renforcer le lien social, notamment via un « service public du bénévolat et de l’engagement associatif », et d’élever le « capital émotionnel, relationnel et cognitif des individus au rang des intérêts fondamentaux de la nation ».

Un isolement croissant depuis la fin de la deuxième Guerre mondiale

Évoquer l’épidémie de solitude, c’est d’abord une question de vocabulaire. La solitude n’est pas un problème en soi, mais elle le devient lorsqu’elle pèse sur la santé physique et mentale au niveau individuel, et sur le bon fonctionnement du groupe social à l’échelle collective.

La solitude objective, provoquée par l’absence physique, constatable, de liens sociaux, diffère de la solitude subjective, ressentie par la personne à un niveau psychique. Les deux versants du problème sont facteurs de surmortalité, à des échelles similaires, et aucun n’a attendu l’éclosion de l’industrie technologique pour s’accroître. En 2010, 9 % des Français déclarent une situation de solitude objective, une part passée à 11 % en 2025. En 2018, 24 % de la population sondée par l’Ifop déclarait subir de la solitude subjective, une part passée à 31 % en 2024.

Un chèque massif pour enterrer le procès

Meta a accepté de verser 18 milliards de dollars pour mettre fin aux plaintes de quatre États américains l’accusant d’avoir rendu Facebook et Instagram addictifs pour les mineurs.

Deux semaines après l’ouverture du procès qui l’oppose à quatre États américains, Meta a trouvé un accord avec les plaignants. Le géant des réseaux sociaux paiera 18 milliards de dollars pour régler les plaintes, selon Reuters. Elles accusaient l’entreprise d’avoir développé des fonctions addictives pour les enfants, et de collecter des données personnelles d’utilisateurs mineurs de manière inappropriée.

Meta s’engage à limiter les usages

La société a toujours nié les accusations, en faisant valoir que l’addiction aux réseaux sociaux n’est pas une pathologie psychiatrique reconnue. Malgré tout, Meta a accepté de procéder à des changements sur Facebook et Instagram pour les utilisateurs les plus jeunes sur une période de dix ans. Dans le détail, l’entreprise s’engage sur les points suivants, qualifiés de « standard de l’industrie » :

• une limite d’usage quotidienne de deux heures par défaut pour les adolescents (cumulée entre Instagram et Facebook) ;
• un mode nuit qui bloque les apps entre minuit et 6 h du matin ;
• un mode « école » qui désactive les notifications entre 8 h et 15 h ;
• des rappels après chaque période de 15 minutes d’utilisation continue de Facebook ou d’Instagram ;
• l’affichage d’un fil non algorithmique, que l’ado devra activer ;
• la désactivation de la lecture automatique, là aussi une option ;
• la désactivation des filtres de chirurgie esthétique et de maquillage extrême ;
• la vérification de l’âge, la détection et la suppression des comptes de mineurs trop jeunes ;
• la restriction de contenus adaptés à l’âge ;
• le renforcement du contrôle parental.

L’accord prévoit également la création d’une fondation indépendante de recherche sur les réseaux sociaux, avec laquelle Meta partagera des données d’utilisateurs ayant donné leur consentement. Un auditeur indépendant vérifiera chaque année pendant cinq ans le respect de l’accord par Meta et en rendra compte aux États.

Une somme bien plus faible que prévu

La somme annoncée est très loin des calculs apocalyptiques de Meta : l’entreprise avait en effet affirmé que les 4 États (California, Colorado, Kentucky et New Jersey) cherchaient à obtenir jusqu’à 1 400 milliards de dollars en pénalités. Ces mêmes États avaient chiffré le montant autour des 200 milliards.

L’accord a été signé par un groupe de 52 procureurs généraux. Tous les États participants recevront 70 % de la somme allouée, soit environ 12,7 milliards. Les 30 % restants (5,3 milliards) ne seront débloqués que si YouTube et TikTok s’engagent à implémenter des fonctions pour restreindre l’usage chez les mineurs : limite quotidienne de deux heures, un « mode nuit » et des mesures pour la vérification de l’âge. Les deux plateformes devront aussi accepter de verser un montant équivalent à 5,3 milliards de dollars, donc en quelque sorte de rembourser Meta des 30 % restants.

Meta en appelle en effet à ses rivaux, qui sont dans le même sac : des milliers de plaintes engorgent le système judiciaire américain non seulement contre Facebook et Instagram, mais aussi contre Snap, YouTube et Alphabet, TikTok et Bytedance. Il leur est reproché d’avoir conçu des plateformes ayant propulsé une crise de santé mentale chez les jeunes.

Meta a ainsi publié une lettre ouverte à YouTube et TikTok pour qu’ils mettent en œuvre des mesures destinées à protéger les enfants.

• Addiction aux plateformes de Meta : ce qu’il faut savoir du procès

Un chèque massif pour enterrer le procès

Meta a accepté de verser 18 milliards de dollars pour mettre fin aux plaintes de quatre États américains l’accusant d’avoir rendu Facebook et Instagram addictifs pour les mineurs.

Deux semaines après l’ouverture du procès qui l’oppose à quatre États américains, Meta a trouvé un accord avec les plaignants. Le géant des réseaux sociaux paiera 18 milliards de dollars pour régler les plaintes, selon Reuters. Elles accusaient l’entreprise d’avoir développé des fonctions addictives pour les enfants, et de collecter des données personnelles d’utilisateurs mineurs de manière inappropriée.

Meta s’engage à limiter les usages

La société a toujours nié les accusations, en faisant valoir que l’addiction aux réseaux sociaux n’est pas une pathologie psychiatrique reconnue. Malgré tout, Meta a accepté de procéder à des changements sur Facebook et Instagram pour les utilisateurs les plus jeunes sur une période de dix ans. Dans le détail, l’entreprise s’engage sur les points suivants, qualifiés de « standard de l’industrie » :

• une limite d’usage quotidienne de deux heures par défaut pour les adolescents (cumulée entre Instagram et Facebook) ;
• un mode nuit qui bloque les apps entre minuit et 6 h du matin ;
• un mode « école » qui désactive les notifications entre 8 h et 15 h ;
• des rappels après chaque période de 15 minutes d’utilisation continue de Facebook ou d’Instagram ;
• l’affichage d’un fil non algorithmique, que l’ado devra activer ;
• la désactivation de la lecture automatique, là aussi une option ;
• la désactivation des filtres de chirurgie esthétique et de maquillage extrême ;
• la vérification de l’âge, la détection et la suppression des comptes de mineurs trop jeunes ;
• la restriction de contenus adaptés à l’âge ;
• le renforcement du contrôle parental.

L’accord prévoit également la création d’une fondation indépendante de recherche sur les réseaux sociaux, avec laquelle Meta partagera des données d’utilisateurs ayant donné leur consentement. Un auditeur indépendant vérifiera chaque année pendant cinq ans le respect de l’accord par Meta et en rendra compte aux États.

Une somme bien plus faible que prévu

La somme annoncée est très loin des calculs apocalyptiques de Meta : l’entreprise avait en effet affirmé que les 4 États (California, Colorado, Kentucky et New Jersey) cherchaient à obtenir jusqu’à 1 400 milliards de dollars en pénalités. Ces mêmes États avaient chiffré le montant autour des 200 milliards.

L’accord a été signé par un groupe de 52 procureurs généraux. Tous les États participants recevront 70 % de la somme allouée, soit environ 12,7 milliards. Les 30 % restants (5,3 milliards) ne seront débloqués que si YouTube et TikTok s’engagent à implémenter des fonctions pour restreindre l’usage chez les mineurs : limite quotidienne de deux heures, un « mode nuit » et des mesures pour la vérification de l’âge. Les deux plateformes devront aussi accepter de verser un montant équivalent à 5,3 milliards de dollars, donc en quelque sorte de rembourser Meta des 30 % restants.

Meta en appelle en effet à ses rivaux, qui sont dans le même sac : des milliers de plaintes engorgent le système judiciaire américain non seulement contre Facebook et Instagram, mais aussi contre Snap, YouTube et Alphabet, TikTok et Bytedance. Il leur est reproché d’avoir conçu des plateformes ayant propulsé une crise de santé mentale chez les jeunes.

Meta a ainsi publié une lettre ouverte à YouTube et TikTok pour qu’ils mettent en œuvre des mesures destinées à protéger les enfants.

• Addiction aux plateformes de Meta : ce qu’il faut savoir du procès

Si les voeux étaient des poissons, nous lancerions tous des filets

Promulguée lundi par Emmanuel Macron, la loi instaurant l’interdiction des téléphones portables au lycée a été publiée au Journal Officiel. La mesure dispose donc désormais d’un cadre juridique, à temps pour la rentrée de septembre, mais de sérieux doutes planent toujours sur la capacité des établissements scolaires à la mettre en œuvre dans un délai aussi court.

Maintes fois répétée par le chef de l’État, la promesse de l’interdiction du téléphone portable au lycée à temps pour la rentrée de septembre est finalement tenue, au moins sur le papier. Lundi, Emmanuel Macron a en effet annoncé, sur X, avoir promulgué la loi associée. « Une école sans téléphone, c’est retrouver la sérénité de l’apprentissage », a-t-il déclaré.

Quelques heures plus tôt, la porte-parole du gouvernement Maud Bregeon avait confirmé l’imminence de cette promulgation, en sortie de conseil des ministres. Évoquant la censure partielle de la loi « visant à protéger les mineurs des risques auxquels les expose l’utilisation des réseaux sociaux » par le Conseil constitutionnel, elle avait néanmoins estimé que « l’interdiction des portables dans les lycées pourra être effective dès la rentrée avec un cadre juridique stable, consolidé et législatif ». Cette mesure, portée par l’article 3 de la loi, n’a en effet pas été censurée par les Sages.

Interdire et sensibiliser

Après la promulgation, place à la publication : la « loi n° 2026 - 813 du 24 août 2026 » figure bien au chapitre du Journal Officiel daté du mardi 25 août. Amputée de sa principale composante liée à l’interdiction des réseaux sociaux aux moins de quinze ans, elle dispose explicitement que l’interdiction des portables, déjà en vigueur en primaire et au collège, s’étend désormais aux lycées.

Pour ce faire, elle modifie l’article L511-5 du Code de l’éducation, en renvoyant la mise en œuvre de la mesure au règlement intérieur de l’établissement concerné et en prévoyant une exception possible pour les formations supérieures dispensées au sein des lycées (classes préparatoires notamment) :

« Les modalités d’application de cette interdiction et les exceptions à celle-ci sont déterminées par le règlement intérieur en cohérence avec le projet d’école ou d’établissement. Dans les lycées dispensant des formations de l’enseignement supérieur, le règlement intérieur peut prévoir des dispositions particulières pour les étudiants. »

La nouvelle loi ajoute également au projet d’école ou d’établissement un pan spécifiquement lié à « l’utilisation des technologies numériques au sein de l’école ou de l’établissement ainsi que des actions menées auprès des élèves, du personnel et des parents en matière de sensibilisation aux effets nocifs d’une exposition non raisonnée aux écrans et au caractère addictif des réseaux sociaux, notamment au regard des enjeux de santé publique ».

Un vœu pieux ?

Du cadre juridique à la mise en œuvre effective de l’interdiction, il y a cependant un pas, que de nombreux syndicats du monde enseignant estiment difficile, voire impossible, à franchir dans de bonnes conditions. Nombre d’entre eux alertent depuis des mois sur la nécessité d’une concertation préalable avec la communauté éducative et sur le caractère contestable de la mesure, qualifiée de simpliste au regard des enjeux complexes qu’elle recouvre.

De façon plus prosaïque, certains remarquent que le calendrier n’est pas tenable : fermés pendant l’été, les établissements n’ont tout simplement pas le temps de procéder aux formalités nécessaires à la modification de leur règlement intérieur. « Les établissements attaquent une année dans laquelle la règle n’est pas écrite dans le règlement intérieur, sauf ceux qui avaient peut-être tenté d’anticiper quelque chose, mais ça reste très très parcellaire », regrette par exemple François Resnais, secrétaire national du SNPDEN-UNSA, principal syndicat des chefs d’établissement, cité par l’AFP.

De son côté, le ministère de l’Éducation nationale a tenté de préparer le terrain, mais bien tard au regard de la fermeture estivale des lycées. Son vademecum dédié à l’interdiction des portables (PDF), daté de juin 2026, rappelle d’ailleurs le processus de mise à jour du règlement intérieur :

« Les élèves doivent être consultés notamment dans le cadre du conseil des délégués pour la vie lycéenne. (…) L’inscription de l’interdiction de l’utilisation du téléphone portable et des autres objets connectés, ainsi que les dérogations éventuelles, dans le règlement intérieur doit ensuite être adoptée par le conseil d’administration (article R. 421 - 20) avant transmission de la délibération au recteur d’académie (article R. 421 - 55). »

S’il prône l’accompagnement pédagogique, ce vademecum invite également les chefs d’établissement à réfléchir au régime de sanctions à appliquer en cas de non-respect de l’interdiction. « Ces réponses doivent être adaptées à chaque situation (c’est-à-dire graduées, personnalisées et proportionnées). Il peut s’agir d’une punition, notamment de la confiscation de l’objet voire d’une sanction disciplinaire », résume-t-il.

Une circulaire du ministère, datée du 2 juillet, invitait quant à elle à faire preuve de flexibilité dans la mise en œuvre de l’interdiction pour ne pas pénaliser le fonctionnement du lycée. « Ainsi, des dérogations limitatives peuvent être prévues pour permettre des usages pédagogiques ou s’adapter à certaines nécessités administratives ou organisationnelles telles que le fonctionnement du centre de documentation et d’information, du service de restauration ou d’hébergement ». Les lycéens apprécieront certainement.

L’interdiction des réseaux sociaux aux moins de 15 ans toujours dans le viseur

Sur le sujet plus sensible de l’interdiction des réseaux sociaux aux moins de 15 ans, et donc de la vérification d’âge systématique qu’elle imposerait aux utilisateurs de ces derniers, le gouvernement accuse réception de la censure du Conseil constitutionnel, mais dit maintenir son objectif.

« En parallèle, il y a des initiatives européennes, il y a la mission qui a été donnée au Premier ministre de réfléchir et d’avancer sur un travail qui prendrait en compte les remarques du Conseil constitutionnel. (…) L’objectif du président de la République d’avoir un cadre stabilisé d’ici au printemps prochain pour protéger nos enfants et nos jeunes est évidemment un objectif que nous continuons à poursuivre », a déclaré Maud Bregeon.

Si les voeux étaient des poissons, nous lancerions tous des filets

Promulguée lundi par Emmanuel Macron, la loi instaurant l’interdiction des téléphones portables au lycée a été publiée au Journal Officiel. La mesure dispose donc désormais d’un cadre juridique, à temps pour la rentrée de septembre, mais de sérieux doutes planent toujours sur la capacité des établissements scolaires à la mettre en œuvre dans un délai aussi court.

Maintes fois répétée par le chef de l’État, la promesse de l’interdiction du téléphone portable au lycée à temps pour la rentrée de septembre est finalement tenue, au moins sur le papier. Lundi, Emmanuel Macron a en effet annoncé, sur X, avoir promulgué la loi associée. « Une école sans téléphone, c’est retrouver la sérénité de l’apprentissage », a-t-il déclaré.

Quelques heures plus tôt, la porte-parole du gouvernement Maud Bregeon avait confirmé l’imminence de cette promulgation, en sortie de conseil des ministres. Évoquant la censure partielle de la loi « visant à protéger les mineurs des risques auxquels les expose l’utilisation des réseaux sociaux » par le Conseil constitutionnel, elle avait néanmoins estimé que « l’interdiction des portables dans les lycées pourra être effective dès la rentrée avec un cadre juridique stable, consolidé et législatif ». Cette mesure, portée par l’article 3 de la loi, n’a en effet pas été censurée par les Sages.

Interdire et sensibiliser

Après la promulgation, place à la publication : la « loi n° 2026 - 813 du 24 août 2026 » figure bien au chapitre du Journal Officiel daté du mardi 25 août. Amputée de sa principale composante liée à l’interdiction des réseaux sociaux aux moins de quinze ans, elle dispose explicitement que l’interdiction des portables, déjà en vigueur en primaire et au collège, s’étend désormais aux lycées.

Pour ce faire, elle modifie l’article L511-5 du Code de l’éducation, en renvoyant la mise en œuvre de la mesure au règlement intérieur de l’établissement concerné et en prévoyant une exception possible pour les formations supérieures dispensées au sein des lycées (classes préparatoires notamment) :

« Les modalités d’application de cette interdiction et les exceptions à celle-ci sont déterminées par le règlement intérieur en cohérence avec le projet d’école ou d’établissement. Dans les lycées dispensant des formations de l’enseignement supérieur, le règlement intérieur peut prévoir des dispositions particulières pour les étudiants. »

La nouvelle loi ajoute également au projet d’école ou d’établissement un pan spécifiquement lié à « l’utilisation des technologies numériques au sein de l’école ou de l’établissement ainsi que des actions menées auprès des élèves, du personnel et des parents en matière de sensibilisation aux effets nocifs d’une exposition non raisonnée aux écrans et au caractère addictif des réseaux sociaux, notamment au regard des enjeux de santé publique ».

Un vœu pieux ?

Du cadre juridique à la mise en œuvre effective de l’interdiction, il y a cependant un pas, que de nombreux syndicats du monde enseignant estiment difficile, voire impossible, à franchir dans de bonnes conditions. Nombre d’entre eux alertent depuis des mois sur la nécessité d’une concertation préalable avec la communauté éducative et sur le caractère contestable de la mesure, qualifiée de simpliste au regard des enjeux complexes qu’elle recouvre.

De façon plus prosaïque, certains remarquent que le calendrier n’est pas tenable : fermés pendant l’été, les établissements n’ont tout simplement pas le temps de procéder aux formalités nécessaires à la modification de leur règlement intérieur. « Les établissements attaquent une année dans laquelle la règle n’est pas écrite dans le règlement intérieur, sauf ceux qui avaient peut-être tenté d’anticiper quelque chose, mais ça reste très très parcellaire », regrette par exemple François Resnais, secrétaire national du SNPDEN-UNSA, principal syndicat des chefs d’établissement, cité par l’AFP.

De son côté, le ministère de l’Éducation nationale a tenté de préparer le terrain, mais bien tard au regard de la fermeture estivale des lycées. Son vademecum dédié à l’interdiction des portables (PDF), daté de juin 2026, rappelle d’ailleurs le processus de mise à jour du règlement intérieur :

« Les élèves doivent être consultés notamment dans le cadre du conseil des délégués pour la vie lycéenne. (…) L’inscription de l’interdiction de l’utilisation du téléphone portable et des autres objets connectés, ainsi que les dérogations éventuelles, dans le règlement intérieur doit ensuite être adoptée par le conseil d’administration (article R. 421 - 20) avant transmission de la délibération au recteur d’académie (article R. 421 - 55). »

S’il prône l’accompagnement pédagogique, ce vademecum invite également les chefs d’établissement à réfléchir au régime de sanctions à appliquer en cas de non-respect de l’interdiction. « Ces réponses doivent être adaptées à chaque situation (c’est-à-dire graduées, personnalisées et proportionnées). Il peut s’agir d’une punition, notamment de la confiscation de l’objet voire d’une sanction disciplinaire », résume-t-il.

Une circulaire du ministère, datée du 2 juillet, invitait quant à elle à faire preuve de flexibilité dans la mise en œuvre de l’interdiction pour ne pas pénaliser le fonctionnement du lycée. « Ainsi, des dérogations limitatives peuvent être prévues pour permettre des usages pédagogiques ou s’adapter à certaines nécessités administratives ou organisationnelles telles que le fonctionnement du centre de documentation et d’information, du service de restauration ou d’hébergement ». Les lycéens apprécieront certainement.

L’interdiction des réseaux sociaux aux moins de 15 ans toujours dans le viseur

Sur le sujet plus sensible de l’interdiction des réseaux sociaux aux moins de 15 ans, et donc de la vérification d’âge systématique qu’elle imposerait aux utilisateurs de ces derniers, le gouvernement accuse réception de la censure du Conseil constitutionnel, mais dit maintenir son objectif.

« En parallèle, il y a des initiatives européennes, il y a la mission qui a été donnée au Premier ministre de réfléchir et d’avancer sur un travail qui prendrait en compte les remarques du Conseil constitutionnel. (…) L’objectif du président de la République d’avoir un cadre stabilisé d’ici au printemps prochain pour protéger nos enfants et nos jeunes est évidemment un objectif que nous continuons à poursuivre », a déclaré Maud Bregeon.

Collecter n'est pas jouer

À la stupeur générale de bon nombre de créateurs de contenus, Twitch exploite automatiquement le contenu des chaînes pour entrainer les modèles IA d’Amazon. S’il est possible de désactiver l’option, elle est activée par défaut et les données de discussions dans un chat restent exploitables si quelqu’un dans la discussion a accepté de participer à la collecte.

• Twitch regrette mais assume : les contenus des chaînes entraînent par défaut l’IA d’Amazon

L’histoire n’allait pas en rester là. Une proposition de recours collectif (class action) a été déposée le 20 août en Californie contre Twitch et Amazon, propriétaire de la plateforme de streaming (PDF). L’accusation centrale du plaignant, Warren Pandiscia, streamer du Connecticut, est simple : Amazon aurait utilisé les contenus des créateurs de Twitch sans rémunération ni consentement.

L’évolution des CGU de Twitch appuie la plainte

Mike Minton, le directeur produit de Twitch, avait d’ailleurs justifié ce choix assez franchement : « si c’était à activer volontairement, personne ne le ferait. » La plainte va cependant plus loin que l’annonce du 12 août. Elle soutient en effet qu’Amazon utilisait déjà du contenu de Twitch pour ses modèles IA en 2024. À l’époque, il n’existait aucun mécanisme de refus.

Minton lui-même avait reconnu que Twitch servait effectivement à l’entraînement des modèles d’Amazon mais pour des prototypes, comme l’a rappelé 404media. Le fait que les conditions d’utilisation de Twitch aient été mises à jour le jour de l’annonce plaide en la faveur du plaignant, d’après sa poursuite.

La licence accordée aux utilisateurs permet à Twitch d’exploiter leurs contenus « en lien avec la monétisation des services de Twitch ». Le 12 août, la plateforme change la formulation : la licence peut désormais servir aux activités de Twitch et/ou de ses affiliés. Un changement qui sonne comme un aveu : si la licence précédente autorisait déjà l’utilisation des contenus des créateurs pour les activités d’IA générative d’Amazon, il n’aurait pas été nécessaire d’élargir la finalité de la licence de la sorte.

La plainte formule quatre chefs d’accusation : rupture d’un contrat implicite et du devoir de bonne foi contre Twitch, enrichissement injustifié contre Twitch et Amazon, rupture du contrat explicite contre les deux entreprises, et violation de la loi californienne sur les pratiques commerciales déloyales.

Le plaignant demande la certification de la plainte en class action, qui pourrait dès lors représenter les créateurs Twitch américains dont les œuvres auraient été indûment collectées pour entraîner les modèles d’Amazon.

Collecter n'est pas jouer

À la stupeur générale de bon nombre de créateurs de contenus, Twitch exploite automatiquement le contenu des chaînes pour entrainer les modèles IA d’Amazon. S’il est possible de désactiver l’option, elle est activée par défaut et les données de discussions dans un chat restent exploitables si quelqu’un dans la discussion a accepté de participer à la collecte.

• Twitch regrette mais assume : les contenus des chaînes entraînent par défaut l’IA d’Amazon

L’histoire n’allait pas en rester là. Une proposition de recours collectif (class action) a été déposée le 20 août en Californie contre Twitch et Amazon, propriétaire de la plateforme de streaming (PDF). L’accusation centrale du plaignant, Warren Pandiscia, streamer du Connecticut, est simple : Amazon aurait utilisé les contenus des créateurs de Twitch sans rémunération ni consentement.

L’évolution des CGU de Twitch appuie la plainte

Mike Minton, le directeur produit de Twitch, avait d’ailleurs justifié ce choix assez franchement : « si c’était à activer volontairement, personne ne le ferait. » La plainte va cependant plus loin que l’annonce du 12 août. Elle soutient en effet qu’Amazon utilisait déjà du contenu de Twitch pour ses modèles IA en 2024. À l’époque, il n’existait aucun mécanisme de refus.

Minton lui-même avait reconnu que Twitch servait effectivement à l’entraînement des modèles d’Amazon mais pour des prototypes, comme l’a rappelé 404media. Le fait que les conditions d’utilisation de Twitch aient été mises à jour le jour de l’annonce plaide en la faveur du plaignant, d’après sa poursuite.

La licence accordée aux utilisateurs permet à Twitch d’exploiter leurs contenus « en lien avec la monétisation des services de Twitch ». Le 12 août, la plateforme change la formulation : la licence peut désormais servir aux activités de Twitch et/ou de ses affiliés. Un changement qui sonne comme un aveu : si la licence précédente autorisait déjà l’utilisation des contenus des créateurs pour les activités d’IA générative d’Amazon, il n’aurait pas été nécessaire d’élargir la finalité de la licence de la sorte.

La plainte formule quatre chefs d’accusation : rupture d’un contrat implicite et du devoir de bonne foi contre Twitch, enrichissement injustifié contre Twitch et Amazon, rupture du contrat explicite contre les deux entreprises, et violation de la loi californienne sur les pratiques commerciales déloyales.

Le plaignant demande la certification de la plainte en class action, qui pourrait dès lors représenter les créateurs Twitch américains dont les œuvres auraient été indûment collectées pour entraîner les modèles d’Amazon.

Le Department of Justice (DoJ) des États-Unis a annoncé vendredi 21 août avoir conclu un accord avec TikTok pour solder les poursuites engagées à son encontre en 2024 en raison d’une protection insuffisante des mineurs sur son réseau social.

En échange de cet abandon, TikTok s’engage à verser immédiatement 300 millions de dollars, et 100 millions de dollars supplémentaires quand un juge aura annulé une précédente injonction remontant à 2019. Cette dernière imposait au réseau social, qui s’appelait alors Musical.ly, une surveillance renforcée et constituait une menace supplémentaire en cas de violation avérée de la loi COPPA (Children’s Online Privacy Protection Act).

TikTok s’exonère ainsi des poursuites engagées à son encontre en 2024 par le DOJ et la FTC, chargée de veiller à l’application de la loi COPPA. La plainte (PDF) formulait trois griefs principaux à l’encontre de TikTok et de sa maison mère, le groupe chinois Bytedance : la possibilité offerte aux enfants de créer un compte sans consentement d’un adulte responsable et l’utilisation à des fins marketing des données associées, le non-respect des demandes de suppression formulées par les parents, et une défaillance qualifiée de « systémique » de la modération chargée de veiller à évincer les comptes manifestement associés à des enfants.

Le DoJ rappelle que « TikTok a connu des changements importants au niveau de sa structure de propriété, de sa direction, de ses fonctions de conformité et de ses pratiques en matière de protection de la vie privée ». Il fait ici référence au long bras de fer engagé par Donald Trump pour que la branche US du réseau social passe sous contrôle d’une société détenue majoritairement par des acteurs états-uniens. Annoncé fin 2025, le transfert a été réalisé début 2026.

Les premiers changements découlant de cette nouvelle gouvernance n’allaient pas précisément dans le sens d’un respect accru de la vie privée, au contraire. Le DoJ estime néanmoins que TikTok a désormais mis en œuvre les mesures nécessaires à la protection des jeunes publics : « Ces évolutions ont considérablement contribué à la réalisation des intérêts publics sous-jacents à la procédure engagée par le ministère et ont renforcé la protection de millions de familles américaines ».

TikTok solde ainsi un dossier judiciaire, mais d’autres procédures restent ouvertes à son encontre outre-Atlantique, notamment celle initiée par 14 procureurs généraux en octobre 2024. Le réseau social y est attaqué pour les mêmes manquements, mais sur une base différente : ici, ce n’est pas la loi fédérale COPPA qui est invoquée, mais le droit de la consommation de chacun des 14 États concernés.

En Europe, le réseau social est également dans la ligne de mire de la Commission européenne, dont les conclusions préliminaires, publiées fin juillet, estiment que TikTok ne répond pas correctement aux obligations de protection des jeunes publics prévues par le DSA.

Le Department of Justice (DoJ) des États-Unis a annoncé vendredi 21 août avoir conclu un accord avec TikTok pour solder les poursuites engagées à son encontre en 2024 en raison d’une protection insuffisante des mineurs sur son réseau social.

En échange de cet abandon, TikTok s’engage à verser immédiatement 300 millions de dollars, et 100 millions de dollars supplémentaires quand un juge aura annulé une précédente injonction remontant à 2019. Cette dernière imposait au réseau social, qui s’appelait alors Musical.ly, une surveillance renforcée et constituait une menace supplémentaire en cas de violation avérée de la loi COPPA (Children’s Online Privacy Protection Act).

TikTok s’exonère ainsi des poursuites engagées à son encontre en 2024 par le DOJ et la FTC, chargée de veiller à l’application de la loi COPPA. La plainte (PDF) formulait trois griefs principaux à l’encontre de TikTok et de sa maison mère, le groupe chinois Bytedance : la possibilité offerte aux enfants de créer un compte sans consentement d’un adulte responsable et l’utilisation à des fins marketing des données associées, le non-respect des demandes de suppression formulées par les parents, et une défaillance qualifiée de « systémique » de la modération chargée de veiller à évincer les comptes manifestement associés à des enfants.

Le DoJ rappelle que « TikTok a connu des changements importants au niveau de sa structure de propriété, de sa direction, de ses fonctions de conformité et de ses pratiques en matière de protection de la vie privée ». Il fait ici référence au long bras de fer engagé par Donald Trump pour que la branche US du réseau social passe sous contrôle d’une société détenue majoritairement par des acteurs états-uniens. Annoncé fin 2025, le transfert a été réalisé début 2026.

Les premiers changements découlant de cette nouvelle gouvernance n’allaient pas précisément dans le sens d’un respect accru de la vie privée, au contraire. Le DoJ estime néanmoins que TikTok a désormais mis en œuvre les mesures nécessaires à la protection des jeunes publics : « Ces évolutions ont considérablement contribué à la réalisation des intérêts publics sous-jacents à la procédure engagée par le ministère et ont renforcé la protection de millions de familles américaines ».

TikTok solde ainsi un dossier judiciaire, mais d’autres procédures restent ouvertes à son encontre outre-Atlantique, notamment celle initiée par 14 procureurs généraux en octobre 2024. Le réseau social y est attaqué pour les mêmes manquements, mais sur une base différente : ici, ce n’est pas la loi fédérale COPPA qui est invoquée, mais le droit de la consommation de chacun des 14 États concernés.

En Europe, le réseau social est également dans la ligne de mire de la Commission européenne, dont les conclusions préliminaires, publiées fin juillet, estiment que TikTok ne répond pas correctement aux obligations de protection des jeunes publics prévues par le DSA.

RGPD pour tous

L’autorité de protection des données néerlandaise a infligé à Uber une amende de 825 millions d’euros pour avoir enfreint le RGPD. Uber avait mis en place un système qui suspendait automatiquement les chauffeurs sans aucune décision humaine.

L’Autoriteit Persoonsgegevens (AP, l’équivalent de la CNIL néerlandaise) a infligé à Uber l’une des plus importantes amendes s’appuyant sur le RGPD.

En effet, AP a confirmé ce vendredi 21 août avoir prononcé une amende d’un montant exact de 824 990 000 euros à Uber, car la multinationale « a pris des décisions entièrement automatisées concernant ses chauffeurs ».

« Uber a commis de graves infractions », estime Monique Verdier, responsable de l’autorité. « Des chauffeurs ont été désactivés sans aucune clémence, ajoute-t-elle. « Du jour au lendemain, ils se sont retrouvés sans aucun revenu provenant d’Uber. C’est interdit. Un ordinateur ne devrait pas prendre de lui-même des décisions qui ont des conséquences majeures pour vous. Ces décisions auraient dû être examinées au préalable par un être humain ».

Décision suite à une plainte de la LDH en France

Cette affaire remonte à 2021, lorsque la Ligue des droits de l’Homme (LDH) a déposé plainte auprès de la CNIL contre l’entreprise, mandatée par 171 chauffeurs VTC. L’ONG accusait Uber de bannir les chauffeurs de son application après « l’envoi de messages automatiques et strictement identiques, tous établis sur le même modèle », expliquait la plainte qu’avait pu consulter l’AFP à l’époque.

La LDH avait pris cette décision en soutien aux chauffeurs VTC du syndicat FO-INV qui, aidés par l’association suisse PersonalData.IO, avaient établi qu’une partie d’entre eux avait été déconnectée de façon temporaire ou définitive.

Cinq chauffeurs VTC représentés par ce syndicat ont récemment déposé une nouvelle plainte contre Uber.

• Uber : cinq chauffeurs de VTC déposent plainte pour traite d’êtres humains

Dans le message automatique envoyé aux chauffeurs, l’entreprise justifiait la plupart du temps la déconnexion par une « violation de l’un des principes de la charte de la communauté Uber » ou une « anomalie », sans ajouter d’information sur le cas spécifique.

L’avocat de la LDH, Jérôme Giusti, suspectait l’entreprise de vouloir faire le ménage alors que le gouvernement venait de signer une ordonnance organisant le dialogue social de secteur, et notamment des élections professionnelles.

« Aucune évaluation humaine n’intervenait dans ce processus »

Le siège social d’Uber pour l’Europe étant à Amsterdam, la CNIL a transmis le dossier à son homologue néerlandaise tout en expliquant avoir « étroitement coopéré » avec elle. L’AP avait déjà infligé une première amende de 10 millions d’euros à Uber en 2023 pour des manquements à l’information des chauffeurs ainsi qu’une deuxième dans ce dossier en 2024, cette fois-ci pour 290 millions d’euros pour avoir transféré les données personnelles des conducteurs européens vers des serveurs installés aux États-Unis.

Pour cette troisième amende, encore plus salée, l’autorité néerlandaise a constaté qu’Uber utilisait un logiciel pour surveiller le comportement des chauffeurs au volant et analyser les avis des clients. « Si ce logiciel détectait un soupçon de fraude ou si les avis des clients étaient trop négatifs, les comptes des chauffeurs concernés étaient automatiquement désactivés », explique-t-elle. « Aucune évaluation humaine n’intervenait dans ce processus » de 2018 à 2022, ajoute l’autorité.

Elle s’appuie (sans le dire explicitement dans son communiqué de presse) sur l’article 22 du RGPD pour justifier sa décision. Cet article affirme que « la personne concernée a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, produisant des effets juridiques la concernant ou l’affectant de manière significative de façon similaire ».

Dans sa décision formelle, que l’autorité n’a pas encore rendue publique mais à laquelle le Financial Times a eu accès, l’AP ajoute aussi qu’ « Uber a également porté atteinte au droit d’être pleinement informé de ces décisions automatisées ». À nos confrères, Uber a affirmé sa volonté de faire appel de cette amende qu’elle qualifie de « disproportionnée » sur « des politiques anciennes qui avaient été abandonnées il y a des années ».

L’entreprise ajoute : « Nous prenons très au sérieux les décisions qui affectent la capacité des chauffeurs à gagner leur vie et nous nous engageons pleinement à leur garantir un traitement équitable. Cela inclut des contrôles effectués par des humains, des mesures de protection solides et la possibilité pour les chauffeurs de faire appel de nos décisions s’ils estiment que nous avons commis une erreur ».

RGPD pour tous

L’autorité de protection des données néerlandaise a infligé à Uber une amende de 825 millions d’euros pour avoir enfreint le RGPD. Uber avait mis en place un système qui suspendait automatiquement les chauffeurs sans aucune décision humaine.

L’Autoriteit Persoonsgegevens (AP, l’équivalent de la CNIL néerlandaise) a infligé à Uber l’une des plus importantes amendes s’appuyant sur le RGPD.

En effet, AP a confirmé ce vendredi 21 août avoir prononcé une amende d’un montant exact de 824 990 000 euros à Uber, car la multinationale « a pris des décisions entièrement automatisées concernant ses chauffeurs ».

« Uber a commis de graves infractions », estime Monique Verdier, responsable de l’autorité. « Des chauffeurs ont été désactivés sans aucune clémence, ajoute-t-elle. « Du jour au lendemain, ils se sont retrouvés sans aucun revenu provenant d’Uber. C’est interdit. Un ordinateur ne devrait pas prendre de lui-même des décisions qui ont des conséquences majeures pour vous. Ces décisions auraient dû être examinées au préalable par un être humain ».

Décision suite à une plainte de la LDH en France

Cette affaire remonte à 2021, lorsque la Ligue des droits de l’Homme (LDH) a déposé plainte auprès de la CNIL contre l’entreprise, mandatée par 171 chauffeurs VTC. L’ONG accusait Uber de bannir les chauffeurs de son application après « l’envoi de messages automatiques et strictement identiques, tous établis sur le même modèle », expliquait la plainte qu’avait pu consulter l’AFP à l’époque.

La LDH avait pris cette décision en soutien aux chauffeurs VTC du syndicat FO-INV qui, aidés par l’association suisse PersonalData.IO, avaient établi qu’une partie d’entre eux avait été déconnectée de façon temporaire ou définitive.

Cinq chauffeurs VTC représentés par ce syndicat ont récemment déposé une nouvelle plainte contre Uber.

• Uber : cinq chauffeurs de VTC déposent plainte pour traite d’êtres humains

Dans le message automatique envoyé aux chauffeurs, l’entreprise justifiait la plupart du temps la déconnexion par une « violation de l’un des principes de la charte de la communauté Uber » ou une « anomalie », sans ajouter d’information sur le cas spécifique.

L’avocat de la LDH, Jérôme Giusti, suspectait l’entreprise de vouloir faire le ménage alors que le gouvernement venait de signer une ordonnance organisant le dialogue social de secteur, et notamment des élections professionnelles.

« Aucune évaluation humaine n’intervenait dans ce processus »

Le siège social d’Uber pour l’Europe étant à Amsterdam, la CNIL a transmis le dossier à son homologue néerlandaise tout en expliquant avoir « étroitement coopéré » avec elle. L’AP avait déjà infligé une première amende de 10 millions d’euros à Uber en 2023 pour des manquements à l’information des chauffeurs ainsi qu’une deuxième dans ce dossier en 2024, cette fois-ci pour 290 millions d’euros pour avoir transféré les données personnelles des conducteurs européens vers des serveurs installés aux États-Unis.

Pour cette troisième amende, encore plus salée, l’autorité néerlandaise a constaté qu’Uber utilisait un logiciel pour surveiller le comportement des chauffeurs au volant et analyser les avis des clients. « Si ce logiciel détectait un soupçon de fraude ou si les avis des clients étaient trop négatifs, les comptes des chauffeurs concernés étaient automatiquement désactivés », explique-t-elle. « Aucune évaluation humaine n’intervenait dans ce processus » de 2018 à 2022, ajoute l’autorité.

Elle s’appuie (sans le dire explicitement dans son communiqué de presse) sur l’article 22 du RGPD pour justifier sa décision. Cet article affirme que « la personne concernée a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, produisant des effets juridiques la concernant ou l’affectant de manière significative de façon similaire ».

Dans sa décision formelle, que l’autorité n’a pas encore rendue publique mais à laquelle le Financial Times a eu accès, l’AP ajoute aussi qu’ « Uber a également porté atteinte au droit d’être pleinement informé de ces décisions automatisées ». À nos confrères, Uber a affirmé sa volonté de faire appel de cette amende qu’elle qualifie de « disproportionnée » sur « des politiques anciennes qui avaient été abandonnées il y a des années ».

L’entreprise ajoute : « Nous prenons très au sérieux les décisions qui affectent la capacité des chauffeurs à gagner leur vie et nous nous engageons pleinement à leur garantir un traitement équitable. Cela inclut des contrôles effectués par des humains, des mesures de protection solides et la possibilité pour les chauffeurs de faire appel de nos décisions s’ils estiment que nous avons commis une erreur ».

Après les baffes, les réglages

Apple et la Commission européenne ont enterré la hache de guerre cette semaine sur le dossier houleux de l’ouverture de l’App Store à la concurrence. Un accord qui consacre un certain pragmatisme de Bruxelles, après des années de tensions très vives entrecoupées de grosses amendes.

Des résultats. C’est ce que la Commission européenne cherche à obtenir des géants du numérique qui font partie du club des contrôleurs d’accès au titre du DMA. Ce 18 août, Apple a dévoilé les nouveaux changements – et ultimes, a priori – apportés aux conditions commerciales applicables aux applications distribuées dans l’UE.

• Apple baisse ses commissions dans l’UE et fait la paix avec Bruxelles

Ces modifications « font suite à un dialogue étroit entre la Commission et Apple, après que la Commission a adopté, en avril 2025, une décision constatant le non-respect des règles concernant les conditions imposées par Apple en matière d’orientation des utilisateurs, ainsi que des conclusions préliminaires concernant la distribution d’applications par des canaux alternatifs », a déclaré l’exécutif européen. Qui va désormais surveiller la mise en œuvre effective de ces nouvelles conditions.

Bruxelles range le bâton

En avril 2025, Apple écopait d’une amende de 500 millions d’euros, assortie d’astreintes journalières (jusqu’à 5 % du chiffre d’affaires mondial) en cas de non-conformité. La Commission n’envisage pas, à ce stade, de pénalités, indique à Politico le porte-parole Ricardo Cardoso.

Autre affaire qui devrait être réglée, celle qui concerne Meta sur le choix des utilisateurs de partager moins de données avec les réseaux sociaux du groupe. La Commission a reconnu en décembre dernier l’engagement de Meta de proposer « des publicités moins personnalisées ». L’entreprise avait écopé d’une amende de 200 millions d’euros, infligée en même temps que celle d’Apple.

Sur ce dossier, la Commission est toujours en phase d’examen de l’efficacité du choix, sans dire si elle en est satisfaite. Elle relevait tout de même l’an dernier que « c’est la première fois qu’un tel choix est proposé sur les réseaux sociaux de Meta ».

Mi-juillet, Bruxelles précisait la manière dont Google devait partager les données de recherche avec la concurrence, et ouvrir la porte aux assistants IA rivaux dans Android.

• Qwant : les données de Google vont « réduire l’avantage d’une domination monopolistique »

« Pas une question de chiffres »

Deux ans et demi après l’entrée en vigueur du règlement sur les marchés numériques, la Commission a ouvert sept procédures pour non-conformité, infligé des amendes à trois entreprises (Apple et Meta donc, ainsi que Google). Deux enquêtes sont closes, une troisième concernant Apple devrait l’être sous peu – il s’agit des conditions commerciales imposées aux boutiques alternatives et aux apps distribuées en dehors de l’App Store.

« La mise en œuvre et l’application du DMA ne sont pas une question de chiffres, mais de résultats », affirme Ricardo Cardoso. Au-delà des amendes ronflantes, la Commission cherche davantage à obtenir des changements concrets. Au grand dam d’organisations comme l’Initiative for Neutral Search, une coalition d’entreprises européennes du numérique qui dénonce le « désintérêt » et le « désengagement » de Bruxelles. Concernant les amendes, elle les estime trop faibles pour être réellement dissuasives. Les sanctions seraient ainsi considérées par les grands groupes comme une dépense parmi d’autres.

Pour Ricardo Cardoso, « comparer les amendes entre différents instruments juridiques ou différentes entreprises n’a pas vraiment de sens. » Obtenir des changements dans les comportements – une « procédure de spécification » – n’est pas le bon outil « pour s’attaquer aux problèmes liés à la recherche, aux boutiques d’applications, aux offres groupées ou au cloud », déplore de son côté l’Initiative. Ces outils sont efficaces pour « régler des problèmes réglementaires plus limités. Mais cela n’a pas d’effet sur la conception des produits ».

Pas question pour autant de changer de cap à la Commission. Elle « n’hésitera pas à ouvrir des procédures de non-conformité chaque fois que cela sera nécessaire au regard des circonstances concrètes, tandis que, dans d’autres cas, une procédure de spécification est justifiée », indique le porte-parole.

Après les baffes, les réglages

Apple et la Commission européenne ont enterré la hache de guerre cette semaine sur le dossier houleux de l’ouverture de l’App Store à la concurrence. Un accord qui consacre un certain pragmatisme de Bruxelles, après des années de tensions très vives entrecoupées de grosses amendes.

Des résultats. C’est ce que la Commission européenne cherche à obtenir des géants du numérique qui font partie du club des contrôleurs d’accès au titre du DMA. Ce 18 août, Apple a dévoilé les nouveaux changements – et ultimes, a priori – apportés aux conditions commerciales applicables aux applications distribuées dans l’UE.

• Apple baisse ses commissions dans l’UE et fait la paix avec Bruxelles

Ces modifications « font suite à un dialogue étroit entre la Commission et Apple, après que la Commission a adopté, en avril 2025, une décision constatant le non-respect des règles concernant les conditions imposées par Apple en matière d’orientation des utilisateurs, ainsi que des conclusions préliminaires concernant la distribution d’applications par des canaux alternatifs », a déclaré l’exécutif européen. Qui va désormais surveiller la mise en œuvre effective de ces nouvelles conditions.

Bruxelles range le bâton

En avril 2025, Apple écopait d’une amende de 500 millions d’euros, assortie d’astreintes journalières (jusqu’à 5 % du chiffre d’affaires mondial) en cas de non-conformité. La Commission n’envisage pas, à ce stade, de pénalités, indique à Politico le porte-parole Ricardo Cardoso.

Autre affaire qui devrait être réglée, celle qui concerne Meta sur le choix des utilisateurs de partager moins de données avec les réseaux sociaux du groupe. La Commission a reconnu en décembre dernier l’engagement de Meta de proposer « des publicités moins personnalisées ». L’entreprise avait écopé d’une amende de 200 millions d’euros, infligée en même temps que celle d’Apple.

Sur ce dossier, la Commission est toujours en phase d’examen de l’efficacité du choix, sans dire si elle en est satisfaite. Elle relevait tout de même l’an dernier que « c’est la première fois qu’un tel choix est proposé sur les réseaux sociaux de Meta ».

Mi-juillet, Bruxelles précisait la manière dont Google devait partager les données de recherche avec la concurrence, et ouvrir la porte aux assistants IA rivaux dans Android.

• Qwant : les données de Google vont « réduire l’avantage d’une domination monopolistique »

« Pas une question de chiffres »

Deux ans et demi après l’entrée en vigueur du règlement sur les marchés numériques, la Commission a ouvert sept procédures pour non-conformité, infligé des amendes à trois entreprises (Apple et Meta donc, ainsi que Google). Deux enquêtes sont closes, une troisième concernant Apple devrait l’être sous peu – il s’agit des conditions commerciales imposées aux boutiques alternatives et aux apps distribuées en dehors de l’App Store.

« La mise en œuvre et l’application du DMA ne sont pas une question de chiffres, mais de résultats », affirme Ricardo Cardoso. Au-delà des amendes ronflantes, la Commission cherche davantage à obtenir des changements concrets. Au grand dam d’organisations comme l’Initiative for Neutral Search, une coalition d’entreprises européennes du numérique qui dénonce le « désintérêt » et le « désengagement » de Bruxelles. Concernant les amendes, elle les estime trop faibles pour être réellement dissuasives. Les sanctions seraient ainsi considérées par les grands groupes comme une dépense parmi d’autres.

Pour Ricardo Cardoso, « comparer les amendes entre différents instruments juridiques ou différentes entreprises n’a pas vraiment de sens. » Obtenir des changements dans les comportements – une « procédure de spécification » – n’est pas le bon outil « pour s’attaquer aux problèmes liés à la recherche, aux boutiques d’applications, aux offres groupées ou au cloud », déplore de son côté l’Initiative. Ces outils sont efficaces pour « régler des problèmes réglementaires plus limités. Mais cela n’a pas d’effet sur la conception des produits ».

Pas question pour autant de changer de cap à la Commission. Elle « n’hésitera pas à ouvrir des procédures de non-conformité chaque fois que cela sera nécessaire au regard des circonstances concrètes, tandis que, dans d’autres cas, une procédure de spécification est justifiée », indique le porte-parole.

Le tabac, c'est tabou

Le plus grand procès intenté à Meta a débuté le 12 août en Californie. Les débats s’ouvrent ce 18 août. Alors que les discussions pourraient aboutir sur une obligation de modification du fonctionnement de Facebook et Instagram, Next récapitule les enjeux.

Pourquoi ce procès ?

À la suite de la publication des « Facebook Files », jeu de documents publié en 2021 par l’ex-employée de Meta Frances Haugen, 41 États des États-Unis ont porté plainte contre Meta. À l’époque, c’est-à-dire en 2023, 33 s’étaient alliés pour déposer une plainte groupée et 8 autres avaient déposé des plaintes séparées.

Plus largement, le procès résulte à la fois de la meilleure connaissance des effets des réseaux sociaux sur la santé mentale en général, et celle des jeunes en particulier. À cela s’ajoute la publication d’une série de documents internes par Frances Haugen, ainsi que d’autres témoignages venus de l’intérieur comme celui de Sarah Wynn-Wyler, autrice du livre Careless People (Flatiron Books, traduit chez Buchet-Chastel). Ces derniers éléments ont permis de comprendre dans quelle mesure l’entreprise connaissait les effets négatifs de ces outils, et les décisions qu’elle a prises en fonction de ces informations.

Dans de précédents procès, dont celui qui opposait plusieurs districts scolaires états-uniens à Meta, l’entreprise a déjà été accusée d’abandonner des recherches internes quand ces dernières ont commencé à illustrer un lien de causalité entre le recours aux plateformes de Meta et la santé mentale de ses utilisateurs.

• Réseaux sociaux : une semaine de pause améliore l’estime de soi des jeunes filles

Qui attaque Meta dans ce cas précis ?

Dans le procès qui s’est ouvert le 12 août, et dont les débats débutent ce 18 août, ce sont finalement les plaintes des États de Californie, du Colorado, du Kentucky et du New Jersey qui seront étudiées.

Aux côtés de ces quatre principales administrations, la juge Yvonne Gonzales Rogers se penchera sur celles de vingt-cinq États supplémentaires, qui critiquent principalement la collecte de données opérée par Meta sans le consentement des parents ou responsables légaux des mineurs concernés.

Qui est la juge en charge de l’affaire ?

Yvonne Gonzales Rogers n’en est pas à sa première affaire relative à un géant numérique. La juge est notamment en charge du contentieux qui oppose de longue date Apple et Epic Games sur les commissions d’achat imposées dans l’App Store.

• Apple veut sauver sa commission App Store devant la Cour suprême

Âgée de soixante et un ans, elle a par ailleurs présidé les débats plus tôt cette année, lors du procès opposant Elon Musk à Sam Altman à propos du statut d’OpenAI. Après trois semaines de débat, le premier a été débouté de toutes ses poursuites.

Dans le présent procès, elle sera assistée par un jury consultatif de huit personnes. C’est néanmoins à la juge que reviendra la décision finale, précise Euronews.

Que risque l’entreprise ?

D’après ses propres calculs, la société risque jusqu’à 1 400 milliards de dollars (1 210 milliards d’euros) si elle est déclarée coupable. Le montant atteindrait presque sa capitalisation boursière, qui s’élève actuellement autour de 1 580 milliards de dollars. Dans un document soumis à la cour mi-juillet, la société a déclaré qu’une telle sanction n’avait « pas de comparaison dans l’histoire de la protection des consommateurs » et que les plaintes la visant manquaient de fondement.

Elle a calculé ce montant après que des représentants des États plaignants eurent déclaré calculer le montant de dommages et intérêts qu’ils réclameraient en multipliant le nombre de violations par les montants des amendes fixées par chaque loi étatique. Le nombre de violations, lui, s’élèverait à une estimation du nombre de jeunes internautes affectés négativement par les plateformes de Meta.

Auprès du tribunal, les États ont de leur côté indiqué qu’un scénario plus probable tournerait autour de 200 milliards de dollars, soit 173 milliards d’euros.

Brotech strikes again

En Allemagne, l’ONG HateAid vient de déposer plainte contre Meta, Ray-Ban et Oakley, critiquant les atteintes à la vie privée que permettent leurs lunettes « intelligentes ». Une pierre de plus dans le jardin de Meta, dont les lunettes sont de plus en plus vivement critiquées par le public, et désormais interdites par divers acteurs privés et publics à travers la planète.

« Des lunettes pour les gens qui ne se préoccupent pas du consentement. » Placardée sur un arrêt de bus londonien, la fausse publicité, qui représente Jeffrey Epstein affublé des lunettes Meta, a fait le tour des réseaux sociaux.

En cause : équipée de caméras, la paire de Ray-Ban est régulièrement décrite comme un « spyware », un outil d’espionnage, alors même que des créatrices et créateurs de contenu multiplient les campagnes de publicité pour l’équipement.

De fait, le fonctionnement de ces lunettes implique que ces outils puissent photographier et filmer les personnes aux alentours de celui ou celle qui porte les lunettes, sans que ceux-ci ne s’en rendent compte. Autrement dit, elles permettent de filmer des personnes sans leur accord, le petit voyant qui s’allume sur les lunettes lorsqu’elles filment n’étant pas nécessairement vu, ni compris.

Face aux protestations, un nombre croissant de lieux publics ou privés en interdisent le port, aux États-Unis, au Royaume-Uni et ailleurs. En Allemagne, l’association Hate Aid, spécialisée dans la défense des droits numériques, vient de déposer plainte contre Meta.

• Lunettes connectées : des scènes d’intimité envoyées aux sous-traitants kényans de Meta

Campagnes de publicité agressives

Depuis la première version de ses « lunettes intelligentes », en 2023, Meta n’a cessé de multiplier les opérations de promotion, le plus souvent directement via des créatrices et créateurs de contenu actifs sur ses réseaux. En France, des vidéastes comme Léa Elui, Louise Aubery, Théo Babac, ou un rappeur comme PLK ont pu faire la publicité des lunettes courant 2025. Cette année, la société de Mark Zuckerberg a obtenu un partenariat destiné à durer plusieurs années avec le Festival de Cannes. Cela lui a déjà permis de faire vivre l’événement « de l’intérieur » au public, par l’intermédiaire de diverses célébrités et créateurs de contenu affublés de ses lunettes.

🤢️

Après la vague de deepfakes sur Grok fin 2025-début 2026, des enquêtes ont été lancées et plusieurs adolescentes et jeunes femmes ont porté plainte contre SpaceXAI mais aussi Stability AI. Cinq plaignantes, toutes mineures au moment des faits, les accusent d’avoir produit des contenus pédocriminels pour leurs utilisateurs. L’un d’entre eux était le beau-père d’une des victimes, un autre l’un de ses amis.

Attention : le sujet de cet article est particulièrement difficile et certains détails évoqués peuvent heurter.

Pendant plus de six mois, Elon Musk et son entreprise d’IA générative ont incité leurs utilisateurs à générer avec Grok des images de femmes mises à nu et/ou dans des positions sexuelles. SpaceXAI (le nouveau nom de xAI) est maintenant accusée, aux États-Unis, d’avoir laissé Grok générer des milliers de photos pédocriminelles de cinq plaignantes, à la demande de ses utilisateurs.

• Deepfakes sur Grok : l’autorité de protection des données irlandaise ouvre une enquête
• Vague massive de deepfakes générés par Grok : la justice française étend son enquête

« Les puissants outils de l’intelligence artificielle peuvent produire des résultats stupéfiants », commence la plainte de ces cinq jeunes femmes :

« Imaginez : la vidéo d’une véritable enfant transformée par une plateforme d’IA pour représenter une scène entièrement nouvelle. Le visage de l’enfant reste le même ; ses membres bougent comme ceux de l’enfant réel ; même son rire conserve la même intonation. »

« Telle une poupée de chiffon à qui la magie noire aurait donné vie, cette enfant peut être manipulée pour prendre n’importe quelle posture, aussi malsaine, fétichiste ou illégale soit-elle », continue la plainte. « Pour le spectateur, la vidéo qui en résulte semble tout à fait réelle. Quant à l’enfant, ses traits distinctifs seront désormais à jamais associés à une vidéo montrant les abus sexuels dont elle a été victime ».

Grok et d’autres IA génératives peuvent ainsi créer des images très réalistes (même si complètement irréelles) d’enfants existants dans des positions lascives, les dénuder ou même les inclure dans des images sur lesquelles ils (et très souvent elles) subissent des violences sexuelles.

Trois jeunes femmes, toutes mineures au moment des faits (une d’entre elles l’est encore), ont porté plainte aux États-Unis en mars dernier. Elles ont été rejointes par deux autres (mineures aussi au moment des faits) en juillet dernier. Le document [PDF] décrit la génération de milliers de contenus pédocriminels (CSAM).

L’utilisation d’une photo d’une victime prise lorsqu’elle avait 11 ans

L’une d’entre elles accuse notamment SpaceXAI d’avoir généré plus de 7 000 fausses images la représentant dans des scènes de viol pour son beau-père. Celui-ci a utilisé le chatbot Grok de l’entreprise pour les obtenir en uploadant une photo d’elle prise lorsqu’elle avait 11 ans. La plainte détaille des images très explicites, le sous-titre d’une d’entre elles décrit le viol par le beau-père.

« Ma vie était tout à fait normale », explique la plaignante de manière anonyme auprès du Washington Post, « moins de 48 heures plus tard, c’était devenu un véritable cauchemar ». « L’accès illimité à ces outils se généralise à une vitesse fulgurante », ajoute-t-elle : « Cela transforme la vie quotidienne en une situation d’abus sexuel sur mineur ».

Ce cas a été découvert par les autorités américaines qui ont lancé une enquête contre le beau-père pour détention de contenus pédocriminels. Mais deux jours après les investigations sur les disques durs utilisés par le beau-père, celui-ci s’est suicidé. La plainte explique qu’à la suite de ce suicide, la victime a traversé une période de crise personnelle très grave : « Elle a dû faire face au traumatisme lié à sa propre exploitation sexuelle tout en aidant sa mère à surmonter la perte de son beau-père ».

De plus, selon son témoignage auprès de nos confrères, il n’a pas été inculpé car, si SpaceXAI a fait un signalement, l’entreprise n’a pas fourni aux autorités les deepfakes en question. L’entreprise aurait même, dans un premier temps, transmis l’information à la cellule de lutte contre la cybercriminalité du mauvais État.

Selon le Washington Post, le beau-père aurait uploadé la première photo de sa belle-fille quelques semaines après qu’Elon Musk a, mi-janvier, certifié que son outil « refuserait de produire quoi que ce soit d’illégal ». SpaceXAI n’a pas voulu répondre à nos confrères.

Stability AI ajoutée à la plainte

Les deepfakes concernant les autres plaignantes sont aussi décrits, dans la plainte, comme des contenus pédocriminels. Pour l’une d’entre elles, c’est aussi un proche qui a utilisé l’IA générative pour créer des images d’elle : « L’auteur des faits avait accès aux photos de [la jeune fille] car il entretenait une relation étroite et amicale avec elle, profitant de la confiance qu’elle lui accordait pour l’inciter à lui envoyer des photos d’elle-même », explique la plainte.

Dans la nouvelle version de la plainte, les avocats des plaignantes ont ajouté une autre entreprise au banc des accusés : Stability AI, qui diffuse son modèle en « open-weight » (on parle de modèle à poids ouverts quand ses paramètres internes – les « poids » – calculés lors de l’apprentissage sont partagés publiquement). Les applications installées sur le téléphone de plusieurs auteurs des faits, utilisées pour créer les contenus pédocriminels générés par IA représentant les plaignantes, s’appuyaient « sur les outils de génération d’images de Stability AI pour produire ces contenus illicites », affirment les avocats des plaignantes.

« La capacité d’un modèle à poids ouvert à générer du contenu CSAM, que ce soit « tel quel » ou après un ajustement par l’utilisateur, dépend fortement de la familiarité du modèle avec les contenus de nudité présents dans ses données d’entraînement initiales », expliquent-ils. Et ils ajoutent que les modèles Stable Diffusion SD 1.0 et 1.5 ont été entrainés sur les données de LAION-5B, une base de données qui a pendant, un certain temps, listé des contenus pédocriminels.

« Les modèles Stable Diffusion SD 1.0 et 1.5 ayant été entraînés sur du contenu pédocriminels, ils étaient capables de générer ce type de contenu », commentent les avocats. « Lorsqu’un modèle à poids ouverts a été entraîné sur du contenu pédopornographique, comme ce fut le cas pour Stable Diffusion, ces barrières s’avèrent faciles à contourner ».

Les deux entreprises n’ont pas encore été entendues par la justice. D’abord prévues le 13 aout dernier, l’audience préliminaire concernant ce procès a été reportée [PDF] au 15 octobre.