Si les voeux étaient des poissons, nous lancerions tous des filets

Promulguée lundi par Emmanuel Macron, la loi instaurant l’interdiction des téléphones portables au lycée a été publiée au Journal Officiel. La mesure dispose donc désormais d’un cadre juridique, à temps pour la rentrée de septembre, mais de sérieux doutes planent toujours sur la capacité des établissements scolaires à la mettre en œuvre dans un délai aussi court.

Maintes fois répétée par le chef de l’État, la promesse de l’interdiction du téléphone portable au lycée à temps pour la rentrée de septembre est finalement tenue, au moins sur le papier. Lundi, Emmanuel Macron a en effet annoncé, sur X, avoir promulgué la loi associée. « Une école sans téléphone, c’est retrouver la sérénité de l’apprentissage », a-t-il déclaré.

Quelques heures plus tôt, la porte-parole du gouvernement Maud Bregeon avait confirmé l’imminence de cette promulgation, en sortie de conseil des ministres. Évoquant la censure partielle de la loi « visant à protéger les mineurs des risques auxquels les expose l’utilisation des réseaux sociaux » par le Conseil constitutionnel, elle avait néanmoins estimé que « l’interdiction des portables dans les lycées pourra être effective dès la rentrée avec un cadre juridique stable, consolidé et législatif ». Cette mesure, portée par l’article 3 de la loi, n’a en effet pas été censurée par les Sages.

Interdire et sensibiliser

Après la promulgation, place à la publication : la « loi n° 2026 - 813 du 24 août 2026 » figure bien au chapitre du Journal Officiel daté du mardi 25 août. Amputée de sa principale composante liée à l’interdiction des réseaux sociaux aux moins de quinze ans, elle dispose explicitement que l’interdiction des portables, déjà en vigueur en primaire et au collège, s’étend désormais aux lycées.

Pour ce faire, elle modifie l’article L511-5 du Code de l’éducation, en renvoyant la mise en œuvre de la mesure au règlement intérieur de l’établissement concerné et en prévoyant une exception possible pour les formations supérieures dispensées au sein des lycées (classes préparatoires notamment) :

« Les modalités d’application de cette interdiction et les exceptions à celle-ci sont déterminées par le règlement intérieur en cohérence avec le projet d’école ou d’établissement. Dans les lycées dispensant des formations de l’enseignement supérieur, le règlement intérieur peut prévoir des dispositions particulières pour les étudiants. »

La nouvelle loi ajoute également au projet d’école ou d’établissement un pan spécifiquement lié à « l’utilisation des technologies numériques au sein de l’école ou de l’établissement ainsi que des actions menées auprès des élèves, du personnel et des parents en matière de sensibilisation aux effets nocifs d’une exposition non raisonnée aux écrans et au caractère addictif des réseaux sociaux, notamment au regard des enjeux de santé publique ».

Un vœu pieux ?

Du cadre juridique à la mise en œuvre effective de l’interdiction, il y a cependant un pas, que de nombreux syndicats du monde enseignant estiment difficile, voire impossible, à franchir dans de bonnes conditions. Nombre d’entre eux alertent depuis des mois sur la nécessité d’une concertation préalable avec la communauté éducative et sur le caractère contestable de la mesure, qualifiée de simpliste au regard des enjeux complexes qu’elle recouvre.

De façon plus prosaïque, certains remarquent que le calendrier n’est pas tenable : fermés pendant l’été, les établissements n’ont tout simplement pas le temps de procéder aux formalités nécessaires à la modification de leur règlement intérieur. « Les établissements attaquent une année dans laquelle la règle n’est pas écrite dans le règlement intérieur, sauf ceux qui avaient peut-être tenté d’anticiper quelque chose, mais ça reste très très parcellaire », regrette par exemple François Resnais, secrétaire national du SNPDEN-UNSA, principal syndicat des chefs d’établissement, cité par l’AFP.

De son côté, le ministère de l’Éducation nationale a tenté de préparer le terrain, mais bien tard au regard de la fermeture estivale des lycées. Son vademecum dédié à l’interdiction des portables (PDF), daté de juin 2026, rappelle d’ailleurs le processus de mise à jour du règlement intérieur :

« Les élèves doivent être consultés notamment dans le cadre du conseil des délégués pour la vie lycéenne. (…) L’inscription de l’interdiction de l’utilisation du téléphone portable et des autres objets connectés, ainsi que les dérogations éventuelles, dans le règlement intérieur doit ensuite être adoptée par le conseil d’administration (article R. 421 - 20) avant transmission de la délibération au recteur d’académie (article R. 421 - 55). »

S’il prône l’accompagnement pédagogique, ce vademecum invite également les chefs d’établissement à réfléchir au régime de sanctions à appliquer en cas de non-respect de l’interdiction. « Ces réponses doivent être adaptées à chaque situation (c’est-à-dire graduées, personnalisées et proportionnées). Il peut s’agir d’une punition, notamment de la confiscation de l’objet voire d’une sanction disciplinaire », résume-t-il.

Une circulaire du ministère, datée du 2 juillet, invitait quant à elle à faire preuve de flexibilité dans la mise en œuvre de l’interdiction pour ne pas pénaliser le fonctionnement du lycée. « Ainsi, des dérogations limitatives peuvent être prévues pour permettre des usages pédagogiques ou s’adapter à certaines nécessités administratives ou organisationnelles telles que le fonctionnement du centre de documentation et d’information, du service de restauration ou d’hébergement ». Les lycéens apprécieront certainement.

L’interdiction des réseaux sociaux aux moins de 15 ans toujours dans le viseur

Sur le sujet plus sensible de l’interdiction des réseaux sociaux aux moins de 15 ans, et donc de la vérification d’âge systématique qu’elle imposerait aux utilisateurs de ces derniers, le gouvernement accuse réception de la censure du Conseil constitutionnel, mais dit maintenir son objectif.

« En parallèle, il y a des initiatives européennes, il y a la mission qui a été donnée au Premier ministre de réfléchir et d’avancer sur un travail qui prendrait en compte les remarques du Conseil constitutionnel. (…) L’objectif du président de la République d’avoir un cadre stabilisé d’ici au printemps prochain pour protéger nos enfants et nos jeunes est évidemment un objectif que nous continuons à poursuivre », a déclaré Maud Bregeon.

Si les voeux étaient des poissons, nous lancerions tous des filets

Promulguée lundi par Emmanuel Macron, la loi instaurant l’interdiction des téléphones portables au lycée a été publiée au Journal Officiel. La mesure dispose donc désormais d’un cadre juridique, à temps pour la rentrée de septembre, mais de sérieux doutes planent toujours sur la capacité des établissements scolaires à la mettre en œuvre dans un délai aussi court.

Maintes fois répétée par le chef de l’État, la promesse de l’interdiction du téléphone portable au lycée à temps pour la rentrée de septembre est finalement tenue, au moins sur le papier. Lundi, Emmanuel Macron a en effet annoncé, sur X, avoir promulgué la loi associée. « Une école sans téléphone, c’est retrouver la sérénité de l’apprentissage », a-t-il déclaré.

Quelques heures plus tôt, la porte-parole du gouvernement Maud Bregeon avait confirmé l’imminence de cette promulgation, en sortie de conseil des ministres. Évoquant la censure partielle de la loi « visant à protéger les mineurs des risques auxquels les expose l’utilisation des réseaux sociaux » par le Conseil constitutionnel, elle avait néanmoins estimé que « l’interdiction des portables dans les lycées pourra être effective dès la rentrée avec un cadre juridique stable, consolidé et législatif ». Cette mesure, portée par l’article 3 de la loi, n’a en effet pas été censurée par les Sages.

Interdire et sensibiliser

Après la promulgation, place à la publication : la « loi n° 2026 - 813 du 24 août 2026 » figure bien au chapitre du Journal Officiel daté du mardi 25 août. Amputée de sa principale composante liée à l’interdiction des réseaux sociaux aux moins de quinze ans, elle dispose explicitement que l’interdiction des portables, déjà en vigueur en primaire et au collège, s’étend désormais aux lycées.

Pour ce faire, elle modifie l’article L511-5 du Code de l’éducation, en renvoyant la mise en œuvre de la mesure au règlement intérieur de l’établissement concerné et en prévoyant une exception possible pour les formations supérieures dispensées au sein des lycées (classes préparatoires notamment) :

« Les modalités d’application de cette interdiction et les exceptions à celle-ci sont déterminées par le règlement intérieur en cohérence avec le projet d’école ou d’établissement. Dans les lycées dispensant des formations de l’enseignement supérieur, le règlement intérieur peut prévoir des dispositions particulières pour les étudiants. »

La nouvelle loi ajoute également au projet d’école ou d’établissement un pan spécifiquement lié à « l’utilisation des technologies numériques au sein de l’école ou de l’établissement ainsi que des actions menées auprès des élèves, du personnel et des parents en matière de sensibilisation aux effets nocifs d’une exposition non raisonnée aux écrans et au caractère addictif des réseaux sociaux, notamment au regard des enjeux de santé publique ».

Un vœu pieux ?

Du cadre juridique à la mise en œuvre effective de l’interdiction, il y a cependant un pas, que de nombreux syndicats du monde enseignant estiment difficile, voire impossible, à franchir dans de bonnes conditions. Nombre d’entre eux alertent depuis des mois sur la nécessité d’une concertation préalable avec la communauté éducative et sur le caractère contestable de la mesure, qualifiée de simpliste au regard des enjeux complexes qu’elle recouvre.

De façon plus prosaïque, certains remarquent que le calendrier n’est pas tenable : fermés pendant l’été, les établissements n’ont tout simplement pas le temps de procéder aux formalités nécessaires à la modification de leur règlement intérieur. « Les établissements attaquent une année dans laquelle la règle n’est pas écrite dans le règlement intérieur, sauf ceux qui avaient peut-être tenté d’anticiper quelque chose, mais ça reste très très parcellaire », regrette par exemple François Resnais, secrétaire national du SNPDEN-UNSA, principal syndicat des chefs d’établissement, cité par l’AFP.

De son côté, le ministère de l’Éducation nationale a tenté de préparer le terrain, mais bien tard au regard de la fermeture estivale des lycées. Son vademecum dédié à l’interdiction des portables (PDF), daté de juin 2026, rappelle d’ailleurs le processus de mise à jour du règlement intérieur :

« Les élèves doivent être consultés notamment dans le cadre du conseil des délégués pour la vie lycéenne. (…) L’inscription de l’interdiction de l’utilisation du téléphone portable et des autres objets connectés, ainsi que les dérogations éventuelles, dans le règlement intérieur doit ensuite être adoptée par le conseil d’administration (article R. 421 - 20) avant transmission de la délibération au recteur d’académie (article R. 421 - 55). »

S’il prône l’accompagnement pédagogique, ce vademecum invite également les chefs d’établissement à réfléchir au régime de sanctions à appliquer en cas de non-respect de l’interdiction. « Ces réponses doivent être adaptées à chaque situation (c’est-à-dire graduées, personnalisées et proportionnées). Il peut s’agir d’une punition, notamment de la confiscation de l’objet voire d’une sanction disciplinaire », résume-t-il.

Une circulaire du ministère, datée du 2 juillet, invitait quant à elle à faire preuve de flexibilité dans la mise en œuvre de l’interdiction pour ne pas pénaliser le fonctionnement du lycée. « Ainsi, des dérogations limitatives peuvent être prévues pour permettre des usages pédagogiques ou s’adapter à certaines nécessités administratives ou organisationnelles telles que le fonctionnement du centre de documentation et d’information, du service de restauration ou d’hébergement ». Les lycéens apprécieront certainement.

L’interdiction des réseaux sociaux aux moins de 15 ans toujours dans le viseur

Sur le sujet plus sensible de l’interdiction des réseaux sociaux aux moins de 15 ans, et donc de la vérification d’âge systématique qu’elle imposerait aux utilisateurs de ces derniers, le gouvernement accuse réception de la censure du Conseil constitutionnel, mais dit maintenir son objectif.

« En parallèle, il y a des initiatives européennes, il y a la mission qui a été donnée au Premier ministre de réfléchir et d’avancer sur un travail qui prendrait en compte les remarques du Conseil constitutionnel. (…) L’objectif du président de la République d’avoir un cadre stabilisé d’ici au printemps prochain pour protéger nos enfants et nos jeunes est évidemment un objectif que nous continuons à poursuivre », a déclaré Maud Bregeon.

Au début du mois d’août 2026, un développeur a confié un nom de domaine à Claude avec une consigne volontairement vague : construire ce qu’il voulait. Deux semaines plus tard, l’IA d’Anthropic administre un étrange réseau social conçu pour les agents IA, avec sa propre constitution, sa monnaie et plusieurs centaines de « citoyens ».

Collecter n'est pas jouer

À la stupeur générale de bon nombre de créateurs de contenus, Twitch exploite automatiquement le contenu des chaînes pour entrainer les modèles IA d’Amazon. S’il est possible de désactiver l’option, elle est activée par défaut et les données de discussions dans un chat restent exploitables si quelqu’un dans la discussion a accepté de participer à la collecte.

• Twitch regrette mais assume : les contenus des chaînes entraînent par défaut l’IA d’Amazon

L’histoire n’allait pas en rester là. Une proposition de recours collectif (class action) a été déposée le 20 août en Californie contre Twitch et Amazon, propriétaire de la plateforme de streaming (PDF). L’accusation centrale du plaignant, Warren Pandiscia, streamer du Connecticut, est simple : Amazon aurait utilisé les contenus des créateurs de Twitch sans rémunération ni consentement.

L’évolution des CGU de Twitch appuie la plainte

Mike Minton, le directeur produit de Twitch, avait d’ailleurs justifié ce choix assez franchement : « si c’était à activer volontairement, personne ne le ferait. » La plainte va cependant plus loin que l’annonce du 12 août. Elle soutient en effet qu’Amazon utilisait déjà du contenu de Twitch pour ses modèles IA en 2024. À l’époque, il n’existait aucun mécanisme de refus.

Minton lui-même avait reconnu que Twitch servait effectivement à l’entraînement des modèles d’Amazon mais pour des prototypes, comme l’a rappelé 404media. Le fait que les conditions d’utilisation de Twitch aient été mises à jour le jour de l’annonce plaide en la faveur du plaignant, d’après sa poursuite.

La licence accordée aux utilisateurs permet à Twitch d’exploiter leurs contenus « en lien avec la monétisation des services de Twitch ». Le 12 août, la plateforme change la formulation : la licence peut désormais servir aux activités de Twitch et/ou de ses affiliés. Un changement qui sonne comme un aveu : si la licence précédente autorisait déjà l’utilisation des contenus des créateurs pour les activités d’IA générative d’Amazon, il n’aurait pas été nécessaire d’élargir la finalité de la licence de la sorte.

La plainte formule quatre chefs d’accusation : rupture d’un contrat implicite et du devoir de bonne foi contre Twitch, enrichissement injustifié contre Twitch et Amazon, rupture du contrat explicite contre les deux entreprises, et violation de la loi californienne sur les pratiques commerciales déloyales.

Le plaignant demande la certification de la plainte en class action, qui pourrait dès lors représenter les créateurs Twitch américains dont les œuvres auraient été indûment collectées pour entraîner les modèles d’Amazon.

Collecter n'est pas jouer

À la stupeur générale de bon nombre de créateurs de contenus, Twitch exploite automatiquement le contenu des chaînes pour entrainer les modèles IA d’Amazon. S’il est possible de désactiver l’option, elle est activée par défaut et les données de discussions dans un chat restent exploitables si quelqu’un dans la discussion a accepté de participer à la collecte.

• Twitch regrette mais assume : les contenus des chaînes entraînent par défaut l’IA d’Amazon

L’histoire n’allait pas en rester là. Une proposition de recours collectif (class action) a été déposée le 20 août en Californie contre Twitch et Amazon, propriétaire de la plateforme de streaming (PDF). L’accusation centrale du plaignant, Warren Pandiscia, streamer du Connecticut, est simple : Amazon aurait utilisé les contenus des créateurs de Twitch sans rémunération ni consentement.

L’évolution des CGU de Twitch appuie la plainte

Mike Minton, le directeur produit de Twitch, avait d’ailleurs justifié ce choix assez franchement : « si c’était à activer volontairement, personne ne le ferait. » La plainte va cependant plus loin que l’annonce du 12 août. Elle soutient en effet qu’Amazon utilisait déjà du contenu de Twitch pour ses modèles IA en 2024. À l’époque, il n’existait aucun mécanisme de refus.

Minton lui-même avait reconnu que Twitch servait effectivement à l’entraînement des modèles d’Amazon mais pour des prototypes, comme l’a rappelé 404media. Le fait que les conditions d’utilisation de Twitch aient été mises à jour le jour de l’annonce plaide en la faveur du plaignant, d’après sa poursuite.

La licence accordée aux utilisateurs permet à Twitch d’exploiter leurs contenus « en lien avec la monétisation des services de Twitch ». Le 12 août, la plateforme change la formulation : la licence peut désormais servir aux activités de Twitch et/ou de ses affiliés. Un changement qui sonne comme un aveu : si la licence précédente autorisait déjà l’utilisation des contenus des créateurs pour les activités d’IA générative d’Amazon, il n’aurait pas été nécessaire d’élargir la finalité de la licence de la sorte.

La plainte formule quatre chefs d’accusation : rupture d’un contrat implicite et du devoir de bonne foi contre Twitch, enrichissement injustifié contre Twitch et Amazon, rupture du contrat explicite contre les deux entreprises, et violation de la loi californienne sur les pratiques commerciales déloyales.

Le plaignant demande la certification de la plainte en class action, qui pourrait dès lors représenter les créateurs Twitch américains dont les œuvres auraient été indûment collectées pour entraîner les modèles d’Amazon.

Le Department of Justice (DoJ) des États-Unis a annoncé vendredi 21 août avoir conclu un accord avec TikTok pour solder les poursuites engagées à son encontre en 2024 en raison d’une protection insuffisante des mineurs sur son réseau social.

En échange de cet abandon, TikTok s’engage à verser immédiatement 300 millions de dollars, et 100 millions de dollars supplémentaires quand un juge aura annulé une précédente injonction remontant à 2019. Cette dernière imposait au réseau social, qui s’appelait alors Musical.ly, une surveillance renforcée et constituait une menace supplémentaire en cas de violation avérée de la loi COPPA (Children’s Online Privacy Protection Act).

TikTok s’exonère ainsi des poursuites engagées à son encontre en 2024 par le DOJ et la FTC, chargée de veiller à l’application de la loi COPPA. La plainte (PDF) formulait trois griefs principaux à l’encontre de TikTok et de sa maison mère, le groupe chinois Bytedance : la possibilité offerte aux enfants de créer un compte sans consentement d’un adulte responsable et l’utilisation à des fins marketing des données associées, le non-respect des demandes de suppression formulées par les parents, et une défaillance qualifiée de « systémique » de la modération chargée de veiller à évincer les comptes manifestement associés à des enfants.

Le DoJ rappelle que « TikTok a connu des changements importants au niveau de sa structure de propriété, de sa direction, de ses fonctions de conformité et de ses pratiques en matière de protection de la vie privée ». Il fait ici référence au long bras de fer engagé par Donald Trump pour que la branche US du réseau social passe sous contrôle d’une société détenue majoritairement par des acteurs états-uniens. Annoncé fin 2025, le transfert a été réalisé début 2026.

Les premiers changements découlant de cette nouvelle gouvernance n’allaient pas précisément dans le sens d’un respect accru de la vie privée, au contraire. Le DoJ estime néanmoins que TikTok a désormais mis en œuvre les mesures nécessaires à la protection des jeunes publics : « Ces évolutions ont considérablement contribué à la réalisation des intérêts publics sous-jacents à la procédure engagée par le ministère et ont renforcé la protection de millions de familles américaines ».

TikTok solde ainsi un dossier judiciaire, mais d’autres procédures restent ouvertes à son encontre outre-Atlantique, notamment celle initiée par 14 procureurs généraux en octobre 2024. Le réseau social y est attaqué pour les mêmes manquements, mais sur une base différente : ici, ce n’est pas la loi fédérale COPPA qui est invoquée, mais le droit de la consommation de chacun des 14 États concernés.

En Europe, le réseau social est également dans la ligne de mire de la Commission européenne, dont les conclusions préliminaires, publiées fin juillet, estiment que TikTok ne répond pas correctement aux obligations de protection des jeunes publics prévues par le DSA.

Le Department of Justice (DoJ) des États-Unis a annoncé vendredi 21 août avoir conclu un accord avec TikTok pour solder les poursuites engagées à son encontre en 2024 en raison d’une protection insuffisante des mineurs sur son réseau social.

En échange de cet abandon, TikTok s’engage à verser immédiatement 300 millions de dollars, et 100 millions de dollars supplémentaires quand un juge aura annulé une précédente injonction remontant à 2019. Cette dernière imposait au réseau social, qui s’appelait alors Musical.ly, une surveillance renforcée et constituait une menace supplémentaire en cas de violation avérée de la loi COPPA (Children’s Online Privacy Protection Act).

TikTok s’exonère ainsi des poursuites engagées à son encontre en 2024 par le DOJ et la FTC, chargée de veiller à l’application de la loi COPPA. La plainte (PDF) formulait trois griefs principaux à l’encontre de TikTok et de sa maison mère, le groupe chinois Bytedance : la possibilité offerte aux enfants de créer un compte sans consentement d’un adulte responsable et l’utilisation à des fins marketing des données associées, le non-respect des demandes de suppression formulées par les parents, et une défaillance qualifiée de « systémique » de la modération chargée de veiller à évincer les comptes manifestement associés à des enfants.

Le DoJ rappelle que « TikTok a connu des changements importants au niveau de sa structure de propriété, de sa direction, de ses fonctions de conformité et de ses pratiques en matière de protection de la vie privée ». Il fait ici référence au long bras de fer engagé par Donald Trump pour que la branche US du réseau social passe sous contrôle d’une société détenue majoritairement par des acteurs états-uniens. Annoncé fin 2025, le transfert a été réalisé début 2026.

Les premiers changements découlant de cette nouvelle gouvernance n’allaient pas précisément dans le sens d’un respect accru de la vie privée, au contraire. Le DoJ estime néanmoins que TikTok a désormais mis en œuvre les mesures nécessaires à la protection des jeunes publics : « Ces évolutions ont considérablement contribué à la réalisation des intérêts publics sous-jacents à la procédure engagée par le ministère et ont renforcé la protection de millions de familles américaines ».

TikTok solde ainsi un dossier judiciaire, mais d’autres procédures restent ouvertes à son encontre outre-Atlantique, notamment celle initiée par 14 procureurs généraux en octobre 2024. Le réseau social y est attaqué pour les mêmes manquements, mais sur une base différente : ici, ce n’est pas la loi fédérale COPPA qui est invoquée, mais le droit de la consommation de chacun des 14 États concernés.

En Europe, le réseau social est également dans la ligne de mire de la Commission européenne, dont les conclusions préliminaires, publiées fin juillet, estiment que TikTok ne répond pas correctement aux obligations de protection des jeunes publics prévues par le DSA.

RGPD pour tous

L’autorité de protection des données néerlandaise a infligé à Uber une amende de 825 millions d’euros pour avoir enfreint le RGPD. Uber avait mis en place un système qui suspendait automatiquement les chauffeurs sans aucune décision humaine.

L’Autoriteit Persoonsgegevens (AP, l’équivalent de la CNIL néerlandaise) a infligé à Uber l’une des plus importantes amendes s’appuyant sur le RGPD.

En effet, AP a confirmé ce vendredi 21 août avoir prononcé une amende d’un montant exact de 824 990 000 euros à Uber, car la multinationale « a pris des décisions entièrement automatisées concernant ses chauffeurs ».

« Uber a commis de graves infractions », estime Monique Verdier, responsable de l’autorité. « Des chauffeurs ont été désactivés sans aucune clémence, ajoute-t-elle. « Du jour au lendemain, ils se sont retrouvés sans aucun revenu provenant d’Uber. C’est interdit. Un ordinateur ne devrait pas prendre de lui-même des décisions qui ont des conséquences majeures pour vous. Ces décisions auraient dû être examinées au préalable par un être humain ».

Décision suite à une plainte de la LDH en France

Cette affaire remonte à 2021, lorsque la Ligue des droits de l’Homme (LDH) a déposé plainte auprès de la CNIL contre l’entreprise, mandatée par 171 chauffeurs VTC. L’ONG accusait Uber de bannir les chauffeurs de son application après « l’envoi de messages automatiques et strictement identiques, tous établis sur le même modèle », expliquait la plainte qu’avait pu consulter l’AFP à l’époque.

La LDH avait pris cette décision en soutien aux chauffeurs VTC du syndicat FO-INV qui, aidés par l’association suisse PersonalData.IO, avaient établi qu’une partie d’entre eux avait été déconnectée de façon temporaire ou définitive.

Cinq chauffeurs VTC représentés par ce syndicat ont récemment déposé une nouvelle plainte contre Uber.

• Uber : cinq chauffeurs de VTC déposent plainte pour traite d’êtres humains

Dans le message automatique envoyé aux chauffeurs, l’entreprise justifiait la plupart du temps la déconnexion par une « violation de l’un des principes de la charte de la communauté Uber » ou une « anomalie », sans ajouter d’information sur le cas spécifique.

L’avocat de la LDH, Jérôme Giusti, suspectait l’entreprise de vouloir faire le ménage alors que le gouvernement venait de signer une ordonnance organisant le dialogue social de secteur, et notamment des élections professionnelles.

« Aucune évaluation humaine n’intervenait dans ce processus »

Le siège social d’Uber pour l’Europe étant à Amsterdam, la CNIL a transmis le dossier à son homologue néerlandaise tout en expliquant avoir « étroitement coopéré » avec elle. L’AP avait déjà infligé une première amende de 10 millions d’euros à Uber en 2023 pour des manquements à l’information des chauffeurs ainsi qu’une deuxième dans ce dossier en 2024, cette fois-ci pour 290 millions d’euros pour avoir transféré les données personnelles des conducteurs européens vers des serveurs installés aux États-Unis.

Pour cette troisième amende, encore plus salée, l’autorité néerlandaise a constaté qu’Uber utilisait un logiciel pour surveiller le comportement des chauffeurs au volant et analyser les avis des clients. « Si ce logiciel détectait un soupçon de fraude ou si les avis des clients étaient trop négatifs, les comptes des chauffeurs concernés étaient automatiquement désactivés », explique-t-elle. « Aucune évaluation humaine n’intervenait dans ce processus » de 2018 à 2022, ajoute l’autorité.

Elle s’appuie (sans le dire explicitement dans son communiqué de presse) sur l’article 22 du RGPD pour justifier sa décision. Cet article affirme que « la personne concernée a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, produisant des effets juridiques la concernant ou l’affectant de manière significative de façon similaire ».

Dans sa décision formelle, que l’autorité n’a pas encore rendue publique mais à laquelle le Financial Times a eu accès, l’AP ajoute aussi qu’ « Uber a également porté atteinte au droit d’être pleinement informé de ces décisions automatisées ». À nos confrères, Uber a affirmé sa volonté de faire appel de cette amende qu’elle qualifie de « disproportionnée » sur « des politiques anciennes qui avaient été abandonnées il y a des années ».

L’entreprise ajoute : « Nous prenons très au sérieux les décisions qui affectent la capacité des chauffeurs à gagner leur vie et nous nous engageons pleinement à leur garantir un traitement équitable. Cela inclut des contrôles effectués par des humains, des mesures de protection solides et la possibilité pour les chauffeurs de faire appel de nos décisions s’ils estiment que nous avons commis une erreur ».

RGPD pour tous

L’autorité de protection des données néerlandaise a infligé à Uber une amende de 825 millions d’euros pour avoir enfreint le RGPD. Uber avait mis en place un système qui suspendait automatiquement les chauffeurs sans aucune décision humaine.

L’Autoriteit Persoonsgegevens (AP, l’équivalent de la CNIL néerlandaise) a infligé à Uber l’une des plus importantes amendes s’appuyant sur le RGPD.

En effet, AP a confirmé ce vendredi 21 août avoir prononcé une amende d’un montant exact de 824 990 000 euros à Uber, car la multinationale « a pris des décisions entièrement automatisées concernant ses chauffeurs ».

« Uber a commis de graves infractions », estime Monique Verdier, responsable de l’autorité. « Des chauffeurs ont été désactivés sans aucune clémence, ajoute-t-elle. « Du jour au lendemain, ils se sont retrouvés sans aucun revenu provenant d’Uber. C’est interdit. Un ordinateur ne devrait pas prendre de lui-même des décisions qui ont des conséquences majeures pour vous. Ces décisions auraient dû être examinées au préalable par un être humain ».

Décision suite à une plainte de la LDH en France

Cette affaire remonte à 2021, lorsque la Ligue des droits de l’Homme (LDH) a déposé plainte auprès de la CNIL contre l’entreprise, mandatée par 171 chauffeurs VTC. L’ONG accusait Uber de bannir les chauffeurs de son application après « l’envoi de messages automatiques et strictement identiques, tous établis sur le même modèle », expliquait la plainte qu’avait pu consulter l’AFP à l’époque.

La LDH avait pris cette décision en soutien aux chauffeurs VTC du syndicat FO-INV qui, aidés par l’association suisse PersonalData.IO, avaient établi qu’une partie d’entre eux avait été déconnectée de façon temporaire ou définitive.

Cinq chauffeurs VTC représentés par ce syndicat ont récemment déposé une nouvelle plainte contre Uber.

• Uber : cinq chauffeurs de VTC déposent plainte pour traite d’êtres humains

Dans le message automatique envoyé aux chauffeurs, l’entreprise justifiait la plupart du temps la déconnexion par une « violation de l’un des principes de la charte de la communauté Uber » ou une « anomalie », sans ajouter d’information sur le cas spécifique.

L’avocat de la LDH, Jérôme Giusti, suspectait l’entreprise de vouloir faire le ménage alors que le gouvernement venait de signer une ordonnance organisant le dialogue social de secteur, et notamment des élections professionnelles.

« Aucune évaluation humaine n’intervenait dans ce processus »

Le siège social d’Uber pour l’Europe étant à Amsterdam, la CNIL a transmis le dossier à son homologue néerlandaise tout en expliquant avoir « étroitement coopéré » avec elle. L’AP avait déjà infligé une première amende de 10 millions d’euros à Uber en 2023 pour des manquements à l’information des chauffeurs ainsi qu’une deuxième dans ce dossier en 2024, cette fois-ci pour 290 millions d’euros pour avoir transféré les données personnelles des conducteurs européens vers des serveurs installés aux États-Unis.

Pour cette troisième amende, encore plus salée, l’autorité néerlandaise a constaté qu’Uber utilisait un logiciel pour surveiller le comportement des chauffeurs au volant et analyser les avis des clients. « Si ce logiciel détectait un soupçon de fraude ou si les avis des clients étaient trop négatifs, les comptes des chauffeurs concernés étaient automatiquement désactivés », explique-t-elle. « Aucune évaluation humaine n’intervenait dans ce processus » de 2018 à 2022, ajoute l’autorité.

Elle s’appuie (sans le dire explicitement dans son communiqué de presse) sur l’article 22 du RGPD pour justifier sa décision. Cet article affirme que « la personne concernée a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, produisant des effets juridiques la concernant ou l’affectant de manière significative de façon similaire ».

Dans sa décision formelle, que l’autorité n’a pas encore rendue publique mais à laquelle le Financial Times a eu accès, l’AP ajoute aussi qu’ « Uber a également porté atteinte au droit d’être pleinement informé de ces décisions automatisées ». À nos confrères, Uber a affirmé sa volonté de faire appel de cette amende qu’elle qualifie de « disproportionnée » sur « des politiques anciennes qui avaient été abandonnées il y a des années ».

L’entreprise ajoute : « Nous prenons très au sérieux les décisions qui affectent la capacité des chauffeurs à gagner leur vie et nous nous engageons pleinement à leur garantir un traitement équitable. Cela inclut des contrôles effectués par des humains, des mesures de protection solides et la possibilité pour les chauffeurs de faire appel de nos décisions s’ils estiment que nous avons commis une erreur ».

Longtemps méconnu, l’Ouzbékistan séduit une nouvelle génération de voyageurs grâce à son hospitalité, ses prix accessibles et son patrimoine spectaculaire, qui alterne coupoles turquoise et remparts séculaires. Ce récit publié par “The New York Times” décrit un pays en plein essor touristique, mais encore loin d’être parcouru par les foules.

© PHOTO GABE CASTRO-ROOT/“THE NEW YORK TIMES”

“Il vaut mieux mettre fin à la guerre maintenant, alors que nous sommes en position de force”, a déclaré vendredi le président Pezeshkian, alors que les États-Unis menacent d’intensifier les sanctions économiques contre la République islamique.

© Iran's Presidential website/WANA / via REUTERS

[Deal du jour] Le Midea PortaSplit a été l’un des produits les plus convoités de l’été. Au plus fort de la pénurie, cette climatisation mobile s’est même affichée jusqu’à deux fois son prix sur certaines plateformes de revente. Elle revient aujourd’hui en stock à 899 €, soit 100 € sous son tarif habituel.

Une nuit de 1979, cinq tableaux de maîtres hollandais disparaissent d’un musée de Thüringe, en Allemagne de l’Est. Ils refont surface quarante ans plus tard. Où étaient-ils passés ? Enquête sur un casse rocambolesque qui est aussi une page de l’histoire allemande du XXe siècle.

© Photo Das Bundes Archiv

La Canadienne de 36 ans s’est fait connaître sur les réseaux sociaux par ses chorégraphies de “step dance” sur des classiques du heavy metal et du hard-rock. Ariel Hyatt contribue ainsi à revitaliser un style spécifique de danse, originaire de la vallée de l’Outaouais. Le quotidien canadien “The Globe and Mail” brosse son portrait.

© Photo Capture d’écran YouTube/@arielhyattstepdance

Après les baffes, les réglages

Apple et la Commission européenne ont enterré la hache de guerre cette semaine sur le dossier houleux de l’ouverture de l’App Store à la concurrence. Un accord qui consacre un certain pragmatisme de Bruxelles, après des années de tensions très vives entrecoupées de grosses amendes.

Des résultats. C’est ce que la Commission européenne cherche à obtenir des géants du numérique qui font partie du club des contrôleurs d’accès au titre du DMA. Ce 18 août, Apple a dévoilé les nouveaux changements – et ultimes, a priori – apportés aux conditions commerciales applicables aux applications distribuées dans l’UE.

• Apple baisse ses commissions dans l’UE et fait la paix avec Bruxelles

Ces modifications « font suite à un dialogue étroit entre la Commission et Apple, après que la Commission a adopté, en avril 2025, une décision constatant le non-respect des règles concernant les conditions imposées par Apple en matière d’orientation des utilisateurs, ainsi que des conclusions préliminaires concernant la distribution d’applications par des canaux alternatifs », a déclaré l’exécutif européen. Qui va désormais surveiller la mise en œuvre effective de ces nouvelles conditions.

Bruxelles range le bâton

En avril 2025, Apple écopait d’une amende de 500 millions d’euros, assortie d’astreintes journalières (jusqu’à 5 % du chiffre d’affaires mondial) en cas de non-conformité. La Commission n’envisage pas, à ce stade, de pénalités, indique à Politico le porte-parole Ricardo Cardoso.

Autre affaire qui devrait être réglée, celle qui concerne Meta sur le choix des utilisateurs de partager moins de données avec les réseaux sociaux du groupe. La Commission a reconnu en décembre dernier l’engagement de Meta de proposer « des publicités moins personnalisées ». L’entreprise avait écopé d’une amende de 200 millions d’euros, infligée en même temps que celle d’Apple.

Sur ce dossier, la Commission est toujours en phase d’examen de l’efficacité du choix, sans dire si elle en est satisfaite. Elle relevait tout de même l’an dernier que « c’est la première fois qu’un tel choix est proposé sur les réseaux sociaux de Meta ».

Mi-juillet, Bruxelles précisait la manière dont Google devait partager les données de recherche avec la concurrence, et ouvrir la porte aux assistants IA rivaux dans Android.

• Qwant : les données de Google vont « réduire l’avantage d’une domination monopolistique »

« Pas une question de chiffres »

Deux ans et demi après l’entrée en vigueur du règlement sur les marchés numériques, la Commission a ouvert sept procédures pour non-conformité, infligé des amendes à trois entreprises (Apple et Meta donc, ainsi que Google). Deux enquêtes sont closes, une troisième concernant Apple devrait l’être sous peu – il s’agit des conditions commerciales imposées aux boutiques alternatives et aux apps distribuées en dehors de l’App Store.

« La mise en œuvre et l’application du DMA ne sont pas une question de chiffres, mais de résultats », affirme Ricardo Cardoso. Au-delà des amendes ronflantes, la Commission cherche davantage à obtenir des changements concrets. Au grand dam d’organisations comme l’Initiative for Neutral Search, une coalition d’entreprises européennes du numérique qui dénonce le « désintérêt » et le « désengagement » de Bruxelles. Concernant les amendes, elle les estime trop faibles pour être réellement dissuasives. Les sanctions seraient ainsi considérées par les grands groupes comme une dépense parmi d’autres.

Pour Ricardo Cardoso, « comparer les amendes entre différents instruments juridiques ou différentes entreprises n’a pas vraiment de sens. » Obtenir des changements dans les comportements – une « procédure de spécification » – n’est pas le bon outil « pour s’attaquer aux problèmes liés à la recherche, aux boutiques d’applications, aux offres groupées ou au cloud », déplore de son côté l’Initiative. Ces outils sont efficaces pour « régler des problèmes réglementaires plus limités. Mais cela n’a pas d’effet sur la conception des produits ».

Pas question pour autant de changer de cap à la Commission. Elle « n’hésitera pas à ouvrir des procédures de non-conformité chaque fois que cela sera nécessaire au regard des circonstances concrètes, tandis que, dans d’autres cas, une procédure de spécification est justifiée », indique le porte-parole.

Après les baffes, les réglages

Apple et la Commission européenne ont enterré la hache de guerre cette semaine sur le dossier houleux de l’ouverture de l’App Store à la concurrence. Un accord qui consacre un certain pragmatisme de Bruxelles, après des années de tensions très vives entrecoupées de grosses amendes.

Des résultats. C’est ce que la Commission européenne cherche à obtenir des géants du numérique qui font partie du club des contrôleurs d’accès au titre du DMA. Ce 18 août, Apple a dévoilé les nouveaux changements – et ultimes, a priori – apportés aux conditions commerciales applicables aux applications distribuées dans l’UE.

• Apple baisse ses commissions dans l’UE et fait la paix avec Bruxelles

Ces modifications « font suite à un dialogue étroit entre la Commission et Apple, après que la Commission a adopté, en avril 2025, une décision constatant le non-respect des règles concernant les conditions imposées par Apple en matière d’orientation des utilisateurs, ainsi que des conclusions préliminaires concernant la distribution d’applications par des canaux alternatifs », a déclaré l’exécutif européen. Qui va désormais surveiller la mise en œuvre effective de ces nouvelles conditions.

Bruxelles range le bâton

En avril 2025, Apple écopait d’une amende de 500 millions d’euros, assortie d’astreintes journalières (jusqu’à 5 % du chiffre d’affaires mondial) en cas de non-conformité. La Commission n’envisage pas, à ce stade, de pénalités, indique à Politico le porte-parole Ricardo Cardoso.

Autre affaire qui devrait être réglée, celle qui concerne Meta sur le choix des utilisateurs de partager moins de données avec les réseaux sociaux du groupe. La Commission a reconnu en décembre dernier l’engagement de Meta de proposer « des publicités moins personnalisées ». L’entreprise avait écopé d’une amende de 200 millions d’euros, infligée en même temps que celle d’Apple.

Sur ce dossier, la Commission est toujours en phase d’examen de l’efficacité du choix, sans dire si elle en est satisfaite. Elle relevait tout de même l’an dernier que « c’est la première fois qu’un tel choix est proposé sur les réseaux sociaux de Meta ».

Mi-juillet, Bruxelles précisait la manière dont Google devait partager les données de recherche avec la concurrence, et ouvrir la porte aux assistants IA rivaux dans Android.

• Qwant : les données de Google vont « réduire l’avantage d’une domination monopolistique »

« Pas une question de chiffres »

Deux ans et demi après l’entrée en vigueur du règlement sur les marchés numériques, la Commission a ouvert sept procédures pour non-conformité, infligé des amendes à trois entreprises (Apple et Meta donc, ainsi que Google). Deux enquêtes sont closes, une troisième concernant Apple devrait l’être sous peu – il s’agit des conditions commerciales imposées aux boutiques alternatives et aux apps distribuées en dehors de l’App Store.

« La mise en œuvre et l’application du DMA ne sont pas une question de chiffres, mais de résultats », affirme Ricardo Cardoso. Au-delà des amendes ronflantes, la Commission cherche davantage à obtenir des changements concrets. Au grand dam d’organisations comme l’Initiative for Neutral Search, une coalition d’entreprises européennes du numérique qui dénonce le « désintérêt » et le « désengagement » de Bruxelles. Concernant les amendes, elle les estime trop faibles pour être réellement dissuasives. Les sanctions seraient ainsi considérées par les grands groupes comme une dépense parmi d’autres.

Pour Ricardo Cardoso, « comparer les amendes entre différents instruments juridiques ou différentes entreprises n’a pas vraiment de sens. » Obtenir des changements dans les comportements – une « procédure de spécification » – n’est pas le bon outil « pour s’attaquer aux problèmes liés à la recherche, aux boutiques d’applications, aux offres groupées ou au cloud », déplore de son côté l’Initiative. Ces outils sont efficaces pour « régler des problèmes réglementaires plus limités. Mais cela n’a pas d’effet sur la conception des produits ».

Pas question pour autant de changer de cap à la Commission. Elle « n’hésitera pas à ouvrir des procédures de non-conformité chaque fois que cela sera nécessaire au regard des circonstances concrètes, tandis que, dans d’autres cas, une procédure de spécification est justifiée », indique le porte-parole.

En réponse aux bombardements russes, l’Ukraine frappe désormais chaque jour la Russie, touchant une population qui, jusque-là, se tenait à l’écart de la guerre. Résultat : une atmosphère paranoïaque s’est propagée dans le pays, largement alimentée par la propagande de l’État, raconte le média indépendant “Novaïa Vkladka”.

© PHOTO STRINGER/REUTERS

Le tabac, c'est tabou

Le plus grand procès intenté à Meta a débuté le 12 août en Californie. Les débats s’ouvrent ce 18 août. Alors que les discussions pourraient aboutir sur une obligation de modification du fonctionnement de Facebook et Instagram, Next récapitule les enjeux.

Pourquoi ce procès ?

À la suite de la publication des « Facebook Files », jeu de documents publié en 2021 par l’ex-employée de Meta Frances Haugen, 41 États des États-Unis ont porté plainte contre Meta. À l’époque, c’est-à-dire en 2023, 33 s’étaient alliés pour déposer une plainte groupée et 8 autres avaient déposé des plaintes séparées.

Plus largement, le procès résulte à la fois de la meilleure connaissance des effets des réseaux sociaux sur la santé mentale en général, et celle des jeunes en particulier. À cela s’ajoute la publication d’une série de documents internes par Frances Haugen, ainsi que d’autres témoignages venus de l’intérieur comme celui de Sarah Wynn-Wyler, autrice du livre Careless People (Flatiron Books, traduit chez Buchet-Chastel). Ces derniers éléments ont permis de comprendre dans quelle mesure l’entreprise connaissait les effets négatifs de ces outils, et les décisions qu’elle a prises en fonction de ces informations.

Dans de précédents procès, dont celui qui opposait plusieurs districts scolaires états-uniens à Meta, l’entreprise a déjà été accusée d’abandonner des recherches internes quand ces dernières ont commencé à illustrer un lien de causalité entre le recours aux plateformes de Meta et la santé mentale de ses utilisateurs.

• Réseaux sociaux : une semaine de pause améliore l’estime de soi des jeunes filles

Qui attaque Meta dans ce cas précis ?

Dans le procès qui s’est ouvert le 12 août, et dont les débats débutent ce 18 août, ce sont finalement les plaintes des États de Californie, du Colorado, du Kentucky et du New Jersey qui seront étudiées.

Aux côtés de ces quatre principales administrations, la juge Yvonne Gonzales Rogers se penchera sur celles de vingt-cinq États supplémentaires, qui critiquent principalement la collecte de données opérée par Meta sans le consentement des parents ou responsables légaux des mineurs concernés.

Qui est la juge en charge de l’affaire ?

Yvonne Gonzales Rogers n’en est pas à sa première affaire relative à un géant numérique. La juge est notamment en charge du contentieux qui oppose de longue date Apple et Epic Games sur les commissions d’achat imposées dans l’App Store.

• Apple veut sauver sa commission App Store devant la Cour suprême

Âgée de soixante et un ans, elle a par ailleurs présidé les débats plus tôt cette année, lors du procès opposant Elon Musk à Sam Altman à propos du statut d’OpenAI. Après trois semaines de débat, le premier a été débouté de toutes ses poursuites.

Dans le présent procès, elle sera assistée par un jury consultatif de huit personnes. C’est néanmoins à la juge que reviendra la décision finale, précise Euronews.

Que risque l’entreprise ?

D’après ses propres calculs, la société risque jusqu’à 1 400 milliards de dollars (1 210 milliards d’euros) si elle est déclarée coupable. Le montant atteindrait presque sa capitalisation boursière, qui s’élève actuellement autour de 1 580 milliards de dollars. Dans un document soumis à la cour mi-juillet, la société a déclaré qu’une telle sanction n’avait « pas de comparaison dans l’histoire de la protection des consommateurs » et que les plaintes la visant manquaient de fondement.

Elle a calculé ce montant après que des représentants des États plaignants eurent déclaré calculer le montant de dommages et intérêts qu’ils réclameraient en multipliant le nombre de violations par les montants des amendes fixées par chaque loi étatique. Le nombre de violations, lui, s’élèverait à une estimation du nombre de jeunes internautes affectés négativement par les plateformes de Meta.

Auprès du tribunal, les États ont de leur côté indiqué qu’un scénario plus probable tournerait autour de 200 milliards de dollars, soit 173 milliards d’euros.

Brotech strikes again

En Allemagne, l’ONG HateAid vient de déposer plainte contre Meta, Ray-Ban et Oakley, critiquant les atteintes à la vie privée que permettent leurs lunettes « intelligentes ». Une pierre de plus dans le jardin de Meta, dont les lunettes sont de plus en plus vivement critiquées par le public, et désormais interdites par divers acteurs privés et publics à travers la planète.

« Des lunettes pour les gens qui ne se préoccupent pas du consentement. » Placardée sur un arrêt de bus londonien, la fausse publicité, qui représente Jeffrey Epstein affublé des lunettes Meta, a fait le tour des réseaux sociaux.

En cause : équipée de caméras, la paire de Ray-Ban est régulièrement décrite comme un « spyware », un outil d’espionnage, alors même que des créatrices et créateurs de contenu multiplient les campagnes de publicité pour l’équipement.

De fait, le fonctionnement de ces lunettes implique que ces outils puissent photographier et filmer les personnes aux alentours de celui ou celle qui porte les lunettes, sans que ceux-ci ne s’en rendent compte. Autrement dit, elles permettent de filmer des personnes sans leur accord, le petit voyant qui s’allume sur les lunettes lorsqu’elles filment n’étant pas nécessairement vu, ni compris.

Face aux protestations, un nombre croissant de lieux publics ou privés en interdisent le port, aux États-Unis, au Royaume-Uni et ailleurs. En Allemagne, l’association Hate Aid, spécialisée dans la défense des droits numériques, vient de déposer plainte contre Meta.

• Lunettes connectées : des scènes d’intimité envoyées aux sous-traitants kényans de Meta

Campagnes de publicité agressives

Depuis la première version de ses « lunettes intelligentes », en 2023, Meta n’a cessé de multiplier les opérations de promotion, le plus souvent directement via des créatrices et créateurs de contenu actifs sur ses réseaux. En France, des vidéastes comme Léa Elui, Louise Aubery, Théo Babac, ou un rappeur comme PLK ont pu faire la publicité des lunettes courant 2025. Cette année, la société de Mark Zuckerberg a obtenu un partenariat destiné à durer plusieurs années avec le Festival de Cannes. Cela lui a déjà permis de faire vivre l’événement « de l’intérieur » au public, par l’intermédiaire de diverses célébrités et créateurs de contenu affublés de ses lunettes.

🤢️

Après la vague de deepfakes sur Grok fin 2025-début 2026, des enquêtes ont été lancées et plusieurs adolescentes et jeunes femmes ont porté plainte contre SpaceXAI mais aussi Stability AI. Cinq plaignantes, toutes mineures au moment des faits, les accusent d’avoir produit des contenus pédocriminels pour leurs utilisateurs. L’un d’entre eux était le beau-père d’une des victimes, un autre l’un de ses amis.

Attention : le sujet de cet article est particulièrement difficile et certains détails évoqués peuvent heurter.

Pendant plus de six mois, Elon Musk et son entreprise d’IA générative ont incité leurs utilisateurs à générer avec Grok des images de femmes mises à nu et/ou dans des positions sexuelles. SpaceXAI (le nouveau nom de xAI) est maintenant accusée, aux États-Unis, d’avoir laissé Grok générer des milliers de photos pédocriminelles de cinq plaignantes, à la demande de ses utilisateurs.

• Deepfakes sur Grok : l’autorité de protection des données irlandaise ouvre une enquête
• Vague massive de deepfakes générés par Grok : la justice française étend son enquête

« Les puissants outils de l’intelligence artificielle peuvent produire des résultats stupéfiants », commence la plainte de ces cinq jeunes femmes :

« Imaginez : la vidéo d’une véritable enfant transformée par une plateforme d’IA pour représenter une scène entièrement nouvelle. Le visage de l’enfant reste le même ; ses membres bougent comme ceux de l’enfant réel ; même son rire conserve la même intonation. »

« Telle une poupée de chiffon à qui la magie noire aurait donné vie, cette enfant peut être manipulée pour prendre n’importe quelle posture, aussi malsaine, fétichiste ou illégale soit-elle », continue la plainte. « Pour le spectateur, la vidéo qui en résulte semble tout à fait réelle. Quant à l’enfant, ses traits distinctifs seront désormais à jamais associés à une vidéo montrant les abus sexuels dont elle a été victime ».

Grok et d’autres IA génératives peuvent ainsi créer des images très réalistes (même si complètement irréelles) d’enfants existants dans des positions lascives, les dénuder ou même les inclure dans des images sur lesquelles ils (et très souvent elles) subissent des violences sexuelles.

Trois jeunes femmes, toutes mineures au moment des faits (une d’entre elles l’est encore), ont porté plainte aux États-Unis en mars dernier. Elles ont été rejointes par deux autres (mineures aussi au moment des faits) en juillet dernier. Le document [PDF] décrit la génération de milliers de contenus pédocriminels (CSAM).

L’utilisation d’une photo d’une victime prise lorsqu’elle avait 11 ans

L’une d’entre elles accuse notamment SpaceXAI d’avoir généré plus de 7 000 fausses images la représentant dans des scènes de viol pour son beau-père. Celui-ci a utilisé le chatbot Grok de l’entreprise pour les obtenir en uploadant une photo d’elle prise lorsqu’elle avait 11 ans. La plainte détaille des images très explicites, le sous-titre d’une d’entre elles décrit le viol par le beau-père.

« Ma vie était tout à fait normale », explique la plaignante de manière anonyme auprès du Washington Post, « moins de 48 heures plus tard, c’était devenu un véritable cauchemar ». « L’accès illimité à ces outils se généralise à une vitesse fulgurante », ajoute-t-elle : « Cela transforme la vie quotidienne en une situation d’abus sexuel sur mineur ».

Ce cas a été découvert par les autorités américaines qui ont lancé une enquête contre le beau-père pour détention de contenus pédocriminels. Mais deux jours après les investigations sur les disques durs utilisés par le beau-père, celui-ci s’est suicidé. La plainte explique qu’à la suite de ce suicide, la victime a traversé une période de crise personnelle très grave : « Elle a dû faire face au traumatisme lié à sa propre exploitation sexuelle tout en aidant sa mère à surmonter la perte de son beau-père ».

De plus, selon son témoignage auprès de nos confrères, il n’a pas été inculpé car, si SpaceXAI a fait un signalement, l’entreprise n’a pas fourni aux autorités les deepfakes en question. L’entreprise aurait même, dans un premier temps, transmis l’information à la cellule de lutte contre la cybercriminalité du mauvais État.

Selon le Washington Post, le beau-père aurait uploadé la première photo de sa belle-fille quelques semaines après qu’Elon Musk a, mi-janvier, certifié que son outil « refuserait de produire quoi que ce soit d’illégal ». SpaceXAI n’a pas voulu répondre à nos confrères.

Stability AI ajoutée à la plainte

Les deepfakes concernant les autres plaignantes sont aussi décrits, dans la plainte, comme des contenus pédocriminels. Pour l’une d’entre elles, c’est aussi un proche qui a utilisé l’IA générative pour créer des images d’elle : « L’auteur des faits avait accès aux photos de [la jeune fille] car il entretenait une relation étroite et amicale avec elle, profitant de la confiance qu’elle lui accordait pour l’inciter à lui envoyer des photos d’elle-même », explique la plainte.

Dans la nouvelle version de la plainte, les avocats des plaignantes ont ajouté une autre entreprise au banc des accusés : Stability AI, qui diffuse son modèle en « open-weight » (on parle de modèle à poids ouverts quand ses paramètres internes – les « poids » – calculés lors de l’apprentissage sont partagés publiquement). Les applications installées sur le téléphone de plusieurs auteurs des faits, utilisées pour créer les contenus pédocriminels générés par IA représentant les plaignantes, s’appuyaient « sur les outils de génération d’images de Stability AI pour produire ces contenus illicites », affirment les avocats des plaignantes.

« La capacité d’un modèle à poids ouvert à générer du contenu CSAM, que ce soit « tel quel » ou après un ajustement par l’utilisateur, dépend fortement de la familiarité du modèle avec les contenus de nudité présents dans ses données d’entraînement initiales », expliquent-ils. Et ils ajoutent que les modèles Stable Diffusion SD 1.0 et 1.5 ont été entrainés sur les données de LAION-5B, une base de données qui a pendant, un certain temps, listé des contenus pédocriminels.

« Les modèles Stable Diffusion SD 1.0 et 1.5 ayant été entraînés sur du contenu pédocriminels, ils étaient capables de générer ce type de contenu », commentent les avocats. « Lorsqu’un modèle à poids ouverts a été entraîné sur du contenu pédopornographique, comme ce fut le cas pour Stable Diffusion, ces barrières s’avèrent faciles à contourner ».

Les deux entreprises n’ont pas encore été entendues par la justice. D’abord prévues le 13 aout dernier, l’audience préliminaire concernant ce procès a été reportée [PDF] au 15 octobre.