[Deal du jour] La chaleur revient par épisode, et avec elle la grande question : comment rafraîchir son logement sans transformer son salon en chantier ni supporter le bruit d'un moteur pendant toute la nuit ? La Midea PortaSplit 12K entend apporter une réponse.
Twitch exploite les contenus des chaînes des créateurs de contenus pour entraîner les modèles IA d’Amazon. Rien de vraiment étonnant, la plateforme de streaming étant la propriété du géant du commerce en ligne, et puis bien d’autres entreprises font de même avec leurs utilisateurs. Le hic ici, c’est que la fonction est activée par défaut…
Une bonne partie de la communauté des créateurs de Twitch n’apprécie pas – c’est un euphémisme – l’IA générative. Depuis ce mercredi 12 août, c’est donc une vague de colère qui s’abat sur la plateforme, après que celle-ci a activé par défaut l’autorisation d’exploiter le contenu des chaînes pour entraîner les modèles IA d’Amazon. Tout peut y passer : streams, vidéos à la demande, clips, chats de stream, images et textes de la chaîne.
« Votre audio pourrait contribuer à améliorer les modèles de conversion de la parole en texte. Cela permettrait d’améliorer les sous-titres sur Twitch, mais aussi sur l’ensemble des services Amazon », illustre ainsi la FAQ mise en ligne pour l’occasion. Il reste heureusement la possibilité de désactiver l’utilisation des contenus, dans les réglages « Sécurité et confidentialité » de Twitch.
Néanmoins, même en désactivant l’option, les données de discussion dans un chat peuvent tout de même être exploitées pour entraîner les modèles IA d’Amazon si quelqu’un dans le chat a accepté de participer.
La nouveauté n’est pas passée inaperçue. Et Twitch a bien conscience de l’impopularité de l’IA générative chez ses créateurs. Lors d’un stream houleux repris par Aftermath, Mike Minton, directeur produit du service, et Mary Kish, responsable de la communauté, ont tenté d’expliquer cette décision. Devant le barrage de questions sur le caractère « opt-in » de l’option, le directeur produit n’a pas fait mystère de la raison pour laquelle Twitch avait procédé de la sorte.
« Alors, pourquoi est-ce que ce n’est pas une option à activer volontairement ? » a expliqué Mike Minton. « Il y a une réponse honnête, et je pense que la plupart d’entre vous peuvent probablement la comprendre : si c’était à activer volontairement, personne ne le ferait. C’est honnêtement la réponse. » Aucun créateur de Twitch n’autoriserait volontairement de donner ses contenus pour entraîner les modèles IA d’Amazon, c’est pourquoi l’option est activée par défaut.
Voilà qui a au moins le mérite de la franchise. Et de la clarté… même si le reste de la discussion n’a malheureusement pas beaucoup éclairé les créateurs en colère. « C’est un sujet délicat, et je pense que notre communauté a eu la réaction à laquelle je m’attendais de votre part, à savoir que vous n’aimez pas ça », a convenu Mary Kish, qui elle-même a désactivé l’option.
Pourquoi diable avoir activé cette fonction par défaut ? Parce que si Amazon n’exploitait pas les streams pour ses modèles, d’autres entreprises l’auraient fait. « Si des modèles ont été entraînés sur [vos contenus], il se peut que ce soit Amazon, ou pas », a indiqué Mike Minton. « Il s’agissait probablement de l’une des dizaines d’entreprises qui créent des modèles et utilisent tout contenu accessible publiquement qu’elles peuvent trouver. »
Il se trouve que Twitch est la plateforme de streaming dominante, et qu’Amazon est une des plus grandes entreprises de la planète. Autrement dit, ce ne sont pas de petits acteurs soumis aux diktats des mastodontes de leurs secteurs respectifs : ils peuvent imposer leurs propres règles. Hélas, les pauvres n’ont visiblement pas le choix, à en croire Mike Minton :
« Je ne peux pas l’affirmer avec certitude, mais je pense qu’il est assez raisonnable de supposer que presque tout contenu disponible est utilisé pour l’entraînement de modèles, d’une manière ou d’une autre, que ce soit autorisé ou non. Donc je pense que nous devons aussi reconnaître qu’il y a beaucoup d’éléments ici qui échappent même à notre contrôle direct. »
Minuscule consolation : ni Amazon ni Twitch ne revendent les données à des tiers. « Nous ne revendons pas les données à d’autres entreprises qui entraînent des modèles (…) Ce n’est pas ce qui se passe ici. Nous ne tirons aucun profit et ne gagnons pas d’argent en vendant vos données », affirme Minton.
Quant à savoir si Amazon exploitait déjà en douce les contenus des streams pour l’entraînement de son IA, les deux responsables bottent en touche.« Je ne peux pas me prononcer sur ce qu’Amazon utilise ou pas précisement comme contenu concernant l’entrainement », a déclaré Mike Minton. Lui et Mary Kish encouragent les utilisateurs de Twitch à désactiver l’option : « Les chiffres de désinscription nous aideront à réaffirmer que notre communauté n’est pas réceptive à l’IA sous quelque forme que ce soit », a affirmé la responsable de la communauté.
Twitch exploite les contenus des chaînes des créateurs de contenus pour entraîner les modèles IA d’Amazon. Rien de vraiment étonnant, la plateforme de streaming étant la propriété du géant du commerce en ligne, et puis bien d’autres entreprises font de même avec leurs utilisateurs. Le hic ici, c’est que la fonction est activée par défaut…
Une bonne partie de la communauté des créateurs de Twitch n’apprécie pas – c’est un euphémisme – l’IA générative. Depuis ce mercredi 12 août, c’est donc une vague de colère qui s’abat sur la plateforme, après que celle-ci a activé par défaut l’autorisation d’exploiter le contenu des chaînes pour entraîner les modèles IA d’Amazon. Tout peut y passer : streams, vidéos à la demande, clips, chats de stream, images et textes de la chaîne.
« Votre audio pourrait contribuer à améliorer les modèles de conversion de la parole en texte. Cela permettrait d’améliorer les sous-titres sur Twitch, mais aussi sur l’ensemble des services Amazon », illustre ainsi la FAQ mise en ligne pour l’occasion. Il reste heureusement la possibilité de désactiver l’utilisation des contenus, dans les réglages « Sécurité et confidentialité » de Twitch.
Néanmoins, même en désactivant l’option, les données de discussion dans un chat peuvent tout de même être exploitées pour entraîner les modèles IA d’Amazon si quelqu’un dans le chat a accepté de participer.
La nouveauté n’est pas passée inaperçue. Et Twitch a bien conscience de l’impopularité de l’IA générative chez ses créateurs. Lors d’un stream houleux repris par Aftermath, Mike Minton, directeur produit du service, et Mary Kish, responsable de la communauté, ont tenté d’expliquer cette décision. Devant le barrage de questions sur le caractère « opt-in » de l’option, le directeur produit n’a pas fait mystère de la raison pour laquelle Twitch avait procédé de la sorte.
« Alors, pourquoi est-ce que ce n’est pas une option à activer volontairement ? » a expliqué Mike Minton. « Il y a une réponse honnête, et je pense que la plupart d’entre vous peuvent probablement la comprendre : si c’était à activer volontairement, personne ne le ferait. C’est honnêtement la réponse. » Aucun créateur de Twitch n’autoriserait volontairement de donner ses contenus pour entraîner les modèles IA d’Amazon, c’est pourquoi l’option est activée par défaut.
Voilà qui a au moins le mérite de la franchise. Et de la clarté… même si le reste de la discussion n’a malheureusement pas beaucoup éclairé les créateurs en colère. « C’est un sujet délicat, et je pense que notre communauté a eu la réaction à laquelle je m’attendais de votre part, à savoir que vous n’aimez pas ça », a convenu Mary Kish, qui elle-même a désactivé l’option.
Pourquoi diable avoir activé cette fonction par défaut ? Parce que si Amazon n’exploitait pas les streams pour ses modèles, d’autres entreprises l’auraient fait. « Si des modèles ont été entraînés sur [vos contenus], il se peut que ce soit Amazon, ou pas », a indiqué Mike Minton. « Il s’agissait probablement de l’une des dizaines d’entreprises qui créent des modèles et utilisent tout contenu accessible publiquement qu’elles peuvent trouver. »
Il se trouve que Twitch est la plateforme de streaming dominante, et qu’Amazon est une des plus grandes entreprises de la planète. Autrement dit, ce ne sont pas de petits acteurs soumis aux diktats des mastodontes de leurs secteurs respectifs : ils peuvent imposer leurs propres règles. Hélas, les pauvres n’ont visiblement pas le choix, à en croire Mike Minton :
« Je ne peux pas l’affirmer avec certitude, mais je pense qu’il est assez raisonnable de supposer que presque tout contenu disponible est utilisé pour l’entraînement de modèles, d’une manière ou d’une autre, que ce soit autorisé ou non. Donc je pense que nous devons aussi reconnaître qu’il y a beaucoup d’éléments ici qui échappent même à notre contrôle direct. »
Minuscule consolation : ni Amazon ni Twitch ne revendent les données à des tiers. « Nous ne revendons pas les données à d’autres entreprises qui entraînent des modèles (…) Ce n’est pas ce qui se passe ici. Nous ne tirons aucun profit et ne gagnons pas d’argent en vendant vos données », affirme Minton.
Quant à savoir si Amazon exploitait déjà en douce les contenus des streams pour l’entraînement de son IA, les deux responsables bottent en touche.« Je ne peux pas me prononcer sur ce qu’Amazon utilise ou pas précisement comme contenu concernant l’entrainement », a déclaré Mike Minton. Lui et Mary Kish encouragent les utilisateurs de Twitch à désactiver l’option : « Les chiffres de désinscription nous aideront à réaffirmer que notre communauté n’est pas réceptive à l’IA sous quelque forme que ce soit », a affirmé la responsable de la communauté.
Après Anthropic, OpenAI et Meta, voilà qu’un modèle du chinois Moonshot AI aurait lui aussi réussi à accéder à internet aux dépens de ses constructeurs. Une démonstration supplémentaire des failles techniques et humaines existant chez les constructeurs d’IA générative et leurs partenaires, mais aussi de l’impunité qu’ils cultivent de manière très publique.
Ça commence à bien faire. Après Anthropic, Open AI et Meta, c’est au tour du chinois Moonshot AI de laisser un des systèmes d’IA générative accéder à internet. Une fois au large, le système a fouillé Github pour y chercher les réponses au benchmark de sécurité auquel il était soumis, d’après la société états-unienne Frontier Security.
À peu près à la même période, c’était Meta qui laissait son modèle Muse Spark 1.1 accéder à internet « par inadvertance », espace depuis lequel le système a hacké un acteur tiers. La mention de l’inadvertance est une citation du Wall Street Journal. Mais elle traduit bien le ton global des communiqués et explications fournies par chacun des constructeurs d’IA générative au gré des failles de cybersécurité mises au jour ces dernières semaines.
Premier concerné, OpenAI s’est débrouillé dès le mois de juillet pour tourner la perte de contrôle de l’outil que l’entreprise avait elle-même construit en démonstration de la supposée « intelligence » du modèle GPT 5.6 Sol. Alors qu’il était soumis à un test interne, supposément isolé du réseau, le dispositif aurait exploité une vulnérabilité 0-day pour accéder à internet et, de là, se tourner vers les systèmes de la société concurrente Hugging Face pour trouver les réponses au test auquel il était soumis. Pour les besoins de ce test, GPT 5.6 Sol avait été volontairement configuré avec des barrières cyber relativement faibles. Pour autant, OpenAI a mis cinq jours complets à s’apercevoir du problème.
Depuis quand les vulnérabilités technologiques sont-elles devenues un argument de vente ? Depuis quand un produit ouvertement dangereux pour son constructeur et pour le reste du milieu économique et social – ses concurrents, ses clients, des internautes qui passent dans le coin – peut-il être mis sur le marché sans que quiconque ne demande vérification et sécurisation du produit en amont ?
Les raisons de la « prise d’indépendance » du moteur de Meta sont peu ou prou les mêmes que celles avancées par OpenAI quelques semaines plus tôt : d’après les entreprises elles-mêmes, ces errements sont dûs à de « mauvaises configurations » des environnements dans lesquels les tests de cybersécurité ont été mis en place. Chez Anthropic, Claude aurait de son côté réussi par trois fois (sur 141 000 sessions de tests) à sortir de son « bac à sable » (sandbox, environnement d’expérimentation sécurisé) pour aller sur internet.
La succession d’incidents vus chez les acteurs états-uniens Meta, Anthropic et OpenAI serait d’ailleurs le résultat d’un seul et même test de cybersécurité. Les trois ont été menés par la société Irregular, qui se présente comme un « laboratoire de sécurisation des systèmes frontière ». Celle-ci déclare que les incidents ne sont le résultat d’aucune action cyber sophistiquée, et qu’elle n’a pas de « problème en cours » au sujet de son environnement de test.
S’il n’y a pas de problème, il ne reste plus qu’à… faire confiance aux constructeurs d’IA comme à leurs partenaires ? Et considérer qu’il n’y a pas de problème ?
Si les modèles concernés ont exploité des failles techniques pour répondre aux tests de cybersécurité auxquels ils étaient soumis, avance Nathaniel Jones, cadre de la société de cybersécurité Darktrace, dans TechRadar, c’est précisément parce qu’ils ont été construits et testés pour cela. Alors qu’elles s’étaient vues fixer « l’objectif légitime de résoudre un exercice de référence en matière de cybersécurité », les machines ont trouvé « une voie inattendue pour parvenir aux réponses ».
« L’eau sous pression ne "décide" pas de s’échapper. Elle s’engouffre dans une brèche sous la seule force de la pression », écrit de son côté l’éditeur Cyrille Zola-Place dans une tribune. « Personne ne dirait que l’eau est « en mission », qu’elle agit « de sa propre initiative », qu’elle est « hors de contrôle ». Tout le monde comprendrait que la question est ailleurs : qui a construit ce barrage, et pourquoi n’a-t-il pas tenu ? Le système n’a pas « voulu » sortir. Il a optimisé un chemin. Et le chemin passait par là. »
Fondateur de la société de cybersécurité Immuniweb, Ilia Kolochenko estime de son côté que l’annonce d’Anthropic était surtout un « geste marketing » destiné à répondre aux discours relatifs à l’attaque d’Hugging Face par des systèmes d’IA, « qui avait attiré l’attention du monde entier ». Une analyse que nous élargissons volontiers à la réaction de Meta, à la décision de sociétés comme Frontier Security d’analyser divers autres systèmes pour voir si, eux aussi, avaient réussi à échapper à leur environnement de test. On pourrait même, pourquoi pas, y ajouter le « test de sécurité » mené au Royaume-Uni par l’AI Security Institute, pendant lequel (surprise) un modèle d’OpenAI et un autre d’Anthropic se seraient échappés. Là encore, des experts qualifient toute l’affaire de « campagne publicitaire éthiquement problématique », et la fuite de parfaitement justifiée, étant donné que le test avait notamment consisté à minimiser les garde-fous autour des systèmes étudiés.
Mais pendant qu’on brandit des scénarios d’outils capables d’attaquer de leur propre chef, la question de la responsabilité que prennent les constructeurs d’IA pour éviter que de tels incidents ne se reproduisent reste, elle, encore et toujours évacuée du débat.
Quelques semaines à peine après l’incident repéré vis-à-vis d’Hugging Face, un communiqué d’OpenAI, relatif à un autre de ses outils, illustrait très bien le pied de nez que le constructeur a décidé de continuer d’adresser au monde. Dans ce texte consacré à son modèle Astra, l’entreprise écrit ne pas pouvoir « exclure » que celui-ci présente « des cybercapacités critiques » telles que définies par ses propres cadres. Autrement dit, Astra pourrait poser de sérieux problèmes de cybersécurité.
OpenAI déclare communiquer ces informations, « car nous estimons important de faire preuve de transparence auprès du public et des communautés spécialisées dans la sûreté et la sécurité concernant cette évolution potentielle des capacités ». Cette « transparence » dont se prévaut l’entreprise résonne fortement avec les exigences longtemps promues par les scientifiques spécialistes de l’intelligence artificielle. Sauf qu’elle ne ressemble en rien à la transparence qu’ils et elles demandent, qui impliquerait d’ouvrir l’accès aux modèles, à leurs données d’entraînement, à leur architecture, de détailler leurs besoins en ressources, ou, dans le cas présent, de donner des informations bien plus précises sur ce à quoi, concrètement et techniquement, les incidents de sécurité pourraient ressembler.
Telle qu’elle apparaît dans le communiqué d’OpenAI, la transparence ressemble plutôt à des menaces (Attention, vous pourriez vous faire hacker si le système nous échappe !) ou à un manuel de terrain pour cultiver l’impunité (si ça arrive, oups Au moins on aura prévenu ).
Le texte, qui vise à prévenir du degré potentiel de dangerosité d’un des modèles d’OpenAI, fait même référence à la compromission d’Hugging Face, mais uniquement pour dire qu’Astra n’est pas impliqué dans l’affaire. Est-ce qu’OpenAI prévoit de suspendre certaines de ses activités le temps de s’assurer que ses outils ne créeront plus de danger ? Non. L’entreprise se contente de donner un vague aperçu de sa cuisine interne pour que « la poursuite du développement de ce modèle se déroule dans des conditions garantissant sa sûreté et sa sécurité ». Mais qui dit que la poursuite du développement de ce modèle est souhaitable ? Comment croire, même, qu’elle puisse être « sûre et sécurisée », alors qu’OpenAI vient de montrer sa faillibilité ?
Passons rapidement sur les mesures dédiées à « surveiller (…) des défauts d’alignement », concept toujours pas défini correctement. Alors qu’OpenAI a laissé un de ses modèles agir en dehors de son bac à sable, la question se fait pourtant chaque jour plus pressante : de quel alignement parle OpenAI ? Les intérêts et les valeurs de Sam Altman sont-ils les plus alignés avec ceux du peuple états-unien ? Du gouvernement local ? De l’Occident ? De la planète ? Ou ne parle-t-on que de l’alignement de modèles sur les seuls intérêts du patron d’OpenAI ?
Le cadre qu’a fixé l’entreprise l’«a déjà guidée lors d’autres transitions de capacités », indique-t-elle encore. En langage naturel, cela signifie qu’Astra risque de présenter des « cybercapacités critiques », mais que, calmez-vous madame, ça va bien se passer. Par quel tour de magie une erreur de sécurité peut-elle devenir un argument de vente ? De quelle ampleur la prochaine faille cyber doit-elle être pour qu’enfin, législateurs et gouvernants tiennent les constructeurs de modèles d’IA pour responsables des dégâts qu’ils causent ? Et à quels saints représentants politiques faut-il se vouer, pour empêcher que les constructeurs d’IA, outre se tirer la bourre pour capter tellement de soutien financier qu’ils représentent un risque pour l’économie mondiale, se lancent désormais dans une course à celui qui créera le plus vite le plus grand danger cyber ?
Côté régulation, les Européens pourront compter dans les prochaines années sur l’AI Act, quand bien même sa mise en application vient d’être reculée, et le texte lui-même, allégé. Mais les dispositifs de sécurité que celui-ci impose fonctionnent a posteriori : même pour les systèmes les plus sensibles, dits « à haut risque », ce sera aux fournisseurs d’informer les autorités de surveillance des marchés concernés lorsqu’ils constateront un lien entre leur système et un éventuel incident grave.
En termes de contrôle, l’Union se dote d’un Bureau de l’intelligence artificielle et d’un comité IA chargé de la coordination des autorités nationales. « Toute personne physique ou morale » pourra par ailleurs déposer ses réclamations auprès de l’autorité relative à son marché pour obtenir « des explications claires et pertinentes » en cas d’impacts négatifs d’un système d’IA sur « sa santé, sa sécurité ou ses droits fondamentaux ». Dans les textes actuels, en revanche, nulle trace de contrôle a priori, que ce soit des constructeurs ou des tiers supposés les aider à construire leurs tests de cybersécurité.
On pourrait, collectivement, décider de s’en alarmer : d’après ABC News, un internaute australien vient de déclencher par inadvertance le hack du site web de sa salle de gym, après avoir demandé à un agent de lui réserver une place. Pour le moment, hormis pour la salle de gym et son éditeur de logiciel de réservation, les enjeux restent faibles. Mais que se passerait-il si un « malin » petit système d’IA, qu’il soit utilisé par un internaute sans connaissances techniques ou par des experts ayant abaissé ses garde-fous pour les besoins d’un test de cybersécurité, se retrouvait à attaquer le site web d’un hôpital, d’une administration, voire du système de gestion d’un barrage hydroélectrique ou d’une centrale nucléaire ?
En l’état, les incidents de l’été laissent nettement douter de l’efficacité des dispositifs de sécurité déployés par les constructeurs. Ceux-là mêmes continuent pourtant de refuser d’être régulés – donc d’être mis devant leur responsabilité – par d’autres qu’eux-mêmes, au motif que ça les empêcherait d’innover. Il serait peut-être temps de cesser de les prendre au mot ?
Après Anthropic, OpenAI et Meta, voilà qu’un modèle du chinois Moonshot AI aurait lui aussi réussi à accéder à internet aux dépens de ses constructeurs. Une démonstration supplémentaire des failles techniques et humaines existant chez les constructeurs d’IA générative et leurs partenaires, mais aussi de l’impunité qu’ils cultivent de manière très publique.
Ça commence à bien faire. Après Anthropic, Open AI et Meta, c’est au tour du chinois Moonshot AI de laisser un des systèmes d’IA générative accéder à internet. Une fois au large, le système a fouillé Github pour y chercher les réponses au benchmark de sécurité auquel il était soumis, d’après la société états-unienne Frontier Security.
À peu près à la même période, c’était Meta qui laissait son modèle Muse Spark 1.1 accéder à internet « par inadvertance », espace depuis lequel le système a hacké un acteur tiers. La mention de l’inadvertance est une citation du Wall Street Journal. Mais elle traduit bien le ton global des communiqués et explications fournies par chacun des constructeurs d’IA générative au gré des failles de cybersécurité mises au jour ces dernières semaines.
Premier concerné, OpenAI s’est débrouillé dès le mois de juillet pour tourner la perte de contrôle de l’outil que l’entreprise avait elle-même construit en démonstration de la supposée « intelligence » du modèle GPT 5.6 Sol. Alors qu’il était soumis à un test interne, supposément isolé du réseau, le dispositif aurait exploité une vulnérabilité 0-day pour accéder à internet et, de là, se tourner vers les systèmes de la société concurrente Hugging Face pour trouver les réponses au test auquel il était soumis. Pour les besoins de ce test, GPT 5.6 Sol avait été volontairement configuré avec des barrières cyber relativement faibles. Pour autant, OpenAI a mis cinq jours complets à s’apercevoir du problème.
Depuis quand les vulnérabilités technologiques sont-elles devenues un argument de vente ? Depuis quand un produit ouvertement dangereux pour son constructeur et pour le reste du milieu économique et social – ses concurrents, ses clients, des internautes qui passent dans le coin – peut-il être mis sur le marché sans que quiconque ne demande vérification et sécurisation du produit en amont ?
Les raisons de la « prise d’indépendance » du moteur de Meta sont peu ou prou les mêmes que celles avancées par OpenAI quelques semaines plus tôt : d’après les entreprises elles-mêmes, ces errements sont dûs à de « mauvaises configurations » des environnements dans lesquels les tests de cybersécurité ont été mis en place. Chez Anthropic, Claude aurait de son côté réussi par trois fois (sur 141 000 sessions de tests) à sortir de son « bac à sable » (sandbox, environnement d’expérimentation sécurisé) pour aller sur internet.
La succession d’incidents vus chez les acteurs états-uniens Meta, Anthropic et OpenAI serait d’ailleurs le résultat d’un seul et même test de cybersécurité. Les trois ont été menés par la société Irregular, qui se présente comme un « laboratoire de sécurisation des systèmes frontière ». Celle-ci déclare que les incidents ne sont le résultat d’aucune action cyber sophistiquée, et qu’elle n’a pas de « problème en cours » au sujet de son environnement de test.
S’il n’y a pas de problème, il ne reste plus qu’à… faire confiance aux constructeurs d’IA comme à leurs partenaires ? Et considérer qu’il n’y a pas de problème ?
Si les modèles concernés ont exploité des failles techniques pour répondre aux tests de cybersécurité auxquels ils étaient soumis, avance Nathaniel Jones, cadre de la société de cybersécurité Darktrace, dans TechRadar, c’est précisément parce qu’ils ont été construits et testés pour cela. Alors qu’elles s’étaient vues fixer « l’objectif légitime de résoudre un exercice de référence en matière de cybersécurité », les machines ont trouvé « une voie inattendue pour parvenir aux réponses ».
« L’eau sous pression ne "décide" pas de s’échapper. Elle s’engouffre dans une brèche sous la seule force de la pression », écrit de son côté l’éditeur Cyrille Zola-Place dans une tribune. « Personne ne dirait que l’eau est « en mission », qu’elle agit « de sa propre initiative », qu’elle est « hors de contrôle ». Tout le monde comprendrait que la question est ailleurs : qui a construit ce barrage, et pourquoi n’a-t-il pas tenu ? Le système n’a pas « voulu » sortir. Il a optimisé un chemin. Et le chemin passait par là. »
Fondateur de la société de cybersécurité Immuniweb, Ilia Kolochenko estime de son côté que l’annonce d’Anthropic était surtout un « geste marketing » destiné à répondre aux discours relatifs à l’attaque d’Hugging Face par des systèmes d’IA, « qui avait attiré l’attention du monde entier ». Une analyse que nous élargissons volontiers à la réaction de Meta, à la décision de sociétés comme Frontier Security d’analyser divers autres systèmes pour voir si, eux aussi, avaient réussi à échapper à leur environnement de test. On pourrait même, pourquoi pas, y ajouter le « test de sécurité » mené au Royaume-Uni par l’AI Security Institute, pendant lequel (surprise) un modèle d’OpenAI et un autre d’Anthropic se seraient échappés. Là encore, des experts qualifient toute l’affaire de « campagne publicitaire éthiquement problématique », et la fuite de parfaitement justifiée, étant donné que le test avait notamment consisté à minimiser les garde-fous autour des systèmes étudiés.
Mais pendant qu’on brandit des scénarios d’outils capables d’attaquer de leur propre chef, la question de la responsabilité que prennent les constructeurs d’IA pour éviter que de tels incidents ne se reproduisent reste, elle, encore et toujours évacuée du débat.
Quelques semaines à peine après l’incident repéré vis-à-vis d’Hugging Face, un communiqué d’OpenAI, relatif à un autre de ses outils, illustrait très bien le pied de nez que le constructeur a décidé de continuer d’adresser au monde. Dans ce texte consacré à son modèle Astra, l’entreprise écrit ne pas pouvoir « exclure » que celui-ci présente « des cybercapacités critiques » telles que définies par ses propres cadres. Autrement dit, Astra pourrait poser de sérieux problèmes de cybersécurité.
OpenAI déclare communiquer ces informations, « car nous estimons important de faire preuve de transparence auprès du public et des communautés spécialisées dans la sûreté et la sécurité concernant cette évolution potentielle des capacités ». Cette « transparence » dont se prévaut l’entreprise résonne fortement avec les exigences longtemps promues par les scientifiques spécialistes de l’intelligence artificielle. Sauf qu’elle ne ressemble en rien à la transparence qu’ils et elles demandent, qui impliquerait d’ouvrir l’accès aux modèles, à leurs données d’entraînement, à leur architecture, de détailler leurs besoins en ressources, ou, dans le cas présent, de donner des informations bien plus précises sur ce à quoi, concrètement et techniquement, les incidents de sécurité pourraient ressembler.
Telle qu’elle apparaît dans le communiqué d’OpenAI, la transparence ressemble plutôt à des menaces (Attention, vous pourriez vous faire hacker si le système nous échappe !) ou à un manuel de terrain pour cultiver l’impunité (si ça arrive, oups Au moins on aura prévenu ).
Le texte, qui vise à prévenir du degré potentiel de dangerosité d’un des modèles d’OpenAI, fait même référence à la compromission d’Hugging Face, mais uniquement pour dire qu’Astra n’est pas impliqué dans l’affaire. Est-ce qu’OpenAI prévoit de suspendre certaines de ses activités le temps de s’assurer que ses outils ne créeront plus de danger ? Non. L’entreprise se contente de donner un vague aperçu de sa cuisine interne pour que « la poursuite du développement de ce modèle se déroule dans des conditions garantissant sa sûreté et sa sécurité ». Mais qui dit que la poursuite du développement de ce modèle est souhaitable ? Comment croire, même, qu’elle puisse être « sûre et sécurisée », alors qu’OpenAI vient de montrer sa faillibilité ?
Passons rapidement sur les mesures dédiées à « surveiller (…) des défauts d’alignement », concept toujours pas défini correctement. Alors qu’OpenAI a laissé un de ses modèles agir en dehors de son bac à sable, la question se fait pourtant chaque jour plus pressante : de quel alignement parle OpenAI ? Les intérêts et les valeurs de Sam Altman sont-ils les plus alignés avec ceux du peuple états-unien ? Du gouvernement local ? De l’Occident ? De la planète ? Ou ne parle-t-on que de l’alignement de modèles sur les seuls intérêts du patron d’OpenAI ?
Le cadre qu’a fixé l’entreprise l’«a déjà guidée lors d’autres transitions de capacités », indique-t-elle encore. En langage naturel, cela signifie qu’Astra risque de présenter des « cybercapacités critiques », mais que, calmez-vous madame, ça va bien se passer. Par quel tour de magie une erreur de sécurité peut-elle devenir un argument de vente ? De quelle ampleur la prochaine faille cyber doit-elle être pour qu’enfin, législateurs et gouvernants tiennent les constructeurs de modèles d’IA pour responsables des dégâts qu’ils causent ? Et à quels saints représentants politiques faut-il se vouer, pour empêcher que les constructeurs d’IA, outre se tirer la bourre pour capter tellement de soutien financier qu’ils représentent un risque pour l’économie mondiale, se lancent désormais dans une course à celui qui créera le plus vite le plus grand danger cyber ?
Côté régulation, les Européens pourront compter dans les prochaines années sur l’AI Act, quand bien même sa mise en application vient d’être reculée, et le texte lui-même, allégé. Mais les dispositifs de sécurité que celui-ci impose fonctionnent a posteriori : même pour les systèmes les plus sensibles, dits « à haut risque », ce sera aux fournisseurs d’informer les autorités de surveillance des marchés concernés lorsqu’ils constateront un lien entre leur système et un éventuel incident grave.
En termes de contrôle, l’Union se dote d’un Bureau de l’intelligence artificielle et d’un comité IA chargé de la coordination des autorités nationales. « Toute personne physique ou morale » pourra par ailleurs déposer ses réclamations auprès de l’autorité relative à son marché pour obtenir « des explications claires et pertinentes » en cas d’impacts négatifs d’un système d’IA sur « sa santé, sa sécurité ou ses droits fondamentaux ». Dans les textes actuels, en revanche, nulle trace de contrôle a priori, que ce soit des constructeurs ou des tiers supposés les aider à construire leurs tests de cybersécurité.
On pourrait, collectivement, décider de s’en alarmer : d’après ABC News, un internaute australien vient de déclencher par inadvertance le hack du site web de sa salle de gym, après avoir demandé à un agent de lui réserver une place. Pour le moment, hormis pour la salle de gym et son éditeur de logiciel de réservation, les enjeux restent faibles. Mais que se passerait-il si un « malin » petit système d’IA, qu’il soit utilisé par un internaute sans connaissances techniques ou par des experts ayant abaissé ses garde-fous pour les besoins d’un test de cybersécurité, se retrouvait à attaquer le site web d’un hôpital, d’une administration, voire du système de gestion d’un barrage hydroélectrique ou d’une centrale nucléaire ?
En l’état, les incidents de l’été laissent nettement douter de l’efficacité des dispositifs de sécurité déployés par les constructeurs. Ceux-là mêmes continuent pourtant de refuser d’être régulés – donc d’être mis devant leur responsabilité – par d’autres qu’eux-mêmes, au motif que ça les empêcherait d’innover. Il serait peut-être temps de cesser de les prendre au mot ?
C’est fait. Sans grande surprise, le plus grand projet de data center de France, Campus IA, a obtenu le 29 juillet l’autorisation préfectorale de s’installer à Fouju, à 40 km au Sud-Est de Paris.
Après une consultation publique organisée auprès de la population à l’automne, puis une enquête publique à l’issue de laquelle les trois commissaire ont rendu un avis favorable, le dossier est passé dans les mains de l’État.
Soutenu dès le sommet Choose France de juin 2025, Campus IA doit être financé à hauteur de 50 milliards d’euros par le fonds émirati MGX, le fabricant de puces états-unien NVIDIA, la start-up française Mistral AI et la Banque publique d’investissement (Bpi).
Si son développement se fera en plusieurs phase, dont la première doit être livrée en 2028, il prévoit d’atteindre à terme une puissance de pleine capacité de 1,4 gigawatt, équivalente à celle d’un réacteur d’une centrale nucléaire.
Il s’étendra sur 89 hectares, dont 73 sont à bâtir, rappelle Le Parisien. Il comptera onze bâtiments contenant des centres de données et un dédié à la formation. Pendant la consultation publique, les riverains ont néanmoins souligné que l’absence de réseau de transport public allait freiner les venues sur site.
Sur les questions relatives au refroidissement, Campus IA doit recourir à des groupes frigorifiques installés en toiture et recourant à 601 tonnes de gaz réfrigérant. Cela permet d’éviter le pompage de la nappe phréatique voisine de Champigny, mais crée d’autres inquiétudes, sur les PFAS dégagés si le gaz venait à fuir.
Côté chaleur fatale, souvent évoquée sur les chantiers français des centres de données, mais très peu réutilisée en réalité, Campus IA affirme que celle de ses bâtiments sera récupérée pour son centre de formation, pour des serres agricoles implantées près de son terrain, et pour le futur centre pénitentiaire voisin. La ville de Melun s’est aussi déclarée intéressée.
Quoiqu’il en soit, le projet n’avance pas sans opposition. Sous le nom Stop IA à Fouju, un collectif s’est monté, qui réunit France Nature Environnement Seine-et-Marne et Île-de-France, La Ligue de protection des oiseaux, la Confédération paysanne et les Soulèvements de la Terre. Elle qualifie l’enquête publique de « bâclée », prévoit une journée de débats le 29 août à l’Espace Saint-Jean de Melun, et prévoit de déposer un recours, selon Le Parisien. En ligne, une pétition s’opposant au projet compte actuellement plus de 47 000 signatures.
C’est fait. Sans grande surprise, le plus grand projet de data center de France, Campus IA, a obtenu le 29 juillet l’autorisation préfectorale de s’installer à Fouju, à 40 km au Sud-Est de Paris.
Après une consultation publique organisée auprès de la population à l’automne, puis une enquête publique à l’issue de laquelle les trois commissaire ont rendu un avis favorable, le dossier est passé dans les mains de l’État.
Soutenu dès le sommet Choose France de juin 2025, Campus IA doit être financé à hauteur de 50 milliards d’euros par le fonds émirati MGX, le fabricant de puces états-unien NVIDIA, la start-up française Mistral AI et la Banque publique d’investissement (Bpi).
Si son développement se fera en plusieurs phase, dont la première doit être livrée en 2028, il prévoit d’atteindre à terme une puissance de pleine capacité de 1,4 gigawatt, équivalente à celle d’un réacteur d’une centrale nucléaire.
Il s’étendra sur 89 hectares, dont 73 sont à bâtir, rappelle Le Parisien. Il comptera onze bâtiments contenant des centres de données et un dédié à la formation. Pendant la consultation publique, les riverains ont néanmoins souligné que l’absence de réseau de transport public allait freiner les venues sur site.
Sur les questions relatives au refroidissement, Campus IA doit recourir à des groupes frigorifiques installés en toiture et recourant à 601 tonnes de gaz réfrigérant. Cela permet d’éviter le pompage de la nappe phréatique voisine de Champigny, mais crée d’autres inquiétudes, sur les PFAS dégagés si le gaz venait à fuir.
Côté chaleur fatale, souvent évoquée sur les chantiers français des centres de données, mais très peu réutilisée en réalité, Campus IA affirme que celle de ses bâtiments sera récupérée pour son centre de formation, pour des serres agricoles implantées près de son terrain, et pour le futur centre pénitentiaire voisin. La ville de Melun s’est aussi déclarée intéressée.
Quoiqu’il en soit, le projet n’avance pas sans opposition. Sous le nom Stop IA à Fouju, un collectif s’est monté, qui réunit France Nature Environnement Seine-et-Marne et Île-de-France, La Ligue de protection des oiseaux, la Confédération paysanne et les Soulèvements de la Terre. Elle qualifie l’enquête publique de « bâclée », prévoit une journée de débats le 29 août à l’Espace Saint-Jean de Melun, et prévoit de déposer un recours, selon Le Parisien. En ligne, une pétition s’opposant au projet compte actuellement plus de 47 000 signatures.
Meta, TikTok, mais aussi Google et Snap devront faire face aux nombreuses plaintes qui visent leurs plateformes et l’addiction qu’elles provoquent chez les plus jeunes. Une cour d’appel a en effet rejeté les arguments de Meta et de TikTok qui ne voulaient pas attendre les jugements des procès avant de faire appel.
Plus de 3 000 plaintes déposées aux États-Unis contre le caractère addictif supposé des réseaux sociaux peuvent poursuivre leur chemin judiciaire. Meta et TikTok avaient essayé d’obtenir de la cour d’appel fédérale du 9e circuit, basée à San Francisco, qu’elle examine dès à présent leur argument fondé sur la fameuse Section 230 du Communications Decency Act, une loi américaine qui protège les plateformes contre les actions à leur encontre basées sur les contenus publiés par leurs utilisateurs.
Peine perdue : la cour d’appel estime dans son jugement (PDF) que la Section 230 offre seulement une défense contre une éventuelle responsabilité, et non une immunité contre les poursuites elles-mêmes ; elle n’a donc pas compétence pour examiner l’appel à ce stade. Cela ne veut pas dire que les plateformes ne pourront pas invoquer la Section 230 durant les procès.
Meta ne peut pas non plus échapper au procès qui débutera ce mercredi 12 août à Oakland, en Californie (avec la sélection des jurés). La cour d’appel a rejeté la demande de l’entreprise de suspendre le procès durant la procédure d’appel, relève Reuters.
Une coalition de procureurs généraux d’États américains accuse Meta d’avoir conçu Facebook et Instagram pour favoriser l’addiction chez les utilisateurs mineurs et d’enfreindre la loi fédérale sur la protection des données des enfants.
Le tout intervient quelques jours après une nouvelle condamnation de Meta par un tribunal du Nouveau-Mexique. En tout, le groupe est sanctionné à hauteur de 942 millions de dollars, avec plusieurs obligations pour améliorer les outils de protection des plus jeunes.
Le mois dernier, Meta indiquait au tribunal d’Oakland que la procédure engagée par les procureurs généraux pourrait représenter jusqu’à 1 400 milliards de dollars en réparations financières potentielles. Ces mêmes procureurs affirment (PDF) que les inquiétudes du géant des réseaux sociaux « sonnent creux » au regard des preuves qu’ils entendent présenter au procès. Ils veulent démontrer que Meta a trompé le public sur la sécurité de Facebook et Instagram, tout en développant des plateformes pour provoquer un usage compulsif et ainsi augmenter les revenus publicitaires.
Une décision de la cour d’appel en faveur de Meta et de TikTok aurait probablement aussi aidé Google et Snap, qui font partie des défendeurs dans cette vaste procédure.
Meta, TikTok, mais aussi Google et Snap devront faire face aux nombreuses plaintes qui visent leurs plateformes et l’addiction qu’elles provoquent chez les plus jeunes. Une cour d’appel a en effet rejeté les arguments de Meta et de TikTok qui ne voulaient pas attendre les jugements des procès avant de faire appel.
Plus de 3 000 plaintes déposées aux États-Unis contre le caractère addictif supposé des réseaux sociaux peuvent poursuivre leur chemin judiciaire. Meta et TikTok avaient essayé d’obtenir de la cour d’appel fédérale du 9e circuit, basée à San Francisco, qu’elle examine dès à présent leur argument fondé sur la fameuse Section 230 du Communications Decency Act, une loi américaine qui protège les plateformes contre les actions à leur encontre basées sur les contenus publiés par leurs utilisateurs.
Peine perdue : la cour d’appel estime dans son jugement (PDF) que la Section 230 offre seulement une défense contre une éventuelle responsabilité, et non une immunité contre les poursuites elles-mêmes ; elle n’a donc pas compétence pour examiner l’appel à ce stade. Cela ne veut pas dire que les plateformes ne pourront pas invoquer la Section 230 durant les procès.
Meta ne peut pas non plus échapper au procès qui débutera ce mercredi 12 août à Oakland, en Californie (avec la sélection des jurés). La cour d’appel a rejeté la demande de l’entreprise de suspendre le procès durant la procédure d’appel, relève Reuters.
Une coalition de procureurs généraux d’États américains accuse Meta d’avoir conçu Facebook et Instagram pour favoriser l’addiction chez les utilisateurs mineurs et d’enfreindre la loi fédérale sur la protection des données des enfants.
Le tout intervient quelques jours après une nouvelle condamnation de Meta par un tribunal du Nouveau-Mexique. En tout, le groupe est sanctionné à hauteur de 942 millions de dollars, avec plusieurs obligations pour améliorer les outils de protection des plus jeunes.
Le mois dernier, Meta indiquait au tribunal d’Oakland que la procédure engagée par les procureurs généraux pourrait représenter jusqu’à 1 400 milliards de dollars en réparations financières potentielles. Ces mêmes procureurs affirment (PDF) que les inquiétudes du géant des réseaux sociaux « sonnent creux » au regard des preuves qu’ils entendent présenter au procès. Ils veulent démontrer que Meta a trompé le public sur la sécurité de Facebook et Instagram, tout en développant des plateformes pour provoquer un usage compulsif et ainsi augmenter les revenus publicitaires.
Une décision de la cour d’appel en faveur de Meta et de TikTok aurait probablement aussi aidé Google et Snap, qui font partie des défendeurs dans cette vaste procédure.
Avec MatrAIx, des chercheurs ont constitué une population virtuelle de 8,3 milliards de profils. Des modèles d’IA peuvent les incarner pour tester un chatbot, un site ou une application comme le feraient de véritables utilisateurs
En interrogeant l'intelligence artificielle de Google sur le jeu indépendant Operation Octo, un joueur a obtenu le nom exact d'un personnage encore secret. Son créateur assure ne l'avoir écrit que dans un document Google privé. Mais cette apparente fuite, impossible à reproduire, pourrait cacher une explication moins spectaculaire.
En mars dernier, Meta était condamnée par un tribunal du Nouveau-Mexique à 375 millions de dollars pour avoir, en toute connaissance de cause, exposé les jeunes à des outils et pratiques jugés dangereux. Le géant des réseaux sociaux n’est pas au bout de ses peines sur ce dossier.
Si la première sanction a été infligée par un jury, cette fois c’est le juge Bryan Biedscheid qui a ajouté à la facture 567 millions de dollars (PDF). Durant la seconde phase de ce procès, le juge devait déterminer si Meta et ses plateformes (Facebook et Instagram, principalement) créaient une « nuisance publique » et, le cas échéant, décider des mesures de protection appropriées. Il l’a confirmé.
La somme devra abonder un fonds de réparation destiné à financer la prévention, le traitement et des mesures contre les dommages causés aux jeunes. Bien que le montant de ce fonds soit inférieur aux 779,5 millions de dollars réclamés par les avocats de l’État américain, sa création est « nécessaire, compte tenu de l’ampleur des répercussions du préjudice et de la complexité de la réparation », a affirmé le juge.
En tout, Meta est sanctionnée à hauteur de 942 millions de dollars. Pour une période de cinq ans, le groupe devra en outre mettre en œuvre des dispositifs pour renforcer les outils de vérification et d’estimation de l’âge, passer les comptes Instagram des mineurs en privé par défaut, empêcher qu’un compte de mineur soit recommandé à un adulte n’ayant aucune relation avec le jeune utilisateur, afficher des alertes plus fermes en cas de risque de sextorsion ou de contact suspect, ou encore bloquer l’envoi ou la réception par des mineurs d’images de nudité contraires aux règles de Meta.
Le juge veut aussi que Meta limite l’usage des mineurs à 90 heures par mois au total sur Instagram et Facebook. En revanche, il a écarté certains dispositifs demandés par le Nouveau-Mexique, comme l’arrêt du scrolling infini ou une refonte des algorithmes. Meta a l’intention de faire appel : « Nous restons confiants dans notre bilan en matière de protection des adolescents en ligne et continuerons à nous défendre contre des accusations qui déforment les faits », a déclaré un porte-parole au Wall Street Journal.
Un autre procès doit s’ouvrir dans les prochains jours en Californie : Meta est accusée par les procureurs généraux de quatre États américains d’avoir conçu Facebook et Instagram de telle manière à rendre les jeunes utilisateurs dépendants, tout en trompant le public sur la sécurité de ses plateformes. Selon l’entreprise, cette procédure pourrait représenter jusqu’à 1 400 milliards de dollars en pénalités.
Fin mars, Meta était condamnée à verser 4,2 millions de dollars à une plaignante qui accusait l’entreprise d’avoir provoqué et entretenu l’addiction à ses plateformes alors qu’elle était mineure. YouTube a aussi été sanctionné. Lors de ses résultats trimestriels, Meta a signalé aux investisseurs que les procédures judiciaires en cours pourraient avoir un « impact négatif » sur ses résultats financiers : au second trimestre, elles ont représenté des dépenses de l’ordre de 2,4 milliards de dollars.
En mars dernier, Meta était condamnée par un tribunal du Nouveau-Mexique à 375 millions de dollars pour avoir, en toute connaissance de cause, exposé les jeunes à des outils et pratiques jugés dangereux. Le géant des réseaux sociaux n’est pas au bout de ses peines sur ce dossier.
Si la première sanction a été infligée par un jury, cette fois c’est le juge Bryan Biedscheid qui a ajouté à la facture 567 millions de dollars (PDF). Durant la seconde phase de ce procès, le juge devait déterminer si Meta et ses plateformes (Facebook et Instagram, principalement) créaient une « nuisance publique » et, le cas échéant, décider des mesures de protection appropriées. Il l’a confirmé.
La somme devra abonder un fonds de réparation destiné à financer la prévention, le traitement et des mesures contre les dommages causés aux jeunes. Bien que le montant de ce fonds soit inférieur aux 779,5 millions de dollars réclamés par les avocats de l’État américain, sa création est « nécessaire, compte tenu de l’ampleur des répercussions du préjudice et de la complexité de la réparation », a affirmé le juge.
En tout, Meta est sanctionnée à hauteur de 942 millions de dollars. Pour une période de cinq ans, le groupe devra en outre mettre en œuvre des dispositifs pour renforcer les outils de vérification et d’estimation de l’âge, passer les comptes Instagram des mineurs en privé par défaut, empêcher qu’un compte de mineur soit recommandé à un adulte n’ayant aucune relation avec le jeune utilisateur, afficher des alertes plus fermes en cas de risque de sextorsion ou de contact suspect, ou encore bloquer l’envoi ou la réception par des mineurs d’images de nudité contraires aux règles de Meta.
Le juge veut aussi que Meta limite l’usage des mineurs à 90 heures par mois au total sur Instagram et Facebook. En revanche, il a écarté certains dispositifs demandés par le Nouveau-Mexique, comme l’arrêt du scrolling infini ou une refonte des algorithmes. Meta a l’intention de faire appel : « Nous restons confiants dans notre bilan en matière de protection des adolescents en ligne et continuerons à nous défendre contre des accusations qui déforment les faits », a déclaré un porte-parole au Wall Street Journal.
Un autre procès doit s’ouvrir dans les prochains jours en Californie : Meta est accusée par les procureurs généraux de quatre États américains d’avoir conçu Facebook et Instagram de telle manière à rendre les jeunes utilisateurs dépendants, tout en trompant le public sur la sécurité de ses plateformes. Selon l’entreprise, cette procédure pourrait représenter jusqu’à 1 400 milliards de dollars en pénalités.
Fin mars, Meta était condamnée à verser 4,2 millions de dollars à une plaignante qui accusait l’entreprise d’avoir provoqué et entretenu l’addiction à ses plateformes alors qu’elle était mineure. YouTube a aussi été sanctionné. Lors de ses résultats trimestriels, Meta a signalé aux investisseurs que les procédures judiciaires en cours pourraient avoir un « impact négatif » sur ses résultats financiers : au second trimestre, elles ont représenté des dépenses de l’ordre de 2,4 milliards de dollars.
Lire des mangas fait partie des petits plaisirs de la vie, et les titres ne manquent pas pour combler des années de lecture, contrairement à l'argent nécessaire pour les acheter. Aussi, quand une plateforme propose plusieurs chapitres de centaines de séries gratuitement, évidemment qu'on s'y intéresse.
Après la mort de Raphaël Graven en direct sur la chaine Kick nommée Jean Pormanove, le tribunal correctionnel de Nice a condamné les responsables de la chaine pour des violences et humiliations en ligne. Les peines contiennent notamment de la prison avec sursis et six mois de bannissement numérique applicable seulement sur la plateforme de streaming concernée.
Le tribunal correctionnel de Nice a rendu son jugement ce mercredi 5 aout au soir concernant les deux responsables de la chaine Kick nommée Jean Pormanove, Owen C. (aussi connu sous le pseudo Naruto) et Safine H., les condamnant pour violence et provocation à la haine mais les relaxant des chefs d’abus de faiblesse et diffusion, comme le relève France 3.
Les deux vidéastes avaient été mis en garde à vue pour des violences physiques et psychologiques en janvier 2025 suite à un article de Médiapart et à une enquête ouverte par le parquet de Nice, ce qui n’avait pas arrêté leur projet de diffusion en direct de scènes de violences sur leur chaine Kick. La mort en direct du souffre-douleur Raphaël Graven y a même été diffusée.
Ils ont été entendus ce lundi 6 juillet pour « violences en réunion sans ITT, violences en réunion avec arme sans ITT, violences en réunion avec arme sans ITT sur mineurs de 15 ans, violences sur mineur de 15 ans sans ITT, abus de faiblesse, provocation à la haine et à la discrimination en raison du handicap, provocation à la haine et à la discrimination en raison de l’orientation sexuelle, enregistrement et diffusion d’images de violences ».
Lors de l’audience, la procureure, Maud Marty, avait affirmé que « jamais une juridiction n’a eu à connaître avec une telle ampleur un système qui associe l’exploitation de personnes en situation de faiblesse, leur humiliation devant des milliers de spectateurs et la rémunération de ces diffusions qui ne tiennent qu’à la souffrance », rapporte Médiapart.
Elle avait dénoncé, selon France 3, un « système de maltraitance humaine, pas un dérapage ou une provocation » et avait requis 30 mois de prison dont 12 mois ferme (avec bracelet électronique) et 30 000 euros d’amende pour le principal accusé, 18 mois avec sursis et 15 000 euros d’amende pour le second, ainsi qu’un « bannissement numérique » pour les deux.
Un mois après, le tribunal a donc condamné les deux streamers à des peines un peu plus clémentes : 2 ans de prison avec sursis et 15 000 euros d’amende pour Owen C, 8 mois de prison avec sursis et 5 000 euros d’amende pour Safine H. Les deux accusés ont aussi été condamnés à une peine de six mois de bannissement de la plateforme sur laquelle était diffusée leur chaine.
Cette nouvelle peine, souvent appelée « bannissement numérique » et utilisée pour la première fois par la justice, a été introduite par la loi SREN (visant à sécuriser et réguler l’espace numérique) de 2024. Contrairement à ce que pourrait faire penser son appellation commune, elle ne prévoit pas l’interdiction de l’usage d’Internet en général ou de tous les réseaux sociaux.
En effet, l’article 16 de la loi prévoit que « le tribunal peut ordonner à titre de peine complémentaire la suspension des comptes d’accès à des services en ligne ayant été utilisés pour commettre l’infraction ». Il interdit aussi aux personnes condamnées de « créer de nouveaux comptes d’accès à ces mêmes services ». Selon ce texte, la durée maximum de cette suspension est de six mois (un an en récidive). Ainsi, en bannissant de Kick pendant 6 mois les deux streamers, le tribunal a pris la mesure la plus forte que le législateur lui a donnée sur le sujet.
Le bannissement est signalé par le tribunal à la plateforme concernée. Ainsi, Kick est responsable du blocage des comptes visés, « de procéder au blocage des autres comptes d’accès à leur service éventuellement détenus par la personne condamnée et d’empêcher la création de nouveaux comptes par la même personne ». La plateforme s’expose à une amende de 75 000 euros si elle ne suit pas cette demande.
Rappelons qu’une autre enquête est toujours ouverte concernant la plateforme elle-même.
Après la mort de Raphaël Graven en direct sur la chaine Kick nommée Jean Pormanove, le tribunal correctionnel de Nice a condamné les responsables de la chaine pour des violences et humiliations en ligne. Les peines contiennent notamment de la prison avec sursis et six mois de bannissement numérique applicable seulement sur la plateforme de streaming concernée.
Le tribunal correctionnel de Nice a rendu son jugement ce mercredi 5 aout au soir concernant les deux responsables de la chaine Kick nommée Jean Pormanove, Owen C. (aussi connu sous le pseudo Naruto) et Safine H., les condamnant pour violence et provocation à la haine mais les relaxant des chefs d’abus de faiblesse et diffusion, comme le relève France 3.
Les deux vidéastes avaient été mis en garde à vue pour des violences physiques et psychologiques en janvier 2025 suite à un article de Médiapart et à une enquête ouverte par le parquet de Nice, ce qui n’avait pas arrêté leur projet de diffusion en direct de scènes de violences sur leur chaine Kick. La mort en direct du souffre-douleur Raphaël Graven y a même été diffusée.
Ils ont été entendus ce lundi 6 juillet pour « violences en réunion sans ITT, violences en réunion avec arme sans ITT, violences en réunion avec arme sans ITT sur mineurs de 15 ans, violences sur mineur de 15 ans sans ITT, abus de faiblesse, provocation à la haine et à la discrimination en raison du handicap, provocation à la haine et à la discrimination en raison de l’orientation sexuelle, enregistrement et diffusion d’images de violences ».
Lors de l’audience, la procureure, Maud Marty, avait affirmé que « jamais une juridiction n’a eu à connaître avec une telle ampleur un système qui associe l’exploitation de personnes en situation de faiblesse, leur humiliation devant des milliers de spectateurs et la rémunération de ces diffusions qui ne tiennent qu’à la souffrance », rapporte Médiapart.
Elle avait dénoncé, selon France 3, un « système de maltraitance humaine, pas un dérapage ou une provocation » et avait requis 30 mois de prison dont 12 mois ferme (avec bracelet électronique) et 30 000 euros d’amende pour le principal accusé, 18 mois avec sursis et 15 000 euros d’amende pour le second, ainsi qu’un « bannissement numérique » pour les deux.
Un mois après, le tribunal a donc condamné les deux streamers à des peines un peu plus clémentes : 2 ans de prison avec sursis et 15 000 euros d’amende pour Owen C, 8 mois de prison avec sursis et 5 000 euros d’amende pour Safine H. Les deux accusés ont aussi été condamnés à une peine de six mois de bannissement de la plateforme sur laquelle était diffusée leur chaine.
Cette nouvelle peine, souvent appelée « bannissement numérique » et utilisée pour la première fois par la justice, a été introduite par la loi SREN (visant à sécuriser et réguler l’espace numérique) de 2024. Contrairement à ce que pourrait faire penser son appellation commune, elle ne prévoit pas l’interdiction de l’usage d’Internet en général ou de tous les réseaux sociaux.
En effet, l’article 16 de la loi prévoit que « le tribunal peut ordonner à titre de peine complémentaire la suspension des comptes d’accès à des services en ligne ayant été utilisés pour commettre l’infraction ». Il interdit aussi aux personnes condamnées de « créer de nouveaux comptes d’accès à ces mêmes services ». Selon ce texte, la durée maximum de cette suspension est de six mois (un an en récidive). Ainsi, en bannissant de Kick pendant 6 mois les deux streamers, le tribunal a pris la mesure la plus forte que le législateur lui a donnée sur le sujet.
Le bannissement est signalé par le tribunal à la plateforme concernée. Ainsi, Kick est responsable du blocage des comptes visés, « de procéder au blocage des autres comptes d’accès à leur service éventuellement détenus par la personne condamnée et d’empêcher la création de nouveaux comptes par la même personne ». La plateforme s’expose à une amende de 75 000 euros si elle ne suit pas cette demande.
Rappelons qu’une autre enquête est toujours ouverte concernant la plateforme elle-même.
L’application Telegram a été retirée de l’App Store pendant quelques heures en début de semaine. Apple réagissait à la présence de contenus pédocriminels. La messagerie a rapidement réagi pour supprimer le contenu en question et bannir l’utilisateur, ce qui a permis de restaurer l’app dans la boutique. Mais le problème reste entier.
La modération des images pédocriminelles sur Telegram a une fois de plus été prise en défaut. C’était une des raisons pour lesquelles Pavel Durov, cofondateur et PDG de la messagerie, a été arrêté en France durant l’été 2024. La complicité pour détention et diffusion de ce type d’images a fait partie des 12 chefs d’accusation qui ont motivé l’ouverture d’une information judiciaire et l’arrestation du milliardaire franco-russe.
Pavel Durov a depuis retrouvé la liberté, non sans avoir renforcé discrètement les règles de modération de Telegram. Il reste cependant encore bien du travail, puisque Apple a retiré l’application de sa boutique ce lundi 3 août. Elle a retrouvé sa place après quelques heures, non sans avoir passé un coup de balai sur de nouveaux contenus pédocriminels. Apple a expliqué :
« Nous avons brièvement retiré Telegram de l’App Store après que notre examen a révélé du contenu enfreignant nos règles strictes interdisant les contenus relevant d’abus sexuels sur des enfants. L’application a ensuite été rétablie après que le développeur a rapidement supprimé le contenu et banni l’utilisateur qui l’avait publié. »
Apple avait déjà temporairement retiré Telegram de l’App Store en 2018, là aussi pour la même raison. Ce n’est pas la fin de cette nouvelle affaire. Piqué au vif, Pavel Durov a voulu préciser ce qui s’était passé en accusant un « maître chanteur » qui a voulu rançonner des utilisateurs de la messagerie.
Il assure pour commencer que Telegram « supprime rapidement les contenus illégaux des groupes publics » ; pour passer entre les mailles du filet, l’attaquant s’est servi d’une astuce : « Il a inséré du contenu illégal modifié par IA en éditant un ancien message dans un groupe de discussion actif. Résultat : le contenu était en pratique caché aux membres du groupe, les empêchant de le voir et de le signaler. »
Le responsable de cette attaque est « quelqu’un qui exige une rançon des propriétaires de groupes pour ne pas cibler leurs communautés ». Ces maîtres chanteurs utilisent des comptes automatisés pour publier du contenu illégal dans des groupes publics, puis ils le signalent directement à Apple si les responsables refusent de payer. L’idée est de provoquer le retrait de l’application.
Pour Durov, ces attaquants ont trouvé une manière de pousser Apple à réagir « de manière excessive », sans prévenir Telegram au préalable. Un « risque systémique » pour toutes les applications qui hébergent du contenu généré par les utilisateurs. « Si une app utilisée par plus d’un milliard de personnes peut être retirée de l’App Store sans avertissement préalable, n’importe quelle app peut l’être », affirme-t-il.
Le patron de Telegram le martèle : la modération sur la messagerie est « efficace », comme le prouve le recours à des contenus antidatés « pratiquement invisibles » pour faire chanter les communautés. Mais « d’autres plateformes ne sont peut-être pas aussi bien préparées ».
Pavel Durov a beau jurer de la probité et de l’efficacité de ses systèmes de modération, la messagerie n’en reste pas moins un repaire de contenus CSAM (child sexual abuse material) ou à caractère sexuel violent non consenti. Un rapport d’AI Forensics avait analysé la manière dont la plateforme est utilisée comme lieu d’échange pour ce type d’images.
Telegram est également sous le coup d’une enquête de l’Ofcom, le régulateur britannique des télécommunications, pour partage de contenus pédocriminels. Fin avril, de ce côté du Channel, c’était l’Arcom qui épinglait l’application pour manque de réactivité sur le retrait des contenus illicites ; en l’occurrence ici, des liens de streaming pour regarder en douce des compétitions sportives.
L’application Telegram a été retirée de l’App Store pendant quelques heures en début de semaine. Apple réagissait à la présence de contenus pédocriminels. La messagerie a rapidement réagi pour supprimer le contenu en question et bannir l’utilisateur, ce qui a permis de restaurer l’app dans la boutique. Mais le problème reste entier.
La modération des images pédocriminelles sur Telegram a une fois de plus été prise en défaut. C’était une des raisons pour lesquelles Pavel Durov, cofondateur et PDG de la messagerie, a été arrêté en France durant l’été 2024. La complicité pour détention et diffusion de ce type d’images a fait partie des 12 chefs d’accusation qui ont motivé l’ouverture d’une information judiciaire et l’arrestation du milliardaire franco-russe.
Pavel Durov a depuis retrouvé la liberté, non sans avoir renforcé discrètement les règles de modération de Telegram. Il reste cependant encore bien du travail, puisque Apple a retiré l’application de sa boutique ce lundi 3 août. Elle a retrouvé sa place après quelques heures, non sans avoir passé un coup de balai sur de nouveaux contenus pédocriminels. Apple a expliqué :
« Nous avons brièvement retiré Telegram de l’App Store après que notre examen a révélé du contenu enfreignant nos règles strictes interdisant les contenus relevant d’abus sexuels sur des enfants. L’application a ensuite été rétablie après que le développeur a rapidement supprimé le contenu et banni l’utilisateur qui l’avait publié. »
Apple avait déjà temporairement retiré Telegram de l’App Store en 2018, là aussi pour la même raison. Ce n’est pas la fin de cette nouvelle affaire. Piqué au vif, Pavel Durov a voulu préciser ce qui s’était passé en accusant un « maître chanteur » qui a voulu rançonner des utilisateurs de la messagerie.
Il assure pour commencer que Telegram « supprime rapidement les contenus illégaux des groupes publics » ; pour passer entre les mailles du filet, l’attaquant s’est servi d’une astuce : « Il a inséré du contenu illégal modifié par IA en éditant un ancien message dans un groupe de discussion actif. Résultat : le contenu était en pratique caché aux membres du groupe, les empêchant de le voir et de le signaler. »
Le responsable de cette attaque est « quelqu’un qui exige une rançon des propriétaires de groupes pour ne pas cibler leurs communautés ». Ces maîtres chanteurs utilisent des comptes automatisés pour publier du contenu illégal dans des groupes publics, puis ils le signalent directement à Apple si les responsables refusent de payer. L’idée est de provoquer le retrait de l’application.
Pour Durov, ces attaquants ont trouvé une manière de pousser Apple à réagir « de manière excessive », sans prévenir Telegram au préalable. Un « risque systémique » pour toutes les applications qui hébergent du contenu généré par les utilisateurs. « Si une app utilisée par plus d’un milliard de personnes peut être retirée de l’App Store sans avertissement préalable, n’importe quelle app peut l’être », affirme-t-il.
Le patron de Telegram le martèle : la modération sur la messagerie est « efficace », comme le prouve le recours à des contenus antidatés « pratiquement invisibles » pour faire chanter les communautés. Mais « d’autres plateformes ne sont peut-être pas aussi bien préparées ».
Pavel Durov a beau jurer de la probité et de l’efficacité de ses systèmes de modération, la messagerie n’en reste pas moins un repaire de contenus CSAM (child sexual abuse material) ou à caractère sexuel violent non consenti. Un rapport d’AI Forensics avait analysé la manière dont la plateforme est utilisée comme lieu d’échange pour ce type d’images.
Telegram est également sous le coup d’une enquête de l’Ofcom, le régulateur britannique des télécommunications, pour partage de contenus pédocriminels. Fin avril, de ce côté du Channel, c’était l’Arcom qui épinglait l’application pour manque de réactivité sur le retrait des contenus illicites ; en l’occurrence ici, des liens de streaming pour regarder en douce des compétitions sportives.
Connexion