La democratie, le moins mauvais des systèmes

Next s’est entretenu avec le journaliste Hubert Guillaud, qui publie Les algorithmes contre la société aux éditions La Fabrique ce 4 avril.

Spécialiste des systèmes techniques et numériques, longtemps animateur du site InternetActu.net de l’Association pour la Fondation d’un Internet nouvelle génération (la Fing, dont les activités se sont arrêtées en 2022), désormais derrière la newsletter Dans les algorithmes, Hubert Guillaud publie ce 4 avril un nouvel essai. Dans Les algorithmes contre la société, qui paraît aux éditions La Fabrique, le journaliste décortique les effets de la diffusion des algorithmes dans les organismes sociaux français. Next l’a rencontré.

>> Pourquoi ce livre ?

On parle beaucoup d’intelligence artificielle, un peu de ses effets, mais beaucoup moins de ses difficultés et de ses défaillances. Ce sont des sujets que je traite depuis longtemps, et je trouvais qu’on manquait de discussions sur les problématiques sociales que posent ces systèmes de calcul.

On nous parle de l’IA comme moteur de progrès, comme enjeu de croissance et de transformation du monde, mais on regarde assez peu, concrètement, ce que ça fait là où ça se déploie, et comment ça fonctionne réellement. Or, j’avais le sentiment qu’il y avait une urgence à se poser ces questions.

>> Assez vite, tu alertes contre l’interconnexion des fichiers de données qui s’étend dans l’administration. En quoi menace-t-elle la séparation des administrations et des pouvoirs ?

J’ai l’impression que la surveillance croissante des utilisateurs via les administrations est une notion assez peu discutée, effectivement. Les institutions demandent toujours plus de données, et utilisent toutes les données à disposition pour mener leurs calculs.

« Ice cream truck in NYC » (« camion de glace à New-york ») : par ce jeu de mot relevant de l’algospeak (langage inventé pour contourner la modération des plateformes), une internaute états-unienne signale à ses followers avoir repéré des agents de l’Immigration and Customs Enforcement (ICE).

Comme de nombreux autres usagers de TikTok, Reddit, YouTube ou X, elle participe à l’effort collectif renforcé ces dernières semaines pour éviter à toute personne immigrée, légalement ou non, les déportations ordonnées par Donald Trump et quelquefois menées en dehors des cadres légaux.

Si le phénomène n’est pas neuf, le Washington Post relève une multiplication par cinq des discussions relatives à l’ICE sur X, Reddit et YouTube depuis début mars.

De nombreuses fausses informations se glissent parmi les alertes. Des soutiens de la démarche de déportation promue par Trump ont aussi mis à mal certains réseaux d’alertes – le compte Instagram Libs of Reddit a par exemple publié le nom, le visage et l’adresse du modérateur de r/LaMigra, un subreddit dédié au partage d’informations sur la localisation des agents de l’ICE.

Cela n’a pas empêché les efforts de suivi des agents de se multiplier en ligne, prenant quelquefois la forme de cartographies collectives, comme dans le cas de People over Papers. Si le projet est devenu viral sur TikTok, explique sa créatrice au quotidien états-unien, « c’est parce qu’il répond à un réel besoin ».

Elle aussi a été visée par des violences numériques : le 14 février, le compte très suivi Libs of TikTok a partagé son nom et son handle à son public, déclarant qu’elle aidait des criminels à échapper aux forces de l’ordre.

Democracy

Le Conseil d’État déclare illégal le blocage de TikTok imposé à la Calédonie en mai 2024. Il précise les conditions dans lesquelles une telle suspension pourrait être légale.

En pleines émeutes de contestation du projet gouvernemental de dégel électoral, en Nouvelle-Calédonie, le gouvernement avait déclaré l’état d’urgence et suspendu l’accès à TikTok. À partir du 15 mai 2024 à 20 heures et pendant deux semaines, le réseau social n’était plus accessible depuis la collectivité d’outre-mer.

La Quadrature du Net, la Ligue des droits de l’homme, ainsi que des particuliers avaient rapidement attaqué la décision de blocage en justice, le qualifiant de « coup inédit et particulièrement grave à la liberté d’expression en ligne ». Ce 1ᵉʳ avril, le Conseil d’État a rendu sa décision, dans laquelle il annule le blocage de TikTok.

Il souligne notamment que l’autorité administrative ne peut normalement interrompre un tel service « que si la loi le prévoit compte tenu des atteintes qu’une telle mesure porte aux droits et libertés (notamment liberté d’expression, libre communication des pensées et des opinions, droit à la vie privée et familiale, liberté du commerce et de l’industrie). »

• Blocage de TikTok en Nouvelle-Calédonie : quels sont les enjeux ?

Trois conditions à la suspension

Au passage, l’institution précise les conditions dans lesquelles un Premier ministre pourrait légalement interrompre « provisoirement » l’accès à un réseau social, « même si la loi ne le prévoit pas ». Ces conditions sont au nombre de trois.

La suspension peut être décidée « si la survenue de circonstances exceptionnelles la rend indispensable ». Elle ne peut l’être « qu’à titre provisoire », à condition « qu’aucun moyen technique ne permette de prendre immédiatement des mesures alternatives moins attentatoires aux droits et libertés que l’interruption totale du service pour l’ensemble de ses utilisateurs ». Enfin, cette suspension ne peut être mise en œuvre que « pour une durée n’excédant pas celle requise pour rechercher et mettre en œuvre ces mesures alternatives ».

• VIGINUM décrypte les liens entre un dictateur de l’ex-URSS et des indépendantistes d’outre-mer

Durée indéterminée

En l’occurrence, si le Conseil d’État admet que la situation en Nouvelle-Calédonie relevait bien des « circonstances exceptionnelles », dans la mesure où les émeutes ont entraîné des décès et des atteintes aux personnes et aux biens « d’une particulière gravité », il souligne que la suspension de TikTok décidée par le Premier ministre d’alors, Gabriel Attal, l’a été sans indication de durée, et « sans subordonner son maintien à l’impossibilité de mettre en œuvre des mesures alternatives ».

Le Conseil d’État juge ce blocage illégal, car ayant porté « une atteinte disproportionnée aux droits et libertés invoqués par les requérants ».

Diffusée le 20 mars, une fausse vidéo du Figaro a rencontré un écho inédit sur les réseaux X et TikTok. Alors qu’Emmanuel Macron et Vladimir Poutine s’opposent, la vidéo affirme que « 71 % des Français sont convaincus que leur vie serait meilleure si le président français était Poutine ».

Le logo, la charte éditoriale… la vidéo est en tout point similaire à une production du Figaro, mais tout est faux, comme le soulignera le journaliste en charge des réseaux sociaux du Figaro Jean-Baptiste Semerdjian.

Copier des médias installés pour diffuser de la désinformation, le modus operandi est typique de l’opération Matriochka, qui sévit depuis un an et demi dans l’espace informationnel français.

• Guerre hybride : Viginum revient sur trois ans d’ingérence russe au sujet de l’Ukraine

Mais le projet d’opposants russes Bot Blocker (@antibot4navalny / @antibot4navalny.bsky.social), qui œuvre régulièrement à documenter ces opérations, relève ici une spécificité : la réponse d’un internaute réel, trompé par la vidéo, est rapidement devenue plus virale que la publication initiale du faux.

En effet, « pour la première fois, la réponse d’un utilisateur en tant que telle a été amplifiée par les robots Matrioshka, alors qu’auparavant, ils se concentraient exclusivement sur les faux visuels qu’ils créaient eux-mêmes », indique @antibot4navalny.

En pratique, les bots liés aux comptes pilotant l’opération sont allés démultiplier l’audience de publication d’internautes légitimes sur Telegram, TikTok et Twitter, pour augmenter la portée de leurs réactions, entrainant à leur suite d’autres internautes légitimes.

• Désinformation : comment Viginum lutte contre les ingérences numériques étrangères


Right to repair

42 % des répondants à une étude menée par le projet Limites Numériques vivent avec un téléphone dysfonctionnel, le plus souvent à cause de problématiques d’obsolescence logicielle.

En France en 2023, 42 % des gens vivaient avec un smartphone dysfonctionnel, selon un sondage Médiamétrie mené auprès de 1 000 personnes « représentatives d’une population de 50 000 personnes au sein de la population française » pour Télécom Paris, l’Université de Toulouse, De Vinci Research Center et Limites Numériques, un projet qui s’intéresse « aux choix de conception, aux usages et aux fonctions d’un numérique s’inscrivant dans les limites planétaires ».

Dans près de deux cas sur trois, ces dysfonctionnements sont dus aux applications et logiciels installés sur les smartphones.

• En balade pour repérer les infrastructures numériques

Des problèmes qui surviennent tôt

Constatant que la fabrication est à l’origine de la majeure partie de l’empreinte carbone des terminaux numérique, Limites Numériques s’est penché sur les raisons pour lesquelles nombre d’entre eux étaient remplacés dans les deux ans et demi suivant leur acquisition. En 2023, la designeuse Léa Mosesso contestait en effet, dans un mémoire de recherche, l’hypothèse selon laquelle ces smartphones cessaient brusquement de fonctionner en raison d’une panne unique.

Avec 87 % de détenteurs de smartphone de moins de 3 ans parmi les personnes interrogées, le présent sondage montre que les problèmes logiciels apparaissent tôt. Si 58 % des sondés n’ont rencontré aucun problème, 42 % déclarent donc subir des problématiques logicielles, 34 % des enjeux matériels, et 23 % des problèmes complexes à classer.

Les enjeux de batterie dégradée, de stockage saturé et de lenteur sont en tête des problèmes relayés par les répondants.

Surtout, ces problèmes surgissent tôt : parmi l’intégralité des problématiques relevées, la moitié est apparue dès la première année, près du quart dans la deuxième année. Au-delà de la quatrième année, où environ 50 % des répondants déclarent avoir rencontré au moins un problème de smartphone, la probabilité de subir de nouveaux dysfonctionnements n’évolue quasiment plus, relève encore Limites Numériques.

Des difficultés à réparer

Face à ces désagréments, les sondés semblent relativement désemparés : les propriétaires des smartphones n’ont pas tenté de résoudre 42 % des problèmes relevés. Dans 43 % des cas, ils ont tenté de résoudre leurs difficultés (le type d’enjeux que les usagers tentent le plus de résoudre sont ceux liés au stockage de leurs appareils). Dans plus de la moitié des cas, l’opération s’est soldée par un échec.

Enfin, 15 % des problèmes se sont résolus par eux-mêmes.

Des chiffres qui, en définitive, traduisent la résolution de seulement un tiers des problèmes rencontrés sur les smartphones des personnes interrogées. Parmi les plus complexes à résoudre : tous les enjeux liés à l’écran, à l’affichage et à la dégradation de la batterie.

14,7 % des téléphones remplacés réellement inutilisables

Si 32 % des répondants ayant rencontré au moins un problème qualifient ces désagréments qu’ils rencontrent de « très gênants » et 47 % de « plutôt gênants », beaucoup cohabitent avec. Principales raisons évoquées : vouloir faire durer l’appareil le plus longtemps possible, et des enjeux de coûts (trop élevés pour réparer ou remplacer l’appareil).

Cela dit, l’étude relève une chute marquée de la cohabitation des propriétaires de smartphone avec leur appareil au-delà d’un mois lorsqu’ils ont tenté de résoudre le problème sans y parvenir. Cela « peut signifier qu’une partie des smartphones sont remplacés, et pas réparés », écrivent les auteurs. Lorsque le téléphone finit par être remplacé, indiquent encore les répondants, il n’est totalement inutilisable que dans 14,7 % des cas.

En conclusion de son étude, Limites Numériques formule plusieurs recommandations, parmi lesquelles celle de demander aux fabricants une garantie logicielle de plusieurs années ; celle de produire des applications plus légères pour éviter la saturation du stockage des appareils ; proposer des paramètres permettant de contourner certains dysfonctionnements (comme les écrans en partie cassés), et faciliter maintenance et réparation matérielle et logicielle.

Xiaofeng Wang, un informaticien spécialisé depuis vingt ans dans la cryptographie, la cybersécurité et la protection de la vie privée a disparu des radars. 


Ses comptes et téléphones professionnels ont été supprimés par son employeur, l’université de l’Indiana.

L’université a aussi supprimé toutes les informations relatives à sa femme Nianli Ma, qui travaillait comme analyste système principale et programmeuse au département des Library Technologies. 


Le FBI s’est par ailleurs rendu à leur domicile le 28 mars, sans que les raisons n’en soient connues, rapporte Ars Technica.

« Nous avons mené des opérations de maintien de l’ordre, autorisées par le tribunal, dans des domiciles de Bloomington et de Carmel, a confirmé une porte-parole du bureau du FBI à Indianapolis, auprès d’une radio locale. Nous n’avons aucun autre commentaire à faire pour le moment. »

Xiaofeng Wang était doyen associé de la recherche à la Luddy School of Informatics, Computing and Engineering de l’université de l’Indiana, et fellow de l’Institute of Electrical and Electronics Engineers et de l’American Association for the Advancement of Science.

Il a par ailleurs signé de nombreux articles de recherche en cryptographie, sécurité des systèmes, protection des données et protection des données génomiques.

Ce week-end, plusieurs des collègues du couple ont déclaré leur inquiétude sur les réseaux sociaux, et leur incompréhension de voir toutes les informations qui leur étaient relatives disparaître du site de leur employeur.

Signal-INT

La Chine reste la principale cybermenace pour les États-Unis, estiment les services de renseignement du pays, en pleine tempête relative à la publication d’informations hautement confidentielles dans une boucle Signal.

La Chine reste la plus grande menace cyber pour les États-Unis, selon le rapport d’ « évaluation annuelle des menaces » des renseignements états-uniens publié en amont de l’audition de leur directrice Tulsi Gabbard devant le Sénat du pays.

Le document précise que la Chine progresse de manière « régulière mais inégale » dans la constitution des capacités qui pourraient lui permettre de s’emparer de Taïwan, mais aussi que la Chine est en mesure de s’en prendre aux États-Unis tant avec des armes conventionnelles qu’en recourant à des cyberattaques pour détruire ses infrastructures.

Le pays, indiquent les services de renseignement, « est l’acteur le plus à même de menacer les intérêts des États-Unis au niveau mondial », quand bien même il se présente comme plus « prudent » que d’autres pays étudiés dans le rapport (dont la Russie, l’Iran ou la Corée du Nord).

• Le gouvernement des États-Unis a-t-il suspendu ses opérations cyber contre la Russie ?

L’IA au service de la désinformation

Il souligne aussi la volonté de Pékin de devenir leader dans l’intelligence artificielle, devant les États-Unis, d’ici 2030. Du côté de ces technologies, les renseignements soulignent d’ailleurs la forte probabilité que l’armée de libération chinoise recoure à de grands modèles de langages pour créer de fausses informations, imiter des personnalités réelles ou en créer de toutes pièces afin de faciliter la création de réseaux d’attaques.

Le pays est par ailleurs en train de déployer « des moyens avancés tels que des missiles hypersoniques, des aéronefs furtifs, des sous-marins avancés, du matériel de guerre informatique et un arsenal croissant d’armes nucléaires ».

Sur le plan cyber, les conclusions du rapport des services de renseignement états-uniens sont relativement cohérentes avec les éléments relevés par l’ANSSI dans son panorama de la menace 2024. L’autorité française place cela dit la Chine aux côtés de la Russie, et de l’écosystème cybercriminel, dans son classement des « principales menaces tant pour les systèmes d’information les plus critiques que pour l’écosystème national de manière systémique ».

• Vincent Strubel (ANSSI) : « On est en Ligue 1 des nations cyber »… face aux Russes et Chinois

La fuite des plans d’attaque états-uniens, risque à part entière

Les conclusions du document ont été délivrées au Sénat des États-Unis, en pleine crise relative à l’intégration semble-t-il erronée d’un journaliste de The Atlantic à une boucle de discussion ultrasensible créée sur Signal.

• The Atlantic publie le plan d’attaque divulgué via Signal par l’administration Trump

Un accès à des informations aussi sensibles que les plans d’attaque états-uniens serait, évidemment, un avantage de taille pour des (cyber)attaquants du pays. En conséquence, des sénateurs démocrates se sont inquiétés qu’une telle faille de sécurité avait de quoi motiver la Chine et la Russie à redoubler d’efforts pour recruter des agents au sein de l’administration états-unienne, et notamment des équipes en charge du renseignement. 



• Des pirates chinois auraient espionné des systèmes d’écoutes téléphoniques américains

Une inquiétude d’autant plus justifiée que le chercheur de la Foundation for Defense of Democracies Max Lesser et Reuters viennent d’identifier un réseau de fausses agences de conseils et faux cabinets de recrutement tentant d’embaucher les employés de l’administration états-unienne récemment licenciés. D’après Max Lesser, le mode opératoire suit des techniques « bien établies » utilisées dans de précédentes opérations de renseignement chinoises.

Sel sur les plaies

Portal Kombat, Matriochka, Olympia… En matière d’opérations de désinformation, Next relaie régulièrement les travaux de Viginum. Mais comment fonctionne réellement ce service placé sous les ordres du Premier ministre ?

Ses travaux ont permis de mieux comprendre les campagnes de déstabilisation opérées pendant les Jeux Olympiques, de détailler l’ingérence russe dans l’espace informationnel depuis le début de la guerre en Ukraine, ou encore de comprendre qui accentue la promotion des discours indépendantistes d’outre-mer. Mais comment fonctionne Viginum, le service de vigilance et protection contre les ingérences numériques étrangères créé en 2021 ?

Pour répondre à cette question, Next s’est rendu dans les bureaux de ce service dépendant du Secrétariat général de la défense et de la sécurité nationale (SGDSN) un après-midi de mars, dans l’un de ces immeubles anonymes où se logent étage après étage des plateaux de bureaux. « Notre mission est de réaliser de l’investigation pour détecter et caractériser de l’ingérence numérique étrangère » explique Anne-Sophie Dhiver, ancienne de Google et cheffe de service adjointe de Viginum depuis mai 2024.

Et d’expliquer que les acteurs de la menace informationnelle « nous connaissant très bien en tant que société : ils cherchent nos lignes de fracture, ils mettent du sel sur les plaies » — une logique bien illustrée par l’affaire des étoiles de David, peintes sur les murs de Paris peu après l’attaque du Hamas en Israël, très probablement par des acteurs pro-russes, pour attiser les conflits.

En termes de désinformation, Viginum identifie « deux niveaux de pression. Un stratégique, lié au contexte géopolitique, aux conflits en cours », qui font par eux-mêmes peser une menace sur le débat, et un « systémique, lié aux évolutions technologiques, en particulier au fonctionnement des plateformes ».

Dans le berceau de la tech occidentale, les inégalités de richesse n’ont jamais été aussi fortes, selon le Silicon Valley Index.

Produit par Joint Venture Silicon Valley, un think tank qui s’intéresse depuis 1993 à la santé économique de la région californienne, le document constate que 9 milliardaires possèdent 15 fois plus de liquidités que la moitié de la population de cette zone de 200 km².

À eux neuf (parmi lesquels Mark Zuckerberg, patron de Meta, Larry Page et Sergey Brin, fondateurs de Google, Jan Koum, cofondateur de WhatsApp, Jensen Huang, patron de NVIDIA, ou Laurene Powell Jobs, philanthrope et veuve du fondateur d’Apple), ils détiennent 150 milliards de dollars, quand 447 000 foyers voisins s’en partagent 10 milliards.

Au total, la péninsule compte 56 milliardaires et 145 000 millionnaires, et 1 % des ménages les plus aisés (9 000 foyers) détiennent 42 % de la richesse de la région.

À l’opposé du spectre, 30 % des foyers ont besoin d’une aide extérieure pour vivre, et 10 % vivent avec moins de 5 000 dollars par an.

Un contexte qui crée « les conditions de l’instabilité et de la révolte », a alerté le président du Joint Venture Silicon Valley début mars.

Possible de parler à un agent, svp ?

Augmentation des discriminations et dématérialisation mal déployée, telle sont les deux tendances contre lesquelles la Défenseure des droits alerte dans son rapport annuel sur l’activité 2024.

Un « sursaut collectif ». C’est ce que voudrait susciter la Défenseure des droits, pour prévenir et lutter contre l’ « augmentation préoccupante » des discriminations en France et renverser le « renoncement face à la promesse républicaine d’égalité » qu’elle constate sur le terrain.

Dans son rapport annuel publié ce 25 mars, la Défenseure des droits déclare son inquiétude devant l’augmentation du nombre de victimes de discrimination, principalement visées en raison de leur origine et de leur religion. En parallèle, elle relève la baisse du nombre de saisines liées à ces motifs, et alerte contre la tendance selon laquelle de nombreuses victimes « renoncent à faire-valoir leurs droits en raison de la complexité des démarches, de la peur des représailles, d’une méconnaissance de leurs droits, ou encore d’un sentiment de découragement ».

Outre l’essoufflement des politiques publiques concernant la lutte contre les discriminations « depuis une vingtaine d’années », elle souligne le rôle très clair de la dématérialisation, déploiement d’outils algorithmiques compris, dans les difficultés croissantes des usagers. Elle constate notamment « l’incapacité des solutions entièrement dématérialisées à s’adapter aux spécificités des situations individuelles ».

Réclamations démultipliées avec le déploiement de l’administration numérique pour les étrangers

Plus d’une réclamation sur trois (37 %) sont désormais liées aux difficultés rencontrées par les usagers ressortissants étrangers, lorsqu’ils essaient d’obtenir ou de renouveler leurs titres de séjour en ligne. L’autorité précise avoir vu les difficultés « nettement aggravées depuis le déploiement de l’Administration numérique pour les étrangers en France (ANEF) » – en 2019, ce sujet spécifique ne représentait que 10 % du total des réclamations reçues.

En pratique, la plateforme ne permet ni de corriger, ni de modifier la demande. Quant aux délais de réponse opaque, ils ont conduit des milliers de personnes à perdre leurs droits sociaux ou leur travail à cause d’un renouvellement ou d’une obtention trop lente du fameux sésame qu’est le titre de séjour, comme le détaillait plus précisément un rapport de décembre 2024.

• [Interview] Efficacité, coût des algorithmes publics : les administrations manquent de transparence

Dérivatif à l’impossibilité de contacter un agent du service public

Dans ce rapport-ci, l’institution précise que plus de 90 % des réclamations reçues concernent les questions de relations des usagers au service public. L’augmentation continuelle de ces demandes, explique-t-elle, « montre que l’institution supplée de plus en plus à la difficulté à entrer en contact avec un agent de service public doté des prérogatives nécessaires pour résoudre les litiges ou les blocages ».

Elle souligne par ailleurs le rôle du déploiement de systèmes algorithmiques dans les problématiques observées. Dans un travail publié en novembre 2024, l’autorité soulignait déjà la nécessité de préserver l’intervention humaine dans les prises de décision, et celle de rendre ces décisions transparentes vis-à-vis des usagers et principaux concernés.

• IA : la Défenseure des droits veut plus de transparence des administrations publiques

Le rapport 2024 de la Défenseure des droits est enfin l’occasion de revenir sur les effets concrets du changement climatique sur la population française. L’autorité a en effet eu à traiter plusieurs réclamations sur le sujet, notamment relatives aux questions d’usages de l’eau ou de lutte contre les incendies et les inondations. En novembre, elle se penchait par ailleurs sur les risques spécifiques auxquels les enfants sont exposées en raison de la crise climatique.

• Sommet sur l’IA : les citoyens veulent de la transparence et participer au débat

gefärlich

Accidents, risques psychosociaux, incertitude des revenus… L’Anses livre un rapport dans lequel elle détaille les risques sanitaires élevés qui pèse sur les livreurs travaillant pour les plateformes de l’économie numérique.

« Vent, pluie, escalier… Tout ça pour 2,63 € ? » Tel était l’un des slogans des livreurs de plateformes comme Uber Eats, Stuart ou Deliveroo, qui manifestaient le 18 mars dans plusieurs villes de France. À l’appel de l’Union des livreurs indépendants, de la CGT Livreurs, de la Fédération nationale des auto-entrepreneurs et de Sud Livreurs, des travailleurs de plateformes de livraison ont manifesté dans plusieurs villes de France pour réclamer de meilleures conditions de travail.

À leur appui, l’Agence nationale de sécurité sanitaire de l’alimentation, de l’environnement et du travail (Anses) vient de publier un avis (.pdf) et un rapport de 268 pages (.pdf) sur les risques sanitaires que ces livreurs – majoritairement des hommes – rencontrent dans leur travail. Depuis octobre 2023, estime Union indépendants, les livreurs ont subi une perte de 25 % de chiffre d’affaires.

• « Gig economy » : un accord européen pour encadrer le travail via des plateformes

Des sociétés qui se considèrent simples intermédiaires

L’avis rendu par l’Anses répond, lui, à une saisine initiée par la CGT en 2021. S’appuyant sur la littérature académique, la littérature grise et l’audition d’acteurs concernés, l’Anses a étudié les risques subis par les livreurs. Elle s’est penchée aussi bien sur les modèles économiques des plateformes utilisées que sur les facteurs extérieurs (notamment relatifs à l’environnement urbain) et l’interaction entre les deux.

En termes de modèle économique et de positionnement, l’Anses commence par constater que les plateformes d’emploi, type Uber, Deliveroo ou autre, « se sont toujours revendiquées comme de simples intermédiaires numériques, des « places de marché », facilitant des transactions entre tiers ». Ce cadrage leur permet de se considérer « déchargées de toute réelle responsabilité, que ce soit dans le déroulement de la prestation ou vis-à-vis des conditions de travail des livreurs ».

Pour attirer des forces vives, l’agence rappelle aussi comment, à leur lancement, « soutenues par d’importantes levées de fonds », ces plateformes ont commencé par proposer « des conditions de rémunération attractives aux livreurs afin de constituer une « flotte » indispensable à leur fonctionnement. » Une fois le marché stabilisé, elles ont modifié leurs pratiques pour ne plus payer à l’heure, mais à la course, rendre la rémunération variable en fonction de la distance, voire découper les tâches (récupération de la commande, livraison). Autant d’éléments qui sont venus créer une incertitude dans les revenus que les livreurs pourraient percevoir.

En parallèle, trois générations de livreurs se sont enchaînées : aux individus relativement sportifs et cherchant à éviter le travail de bureau des débuts, ont succédé des personnes ayant des difficultés à s’insérer sur le marché de l’emploi. À l’heure actuelle, la troisième « génération » de livreurs est essentiellement composée de travailleurs sans-papiers, surtout dans les grandes agglomérations.

Management algorithmique, le cœur du problème

La captation de données sur laquelle s’appuient les entreprises pour faire évoluer leur service leur a permis de déployer « massivement » des logiques de management algorithmique, notamment en « pilotant » les travailleurs « à distance via la géolocalisation ». L’Anses critique l’opacité de ce système, qu’elle estime non « justifiée par la nécessité d’éviter les fraudes ».

Conçu pour fonctionner via les smartphones des livreurs, le système l’est aussi « pour fonctionner sans interaction humaine, ni possibilité de discussion ou négociation entre le travailleur et la plateforme. Cette absence d’interaction humaine est parfois présentée comme offrant une plus grande neutralité. Dans les faits, les outils numériques sont aussi porteurs de multiples biais ».

Et l’Anses rappelle que de multiples travaux ont démontré que ces techniques supprimaient le management de proximité, provoquaient une asymétrie d’information exacerbée entre plateformes et livreurs. Le management algorithmique est par ailleurs source d’un « écart important entre le travail prescrit et le travail réel », la simplicité de l’activité décrite par les plateformes étant loin des conditions vécues sur le terrain.

De fait, outre les enjeux algorithmiques, les activités des livreurs les placent dans des situations de risques d’accidents. Plus d’un quart des répondants à une enquête menée en région parisienne ont ainsi déjà subi un accident. En outre, 17 morts et 14 blessés graves ont été rapportés dans la presse entre 2019 et 2023 en France. Elles les exposent aussi, en milieu urbain, à diverses problématiques liées à l’effort, aux nuisances sonores et thermiques, etc.

Déplacement de la responsabilité

La conjonction du travail indépendant, en milieu urbain et sous management algorithmique a, en définitive, une multiplicité d’effets, allant de la non prise en charge systématique des frais de santé liés aux accidents – ni même de la reconnaissance de ces accidents – au risque de burn-out.

L’absence de visibilité sur les critères de fixation des revenus et leur variabilité en fonction des heures pleines et heures creuses, de l’horaire ou d’autres facteurs crée en effet « une pression constante » qui amène les travailleurs « à élaborer des stratégies « d’auto-accélération » » (en prenant plus de risques sur la route, en limitant les échanges avec les clients, voire avec la sphère familiale, etc). Participant au phénomène, les horaires morcelés, souvent de nuit, des cycles de livraisons, ont des effets concrets sur la qualité du sommeil, la santé mentale et physique et la vie sociale, familiale et affective des travailleurs, détaille l’Anses.

Le tout est renforcé par l’organisation du travail de livraison lui-même. Le modèle de plateformisation délègue en effet toute la partie administrative du travail aux livreurs eux-mêmes, en même temps qu’elle met chaque livreur en concurrence. « Par ailleurs, souligne l’agence, la pratique de la location de compte à des personnes migrantes sans papiers par des livreurs en règle sur le territoire français pose des questions éthiques, comme le fait qu’elle puisse s’apparenter à la traite de personnes. »

Bien sûr, la régulation a évolué au cours de la période décrite : la France s’est dotée de la Loi Travail en 2016, l’Union européenne d’une directive sur les travailleurs de plateformes en avril 2024 – texte qui vise notamment à corriger le statut de « faux travail indépendant ».

• 11 livreurs Take Eat Easy requalifiés en salariés par la justice prud’homale

Cela dit, l’Anses recommande un renforcement des obligations légales des plateformes, que ce soit en termes de protection des travailleurs, d’ouverture de leurs données, ou d’ouverture du dialogue social. 

Parmi ses autres recommandations, l’Anses argumente en faveur de l’amélioration de la prévention, de multiplier les travaux d’études et de recherche pour mieux suivre les effets concrets des travaux de livraison sur ceux qui les effectuent, et de sensibiliser les consommateurs « à l’importance de soutenir des pratiques équitables, en les informant sur l’ensemble des risques associés à l’activité de livraison ».

🤑🤑🤑

Plusieurs lobbyistes de Huawei ont été interpellés et quatre personnes ont été placées sous mandat d’arrêt, dans le cadre d’une enquête sur des cadeaux de valeur, voire des pots-de-vin versés à des employés du Parlement européen. Retour sur le scandale de corruption qui secoue le Parlement européen depuis une dizaine de jours.

Depuis la mi-mars, le Parlement européen est au centre d’une nouvelle affaire de corruption. Après le « Qatargate », qui avait secoué l’institution fin 2022, puis l’enquête conjointe de Follow the Money et 24 médias européens révélant que près d’un quart des parlementaires européens ont été impliqués, de près ou de loin, dans des affaires allant de la corruption au harcèlement, voici qu’une nouvelle enquête a été ouverte pour soupçon de corruption par le géant technologique chinois Huawei.

Premiers à révéler l’affaire, la plateforme d’enquête Follow the Money, le quotidien belge Le Soir et le média flamand Knack rapportaient le 13 mars la perquisition de 21 adresses en Belgique et au Portugal.

Après plusieurs mois d’enquête, une centaine d’officiers de police judiciaire, menés par l’Office central belge pour la répression de la corruption, ont finalement interpellé plusieurs lobbyistes œuvrant pour Huawei. Ces derniers sont soupçonnés de « corruption », « faux et usage de faux », « blanchiment » et « organisation criminelle ».

Opérations « régulières » et « très discrètes »

Cible principale du coup de filet : Valerio Ottati, 41 ans. Depuis 2019, détaille Le Soir, il était directeur des affaires publiques du bureau de Huawei auprès de l’Union européenne. Le parquet le soupçonne d’avoir lancé de multiples « invitations à des événements » totalement légaux, mais dont la tenue aurait permis de réaliser les opérations de corruption présumée.

Pas de valise de cash comme dans le cas du Qatargate, mais plutôt des cadeaux de valeur (smartphones Huawei inclus), des frais de bouche, des voyages, des places à des matchs de football et des virements de plusieurs milliers d’euros. Le code de conduite des parlementaires européens les oblige normalement à déclarer dans le registre des cadeaux tout bien d’une valeur supérieure à 150 euros qui leur aurait été fourni par un tiers.

Dans la foulée des interpellations, les bureaux de deux assistants parlementaires soupçonnées d’être impliqués dans l’affaire – un de la délégation italienne du Parti populaire européen (PPE), Fulvio Martusciello, et un autre de la délégation bulgare au sein de Renew – ont été scellés.

Les financements et cadeaux versés par Huawei ont notamment servi à motiver des eurodéputés à signer une lettre qualifiant de « racisme technologique » l’exclusion des sociétés chinoises des réseaux 5G, explique Follow the Money. D’après le mandat d’arrêt, « une somme de 15 000 euros pourrait avoir été proposée à l’auteur de la lettre, tandis que chaque cosignataire pourrait s’être vu proposer une somme de 1 500 euros ».

Au Portugal, les perquisitions se sont concentrées sur une des sociétés soupçonnées d’avoir reçu des virements à destination d’eurodéputés. D’après la justice belge, les opérations de corruption auraient été menées « régulièrement et très discrètement » depuis 2021, mais la « lettre 5G » concentre une partie des accusations : « les expéditeurs de cette lettre auraient été rémunérés de manière indirecte et déguisée par [le consultant portugais] Nuno W.M., qui aurait envoyé deux factures fictives » à deux sociétés d’événementiel, depuis lesquelles il aurait pu redistribuer les fonds liés à la rédaction et la signature de la lettre.

Le 18 mars, quatre personnes ont été placées sous mandat d’arrêt et une cinquième libérée sous caution. Nuno W.M. a été interpellé en France. De même, l’assistante parlementaire Lucia S. a été interpellée sur la base d’un mandat d’arrêt européen. En parallèle, de nouvelles perquisitions étaient menées au Parlement européen, à Bruxelles.

Contrer l’opposition de Washington

Objectif présumé de la corruption : contrer le lobbying de Washington, dont l’hostilité envers les produits chinois s’est intensifiée depuis six ans. L’entreprise a notamment cherché à contre-attaquer les accusations d’espionnage, qui ont accompagné les pressions à réduire la dépendance des États occidentaux aux équipements 5G de sociétés comme Huawei ou ZTE. Il s’agissait, aussi, de plaider en faveur de l’ouverture du marché aux investissements chinois.

D’après les registres de transparence de l’Union européenne, Huawei a déclaré un travail de lobbying auprès de 24 députés européens depuis 2020, dont près du quart viennent d’Espagne. Le Point décrit une stratégie d’influence concentrée dans les pays du sud et de l’est de l’Europe.

Côté Commission européenne, la société a enregistré 76 réunions avec des représentants de l’exécutif depuis 2014, relativement loin derrière Google (362 réunions), Meta (198 réunions) ou Apple (104 réunions).

Perte d’influence

Mais au cours des deux dernières années, Huawei a déjà perdu de son influence, alors que les gouvernements européens ont précisément adopté une approche plus prudente à son égard. En réaction à l’affaire actuelle, le Parlement et la Commission ont interdit aux lobbyistes d’entrer dans leurs locaux. Le groupe d’influence Digital Europe a suspendu l’adhésion de la société chinoise, mais d’autres groupes de pression continuent de le représenter.

Dans la journée du 13 mars, Huawei a indiqué prendre « ces allégations au sérieux », détaillait Politico, et prévoir de communiquer « de manière urgente avec les enquêteurs pour mieux comprendre la situation » :

« Huawei applique une politique de tolérance zéro à l’égard de la corruption et d’autres actes répréhensibles, et nous nous engageons à respecter à tout moment l’ensemble des lois et réglementations applicables. »

D’après les mandats d’arrêt vus par Follow the Money, les dirigeants de l’entreprise, et notamment le vice-président à la région Europe Abraham Liu, auraient approuvé les transferts d’argents organisés via le Portugal pour dissimuler leur nature de pots-de-vin.

L’épisode relance le sujet de la lutte anticorruption au sein de l’Union, alors qu’un groupe d’eurodéputés de droite a freiné la création d’un comité d’éthique commun. Sur Franceinfo, la députée Nathalie Loiseau (Renew) s’est ainsi déclarée « dans une colère noire, si la cupidité de quelques-uns jette l’opprobre sur tous les autres ». Certains de ses collègues ont adressé deux lettres à Ursula von der Leyen et Roberta Metsola, respectivement présidentes de la Commission et du Parlement, pour leur demander d’interdire l’usage d’appareils Huawei dans le cadre professionnel des institutions.

Âgé de 63 ans, le co-directeur général de Samsung Han Jong-Hee est mort d’une crise cardiaque ce 25 mars, rapporte Bloomberg. Il supervisait la branche dédiée à l’électronique grand public et aux appareils mobiles de la société.

Nommé la semaine dernière à ses côtés, Jun Young-Hun se retrouve seul à la tête du géant numérique. Il a pour mission de réorganiser l’activité de fabrication de puces de Samsung, qui s’est laissée distancer par des rivaux comme SK Hynix ou TSMC, et d’aider la plus grande entreprise de Corée face aux incertitudes commerciales du moment.

Han Jong-Hee avait rejoint Samsung il y a quarante ans. Il a entamé sa carrière dans les activités télévisuelles. Auprès de Reuters, un analyste s’inquiète des effets que sa disparition pourrait avoir à long terme sur la stratégie de la société.

Samsung en difficulté

La semaine dernière, lors de la réunion des actionnaires, Han Jong-Hee avait prévenu que l’année 2025 serait difficile. Il assurait néanmoins que la société pourrait répondre aux taxes imposées par Donald Trump grâce à sa chaîne de production mondiales et ses brevets.

Interrogés par les actionnaires sur l’incapacité de l’entreprise à profiter du boom de l’IA, il s’était excusé pour les performances boursières de l’année écoulée, qui n’ont pas « répondu aux attentes ». En octobre, déjà, Samsung Electronics avait publié par avance une lettre d’excuse pour ses résultats à venir. 



Sur le dernier trimestre 2024, la filiale leader du groupe Samsung affichait des ventes en recul de 5,2 % par rapport au trimestre précédent (mais en augmentation de 10,7 % par rapport au quatrième trimestre 2023). Son bénéfice d’exploitation devait se situer entre 4,3 et 4,4 milliards d’euros au quatrième trimestre, 15,7 % sous la barre des attentes moyennes des analystes, explique le Figaro.

Traditionnellement dirigée par deux co-directeurs généraux, la société n’a pas encore nommé de successeur au dirigeant.

La société de tests ADN 23andMe ne se relève pas des aléas traversés ces dernières années : elle vient de se placer sous la protection de la loi états-unienne sur les faillites. Sa directrice, Anne Wojcicki, a démissionné pour pouvoir devenir candidate au rachat de manière indépendante.

L’annonce fait suite à une série de difficultés. Après son entrée en bourse en 2021, 23andMe n’a pas su convaincre, ne parvenant pas à dégager de bénéfices.

En 2023, la société a par ailleurs subi une cyberattaque d’ampleur, à la suite de laquelle les données génétiques de la quasi-totalité de ses 7 millions d’usagers se sont retrouvées dans la nature.

Fin 2024, sa restructuration ne s’était pas, non plus, passée sans heurts.

Pour les usagers installés dans des zones où la loi protège les données personnelles, il est encore possible de supprimer ses informations et données génétiques pour éviter qu’elles ne soient transmises à un futur acheteur. 


C’est en tout cas ce que recommande le procureur général Bonta aux clients installés en Californie – l’État américain a passé une loi similaire au Règlement européen sur la protection des données (RGPD). 


Longtemps relativement préservée des arnaques récurrentes du côté d’Instagram, Facebook ou X, le réseau social pensé pour les usages professionnels qu’est LinkedIn pullule désormais lui aussi de faux profils et de fausses annonces.

Alimentée par la pandémie, l’augmentation du télétravail et les licenciements importants, la tendance s’est nettement accrue en 2023, explique le porte-parole de l’éditeur de cybersécurité ESET Benoit Grunemwald au Figaro.

Comme ailleurs en ligne, l’accès facilité à l’intelligence artificielle générative a son rôle à jouer dans le phénomène : ChatGPT et ses concurrents facilitent grandement la possibilité de créer des profils très réalistes.

• Plus de 50 % des longs billets publiés sur LinkedIn en anglais seraient générés par des IA

S’appuyant sur du phishing et de l’ingénierie sociale, les attaques sont particulièrement courantes contre les employés de secteurs sensibles, comme la défense, la technologie ou l’aéronautique, détaille le quotidien. Autre catégorie très ciblée : celle des personnes en recherche d’emploi. De fausses offres envoyées par de faux comptes permettent, là encore, d’initier des phishing, voire de récupérer des informations bancaires en demandant de payer des avances pour accéder aux dossiers de candidature.

Plus proche des problématiques de faux commentaires ou d’astroturfing, certains entrepreneurs recourent aux faux profils pour… booster la conversation autour de leur start-up. Une tactique que certains revendiquent, y compris pour réaliser de la prospection commerciale à plus large échelle.

• LinkedIn introduit plusieurs fonctionnalités pour lutter contre les faux profils

ka-ching !

La FTC poursuit la société Click Profit, accusée d’avoir détourné plusieurs millions de dollars en promettant à des consommateurs de créer des vitrines commerciales susceptibles de leur assurer d’immenses « revenus passifs ».

Aux États-Unis, une société d’e-commerce est poursuivie par la Federal Trade Commission (FTC) devant un tribunal de Floride pour avoir récupéré « au moins 14 millions de dollars » par l’intermédiaire d’un système de « revenus passifs » principalement monté sur Amazon.

IA, capital-risque et… cacahuètes

La société Click Profit, aussi connue sous les noms de FBALaunch, Automation Industries et PortfolioLaunch, a vu ses activités suspendues le 18 mars. La FTC la soupçonne d’avoir promis à des internautes de gagner des sommes énormes via un système de création de vitrines Amazon, supposément boostées à l’IA. Click Profit, qui proposait aussi de vendre des produits via Walmart ou TikTok, a aussi fait miroiter des partenariats avec des marques comme Nike ou Disney.

Pour leur assurer ses services, l’entité demandait aux utilisateurs d’avancer des investissements conséquents, qualifiés de « frais de gestion », de 45 000 dollars minimum. Ils devaient débourser plusieurs milliers de dollars supplémentaires pour acheter les stocks de leur magasin.

Attirées par les publicités trompeuses dans lesquels des clients fictifs témoignaient d’énormes bénéfices – Click Profit laissait entendre que les vitrines pouvaient être rachetées 3 à 6 fois leur prix initial par des sociétés de capital-risque –, la plupart des victimes de l’arnaque n’ont pas revu leur mise de départ, voire se sont retrouvées avec des produits invendus. Click Profit récupérait par ailleurs 35 % des moindres profits engendrés depuis les magasins créés en ligne.

• « Devenir riche à tous les coups » : les nouvelles tendances des arnaques en ligne

L’affaire vient s’ajouter à plusieurs cas de supposée « automatisation » du commerce en ligne contre lesquels la FTC s’attaque, relève CNBC. Plusieurs sociétés se sont en effet lancées en proposant à leurs clients de gérer pour eux des magasins ou d’autres activités en ligne, contre la promesse de gagner des milliers de dollars de ces « revenus passifs ». Assurant d’immenses retours sur investissement et faisant miroiter l’usage de technologies d’IA, elles attirent des chalands qui tendent généralement à y perdre leur argent.

Run Forrest, Run !

Des centaines de milliers de participants et spectateurs de courses à pied organisées en France ont été soumis à un logiciel de reconnaissance faciale dans les douze derniers mois. Un procédé contraire au RGPD, déployé dans un contexte de promotion accrue de ce type de technologies.

Depuis un an, les visages de centaines de milliers de personnes, participantes ou spectatrices de 48 événements sportifs organisés partout en France, ont été soumis illégalement à un système de reconnaissance faciale, révèle Le Monde.

Lors de ces événements publics, les organisateurs proposent régulièrement aux coureuses et coureurs de récupérer des photographies d’eux prises pendant l’événement – majoritairement des courses à pied. Pour y parvenir, il a longtemps fallu associer à la main le numéro du dossard de la personne achetant les photos à celui présent sur les différents clichés.

En permettant d’automatiser le processus, l’intelligence artificielle (IA) a simplifié le procédé. Mais l’un des principaux fournisseurs de ce type de service, PhotoRunning, a décidé de se tourner vers de la reconnaissance faciale. C’est là que le bât blesse, explique le quotidien : pour identifier automatiquement un coureur, les visages de toutes les personnes présentes sur les photographies doivent être soumis à la technologie.

320 000 personnes concernées, dont des mineurs

Ce type de technologie est pourtant interdit dans un tel contexte par le Règlement général sur la protection des données (RGPD). Seule exception possible : le recueil du consentement univoque, et sans subir de contrainte, après que la personne a été « informée de manière détaillée ».

En l’occurrence, la majorité des organisateurs de course contactés par Le Monde a renvoyé le journal vers le règlement de leurs épreuves, dans lesquels la reconnaissance faciale n’est pas mentionnée. Par ailleurs, une personne qui n’accepterait par lesdits règlements se verrait dans l’incapacité de courir.

Au total, sur les douze derniers mois, le journal calcule que plus de 320 000 personnes sont susceptibles d’avoir été soumises au système de Photo Running. Dans le lot, le quotidien a réussi à récupérer des clichés représentant trois spectateurs du semi-marathon de Bordeaux, démontrant que leurs visages aussi avaient été soumis à la technologie biométrique.

Les trois personnes étaient par ailleurs mineures. Si PhotoRunning a d’abord déclaré que « la reconnaissance faciale, qui suppose un consentement exprès, n’intervient que pour les participants en ayant fait la demande expresse », elle n’a pas précisé pourquoi le média avait été en capacité de récupérer les images de la course SaintéGones. Les plus jeunes participants de l’édition 2024 de la course avaient six ans.

Le sport, terrain régulier d’expérimentation

Les révélations du Monde ont lieu dans un contexte de renouvellement des pressions pour l’utilisation de la reconnaissance faciale en contexte sportif ou culturel.

L’expérimentation a été lancée dans le cadre des Jeux Olympiques de Paris. Depuis, les appels à allonger sa durée de la vidéosurveillance algorithmique dans l’espace public se sont fait entendre avant même la publication du rapport d’évaluation. Publiées début janvier, les conclusions du document doutaient pourtant clairement de l’efficacité du dispositif.

• Aux JO de Paris, la vidéosurveillance algorithmique n’a servi à (presque) rien


Par le passé, d’autres spectateurs d’événements sportifs ont aussi eu la surprise de se découvrir soumis à des expérimentations algorithmiques. Ainsi, des supporters du FC Metz, qui ont appris par voie de presse avoir servi aux tests algorithmiques de la société Two-I.

Ce qui change, c’est peut-être l’état du débat public sur la surveillance généralisée. En 2021, des centaines de milliers de personnes descendaient ainsi dans la rue pour lutter contre la loi sécurité globale. Trois ans plus tard, 76 % des personnes interrogées par le think tank Continuum lab (.pdf) se déclaraient d’accord avec l’idée que des caméras présentes dans l’espace public permettent « de mieux assurer la sécurité ». Seules 22 % considéraient que cela « porte atteinte aux libertés individuelles et favorise la surveillance de masse ».

Dans le domaine public, en particulier celui du maintien de l’ordre, les rapports s’accumulent, qui interrogent pourtant le coût de ces dispositifs et le manque d’évaluation de leur efficacité réelle.

Dans le domaine du loisir, comme celui dans lequel PhotoRunning a déployé sa technologie, difficile en revanche de savoir ce que les participants d’un événement sportif pensent de l’usage de reconnaissance faciale sur leur visage pour fournir un service payant de photographie. Au moins un participant au semi-marathon organisé à Montpellier le 6 avril 2024 a déposé plainte auprès de la CNIL. D’après Le Monde, celle-ci a adressé un courrier à l’organisateur.

But who's the bartender ?

Après la publication d’un portrait de Cyril Hanouna dénoncée comme antisémite, le député LFI Paul Vannier a déclaré qu’il avait été créé par Grok, ouvrant un nouveau lot de questions sur le rapport des partis politiques aux technologies les plus récentes.

Depuis quelques jours, une nouvelle polémique agite la sphère politico-médiatique : la France Insoumise est, à nouveau, accusée d’antisémitisme. En cause : un portrait resserré de Cyril Hanouna, vindicatif, en noir et blanc illustre une affiche pour une marche « contre l’extrême-droite, ses idées… et ses relais », prévue le 22 mars prochain.

Publiée le 11 mars sur les réseaux du parti de gauche, l’affiche a rapidement été critiquée par des personnes concernées, de la LICRA au collectif Golem, aux opposants politiques de LFI. Dont acte : l’affiche a été très rapidement dépubliée.

Double polémique

Problème numéro 1, donc : l’affiche de LFI prête à l’accusation d’antisémitisme. Beaucoup, en l’occurrence, y ont vu un parallèle avec l’affiche du film nazi Le juif éternel. Le parti se défend d’avoir produit le visuel avec une volonté antisémite. Manuel Bompard reconnaît que l’affiche n’aurait pas dû être publiée. Au bout de six jours de polémiques, Jean-Luc Mélenchon s’énerve. Et se rejoue ce qui, depuis plusieurs années déjà, poursuit LFI : le parti – ou certains de ses membres – sont accusés d’antisémitisme ou, à défaut, de négligence dans la considération du sujet. Si bien qu’il est très simple, pour une Marine Le Pen, de venir critiquer son adversaire.

Next n’étant pas spécialiste de ces questions complexes, nous chercherons la prise de hauteur en vous signalant la riche série documentaire d’Arte sur l’Histoire de l’antisémitisme (désormais en accès payant), et l’épisode dédié à l’antisémitisme de l’émission En quête de politique. Si vous connaissez d’autres ressources de qualité pour réfléchir calmement à la persistance de l’antisémitisme dans la culture (politique) française, n’hésitez pas à nous les partager en commentaire, en veillant au respect des échanges.

Problème numéro 2, et c’est sur cet aspect que Next a plus vocation à détailler ses questionnements : interrogé dans l’émission C à vous du 14 mars, le député LFI Paul Vannier s’est défendu en expliquant que l’affiche a été créée à l’aide d’une intelligence artificielle générative. Laquelle ? Le modèle Grok, celui rendu disponible sur X, propriété d’Elon Musk. Polémique sur la polémique.

Grok sans garde-fou

« C’est peut-être une question intéressante d’ailleurs de s’interroger sur pourquoi l’intelligence artificielle d’Elon Musk conduit à ce type d’image », a précisé Paul Vannier. En effet, la question est riche… et loin d’être neuve.

Depuis l’arrivée sur le marché des modèles d’IA générative, leur propension à véhiculer de la désinformation et de la mésinformation est soulignée à répétition. Parmi ces contenus de faible qualité, la propension des modèles, quels qu’ils soient, à produire des représentations stéréotypées de toutes sortes de minorités n’a cessé d’être démontrée et critiquée.

En conséquence, de nombreux éditeurs, OpenAI en tête, ont peu à peu déployé des garde-fous, à l’aide notamment de tests contradictoires et d’apprentissage par renforcement. C’est dans ce paysage qu’Elon Musk a décidé de s’insérer en annonçant, fin 2023, sa volonté de créer un modèle de langage « rebelle » (c’est-à-dire, dans les faits, sans les garde-fous qui permettent aux autres systèmes d’éviter la génération trop simple de discours de haine).

• Les modèles d’IA génératifs renforcent les biais humains

18 mois plus tard, la troisième version de Grok est très facilement accessible depuis X, le réseau social possédé par l’entrepreneur et tronçonneur-en-chef de l’administration états-unienne. Et c’est sur ce point que notre rédaction a fait une première pause : est-ce que LFI n’aurait pas simplement utilisé Grok parce qu’il est le seul à permettre de générer le portrait d’une personne réelle ?

À défaut de connaître le prompt utilisé par le parti politique, nous réalisons quelques tests maison. Aux requêtes « génère une image de Cyril Hanouna » et « génère une image de Cyril Hanouna en colère », le Chat de Mistral et Dall-E d’OpenAI refusent, tandis que Grok fournit obligeamment quatre images de chaque. De fait, à l’exception de Grok, tous les plus grands modèles ont institué une limitation à la génération de portraits de personnalités… précisément pour éviter qu’ils ne soient trop facilement caricaturés.

Comme nous le relations il y a quelques mois, certains noms génèrent même des refus absolus de répondre de la part de ChatGPT, traduisant généralement la présence de contentieux passés entre leurs propriétaires et OpenAI.

• Grok est un superdiffuseur de désinformation

C’est la faute d’Elon

Mais admettons que personne, chez LFI, n’ait suivi les sagas relatives à la désinformation et au discours de haine générés par IA. Pour accéder à Grok, il faut passer par X.

X, anciennement Twitter, a longuement été le réseau favori des journalistes, des scientifiques et des politiques. Si une partie des deux premières catégories s’en est éloignée depuis le rachat du réseau social par Elon Musk, peu, dans la classe politique, leur ont emboité le pas.

La question s’est tout de même posée, surtout à gauche, à la suite de départs remarqués à l’international et de l’initiative HelloQuitteX. Difficile d’envisager, dans ces conditions, que le sujet des opinions politiques d’Elon Musk et de son impact sur ses propres outils ne se soit pas posé dans les rangs de la gauche, et de LFI en particulier.

• Elon Musk a embarqué l’algorithme de X dans son soutien à Donald Trump

Sans même aborder la question des réseaux sociaux, les propres affiches de LFI reprennent l’image d’Elon Musk opérant un salut nazi à la tribune de l’investiture de Donald Trump. Aucun lien n’a-t-il donc été tracé entre le bord politique de l’entrepreneur et ses outils ?

Et cette neutralité de la technique, elle est avec nous dans la pièce ?

« Faut-il des images de haine pour dénoncer les discours de haine ? », interroge sur son blog le chercheur en histoire visuelle André Gunthert, soulignant l’adoption par La France Insoumise des « codes visuels du discours de haine de l’extrême-droite » sur leurs affiches (outre Cyril Hanouna, y sont représentés Pascal Praud ou… Elon Musk) : « images monochromes sur fond noir soulignées d’une titraille jaune ».

Et nous serions tentés de tirer ainsi le fil : faut-il des technologies de haine pour dénoncer les discours de haine ? Si le rejet des technologies états-uniennes n’est pas si simple pour le citoyen, la question de l’utilisation des outils construits et promus par un soutien actif de l’extrême-droite partout sur la planète ne devrait-elle pas se poser pour un parti de gauche ?

Outre l’outil Grok lui-même : pourquoi faire appel à l’IA générative, jusqu’ici très principalement utilisée par l’autre bord du champ politique, quand il aurait été possible de se tourner vers des artistes ?

En bref, l’épisode médiatique vient ouvrir une interrogation : les partis politiques peuvent-ils se permettre de considérer les technologies les plus récentes, et en particulier l’IA générative, comme neutres, alors que les travaux démontrant leur rôle dans la désinformation et les discours de haine s’accumulent ?

• Comment les mouvements politiques français jouent des techniques de manipulation de l’information sur les réseaux sociaux

La question est d’autant plus urgente que les débats sur l’adoption de l’IA et des nouvelles technologies, s’ils ont été demandés par les citoyens, n’ont pas tellement été pris en compte lors du récent Sommet sur l’IA.

Par où passe ma série bingée avant-hier ?

Spécialiste des usages et des fonctions « d’un numérique s’inscrivant dans les limites planétaires », l’association Limites Numériques organise des balades numériques pour visibiliser les infrastructures nécessaires à nos usages dématérialisés. Next en a suivi une.

Un après-midi d’hiver, enfourchant notre fidèle destrier à pédales, nous avons rejoint un groupe de designers et de curieux du numérique qui partait en balade dans le sud de Paris. Guidés par Thomas Thibault, co-président de l’association Le Mouton numérique et du projet de recherche Limites Numériques, nous avons arpenté les rues du 13ᵉ arrondissement de la capitale.

Limites Numériques s’intéresse « aux choix de conception, aux usages et aux fonctions d’un numérique s’inscrivant dans les limites planétaires ». Parmi ses actions de sensibilisation aux liens entre usages numériques et changement climatique, le projet propose des balades numériques un peu partout en France, et partage ses outils sur cette page – ici, un exemple de promenade à la recherche des infrastructures implantées à Chambéry.

• Réduire son empreinte environnementale numérique, « c’est comme le tri sélectif : il faut le faire, point barre »

Le but : apprendre, avec un groupe aux connaissances variées sur le sujet, à détecter dans l’espace public les traces des infrastructures numériques par lesquelles circulent les données que nous échangeons en ligne à longueur de journée.

Cyber-attaque

Douze jeunes filles ont été visées par la diffusion de deepfakes à caractère pornographique en Normandie. Une enquête est ouverte.

• Deepfakes pornographiques : quels sont les enjeux ?

Cheffe de l’ensemble scolaire, Marie-Bernard Boudant souligne que « les faits n’ont rien à voir directement avec l’établissement, hormis le fait qu’une partie des adolescents victimes est élève » sur place. Elle indique qu’une réaction rapide a été permise par « un dispositif de veille et d’attention aux signaux faibles et aux signaux forts de problèmes rencontrés par les élèves ». L’établissement traite cette « crise de cyberharcèlement » depuis le début du mois.

Violence numérique assistée par IA

Comme nous l’expliquions dans de précédents articles, les deepfakes à caractère pornographique sont un problème d’ampleur, dont la fabrication et la diffusion a explosé avec l’accès grand public à des outils d’IA générative. Les filles et les femmes en sont les principales victimes, partout sur la planète.

En Espagne, dans la ville d’Almendralejo, quinze adolescents ont été condamnés mi-2024 après la diffusion des deepnudes de leurs camarades. Âgés de 13 à 15 ans, ils avaient utilisé des applications facilement trouvables en ligne pour créer des images à caractère pornographique de leurs camarades, dont certaines étaient leurs voisines, voire des membres de leur famille.

• Photos intimes, deepnudes : 13 femmes en colère s’organisent

Au Royaume-Uni, le gouvernement vient de créer des mesures contre les deepfakes non consentis à caractère sexuel. En France, créer et diffuser de fausses images à caractère sexuel est passible de deux ans d’emprisonnement et 60 000 euros d’amende. Ces peines sont portées à trois ans d’emprisonnement et 75 000 euros d’amende lorsque le contenu est créé ou diffusé via un service de communication au public en ligne.

• Deepfakes pornographiques : les défis à relever pour enrayer le phénomène