Silicon Valley 1 - Hollywood 0

Le gouverneur de la Californie, Gavin Newsom, a déposé un véto dimanche 29 septembre contre le projet de loi qui devait réguler l’IA dans son État, qui héberge à la fois la Silicon Valley et Hollywood. Le texte visait les modèles les plus importants et prévoyait notamment un interrupteur d’urgence pour désactiver les systèmes en cas de problème ingérable, ainsi que des protocoles de tests et une protection des lanceurs d’alertes.

Le projet de « loi sur l’innovation sûre et sécurisée pour les modèles d’intelligence artificielle d’avant-garde » (ou SB 1047), a fait l’objet d’intenses campagnes de lobbying en Californie ces dernières semaines, tant du côté des pour que des contre. Le gouverneur de l’État, Gavin Newsom, y a finalement opposé son véto (PDF) à la veille de la date limite.

SB 1047 prévoyait d’imposer certaines obligations aux créateurs de modèles. Elle les aurait rendus responsables devant la loi de l’État en cas de « risque déraisonnable que le modèle ou ces dérivés cause ou permette matériellement un dommage critique ». Le texte californien n’était pas aussi complet que l’AI Act européen, mais posait quelques jalons de régulation.

Pour une régulation, mais pas celle-là

Le gouverneur ne veut pas envoyer un message anti-régulation, mais critique le projet comme ciblant seulement et de façon inappropriée selon lui les grands modèles d’IA générative :

« Bien que bien intentionné, le projet de loi SB 1047 ne tient pas compte du fait qu’un système d’IA est déployé dans des environnements à haut risque, qu’il implique une prise de décision critique ou l’utilisation de données sensibles. Au lieu de cela, le projet de loi applique des normes strictes même aux fonctions les plus élémentaires – du moment qu’un grand système les déploie. Je ne pense pas qu’il s’agisse là de la meilleure approche pour protéger le public des menaces réelles posées par la technologie », affirme-t-il dans sa lettre justifiant le véto.

Gavin Newsom ajoute que « des modèles plus petits et spécialisés pourraient s’avérer tout aussi dangereux, voire plus dangereux, que les modèles visés par la loi SB 1047, au risque de freiner l’innovation même qui alimente les progrès en faveur du bien public ».

« Nous ne pouvons pas nous permettre d’attendre qu’une catastrophe majeure se produise avant de prendre des mesures pour protéger le public », affirme le gouverneur. Cependant, « pour assurer la sécurité du public, nous devons nous contenter d’une solution qui n’est pas fondée sur une analyse empirique de la trajectoire des systèmes et des capacités de l’IA. En fin de compte, tout cadre visant à réglementer efficacement l’IA doit suivre l’évolution de la technologie elle-même ».

Les directions de startups de la Silicon Valley contre la loi

Alors qu’Elon Musk avait étonné jeudi dernier les observateurs en se prononçant pour cette régulation, la plupart de la Silicon Valley s’était positionnée contre, à l’instar d’OpenAI. Celle-ci poussait notamment pour une réglementation au niveau national plutôt qu’un patchwork de lois étatiques.

Chez Meta, le ton était aussi à la critique du projet. Yann Le Cun, responsable scientifique dans l’entreprise, a d’ailleurs rapidement salué la « décision judicieuse » du gouverneur. Il avait relayé plusieurs argumentaires sur X contre le projet de loi.

Du côté d’Anthropic, après avoir critiqué la loi, l’entreprise indiquait dans une lettre (PDF) plus trop savoir où elle en était après les différentes modifications du texte : « selon notre évaluation, le nouveau projet de loi SB 1047 est considérablement amélioré, au point que nous pensons que ses avantages l’emportent probablement sur ses coûts. Toutefois, nous n’en sommes pas sûrs et certains aspects du projet de loi nous semblent encore préoccupants ou ambigus ».

L’ancienne présidente de la Chambre des représentants des États-Unis, Nancy Pelosi, s’était aussi prononcée contre ce projet de loi : « Nous voulons que la Californie soit à la pointe de l’IA en protégeant les consommateurs, les données, la propriété intellectuelle et bien d’autres choses encore, mais le projet de loi SB 1047 est plus nuisible qu’utile à cette fin ».

Quelques têtes d’ingénieurs et de chercheurs qui dépassent

Certains ingénieurs et chercheurs en IA étaient quand même sortis du lot pour soutenir le texte. Le chercheur et ancien salarié de Google Brain, Geoffrey Hinton, avait notamment initié un texte signé par plusieurs employés de la Silicon Valley :

« Nous pensons que les modèles d’IA les plus puissants pourraient bientôt présenter des risques graves, tels qu’un accès élargi aux armes biologiques et des cyberattaques sur les infrastructures critiques. Il est possible et approprié pour les entreprises pionnières de l’IA de tester si les plus puissants modèles peuvent causer de graves dégâts, et pour ces entreprises de mettre en œuvre des mesures de protection raisonnables contre de tels risques ».

Hollywood pour une régulation, pour le bien de l’humanité

Du côté de Hollywood, 125 « grands noms » du milieu s’étaient mobilisés en publiant une lettre ouverte. « Nous croyons fermement au potentiel éblouissant de l’IA à être utilisée pour le bien. Mais nous devons aussi être réalistes quant aux risques », affirmaient-ils. Cette lettre se défendait de tout corporatisme en expliquant que « ce projet de loi ne vise pas à protéger les artistes, mais à protéger tout le monde ».

Si le gouverneur Gavin Newsom a posé son véto sur ce texte, il a souligné avoir demandé à un de ses services de travailler sur « l’évaluation des menaces potentielles posées par l’utilisation de l’IA générative » et leurs conséquences sur les infrastructures critiques en Californie, « y compris celles qui pourraient entraîner des pertes massives ».

La récente mise à jour 7.1 du client de virtualisation VirtualBox a introduit quelques régressions. Parmi elles, un souci de performances dans les machines virtuelles Windows, qui s’exécutent moins rapidement que prévu. La nouvelle mouture 7.1.2 règle le problème.

D’autres corrections sont présentes, dont une sur un problème qui nous avait affecté lors de notre prise en main d’Ubuntu 24.10 : la case liée à l’accélération graphique ne pouvait pas être cochée.

• Ubuntu 24.10 fait sa rentrée : noyau 6.11, GNOME 47, Wayland pour tous et APT 3.0

Parmi les autres soucis éradiqués, signalons des écrans noirs apparaissant parfois dans les machines virtuelles Windows, l’impossibilité parfois de charger des instantanés créés sur les versions 7.0.x de VirtualBox, des artefacts visuels avec l’accélération 3D ou encore la disponibilité de cette dernière pour les machines virtuelles basées sur l’architecture Arm.

• Télécharger VirtualBox

Dans un développement étonnant, la FreeBSD Foundation annonce un investissement de 750 000 dollars dans le support des ordinateurs portables. En collaboration avec son partenaire matériel Quantum Leap Research, ainsi qu’avec AMD, Dell et Framework, l’investissement grimpe même à un million de dollars.

« Alors que FreeBSD excelle dans les environnements serveurs et embarqués, son support des ordinateurs portables est à la traîne, en particulier dans des domaines essentiels comme le Wi-Fi, le Bluetooth, la suspension/reprise, les micros numériques, les boutons matériels pour les contrôles audio et l’entrée/sortie », indique le communiqué, publié vendredi.

Plusieurs domaines prioritaires ont été identifiés : tout ce qui touche au sans fil, à la gestion de l’alimentation, au support des cartes graphiques, aux améliorations audio (routage, commutation du casque…), et enfin au support des boutons spéciaux, dont le pavé tactile.

En plus de ces domaines, que la fondation range dans la catégorie « qualité de vie », FreeBSD doit également améliorer son scheduler pour supporter les cœurs hétérogènes. C’est une caractéristique des processeurs modernes, qui mélangent des cœurs performants à d’autres, moins rapides, mais beaucoup plus efficaces énergétiquement.

FreeBSD doit devenir une alternative viable à Windows et Linux sur ce type de machine, insiste la fondation. Elle évoque même « un impératif stratégique » pour mener à une adoption plus large de FreeBSD. « Améliorer le support des ordinateurs portables encouragera plus de développeurs à adopter FreeBSD comme système d’exploitation principal, ce qui conduira à des contributions plus importantes au projet et favorisera la croissance de l’écosystème », ajoute la fondation.

Planning is lava

Microsoft prépare le retour de sa fonction Recall qui avait créé tant de remous à sa présentation. Piquée par l’avalanche de critiques, l’éditeur a retravaillé sa copie, apportant à la fonction une longue liste d’améliorations sur la sécurité. Celles-ci mettent d’autant mieux en évidence la gestion initiale du projet.

Recall est un journal d’activité. Présenté plus tôt dans l’année, il part d’une bonne idée : pouvoir fournir à l’utilisateur tout renseignement basé sur une activité passée. Vous vous souvenez avoir travaillé il y a plusieurs mois sur un rapport dont vous ne gardez que quelques vagues souvenirs ? Décrivez-le dans Recall et il le retrouvera.

Si le concept pouvait séduire une partie des utilisateurs, la réalisation a lourdement péché.

Une première version catastrophique

Pour fournir les résultats, Recall prend des captures d’écran toutes les quelques secondes pour en analyser le contenu, via un modèle d’IA spécifiquement entrainé. Les informations extraites sont placées dans une base de données. Ainsi, les requêtes interrogent cette base, permettant de présenter des résultats contextuels, captures d’écran à l’appui.

• Windows Recall : une surveillance locale et isolée, mais…

La première version de l’outil était cependant si mal préparée que de violentes critiques ont rapidement créé une polémique. Fustigé notamment par des chercheurs en sécurité, l’outil de Microsoft faisait peu de cas de la sécurité et du respect de la vie privée. Les informations étaient aisément accessibles depuis d’autres comptes sur la même machine et étaient stockées sous une forme facilement lisible.

Recall posait de sérieuses questions dans de nombreuses situations de types abusifs. Un mari voulant surveiller sa femme, un employé voulant voir ce qu’a fait un collègue ou plus généralement toute personne voulant plonger dans l’intimité d’une autre. Car Recall captait les informations dans tous les scénarios d’usage, y compris l’ouverture de sites particulièrement sensibles comme ceux des banques ou tout ce qui touche à la pornographie.

• La surveillance Windows Recall permet en l’état un pillage des données sensibles

Rapidement, Microsoft avait pris conscience qu’il fallait revoir sa copie. Des améliorations avaient été mises en place, notamment sur le stockage des données, le support des sessions de navigation privée, etc. Mais ce n’était pas suffisant. L’éditeur avait fini par annoncer le retrait de sa fonction et son retour en octobre dans une version remaniée. C’est cette nouvelle mouture qu’il a présentée vendredi soir.

De nombreuses améliorations pour la sécurité

Sans surprise, c’est la sécurité qui a reçu le plus de changements. Et ces derniers sont significatifs, comme Microsoft l’explique dans son billet de blog.

Premier changement, l’ensemble des traitements ayant lieu sur les captures d’écran et les processus sensibles sont déplacés dans une machine virtuelle, au sein d’une enclave sécurisée dont le chiffrement est assuré par la puce TPM. Microsoft assure que cette architecture met les données à l’abri des accès malveillants, car il faudrait un malware en espace noyau pour passer ces défenses.

En outre, tout accès aux données requiert une preuve d’authentification. Elle peut s’obtenir via Windows Hello (biométrie) ou avec le code PIN de la session. Même chose pour les modifications des paramètres sensibles dans Recall.

Toutes les informations stockées dans la base de données vectorielle sont chiffrées, là encore par des clés protégées dans l’enclave sécurisée (et donc la puce TPM). Les captures prises et leurs métadonnées associées (horodatage, texte de la barre de titre, durée d’utilisation…) ont chacune leur propre clé de chiffrement. Toutes les clés sont liées cryptographiquement à l’utilisateur.

De plus, Microsoft dit s’être assurée que Recall ne puisse fonctionner que sur les PC Copilot+ avec un certain nombre de fonctions actives par défaut : BitLocker, Device Encryption, TPM 2.0, sécurité et intégrité du code basées sur l’hyperviseur, Measured Boot et System Guard Secure Launch (si l’intégrité de la chaine de démarrage n’est pas complète, les clés de sécurité sont bloquées), et enfin la protection DMA du noyau.

Plus de contrôle sur la fonction

Tant qu’à faire, l’entreprise affine les réglages de sa fonction et lui ajoute d’importants paramètres. Premièrement, et surtout, Recall est en opt-in. Cela signifie que la question de son utilisation et de son activation sera posée à l’utilisateur. Comme les autres questions posées durant l’assistant de configuration initial de Windows 11, aucune réponse ne sera présélectionnée. De plus, la fonction pourra être désinstallée. Si c’est le cas après une période d’utilisation, toutes les données associées seront supprimées.

Deuxièmement, tout ce qui est effectué dans un navigateur au cours d’une session privée n’est pas sauvegardé. Cette fonction est compatible avec tous les principaux navigateurs. On peut également filtrer des applications ou sites web spécifiques afin qu’ils n’apparaissent jamais dans Recall.

Troisièmement, de nouveaux paramètres permettent un plus grand contrôle sur ce qui est fait. On peut par exemple choisir la durée de conservation des contenus. Même chose pour l’espace disque alloué, mais ce réglage existait déjà. On peut aussi supprimer une plage de temps spécifique, tout le contenu d’une application ou d’un site, ainsi que l’historique des résultats après les recherches.

Enfin, un filtrage du contenu sensible est activé par défaut. Tout ce qui touche aux mots de passe, identifiants nationaux, numéros de cartes de crédit/paiement et autres doit être filtré par Recall. Cependant, Microsoft ne parle pas d’élimination totale : ce filtrage (basé sur la technologie maison Purview) « permet de réduire le nombre » de ces informations. On ne peut donc pas totalement compter dessus, et cette part d’incertitude pourrait faire la différence pour de nombreuses personnes.

À noter que lorsque Recall effectue des captures, une icône apparait maintenant dans la barre d’état système. En cliquant dessus, on peut interrompre l’opération pour mettre la fonction en pause.

Assez pour faire confiance ?

L’idée à la base de Recall n’est pas un problème dans l’absolu. Nous avons rencontré des personnes vivement intéressées par cette perspective : retrouver à peu près n’importe quoi issu d’une activité passée sur un ordinateur. Dans un cadre professionnel, la fonction peut effectivement permettre de remettre la main sur des informations précises quand on ne se souvient que de certains éléments de contexte, là où la recherche classique réclame davantage que l’on se rappelle d’un nom, ou au moins d’une partie.

De l’idée à la réalisation, il y avait cependant un gouffre. Il semble que les multiples améliorations portées par Microsoft à sa fonction puissent effectivement faire la différence. Mais la question demeure : pourquoi avoir présenté à la dernière conférence Build un Recall dont les implications en matière de sécurité et de vie privée n’avaient clairement pas été réfléchies ? Surtout dans un contexte où l’éditeur martèle régulièrement que la sécurité est devenue sa priorité absolue, au point de différer une fonction si nécessaire.

Microsoft clame « Recall est conçu avec la sécurité et la confidentialité à l’esprit », mais on imagine mal l’entreprise lancer une gamme de produits vulnérables et vendus comme tels. La firme assure cependant que l’équipe Microsoft Offensive Research Security Engineering (MORSE) a mené des tests de conception et de pénétration pendant plusieurs mois. Une société tierce aurait également été engagée pour réaliser un audit de sécurité.

Dans une interview à The Verge, David Weston, chargé de la sécurité des entreprises et des systèmes d’exploitation chez Microsoft, indique que le développement initial de Recall était bien placé sous l’égide de la Secure Future Initiative de l’entreprise. Mais il s’agissait d’un produit en avant-première, soumis a priori à un régime légèrement différent. La levée de boucliers aurait forcé l’éditeur à accélérer les modifications prévues. L’explication ne tient guère, car la nouvelle version présentée repose sur une architecture très différente.

Recall sera à nouveau proposée courant octobre, d’abord chez les testeurs Windows Insiders. Si Microsoft reste sur son idée, seules les personnes sur des PC Copilot+ pourront mettre la main dessus.

Le 2 septembre, la Cour suprême du Brésil confirmait la suspension du réseau social X. Une décision forte, après des mois d’opposition entre Elon Musk (patron du réseau social) et la plus haute instance judiciaire brésilienne. Nous avons déjà longuement détaillé les raisons de ce bras de fer.

• Suspension de X au Brésil : retour sur un bras de fer

En fin de semaine dernière, X affirmait avoir « répondu à toutes les exigences de la Cour suprême du Brésil et demandait la levée de sa suspension dans le pays », expliquait l’AFP en se basant sur les déclarations d’une source policière proche du dossier.

Vendredi, le juge Alexandre Moraes a refusé « de débloquer le réseau social et conditionné sa réactivation dans le pays au paiement de près d’1,7 million d’euros », ajoutent nos confrères. Ce montant est la combinaison de deux sanctions.

La première, pour avoir « ignoré pendant deux jours un ordre de désactiver un serveur qui lui avait permis de contourner temporairement son blocage le 18 septembre », quand bien même X avait expliqué que c’était la conséquence « involontaire et temporaire » d’un changement technique. La seconde, pour ne pas avoir nommé de représentant légal au mois d’août, avant la nomination à ce poste de Rachel de Oliveira Villa Nova.

Nous avons tenté d’accéder à X.com via un VPN au Brésil, sans succès. Notre connexion passait sans problème depuis d’autres pays d’Amérique latine, et depuis la France bien évidemment.

Atos a annoncé vendredi soir (.pdf) avoir recueilli le « très large soutien » de ses actionnaires et de ses créanciers financiers autour de son projet de plan de sauvegarde accélérée, dessiné début juillet. Fort de ce suffrage, validé par les administrateurs judiciaires en charge du dossier, le groupe informatique présentera son plan le 15 octobre prochain devant le tribunal de commerce de Nanterre.

La direction espère une décision favorable sous deux semaines, qui lui permettrait d’enclencher les principales manœuvres financières du plan. Celui-ci prévoit notamment la conversion en capital de 2,9 milliards d’euros de dette, sur les 4,8 milliards d’euros de créances qui étouffent aujourd’hui la trésorerie du groupe.

Les principaux créanciers du groupe acceptent par ailleurs de soutenir une nouvelle vague de financements. Réalisée sous forme de dette et d’apport au capital, elle doit permettre d’injecter entre 1,5 et 1,675 milliard d’euros dans les finances d’Atos. Elle intègre une augmentation de capital proposée avec maintien du droit préférentiel de souscription (DPS) aux actionnaires existants, qui se verront cependant massivement dilués à l’issue du processus.

« En parallèle, le groupe Atos a obtenu des financements intérimaires de la part de l’État, par l’intermédiaire du Fonds pour le Développement Économique et Social (FDES), de porteurs d’obligations et de créanciers bancaires, pour un montant total de 800 millions d’euros », indique le groupe dans la dernière version du document de présentation de son plan, datée du 16 septembre dernier (.pdf).

Le dossier des activités « stratégiques » d’Atos, dans la défense, la sécurité ou l’énergie, n’est pas couvert par ce projet de plan, mais il aurait lui aussi avancé. D’après Marianne, c’est finalement l’État et Thalès qui avanceraient ensemble sur le sujet.

Après l’échec des tentatives de rachat menées par le consortium Onepoint d’un côté, et la holding de Daniel Kretinsky de l’autre, c’est l’opération de la dernière chance pour Atos – 90 000 salariés dans le monde, 10,7 milliards d’euros de chiffre d’affaires en 2023 – dont la capitalisation boursière ne représente plus aujourd’hui que 75 millions d’euros.

Une framboise sous stéroïde

La fondation Raspberry Pi vient d’annoncer un nouveau capteur optique (de chez Sony) pour son micro-ordinateur : l’AI Camera. Comme son nom l’indique, elle intègre des fonctionnalités liées à l’intelligence artificielle. Elle est notamment « conçue pour classifier des personnes/animaux/objets ».

Début juin, la fondation Raspberry Pi présentait un module AI (ou AI Kit), mais qui n’était compatible qu’avec la dernière itération du micro-ordinateur : le Raspberry Pi 5. Ce NPU externe vendu 79,50 euros promet des performances jusqu’à 13 TOPS pour l’intelligence artificielle, mais il fallait acheter un capteur optique en plus pour en profiter pleinement.

• Même le Raspberry Pi 5 succombe à l’IA…

Un capteur IMX500 de Sony, avec IA intégrée

La fondation revient aujourd’hui avec une « AI Camera », compatible cette fois avec tous les modèles Raspberry Pi, y compris les Zero. L’AI Camera est annoncée à 70 dollars par la fondation et on la trouve à 80,40 euros chez Kubii, soit au même niveau que le module AI.

Le module utilise un capteur IMX500 de Sony, qui se suffit à lui-même pour la partie intelligence artificielle. En effet, comme l’explique Sony, l’IMX500 « combine un capteur d’image avec un ISP et de la SRAM intégrée dédiée pour permettre un traitement d’IA » en local. Il est combiné avec un micro-contrôleur maison – le RP2040 – « pour la gestion des réseaux de neurones et du firmware ».

Côté caractéristiques techniques, l’IMX500 est annoncé pour 12,3 Mpx (4 056 x 3 040 px) avec la possibilité d’enregistrer des vidéos en 60 fps, et jusqu’à 240 fps si on se limite au 1080p. Avec le traitement IA, la sortie vidéo est par contre limitée à 30 fps. La mémoire interne est de 84 Mo, à la fois pour le firmware, les poids du réseau de neurones et les calculs.

« Conçue pour classifier des personnes/animaux/objets »

« Grâce à la suite d’outils IA de Sony, les modèles de réseaux neuronaux existants utilisant des frameworks tels que TensorFlow ou PyTorch peuvent être transformés pour fonctionner efficacement sur la caméra AI », affirme la fondation.

Elle ajoute qu’« un processeur de signal d’image (ISP) intégré exécute les étapes de traitement d’image de base sur la trame du capteur (principalement la conversion Bayer vers RGB et le recadrage/remise à l’échelle) et envoie la trame traitée directement dans l’accélérateur d’IA. Une fois que le modèle de réseau neuronal l’a traité, elle est transférée vers le Raspberry Pi avec la trame Bayer via le bus de caméra CSI-2 ». La puissance de calcul n’est toutefois pas précisée.

Selon Kubii, ce système est « conçu pour classifier des personnes/animaux/objets, localiser avec précision les objets et silhouettes, réaliser le suivi des objets en mouvements en temps réel à travers des séquences vidéo,… ». Le revendeur affirme que, selon Sony, le traitement ne prendrait que « 3,1 millisecondes pour la reconnaissance d’objets ».

AI Kit ou AI Camera ?

Si vous vous demandez s’il faut acheter le module AI ou la caméra AI, la fondation apporte des éléments de réponse : « Le kit AI a des performances théoriques supérieures à celles de la caméra AI et peut prendre en charge une gamme plus large de modèles, mais il n’est compatible qu’avec Raspberry Pi 5 ».

De son côté, la caméra AI est une solution plus compacte et moins chère si vous n’avez pas déjà de capteur et un Raspberry Pi d’ancienne génération. Kubbi annonce une compatibilité du Raspberry Pi 3 au 5, avec les Zero et Zero 2W en prime.

De la documentation pour les développeurs est disponible par ici. Sony en propose également sur cette page.

Voilà une semaine qui commence sur les chapeaux de roues avec une nouvelle fuite de données personnelles, et pas des moindres.

Boulanger, Cultura, DiviaMobilités, Truffaut, Cybertek et Grosbill (qui font partie du même groupe), l’Assurance retraite, RED by SFR et donc maintenant Meilleurtaux, comme on peut le voir sur X. À chacun son tour…

Dans un email envoyé à ses clients, le courtier en ligne explique avoir été la cible d’une « attaque externe sur [ses] systèmes informatiques ». Des données « ont été exposées : votre identité, vos coordonnées postales et téléphoniques, votre situation professionnelle, vos revenus, votre situation familiale, votre date de naissance, votre nationalité et votre pays de naissance ».

MeilleurTaux vient d'avoir une belle fuite de données…. pic.twitter.com/hCfduXEe4f

— Valentin (@ElFisherPrice_) September 27, 2024

La société ne semble communiquer que par email. Aucun message sur les réseaux sociaux, rien sur la page d’accueil de son site ni dans la partie communiqué de presse. On est loin des recommandations de l’ANSSI.

• Protection des données : de graves lacunes, un best of de ce qu’il ne faut pas faire

Nous avons demandé des précisions, notamment sur le nombre de personnes touchées, la sécurité des comptes (identifiants et/ou mot de passes).

Dans un billet très corrosif publié sur le blog de WordPress.org vendredi 27 septembre, Matt Mullenweg explique avoir laissé un « sursis » à WP Engine : l’entreprise a encore accès aux ressources de wordpress.org jusqu’au 1er octobre. Mais dès demain 00:01 UTC (soit 2 h heure française), cet accès sera de nouveau coupé.

Le torchon brûle donc toujours dans l’écosystème commercial de WordPress. Matt Mullenweg, qui est à la fois le créateur du logiciel et le responsable de l’entreprise Automattic qui vend des prestations autour, en veut à WP Engine. Selon lui, son concurrent utilise la marque WordPress abusivement, ne contribue pas assez au projet et « profère des menaces juridiques » contre WordPress.org.

Matt Mullenweg explique faire cette concession après avoir entendu que les clients de WP Engine sont « frustrés » de cette situation.

• Le torchon brule dans l’écosystème commercial de WordPress

Modèle de Langage Sans Défaut ?

L’entreprise de Redmond lance un outil appelé « Correction » censé identifier et proposer des réécritures de textes générés par des IA. Cet outil s’appuie lui aussi sur des modèles de langage. L’outil arrive tard, alors que le doute s’installe dans une partie des entreprises sur la confiance à accorder aux IA génératives.

Comme l’avoue maintenant Microsoft dans sa vidéo de promotion de son nouvel outil « Correction », « les « hallucinations » des IA peuvent avoir des conséquences sur la précision, la confiance de l’utilisateur et la crédibilité de votre application ».

Jusqu’à récemment, les entreprises d’IA génératives ont massivement diffusé ce genre d’outils sans se préoccuper de ces conséquences. Pourtant, ces « hallucinations » – ou plutôt des erreurs dans lesquelles le système produit du texte ou des images incohérents – étaient présentes depuis les débuts de l’utilisation publique des grands modèles.

Des rustines pour éviter les hallucinations

Ces entreprises commencent à proposer quelques rustines pour combler les erreurs de leurs modèles. Il semble aussi, alors que les milieux financiers parlent de plus en plus d’une bulle de l’IA, qu’elles doivent montrer aux investisseurs que leurs systèmes peuvent être améliorés. En juin, OpenAI annonçait son CriticGPT pour proposer des corrections sur des erreurs de code générées par GPT-4. Fin juin, Google a aussi proposé son propre système.

Ici, avec Correction, Microsoft assure pouvoir proposer un outil qui peut détecter et réécrire des contenus incorrects générés par n’importe quelle IA générative. « Il est essentiel de donner à nos clients les moyens de comprendre les contenus non fondés et les hallucinations et d’agir en conséquence, d’autant plus que la demande de fiabilité et d’exactitude des contenus générés par l’IA ne cesse d’augmenter », explique l’entreprise.

Microsoft propose cet outil aux utilisateurs de son API Azure AI Content Safety qui peuvent s’en servir sur du texte généré par n’importe quel modèle.

Interrogé par TechCrunch, Microsoft affirme que « Correction est alimenté par un nouveau processus d’utilisation de petits et grands modèles de langage pour aligner les sorties sur des documents donnés ». L’entreprise ajoute : « nous espérons que cette nouvelle fonctionnalité aidera les créateurs et les utilisateurs d’IA générative dans des domaines tels que la médecine, où les développeurs d’applications déterminent que la précision des réponses est d’une importance significative ».

Des modèles pour corriger d’autres modèles

Elle redirige aussi vers un article mis en ligne récemment par les chercheurs de Microsoft sur arXiv. Comme le remarque TechCrunch, « le document omet des détails essentiels, tels que les ensembles de données utilisés pour entrainer les modèles ».

Cet article propose un enchainement de deux modèles de langage pour analyser la phrase générée par le modèle testé. Le premier modèle de Correction, un petit modèle, va classer la phrase en tant qu’ « hallucination » ou pas. Si la phrase est catégorisée comme telle, un autre modèle, plus gros, est utilisé pour générer une explication de cette catégorisation. Si ce modèle considère que la phrase générée n’est pas une « hallucination », un mécanisme de retour d’information affine les résultats du premier modèle.

Le système de Microsoft, qui utilise la génération augmentée de récupération (RAG, retrieval-augmented generation), a besoin de s’appuyer sur un ensemble de documents donné par l’utilisateur comme « base de raisonnement ».

Les hallucinations sont intrinsèques aux modèles de langage

Interrogé par TechCrunch sur ce système, Os Keyes, doctorant à l’université de Washington, explique qu’ « essayer d’éliminer les hallucinations de l’IA générative, c’est comme essayer d’éliminer l’hydrogène de l’eau ».

Pour Mike Cook, chercheur à l’université Queen Mary, cette correction au fil de l’eau et sans transparence pourrait donner un faux sentiment de disparition des hallucinations. « Microsoft, comme OpenAI et Google, ont créé cette situation problématique dans laquelle on se fie aux modèles dans des scénarios où ils se trompent fréquemment » explique-t-il à TechCrunch. Mais pour Mike Cook, « Microsoft répète maintenant l’erreur à un niveau plus élevé. Disons que cela nous fait passer d’une sécurité de 90 % à une sécurité de 99 % – le problème n’a jamais vraiment été dans ces 9 %. Il se situera toujours dans le 1 % d’erreurs que nous ne détectons pas encore ».

Une perte de confiance des clients

Problème pour Microsoft et ses concurrents, les « hallucinations » commencent à miner la confiance de leurs utilisateurs dans leurs nouveaux outils. Nos collègues de The Information expliquaient début septembre que certains clients de Microsoft n’utilisent plus l’IA d’Office censée les aider. Fin juillet, Business Insider racontait qu’une entreprise de l’industrie pharmaceutique a abandonné au bout de six mois son accord avec Microsoft concernant Copilot, car les outils proposés n’étaient pas assez performants pour justifier l’investissement.

Interrogés par le cabinet de KPMG, six responsables de la tech du Royaume-Uni sur dix considèrent que les hallucinations sont les plus gros problèmes lorsqu’on adopte des outils d’IA générative.

Comme prévu, Proton a fini par publier les sources pour l’ensemble de ses applications Drive. Proton Drive est pour rappel un espace de stockage distant, avec le chiffrement de bout en bout cher à l’entreprise.

• Code source de l’application Windows
• Code source de l’application macOS
• Code source de l’application Android
• Code source de l’application iOS

Tous les codes sources sont publiés sous licence GPLv3. Dans l’application Windows, une partie du code est sous licence MIT, Proton utilisant .NET pour son client.

« En donnant un accès complet à notre code source, nous permettons à quiconque de vérifier que nos applications fonctionnent comme promis et qu’elles offrent la sécurité et la confidentialité que nous revendiquons », indique Proton.

L’éditeur suisse ajoute que la disponibilité du code source permettra à la communauté de la sécurité de débusquer les éventuelles failles de sécurité. Il met d’ailleurs en avant son programme de chasse aux bugs (bug bounty).

Depuis 2018, l’Arcep (régulateur des télécoms) fournit un site pour connaitre la couverture mobile des quatre opérateurs nationaux disposant de leur propre réseau. Le site propose des informations sur la qualité de service en voix/SMS et data, avec les différentes technologies (2G à 5G).

Depuis peu, le régulateur propose une nouvelle version de site, en bêta pour le moment, avec une nouvelle interface :

« Une attention particulière a été portée à la lisibilité des cartes de couverture, qui s’adaptent dynamiquement au niveau de zoom, garantissant une expérience fluide et intuitive, quel que soit le contexte de navigation. Elle permet aussi de découvrir des informations techniques détaillées sur les antennes radio telles que leurs hauteurs, leurs orientations ou encore les technologies qu’elles utilisent ».

L’Arcep indique également que de nouveaux outils de diagnostic de la couverture mobile sont mis à disposition, de même que des statistiques territoriales adaptées à la zone sélectionnée. Un fond de plan satellite est aussi de la partie et on peut superposer les cartes de couverture théorique de deux opérateurs.

Le régulateur lance un appel à contribution, avec un Framaforms dédié pour les retours. La mise en ligne de la version finale est prévue pour le premier semestre 2025.

• Mon Reseau Mobile – Bêta (arcep.fr)

Tyler Vigen propose une démonstration facile à comprendre de la différence entre corrélation et causalité. Dans l’exemple ci-dessous, on peut voir une belle similitude entre les votes pour les démocrates dans l’Indiana et le nombre de recherche sur Google pour savoir pourquoi 11 ne se prononce pas « onety one ».

Bien évidemment, aucun rapport entre les deux, mais une manière de rappeler qu’il faut faire attention aux liens que certains font parfois entre deux séries d’événements. Il y a en bien d’autres, n’hésitez pas à utiliser le mode « random » et à nous faire part de vos trouvailles les plus marquantes.

• Spurious Correlations

Les aléas ont fait que les LIDD ont connu une pause prolongée ces derniers mois, mais les revoilà ! avec notre sélection des liens les plus intéressants de ces dernières semaines. Ils proviennent des commentaires les plus intéressants, utiles et/ou originaux de la semaine, mais aussi de nos recherches.

Le récap’ pour ceux qui traient (ou qui ne sont pas du matin)

Cette semaine, l’équipe vous a proposé un civet de calculatrice TI-84 accompagné de sa sauce Internet et relevé d’une touche de ChatGPT pour la transformer en « appareil de triche ». Les modifications sont aussi bien matérielles que logicielles.

Dans un genre différent mais toujours avec un aspect bidouille, un moddeur un peu fou s’est amusé à booter Linux (une Debian) sur le tout premier processeur : le 4004 d’Intel. Un travail qui demande pas mal d’habileté et de modifications pour dépasser les limites de l’époque. On parle pour rappel d’un CPU de 1971 pour un système d’exploitation qui date (pour la 1ʳᵉ version) de 1991, soit il y a plus de 30 ans.

• #LIDD : un mod pour tricher avec ChatGPT sur une calculatrice TI-84
• #LIDD : booter Linux sur un CPU 4004 de 1971, c’est possible… en plus de 4 jours

La France en Vrai : Pour une poignée de gigabits

Via Franceinfo, France 3 Bourgogne-Franche-Comté propose une émission sur l’accès à Internet dans certains territoires, qui se sentent un peu (beaucoup) oubliés : « À deux heures de Paris, des villageois en zone blanche d’internet s’organisent pour amener une connexion à très haut débit chez eux ».

Mouais bof ? Alors j’ai l’argument massue : « le documentaire est excellent, à voir toutes affaires cessantes », signé Stéphane Bortzmeyer. Son accroche pour vous motiver : « Vous croyez que l’Internet, ce sont forcément de gros opérateurs capitalistes ? Dans un endroit reculé du fond de la France en vrai, des types avec des autocollants sur leurs PC coopèrent pour faire un vrai Internet, fondé sur la coopération »

• Pour une poignée de gigabits (replay)

Charlie Chaplin, les Talibans

Arte propose un documentaire pour le moins inédit sur l’humour et la guerre. On s’éloigne du numérique et de la tech, mais cela n’en reste pas moins un lien intelligent pour le coup.

« Un jeune acteur afghan, Karim Asir, décide de devenir le Charlie Chaplin afghan, rêvant de transformer le monde par la pantomime et l’humour. Au milieu des bombes et des décombres, il donne des représentations où le rire se révèle être sa seule arme. Lorsque Kaboul tombe aux mains des talibans le 15 août 2021, Karim reçoit des menaces de mort et commence à craindre pour sa vie. Il est alors contraint de faire un choix particulièrement difficile. Le rire a-t-il finalement le pouvoir de changer le monde ? ».

• Charlie Chaplin et les Talibans (YouTube)

GIEC, un autre machin onusien ?

Chez France Culture, on s’intéresse au GIEC (Groupe d’experts intergouvernemental sur l’évolution du climat). C’est LSD, la série documentaire, qui s’y colle et nous « plonge dans les méandres de l’IPCC, de l’ » Intergovernmental Panel on Climate Change »», que le paléoclimatologie français Jean Jouzel, a appelé le GIEC, le « Groupe d’Experts Intergouvernementaux sur l’Évolution du Climat  » ».

Le podcat se compose de quatre épisodes : Une naissance ambiguë, Comment ça marche ?, Des scientifiques en rébellion et De la rébellion à l’action. Vous avez quatre heures, 4x1 h pour être précis.

• Le GIEC, un autre machin onusien ? (podcast)

Une horloge spéciale, et Reddit, police judiciaire

Une horloge originale, avec des lignes et des rectangles. Ça n’a l’air de rien, mais attention à ne pas vous faire envouter, vous risqueriez de rapidement vous laisser surprendre à perdre du temps en regardant le temps se perdre sur votre écran.

Internet, c’est aussi un endroit où tout peut arriver, pour le meilleur, pour le pire et… pour le reste. L’histoire du jour est pour le moins surprenante, comme nous l’a présentée un amateur de liens intelligents/idiots : « Pendant 4 ans des redditeurs ont recherché ardemment l’identité d’une femme dont le visage était imprimé aux côtés de celui d’autres célébrités sur un rideau de douche produit par une entreprise Finlandaise dans les années ~ 2008. Ceci est leur histoire »… (vous aussi vous l’avez en tête ?)

Comme toujours, n’hésitez pas à nous partager vos trouvailles, que ce soit via les commentaires (même si cette semaine, je dois bien l’avouer, je n’ai pas eu le temps de tous les lire… mais ça va revenir) ou n’importe quel autre moyen. Simplement, il faudra prévoir un délai supplémentaire pour les pigeons voyageurs.

La Cour de cassation a rejeté les 13 pourvois qu’avait intentés le Maroc à l’encontre de six médias français, rapporte L’Informé, confirmant une information du Desk marocain. L’avocat Alexandre Archambault relève de son côté que les 13 pourvois sont consultables sur le site web de la Cour de cassation.

Ces six médias avaient relayé les accusations du Projet Pegasus, du nom de code donné à l’enquête journalistique coordonnée par l’ONG Forbidden Stories et consacrée aux (soi-disant) « 50 000 cibles potentielles » de 15 États clients du logiciel espion de la société israélienne NSO.

Si le consortium n’avait, à l’époque, identifié que 1 000 des 50 000 détenteurs de ces numéros de téléphones seulement, y figuraient nombre de défenseurs des droits humains, journalistes et responsables politiques.

• Pegasus : 50 000 « cibles potentielles » ? (1/2)

Le Monde, Mediapart, France Info, France Inter, France Culture et l’Humanité étaient plus particulièrement accusés d’avoir relaté dans 13 articles le fait le Maroc était le client de NSO ayant visé les cibles potentielles françaises, dont les téléphones de 14 ministres de l’époque, du Premier ministre Edouard Philippe, et du président Emmanuel Macron, entre 2018 et 2021.

« Le royaume du Maroc ira jusqu’au bout de sa démarche, tant il est offusqué par la mise en cause de ses services de renseignement. Nous étudions toutes les voies de recours », a expliqué à L’informé l’avocat de Rabat, maître Olivier Baratelli, laissant entendre qu’il envisagerait un recours auprès de la Cour européenne des droits de l’homme.

Une démarche jugée « cocasse si une telle procédure de la part du Maroc devait survenir », ironise Simon Foreman, l’avocat d’Amnesty International à l’origine des révélations du Projet Pegasus. Le royaume chérifien est classé à la 129ᵉ position (sur 180) du classement mondial de la liberté de la presse de l’ONG Reporters sans frontières (RSF).

Le fonds américain Blackstone a négocié avec le gouvernement britannique les conditions d’un investissement record. D’après un communiqué du 10, Downing Street, Blackstone s’est en effet engagé à mettre quelque 10 milliards de livres sur la table, soit environ 12 milliards d’euros, pour la construction d’un gigantesque centre de données à Blyth, dans le Northumberland, au nord-est de l’Angleterre.

Cet investissement doit, selon le gouvernement britannique, déboucher sur la création du plus grand centre de données dédié à l’IA d’Europe, avec 4 000 emplois induits, dont 1 200 mobilisés pendant la phase de construction du site. Blackstone ne donne à ce stade aucune information précise quant aux caractéristiques techniques du futur site, dont le choix ne doit cependant rien au hasard.

Blyth, petite commune d’une région rurale, devait en effet accueillir la « giga factory » de BritishVolt, une startup britannique fondée en 2019 qui prévoyait d’y produire jusqu’à 30 GWh de batteries pour voiture électrique par an, et dont les ambitions se sont heurtées à des difficultés de financement. Le terrain pressenti, d’une surface de 95 hectares et sélectionné en raison de sa proximité avec des sources de production d’énergie renouvelable, devait, dans le contexte de l’accord en cours de négociation, être racheté par le fonds Blackstone pour 110 millions de livres (132 millions d’euros).

Keir Stamer, Premier ministre du Royaume-Uni, voit dans cet accord un signe de la dynamique commerciale entre son pays et les États-Unis, sur fond de concurrence accrue des pays européens en matière d’attractivité pour les investisseurs étrangers. Il y voit également l’occasion de propulser le Royaume-Uni à la première place européenne en matière d’infrastructures dédiées à l’intelligence artificielle.

« Cet accord (…) va permettre la création du plus grand centre de données dédié à l’IA d’Europe, renforçant les capacités de pointe du Royaume-Uni dans le secteur de l’IA et stimulant la croissance de la communauté locale », affirme-t-il dans un communiqué.

• Microsoft, Blackrock et Abu Dhabi veulent mobiliser 100 milliards de dollars pour l’IA

Selon le média ukrainien Defense Express et repris par Newsweek, la Russie aurait installé des terminaux Starlink sur ses drones Shahed de conception iranienne.

L’armée ukrainienne a indiqué mercredi dernier avoir intercepté 28 des 32 drones Shahed-136 lancés par la Russie dans la nuit de mardi à mercredi. Defense Express affirme que l’un d’entre eux était équipé d’un terminal Starlink.

Interrogées par Newsweek, les forces ukrainiennes n’ont pas voulu aborder le sujet, confirmant seulement qu’elles analysaient les cibles abattues.

L’histoire ne dit pas si Starlink compte cette utilisation dans les 4 millions d’utilisateurs qu’elle a revendiqués récemment.

• Invasion de l’Ukraine par la Russie : « Les technologies Starlink ont changé cette guerre »

Un rapport en verre dépoli

Pour la première fois depuis le rachat de Twitter par Elon Musk, X vient de publier son Transparency report, le document bisannuel qui résume et quantifie les principales actions du service en matière de modération. Dans quelle mesure ces chiffres, qui couvrent le premier semestre 2024, témoignent-ils d’une inflexion dans la façon dont X gère ces sujets ? Tour d’horizon.

Comme 18 autres grands acteurs du Web, X est tenu de publier tous les six mois un rapport de transparence qui liste ses actions relatives au respect du DSA européen, et le réseau social se plie à cette contrainte. X n’avait cependant pas publié de Transparency Report global depuis le rachat de Twitter par Elon Musk. Une lacune corrigée cette semaine, avec la mise en ligne d’un document de quinze pages (.pdf). Il commence par rappeler la doctrine de X en matière de liberté d’expression, mais son intérêt principal n’est pas là : le rapport classe les différentes catégories de signalements reçus par X, et les quantifie, en précisant le volume d’actions entreprises.

Le harcèlement représente 36 % des signalements

Hors spam (qui fait l’objet d’un décompte spécifique), X révèle ainsi avoir reçu 224 millions de signalements par des utilisateurs sur les six premiers mois de l’année. Dans le lot, près de 82 millions de signalements concernent des cas d’abus ou de harcèlements, soit environ 36 % du volume total. Les autres motifs de signalement les plus fréquents sont les contenus à caractère haineux (30 %) et les contenus violents (18 %).

Dans le même temps, X indique avoir procédé à 5,3 millions de suspensions de compte et à la suppression ou à la labellisation de 10,7 millions de messages. Sur les six mois couverts par le rapport, le réseau social estime ainsi que le taux de messages qui enfreignent sa politique de modération est de l’ordre de 0,0123 %.

Le détail des actions entreprises, reproduit ci-dessous, montre que la modération s’exerce différemment selon la nature de l’infraction supposée. Dans les cas d’un comportement haineux, elle privilégie par exemple largement la suppression ou la labellisation de post (près de 5 millions d’occurrences) à la suspension de compte (seulement 2 400 cas).

Le spam, et l’ensemble des techniques de « manipulation de la plateforme » passant par exemple par l’utilisation de bots (comptes automatisés), représente quant à lui près de 464 millions de suspensions de compte et 188 millions de messages épinglés sur les six mois couverts par le rapport.

La part de la modération humaine reste significative

X détaille ensuite ses actions de modération – suspensions de compte et suppressions de contenus – avec une ventilation par typologie d’infraction, et en précisant, à chaque fois, la part d’interventions humaines ou automatisées. Si les suppressions de posts sont le plus souvent automatisées, les actions sur les comptes utilisateur relèvent quant à elle le plus souvent d’une modération manuelle. En dépit des déclarations d’Elon Musk en 2022 et de la promesse d’un processus automatisé, cette dernière occupe toujours une place prépondérante dans les activités de X.

Le rapport de transparence ne précise toutefois pas les effectifs alloués à cette mission. Pour obtenir un ordre de grandeur, il faut se tourner vers le rapport édité par X dans le cadre des obligations liées au DSA. Dans sa dernière itération, datée d’avril 2024, on apprend ainsi que le réseau social dispose d’environ 1 700 modérateurs capables d’intervenir en anglais, en arabe, en hébreu en espagnol, en portugais et dans les principales autres langues européennes.

X donne suite aux demandes d’information dans 53 % des cas

Le rapport de transparence livre par ailleurs une indication intéressante quant à la façon dont X gère les demandes d’information adressées par les autorités gouvernementales, pays par pays. Sur les six premiers mois de l’année, X déclare avoir reçu 18 737 requêtes, urgentes ou non urgentes, dont 53 % ont entrainé une transmission d’information. Le taux d’acceptation se révèle particulièrement élevé aux États-Unis, où X a donné suite à 76 % des demandes.

« Liberté d’expression, et non liberté de diffusion »

Reste une question de taille : la modération de X a-t-elle significativement évolué depuis son passage aux mains d’Elon Musk, qui multiplie depuis des mois les sorties sur la liberté d’expression ?

« Nos politiques et principes d’application se fondent sur les droits humains, et nous avons adopté une approche globale de la liberté d’expression en investissant dans le développement d’une gamme plus large de mesures correctives, avec un accent particulier mis sur l’éducation, la réadaptation et la dissuasion », affirme le réseau social en préambule de son rapport. Avant de résumer sa doctrine : « Ces convictions sont le fondement de notre philosophie « Liberté d’expression, et non liberté de diffusion », ce qui signifie que nous limitons la portée des publications, uniquement quand c’est approprié, de façon à les rendre moins faciles à découvrir, en alternative à la suppression ».

• Sur X, le bouton Bloquer ne va plus bloquer grand-chose

La comparaison avec les rapports de l’ère pré-Musk est difficile, dans la mesure où Twitter et X n’utilisent pas précisément les mêmes indicateurs. Les rapports de 2021, aujourd’hui archivés sous forme de PDF, étaient par ailleurs initialement publiés dans une version interactive, permettant d’améliorer la granularité de certaines données.

Le volume d’actions de modération semble tout de même avoir significativement augmenté. Dans son rapport du premier semestre 2021, Twitter indiquait avoir pris des actions à l’encontre de 4,8 millions de comptes, dont 1,2 million de comptes suspendus, et 5,9 millions de contenus supprimés. Le spam représentait quant à lui sur la même période 5,1 millions de signalements et 130,3 millions de détections automatiques. À l’époque, Twitter indiquait avoir reçu 12 400 demandes d’information de la part d’autorités, et avoir accédé à 36 % d’entre elles, un ratio et un volume inférieurs à ceux constatés début 2024.

Kumbayah, Kum ba yah

La Commission européenne a annoncé plus d’une centaine d’entreprises signataires pour son pacte sur l’IA. Toutes s’engagent à respecter les grands principes du règlement sur l’IA (AI Act) avant son application. Si certaines vont encore plus loin, on note l’absence de certaines grandes entreprises, dont Apple et Meta.

Le « pacte de l’UE sur l’intelligence artificielle », créé par Thierry Breton, comporte une série d’engagements volontaires pour les entreprises signataires. Le règlement sur l’IA, même s’il est entré en vigueur le 1^er août, ne verra ses principales mesures entrer en application que dans deux ans environ. Le calendrier est cependant étalé : « les interdictions prendront effet au bout de six mois, les règles de gouvernance et les obligations relatives aux modèles d’IA à usage général deviendront applicables après 12 mois et les règles relatives aux systèmes d’IA intégrés dans des produits réglementés s’appliqueront après 36 mois », rappelle la Commission. 

• Comment fonctionne l’AI Act ?

Celle-ci a donc proposé, via un pacte, que les entreprises intéressées s’engagent sur ses principes fondateurs sans attendre. Pour montrer l’exemple et favoriser les échanges.

En quoi consiste le pacte ?

Le cœur de l’engagement porte sur trois actions, présentées comme « essentielles » :

• Une stratégie de gouvernance de l’IA
• Un inventaire des systèmes d’IA à haut risque
• La promotion de la sensibilisation du personnel à l’IA

Ces trois mesures phares doivent couvrir le plus important, selon la Commission. La première doit ainsi favoriser à la fois l’adoption de l’IA dans l’entreprise et celle du règlement. La deuxième, cruciale, vise le recensement des systèmes soumis à des obligations spécifiques, décrites dans le règlement. La dernière doit bien sûr permettre un « développement éthique et responsable de l’IA ».

• Systèmes à haut risque, modèles à usage général : ce que dit l’AI Act en pratique

En plus de ces engagements « fondamentaux », la Commission précise que plus de la moitié des entreprises signataires ont pris des engagements supplémentaires. Ceux-ci concernent notamment le contrôle humain, l’atténuation des risques et l’étiquetage transparent de certains contenus générés par IA (les trucages vidéo ultra-réalistes sont cités).

Les objectifs de la Commission

Avec le pacte, la Commission vise plusieurs missions. La préparation à l’AI Act est bien sûr la principale. Dans une ambiance tendue par des entreprises comme Meta (nous y reviendrons), la Commission prend les devants et veut habituer les entreprises aux impératifs du règlement.

Le pacte repose toutefois sur deux piliers. Si la préparation au nouveau cadre juridique en est un, l’autre est centré sur l’échange d’informations. Il « encourage l’échange de bonnes pratiques et fournit des informations pratiques sur le processus de mise en œuvre de la législation ». Par cet échange, la Commission espère une certaine « évangélisation » auprès des autres entreprises. Car tout le monde est loin d’avoir signé.

De nombreux signataires, mais des absents notables

La liste des signataires, consultable sur le site de la Commission, comprend à ce jour 126 entreprises. On y trouve beaucoup de grands noms comme Accenture, Adecco, Adobe, Airbus, Aleph Alpha, Amazon, Atlassian, Autodesk, Booking.com, Cisco, Criteo, Dassault Systèmes, Deutsche Telekom, Docaposte, Godot, Google, HP, IBM, Lenovo, Logitech, Mastercard, Microsoft, OpenAI, Orange, OVHcloud, Palantir, Qualcomm, Sage, Salesforce, Samsung, SAP, Snap ou encore Vodafone.

On remarque rapidement que sur les cinq GAFAM, trois sont présentes dans la liste : Amazon, Google et Microsoft. La présence d’OpenAI est également significative, mais pas étonnante, dans la mesure où l’entreprise, comme d’autres, travaille exclusivement sur l’intelligence artificielle, avec le soutien financier très actif de Microsoft. Deux autres multinationales sont en revanche absentes : Apple et Meta.

Là non plus, il n’y a guère de surprise. Des GAFAM, Apple et Meta se sont montrées les plus bruyantes sur leur désamour de la réglementation européenne. Apple a fustigé le DMA à plusieurs reprises, jusqu’à s’en plaindre au cours d’un étonnant exercice de communication. Elle y affirmait que les iPhone européens seraient moins sécurisés que les autres, à cause de l’ouverture forcée entrainée par la loi sur les marchés numériques.

Plus récemment, Meta s’est fait la championne des entreprises frustrées par le « cadre réglementaire fragmenté » de l’Union européenne. Dans une lettre ouverte, signée par de nombreuses entreprises (dont certaines ont également signé le pacte), elle jouait la carte du pathos et de la peur, face à l’imposante manne financière que représentent les investissements dans l’IA. L’Europe, déjà à la traine, risquait d’être définitivement distancée par les États-Unis, la Chine et l’Inde.

Hors des grandes multinationales américaines, d’autres entreprises brillent par leur absence. Mistral n’a par exemple par signé le pacte, pas plus qu’Anthropic, autre grande spécialiste de l’IA avec ses modèles Claude. TikTok n’est pas là non plus, ni Spotify.

Un succès ?

Difficile de savoir si le pacte va fonctionner comme prévu. Selon Politico, il était déjà en perte de vitesse avant le départ de Thierry Breton, qui a démissionné de son poste de commissaire sous pression d’Ursula von der Leyen, présidente de la Commission européenne. D’autres attendent plus simplement de voir comment la situation va évoluer et pourraient rejoindre le pacte plus tard.

Meta serait de celles-là. « Nous nous félicitons de l’harmonisation des règles de l’UE et nous nous concentrons actuellement sur notre travail de mise en conformité avec la loi sur l’IA, mais nous n’excluons pas de rejoindre le pacte sur l’IA à un stade ultérieur » a affirmé l’entreprise à nos confrères. « Nous ne devons pas non plus perdre de vue l’énorme potentiel de l’IA pour stimuler l’innovation européenne et favoriser la concurrence, faute de quoi l’UE passera à côté de cette opportunité qui ne se présente qu’une fois par génération ». Une piqure de rappel tout droit sortie de sa lettre ouverte.

Starlink, la filiale dédiée à l’accès à Internet par satellite de SpaceX, a annoncé sur X avoir franchi cette semaine le cap des quatre millions d’utilisateurs, quatre ans après le lancement de ses premières offres commerciales.

L’opérateur, qui revendique une présence dans plus de 100 pays, aurait ainsi engrangé un million de nouveaux utilisateurs depuis le 20 mai dernier, date à laquelle il célébrait le franchissement de la barre des 3 millions.

Starlink a pour mémoire débuté ses activités, en bêta, en octobre 2020. Le seuil du premier million d’utilisateurs a été annoncé en décembre 2022, tandis que les deux millions ont officiellement été franchis en septembre 2023.

S’il est prompt à souligner l’accélération de la croissance de son parc d’utilisateurs, Starlink ne précise pas la ventilation entre clients individuels, particuliers ou entreprises, et marchés indirects, à l’image des accords que passe l’opérateur avec les compagnies aériennes.

La filiale de SpaceX vient ainsi d’annoncer coup sur coup deux contrats de premier plan, avec United Airlines, puis avec Air France, qui prévoit d’exploiter la constellation Starlink pour déployer, dès 2025 et sur l’ensemble de sa flotte, un WiFi rapide et gratuit.

Starlink opère aujourd’hui une constellation de plus de 6 000 satellites, dont la fabrication, le déploiement et la gestion occuperaient quelque 3 000 personnes parmi les 13 000 employés de SpaceX. Mais quel est le poids économique réel de cette activité de fourniture d’accès à Internet, considérée par les analyses comme l’un des carburants financiers de SpaceX ? L’entreprise n’étant pas tenue de publier ses comptes, les commentateurs en sont réduits aux conjectures.

En mai dernier, le cabinet Quilty Space, spécialisé dans les études de marché relatives au spatial, estimait que Starlink pourrait engranger jusqu’à 6,6 milliards de dollars de chiffre d’affaires en 2024. L’opérateur, détenu par Elon Musk, dépasserait ainsi l’ensemble qui doit découler de la fusion engagée entre SES et Intelsat, dont le chiffre d’affaires combiné serait, selon les prévisions de Quilty Space, de l’ordre de 4,1 milliards de dollars sur l’année.