Ça sent mauvais l'IA

LinkedIn inaugure un nouveau bouton qui permet à l’utilisateur de signaler un contenu « AI slop ». Lorsqu’un billet semble avoir été rédigé par une intelligence artificielle, il suffit d’appuyer sur ce bouton pour informer LinkedIn. La procédure doit l’aider à « améliorer le fil d’actualité », sans supprimer pour autant le contenu.

Quand on parle d’« AI slop », on pense souvent à ces posts et ces images postés sur Facebook ou Instagram, Meta s’étant fait la spécialité de ce genre de bouillie, ou encore les horreurs qui circulent sur X. Mais dans le genre, LinkedIn n’est pas mal non plus. Une étude Pangram de début juillet relevait ainsi que 41 % des billets « long format » (plus de 250 mots) postés sur le réseau social sont générés par IA.

Signaler les posts qui sonnent faux

LinkedIn ne veut pas de ce stigmate, mais il a besoin de ses utilisateurs. Ils trouveront dans la feuille d’options un nouveau bouton au libellé très clair « Seems like AI slop » (pas encore traduit en français), pour signaler un contenu généré par IA – ou qu’on estime être généré par IA. Ce bouton est d’ores et déjà disponible, d’après ce que nous avons pu constater (404media aussi).

Hari Srinivasan, chef produit de LinkedIn, explique dans un post (généré par IA ?) que la lutte contre cette « bouillie » est une « priorité absolue ». Il confirme le lancement de cette nouvelle option de signalement d’AI slop, « [une] notion difficile à définir » et qui évolue : « ces signalements nous permettront d’ajuster nos modèles et d’améliorer les fils d’actualité. »

Il déroule également les efforts de l’entreprise dans cette lutte acharnée contre la médiocrité : la détection automatisée dans les commentaires de publications automatisées et de « slop », l’amélioration des outils internes d’identification de publications de faible qualité ou générées par IA, et la suppression de la fonction « améliorer votre publication ». Elle sera remplacée par un outil de correction du texte, sans modification plus profonde du texte.

• [MàJ] Dès aujourd’hui, LinkedIn utilise vos données pour l’IA générative, comment refuser

Les utilisateurs qui publient du contenu verront dans leur tableau de bord les signalements de lecteurs qui estiment qu’un post « paraît manquer d’authenticité » ou semble recourir largement à l’IA. Une approche qui repose sur deux constats :

« Premièrement, l’IA et la « bouillie » ne sont pas la même chose : beaucoup de personnes utilisent l’IA pour affiner leurs idées, et nous pensons qu’elles souhaitent savoir quand leur propos semble manquer d’authenticité. Deuxièmement, nous voulons que les membres reçoivent l’avis de vraies personnes sur ce qui paraît authentique, plutôt que de se fier uniquement à un détecteur d’IA susceptible de se tromper. »

D’autres changements sont dans les tuyaux pour réduire la bouillie d’IA dans le fil d’actualité de LinkedIn, et redonner aux utilisateurs l’impression de lire des textes écrits par des humains.

• LinkedIn va (enfin) limiter la portée des contenus générés par IA

Ça sent mauvais l'IA

LinkedIn inaugure un nouveau bouton qui permet à l’utilisateur de signaler un contenu « AI slop ». Lorsqu’un billet semble avoir été rédigé par une intelligence artificielle, il suffit d’appuyer sur ce bouton pour informer LinkedIn. La procédure doit l’aider à « améliorer le fil d’actualité », sans supprimer pour autant le contenu.

Quand on parle d’« AI slop », on pense souvent à ces posts et ces images postés sur Facebook ou Instagram, Meta s’étant fait la spécialité de ce genre de bouillie, ou encore les horreurs qui circulent sur X. Mais dans le genre, LinkedIn n’est pas mal non plus. Une étude Pangram de début juillet relevait ainsi que 41 % des billets « long format » (plus de 250 mots) postés sur le réseau social sont générés par IA.

Signaler les posts qui sonnent faux

LinkedIn ne veut pas de ce stigmate, mais il a besoin de ses utilisateurs. Ils trouveront dans la feuille d’options un nouveau bouton au libellé très clair « Seems like AI slop » (pas encore traduit en français), pour signaler un contenu généré par IA – ou qu’on estime être généré par IA. Ce bouton est d’ores et déjà disponible, d’après ce que nous avons pu constater (404media aussi).

Hari Srinivasan, chef produit de LinkedIn, explique dans un post (généré par IA ?) que la lutte contre cette « bouillie » est une « priorité absolue ». Il confirme le lancement de cette nouvelle option de signalement d’AI slop, « [une] notion difficile à définir » et qui évolue : « ces signalements nous permettront d’ajuster nos modèles et d’améliorer les fils d’actualité. »

Il déroule également les efforts de l’entreprise dans cette lutte acharnée contre la médiocrité : la détection automatisée dans les commentaires de publications automatisées et de « slop », l’amélioration des outils internes d’identification de publications de faible qualité ou générées par IA, et la suppression de la fonction « améliorer votre publication ». Elle sera remplacée par un outil de correction du texte, sans modification plus profonde du texte.

• [MàJ] Dès aujourd’hui, LinkedIn utilise vos données pour l’IA générative, comment refuser

Les utilisateurs qui publient du contenu verront dans leur tableau de bord les signalements de lecteurs qui estiment qu’un post « paraît manquer d’authenticité » ou semble recourir largement à l’IA. Une approche qui repose sur deux constats :

« Premièrement, l’IA et la « bouillie » ne sont pas la même chose : beaucoup de personnes utilisent l’IA pour affiner leurs idées, et nous pensons qu’elles souhaitent savoir quand leur propos semble manquer d’authenticité. Deuxièmement, nous voulons que les membres reçoivent l’avis de vraies personnes sur ce qui paraît authentique, plutôt que de se fier uniquement à un détecteur d’IA susceptible de se tromper. »

D’autres changements sont dans les tuyaux pour réduire la bouillie d’IA dans le fil d’actualité de LinkedIn, et redonner aux utilisateurs l’impression de lire des textes écrits par des humains.

• LinkedIn va (enfin) limiter la portée des contenus générés par IA

L’Union européenne a publié ce 29 juillet un appel d’offres pour la création de sept « Gigafactories d’IA ».

Ces usines sont décrites comme des édifices mêlant « processeurs d’IA avancés, des piles de logiciels et de technologies en nuage, une connectivité à haut débit et des centres de données économes en énergie ».

Elles pourront être implantées dans un seul État membre, sur un site ou plusieurs, mais aussi évoluer vers des projets transfrontaliers.

L’EuroHPC, « entreprise commune pour le calcul à haute performance européen », sera mis à contribution, sachant que dix-huit États membres ont signé un accord de marché avec elle.

Présenté comme partie intégrante de son plan pour devenir « le continent de l’intelligence artificielle », la Commission prévoit jusqu’à 10 milliards d’euros de financements européens et nationaux, susceptibles selon elle d’entraîner « au moins 20 milliards d’euros d’investissements privés dans l’ensemble de l’Union ».

La procédure d’appel d’offres se terminera le 12 novembre, les candidats retenus doivent être annoncés début 2027 et les premières installations être opérationnelles dans les 18 mois qui suivront la signature.

L’Union européenne a publié ce 29 juillet un appel d’offres pour la création de sept « Gigafactories d’IA ».

Ces usines sont décrites comme des édifices mêlant « processeurs d’IA avancés, des piles de logiciels et de technologies en nuage, une connectivité à haut débit et des centres de données économes en énergie ».

Elles pourront être implantées dans un seul État membre, sur un site ou plusieurs, mais aussi évoluer vers des projets transfrontaliers.

L’EuroHPC, « entreprise commune pour le calcul à haute performance européen », sera mis à contribution, sachant que dix-huit États membres ont signé un accord de marché avec elle.

Présenté comme partie intégrante de son plan pour devenir « le continent de l’intelligence artificielle », la Commission prévoit jusqu’à 10 milliards d’euros de financements européens et nationaux, susceptibles selon elle d’entraîner « au moins 20 milliards d’euros d’investissements privés dans l’ensemble de l’Union ».

La procédure d’appel d’offres se terminera le 12 novembre, les candidats retenus doivent être annoncés début 2027 et les premières installations être opérationnelles dans les 18 mois qui suivront la signature.

Qui Aurait pu prédIre ?

Hébergeur de millions de modèles d’IA et de milliers de jeux de données, Hugging Face n’a implémenté aucun outil concret de modération des outils et pratiques relevant de la fabrication de contenu sexuel non consensuel, selon les travaux d’AI Forensics.

En pleins travaux sur le règlement sur l’intelligence artificielle et divers autres textes relatifs à l’industrie numérique, l’Union européenne a ajouté une interdiction explicite des « systèmes dits de nudification » dans l’AI Act, lorsque ces outils sont utilisés sans le consentement des personnes concernées. Parmi les sociétés qui ont pignon sur rue, dans l’industrie de l’intelligence artificielle, il y a Hugging Face. 



Installée aux États-Unis, celle-ci propose une plate-forme donnant accès à une bibliothèque open source de systèmes d’IA, de bases de données et d’environnements de tests. Or, d’après les travaux des chercheurs Paul Bouchaud et Silvia Semenzin pour l’ONG AI Forensics, l’entreprise n’a implémenté aucune forme de garde-fous pour éviter l’accès à des modèles problématiques. En l’occurrence, elle ne modère ni les outils permettant de produire des images et vidéos pédocriminelles générées par IA, ni les requêtes.

AI Forensics a construit un pot de miel pour suivre les demandes des utilisateurs. Au bout d’une semaine de collecte de prompts d’internautes réels, elle constate que 73 % des requêtes relevaient de contenu à caractère sexuel, et 60 % de contenu a priori non consensuel.

La découverte est d’autant plus inquiétante que l’Internet Watch Foundation alertait mi-mars contre la multiplication de ce type de contenus. Comme nous l’expliquait l’ex-commandante de police Véronique Béchu dans Entre la chaise et le clavier, l’enjeu est de taille : extrêmement difficile à discerner de réelles images pédopornographiques, ce type de contenu fait perdre du temps aux équipes policières en charge de mettre des victimes de violence à l’abri. Par ailleurs, la multiplication de ce type de contenus participe directement à la banalisation des violences sexuelles représentées.

• Images et vidéos pédocriminelles crédibles générées par IA se multiplient, alerte l’IWF

Une plate-forme pour tous les amateurs d’IA