Vue lecture

Aux USA, une IA de lutte contre l’insécurité hallucine des incidents qui n’existent pas

City pas zen
Aux USA, une IA de lutte contre l’insécurité hallucine des incidents qui n’existent pas

Une application communautaire permettant à ses utilisateurs de partager des alertes de sécurité a commencé à remplacer ses salariés par une IA et des travailleurs du clic étrangers sous-payés. Faute de supervision humaine, l’IA a logiquement commencé à « halluciner » de nombreuses alertes inexistantes ou erronées.

Citizen, qui compte environ 10 millions d’utilisateurs aux USA, se présente comme une application « où les gens se protègent les uns les autres ». Ces derniers y partagent les incidents, accidents, incendies et autres évènements susceptibles d’affecter les personnes alentour. Les employés de Citizen, de leur côté, écoutent les fréquences radio de la police en permanence afin d’y rajouter leurs propres alertes.

Sauf que récemment, Citizen a commencé à remplacer certains de ses employés par une IA. Certaines de leurs tâches ont par ailleurs été transférées à des travailleurs au Népal et au Kenya payés 1,50 à 2 dollars de l’heure par CloudFactory, un acteur du business process outsourcing (BPO, sous-traitance de diverses tâches dont l’annotation et la modération de contenu).

Citizen a aussi licencié 13 de ses salariés. Une source interne explique à 404 Media que ces derniers, syndiqués, avaient « remis en question la baisse des normes éditoriales liée à l’intégration de l’IA, se détournant de la qualité au profit de la quantité ».

L’IA omet des détails, en rajoute, les interprète mal…

Trois sources internes confient à 404 Media qu’après avoir utilisé l’IA pour aider ses employés à rédiger leurs alertes, Citizen a fini par lui confier la tâche d’écouter les radios policières, transcrire les éventuelles alertes, et les publier sur l’application, sans intervention ni supervision humaine.

Or, l’IA a depuis cumulé les erreurs, et partagé des informations qu’elle n’aurait pas dû. Un « accident de véhicule à moteur » notifié sur une radio policière a par exemple été retranscrit comme « accident de véhicule meurtrier » par l’IA, et envoyé aux utilisateurs de l’application.

D’autres fois, l’IA omettait des informations cruciales, comme de préciser qu’un individu venait de commettre un vol « à main armée ». L’IA se trompait aussi parfois sur les adresses, associant des incidents à des localisations incorrectes.

Il lui est aussi arrivé de partager des détails sordides, données sensibles et numéros de plaques d’immatriculation entendus sur les radios policières, mais qui n’ont pas vocation à être diffusés aux utilisateurs de l’application, conformément aux règles directrices de Citizen.

L’IA a même failli compromettre certaines opérations de maintien de l’ordre en partageant avec les utilisateurs de l’application le fait que des policiers avaient localisé un véhicule volé ou un suspect recherché, ce que des employés humains n’auraient jamais partagé.

L’IA a également « halluciné » une alerte laissant entendre que les agents étaient déjà arrivés sur les lieux d’un incident, alors qu’en réalité le dispatcheur ne faisait que fournir des informations complémentaires pendant qu’ils étaient encore en route.

Il lui est aussi arrivé de dupliquer certaines alertes, faute de comprendre qu’elles faisaient référence à un seul et même incident. L’IA a ainsi interprété les différentes adresses partagées par des policiers au cours d’une course poursuite en autant d’incidents différents, faisant croire aux utilisateurs de l’application que la ville était soudainement victime d’une salve d’attaques à répétition.

Le CEO de Citizen avait lancé une chasse à l’homme… erronée

Les sources de 404 Media déplorent que si cela pouvait « fausser la perception de la criminalité dans une zone donnée », cette démultiplication des incidents, artificiellement générés par IA, ne semblaient pas déranger les cadres supérieurs de Citizen, qui « aimaient le fait de voir plus de points sur la carte et se souciaient moins de savoir s’ils étaient légitimes ».

En 2021, deux des journalistes de 404 Media, qui travaillaient alors à Vice, avaient révélé qu’Andrew Frame, le CEO de Citizen, avait offert aux utilisateurs de l’application une prime de 30 000 $ pour arrêter un pyromane présumé, partageant sur l’application le nom et photographie du suspect présumé :

« Cherchez [le nom de la personne]. Cherchez-le. Les membres de la famille de [nom de la personne]. Il n’est pas venu au monde tout seul, nous avons besoin de votre aide. Nous avons besoin de vous pour nous aider à le contacter et à identifier l’endroit où il se trouve. Nous avons besoin de l’odeur de ses vêtements. Il faut que cet homme quitte la rue pour que nous puissions arrêter de brûler la ville de Los Angeles […] Cette personne est le diable et nous devons l’éliminer de la rue. Nous devons remettre de l’ordre dans notre ville. »

La chasse à l’homme prit fin quelques heures plus tard quand la police arrêta le vrai pyromane, qui n’était pas celui que le CEO de Citizen avait dénoncé. À l’époque, Prince Mapp, le responsable de la communauté de Citizen, avait rétorqué avoir « mobilisé une ville pour qu’une personne soit traduite en Justice ».

Des informations vérifiées provenant de sources officielles

Le mois dernier, souligne 404 Media, le maire de New York, Eric Adams, a partagé sur Instagram une photo faisant de lui un « hug » à Prince Mapp, alors que la ville s’associait à Citizen en créant son propre compte géré par la ville.

« Une grande partie de la construction d’une ville plus sûre consiste à s’assurer que les New-Yorkais disposent des informations dont ils ont besoin pour assurer leur propre sécurité et celle de leurs proches », a déclaré le maire Eric Adams dans un communiqué de presse, qui précise que ce partenariat n’entraînerait « aucun coût » pour les finances de la municipalité :

« L’annonce d’aujourd’hui ajoute une nouvelle couche aux stratégies de communication de la ville en matière de sécurité publique, en aidant à atteindre encore plus de résidents avec des informations opportunes et vérifiées provenant de sources officielles. »

404 Media précise que « Citizen n’a pas répondu à de multiples demandes de commentaires ».

  •  

Aux USA, une IA de lutte contre l’insécurité hallucine des incidents qui n’existent pas

City pas zen
Aux USA, une IA de lutte contre l’insécurité hallucine des incidents qui n’existent pas

Une application communautaire permettant à ses utilisateurs de partager des alertes de sécurité a commencé à remplacer ses salariés par une IA et des travailleurs du clic étrangers sous-payés. Faute de supervision humaine, l’IA a logiquement commencé à « halluciner » de nombreuses alertes inexistantes ou erronées.

Citizen, qui compte environ 10 millions d’utilisateurs aux USA, se présente comme une application « où les gens se protègent les uns les autres ». Ces derniers y partagent les incidents, accidents, incendies et autres évènements susceptibles d’affecter les personnes alentour. Les employés de Citizen, de leur côté, écoutent les fréquences radio de la police en permanence afin d’y rajouter leurs propres alertes.

Sauf que récemment, Citizen a commencé à remplacer certains de ses employés par une IA. Certaines de leurs tâches ont par ailleurs été transférées à des travailleurs au Népal et au Kenya payés 1,50 à 2 dollars de l’heure par CloudFactory, un acteur du business process outsourcing (BPO, sous-traitance de diverses tâches dont l’annotation et la modération de contenu).

Citizen a aussi licencié 13 de ses salariés. Une source interne explique à 404 Media que ces derniers, syndiqués, avaient « remis en question la baisse des normes éditoriales liée à l’intégration de l’IA, se détournant de la qualité au profit de la quantité ».

L’IA omet des détails, en rajoute, les interprète mal…

Trois sources internes confient à 404 Media qu’après avoir utilisé l’IA pour aider ses employés à rédiger leurs alertes, Citizen a fini par lui confier la tâche d’écouter les radios policières, transcrire les éventuelles alertes, et les publier sur l’application, sans intervention ni supervision humaine.

Or, l’IA a depuis cumulé les erreurs, et partagé des informations qu’elle n’aurait pas dû. Un « accident de véhicule à moteur » notifié sur une radio policière a par exemple été retranscrit comme « accident de véhicule meurtrier » par l’IA, et envoyé aux utilisateurs de l’application.

D’autres fois, l’IA omettait des informations cruciales, comme de préciser qu’un individu venait de commettre un vol « à main armée ». L’IA se trompait aussi parfois sur les adresses, associant des incidents à des localisations incorrectes.

Il lui est aussi arrivé de partager des détails sordides, données sensibles et numéros de plaques d’immatriculation entendus sur les radios policières, mais qui n’ont pas vocation à être diffusés aux utilisateurs de l’application, conformément aux règles directrices de Citizen.

L’IA a même failli compromettre certaines opérations de maintien de l’ordre en partageant avec les utilisateurs de l’application le fait que des policiers avaient localisé un véhicule volé ou un suspect recherché, ce que des employés humains n’auraient jamais partagé.

L’IA a également « halluciné » une alerte laissant entendre que les agents étaient déjà arrivés sur les lieux d’un incident, alors qu’en réalité le dispatcheur ne faisait que fournir des informations complémentaires pendant qu’ils étaient encore en route.

Il lui est aussi arrivé de dupliquer certaines alertes, faute de comprendre qu’elles faisaient référence à un seul et même incident. L’IA a ainsi interprété les différentes adresses partagées par des policiers au cours d’une course poursuite en autant d’incidents différents, faisant croire aux utilisateurs de l’application que la ville était soudainement victime d’une salve d’attaques à répétition.

Le CEO de Citizen avait lancé une chasse à l’homme… erronée

Les sources de 404 Media déplorent que si cela pouvait « fausser la perception de la criminalité dans une zone donnée », cette démultiplication des incidents, artificiellement générés par IA, ne semblaient pas déranger les cadres supérieurs de Citizen, qui « aimaient le fait de voir plus de points sur la carte et se souciaient moins de savoir s’ils étaient légitimes ».

En 2021, deux des journalistes de 404 Media, qui travaillaient alors à Vice, avaient révélé qu’Andrew Frame, le CEO de Citizen, avait offert aux utilisateurs de l’application une prime de 30 000 $ pour arrêter un pyromane présumé, partageant sur l’application le nom et photographie du suspect présumé :

« Cherchez [le nom de la personne]. Cherchez-le. Les membres de la famille de [nom de la personne]. Il n’est pas venu au monde tout seul, nous avons besoin de votre aide. Nous avons besoin de vous pour nous aider à le contacter et à identifier l’endroit où il se trouve. Nous avons besoin de l’odeur de ses vêtements. Il faut que cet homme quitte la rue pour que nous puissions arrêter de brûler la ville de Los Angeles […] Cette personne est le diable et nous devons l’éliminer de la rue. Nous devons remettre de l’ordre dans notre ville. »

La chasse à l’homme prit fin quelques heures plus tard quand la police arrêta le vrai pyromane, qui n’était pas celui que le CEO de Citizen avait dénoncé. À l’époque, Prince Mapp, le responsable de la communauté de Citizen, avait rétorqué avoir « mobilisé une ville pour qu’une personne soit traduite en Justice ».

Des informations vérifiées provenant de sources officielles

Le mois dernier, souligne 404 Media, le maire de New York, Eric Adams, a partagé sur Instagram une photo faisant de lui un « hug » à Prince Mapp, alors que la ville s’associait à Citizen en créant son propre compte géré par la ville.

« Une grande partie de la construction d’une ville plus sûre consiste à s’assurer que les New-Yorkais disposent des informations dont ils ont besoin pour assurer leur propre sécurité et celle de leurs proches », a déclaré le maire Eric Adams dans un communiqué de presse, qui précise que ce partenariat n’entraînerait « aucun coût » pour les finances de la municipalité :

« L’annonce d’aujourd’hui ajoute une nouvelle couche aux stratégies de communication de la ville en matière de sécurité publique, en aidant à atteindre encore plus de résidents avec des informations opportunes et vérifiées provenant de sources officielles. »

404 Media précise que « Citizen n’a pas répondu à de multiples demandes de commentaires ».

  •  

L’évolution fascinante de ChatGPT en 14 prompts : du charabia (GPT-1) au haut niveau (GPT-5)

gpt-5 évolution

Avec certaines percées dans le domaine de l'intelligence artificielle, l'IA générative a connu une accélération rapide ces dernières années. On le constate en observant les résultats d'un même prompt entre diverses générations de modèles. Avec la sortie de GPT-5, OpenAI a même mis en ligne une page comparative.

  •  

Tout ce que les superchargeurs devraient copier sur les aires d’autoroute

Les Superchargeurs Tesla sont passés à la vitesse supérieure récemment, dans tous les sens du terme. Plus puissants, plus performants, mais aussi beaucoup mieux dimensionnés qu'avant, ils sont un modèle à suivre pour quiconque voyage en voiture électrique. Toutefois, certains détails essentiels pour que les road-trips se passent parfaitement bien manquent encore à l'appel. Et si les bonnes vieilles aires d'autoroute n'avaient pas déjà tout compris, et qu'il serait bon pour Tesla de s'en inspirer ?

  •  

Succès pour le Starship, Google Trad transformé en concurrent gratuit à Duolingo, pirouette de fusée – Le récap’ de la semaine

Que serait une rentrée sans un lancement du Starship, l'énorme fusée de SpaceX ? Plusieurs fois repoussé, le lancement a fini par avoir lieu -- pour votre plus grand bonheur. Cette semaine a aussi été un grand moment pour Google, qui a sorti plusieurs outils IA particulièrement bien fichus.

  •  

Trump invite les 6-18 ans à « maintenir la domination mondiale de l’Amérique » sur l’IA

GrAIsser le mammouth
Trump invite les 6-18 ans à « maintenir la domination mondiale de l’Amérique » sur l’IA

Melania Trump et la Maison Blanche viennent de lancer un concours de développement d’intelligences artificielles destiné aux élèves d’écoles primaires, collèges et lycées, ainsi qu’à leurs enseignants. Or, dans la grille de notation, la note attribuée en fonction de l’adéquation « aux priorités, valeurs et vision du Président et de son Administration » aura plus de poids que le fait que « les méthodes et outils d’IA mentionnés sont pertinents et réalistes ».

Melania Trump vient d’annoncer sur son compte X.com @FLOTUS (pour « First Lady of the United States ») le lancement d’un concours de développement d’IA destiné aux élèves de 6 à 18 ans, ainsi qu’à leurs enseignants et écoles allant de la primaire jusqu’à l’équivalent du lycée.

Ce « Presidential AI Challenge » les invite à développer des « solutions innovantes basées sur l’IA pour relever les défis de la communauté, tout en encourageant l’intérêt pour l’IA et les compétences dans ce domaine ». Objectifs : « résoudre les problèmes locaux, étatiques et régionaux émergents, stimuler l’innovation et le renouveau de l’Amérique au cours de l’âge d’or de notre pays » :

« Les étudiants et les enseignants de tous horizons et de toutes compétences sont encouragés à participer et à insuffler un nouvel esprit d’innovation alors que nous célébrons les 250 ans de notre indépendance et que nous nous tournons vers les 250 prochaines années. »

« Maintenir la domination mondiale de l’Amérique »

Les règles du concours précisent que l’objectif est d’ « encourager l’intérêt et l’expertise dans l’IA dès le plus jeune âge afin de maintenir la domination mondiale de l’Amérique dans cette révolution technologique pour les générations futures » :


Il reste 87% de l'article à découvrir.
Vous devez être abonné•e pour lire la suite de cet article.
Déjà abonné•e ? Générez une clé RSS dans votre profil.

  •  

[$] Highlights from systemd v258: part one

✇LWN
Par :jzb

The next release of systemd has been percolating for an unusually long time. Systemd releases are usually about six months apart, but v257 came out in December 2024, and v258 just now seems to be nearing the finish line; the third release candidate for v258 was published on August 20 (release notes). Now is a good time to dig in and take a look at some of the new features, enhancements, and removals coming soon to systemd. These include new workload-management features, a concept for multiple home-directory environments, and the final, once-and-for-all removal of support for control groups version 1.

  •  

SpaceX montre l’état réel du Starship après son retour sur Terre avec des vidéos et des photos inédites

starship

Le Starship a réussi sa rentrée atmosphérique, malgré les contraintes intenses que cela occasionne et malgré l'absence intentionnelle de certaines tuiles de protection. SpaceX a présenté des vidéos et des images inédites en très haute définition, qui permettent de voir plus en détail l'état de l'étage supérieur.

  •  

Python: The Documentary

✇LWN
Par :jzb

Attendees at EuroPython had the chance to preview part of Python: The Documentary during a keynote panel. The full film, created by CultRepo, is now available on YouTube:

This is the story of the world's most beloved programming language: Python. What began as a side project in Amsterdam during the 1990s became the software powering artificial intelligence, data science and some of the world's biggest companies. But Python's future wasn't certain; at one point it almost disappeared.

This 90-minute documentary features Guido van Rossum, Travis Oliphant, Barry Warsaw, and many more, and they tell the story of Python's rise, its community-driven evolution, the conflicts that almost tore it apart, and the language's impact on... well... everything.

The video of the keynote is also available.

  •  

Peur sur la dette

En France, le mois de septembre s’annonce comme celui de tous les dangers. L’incapacité du Parlement à voter le budget 2026, la menace d’une chute du gouvernement Bayrou, la perspective de troubles avec le mouvement « Bloquons tout » du 10 septembre et la montée des tensions sur les marchés financiers risquent de mettre le feu aux poudres à la rentrée. Des événements qui placent la dette française au cœur des débats. Mais de quoi parle-t-on quand on évoque cette « dette » ? Pourquoi fait-elle peur ? Est-il possible d’éviter une crise ?

Article réservé à nos abonnés.

S'abonner dès 5€/mois

ou

Acheter cet article pour 1,50€

 
 

L’article Peur sur la dette est apparu en premier sur Les Électrons Libres.

  •