« I'm sorry Dave, I'm afraid I can't do that »

Une cinéaste états-unienne a remonté la piste de l’intelligence artificielle, jusqu’à la fin du XIXᵉ siècle. En résulte un documentaire « à charge », qui explore les liens entre IA, développement des statistiques modernes et eugénisme. Aujourd’hui encore, des théories proches de l’eugénisme infusent dans des discours et actions de certains patrons de la tech’.

Qualifié de « véritable cocktail Molotov lancé au cœur du monde absurde et cauchemardesque de la hype IA » par TheWrap, « Ghost in the Machine » est un documentaire – qu’on pourrait presque qualifier de pamphlet – de 110 minutes de la cinéaste états-unienne Valerie Veatch. Présenté au dernier festival Sundance, il est visible sur Mediapart jusqu’au 25 octobre en version sous-titrée (ou, sinon, en VoD).

Valerie Veatch explique à Computer Weekly avoir commencé à s’intéresser à la question après avoir été invitée, en octobre 2024, à participer à un programme d’accès anticipé organisé par OpenAI pour que des artistes puissent interagir avec Sora, son modèle d’IA générative permettant de transformer du texte en vidéo (qui a depuis fermé).

Alors que l’objectif affiché était de leur proposer de nouvelles pistes et outils de création, Veatch raconte avoir été, et être encore, sous le choc : « Il faudrait trouver un mot spécifique pour décrire cette chose horrible qui se produit lorsqu’apparaît quelque chose que l’on n’a pas demandé. J’ai immédiatement remarqué des images épouvantables, extrêmement sexistes et extrêmement racistes », ainsi que des images sexualisant le corps des femmes.

• Les vidéos générées avec Sora sont pleines de biais
• Sora : des deepfakes et représentations racistes de Martin Luther King et Malcolm X

Pensant qu’OpenAI considérerait cela comme un « bug critique » méritant d’être corrigé, Veatch contacta OpenAI pour alerter l’entreprise quant au « caractère raciste, sexiste et misogyne des résultats » générés par IA. Mais l’entreprise balaya ses préoccupations d’un revers de main, lui rétorquant qu’« on ne peut rien faire pour changer ça », relève The Verge, et que « les ingénieurs ne donnaient pas la priorité aux questions sociales », comme elle l’explique à Filmmaker Magazine :

« Lorsque j’ai insisté, je me suis heurté à un mur de silence et on m’a renvoyé vers un « spécialiste DEI [pour diversité, équité, inclusion, ndlr] tiers chargé des initiatives d’équité dans le secteur technologique ». En tant que cinéaste, j’ai trouvé cela profondément insultant et j’ai été choqué de les entendre qualifier les défaillances de leur produit d’ »initiative en faveur de l’équité dans le secteur des technologies ». »

Deux questions s’entrechoquent ici. Sur la génération de vidéo, la qualité des données d’entraînement peut avoir de très grandes influences et amener à répéter et à amplifier les biais de notre société. Sur le manque de réactions, on peut y voir un choix de priorité des dirigeants, menés par Sam Altman qui, à l’instar d’autres patrons comme Elon Musk ou Dario Amodei, disposent aujourd’hui de pouvoir politiques et économiques planétaires.