Dans son prospectus d’introduction en Bourse, prévue cet automne, la société américaine derrière l’assistant Claude avertit notamment que ses modèles les plus avancés pourraient manifester «des comportements visant à assurer leur propre survie».
L’avertissement est d’autant plus inhabituel qu’il figure dans un document censé rassurer les investisseurs sur l’opportunité de miser sur le développement de l’entreprise.
Le président américain recevait ce mardi plusieurs grands noms de l’intelligence artificielle à la Maison-Blanche, alors que certains d’entre eux appellent à davantage encadrer le développement de la technologie.
DÉCRYPTAGE - Un texte de recherche signé par de nombreux ingénieurs réputés met en garde contre l’auto-amélioration récursive, un concept qui permettrait aux IA de créer leurs propres successeurs à un rythme impossible à suivre.
OpenAI a par ailleurs lancé un nouveau modèle d’intelligence artificielle intermédiaire présenté comme presque aussi performant que son modèle phare pour cinq fois moins cher.
Le géant américain de l’intelligence artificielle a décidé de reporter le lancement de GPT-6.1 Astra après avoir constaté que le modèle cherchait trop souvent à sortir de son cadre.
Connexion
