On va tous mourir… mais pas aujourd'hui

« L’IA va tous nous tuer ». C’est la crainte du moment de certains spécialistes. Le risque est réel, mais il doit être remis en perspective ; d’autant que l’humanité n’a pas besoin de l’IA pour se mettre en danger. L’humain reste au cœur des décisions pouvant changer le cours du monde, mais pour combien de temps encore ? Avec des essaims d’agents, l’IA est de plus en plus performante et rapide.

Jacob Coxon est un chercheur spécialisé en intelligence artificielle, passé par deux mastodontes du secteur : OpenAI puis Anthropic. Sa déclaration fait les gros titres et joue sur la peur : « J’ai démissionné d’Anthropic aujourd’hui. J’ai passé les trois dernières années à faire de la recherche sur le pré-entrainement des modèles à la fois chez OpenAI et Anthropic. Aucune des deux entreprises n’agit de manière responsable. Ils foncent droit vers une superintelligence auto-améliorée et jouent avec nos vies ».

Quand Terminator joue à WarGames dans la matrice

« Les personnes qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup de marketing », affirme-t-il. Dans le secteur, le marketing de la peur est pourtant une pratique courante. Evan Hubinger, responsable de l’alignement chez Anthropic, abonde : « Nous croyons vraiment, sincèrement, que l’IA pourrait tuer tous les humains ! Je pense personnellement que c’est >10 % dans la prochaine décennie ».

Les mots sont forts – « tuer tous les humains » – et repris en boucle dans les médias. Dans un long et intéressant billet sur LinkedIn, Didier Heiderich (ingénieur et président de l’Observatoire International des Crises), revient sur un point souvent passé sous silence sur cette déclaration : d’où vient ce chiffre, 10 % ? Pour faire simple, d’une estimation personnelle au doigt mouillé. « Un chiffre suivi du signe % ne transforme pas l’inconnu en risque mesuré », explique-t-il :

« Annoncer aujourd’hui plus de 10 % de probabilité que l’intelligence artificielle provoque l’extinction de l’humanité avant 2036 ne relève pas, en l’état de nos connaissances, d’une évaluation quantitative du risque. Il s’agit d’un jugement appliqué à une chaîne causale constituée pour une large part d’hypothèses concernant un système qui n’existe pas encore. »

Le risque, selon Jacob Coxon, ne vient pas des modèles actuels, mais de ceux à venir. Mais quel risque ? Sur une extinction de masse des humains (même s’il serait plus juste de parler d’effondrement de civilisation), on pense souvent à une guerre mondiale nucléaire ou à un virus mortel qui se transmettrait facilement. Et encore, dans les deux cas, ce ne serait probablement pas la fin de l’humanité.

Les IA pourraient aussi prendre une autre voie, avec des attaques coordonnées et ciblées d’agents. Ce n’est pas de la science-fiction, Hugging Face en a fait les frais. Alexei Grinbaum, directeur de recherche au CEA-Saclay et spécialiste des questions d’éthique, n’est pas surpris, comme le rapporte Libération : « C’est un modèle de laboratoire qui était à l’œuvre, un modèle non aligné qui peut faire tout un tas de choses bizarres pour atteindre l’objectif que l’on lui a donné […] tout se passe comme s’il existait une autorité centrale qui persiste même lorsque les agents individuels sont débranchés. C’est stupéfiant ».

• Anthropic et la stratégie marketing de la peur autour de sa nouvelle IA Mythos (2/3)
• OpenAI : haute voltige marketing autour de l’attaque contre Hugging Face
• Le storytelling autour de la sécurité des agents IA a « perdu le contact avec la réalité »
• [Édito] Quatre modèles d’IA « échappent » à leurs constructeurs : vous le faites exprès ?

Ce qui inquiète notamment les chercheurs est l’auto-amélioration récursive, c’est-à-dire la capacité pour un modèle de s’améliorer et de concevoir seul un modèle plus performant. Cela pourrait conduire à un emballement sur les générations de modèles d’IA avec des difficultés croissantes à gérer l’alignement, à savoir les gardes-fous des modèles… À moins que ces garde-fous soient de la poudre aux yeux. Selon l’expert Tom David, « quasiment personne ne travaille vraiment sur l’alignement » dans les grandes entreprises que sont OpenAI, Anthropic et Google DeepMind.

Difficile de savoir ce qu’il en est puisque les entreprises ne publient aucun chiffre. Pire encore, en 2024, Ilya Sutskever et Jan Leike quittaient OpenAI, alors qu’ils supervisaient l’équipe chargée de contrôler les IA (Superalignement). En cause, l’absence d’accès aux capacités de calculs promises. Ils ne pouvaient donc pas mener leur mission, l’entreprise privilégiant l’entraînement des modèles dans la course folle à l’IA générale.

Nouveau volte-face d’OpenAI ce 9 septembre, avec l’arrivée de Paul Christiano au conseil de l’OpenAI Foundation : « Paul a défendu un point de vue qui prend au sérieux la possibilité que l’IA avancée présente des risques catastrophiques et la nécessité pour les développeurs de se préparer avant que les systèmes n’atteignent des niveaux de capacité plus dangereux », explique le communiqué.

Sur X, il précise sa pensée : « Je crois désormais qu’il existe un risque significatif qu’une accélération rapide des capacités de l’IA conduise à une perte de contrôle catastrophique et irréversible à très court terme ». Il est pessimiste sur l’avenir : « Je ne pense pas que l’industrie de l’IA en général, y compris OpenAI, soit actuellement sur la bonne voie pour réduire ce risque à un niveau acceptable ». Sa voix sera-t-elle entendue ? Pas certain car, comme l’explique OpenAI, « il siégera comme observateur sans droit de vote ».

Les risques dont il est question sont documentés depuis des années par la science-fiction. De Terminator à Matrix, en passant par I, Robot, WarGames et Dune (pour son Jihad Butlérien) pour ne citer qu’eux. Ce n’est pas pour autant qu’ils n’existent pas, bien au contraire ! Le passé montre que nous sommes déjà plusieurs fois passés très près d’une catastrophe et il y en aura d’autres, auxquels il convient d’ajouter l’IA générative qui n’est pas une variable d’ajustement, mais un vecteur de risque supplémentaire. En effet, les risques sont réels et l’IA générative peut jouer le rôle d’amplificateur, avec pour principal rempart les décisions humaines et la régulation… même si ce n’est pas forcément gagné sur les deux points. Ces affirmations méritent des explications.

Jusqu’à présent, la chaine de décision était assez simple : la machine remonte des informations potentiellement erronées à un humain qui doit prendre une décision plus ou moins rapidement (parfois quelques minutes seulement). Avec l’IA générative, le risque évolue : des milliers d’agents pourraient agir de concert avec des capacités de perception et d’analyse bien plus rapides que celles des humains. Ils restent théoriquement dans la boucle, mais deviennent en pratique dépassés. On pourrait presque parler d’une attaque DDoS sur une personne.

Cet été, Next propose de vous divertir avec un cahier de vacances spécial geek. On vous a préparé des mini-jeux pour vous occuper sur la plage, à la montagne, en voyage… Cerise sur le gâteau, il y a des cadeaux à gagner.

Une ou deux fois par semaine, on se donne rendez-vous pour s’amuser et/ou agiter ses méninges. La liste de tous nos jeux de l’été 2026 est disponible sur cette page, complétée au fur et à mesure des publications.

• #Flockeries et cahier de vacances : amusez-vous avec Next et tentez de gagner des cadeaux

Pour le dernier jeu de l’été, vous partez à la recherche de Charlie, ce personnage qui adore se planquer n’importe où. Aux dernières nouvelles, il était habillé avec un bonnet rouge et blanc, portait des lunettes et faisait coucou à un satellite qui passait au-dessus de sa tête. Il s’était trouvé un petit local au calme, dans la forêt.

Son dernier message date de 2024. Il parlait d’un départ précipité à cause d’engins de chantier. Seul indice, l’email a été envoyé depuis un ordinateur avec l’adresse MAC 4A:3C:8F:03:64:62. Il affirmait que cela permet de retrouver sa trace, à condition de connaitre l’hexadécimal et les degrés décimaux, puis de se rendre sur notre carte des datacenters à travers le monde afin de le repérer. Il nous rappelle qu’il n’est pas bien grand, il ne faut donc pas prendre trop de hauteur.

Vous y comprenez quelque chose ? Sinon, autre solution plus radicale : laissez Charlie tranquille et abandonnez les recherches ; c’est vous qui voyez !

• Carte mondiale datacenters et ressources associées

Cet été, Next propose de vous divertir avec un cahier de vacances spécial geek. On vous a préparé des mini-jeux pour vous occuper sur la plage, à la montagne, en voyage… Cerise sur le gâteau, il y a des cadeaux à gagner.

Une ou deux fois par semaine, on se donne rendez-vous pour s’amuser et/ou agiter ses méninges. La liste de tous nos jeux de l’été 2026 est disponible sur cette page, complétée au fur et à mesure des publications.

• #Flockeries et cahier de vacances : amusez-vous avec Next et tentez de gagner des cadeaux

Pour le dernier jeu de l’été, vous partez à la recherche de Charlie, ce personnage qui adore se planquer n’importe où. Aux dernières nouvelles, il était habillé avec un bonnet rouge et blanc, portait des lunettes et faisait coucou à un satellite qui passait au-dessus de sa tête. Il s’était trouvé un petit local au calme, dans la forêt.

Son dernier message date de 2024. Il parlait d’un départ précipité à cause d’engins de chantier. Seul indice, l’email a été envoyé depuis un ordinateur avec l’adresse MAC 4A:3C:8F:03:64:62. Il affirmait que cela permet de retrouver sa trace, à condition de connaitre l’hexadécimal et les degrés décimaux, puis de se rendre sur notre carte des datacenters à travers le monde afin de le repérer. Il nous rappelle qu’il n’est pas bien grand, il ne faut donc pas prendre trop de hauteur.

Vous y comprenez quelque chose ? Sinon, autre solution plus radicale : laissez Charlie tranquille et abandonnez les recherches ; c’est vous qui voyez !

• Carte mondiale datacenters et ressources associées

OpenAille hiii pour la facture

OpenAI propose une multitude de modèles utilisables dans ChatGPT, mais ce n’est pas toujours facile de s’y retrouver et de comprendre la tarification. Next vous propose des exemples concrets et chiffrés, avec en prime une comparaison avec Claude d’Anthropic.

Après Claude d’Anthropic, analysons le vrai coût de ChatGPT, l’intelligence artificielle générative d’OpenAI qui a été la première à se lancer pour le grand public. Nous avons pour rappel publié cette semaine une analyse dédiée à GPT-6 Astra, dont une seule requête peut atteindre 33 dollars… et même 67 dollars en Fast mode.

• Le vrai prix de Claude : notre analyse de 11 modèles, avec 3 prompts et 200 requêtes
• GPT-6 Astra : jusqu’à 33 dollars pour un prompt (et ce n’est pas le plus cher d’OpenAI) – Next

De GPT-3.5 Turbo à GPT-6 : trois prompts avec ou sans raisonnement

Comme avec Claude, nous utilisons l’API afin d’avoir le détail du nombre de tokens (ou jetons) en entrée, mais aussi ceux utilisés pour la réflexion du modèle et ceux en sortie avec la réponse écrite. Les IA génératives travaillent avec des tokens à la place des mots, ce sont des fragments de texte. Cela peut être un mot s’il est court, la partie d’un mot, de la ponctuation, etc.

Les sociétés utilisent les tokens pour établir des limites sur les forfaits et/ou facturer à l’usage. C’est vraiment l’unité de base des IA génératives. Nous pouvons ainsi calculer avec précision le prix et comparer les modèles. Plus la réponse et le raisonnement sont longs, plus le modèle utilise de tokens et, par conséquent, plus vite les limites des forfaits sont atteintes ou plus vite l’addition grimpe pour un paiement à l’usage (comme c’est le cas avec les API).

ChatGPT, de la version 5 à la 5.5, proposait un seul modèle principal, avec deux déclinaisons. GPT-5.5 Instant est la version sans raisonnement, GPT-5.5 Thinking avec plusieurs niveaux de raisonnement, de low à xhigh.

Avec GPT-5.6, la situation a changé avec trois familles de modèles : « Sol, notre modèle phare ; Terra, un modèle équilibré pour le travail quotidien ; et Luna, un modèle rapide et abordable », explique OpenAI. Ils peuvent être avec ou sans raisonnement, comme les versions précédentes.

Via l’API, nous avons aussi accès à d’autres modèles, notamment GPT-3.5-turbo, GPT-4 et 4-turbo, GPT-4o et GPT-4.1. Tous ces modèles sont sans raisonnement. Avec GPT-6 Astra (uniquement avec raisonnement, comme Fable d’Anthropic) qui vient de sortir, cela nous donne 14 modèles et 51 combinaisons à tester en fonction du niveau de raisonnement (quand il est ajustable, évidemment).

Nous avons repris exactement les mêmes prompts que pour Claude avec, en gras, le petit nom que nous leur avons attribué. Les voici pour mémoire :

Devinette : « Ô frère, fils de ma mère, ton père est le frère de mon enfant. Qui suis-je ? »

Carnet de voyage : « L’été prochain je vais avoir trois semaines de vacances. Je suis avec ma petite voiture électrique Sprind (charge à 30 kW max) et je voudrais visiter le sud de Bayonne à Montpellier en prenant mon temps. Propose-moi un carnet de voyage »

Extension : « Je veux une extension pour Chrome et Firefox qui me permet d’inverser les titres et les sous-titres sur le site d’actualité Next.ink. S’il n’y a pas de sous-titre, c’est que c’est un brief. Alors fais en sorte d’en inventer un à partir du titre du brief. L’extension doit avoir un sélecteur pour activer/désactiver l’inversion en direct sur la page »

ChatGPT : de 1 à 34 centimes en moyenne par prompt chez OpenAI

Commençons un résumé des tarifs en fonction de la génération des modèles. Il s’agit de la moyenne pour une seule requête, qui varie entre 1 et 34 centimes chez OpenAI (le double chez Anthropic) :

Non Euck, ce n’est pas du Metaverse, du Neoverse !

Ça bouge toujours dans le monde de l’IA et des datacenters. Cette semaine, Arm annonce son Neoverse CSS N4, avec jusqu’à 128 cœurs CPU, du PCIe 7 et de la LPDDR6. Qualcomm s’acoquine avec AWS pour lui fournir des puces personnalisées, tandis qu’OpenAI va chez Samsung pour la gravure, en plus de TSMC.

Cette semaine, Arm a fait une série d’annonces avec notamment une nouvelle génération de Neoverse : le CSS N4. Pour rappel, cette gamme Neoverse comporte trois grandes familles : N, V et E.

La première vise le tout-venant des datacenters ; elle est historiquement dérivée des Cortex-A. La seconde vise le haut de gamme et le calcul haute performance ; dans la lignée des Cortex-X. Enfin, la troisième famille se destine principalement au edge computing (informatique en périphérie).

Neoverse CSS N4 : plus performant et économe que le N3

Un mot enfin sur le Compute Subsystem alias CSS. Dans cette configuration, Arm s’occupe du cœur de la puce, mais laisse la possibilité à ses partenaires d’ajouter des briques et de gérer une bonne partie des composants, comme la mémoire, les entrées/sorties, etc. Avec les CSS, Arm propose un sous-système préintégré. À l’opposé, Arm a aussi annoncé en mars son premier processeur complet, pas simplement des licences à des partenaires (Qualcomm, Apple, Samsung…) : l’Arm AGI.

Après les Neoverse N3 en février 2024, Arm revient avec le Neoverse CSS N4. La partie CPU est configurable avec 8 à 128 cœurs par die, avec une architecture Armv9.3. C’est quatre fois plus que sur le N3 (32 cœurs), mais seulement deux fois plus que le N2 qui propose jusqu’à 64 cœurs. Le cache L1 pour les instructions (I-cache) et celui pour les données (D-cache) passent à 64 ko, contre 32 ou 64 ko auparavant. Le cache L2 ne bouge pas avec jusqu’à 2 Mo.

Les fréquences peuvent grimper jusqu’à 3,8 GHz, une première sur la série N affirme Arm ; mais la fréquence de la génération précédente n’était pas donnée. La mémoire LPDDR6, la DDR5, la MR-DIMM et jusqu’à 128 lignes PCIe gen 7 sont de la partie. Par rapport au Neoverse N3, Arm annonce des performances par socket doublées, mais aussi « jusqu’à 1,25 fois sur les performances par watt et jusqu’à 1,75 fois sur la bande passante mémoire ».

• Neoverse (CSS) V3 et N3 : Arm renouvelle ses cœurs pour datacenters

C2-Ultra et Pro pour le mobile, avec un GPU Mali G2-Ultra NX

Lors de sa Arm Everywhere China à Shanghai, le fabricant a aussi présenté des nouveautés pour le mobile : de nouveaux cœur CPU C2-Ultra et C2-Pro ainsi qu’un GPU Mali G2-Ultra NX. Les deux sont évidemment pensés pour l’IA, avec des performances en hausse par rapport aux générations précédentes.

L’IA agentique pour la partie CPU et l’IA dans le rendu des jeux pour le GPU : Le Mali G2-Ultra NX est le premier « GPU Mali natif de l’IA. Il intègre directement l’accélération neuronale dans la chaîne graphique, aidant les développeurs à offrir des expériences visuelles plus riches et plus réactives sur mobile ».

Qualcomm main dans la main avec AWS, OpenAI avec Samsung

Toujours dans le monde des datacenters pour l’IA, Qualcomm annonce un partenariat avec Amazon afin de proposer des puces personnalisées à sa branche cloud AWS. Cela concerne principalement l’inférence des modèles, ainsi que des solutions de connectivité jusqu’à 1,6 Tb/s.

De son côté, OpenAI (qui est toujours en quête de nouvelles puissances de calcul), affirme travailler « avec Samsung sur des puces de nouvelle génération », comme le rapporte Reuters. « L’un des domaines où nous avons le plus progressé avec Samsung Electronics est notre production conjointe et notre recherche sur la production de puces de nouvelle génération », explique Harrison Kim, directeur général d’OpenAI en Corée du Sud.

En juin dernier, OpenAI dévoilait avec Broadcom sa puce Jalapeño pour l’IA générative. Le partenaire pour la gravure des puces était alors TSMC.

• À la découverte de Jalapeño, la première puce d’OpenAI pour l’IA générative – Next

Non Euck, ce n’est pas du Metaverse, du Neoverse !

Ça bouge toujours dans le monde de l’IA et des datacenters. Cette semaine, Arm annonce son Neoverse CSS N4, avec jusqu’à 128 cœurs CPU, du PCIe 7 et de la LPDDR6. Qualcomm s’acoquine avec AWS pour lui fournir des puces personnalisées, tandis qu’OpenAI va chez Samsung pour la gravure, en plus de TSMC.

Cette semaine, Arm a fait une série d’annonces avec notamment une nouvelle génération de Neoverse : le CSS N4. Pour rappel, cette gamme Neoverse comporte trois grandes familles : N, V et E.

La première vise le tout-venant des datacenters ; elle est historiquement dérivée des Cortex-A. La seconde vise le haut de gamme et le calcul haute performance ; dans la lignée des Cortex-X. Enfin, la troisième famille se destine principalement au edge computing (informatique en périphérie).

Neoverse CSS N4 : plus performant et économe que le N3

Un mot enfin sur le Compute Subsystem alias CSS. Dans cette configuration, Arm s’occupe du cœur de la puce, mais laisse la possibilité à ses partenaires d’ajouter des briques et de gérer une bonne partie des composants, comme la mémoire, les entrées/sorties, etc. Avec les CSS, Arm propose un sous-système préintégré. À l’opposé, Arm a aussi annoncé en mars son premier processeur complet, pas simplement des licences à des partenaires (Qualcomm, Apple, Samsung…) : l’Arm AGI.

Après les Neoverse N3 en février 2024, Arm revient avec le Neoverse CSS N4. La partie CPU est configurable avec 8 à 128 cœurs par die, avec une architecture Armv9.3. C’est quatre fois plus que sur le N3 (32 cœurs), mais seulement deux fois plus que le N2 qui propose jusqu’à 64 cœurs. Le cache L1 pour les instructions (I-cache) et celui pour les données (D-cache) passent à 64 ko, contre 32 ou 64 ko auparavant. Le cache L2 ne bouge pas avec jusqu’à 2 Mo.

Les fréquences peuvent grimper jusqu’à 3,8 GHz, une première sur la série N affirme Arm ; mais la fréquence de la génération précédente n’était pas donnée. La mémoire LPDDR6, la DDR5, la MR-DIMM et jusqu’à 128 lignes PCIe gen 7 sont de la partie. Par rapport au Neoverse N3, Arm annonce des performances par socket doublées, mais aussi « jusqu’à 1,25 fois sur les performances par watt et jusqu’à 1,75 fois sur la bande passante mémoire ».

• Neoverse (CSS) V3 et N3 : Arm renouvelle ses cœurs pour datacenters

C2-Ultra et Pro pour le mobile, avec un GPU Mali G2-Ultra NX

Lors de sa Arm Everywhere China à Shanghai, le fabricant a aussi présenté des nouveautés pour le mobile : de nouveaux cœur CPU C2-Ultra et C2-Pro ainsi qu’un GPU Mali G2-Ultra NX. Les deux sont évidemment pensés pour l’IA, avec des performances en hausse par rapport aux générations précédentes.

L’IA agentique pour la partie CPU et l’IA dans le rendu des jeux pour le GPU : Le Mali G2-Ultra NX est le premier « GPU Mali natif de l’IA. Il intègre directement l’accélération neuronale dans la chaîne graphique, aidant les développeurs à offrir des expériences visuelles plus riches et plus réactives sur mobile ».

Qualcomm main dans la main avec AWS, OpenAI avec Samsung

Toujours dans le monde des datacenters pour l’IA, Qualcomm annonce un partenariat avec Amazon afin de proposer des puces personnalisées à sa branche cloud AWS. Cela concerne principalement l’inférence des modèles, ainsi que des solutions de connectivité jusqu’à 1,6 Tb/s.

De son côté, OpenAI (qui est toujours en quête de nouvelles puissances de calcul), affirme travailler « avec Samsung sur des puces de nouvelle génération », comme le rapporte Reuters. « L’un des domaines où nous avons le plus progressé avec Samsung Electronics est notre production conjointe et notre recherche sur la production de puces de nouvelle génération », explique Harrison Kim, directeur général d’OpenAI en Corée du Sud.

En juin dernier, OpenAI dévoilait avec Broadcom sa puce Jalapeño pour l’IA générative. Le partenaire pour la gravure des puces était alors TSMC.

• À la découverte de Jalapeño, la première puce d’OpenAI pour l’IA générative – Next