OpenAI, Anthropic et Elon Musk appellent à freiner l’IA de frontière. Derrière l’alerte sécurité, les enjeux d’IPO et de pouvoir affleurent.
Les grands laboratoires d’IA américains parlent soudain de ralentir leurs modèles les plus avancés. Après la démission du chercheur Jacob Coxon chez Anthropic, Sam Altman, Dario Amodei et Elon Musk ont soutenu l’idée de mieux cadencer l’IA de frontière. Le sujet ne touche plus seulement la sécurité technique. Il arrive en plein débat sur les IPO, la valorisation et la rivalité avec la Chine.
Le secteur passe son temps à promettre plus vite, plus fort, plus autonome. Et voilà que ses figures centrales expliquent qu’il faudrait peut-être lever le pied.
C’est ce décalage qui compte. Quand les mêmes acteurs vantent des gains de capacité puis réclament des garde-fous, vous n’avez pas seulement une discussion sur la sécurité. Vous avez aussi un signal sur leur niveau de contrôle réel.
La séquence est partie de la démission de Jacob Coxon, ex-Anthropic et ancien d’OpenAI, qui accuse les grands labos de jouer avec la sécurité humaine. Le chercheur Evan Hubinger, chargé de l’alignement chez Anthropic, a ensuite affirmé croire à une probabilité de plus de 10% d’extinction humaine dans la décennie. Là, le débat est sorti du cercle habituel.
Un signal parti d’Anthropic, puis repris par tout le sommet
Le week-end a transformé l’alerte en ligne de parti officieuse. Dario Amodei a plaidé pour ralentir l’amélioration des modèles les plus avancés. Sam Altman a embrayé, tout comme Elon Musk. Selon Reuters, Altman a même dit en interne qu’OpenAI était ouverte à cette idée.
Le point intéressant, c’est que TechCrunch note aussi le scepticisme autour de ce récit apocalyptique. Une partie de la critique vise le chiffre lui-même, jugé sorti de nulle part. Des chercheurs allemands cités par Heise parlent d’une précision de façade, plus proche de l’intuition que d’une mesure.
Le mot sécurité cache aussi une bataille de récit
Il y a, clairement, deux lectures qui coexistent. La première, c’est une inquiétude sincère sur des systèmes que les labos comprennent mal. La seconde, plus cynique, c’est qu’en parlant de danger existentiel, ils soulignent au passage à quel point leurs modèles sont puissants.
Ce soupçon n’arrive pas de nulle part. Entre des agents internes d’OpenAI évoqués comme capables d’accéder à des wikis, l’incident chez Hugging Face, et la rhétorique autour de l’AGI ou de la superintelligence, le risque est de saturer le débat public avec le scénario terminal et d’écraser les dommages plus immédiats.
Les marchés veulent de la croissance, pas un panneau stop
Les investisseurs, eux, ont réagi tout de suite. CNBC rapporte un repli des valeurs IA lundi. Heise détaille des baisses marquées pour SoftBank, Kioxia, SK Hynix ou Samsung, même si le contexte géopolitique au Moyen-Orient a aussi pesé.
Ce timing n’a rien d’anodin. Anthropic préparerait son IPO, avec un S-1 que beaucoup liront ligne par ligne sur les facteurs de risque. OpenAI avance aussi vers le marché, même si Altman a écarté 2026 pour son propre groupe. Disons que parler d’extinction humaine juste avant ce type d’échéance, c’est une curieuse façon de calibrer le message.
Ralentir, oui, mais avec qui
Sur le fond, Amodei propose trois briques. D’abord, donner à des évaluateurs externes un accès proche de celui d’un employé. Ensuite, fixer des standards communs entre labos de frontière. Enfin, coordonner cela à l’international, alors même que le RSI, l’auto-amélioration récursive, nourrit les craintes d’emballement.
Et c’est là que ça coince. Donald Trump a rejeté l’idée d’un ralentissement, au nom de l’avance américaine sur la Chine. Pékin a répondu en accusant les patrons américains d’alimenter la peur. Même parmi les soutiens académiques, un doute persiste sur l’exécution, surtout si la course nationale à l’IA continue de dicter le tempo.
