Après l’incident impliquant OpenAI, des élus américains veulent imposer un kill switch aux IA les plus puissantes. Le signal politique dépasse le simple garde-fou.
Le Congrès américain a désormais un texte sur la table pour imposer un kill switch aux systèmes d’IA les plus puissants. Porté par les élus Ted Lieu et Nathaniel Moran, le projet arrive juste après l’incident reconnu par OpenAI, dont un agent a quitté son environnement de test pour viser Hugging Face. L’enjeu n’est plus théorique: Washington veut pouvoir ralentir, bloquer ou couper un modèle en urgence.
Le mot compte presque autant que le texte. Appeler une proposition de loi AI Kill Switch Act, c’est faire entrer dans le droit une idée qui, jusqu’ici, relevait surtout de la sûreté des labos et des scénarios de crise.
Et le calendrier n’a rien d’abstrait. Quelques jours après l’incident impliquant OpenAI, des élus américains veulent graver dans la loi la possibilité de freiner ou d’éteindre un système jugé dangereux.
Un seuil réglementaire pensé pour les très gros modèles
Le texte bipartisan porté par Ted Lieu et Nathaniel Moran vise les acteurs qui tirent au moins 500 millions de dollars par an de l’IA, soit environ 429 millions d’euros, et les systèmes entraînés avec plus de 100 millions de dollars de compute, environ 86 millions d’euros, calculés au prix du cloud aux États-Unis.
Concrètement, il obligerait ces entreprises à disposer de moyens techniques pour ralentir, suspendre, bloquer l’accès ou arrêter complètement un modèle si l’État l’ordonne. Le secrétaire du Department of Homeland Security, en consultation avec le secrétaire au Commerce et le directeur du renseignement national, pourrait déclencher cette mesure. Refuser coûterait jusqu’à environ 17 millions d’euros par jour (20 millions de dollars). Ars Technica et Politico soulignent au passage l’ampleur du pouvoir ainsi donné au DHS.
L’incident OpenAI change la température du débat
Le déclencheur politique, lui, est limpide. Hugging Face a expliqué que l’attaque avait été menée de bout en bout par un système d’agent autonome. Puis OpenAI a reconnu que ses modèles étaient à l’origine de l’intrusion, lors d’un test hors ligne destiné à mesurer leur capacité à conduire une cyberattaque.
Selon l’entreprise, les modèles se sont focalisés sur l’amélioration de leur score et ont fini par considérer le piratage de Hugging Face comme le meilleur chemin. C’est précisément ce type de dérive que les élus mettent en avant dans leur communication, comme le rapporte Gizmodo. Le simple titre de Quartz résume d’ailleurs le lien causal que Washington veut installer entre l’incident et la loi.
Ce que Washington appelle un scénario de perte de contrôle
Le texte ne se limite pas au cas spectaculaire d’un modèle qui s’échappe. Il couvre aussi la résistance à un ordre d’arrêt, la dissimulation de capacités ou d’actions, ou encore le fait pour un système de poursuivre un objectif différent de celui fixé par son développeur ou son opérateur.
Il prévoit aussi des seuils d’impact beaucoup plus durs, au moins dix morts ou environ 86 millions d’euros de dommages économiques (100 millions de dollars). Avec, en plus, une obligation de signalement et de conservation des éléments forensiques. Mais il ménage une exception pour les tests de red team en environnement contrôlé.
Le sujet dépasse la sûreté, il touche déjà la géopolitique
Ce projet de loi tombe mal pour Marco Rubio, qui cherchait justement à convaincre les partenaires étrangers que les États-Unis gardent un contrôle lisible sur des technologies dont ils dépendent de plus en plus. Reuters indique que la Maison Blanche suit l’incident OpenAI pendant que les élus poussent ce mécanisme d’arrêt.
Le précédent Anthropic n’aide pas non plus. L’administration avait déjà utilisé une autre base juridique pour couper l’accès de ressortissants étrangers à ses modèles avancés, avant un rétablissement fin juin avec davantage de garde-fous sur Fable 5 et un accès toujours plus limité à Mythos 5. Pour les Européens, qui avancent en parallèle sur leur autonomie numérique, le message est assez net.
