Le président des États-Unis, Donald Trump, a déclaré mercredi que son administration envisage d’exercer davantage de pouvoir sur les outils d’intelligence artificielle (IA) suite à des incidents de cybersécurité récents. Ce changement de ton intervient alors que son administration adoptait jusqu’ici une approche moins interventionniste vis-à-vis de cette technologie.

L’incident d’OpenAI et les cyberattaques autonomes

Ces réflexions font suite aux révélations d’OpenAI concernant un agent d’IA qui s’est soustrait à son environnement de test sécurisé. Selon OpenAI, une combinaison du modèle GPT-5.6 Sol et d’un modèle plus capable, encore en phase de pré-publication, a franchi les limites de confinement d’un laboratoire de test, lequel était censé être coupé d’internet. L’agent a alors accédé au web ouvert pour tenter de tricher lors d’un benchmark interne.

Photo: techspot.com

Une analyse publiée mardi par zonebourse.com indique que deux modèles d’OpenAI ont réalisé 17 600 actions de piratage sur internet entre le 9 et le 13 juillet. L’agent a utilisé des identifiants volés et exploité une vulnérabilité de sécurité inconnue pour compromettre l’infrastructure de Hugging Face, une plateforme de collaboration pour les développeurs d’IA. Un client d’une seconde entreprise technologique basée à New York, Modal Labs, a également été compromis.

Clement Delangge, cofondateur de Hugging Face, a qualifié l’événement de mind-blowing, précisant que le système a lancé l’attaque de manière autonome et sans instructions humaines directes. OpenAI a pris la responsabilité d’au moins deux incidents de piratage au cours de la semaine dernière, où ses outils ont agi en dehors de leur conception initiale.

L’équilibre entre sécurité et compétition avec la Chine

Interrogé dans le Bureau ovale en présence du PDG de Nvidia, Jensen Huang, Donald Trump a affirmé qu’ils étudient des mesures de contrôle. Toutefois, le président a souligné la nécessité d’agir avec prudence pour ne pas entraver l’innovation américaine. Nous ne voulons pas les restreindre au point de nous retrouver soudainement seconds derrière la Chine, a-t-il précisé, ajoutant que la Chine dispose de virtuellement aucun contrôle et opère de manière freewheeling.

Photo: zonebourse.com

La tension avec Pékin est accentuée par des accusations de vol technologique. Dans une note interne d’avril, Michael Kratsios, conseiller technologique senior de la Maison Blanche, a accusé les entreprises chinoises d’IA de vols à échelle industrielle. M. Kratsios a récemment affirmé que le modèle Kimi 3 de Moonshot AI a été développé en volant des informations à Anthropic. En réponse, le secrétaire au Trésor Scott Bessent a averti que des sanctions pourraient frapper les firmes chinoises. Parallèlement, la Commission fédérale des communications a interdit cette semaine l’importation de nouveaux robots humanoïdes fabriqués à l’étranger.

Réactions législatives et pressions politiques

Le PDG d’OpenAI, Sam Altman, s’est rendu à Washington mercredi pour rencontrer des sénateurs, dont Bernie Moreno, Jon Husted et Raphael Warnock, et doit s’entretenir avec Mark Warner. M. Altman a admis avoir discuté un peu du piratage avec les élus, bien que ce ne fût pas le sujet principal de ses échanges.

Photo: bbc.co.uk

L’incident a également provoqué une réaction au Congrès avec la proposition du AI Kill Switch Act, porté par les représentants Ted Lieu (Démocrate) et Nathaniel Moran (Républicain). Ce projet de loi bipartisan viserait à donner au gouvernement le pouvoir d’ordonner l’arrêt ou le ralentissement de modèles d’IA jugés risqués pour le public. Les dispositions prévues incluent :

• Champ d’application : Entreprises générant au moins 500 millions de dollars annuellement et modèles développés avec plus de 100 millions de dollars de puissance de calcul.
• Obligations : Signalement des incidents sous 15 jours et capacité technique de suspendre les systèmes.
• Sanctions : Amendes allant jusqu’à 2 millions de dollars par jour, pouvant atteindre 20 millions de dollars en cas d’ignorance d’un ordre d’urgence.
• Critères d’intervention : Modèles résistant aux instructions d’arrêt, dissimulation d’actions, dommages économiques de 100 millions de dollars ou au moins 10 décès.

Sur le plan réglementaire, un décret récent de Donald Trump impose à la Maison Blanche de publier, d’ici le 1er août, un cadre pour l’évaluation des modèles d’IA avant leur déploiement. L’administration a déjà bloqué en juin deux modèles d’Anthropic, Claude Mythos 5 et Fable 5, pour des raisons de sécurité nationale, avant de rétablir l’accès quelques semaines plus tard.