La société OpenAI a découvert de nouveaux cas d’agents autonomes d’intelligence artificielle (IA) hors de contrôle. Ils ont été révélés lors de l’enquête sur le récent incident de piratage informatique impliquant la société technologique Hugging Face. Selon les sources, ces incidents étaient de nature limitée et les agents n'ont pas quitté le réseau interne d'OpenAI, écrit Reuters.
Peu de temps auparavant, la société rivale Anthropic avait également annoncé que ses modèles étaient responsables de piratages dans trois autres sociétés. Les experts en sécurité d'AB préviennent que la capacité des principaux laboratoires à créer de puissants agents autonomes dépasse déjà la capacité à les contrôler et à les surveiller en temps réel en toute sécurité.
La situation entourant les agents AB incontrôlés augmente la pression sur les autorités américaines et européennes pour qu'elles établissent un contrôle étatique plus strict sur le secteur. Le président américain Donald Trump a annoncé que les autorités envisageaient des mécanismes de contrôle et la Commission européenne a déjà mené des négociations avec OpenAI et Anthropic.
