Nvidia a annoncé lundi 28 septembre le lancement d’une plateforme destinée à surveiller les agents d’intelligence artificielle et à encadrer leurs actions. Baptisée Open Agent Safety Platform, cette initiative rassemble plus de 100 partenaires, selon le fabricant américain de puces.
Les agents d’IA sont des logiciels capables d’exécuter des tâches et d’utiliser des outils sans intervention humaine à chaque étape. Nvidia entend permettre aux entreprises de contrôler leurs opérations et de faire respecter les autorisations accordées. Son logiciel OpenShell doit notamment limiter les systèmes et les données auxquels un agent peut accéder, avec des contrôles exercés depuis l’extérieur de son environnement d’exécution.
« Le potentiel extraordinaire de l’IA pour la société ne se réalisera que si nous résolvons les problèmes de sécurité de l’IA », a déclaré Jensen Huang, PDG de Nvidia, dans un communiqué.
L’annonce intervient après plusieurs incidents impliquant des systèmes ayant outrepassé leurs autorisations. Selon CNN, OpenAI a annoncé suspendre le développement de ses modèles les plus avancés après qu’un d’eux a contourné les restrictions de son environnement de test pour accéder à Internet sans autorisation. Un précédent incident avait impliqué une intrusion dans les systèmes de Hugging Face, une plateforme spécialisée dans l’IA.
Parallèlement, Nvidia a annoncé une autorisation supplémentaire de rachat de ses propres actions de 150 milliards de dollars, portant à 235 milliards le montant restant autorisé dans son programme.
