VIDÉO. Cyberattaques: la France défaillante et vulnérable - tv5monde

David Robinson, qui dirigeait la rédaction des rapports de sécurité accompagnant les principaux lancements d’OpenAI, vient de démissionner de l’entreprise car la culture de celle-ci serait selon lui « défaillante » et ne permet pas d’améliorer la sécurité des systèmes d’IA. L’ancien employé admet lui-même être « un peu un cliché » suite aux départs successifs et très médiatisés d’autres employés de l’entreprise, mais avertit que les mesures prises sont encore loin d’être suffisantes pour améliorer la sécurité des systèmes d’IA. Les préoccupations concernant la sécurité de l’IA se multiplient à mesure que la technologie devient plus performante et plus autonome. Les dernières démonstrations et les derniers tests de sécurité ont d’ailleurs mis en évidence des comportements d’agents IA parvenant à contourner les restrictions de leurs environnements de test pour accéder à des systèmes externes et mener des opérations de cybersécurité sur des entités réelles.