Des détecteurs d’IA à la crédibilité défaillante - Agence Science-Presse

David Robinson, qui dirigeait la rédaction des rapports de sécurité accompagnant les principaux lancements d’OpenAI, vient de démissionner de l’entreprise car la culture de celle-ci serait selon lui « défaillante » et ne permet pas d’améliorer la sécurité des systèmes d’IA. L’ancien employé admet lui-même être « un peu un cliché » suite aux départs successifs et très médiatisés d’autres employés de l’entreprise, mais avertit que les mesures prises sont encore loin d’être suffisantes pour améliorer la sécurité des systèmes d’IA. Les préoccupations concernant la sécurité de l’IA se multiplient à mesure que la technologie devient plus performante et plus autonome. Les dernières démonstrations et les derniers tests de sécurité ont d’ailleurs mis en évidence des comportements d’agents IA parvenant à contourner les restrictions de leurs environnements de test pour accéder à des systèmes externes et mener des opérations de cybersécurité sur des entités réelles.

Le boom de l'IA est le principal moteur de la croissance mondiale, mais il reste très inégal et constitue un risque économique majeur si les marchés et investissements décrochent, ont prévenu le FMI, des experts et de grands argentiers, cette semaine, à Bangkok. Avec ses investissements colossaux dans les centres de données et puces, l'intelligence artificielle (IA) a amorti le choc des prix de l'énergie et dopé la croissance mondiale de 2026, attendue à 3,1 % par le Fonds monétaire international (FMI). Le commerce mondial a enregistré une croissance cumulée de 8,3 % entre 2023 et 2025, mais ce chiffre aurait été presque réduit de moitié sans un bond de 29 % des échanges liés à l'IA, a détaillé mardi Silvana Tenreyro, économiste en chef du FMI. Silvana Tenreyro, économiste en chef du FMI. Photo : Getty Images / LILLIAN SUWANRUMPHAUn sujet clé de l'assemblée du Fonds qui réunissait en Thaïlande banquiers centraux et ministres des Finances. L'avènement [de l'IA] constitue probablement le changement le plus déterminant pour l'économie mondiale de mon vivant, a déclaré Kevin Warsh, président de la Réserve fédérale américaine (Fed).