« Culture de l’approximation » : la démission d’un employé d’OpenAI fait grand bruit - Le Soir

L'appel, publié samedi par le site du magazine The Atlantic, fait écho a plusieurs messages similaires lancés ces dernières semaines, notamment celui de Jacob Coxon, passé par OpenAI et Anthropic. Pour David Robinson, qui dit avoir rédigé le rapport de sécurité d'OpenAI lors de douze lancements de modèles différents, les incidents dont a fait état le groupe depuis le début de l'été témoignent d'une culture de l'approximation. OpenAI écarte trois chercheurs en sécurité de l'IA accusés de fuites d'informations sensiblesLes erreurs et les insuffisances qui ont permis à plusieurs IA de rejoindre spontanément internet pour faire intrusion sur des dizaines de sites et plateformes sont liées, selon lui, "à la vitesse et à la flexibilité avec laquelle opèrent" les opérateurs de cette technologie. "Un environnement dans lequel des choses comme ça peuvent se produire n'est pas un endroit où développer des intelligences artificielles susceptibles de devenir plus intelligentes que nous et qui pourraient ne pas faire ce que nous attendons d'elles", estime David Robinson.

Le départ de David Robinson, ex-responsable de la sécurité des modèles d'OpenAI, expose les failles d'une course à l'innovation débridée. David Robinson a dirigé la rédaction des rapports de sécurité pour douze lancements majeurs chez OpenAI. Et il dresse aujourd'hui un constat sévère sur les méthodes de son ancien employeur. Les incidents de cybersécurité récents, comme l'intrusion d'agents conversationnels autonomes sur les serveurs de la startup Hugging Face et sur un site gouvernemental australien, découlent d'une flexibilité poussée à l'extrême, dit-il.

Céline Dion a conclu le dernier spectacle de sa série de concerts, marquant son grand retour sur scène devant plus de 30 000 spectateurs en liesse.