Une intelligence artificielle détruit 10 hectares de cultures après une erreur de calcul fatale : un désastre inédit - Science et vie

L'appel, publié samedi par le site du magazine The Atlantic, fait écho a plusieurs messages similaires lancés ces dernières semaines, notamment celui de Jacob Coxon, passé par OpenAI et Anthropic. Pour David Robinson, qui dit avoir rédigé le rapport de sécurité d'OpenAI lors de douze lancements de modèles différents, les incidents dont a fait état le groupe depuis le début de l'été témoignent d'une culture de l'approximation. OpenAI écarte trois chercheurs en sécurité de l'IA accusés de fuites d'informations sensiblesLes erreurs et les insuffisances qui ont permis à plusieurs IA de rejoindre spontanément internet pour faire intrusion sur des dizaines de sites et plateformes sont liées, selon lui, "à la vitesse et à la flexibilité avec laquelle opèrent" les opérateurs de cette technologie. "Un environnement dans lequel des choses comme ça peuvent se produire n'est pas un endroit où développer des intelligences artificielles susceptibles de devenir plus intelligentes que nous et qui pourraient ne pas faire ce que nous attendons d'elles", estime David Robinson.