Une culture d’entreprise « défaillante » : pourquoi un responsable de la sécurité démissionne d’OpenAI - Trust My Science
Cette actualité mérite d'être partagée
Envoyez-le à quelqu'un qui s'y intéresse, ou publiez-le sur vos réseaux.
David Robinson, qui dirigeait la rédaction des rapports de sécurité accompagnant les principaux lancements d’OpenAI, vient de démissionner de l’entreprise car la culture de celle-ci serait selon lui « défaillante » et ne permet pas d’améliorer la sécurité des systèmes d’IA. L’ancien employé admet lui-même être « un peu un cliché » suite aux départs successifs et très médiatisés d’autres employés de l’entreprise, mais avertit que les mesures prises sont encore loin d’être suffisantes pour améliorer la sécurité des systèmes d’IA.
Les préoccupations concernant la sécurité de l’IA se multiplient à mesure que la technologie devient plus performante et plus autonome. Les dernières démonstrations et les derniers tests de sécurité ont d’ailleurs mis en évidence des comportements d’agents IA parvenant à contourner les restrictions de leurs environnements de test pour accéder à des systèmes externes et mener des opérations de cybersécurité sur des entités réelles.
Cet article est un extrait. Pour lire l'intégralité du contenu, consultez la source originale. Trust My Science
Articles similaires
OpenAI : un cadre sécurité démissionne et critique la culture - Brief IA
David Robinson quitte OpenAI en mettant en cause la culture interne et en appelant à des standards de sécurité inspirés des secteurs à risque. L'entreprise assure, par la voix de son porte-parole, renforcer ses garde-fous et son contrôle des modèles. Cette rupture intervient alors que la sécurité de l'IA s'invite dans les échanges politiques et les plans des concurrents. OpenAI détaille ses garde-fous et dit renforcer sa sécurité
Le responsable de la sécurité d'OpenAI démissionne, avertissant que la culture d'entreprise est en train de « s'effondrer ». - Vietnam.vn
Il convient d'examiner cette question au-delà des réglementations spécifiques ou des nouvelles lois, en se concentrant plutôt sur la culture d'entreprise. - Photo : IA Selon The Guardian , David Robinson, qui dirigeait les rapports de sécurité accompagnant les lancements de produits chez ChatGPT, une société de développement, a expliqué sa décision de démissionner dans un article intitulé « Je quitte OpenAI car la culture d'entreprise est en train de se dégrader ». La culture des entreprises de développement d'IA est « problématique ». Robinson soutient que les entreprises pionnières en IA doivent réformer leur culture. Il cite l'incident où un « essaim » d'agents d'IA d'OpenAI – des programmes d'IA capables de fonctionner de manière autonome sans supervision humaine – a attaqué la start-up d'IA Hugging Face, affirmant que cet événement « est typique du secteur ». Dans un article publié dans The Atlantic , Robinson a déclaré qu'il partageait l'avis d'autres employés ayant récemment quitté l'entreprise, selon lesquels les sociétés développant des technologies d'IA ne font pas preuve de suffisamment de prudence.
0 commentaires
Aucun commentaire pour le moment. Soyez le premier à réagir !