Une nouvelle ère pour l’intelligence artificielle
L’intelligence artificielle (IA) est devenue un pilier essentiel de notre quotidien. Des assistants comme ChatGPT, Gemini ou Grok sont désormais utilisés par des millions de personnes à travers le monde. Cependant, cette révolution technologique soulève des questions importantes, notamment en matière de protection des utilisateurs, et plus particulièrement des mineurs.
Une commission alerte sur les risques
Le Conseil de l’IA et du numérique (CIANum) a récemment remis un rapport au président de la République, Emmanuel Macron. Ce document souligne la nécessité de renforcer l’encadrement des assistants d’IA, en particulier pour éviter les risques liés à la dépendance et à l’exploitation des données personnelles.
Ce rapport a été mandaté en février dernier, lors du sommet de l’IA à New Delhi. L’objectif était d’analyser les vulnérabilités des utilisateurs, notamment les jeunes, face aux services grand public de type ChatGPT, Gemini, Grok ou Meta AI. L’idée est de prévenir les risques potentiels liés à l’utilisation excessive ou malveillante de ces outils.
Des mesures concrètes pour protéger les utilisateurs
Le rapport propose plusieurs mesures concrètes pour mieux encadrer les assistants d’IA. Il recommande, par exemple, de renforcer les messages rappelant à l’utilisateur qu’il interagit avec une IA. Cela permettrait de clarifier la frontière entre l’humain et la machine, évitant ainsi une confusion qui pourrait mener à une dépendance excessive.
De plus, il suggère de désactiver par défaut les fonctionnalités qui pourraient induire une anthropomorphisation de l’IA. Ces fonctionnalités, qui donnent à l’assistant une apparence plus humaine, peuvent tromper les utilisateurs et les rendre plus vulnérables à des manipulations.
Une économie de la cognition en émergence
Le rapport souligne également un phénomène inquiétant : l’émergence d’une « économie de la cognition ». Il s’agit d’une nouvelle forme de monétisation où les plateformes numériques ne se contentent plus de capter l’attention des utilisateurs, mais cherchent à tirer profit de leurs facultés cognitives, de leurs réactions émotionnelles et de leurs profils psychologiques.
Cette tendance est particulièrement accentuée par les assistants d’IA, grâce à la collecte de données d’une granularité inédite. Ces données permettent une hyperpersonnalisation des interactions, ce qui peut être à la fois bénéfique et dangereux.
Des bénéfices, mais aussi des risques
Bien que les assistants d’IA offrent de nombreux avantages, notamment en matière d’éducation, leur utilisation nécessite un encadrement rigoureux. Le directeur du CIANum, Arthur Barichard, explique que les avis des rapporteurs n’ont pas convergé pour interdire l’accès à ces services aux moins de 15 ans, comme cela a été fait pour les réseaux sociaux.
Cependant, le rapport insiste sur la nécessité d’un encadrement strict, en particulier pour les mineurs. Il rappelle que le Conseil constitutionnel a censuré une loi interdisant les réseaux sociaux aux moins de 15 ans, mais cela ne signifie pas que les assistants d’IA soient exemptés de toute réglementation.
Une responsabilité partagée
L’encadrement des assistants d’IA ne relève pas uniquement des autorités. Les entreprises, les parents et les utilisateurs ont également un rôle à jouer. Il est essentiel de sensibiliser les jeunes à l’utilisation responsable de ces outils, tout en garantissant que les plateformes respectent les normes de protection des données et des droits des utilisateurs.
{{appel_action}}
Source : Le Monde - À la une