Imaginés il y a 50 ans, les agents IA deviennent une menace que leurs propres créateurs redoutent - Futura, le média qui explore le monde

Au début des années 1970, Marvin Minsky (1927-2016) travaillait déjà sur sa théorie de « la société de l'esprit » qu'il publiera en 1986 (The Society of Mind). Celle-ci considère l'esprit humain comme un vaste ensemble de processus relativement indépendants, appelés agents, qui collaborent et d'où émergent l'intelligence, la pensée et la conscience. Dans le prolongement de ces travaux, les agents autonomes et les systèmes multiagents ont constitué dans les années 1980 et ensuite, l'un des thèmes récurrents de la recherche en IA. Une IA « schizophrène et paranoïaque » peut être régulée par sélection émotionnelle. Ainsi, à titre d'exemple, en 2004, je publiais un article sur des agents capables d'évoluer (Evolutionary Virtual Agents) et en 2011 un modèle de chatbot basé sur un groupe d'agents dialoguant ensemble d'où émergeait une personnalité complexe. On peut en effet représenter la personnalité d'un individu comme un réseau de « facettes » qui interagissent entre elles et avec le monde extérieur. Ces facettes peuvent correspondre à des traits de personnalité différents, comme l'enfant que nous sommes toujours, leparent, le professionnel, etc., ou des compétences spécifiques.