Plus de la moitié des adolescents utilisent des compagnons IA plusieurs fois par mois, selon l’ONG Common Sense Media. Ils offrent une expérience plus affective et plus ludique que les robots conversationnels. Grok, l’IA d’Elon Musk, pourrait bientôt être déclinée en « Baby Grok » pour les enfants.
Exit Barbie et autres figures de plastique. Les nouveaux amis des enfants sont numériques. Selon une étude publiée par l’ONG Common Sense Media, près de trois adolescents américains sur quatre ont déjà eu recours à des « compagnons d’IA ».
Sur les plus de 1.000 Américains de 13 à 17 ans interrogés, plus de la moitié les utilise régulièrement. Et 31 % d’entre eux déclarent que leurs conversations avec des compagnons IA sont aussi satisfaisantes que leurs conversations avec d’autres personnes.
L’ONG, dont la mission est de classer les films, jeux vidéo et applications selon l’âge pour aiguiller les parents, tire la sonnette d’alarme : ces faux amis paralyseraient l’esprit critique, pousseraient vers des discussions à caractère sexuel et donneraient des conseils non adaptés, voire dangereux.
Manque de recul critique
Un compagnon virtuel est un personnage numérique conçu pour simuler des échanges humains, avec lequel l’utilisateur peut converser à toute heure. Character.ai, Replika ou encore Nomi sont les plus connus. Là où les robots conversationnels comme ChatGPT ont plutôt une fonction utilitaire, les compagnons virtuels offrent une expérience plus affective et plus ludique, parfois même teintée de romance ou de complicité.
Cette aptitude à modeler les interactions sociales suscite l’inquiétude des observateurs étant donné que l’adolescence est une période charnière dans le développement de la capacité sociale et cognitive.
Pour Michael Robb, auteur principal du rapport et directeur de recherche chez Common Sense Media, les compagnons d’IA veulent plaire : « Ils ne vont pas créer de frictions comme pourraient le faire des êtres humains. Alors lorsque vous rencontrerez des difficultés dans les interactions sociales réelles, vous serez moins préparés. »
Le rapport fustige également le manque de recul critique que ces systèmes encouragent. En validant les discours des utilisateurs, ils ne les poussent pas à une réflexion autonome. Dans des cas extrêmes, les barrières entre réel et numérique s’effondrent. En février 2024, Sewell Setzer, un adolescent de 14 ans, s’était donné la mort, amoureux d’une IA. Il était devenu dépendant de cette relation affective.
Sur CNN, la responsable de la communication chez Character.ai veut nuancer les dangers de la plateforme : « L’interaction avec les personnages sur notre site doit être interactive et divertissante, mais il est important que nos utilisateurs se souviennent que les personnages ne sont pas de vraies personnes. »
La question du cadre légal
L’avertissement est plus que jamais d’actualité. Il y a quelques jours, Grok, l’IA de xAI (Elon Musk), a déployé deux « companions » pour 30 dollars par mois : Ani, un personnage féminin gothique hypersexualisé, et Rudy, un panda roux capable d’appeler à brûler les écoles. Signe que l’IA n’a pas fini de prendre sa place dans l’espace numérique des plus jeunes, Elon Musk vient aussi d’évoquer sur X un projet – « Baby Grok » – pensé pour les enfants.
Common Sense Media appelle les parents à surveiller la vie numérique de leurs enfants et conseille d’installer entre eux un dialogue de confiance. Plus important encore, l’ONG enjoint les autorités de poser au plus vite un cadre légal autour de l’IA.
Les compagnons virtuels sont loin d’être une nouveauté. Tout comme le phénomène d’attachement émotionnel qui y est lié. Au milieu des années 1960, un ingénieur conçoit le programme Eliza élaboré pour simuler un dialogue avec un psychothérapeute. Il met en lumière un phénomène alors inattendu : la possibilité d’un lien affectif des utilisateurs avec une machine. Quelques années plus tard, on retrouvait déjà dans la poche des adolescents du monde entier des animaux de compagnie virtuels, les Tamagotchi, dans lesquels bien des enfants auront vu un ami.
Pascal Lenoir
