Les produits d’IA pour enfants promettent amitié et apprentissage ? 3 éléments à prendre en compte

Par Nandini Asavari Bharadwaj, McGill University et Annie Shiau, McGill University

Les jouets intelligents dotés de connexions Internet et les robots dotés d’IA, capables d’interactions sociales sophistiquées avec les enfants, sont largement disponibles aujourd’hui.

Cette évolution est due au développement rapide de l’intelligence artificielle, dont les effets se font largement sentir. Les entreprises cherchent à améliorer leur productivité et leur chiffre d’affaires, tandis que les gouvernements prennent en compte les mesures de sécurité dans leurs stratégies d’intelligence artificielle.

Les produits d’IA axés sur les enfants comprennent :

• un robot, commercialisé pour les enfants âgés de cinq à dix ans, que les fabricants qualifient de « robot d’apprentissage avec un cœur » doté d’une « compassion infinie » ;
• un robot « compagnon éducatif intelligent » qui promet l’apprentissage des langues et des leçons de science, de technologie et de mathématiques ;
• un robot qui offre une « amitié authentique » et dont le fabricant dit qu’il « sait comment se connecter avec les enfants ».

Les parents et les professionnels qui travaillent avec des enfants peuvent se sentir obligés d’acheter ces produits pour remplacer des activités en personne telles que des rencontres, des thérapies ou des jeux. Ils sont ainsi nombreux à s’interroger sur leur utilité et leur rôle potentiel dans la vie des enfants.

Avant de nous lancer dans un monde de surveillants, de thérapeutes et d’enseignants robots, nous devrions examiner attentivement cette technologie afin d’évaluer ses capacités et sa pertinence dans la vie des enfants.

Des choix éclairés

Nous devons examiner les hypothèses qui sous-tendent ces produits ou la manière dont ils sont commercialisés et plaider en faveur d’approches scientifiques pour l’évaluation de leur efficacité.

Les approches fondées sur des données probantes issues de la psychologie, du développement et de l’éducation des enfants et d’autres domaines connexes permettent de tester, d’observer et de recommander systématiquement l’utilisation de nouvelles technologies, sans intérêts commerciaux particuliers. Cela permet aux parents et aux professionnels travaillant avec des enfants de faire des choix éclairés.

C’est un point critique pour les systèmes d’intelligence artificielle – lesquels, rappelons-le, sont des systèmes qui ne sont pas transparents sur leurs processus de décision. Il existe également des préoccupations concernant la confidentialité des données et la surveillance.

Quelles sont les hypothèses sous-jacentes, soit potentiellement suggérées, soit directement affirmées par ces technologies et la manière dont elles sont commercialisées ? Trois d’entre elles sont examinées ci-dessous.

Hypothèse 1 : Les traits humains comme la curiosité, l’empathie ou les émotions comme le bonheur, la tristesse, le « cœur » ou la compassion peuvent être réalisés dans une machine.

Une personne pourrait supposer que, puisque les produits d’IA peuvent réagir avec des qualités et des émotions semblables à celles d’un humain, ces produits peuvent les posséder. Comme d’autres universitaires l’ont souligné, nous n’avons aucune raison de croire que la démonstration d’émotions humaines ou d’empathie est plus qu’une simple simulation.

Comme la sociologue Sherry Turkle l’a décrit de manière mémorable dans un article d’opinion de 2018, cette technologie nous offre une « intimité artificielle » qui peut être performante, mais qui ne sera jamais comparable à la profondeur de la vie intérieure de l’être humain.

Hypothèse 2 : Lorsque des compagnons, des enseignants ou des thérapeutes s’engagent avec des enfants, leurs qualités et traits humains ne sont pas pertinents.

On peut supposer que les systèmes d’IA n’ont pas besoin de posséder des traits humains s’ils se concentrent sur la pratique des soins, de la thérapie ou de l’apprentissage, ce qui permet d’éviter le problème précédent.

Mais les caractéristiques qui ont rendu la présence humaine essentielle dans le développement de l’enfant sont directement liées à la vie émotionnelle et à des qualités telles que l’empathie et la compassion humaines.

Les interventions de référence pour les problèmes de santé mentale chez les enfants, comme la psychothérapie, exigent des caractéristiques humaines telles que la chaleur, l’ouverture, le respect et la confiance. Bien que les produits d’IA peuvent simuler une conversation thérapeutique, cela ne devrait pas obliger les gens à utiliser ces produits.

Hypothèse 3 : Les recherches qui prouvent l’efficacité des interventions thérapeutiques, de soins ou d’apprentissage menées par des êtres humains sont applicables aux interventions menées par l’IA.

Les relations sociales que les enfants peuvent nouer avec d’autres personnes (qu’il s’agisse d’amitiés, d’alliances thérapeutiques ou de liens entre enseignants et élèves) se sont révélées bénéfiques au cours de décennies de recherche sur l’homme. Comme indiqué ci-dessus, de nombreux produits d’IA axés sur les enfants peuvent se positionner comme des alternatives à ces rôles.

Toutefois, il ne faut pas tenir pour acquise la mesure dans laquelle la recherche sur les expériences interhumaines peut donner des indications sur les avantages des relations enfant-IA. Des décennies de recherche en psychologie nous ont appris que les facteurs contextuels tels que la culture et la manière dont les interventions éducatives et thérapeutiques sont mises en œuvre ont une importance considérable. Compte tenu de la nouveauté de la technologie et du manque de recherches non commerciales approfondies sur les produits d’IA axés sur les enfants, nous devons aborder les allégations d’efficacité avec prudence.

La valeur de la présence humaine

Les périodes de développement précoce sont essentielles pour préparer les enfants à réussir à l’âge adulte.

Les interactions sociales avec les parents, les amis et les enseignants peuvent avoir un impact profond sur l’apprentissage, le développement et la compréhension du monde par l’enfant. Mais qu’en est-il si certaines de ces interactions se font avec des systèmes d’intelligence artificielle ? Des chercheurs en psychologie, en interaction personne-machine et en sciences de l’apprentissage étudient ces questions et d’autres questions connexes dans le cadre de recherches en cours.

Enfin, nous ne pensons pas que l’IA doive être complètement exclue de la vie des enfants. L’IA générative est une forme passionnante d’IA avec ses interfaces conversationnelles, son accès à de vastes informations et sa capacité à créer des médias. Les ateliers d’apprentissage tels que ceux organisés par le MIT Media Lab permettent aux enfants et aux jeunes de se familiariser avec les données et la vie privée et de débattre des idées sur l’IA.

Les enfants ont besoin de soins et de compagnie et bénéficieront toujours d’une présence humaine engagée, émotionnelle et réfléchie. L’empathie, la compassion et la validation sont typiquement humaines. Permettre à un autre être humain de ressentir ce que nous ressentons et de dire « Si j’étais à votre place, je ressentirais la même chose » est irremplaçable. C’est pourquoi nous devrions peut-être laisser ces situations aux personnes qui les maîtrisent le mieux – les personnes humaines !

Par Nandini Asavari Bharadwaj, Ph.D. Candidate, Learning Sciences Program, Department of Educational & Counselling Psychology, McGill University et Annie Shiau, Ph.D. Student, School/Applied Child Psychology Program, Department of Educational & Counselling Psychology, McGill University

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.