L’intelligence artificielle : un comité d’experts se penche sur les enjeux éthiques et pédagogiques

Depuis avril 2023, quatre rencontres du comité d’experts conjoint de la Commission de l’éthique en science et en technologie (CEST) et du Conseil supérieur de l’éducation (CSE) ont eu lieu.  Ce comité a pour mandat de mener des travaux de réflexion, de consultation et d’analyse autour de l’utilisation des intelligences artificielles (IA) génératives au cégep et à l’université. D’autres rencontres se tiendront au cours des prochains mois.

Au fait, que sont les IA génératives? Selon le populaire ChatGPT, « l’intelligence artificielle générative est une technologie qui utilise des modèles d’apprentissage automatique pour créer de nouvelles informations, images ou textes, en imitant ou en produisant de manière autonome des contenus similaires à ceux existants ».

Comme l’indique Mélanie Rembert, conseillère en éthique à la CEST, qui assiste aussi aux rencontres du comité, ChatGPT n’est pas la seule IA générative. Il en existe plusieurs autres, comme DALL-E, un programme capable de créer des images à partir de descriptions textuelles.

La vitesse à laquelle l’IA se développe amène évidemment une réflexion sur son utilisation. En fait, précise Mélanie Rembert, « la technologie n’est pas nouvelle, mais sa démocratisation est impressionnante. » D’ailleurs, la CEST s’est récemment penchée dans son bulletin Éthique hebdo sur la question de ChatGPT et d’autres IA génératives au regard de plusieurs valeurs liées à l’évaluation des apprentissages des étudiants, telles que l’autonomie, la rigueur, la responsabilité ou encore la propriété intellectuelle.  

Le comité conjoint, formé d’une dizaine de personnes, a recruté des experts en fonction de leurs champs de compétences du monde collégial, universitaire ou de la recherche. On y retrouve notamment Miriam Fahmy, membre de la CEST et conseillère en transfert des connaissances, Daniel Weinstock, professeur, à la Faculté de droit et au Département de philosophie de l’Université McGill, ou encore Edith Gruslin, enseignante et chercheuse au sein du Collège Ahuntsic, au département de biologie et biotechnologies.

L’objectif recherché par le comité est, entre autres, de permettre le développement des compétences des divers apprenants afin qu’ils puissent « évoluer avec le numérique tout en exerçant leur citoyenneté et leur esprit critique face aux changements qu’introduiront les systèmes d’IA tout au long de leur vie », explique Monique Brodeur, présidente du Conseil supérieur de l’éducation.

Mieux comprendre pour mieux apprendre

Certes, l’IA a récemment défrayé les manchettes en raison d’un léger vent de panique qu’elle a fait souffler sur le monde de l’éducation. Celui-ci s’est mis à la percevoir comme une espèce de baguette magique capable de transformer un cancre en un élève brillant en l’espace d’un texte!

Le comité n’est pas là pour diaboliser les IA génératives, mais plutôt « pour maximiser les bénéfices tout en minimisant les risques », commente Mélanie Rembert. La conseillère en éthique ajoute que si les IA génératives font preuve parfois de « fabulation » ou « d’hallucination » en matière d’informations plus ou moins vérifiées par les étudiants, ceux-ci ne sont pas toujours mal intentionnés. Selon Mme Rembert, « il y a des étudiants qui sont intègres, mais qui ne savent pas comment utiliser les IA. »

Concrètement, le comité aborde des questions liées à la redéfinition des règles de citation et des sources de plagiat, mais aussi aux problèmes liés à la responsabilité, à la rigueur intellectuelle et aux biais, car l’étudiant ne sait pas toujours d’où proviennent les sources glanées, notamment par ChatGPT.

Le rapport du comité, outil de réflexion qui est déjà en cours de rédaction et qui sera soumis à la ministre québécoise de l’Enseignement supérieur, Pascale Déry, pourrait aussi évaluer si l’utilisation des IA peut différer entre le collège et l’université en fonction du développement cognitif des étudiants.

Pour l’instant, Mélanie Rembert ne peut toutefois affirmer si le rapport conjoint de la CEST et du CSE fera des recommandations à la ministre. On reste au conditionnel. Reste à voir aussi s’il pourrait aussi inspirer le milieu secondaire, où l’utilisation des IA génératives a déjà bien commencé.