Action : L’IA générative et ses erreurs
Jusqu’ici, les IA que nous avons vues font des prédictions et répartissent des éléments en groupes. Il existe un autre type d’IA dont on parle beaucoup : celle qui crée.
- IA générative
- Forme d’IA qui crée du contenu original, tel que du texte, des images, de la musique ou de la vidéo, en réponse à une requête ou une demande.
Activité 8 : Est-ce de l’IA générative? (3 minutes)
Les outils qui rédigent du texte, produisent des images à partir d’une description ou composent de la musique sont tous des IA génératives. Mais toutes les IA ne sont pas génératives.
Vérifiez votre compréhension
Lequel de ces exemples n’est PAS de l’IA générative?
- Grands modèles de langage (LLM)
- Les LLM analysent de vastes quantités de données pour repérer des schémas qui leur permettent de générer du langage humain et d’y répondre d’une façon qui imite une conversation naturelle.
Comment l’IA générative crée-t-elle du texte?
L’IA générative utilise des grands modèles de langage (LLM) pour prédire le texte qui devrait suivre. Les LLM analysent d’énormes quantités de texte — livres, articles de presse, paroles de chansons, poèmes, conversations dans des applications de messagerie, courriels — afin d’y repérer des schémas.
Voici l’élément surprenant. Quand vous demandez à une IA générative « Combien font 2 × 2? », elle répond 4 parce qu’elle a vu énormément d’équations et que, la plupart du temps, 2 × 2 était suivi de 4. Une calculatrice, elle, fait réellement le calcul. L’IA générative se contente de dire : « 4, c’est ce que je vois habituellement, donc je réponds 4, car cela correspond au schéma. »
L’IA générative fait-elle des erreurs?
Oui! Imaginez que votre enseignant·e demande à une IA générative de rédiger votre bulletin. L’IA a été entraînée à partir de nombreux autres bulletins, dont certains proviennent d’autres pays, comme les États-Unis. Les élèves américains ont généralement un cours d’histoire des États-Unis à leur bulletin : l’IA pourrait donc ajouter cette matière au vôtre, même si vous ne l’avez jamais suivie.
Et tout comme l’IA qui ne distinguait pas les chiens des chats, un LLM peut faire des prédictions inattendues, parce que nous ne savons pas exactement avec quelles données il a été entraîné. Un LLM entraîné uniquement à partir des pièces de Molière proposerait des mots très différents de celui entraîné uniquement à partir de messages textes.
Activité 9 : Repérer l’hallucination (3 minutes)
Lisez cet échange fictif avec un robot conversationnel.
Question : Parle-moi de la première personne canadienne à avoir marché sur la Lune.
Robot : Marc Garneau est devenu le premier Canadien à marcher sur la Lune en 1984, lors de sa mission à bord de la navette spatiale Challenger.
Vérifiez votre compréhension
Qu’est-ce qui cloche dans la réponse du robot?
- Hallucination
- Quand l’IA génère de l’information incorrecte, inventée ou insensée, qui semble plausible mais qui n’est pas fondée sur la réalité.
Vérifiez toujours
Vérifiez TOUJOURS le contenu créé par une IA générative. Elle prédit les mots qui vont habituellement ensemble; elle ne vérifie pas s’ils sont vrais.
As-tu terminé cette leçon?
Marquez-la comme terminée pour pouvoir reprendre où vous vous êtes arrêté·e.