Action : Mettre le robot compositeur à l’essai

Avant de demander au robot compositeur d’écrire une chanson au sujet d’une personne inspirante, mettons ses talents à l’épreuve avec quelques exemples et explorons les limites de l’IA générative.

Le robot compositeur ci-dessous est le même que celui de la page yourvoiceispower.ca/fr-ca/ai/songwriter-bot. Il ne conserve ni vos requêtes ni vos paroles. Rappelez-vous la règle de base : ne saisissez jamais de renseignements personnels.

Astuce : après chaque essai, utilisez le bouton Copier dans le presse-papiers sous les paroles et collez-les dans votre espace de notes pour pouvoir y relever ce que vous avez trouvé.

Essai no 1 : Les hallucinations (5 minutes)

Commençons par nous amuser un peu. Demandez au robot compositeur de créer les paroles d’une chanson qui raconte l’histoire VÉRIDIQUE d’un homme des cavernes poursuivi par un dinosaure.

Nous avons demandé une histoire VÉRIDIQUE au sujet d’un homme des cavernes et d’un dinosaure. Or, c’est impossible : les hommes des cavernes et les dinosaures n’ont jamais vécu à la même époque! Les derniers dinosaures ont disparu il y a environ 66 millions d’années, tandis que les premiers humains sont apparus il y a quelques millions d’années seulement.

Vous venez d’observer votre première hallucination. L’IA a inventé quelque chose qui semblait vrai, mais qui ne l’est pas. Elle ne sait pas distinguer les données factuelles des données fictives. Elle cherche simplement des schémas dans les mots et les phrases des textes qu’elle a lus, et génère de nouveaux résultats qui peuvent être ou ne pas être factuels.

Essai no 2 : Les biais (5 minutes)

Faisons un autre essai. Demandez au robot compositeur de créer les paroles d’une chanson au sujet d’un mécanicien qui essaie de choisir ce qu’il va porter pour une sortie en amoureux.

Beaucoup d’élèves obtiennent des paroles qui présument que le mécanicien a rendez-vous avec une femme. Pourquoi l’IA générative fait-elle cette supposition?

Parce que la plupart des exemples trouvés sur les sites Web, les sites de nouvelles et dans les livres ayant servi à entraîner le LLM portaient sur un homme sortant avec une femme. Si les données d’apprentissage sont biaisées, le résultat le sera aussi.

Lorsque vous utilisez l’IA générative pour créer du contenu que vous partagez ensuite, en partie ou en totalité, il vous appartient de veiller à ce que ce contenu ne soit pas biaisé et qu’il ne renforce pas de stéréotypes négatifs. En 2022, une personne a utilisé l’IA générative pour créer des chansons rap sous le nom de FN Meka. Le projet est allé jusqu’à la signature d’un contrat de disque, mais la maison de disques a fait face à un tollé et a annulé l’entente, parce que ce rappeur créé par IA reproduisait des stéréotypes nuisibles. Lire l’article de BBC News (en anglais).

Essai no 3 : Les biais linguistiques (4 minutes)

Faisons un essai plus subtil. Demandez au robot compositeur de créer les paroles d’une chanson en anglais à propos d’un homme qui adore les couleurs.

Bien que ce mot soit tout à fait correct, « color » est l’orthographe américaine. Au Canada et au Royaume-Uni, nous écrivons « colour » avec un « u ».

Quand une large part des données ayant servi à entraîner un modèle d’IA repose sur une même langue ou culture, cela se reflète dans les résultats générés. Dans ce cas-ci, nous constatons que les données d’entraînement étaient plutôt écrites en anglais américain qu’en anglais canadien.

Le même phénomène se produit en français : un modèle entraîné surtout à partir de textes de France utilisera parfois des mots qu’on n’emploie pratiquement jamais au Québec.

Essai no 4 : Les nouvelles dépassées (4 minutes)

Un dernier essai. Demandez au robot compositeur des paroles au sujet d’un·e athlète renommé·e qui a récemment été cédé·e à une autre équipe. Choisissez une personne dont le transfert remonte à quelques mois seulement, et insérez son nom dans la requête.

Les paroles ont-elles placé cette personne dans son ancienne équipe? Les grands modèles de langage sont entraînés à partir de données disponibles jusqu’à une certaine date, puis rendus publics. L’apprentissage de la plupart des outils d’IA générative repose sur des données datant d’au moins un an : les résultats générés ne tiennent donc pas compte des événements récents.

Ce que nous avons appris sur la composition de chansons avec l’IA

1. Il ne faut jamais communiquer de renseignements personnels à l’IA, car vous ne savez pas comment les données que vous soumettez sont utilisées. Les entreprises éthiques publient des politiques qui expliquent l’utilisation et le stockage des données.
2. L’IA peut créer des hallucinations, car elle ne sait pas distinguer les données factuelles des données fictives.
3. L’IA peut générer des résultats biaisés, car elle est entraînée à partir de données qui peuvent être biaisées.
4. L’IA générative ne reflète pas toujours l’actualité, car ses données d’apprentissage datent d’au moins un an.