On entend beaucoup parler de l’intelligence artificielle (IA) ainsi que des algorithmes qui s’assurent que les utilisateur.ices de plateformes en ligne restent le plus longtemps accros à ces dernières, mais qu’en est-il vraiment ? Cet été, j’ai lu deux ouvrages fort intéressants sur le sujet, une pièce de théâtre, Boîte noire, écrite par Catherine-Anne Toupin et un court essai, Algorithmes, bientôt maître du monde ?, rédigée par Aurélie Jean. Voici ce que j’en ai pensé.
Boîte noire
Dans cette pièce de théâtre, nous suivons trois personnages, trois migrants arrivé.e.s dans un camp en ayant illégalement franchi la frontière. Ils réussissent à travailler pour « la boite noire », c’est-à-dire une machine programmée pour permettre aux humains qui y entrent de prendre de meilleures décisions. Tendaji, Andrés et Laïla travaillent donc pour la compagnie Essor afin de renforcer l’algorithme. Leur travail, sous-payé, 3 $/h (pas de lois dans les camps de réfugié.e.s qui sont menés comme une entreprise privée) et sous-pression, est de cliquer afin de décider si chaque image vue est positive ou négative :
Laïla, efficace
On est ici pour collecter des milliards de données. C’est comme ça que fonctionne le système d’intelligence artificielle de La boîte. Ça s’appelle du clickwork. Le système va vous montrer des vidéos, des images… Vous faire lire des bouts de textes pis vous allez avoir un maximum de trente secondes pour décider si c’est un bon ou un mauvais choix.
Scène 7, p.39
Pendant ce temps, Éliza et David Williams, les scientifiques derrière La boîte se rendent compte que quelque chose cloche. Les derniers testeur.se.s de La boîte en ressortent violemment amoché.e.s et il y a même eu un suicide. Pourtant, ils sont rendus trop loin pour renoncer. Du moins, c’est ce que pense Éliza. David est plus prudent, mais est-il trop peu, trop tard ? Qu’arrivera-t-il aux migrants qui ne souhaitent qu’une meilleure vie ? À un certain point, ils se sentent dépassés par les images parfois très violentes qui leur sont présentés, un des deux hommes suggérera de fermer les yeux et de cliquer n’importe où… On peut penser aux conséquences de ces actes sur les algorithmes, mais on ne peut pas blâmer l’homme qui a déjà subi de nombreux traumatismes durant sa vie.
Catherine-Anne Toupin touche au cœur du débat sur l’intelligence artificielle. Malgré le rêve et les bons côtés qu’elle peut engendrer, des failles importantes et du travail qui ressemble à de l’esclavagisme sont derrière celle-ci. La dramaturge le nomme en avant-propos, elle s’est inspirée d’études et de faits d’actualité pour composer cette pièce et le lecteurice peut vraiment le ressentir. On en ressort un peu sous le choc avec, encore plus, de questions. Boîte noire est une pièce de théâtre très actuelle qui touche à un sujet plus que pertinent. Elle pousse à la réflexion et à faire nos propres recherches aussi avant de faire confiance à l’intelligence artificielle et aux algorithmes qui nous promettent mer et monde.
- Autrice : Catherine-Anne Toupin
- Maison d’édition : Somme toute
- Collection : La Scène
- Parution : 2 février 2026
- Nombre de pages : 192
Algorithmes, bientôt maîtres du monde ?
Ce très très court essai s’adresse surtout aux adolescent.e.s, c’est d’ailleurs pour cette raison que je l’ai lu récemment, dans le cadre de ma profession. Il fait partie de la collection ALT qui offre « un tête-à-tête inspirant avec un auteur sur un sujet précis ».
Cet essai a été publié en 2024 et comme l’intelligence artificielle est toujours en train de se développer, peut-être qu’une petite mise à jour serait nécessaire, mais je l’ai tout de même trouvé fort intéressant pour quiconque cherche à se construire une base de connaissances sur le sujet.
Aurélie Jean répond donc à son titre par la négative, elle affirme que l’intelligence artificielle n’arrivera jamais à atteindre les trois composantes de l’intelligence selon Robert Sternberg, un spécialiste dans ce domaine : l’intelligence analytique, l’intelligence créative et l’intelligence pratique. Est-ce que ça veut dire qu’on ne doit pas s’en méfier ? Pas du tout, au contraire. L’autrice appuie sur le fait que l’IA n’égale pas pensée critique et n’est pas sans failles. Toutefois, l’IA change le monde, d’ailleurs une donnée qui m’a vraiment surprise est celle-ci :
Selon plusieurs études conduites en 2018, dont celles du British Council et du World Economic Forum, 65 % des enfants d’aujourd’hui exerceront demain un métier qui n’existe pas encore.
P.20
C’est complètement fou ! Il faudra donc préparer ses enfants à développer leur pensée critique encore plus et à mieux comprendre aussi ces algorithmes qui manipulent et qui gèrent de plus en plus notre quotidien. En attendant, la plupart de ces algorithmes sont façonnés par des travailleur.se.s sous-payé.e.s et soumis.e.s à des données et des images qui peuvent faire énormément de dommages. L’IA est loin d’être parfaite tout comme les humains qui la développent, il faut s’en rappeler et encore plus aiguiser notre pensée critique dans un monde qui semble en avoir de moins en moins. Vive l’éducation !
- Autrice: Aurélie Jean
- Maison d’édition: De la Martinière jeunesse
- Collection: ALT
- Parution: 10 février 2024
- Nombre de pages: 28
Crédit photo: Valérie Ouellet
