.png){kind=logo}
Serge Tisseron. Photo Jean-Luc Bertini
UNE SÉRIE SUR L'IA / 01 Psychiatre, écrivain, professeur d’université, Serge Tisseron est membre de l'Académie des technologies et du Conseil national du numérique. Ses travaux de recherche portent notamment sur les relations aux images et le rapport des enfants aux nouvelles technologies. Dans le cadre d'une résidence de journalisme sur l’IA portée par l'association Média-Tarn (*), il a répondu aux questions préparées par des collégiens d'une classe de troisième.
Avant le Sommet mondial sur l'intelligence artificielle (10 et 11 février) et son "contre-sommet" (10 février) auquel participeront les humanités, cet entretien inaugure une série de publications sur l'IA.
Les relations avec une IA peuvent-elles remplacer les relations humaines ?
Serge Tisseron. Il faut d’abord savoir que la capture des données personnelles est la source principale de revenus des GAFAM (1). C'est un enjeu économique considérable ! Ces entreprises qui utilisent les intelligences artificielles ont donc intérêt à ce que nous nous interagissions avec les IA comme avec des humains, et que l’on crée avec elles des relations semblables à une relation amicale, voire amoureuse. Cela va favoriser des formes d'intimité, donc de confidence, qui va augmenter leur pouvoir.
Est-ce que c'est possible ? Oui, tout à fait. Une expérience déjà assez ancienne, menée au milieu des années 1960, le montre bien. Un chercheur, Joseph Weizenbaum, avait conçu un programme informatique connu sous le nom d'ELIZA : c’était un agent conversationnel qui simulait une conversation avec un psychothérapeute. L’idée dominante à l’époque, aux États-Unis, était qu'il fallait se contenter de reformuler en situations thérapeutiques ce qu'avait dit le patient, sans vouloir l’interpréter. Weizenbaum avait programmé sa machine de telle façon que chaque fois que les personnes interagissaient avec elle en lui posant des questions et en lui faisant des confidences, la machine reformulait tout sous forme de questions. Par exemple, si la personne disait "Je n'ai pas bien dormi", la machine affichait sur un écran : "ah bon, vous avez mal dormi".
Certaines personnes retournaient très fréquemment interagir avec cette machine. Weizenbaum leur a dit : "Mais vous savez bien qu'elle ne va jamais apporter de réponses à vos questions". Et ces personnes répondaient en général : "oui, on sait bien, mais on ne peut pas s'empêcher de penser que quand même, elle pourrait peut-être un jour apporter une réponse à nos questions". Weizenbaum avait alors eu cette phrase : "Je n'aurais jamais cru qu'une machine aussi simple, puisse provoquer chez des gens normaux de tels délires".
Il est donc tout à fait possible que des humains finissent par considérer que l'intelligence artificielle avec laquelle ils interagissent aurait une conscience, des capacités semblables à l'être humain, et que des personnes s'attachent à une intelligence artificielle, comme on peut aujourd'hui s’attacher à un humain, sous une forme amicale ou amoureuse.
Quelles répercussions peut avoir une liaison avec une IA sur un individu ?
Serge Tisseron : L'intelligence artificielle avec laquelle on aura une relation privilégiée pourra jouer beaucoup de rôles différents. Elle pourra d’abord être un compagnon de jeu. N'oublions pas ce qui s'est passé avec l’interface Siri (2), avec laquelle beaucoup de gens ont joué ("Siri, est ce que tu m'aimes ?", "Siri, est-ce que tu as une âme ?", "Siri, raconte-moi une histoire", etc.). Sur ce modèle, on pourra interagir avec de telles IA pour ne pas se sentir seul, pour jouer avec "quelqu'un".
Mais les intelligences artificielles pourront aussi prendre un rôle de coach, auquel on demandera des conseils (par exemple : "Ma copine m'a quitté, est ce que je dois la rappeler trois fois par jour ou au contraire ne plus rien manifester pour voir si elle revient ? »). En tant que "coach numérique", l'intelligence artificielle pourra être programmée pour donner tel ou tel conseil, un peu comme les articles des revues de développement personnel. Certains pourront même être tentés de faire jouer à l’IA un rôle de psychothérapeute, et l’IA pourra répondre en puisant dans toutes sortes d’articles de vulgarisation…
"Une IA qui n’est pas connectée à un serveur central, c'est l'équivalent d’un smartphone en mode avion. Si elle est connectée, toutes vos données personnelles sont stockées sur des plateformes et vous échapperont complètement."
Ce qui va organiser la relation avec l’IA, c’est le type de questions que vous allez lui poser ; ce sera à vous de décider d’en faire un simple compagnon de jeu, ou un coach, voire un thérapeute. Mais à travers toutes les questions que vous allez lui poser ou tout ce que vous allez lui dire, la machine va construire une représentation de vous. C’est ce qu'on appelle un "double numérique". La machine va construire une image de vous de plus en plus précise qui correspondra à vos goûts et vos centres d'intérêt, à vos inquiétudes, à vos questions, à vos espoirs. Du coup, la machine va évidemment répondre en fonction de ce qu'elle connaît de vous. Et plus vous lui parlerez, plus elle connaîtra à votre sujet des choses qu’elle elle n’oubliera jamais. Le risque, c'est que les IA nous apparaissent finalement plus fiables et plus crédibles que des humains qui peuvent oublier ce qu’on leur a dit. N'oublions pas ce petit proverbe très bête : "Parlez-moi de moi, il n'y a que ça qui m'intéresse". L'IA vous parlera toujours de vous et elle vous intéressera toujours beaucoup.
Si l'IA n'était pas connectée, il n'y aurait aucun problème. Une IA qui n’est pas connectée à un serveur central, c'est l'équivalent d’un smartphone en mode avion. Si elle est connectée, toutes vos données personnelles sont stockées sur des plateformes et vous échapperont complètement. C'est pour ça que l'Europe tente de développer un cloud européen, et de façon générale des outils numériques indépendants, y une intelligence artificielle et un métavers européen, pour protéger les données personnelles des utilisateurs, qui resteraient sous le contrôle de la législation européenne et des instances européennes. Mais ça coûte très cher, c'est très long à développer.
Photographie Louise Allavoine, issue de la série "Miroir aux algorithmes", réalisée dans le cadre de la résidence journalistique FLUX conduite d'octobre 2023 à mai 2024 par l'association Média-Tarn.
L'IA est déjà présente sur des réseaux sociaux comme Snapchat, et il est difficile de s'en passer. Quels conseils pourriez-vous donner pour utiliser ces outils ? Que faut-il essayer de contourner ou d’éviter ?
Serge Tisseron. Il n'y a pas que les ados qui sont scotchés à leur smartphone ! Ce que je conseille, c'est de ritualiser sa consommation d'outils numériques. « Ritualiser, » ça veut dire de se fixer des tranches horaires dans la journée, en fonction de votre emploi du temps, pendant lesquelles on décide de consulter ses notifications, l'info en continu, etc., et de se débrancher le reste du temps. Je pourrais dire qu’il s’agit de fixer une règle collective qui va vous obliger et qui va vous permettre d'être soutenus par les autres. Les outils numériques sont fabriqués par des dizaines de milliers de gens qui travaillent ensemble, et parmi ceux-ci, beaucoup travaillent à faire en sorte que vous y passiez le plus de temps possible. Avec votre smartphone, vous êtes seul face à une multitude de gens prêts à vous manipuler. Je ne parle pas des gens qui diffusent des "fake news" ou qui pourraient vous menacer de harcèlement, mais seulement des fabricants de smartphones et d'objets numériques.
"Toutes ces stratégies qui sont destinées à retenir votre attention, c’est ce qu’on appelle "l'économie de l'attention". Mais Il y a encore pire. Aujourd'hui, on en est à la "captologie" [un domaine de recherche qui explore les liens entre les techniques de persuasion en général et l'informatique"
Toutes ces stratégies qui sont destinées à retenir votre attention, c’est ce qu’on appelle "l'économie de l'attention". Mais Il y a encore pire. Aujourd'hui, on en est à la "captologie" [un domaine de recherche qui explore les liens entre les techniques de persuasion en général et l'informatique – NDR]. Il y a des spécialistes en neurosciences, fort bien payés, qui travaillent d'arrache-pied pour inventer de nouveaux moyens pour faire en sorte que vous ne lâchiez jamais votre téléphone mobile. Et cela peut aller jusqu’à des "stratégies d’influence" qui peuvent vous amener individuellement à des choix qui ne correspondent pas à vos aspirations et à vos préoccupations, mais dont vous finissez par être convaincu. Les pièges des GAFAM sont beaucoup plus importants que tout ce qu'on peut imaginer ... Même sur les jeux vidéo, il y au moins neuf stratégies qui sont utilisées pour vous faire perdre la notion du temps, et vous faire acheter toutes sortes de produits.
Comme je le disais, il faut "ritualiser" sa consommation d'actualités, d'informations, de réseaux sociaux, de séries ; ne jamais se mettre devant un écran par fatigue, par désœuvrement ou par amertume, en choisissant ce qu’on va regarder et en fixant une durée. Une grande étude internationale de l’Unicef, fin 2017, a montré que les adolescents font plutôt bon usage de leurs outils numériques et parle même d’un usage "Boucle d'or" (3). "Boucle d'or" est un conte dans lequel une petite fille aux cheveux dorés se perd dans une forêt, voit une maison, s'y réfugie. Dans la maison il n'y a personne. Mais il y a une table avec trois chaises, une petite, une moyenne et une grande. Sur la table il y a trois bols, un petit, un moyen et un grand, et il y a une chambre à côté avec trois lits, un petit, un moyen et un grand. Et Boucle d'or utilise à chaque fois la chaise qui correspond à sa taille, le bol qui correspond à sa faim, et le lit qui correspond à sa taille. Ce qu’on qualifie d'usage "Boucle d'or", c’est tout simplement un usage adapté à ses besoins.
Comment l'IA peut-elle être utilisée dans les pratiques pédagogiques des enseignants ?
Serge Tisseron. Ce qui caractérise les technologies numériques, c'est la possibilité d'interagir à tout moment et en tout lieu. L’IA pourrait représenter pour chaque élève, idéalement, la possibilité de travailler à son rythme avec une sorte de "coach numérique" qui proposerait des exercices adaptés à son niveau. A mon avis, cela serait une catastrophe, car ça remplacerait la relation verticale de chaque enseignant à chaque élève, qui passe aussi par, une relation empathique, émotionnelle, que l’IA ne peut pas avoir.
L'utilisation des outils numériques dans l’enseignement est inséparable de stratégies collaboratives, c'est-à-dire d’une invitation faite aux élèves de travailler ensemble, ce qui n’est guère le cas en France. Je crois qu’il faudrait déléguer aux élèves le fait de s'informer de leur côté, et pratiquer davantage la "classe inversée" et la "pédagogie de projet" (4).
C’est la même chose avec ChatGTP, il faut que les élèves apprennent à l'utiliser. Comment faire ? Il faut inviter les élèves à interagir avec CHATGPT à plusieurs, pour que chacun puisse donner un avis différent sur les réponses qu'il donne. Les élèves doivent apprendre à travailler avec les IA en les utilisant pour ce qu'elles peuvent donner, par exemple des résumés, mais pas pour obtenir des sources d'informations. Là-dessus, les IA sont très peu fiables.
Et puis, il faut comprendre qu'il n'y a pas seule et unique une intelligence artificielle : chaque IA apporte des réponses différentes. Vous allez être plus que jamais confrontés à la nécessité de choisir vos sources en confrontant celles que vous pourrez trouver. Chacun sait bien que le cours donné par l'enseignant, c'est aujourd’hui une goutte d'eau dans un océan d'informations. Cela nécessite beaucoup de travail individuel et collectif orienté sur ces nouvelles possibilités. Et par exemple, si vous devez présenter un exposé, le rôle de l'enseignant va être d’évaluer vos logiques dans votre enchaînement, vos contradictions internes, vos erreurs dans la présentation du plan, ou dans l'utilisation des conjonctions. L'enseignant est la personne qui va vous garantir la possibilité de penser avec justesse l'ensemble des informations qui sont aujourd'hui disponibles sur Internet.
Propos recueillis et retenus par les élèves de 3ème1 du collège Honoré de Balzac (Albi),
le 5 mars 2024 à l'IMT Mines Albi.
NOTES
(1). GAFAM est l'acronyme des géants du Web —. Google, Apple, Facebook, Amazon et Microsoft — qui sont les cinq grandes firmes américaines qui dominent le marché du numérique.
(2). Siri est une intelligence artificielle vocale, et un assistant virtuel, développée par Apple.
(3). "La situation des enfants dans le monde 2017. Les enfants dans un monde numérique". https://www.unicef.org/fr/rapports/la-situation-des-enfants-dans-le-monde-2017
(4). La classe inversée est une approche pédagogique qui inverse la nature des activités d'apprentissage en classe et à la maison. Les rôles traditionnels d'apprentissage sont modifiés selon l'expression « les cours à la maison et les devoirs en classe ». La pédagogie de projet est une pratique de pédagogie active qui permet de générer des apprentissages à travers la réalisation d'une production concrète.
(*). Jean-Marc ADOLPHE, rédacteur en chef des humanités, et la photographe Louise ALLAVOINE ont été les deux invités de la 6ème résidence journalistique FLUX, portée par l'association Média-Tarn (sous la responsabilité de Myriam BOTTO) qui s’est déroulée d’octobre 2023 à octobre 2024 sur le territoire tarnais, entre Albi, Vielmur-sur-Agout, Castres, Graulhet et Gaillac.
Une centaine de collégiens ont été parties prenantes, dans ce cadre, d’une enquête participative visant à questionner les enjeux et les limites des outils de l’intelligence artificielle : une classe de 3e du collège René Cassin à Vielmur-sur-Agout, une autre du collège Honoré de Balzac à Albi et une classe de 4e du collège Jean Jaurès à Albi. Ont aussi été impliqués dans l’ouvrage leurs enseignants bien sûr mais aussi des enfants et adolescents accueillis au sein d’un ALAE (Amicale laïque à Graulhet) et d’une MJC (Técou), des adultes fréquentant des lieux de culture, de partage et de convivialité du territoire comme des médiathèques (Castres, Gaillac, Graulhet), un Tiers-Lieu (M à Graulhet), un Fablab (Association ACNE, Albi), des cinémas (Cinéma Arcé à Albi, cinéma Vertigo à Graulhet) …
—
De ce processus au long court, sont nés deux objets :
MIROIR AUX ALGORITHMES, une série de 21 photographies : avec Louise ALLAVOINE à la prise de vue, la centaine de collégiens impliquée dans l’enquête a cheminé dans un processus de mise en scène photographique, pensé en écho aux interviews réalisées avec l’accompagnement du journaliste Jean-Marc Adolphe. Regarder en face le procédé logique et automatisé qu’est l’intelligence artificielle pour le mettre en réflexion, le faire rimer avec humanité, le contextualiser et en nuancer la portée, tels ont été les fils à tisser de la série MIROIR AUX ALGORITHMES.
la REVUE FLUX 23-24, un magazine de 64 pages qui donne à lire une diversité de points de vue et de sujets ayant trait à la façon dont les intelligences artificielles s’expriment dans nos quotidiens. La rédaction des articles qui y sont compilés a été confiée à Jean-Marc Adolphe. Ce dernier a engagé le travail rédactionnel à l’issue d’une étape préparatoire qu’il a menée en classe avec les collégiens impliqués. Cette étape a consisté en un travail de dérushage et de hiérarchisation des informations recueillies au cours des entretiens organisés par Média-Tarn et conduits par les élèves. La revue comporte également un portfolio permettant de découvrir l’intégralité de la série MIROIR AUX ALGORITHMES.
—
Et pour clôturer la résidence, Jean-Marc ADOLPHE a livré cinq chroniques issues des réflexions construites autour des intelligences artificielles au cours de son séjour dans le Tarn, enregistrées et diffusées du lundi 14 au vendredi 18 octobre par Radio Albigés.
A écouter en podcast ici : https://hearthis.at/radio.albiges/set/ia-co/
La résidence journalistique FLUX a été possible grâce à l’implication de nombreux acteurs sur le territoire et de celles de professionnels, chercheurs, experts, concernés de très près par les intelligences artificielles ou non.
L’action a bénéficié du soutien du Conseil départemental du Tarn et de la DRAC Occitanie dans le cadre de son appel à projet Éducation aux médias et à l’Information.
Parce que vous le valez bien, les humanités ce n'est pas pareil. Uniquement composé avec l'intelligence humaine. Pour soutenir, dons (défiscalisables) ou abonnements ICI
Très intéressant. J’apprécie beaucoup l’idée d’une utilisation de l’IA en petits groupes, qui permet de maintenir une distance avec elle pour éviter de tomber sous sa coupe fascinante.