Robots conversationnels, les liaisons dangereuses
« Les gens qui construisent l’intelligence artificielle croient sincèrement qu’elle pourrait tous nous tuer d’ici à la fin de la décennie », a admis en septembre dernier un salarié démissionnaire d’Anthropic, l’une des entreprises les plus à la pointe du secteur. Alerte ou alarmisme ? Quoi qu’il en soit, les robots conversationnels ont déjà profondément modifié notre rapport aux machines et aux autres humains.
Romain Zeder. – « Narcisse », 2022
© Romain Zeder
En 1966, dix ans après la conférence de Dartmouth, qui marque le coup d’envoi du programme de recherche technoscientifique consacré à l’« intelligence artificielle » (IA), le premier robot conversationnel voit le jour aux États-Unis, entre les murs du célèbre Massachusetts Institute of Technology (MIT). Ce programme, développé par Joseph Weizenbaum, alors professeur d’informatique au MIT, permet de simuler des interactions linguistiques. Le principe est simple : un utilisateur tape une phrase à l’aide d’une machine à écrire connectée à un ordinateur, le logiciel analyse la phrase, génère une réponse adaptée en fonction de son script et envoie la réponse sous forme de texte. Son créateur le nomme Eliza, du nom d’un des personnages de la pièce de théâtre Pygmalion, Eliza Doolittle, une fleuriste qui apprend un langage aristocratique afin de se faire passer pour une duchesse. Le programme simule non pas une aristocrate, mais un psychothérapeute dans une parodie d’échange avec le patient. Il se contente de reformuler les affirmations de l’utilisateur, la plupart du temps sous forme de question, afin de le faire parler davantage, sans jamais fournir de réponse détaillée.
Ce choix s’explique par des raisons techniques : le programme n’a pas accès à un stock d’informations dans lequel il pourrait puiser pour produire ses réponses, il procède par identification des mots-clés dans les phrases émises et applique des règles. Par exemple, s’il reconnaît des mots comme « père » ou « mère » dans les requêtes écrites par l’utilisateur, le logiciel génère une réponse du type « Parlez-moi de votre famille ». À défaut, Eliza répond avec une phrase générale, du type « Je comprends », « Très bien », « Poursuivez ».
Il s’agit donc d’un dispositif assez basique. Pourtant, les effets psychiques s’avèrent stupéfiants. Weizenbaum lui-même s’étonne de la vitesse et de l’intensité avec lesquelles les utilisateurs l’anthropomorphisent et l’investissent (…)
Taille de l’article complet : 2 174 mots.
Cet article est réservé aux abonnés
accédez à la base de données en ligne de tous les articles du Monde diplomatique de 1954 à nos jours.
Retrouvez cette offre spécifique.
Anne Alombert
Maîtresse de conférences en philosophie à l’université Paris-VIII. Auteure du livre De la bêtise artificielle, Allia, Paris, 2025.