Robots conversationnels, les liaisons dangereuses<\/p>\n
\u00ab\u00a0<\/small>Les gens qui construisent l\u2019intelligence artificielle croient sinc\u00e8rement qu\u2019elle pourrait tous nous tuer d\u2019ici \u00e0 la fin de la d\u00e9cennie\u00a0<\/small>\u00bb, a admis en septembre dernier un salari\u00e9 d\u00e9missionnaire d\u2019Anthropic, l\u2019une des entreprises les plus \u00e0 la pointe du secteur. Alerte ou alarmisme\u00a0<\/small>? Quoi qu\u2019il en soit, les robots conversationnels ont d\u00e9j\u00e0 profond\u00e9ment modifi\u00e9 notre rapport aux machines et aux autres humains.<\/p>\n<\/div><\/div>\n \t\t\t Romain Zeder. \u2013 \u00ab\u00a0<\/small>Narcisse\u00a0<\/small>\u00bb, 2022 <\/p>\n \u00a9 Romain Zeder\n<\/p>\n<\/figcaption><\/figure>\n E<\/span>n<\/span> 1966, dix ans apr\u00e8s la conf\u00e9rence de Dartmouth, qui marque le coup d\u2019envoi du programme de recherche technoscientifique consacr\u00e9 \u00e0 l\u2019\u00ab\u00a0<\/small>intelligence artificielle\u00a0<\/small>\u00bb (IA), le premier robot conversationnel voit le jour aux \u00c9tats-Unis, entre les murs du c\u00e9l\u00e8bre Massachusetts Institute of Technology (MIT). Ce programme, d\u00e9velopp\u00e9 par Joseph Weizenbaum, alors professeur d\u2019informatique au MIT, permet de simuler des interactions linguistiques. Le principe est simple\u00a0: un utilisateur tape une phrase \u00e0 l\u2019aide d\u2019une machine \u00e0 \u00e9crire connect\u00e9e \u00e0 un ordinateur, le logiciel analyse la phrase, g\u00e9n\u00e8re une r\u00e9ponse adapt\u00e9e en fonction de son script et envoie la r\u00e9ponse sous forme de texte. Son cr\u00e9ateur le nomme Eliza, du nom d\u2019un des personnages de la pi\u00e8ce de th\u00e9\u00e2tre Pygmalion<\/i>, Eliza Doolittle, une fleuriste qui apprend un langage aristocratique afin de se faire passer pour une duchesse. Le programme simule non pas une aristocrate, mais un psychoth\u00e9rapeute dans une parodie d\u2019\u00e9change avec le patient. Il se contente de reformuler les affirmations de l\u2019utilisateur, la plupart du temps sous forme de question, afin de le faire parler davantage, sans jamais fournir de r\u00e9ponse d\u00e9taill\u00e9e.<\/p>\n Ce choix s\u2019explique par des raisons techniques\u00a0: le programme n\u2019a pas acc\u00e8s \u00e0 un stock d\u2019informations dans lequel il pourrait puiser pour produire ses r\u00e9ponses, il proc\u00e8de par identification des mots-cl\u00e9s dans les phrases \u00e9mises et applique des r\u00e8gles. Par exemple, s\u2019il reconna\u00eet des mots comme \u00ab\u00a0<\/small>p\u00e8re\u00a0<\/small>\u00bb ou \u00ab\u00a0<\/small>m\u00e8re\u00a0<\/small>\u00bb dans les requ\u00eates \u00e9crites par l\u2019utilisateur, le logiciel g\u00e9n\u00e8re une r\u00e9ponse du type \u00ab\u00a0<\/small>Parlez-moi de votre famille\u00a0<\/small>\u00bb. \u00c0 d\u00e9faut, Eliza r\u00e9pond avec une phrase g\u00e9n\u00e9rale, du type \u00ab\u00a0<\/small>Je comprends\u00a0<\/small>\u00bb, \u00ab\u00a0<\/small>Tr\u00e8s bien\u00a0<\/small>\u00bb, \u00ab\u00a0<\/small>Poursuivez\u00a0<\/small>\u00bb.<\/p>\n Il s\u2019agit donc d\u2019un dispositif assez basique. Pourtant, les effets psychiques s\u2019av\u00e8rent stup\u00e9fiants. Weizenbaum lui-m\u00eame s\u2019\u00e9tonne de la vitesse et de l\u2019intensit\u00e9 avec lesquelles les utilisateurs l\u2019anthropomorphisent et l\u2019investissent\u00a0(\u2026)<\/p>\n<\/p><\/div>\n Taille de l\u2019article complet\u00a0:\u00a02\u00a0174<\/span>\u00a0mots.<\/p>\n Anne Alombert<\/p>\n \n\t\t\t\t\tMa\u00eetresse de conf\u00e9rences en philosophie \u00e0 l\u2019universit\u00e9 Paris-VIII. Auteure du livre De la b\u00eatise artificielle,<\/i> Allia, Paris, 2025.<\/p>\n<\/p><\/div>\n![\"JPEG](\"https:\/\/www.monde-diplomatique.fr\/local\/cache-vignettes\/L890xH890\/img023-67-0381c.jpg?1790694942\")
<\/p><\/div>\n\tCet article est r\u00e9serv\u00e9 aux\u00a0abonn\u00e9s<\/p>\n<\/h2>\n
\n\tacc\u00e9dez \u00e0 la base de donn\u00e9es en ligne de tous les articles du Monde diplomatique<\/i> de 1954 \u00e0 nos\u00a0jours.
\n\tRetrouvez cette\u00a0offre sp\u00e9cifique<\/a>.\n<\/div>\n<\/div><\/div>\n