![\"Affiche](\"https:\/\/fr.sott.net\/image\/s37\/742629\/full\/GettyImages_2202700306_801x534.jpg\" "\\"Cliquer")
<\/a><\/p>\n\u00a9 JOSEP\u202fLAGO\u202f\/\u202fAFP\u202fvia\u202fGetty\u202fImages<\/span>Un homme consulte sa montre devant une affiche faisant la promotion de l\u2019intelligence artificielle (IA) lors du MWC (Mobile World Congress), le plus grand salon mondial de la t\u00e9l\u00e9phonie mobile, \u00e0 Barcelone, le\u202f4\u202fmars\u202f2025.<\/span><\/p>\n<\/div>\n \n Un chercheur sp\u00e9cialis\u00e9 dans la s\u00e9curit\u00e9 de l’intelligence artificielle (IA) a d\u00e9missionn\u00e9 en adressant un message \u00e9nigmatique avertissant que \u00ab le monde est en p\u00e9ril \u00bb.<\/p>\n Mrinank Sharma, qui avait rejoint en 2023 la soci\u00e9t\u00e9 Anthropic, conceptrice de mod\u00e8les de langage de grande ampleur, a annonc\u00e9 son d\u00e9part le 9 f\u00e9vrier sur X, dans une lettre ouverte \u00e0 ses coll\u00e8gues. Il dirigeait alors une \u00e9quipe charg\u00e9e de la recherche sur les m\u00e9canismes de s\u00fbret\u00e9 de l’IA.<\/p>\n Dans sa lettre, M. Sharma explique avoir \u00ab atteint les objectifs [qu’il] s’\u00e9tait fix\u00e9s \u00bb au sein de l’entreprise. Il cite notamment des travaux visant \u00e0 comprendre pourquoi les mod\u00e8les d’IA g\u00e9n\u00e9rative tendent \u00e0 flatter les utilisateurs<\/a> plut\u00f4t qu’\u00e0 fournir des informations exactes, le d\u00e9veloppement de dispositifs de d\u00e9fense pour emp\u00eacher des terroristes d’utiliser l’IA afin de concevoir des armes biologiques, ainsi que des recherches pour d\u00e9terminer \u00ab comment les assistants d’IA pourraient nous rendre moins humains \u00bb.<\/p>\n Bien qu’il dise \u00eatre fier du travail accompli chez Anthropic, l’ing\u00e9nieur de 30 ans estime que \u00ab le moment est venu de tourner la page \u00bb, ajoutant qu’il a pris conscience d’une multitude de crises qui d\u00e9passent largement le champ de l’intelligence artificielle.<\/p>\n \u00ab Je me retrouve sans cesse \u00e0 r\u00e9fl\u00e9chir \u00e0 notre situation \u00bb, \u00e9crit M. Sharma. \u00ab Le monde est en p\u00e9ril. Et pas seulement \u00e0 cause de l’IA ou des armes biologiques, mais d’une s\u00e9rie de crises interconnect\u00e9es qui se d\u00e9ploient en ce moment m\u00eame. \u00bb<\/p>\n \u00ab Tout au long de mon passage ici, poursuit\u2011il, j’ai vu \u00e0 quel point il est difficile de laisser nos valeurs guider nos actions. Je l’ai constat\u00e9 en moi\u2011m\u00eame, au sein de l’organisation, o\u00f9 nous sommes fr\u00e9quemment soumis \u00e0 des pressions pour mettre de c\u00f4t\u00e9 ce qui compte le plus – et dans la soci\u00e9t\u00e9 au sens large \u00e9galement. \u00bb<\/p>\n M. Sharma indique vouloir d\u00e9sormais se consacrer \u00e0 l’\u00e9tude de la po\u00e9sie et quitter la Californie pour le Royaume\u2011Uni, afin de \u00ab devenir invisible pendant quelque temps \u00bb. Epoch Times a sollicit\u00e9 Anthropic pour un commentaire au sujet du d\u00e9part de M. Sharma et de ses inqui\u00e9tudes.<\/p>\n Anthropic, surtout connue pour son agent conversationnel Claude, a \u00e9t\u00e9 fond\u00e9e en 2021 par d’anciens employ\u00e9s d’OpenAI afin de d\u00e9velopper des syst\u00e8mes d’intelligence artificielle plus s\u00fbrs. L’entreprise se pr\u00e9sente comme une \u00ab soci\u00e9t\u00e9 d’int\u00e9r\u00eat public d\u00e9di\u00e9e \u00e0 la s\u00e9curisation des b\u00e9n\u00e9fices de l’IA<\/a> et \u00e0 la r\u00e9duction de ses risques \u00bb.<\/p>\n Elle indique concentrer ses recherches sur deux grands risques : d’une part, que des syst\u00e8mes d’IA tr\u00e8s performants puissent un jour surpasser les experts humains tout en poursuivant des objectifs contraires \u00e0 l’int\u00e9r\u00eat de l’humanit\u00e9 ; d’autre part, que la progression rapide de l’IA d\u00e9stabilise l’emploi, les syst\u00e8mes \u00e9conomiques et les structures sociales.<\/p>\n \u00ab Certains chercheurs soucieux de s\u00e9curit\u00e9 sont guid\u00e9s par une conviction forte quant \u00e0 la nature des risques li\u00e9s \u00e0 l’IA \u00bb, pr\u00e9cise Anthropic sur son site internet. \u00ab Notre exp\u00e9rience montre qu’il est extr\u00eamement difficile de pr\u00e9dire le comportement et les propri\u00e9t\u00e9s des syst\u00e8mes d’IA, m\u00eame \u00e0 court terme. \u00bb<\/p>\n Anthropic publie r\u00e9guli\u00e8rement des \u00e9valuations sur la s\u00e9curit\u00e9 de ses mod\u00e8les, comprenant notamment des analyses de leurs usages potentiellement malveillants.<\/p>\n Le 11 f\u00e9vrier, soit le lendemain de la d\u00e9mission de M. Sharma, la soci\u00e9t\u00e9 a rendu public un nouveau rapport<\/a> identifiant des \u00ab risques de sabotage \u00bb dans son dernier mod\u00e8le Claude Opus 4.6. Le rapport d\u00e9finit le sabotage comme des actions prises de mani\u00e8re autonome par le mod\u00e8le d’IA et susceptibles d’accro\u00eetre les risques de cons\u00e9quences catastrophiques – qu’il s’agisse de modifier du code, de masquer des failles de s\u00e9curit\u00e9 ou d’orienter subtilement des recherches – sans qu’un op\u00e9rateur humain n’exprime d’intention malveillante explicite.<\/p>\n Les chercheurs ont conclu que le risque global \u00e9tait \u00ab tr\u00e8s faible, mais non n\u00e9gligeable \u00bb. Dans de nouveaux tests offrant au mod\u00e8le la possibilit\u00e9 d’utiliser une interface informatique, ils ont not\u00e9 que Claude Opus 4.5 et 4.6 pr\u00e9sentaient \u00ab une sensibilit\u00e9 accrue aux usages malveillants \u00bb, incluant certains cas o\u00f9 ils \u00ab soutenaient sciemment, \u00e0 petite \u00e9chelle, des tentatives de mise au point d’armes chimiques et d’autres crimes odieux \u00bb.<\/p>\n