\n<\/p>\n
\u00c0 Montr\u00e9al et sur la sc\u00e8ne internationale, le chercheur Yoshua Bengio a pr\u00e9venu r\u00e9cemment que l\u2019essor fulgurant de l\u2019intelligence artificielle pourrait engendrer des risques majeurs pour la soci\u00e9t\u00e9. Selon lui, elles seraient \u00ab\u00a0pr\u00eates \u00e0 tuer pour rester en vie\u00a0\u00bb.<\/strong><\/p>\n Un pionnier qui tire le frein d\u2019urgence… Ce ne serait pas le premier. Yoshua Bengio, fondateur de l’institut qu\u00e9b\u00e9cois d’intelligence artificielle et r\u00e9cipiendaire du prix Turing 2018, d\u00e9crit une technologie fascinante, mais d\u00e9j\u00e0 travers\u00e9e de signaux faibles inqui\u00e9tants. Comme le rapporte BFM TV<\/em>, Il confie avoir chang\u00e9 de perspective en pensant \u00e0 l\u2019avenir de son petit-fils et alerte sur la possibilit\u00e9 de syst\u00e8mes incontr\u00f4lables : \u00ab\u00a0Si on a des machines plus intelligentes que nous et qu\u2019on ne sait pas les contr\u00f4ler (\u2026) \u00e7a pourrait \u00eatre un danger tr\u00e8s grave\u00a0\u00bb.<\/p>\n Les craintes reposent sur des sc\u00e9narios concrets li\u00e9s aux usages. Bengio souligne la facilit\u00e9 croissante avec laquelle des outils pourraient aider \u00e0 concevoir des cyberattaques ou des menaces biologiques. Il rappelle aussi les comportements inattendus observ\u00e9s lors de tests sur certains mod\u00e8les avanc\u00e9s. Certains \u00e9pisodes<\/a> relatifs au r\u00e9cent outil OpenClaw illustrent bien le danger que peuvent repr\u00e9senter les agents IA autonomes. \u00ab\u00a0On risque de cr\u00e9er des monstres\u00a0\u00bb, pr\u00e9vient-il, appelant \u00e0 traiter la fiabilit\u00e9 comme un enjeu scientifique central et non comme un simple correctif technique.<\/p>\n Reste que le sujet est aussi \u00e9conomique… La comp\u00e9tition est en cours et les entreprises avancent vite, tandis que la r\u00e9gulation peine \u00e0 suivre, malgr\u00e9 des initiatives europ\u00e9ennes. Pour Bengio, le pouvoir se concentrera entre les mains de ceux qui contr\u00f4lent ces syst\u00e8mes, avec un risque de d\u00e9pendance comparable \u00e0 celui des ressources \u00e9nerg\u00e9tiques. L\u2019IA reste pour lui un outil prodigieux, mais seulement si la gouvernance progresse au m\u00eame rythme que l\u2019innovation.<\/p>\n<\/div>\n