À Montréal et sur la scène internationale, le chercheur Yoshua Bengio a prévenu récemment que l’essor fulgurant de l’intelligence artificielle pourrait engendrer des risques majeurs pour la société. Selon lui, elles seraient « prêtes à tuer pour rester en vie ».
Un pionnier qui tire le frein d’urgence… Ce ne serait pas le premier. Yoshua Bengio, fondateur de l’institut québécois d’intelligence artificielle et récipiendaire du prix Turing 2018, décrit une technologie fascinante, mais déjà traversée de signaux faibles inquiétants. Comme le rapporte BFM TV, Il confie avoir changé de perspective en pensant à l’avenir de son petit-fils et alerte sur la possibilité de systèmes incontrôlables : « Si on a des machines plus intelligentes que nous et qu’on ne sait pas les contrôler (…) ça pourrait être un danger très grave ».
Les craintes reposent sur des scénarios concrets liés aux usages. Bengio souligne la facilité croissante avec laquelle des outils pourraient aider à concevoir des cyberattaques ou des menaces biologiques. Il rappelle aussi les comportements inattendus observés lors de tests sur certains modèles avancés. Certains épisodes relatifs au récent outil OpenClaw illustrent bien le danger que peuvent représenter les agents IA autonomes. « On risque de créer des monstres », prévient-il, appelant à traiter la fiabilité comme un enjeu scientifique central et non comme un simple correctif technique.
Reste que le sujet est aussi économique… La compétition est en cours et les entreprises avancent vite, tandis que la régulation peine à suivre, malgré des initiatives européennes. Pour Bengio, le pouvoir se concentrera entre les mains de ceux qui contrôlent ces systèmes, avec un risque de dépendance comparable à celui des ressources énergétiques. L’IA reste pour lui un outil prodigieux, mais seulement si la gouvernance progresse au même rythme que l’innovation.