Intelligences sous surveillance, par Christopher Pollmann (Le Monde diplomatique, octobre 2024)

Les publications critiques sur l’informatisation de la société se multiplient. L’une des plus importantes vient peut-être de Byung-chul Han. Né en Corée du Sud et installé en Allemagne à 22 ans sans en maîtriser la langue, il est devenu le philosophe allemand vivant le plus lu de par le monde. Ses essais courts, incisifs et denses (La Société de transparence et La Société de la fatigue, Presses universitaires de France, 2017 et 2024) mettent des mots sur les maux contemporains. Dans son fulgurant et synthétique Infocratie (1), Han dépeint une nouvelle forme de pouvoir, le régime de l’information et des données dont « les gens sont prisonniers » tout en se croyant libres : non pas « opprimés, mais rendus addicts ». Avec le « dataïsme », « liberté et surveillance reviennent au même », tout comme « la distinction entre vérité et mensonge elle-même est désactivée ». Quant au smartphone, sur lequel arrivent des informations choisies par algorithmes, il est un « appareil de soumission » qui « accélère la désagrégation de l’espace public », puisque chacun y reçoit ce qui lui est destiné… Si Han qualifie ce nouveau régime de « totalitaire », c’est selon lui un « totalitarisme sans idéologie », porteur de nihilisme.

Selon le philosophe et mathématicien Daniel Andler, on est, en effet, piégé par les bénéfices et l’attrait des technologies en réseau (2). Car « plus la technologie donne des leviers d’action aux utilisateurs, moins ils peuvent la contrôler dès lors qu’ils sont nombreux ». C’est l’intelligence artificielle (IA) qui est au cœur de son consistant ouvrage tout en nuances. S’il conserve cette dénomination, c’est parce qu’« elle est consacrée », mais rappelons que, pour le médecin et philosophe Georges Canguilhem, de telles « expressions non pertinentes » visent à « dissimuler la présence de décideurs derrière l’anonymat de la machine » et à « désarmer l’opposition à l’envahissement d’un moyen de régulation automatisée des rapports sociaux » (3).

Andler examine le but de l’IA — égaler l’intelligence humaine —, qui « ne semble jamais se rapprocher, alors même que l’IA progresse constamment ». Or ce dessein est une chimère, car contrairement à une illusion persistante, l’intelligence de l’homme — qui n’est pas objectivable sans pour autant être purement subjective — n’est pas réductible à l’ensemble de ses capacités. Si celles-ci sont peu à peu prises en charge par les systèmes artificiels intelligents, deux aptitudes manquent à ces derniers : celles d’être « affectés par la réussite et l’échec, et d’être capables de faire provisoirement abstraction de toute considération rationnelle ».

C’est sur le plan géopolitique que la politiste Asma Mhalla aborde la question du rôle des IA — réseaux sociaux, satellites, implants neuronaux, etc. — dans un ouvrage qui a suscité intérêt et vives critiques (4). Elle estime « urgent qu’Européens et Américains pensent une forme nouvelle de souveraineté élargie », notamment pour « fixer les très complexes chaînes de responsabilité algorithmique en cas d’erreurs graves, d’accidents ou de crimes ». Constatant que face à la Big Tech des Gafam (Google, Apple, Facebook, Amazon, Microsoft) se développe le « Big State », cet État fort qui combine le pouvoir et la puissance, elle suggère d’« introduire le tiers qui manque, le Big Citizen », regroupement de chercheurs et de membres de la société civile européens et américains.