-
Soutenez-nous
Votre soutien nous est indispensable pour continuer à vous fournir le meilleur de l’information internationale alternative. C’est grâce à vos dons que nous pourrons maintenir le cap pour une information plurielle et réellement alternative. Nous comptons sur vous.
par BettBeat Media
Les machines ne viennent pas nous chercher. Elles sont déjà là. Et les hommes qui les contrôlent ont clairement exprimé leurs intentions, de façon terrifiante.
Il arrive un moment, lors de l’effondrement de toute civilisation, où les instruments de sa destruction deviennent visibles à ceux qui y prêtent attention. Nous vivons ce moment. Mais les signes avant-coureurs ne sont ni gravés dans la pierre ni écrits dans les prophéties : ils sont inscrits dans le code source, amplifiés par les algorithmes et financés par des hommes qui parlent ouvertement d’extinction de l’humanité tout en œuvrant à la provoquer.
Dans un bureau anonyme de Palo Alto, un homme qui prétend craindre le fascisme en est devenu l’architecte le plus sophistiqué. Dans un vaste domaine texan, un autre, se proclamant défenseur absolu de la liberté d’expression, utilise sa tribune pour amplifier les voix qui appellent au nettoyage ethnique. Et dans les hôpitaux bombardés de Gaza, leurs technologies convergent dans un laboratoire de l’horreur qui préfigure ce qui nous attend tous.
Les quatre cavaliers de l’Apocalypse ne montent pas de chevaux. Ils déploient des algorithmes.
La Confession
Le professeur Stuart Russell a consacré cinquante ans à l’étude de l’intelligence artificielle. Il est l’auteur du manuel qui a servi de référence à la quasi-totalité des PDG d’entreprises d’IA de la Silicon Valley. Aujourd’hui, à raison de quatre-vingts heures par semaine, il ne travaille plus à faire progresser le domaine qu’il a contribué à créer, mais à empêcher l’anéantissement de l’espèce humaine.
«Ils jouent à la roulette russe avec chaque être humain sur Terre», a déclaré Russell lors d’une récente interview, sa voix empreinte du poids de quelqu’un qui a vu les calculs et en a compris les implications. «Sans notre consentement. Ils entrent chez nous, braquent un pistolet sur nos enfants, appuient sur la détente et disent : «Bon, vous savez, il est possible que tout le monde meure. Oups. Mais il est possible que nous devenions incroyablement riches»».
Il ne s’agit pas d’une exagération de la part d’un observateur extérieur. C’est l’évaluation d’un homme dont les anciens élèves dirigent désormais les entreprises qui développent ces systèmes. Et voici ce qui devrait vous terrifier : les PDG eux-mêmes partagent son avis.
Dario Amodei, PDG d’Anthropic, estime à 25% la probabilité d’extinction de l’humanité à cause de l’IA. Elon Musk, quant à lui, l’évalue entre 20 et 30%. Avant de devenir PDG d’OpenAI, Sam Altman déclarait que la création d’une intelligence surhumaine représente «le plus grand risque qui pèse sur l’humanité».
Vingt-cinq pour cent. Trente pour cent. Ce ne sont pas les probabilités d’un pile ou face. Ce sont les probabilités d’une roulette russe avec deux balles dans le barillet. Et pourtant, le barillet continue de tourner.
Lorsqu’on a demandé à Russell s’il appuierait sur un bouton pour stopper définitivement tout progrès en IA, il a hésité – non pas parce qu’il croit cette technologie sûre, mais parce qu’il garde l’espoir que l’humanité puisse se sortir de ce qu’il appelle «cette chute vertigineuse». Interrogé à nouveau dans un an, admet-il, sa réponse pourrait être différente.
«Reposez-moi la question dans un an», dit-il. «Je dirai peut-être : «D’accord, il faut appuyer sur le bouton»».
Mais il n’y aura peut-être pas de bouton. Il n’y aura peut-être pas d’année. L’horizon des événements, comme Altman l’a lui-même écrit, est peut-être déjà derrière nous.
Le problème des gorilles
Russell propose ce qu’il appelle le «problème des gorilles» comme cadre d’analyse pour comprendre notre situation. Il y a quelques millions d’années, la lignée humaine s’est séparée de celle des gorilles au cours de l’évolution. Aujourd’hui, les gorilles n’ont aucun contrôle sur leur propre survie. Nous sommes tout simplement trop intelligents, trop performants, trop dominants pour que leur survie soit autre chose qu’une fatalité. C’est nous qui décidons si les gorilles survivent ou disparaissent. Pour l’instant, nous les laissons vivre.
«L’intelligence est en réalité le facteur le plus important pour contrôler la planète Terre», explique Russell. «Et nous sommes en train de créer quelque chose de plus intelligent que nous».
La logique est implacable. Si nous créons des entités plus performantes que nous, nous devenons les gorilles. Et les gorilles ne peuvent négocier les conditions de leur extinction.
Mais c’est là que le cadre d’analyse de Russell présente des lacunes et, à mon avis, mérite d’être approfondi. Les gorilles sont confrontés à une espèce supérieure. Nous sommes confrontés à une menace bien plus insidieuse : une intelligence supérieure contrôlée par une poignée d’hommes dont les valeurs, comme en témoignent leurs actes, sont à l’opposé de l’épanouissement humain.
Les gorilles, du moins, sont menacés par l’humanité dans son ensemble. Nous sommes menacés par les pires représentants de l’humanité, dont la puissance est décuplée par des technologies qui la multiplient au-delà de tout ce que l’histoire a connu.
«Ces bombes sont moins chères et il ne faut pas gaspiller des bombes coûteuses sur des gens sans importance».
Les Hommes derrière le rideau
Alexander Karp est né dans une famille de militants. Sa mère, artiste afro-américaine, créait des œuvres illustrant la souffrance des enfants noirs assassinés à Atlanta. Son père, un immigrant juif allemand, était pédiatre. Ils emmenaient le jeune Alex aux marches pour les droits civiques, le sensibilisaient à l’injustice et lui apprenaient à lutter contre l’oppression.
Puis, il devint adulte et fonda Palantir.
Tirant son nom des Pierres de Vision du légendaire de Tolkien – des artefacts «destinés à de bonnes fins» mais qui se révélèrent «potentiellement très dangereux» -, Palantir fut fondée au lendemain des attentats du 11 septembre 2001, grâce à un financement initial d’In-Q-Tel, la branche capital-risque de la CIA. Karp, qui affirme «ne pas pouvoir faire ce en quoi il ne croit pas», a consacré vingt ans à faire précisément ce qu’il croyait.
Le logiciel de l’entreprise orchestre désormais ce que les soldats israéliens décrivent avec une efficacité bureaucratique glaçante : «Je consacrais 20 secondes à chaque cible et j’en faisais des dizaines par jour. Ma contribution humaine était nulle. À part donner mon approbation».
Vingt secondes. Voilà la valeur d’une vie palestinienne dans le calcul algorithmique de la création d’Alex Karp. La machine décide qui meurt. L’humain se contente de cliquer.
Lorsque des lanceurs d’alerte ont révélé que les services de renseignement israéliens utilisaient des «bombes non guidées» – des munitions sans précision – sur des cibles identifiées par l’IA de Palantir, leur justification était purement économique : «Ces bombes coûtent moins cher et on ne va pas gaspiller des bombes coûteuses sur des gens sans importance».
Des gens sans importance. Des enfants. Des médecins. Des journalistes. Des poètes.
Karp a admis, dans un rare moment de franchise : «Je me suis demandé si, plus jeune, à l’université, j’aurais manifesté contre moi-même».
Il connaît la réponse. Nous la connaissons tous. Il s’en moque éperdument.
Les Chemises brunes numériques
Elon Musk se présente comme un magnat de la tech d’un genre nouveau : l’ingénieur excentrique, le visionnaire de Mars, le champion de la liberté d’expression qui a racheté Twitter pour le libérer du «virus de la pensée woke». Mais Sky News a récemment mené une expérience qui met à nu cette image soigneusement construite.
Des chercheurs ont créé neuf nouveaux comptes sur X (la plateforme rebaptisée par Musk) et les ont laissés actifs pendant un mois. Trois comptes suivaient du contenu de gauche, trois du contenu de droite, et trois suivaient uniquement des comptes neutres, comme des comptes de sport ou de musique.
Chaque compte, quelles que soient ses préférences déclarées, a été inondé de contenu d’extrême droite. Les utilisateurs qui suivaient uniquement des équipes sportives ont vu deux fois plus de contenu politique de droite que de gauche. Même les comptes de gauche ont été alimentés à 40% par du contenu d’extrême droite.
Il ne s’agit pas d’engagement organique, mais de manipulation algorithmique à l’échelle de la civilisation.
«Si vous ouvrez l’application sur votre téléphone et que vous découvrez immédiatement une actualité potentiellement haineuse envers certains groupes, cela aura forcément un impact», a observé Bruce Daisley, ancien responsable de Twitter pour l’Europe, le Moyen-Orient et l’Afrique. «Il ne s’agit pas de dire que la liberté d’expression est impossible, mais si huit millions de personnes consultent chaque jour sur leur téléphone une actualité qui se situe peut-être à la limite de ce à quoi nous sommes habitués, nous devrions au moins avoir une idée de l’impact que cela aura sur la politique».
Mock Musk a réactivé le compte de Tommy Robinson, agitateur d’extrême droite pro-sioniste qui avait organisé une marche de 150 000 personnes à Londres pour réclamer des expulsions massives. Robinson a remercié Musk publiquement. Musk a republié ces remerciements et a déclaré qu’il était temps pour «les Anglais de s’allier aux durs».
«Durs». L’euphémisme historique pour désigner les fascistes.
Lorsque des personnalités politiques soutenues par Musk publient du contenu, leur engagement explose. Lorsque des politiciens qu’il n’apprécie pas publient des montants identiques, leur portée stagne. Ce n’est pas une place publique. C’est une machine de propagande dirigée par un homme qui s’immisce ouvertement dans la politique de pays où il ne réside pas, soutenant des candidats qu’il n’a jamais rencontrés et promouvant des idéologies qui auraient été considérées comme de l’extrémisme marginal il y a dix ans.
Et voici le lien essentiel : Musk est le PDG de xAI, le principal concurrent d’OpenAI. Il s’est déclaré convaincu à 30% que l’humanité disparaîtra à cause de l’IA. Et il utilise la plateforme de médias sociaux la plus influente au monde pour promouvoir les mouvements politiques les plus susceptibles de supprimer les réglementations qui pourraient empêcher cette extinction.
Les fascistes se sont emparés de l’algorithme.
Le Laboratoire du Futur
En 1948, alors qu’elle perdait sa patrie, le Dre Ghada Karmi était enfant. Elle se souvient suffisamment pour savoir qu’elle a perdu son monde. Pendant soixante-dix-sept ans, elle a vu évoluer les mécanismes d’effacement des Palestiniens, des fusils et des bulldozers aux algorithmes et aux systèmes d’armes autonomes.
«Le sionisme est le mal», affirme-t-elle avec la certitude tranquille de celle qui a consacré sa vie à en étudier les conséquences. «C’est le mal incarné. Il a engendré des catastrophes, la misère, des atrocités, des guerres, l’agression, le malheur et l’insécurité pour des millions de Palestiniens et d’Arabes. Cette idéologie n’a absolument pas sa place dans un monde juste. Aucune. Elle doit disparaître. Elle doit prendre fin. Et elle doit être éradiquée. Même son souvenir doit être effacé».
Mais le sionisme, sous sa forme actuelle, n’est pas qu’une simple idéologie. C’est un modèle économique. C’est une démonstration technologique. C’est le test bêta de systèmes qui seront un jour déployés partout.
Le projet Lavande de l’armée israélienne utilise l’IA pour identifier des cibles à assassiner. Les soldats décrivent le traitement de «dizaines de cibles par jour» sans «aucune valeur ajoutée humaine». L’algorithme marque. L’humain clique. La bombe tombe.
Ce n’est pas une guerre. C’est un jeu vidéo malsain et pervers.
La technologie de Palantir identifie les cibles. Starlink, de Musk, assure les communications. Des entreprises militaires américaines fournissent les armes. Et tout ce système est financé par des gouvernements dont les citoyens ont manifesté par millions pour exiger son arrêt.
«Le génocide n’a pas provoqué de changement dans l’attitude officielle», observe le Dr Karmi. «Je suis stupéfaite et cela exige une explication».
L’explication est plus simple et plus terrifiante que n’importe quelle théorie du complot. Ceux qui contrôlent ces technologies ont décidé que certaines vies ne méritent que vingt secondes de considération, tandis que d’autres ne valent rien du tout. Et les gouvernements susceptibles de les réglementer sont sous l’emprise d’hommes brandissant des chèques de cinquante milliards de dollars.
«Ils agitent des chèques de cinquante milliards de dollars devant les gouvernements», explique le professeur Russell. «De l’autre côté, on trouve des scientifiques brillants et bien intentionnés comme Jeff Hinton qui affirment que non, c’est la fin de l’humanité. Mais Jeff n’a pas de chèque de cinquante milliards de dollars».
Le paradoxe du roi Midas
Russell invoque la légende du roi Midas pour expliquer le piège que nous nous sommes tendus. Midas souhaitait que tout ce qu’il toucherait se transforme en or. Et ce fut le cas. Puis il toucha l’eau et elle devint du métal. Il a touché sa nourriture et elle est devenue immangeable. Il a touché sa fille et elle s’est transformée en statue.
«Il meurt dans la misère et la faim», raconte Russell. «Cela s’applique donc à notre situation actuelle de deux manières. D’une part, la cupidité pousse ces entreprises à développer des technologies dont les risques d’extinction sont pires que de jouer à la roulette russe. Et ceux qui pensent que ce sera naturellement maîtrisable se bercent d’illusions».
Les PDG le savent. Ils ont signé des déclarations le reconnaissant. Ils estiment les chances de catastrophe à une sur quatre, une sur trois, et pourtant ils persistent.
Pourquoi ?
Parce que la valeur économique de l’IAG – l’intelligence artificielle générale – a été estimée à quinze quadrillions de dollars. Cette somme agit, dans la métaphore de Russell, comme «un aimant géant dans le futur. Nous sommes attirés vers lui. Et plus nous nous en approchons, plus la force est forte, plus la probabilité d’y parvenir est élevée».
Quinze quadrillions de dollars. À titre de comparaison, le projet Manhattan a coûté environ trente milliards de dollars actuels. Le budget alloué au développement de l’IA générale l’an prochain atteindra mille milliards de dollars, soit trente fois l’investissement nécessaire à la construction de la bombe atomique.
Et contrairement au projet Manhattan, mené en secret par une nation en guerre, ce développement est réalisé par des entreprises privées, responsables uniquement devant leurs actionnaires, en temps de paix, sans contrôle démocratique, sans cadre réglementaire et sans exigences de sécurité significatives.
«Les personnes qui développent les systèmes d’IA», observe Russell, «ne comprennent même pas comment ces systèmes fonctionnent. Leur estimation de 25% de risque d’extinction est donc purement théorique. Ils n’en ont aucune idée».
Aucune idée. Mais ils dépensent mille milliards de dollars malgré tout. Parce que l’attrait est trop fort. Parce que les incitations sont trop puissantes. Parce qu’ils se sont persuadés que quelqu’un d’autre finira par résoudre le problème de sécurité. Un jour. Probablement. Peut-être.
Et maintenant ?
Si tout se passe bien – si d’une manière ou d’une autre nous parvenons à résoudre le problème du contrôle, à éviter l’extinction, à réussir la transition vers une intelligence artificielle générale sans nous autodétruire – que se passera-t-il alors ?
Russell a posé cette question à des chercheurs en IA, des économistes, des auteurs de science-fiction et des futurologues. «Personne n’a été capable de décrire ce monde», admet-il. «Je ne dis pas que c’est impossible. Je dis simplement que j’ai interrogé des centaines de personnes lors de nombreux ateliers. À ma connaissance, ce monde n’existe pas en science-fiction».
Il existe une série de romans, note-t-il, où humains et IA superintelligentes coexistent : les romans du Cycle de la Culture d’Iain Banks. «Mais le problème, c’est que dans ce monde, il n’y a toujours rien à faire. Rien à trouver de sens».
Les seuls humains qui donnent un sens à leur existence sont les 0,01% à la frontière, repoussant les limites de la civilisation galactique. Tous les autres cherchent désespérément à rejoindre ce groupe «pour avoir un but dans la vie».
C’est le scénario le plus optimiste. L’utopie vers laquelle nous nous précipitons est un paquebot de croisière où le divertissement est sans fin et où le sens ne se révèle jamais.
«Epstein est mort, du moins c’est ce qu’on nous dit. Mais son réseau perdure. Ses complices continuent de s’étendre. Sa vision d’un monde divisé entre ceux qui sont servis et ceux qui sont sacrifiés est en train d’être encodée dans des algorithmes, en ce moment même».
L’Île
Inutile de spéculer sur ce qui arrive lorsque l’humanité est à court de sens. Nous l’avons déjà vu. Nous avons les preuves, les carnets de vol, les témoignages des survivants. Les hommes qui possèdent tout nous ont montré ce qu’ils font quand plus rien n’est interdit.
L’île de Jeffrey Epstein n’était pas une aberration. C’était un avant-goût.
Voici un homme lié à la CIA, au Mossad, aux plus hautes sphères du pouvoir politique américain. Un homme qui, selon des courriels récemment publiés, estimait que le gouvernement fédéral était au courant de l’existence d’une vingtaine d’enfants victimes de trafic. Un homme dont le carnet d’adresses ressemblait à un bottin mondain du pouvoir mondial : présidents, princes, milliardaires de la tech, prix Nobel.
Ces courriels révèlent bien plus qu’une simple criminalité. Ils dévoilent une véritable infrastructure. Epstein était, comme le démontre le chercheur en médias Nolan Higdon, «capable de dénicher des informations compromettantes sur autrui et de détruire son image, mais aussi quelqu’un vers qui l’on pouvait se tourner pour protéger la sienne». Il opérait au carrefour des services de renseignement, du pouvoir financier et du développement technologique : il conseillait sur les logiciels espions, négociait des accords entre gouvernements et mettait en relation les hommes qui allaient construire le système de surveillance aujourd’hui pointé sur chacun d’entre nous.
Lorsque la journaliste d’ABC, Amy Robach, a obtenu des preuves de ses crimes sexuels, la chaîne a étouffé l’affaire. Lorsque des accusatrices se sont manifestées, le New York Times a rejeté leurs accusations, les jugeant sans fondement. Lorsqu’il a finalement été condamné, il a écopé d’une peine si clémente qu’elle est restée dans les mémoires comme un «arrangement de faveur». Et lorsqu’il est mort dans une prison fédérale dans des circonstances si suspectes que CBS News a réfuté toutes les explications officielles – une erreur d’étage sur les images diffusées, un dysfonctionnement de la caméra que le fabricant juge impossible -, l’enquête a tout simplement été abandonnée.
La question n’est pas de savoir si Epstein était lié à ces personnalités influentes. Les courriels ont tranché la question. La question, comme le formule Higdon, est de savoir comment «une seule personne pouvait avoir autant d’influences et de connexions». Et la réponse que les médias refusent d’explorer est pourtant évidente : il n’agissait pas seul. Il était un maillon d’un réseau – un réseau qui comprenait les agences de renseignement désormais partenaires de sociétés d’IA, les milliardaires qui bâtissent notre avenir algorithmique, et les politiciens qui refusent aujourd’hui de réglementer quoi que ce soit dans ce domaine.
Qu’ont fait ces hommes lorsqu’ils ont accumulé une fortune colossale ? Lorsqu’ils ont façonné des gouvernements, lancé des technologies, et infléchi le cours de l’histoire à leur guise ?
Ils se sont rendus sur l’île.
Le film «Hostel» imaginait des élites fortunées payant pour torturer et tuer des gens ordinaires par pur plaisir. Les critiques l’ont qualifié d’excès digne d’un film d’horreur. Mais le postulat de départ – que le pouvoir absolu engendre la dépravation absolue, que les hommes qui ne manquent de rien finiront par désirer l’interdit – n’était pas de la fiction. C’était une prophétie.
«Que fait-on quand on possède tout l’argent et tout le pouvoir du monde ?» demande Steve Grumbine, qui a étudié en profondeur les dossiers Epstein. «Eh bien, on fait ce qu’on veut. Le pouvoir absolu corrompt absolument».
Les enfants victimes de trafic vers cette île n’étaient pas des éléments accessoires du système. Ils étaient le système lui-même – la monnaie du compromis, le mécanisme de contrôle, l’expression ultime de ce qui se produit lorsqu’une classe sociale en vient à se prendre pour des dieux.
Comme je l’ai déjà écrit : il y a une raison pour laquelle les pédophiles se révèlent être les capitalistes les plus prospères.
Voilà l’avenir que construisent les accélérateurs d’IA, qu’ils en soient conscients ou non. Un monde où une poignée d’hommes contrôlent des technologies d’une puissance sans précédent, sans rendre de comptes à personne, sans aucune contrainte, leurs moindres désirs assouvis par des machines qui ne refusent jamais et ne rendent jamais de comptes. L’île d’Epstein, à l’échelle planétaire.
Epstein est mort, du moins c’est ce qu’on nous dit. Mais son réseau perdure. Ses collègues continuent de développer ces technologies. Sa vision d’un monde divisé entre les servis et les sacrifiés est en train d’être intégrée aux algorithmes, en ce moment même.
Lorsque Peter Thiel, une autre connaissance d’Epstein et cofondateur de Palantir, a nommé son entreprise d’après les pierres de vision de Tolkien, il n’a peut-être pas mesuré toutes les implications de cette référence. Dans les romans, les Palantiri étaient corrompus – utilisés par Sauron pour montrer des vérités partielles qui menaient au désespoir et à la domination. Ceux qui les contemplaient voyaient ce que le Seigneur des Ténèbres voulait qu’ils voient.
Nous contemplons tous ces pierres, aujourd’hui. Et les hommes qui contrôlent ce que nous voyons – dans ces Palantiri algorithmiques – nous ont déjà montré, sur une île des Caraïbes et dans les ruines de Gaza, leurs véritables intentions.
On dirait des algorithmes prenant des décisions de vie ou de mort avec vingt secondes de supervision humaine. On dirait la police prédictive en Floride, où des habitants sont verbalisés pour une pelouse trop haute parce qu’un logiciel les a identifiés comme des criminels potentiels. On dirait la disparition progressive de chaque profession, de chaque artisanat, de toute forme de contribution humaine susceptible de donner un sens à notre existence. On dirait des enfants palestiniens violés sans fin dans les sombres cachots de Tsahal.
Les Complices
Le Dr Karmi revient sans cesse à une question simple : Pourquoi ?
«Pourquoi un État créé de toutes pièces, avec une population elle aussi créée de toutes pièces, est-il devenu si important que nous ne pouvons plus vivre sans lui ?» demande-t-elle à propos d’Israël. Mais cette question s’applique tout autant à la Silicon Valley, aux plateformes technologiques, à tout l’appareil de contrôle algorithmique qui façonne désormais notre vie politique, nos perceptions, nos perspectives.
La solution, selon elle, réside dans la compréhension des complices.
«Je pense qu’il est absolument crucial de se concentrer désormais sur les complices», affirme-t-elle. «Car on peut multiplier les exemples de brutalité, d’atrocités et de cruauté commises par Israël. Mais là n’est pas la question. La question est : qui permet que cela se produise ?»
La même question doit être posée concernant l’IA. Qui permet cela ? Qui finance les entreprises qui, malgré un risque de 25% d’extinction de l’humanité, persistent dans leurs développements ? Qui crée le vide réglementaire qui permet à ces technologies de se développer sans contrôle ? Qui amplifie les voix qui réclament une accélération du développement tout en réduisant au silence celles qui appellent à la prudence ?
La réponse est : la même catégorie de personnes qui a permis toutes les catastrophes de l’ère moderne : les nantis, les dociles, les corrompus. Les politiciens qui encaissent les chèques de cinquante milliards de dollars. Les journalistes qui amplifient les récits qu’ils préfèrent. Les citoyens qui ignorent les avertissements parce qu’ils sont trop occupés, trop distraits, trop convaincus que quelqu’un d’autre s’en chargera.
«Tous les sondages réalisés indiquent que la plupart des gens, peut-être 80%, ne veulent pas de machines super intelligentes», remarque Russell. «Mais ils ne savent pas quoi faire».
Ils ne savent pas quoi faire. Alors ils ne font rien. Et les machines continuent d’apprendre. Et les algorithmes continuent de se façonner. Et les milliardaires continuent d’en abuser. Et les bombes continuent de tomber. Et l’avenir s’assombrit.
La Résistance
Que faire ?
Le conseil de Russell est d’une simplicité presque désuète : «Parlez à votre député, à votre représentant. Car je pense que les décideurs politiques ont besoin d’entendre la population. Les seules voix qu’ils entendent actuellement sont celles des entreprises technologiques et de leurs chèques de cinquante milliards de dollars».
Le Dr Karmi propose une approche similaire : «Mon conseil est de cibler les structures officielles qui permettent à Israël de perdurer. Elles doivent comprendre qu’être aimable avec les Palestiniens, leur envoyer de la nourriture ou autre, c’est bien, mais là n’est pas la question. Pour les citoyens des démocraties occidentales, la question est de pouvoir exprimer leur opinion».
L’argument contraire est évident : ces structures sont infiltrées. Les plateformes qui pourraient amplifier nos voix sont contrôlées par les forces mêmes auxquelles nous devons résister. Les politiciens susceptibles d’agir sont corrompus. Les médias susceptibles d’informer sont complices.
Mais cet argument passe à côté de l’essentiel. L’essentiel n’est pas que la résistance triomphe. L’essentiel, c’est que la résistance est la seule voie possible vers le succès.
«Je ne sais pas trop quoi faire», admet Russell, «à cause de cette force d’attraction irrésistible et des sommes colossales investies. Mais je suis convaincu que si vous voulez un avenir, un monde où vos enfants puissent vivre, vous devez faire entendre votre voix».
À quoi cela ressemble-t-il ?
À refuser d’utiliser les plateformes conçues pour nous endoctriner. À exiger que nos représentants expliquent leurs positions sur la sécurité de l’IA. À soutenir les lanceurs d’alerte qui révèlent les agissements de ces entreprises. À construire des structures alternatives qui ne dépendent pas de la générosité des milliardaires.
À refuser de se laisser faire.
Le Choix
La mère d’Alex Karp a consacré son art à documenter les souffrances des enfants noirs assassinés à Atlanta. Son père a consacré sa vie aux soins des malades. Ils lui ont appris à lutter contre l’injustice.
Et il a construit une machine qui décide, en vingt secondes, quels enfants de Gaza vont mourir aujourd’hui.
Elon Musk prétend défendre la liberté d’expression. Il prétend craindre l’extinction de l’humanité. Il prétend vouloir préserver la (non-)civilisation occidentale.
Et il utilise sa notoriété pour amplifier les voix qui appellent au nettoyage ethnique, pour soutenir les politiciens qui supprimeraient les réglementations susceptibles d’empêcher une catastrophe, pour remodeler l’environnement informationnel de nations entières selon ses préférences.
Stuart Russell a consacré cinquante ans à l’intelligence artificielle. Il pourrait prendre sa retraite. Il pourrait jouer au golf. Il pourrait faire de la voile.
Et au lieu de cela, il travaille quatre-vingts heures par semaine, essayant de détourner l’humanité d’une voie qu’il juge vouée à l’extinction.
Ce sont ces choix qui comptent. Non pas les débats abstraits sur la technologie, mais les décisions concrètes concernant ce que nous faisons de notre unique vie, de notre unique moment d’influence, de notre unique chance de façonner l’avenir.
«Il n’y a pas de motivation plus forte que celle-ci», affirme simplement Russell. «Ce n’est pas seulement la bonne chose à faire, c’est absolument essentiel».
Les gorilles n’ont pas pu choisir leur destin. Ils ont été supplantés par une espèce plus intelligente qu’eux, et leur survie dépend désormais entièrement de la volonté de cette espèce de la tolérer.
Nous avons encore le choix. Les machines ne sont pas encore plus intelligentes que nous. Les algorithmes ne nous contrôlent pas encore totalement. Les milliardaires ne sont pas encore omnipotents.
Mais le temps presse. Le point de non-retour est peut-être déjà franchi. Et ceux qui contrôlent les technologies les plus puissantes de l’histoire de l’humanité ont clairement affiché leurs valeurs.
Ils privilégieront le profit à la sécurité. Ils attiseront la haine plutôt que la tolérance. Ils choisiront le viol plutôt que l’amour. Ils cautionneront le génocide si les conditions leur sont favorables. Ils risqueront l’extinction si les gains potentiels sont suffisants.
Ce ne sont pas des spéculations. Ce sont des faits avérés. C’est ce qu’ils font, en ce moment même, au vu et au su de tous.
La question n’est pas de savoir si nous comprenons le danger. La question est de savoir ce que nous allons faire.
Dans les décombres de Gaza, les systèmes d’IA apprennent. Ils apprennent qu’une vie humaine peut être traitée en vingt secondes. Ils apprennent que certains méritent des bombes coûteuses, et d’autres non. Ils apprennent que la communauté internationale restera les bras croisés.
Ce qu’ils apprennent là-bas, ils finiront par l’appliquer partout.
Ceci n’est pas une mise en garde concernant l’avenir. C’est une description du présent. L’avenir n’est autre que le présent, prolongé et en pire.
À moins que nous ne l’arrêtions.
À moins que nous ne fassions un autre choix.
À moins que nous refusions de devenir comme les gorilles.
source : BettBeat Media via Marie-Claire Tellier