L’annonce par OpenAI et son dirigeant, Sam Altman, d’un accord avec le Pentagone après le bras de fer qui a mené au retrait par Donald Trump de Claude d’Anthropic des réseaux du DoD ne fait pas que des mécontents parmi les usagers de ChatGPT. La directrice générale d’OpenAI Robotics a annoncé samedi sa démission, exprimant son inquiétude quant à la fiabilité des gardes-fous devant empêcher un usage de cette IA pour une surveillance de masse intérieure ou pour des armes autonomes.
Depuis la semaine dernière, Donald Trump multiplie les attaques publiques contre Anthropic, qu’il qualifie de société “woke” dirigée par des “cinglés de gauche”, l’accusant de vouloir dicter au Pentagone ses conditions d’usage de l’IA. Ces critiques s’inscrivent dans un bras de fer entamé fin février, lorsque Anthropic a refusé de lever certains garde‑fous éthiques sur l’utilisation de ses modèles pour la surveillance de masse et les armes autonomes, estimant qu’elle ne pouvait “en conscience” accepter une utilisation illimitée de son IA pour des opérations militaires et de sécurité intérieure.
Anthropic OUT, OpenAI IN
Le 27 février, à la veille d’une échéance fixée par le Pentagone, Trump annonce sur Truth Social qu’il ordonne à toutes les agences fédérales de “cesser immédiatement” l’usage de la technologie d’Anthropic, tout en accordant au département de la Défense un délai pour retirer les systèmes déjà intégrés et en menaçant la société si elle n’aide pas activement à ce retrait.
Dans les jours qui suivent, le Pentagone a formellement notifié à Anthropic qu’elle est désormais considérée comme un “supply‑chain risk” ou “menace pour la sécurité nationale”, ce qui interdit à la défense américaine et à ses sous‑traitants d’utiliser ses systèmes d’IA pour toute activité liée à la défense. La société a menacé de recourir à la justice pour dénoncer cet étiquetage.
Quelques heures après l’annonce de l’exclusion d’Anthropic, OpenAI a révélé avoir conclu un accord avec le Pentagone pour fournir ses modèles sur les réseaux, y compris classifiés, du département de la Défense, occupant ainsi l’espace laissé vacant par son concurrent. Selon la presse américaine, ce contrat, potentiellement de plusieurs centaines de millions de dollars, autorise l’utilisation des modèles d’OpenAI pour un large éventail de missions militaires tant qu’elles sont “licites”, tout en intégrant des garde‑fous plus ciblés.
“Deux de nos principes de sécurité les plus importants sont les interdictions de la surveillance de masse domestique et la responsabilité humaine pour l’usage de la force, y compris pour les systèmes d’armes autonomes”, a réagi Sam Altman. “Le DoD (Département de la Défense, NDLR) est d’accord avec ces principes”, ceux-là même qu’Anthropic a exigé, “les reflète dans la loi et les politiques, et nous les avons intégrés dans notre accord”.
C’est “précipité”, Altman tente de rassurer
Pourtant, quelques jours plus tard, samedi, Caitlin Kalinowski, directrice générale de la branche robotique chez OpenAI a indiqué avoir démissionné en raison de l’accord conclu entre le géant de l’intelligence artificielle et le gouvernement américain. “L’IA joue un rôle important dans la sécurité nationale. Mais la surveillance des Américains sans contrôle judiciaire et l’autonomie létale sans autorisation humaine sont des questions qui méritaient davantage de réflexion qu’elles n’en ont reçu”, a-t-elle écrit sur X.
Les garanties annoncées par Sam Altman ne semblent pas convaincre la directrice générale d’OpenAi Robotic. “C’est une question de principe, pas de personnes”, poursuit-elle, expliquant avoir “beaucoup de respect pour Sam (Altman) et l’équipe”. “Pour être claire, mon problème est que l’annonce a été faite précipitamment, sans que les garde-fous aient été définis. C’est une question de gouvernance avant tout. Ces questions sont trop importantes pour que les accords ou les annonces soient précipités”, a-t-elle ajouté.
L’entreprise a réagi samedi, affirmant que les modifications des clauses annoncées par Sam Altman au lendemain de l’annonce de l’accord constituaient des « lignes rouges ». “Nous reconnaissons que les gens ont des opinions bien arrêtées sur ces questions et nous continuerons à discuter avec nos employés, les gouvernements, la société civile et les communautés du monde entier », a déclaré l’entreprise dans un communiqué transmis à Reuters.
Peu après la décision de Donald Trump et l’annonce par Sam Altman de l’accord avec le DoD, ChatGPT a fait l’objet d’une virulente vague de boycott, exprimée par des installations massives et des désabonnements. Cette réaction a profité à Claude d’Anthropic, passé numéro 1 dans les stores d’applis en février.