\n<\/p>\n
Mathilde Saliou est journaliste ind\u00e9pendante, sp\u00e9cialis\u00e9e dans les questions num\u00e9riques. Elle est autrice de Technof\u00e9minisme\u00a0: comment le num\u00e9rique aggrave les in\u00e9galit\u00e9s<\/i> (ed. Grasset). Elle travaille principalement pour le m\u00e9dia Next<\/a>, sp\u00e9cialis\u00e9 sur le num\u00e9rique. Elle collabore aussi avec La D\u00e9ferlante<\/i>, 20\u00a0Minutes et Alternatives \u00e9conomiques<\/i>.<\/p>\n Reporterre \u2014 Quand on voit les gens qui repr\u00e9sentent le monde de l\u2019Intelligence artificielle (IA<\/span>) aujourd\u2019hui, on pense \u00e0 Elon Musk<\/a>, Yann Le Cun<\/a>, Marc Zuckerberg\u2026 Mais aucun nom de femme ne vient \u00e0 l\u2019esprit. Cela refl\u00e8te-il la r\u00e9alit\u00e9\u00a0<\/small>?<\/strong><\/p>\n Mathilde Saliou \u2014<\/strong> C\u2019est la r\u00e9alit\u00e9, bien qu\u2019un peu d\u00e9form\u00e9e. L\u2019IA<\/span> \u00e9tant un sous-domaine des nouvelles technologies, elle est soumise aux m\u00eames biais que l\u2019industrie de la tech qui emploie tr\u00e8s peu de femmes. C\u2019est probl\u00e9matique, car c\u2019est d\u00e9sormais l\u2019un des secteurs dans lesquels on fait les plus belles carri\u00e8res, au sens financier. Le fait que les femmes soient si peu nombreuses \u00e0 y acc\u00e9der participe au renforcement des in\u00e9galit\u00e9s salariales.<\/p>\n Dans les nouvelles technologies, environ un quart seulement des employ\u00e9s sont des femmes, et elles sont g\u00e9n\u00e9ralement confin\u00e9es \u00e0 des postes subalternes\u00a0: des fonctions support dans le juridique, dans les ressources humaines, dans la comptabilit\u00e9\u2026 Elles sont peu nombreuses \u00e0 avoir les mains dans le code et \u00e0 construire les outils num\u00e9riques que nous utilisons au quotidien.<\/p>\n Cela dit, des femmes comme Timnit Gebru \u2014\u00a0chercheuse en \u00e9thique de l\u2019intelligence artificielle\u00a0\u2014, Margaret Mitchell \u2014\u00a0sp\u00e9cialiste des biais algorithmiques\u00a0\u2014 et Jo\u00eblle Barral\u00a0\u2014directrice de la recherche fondamentale en IA<\/span> chez Google DeepMind\u00a0\u2014 sont des figures actuelles de l\u2019intelligence artificielle.<\/p>\n Dans les ann\u00e9es 1960-1970, les entreprises se sont mises \u00e0 acheter de plus en plus d\u2019ordinateurs\u00a0: il fallait donc du personnel qualifi\u00e9 pour les fabriquer et les encoder. Pour recruter, on a cr\u00e9\u00e9 des cursus de formation en informatique. C\u2019est \u00e0 partir de ce moment-l\u00e0, qu\u2019on a fait entrer les clich\u00e9s.<\/p>\n Pourtant, dans le monde occidental et notamment aux \u00c9tats-Unis, il y avait beaucoup de femmes dans l\u2019industrie de la tech lorsque celle-ci s\u2019est construite, dans la premi\u00e8re partie du XX\u1d49\u00a0si\u00e8cle. \u00c0 cette \u00e9poque, la plupart des calculs \u00e9taient faits par des humains et pas par des machines. Ce n\u2019\u00e9taient pas des emplois tr\u00e8s valoris\u00e9s, donc, de mani\u00e8re assez classique, on y trouvait beaucoup de femmes.<\/p>\n Ces femmes ont pu rester dans l\u2019industrie quand celle-ci a commenc\u00e9 \u00e0 se formaliser avec l\u2019\u00e9mergence des ordinateurs, juste apr\u00e8s la Seconde Guerre mondiale. Mais m\u00eame si elles \u00e9taient entr\u00e9es dans le domaine, elles n\u2019avaient pas de r\u00f4le d\u2019encadrement ou de chefferie qui leur permettent de s\u2019inscrire dans l\u2019histoire.<\/p>\n \u00c0 l\u2019\u00e9poque, on pensait que les r\u00f4les valorisables et valoris\u00e9s de l\u2019informatique, c\u2019\u00e9taient surtout ceux d\u00e9di\u00e9s au hardware<\/i>, la fabrication des machines et des composants. Les femmes \u00e9taient assez nombreuses dans la partie qu\u2019aujourd\u2019hui on qualifierait de software<\/i>, la fabrication des logiciels. Ce sont elles qui ont fabriqu\u00e9 les langages permettant d\u2019interagir avec les machines pour leur faire faire des op\u00e9rations.<\/p>\n \u00ab\u00a0<\/small>Les publicitaires ont massivement promu les ordinateurs \u00e0 destination des hommes\u00a0<\/small>\u00bb<\/p>\n<\/blockquote>\n Mais par la suite, pour savoir qui embaucher, et comment, on a fait appel \u00e0 des experts qui sont arriv\u00e9s \u00e0 la conclusion que \u00ab\u00a0<\/small>les programmeurs parfaits sont dingues de puzzles, aiment prendre des risques, trouver des applications \u00e0 leurs recherches et n\u2019aiment pas les gens\u00a0<\/small>\u00bb<\/i>. Cette phrase semble tr\u00e8s clich\u00e9, mais elle a vraiment servi \u00e0 formaliser le type de personnes qu\u2019on cherchait dans le monde de la tech. Et ces caract\u00e9ristiques \u00e9taient davantage admises chez les hommes.<\/p>\n Lors de l\u2019apparition des ordinateurs personnels dans les ann\u00e9es 1980, les publicitaires les ont massivement promus \u00e0 destination des hommes et des gar\u00e7ons\u00a0: il y avait plein de publicit\u00e9s o\u00f9 on voyait le fils et son p\u00e8re jouer ensemble sur un ordinateur. Un marketing encore visible dans les ann\u00e9es 1990 pour les jeux vid\u00e9os.<\/p>\n Dans son livre Les oubli\u00e9s du Num\u00e9rique<\/i> (ed. Le Passeur), Isabelle Collet rel\u00e8ve aussi que beaucoup de figures pr\u00e9sent\u00e9es comme les p\u00e8res de l\u2019informatique et les p\u00e8res de l\u2019IA<\/span> sont aussi assez misogynes. Donc l\u2019intelligence artificielle h\u00e9rite de toute cette tradition sexiste du monde des nouvelles technologies\u2026<\/p>\n \u00c7a pousse \u00e0 s\u2019interroger sur notre d\u00e9finition de l\u2019intelligence artificielle. Peut-\u00eatre que s\u2019il y avait eu plus de femmes dans le monde de l\u2019IA<\/span>, on aurait consid\u00e9r\u00e9 qu\u2019une intelligence artificielle, c\u2019\u00e9tait quelque chose de beaucoup plus relationnel, capable de mettre en connexion des objets ou des concepts diff\u00e9rents\u2026 Et non pas cette logique tr\u00e8s pouss\u00e9e sur l\u2019optimisation, la rationalit\u00e9 et les probabilit\u00e9s.<\/p>\n Effectivement, c\u2019est un festival depuis le d\u00e9but de l\u2019ann\u00e9e\u00a0: tous les barons de la tech se rangent derri\u00e8re Donald Trump, et n\u2019h\u00e9sitent pas \u00e0 nourrir son id\u00e9ologie viriliste. Ce qu\u2019on voit ces derni\u00e8res semaines est tr\u00e8s inqui\u00e9tant, mais pour qui on suit le sujet depuis longtemps, ce n\u2019est pas tellement une surprise.<\/p>\n Tant que les entreprises de la tech avaient l\u2019air de s\u2019int\u00e9resser un peu aux valeurs progressistes et au bien commun, on pouvait esp\u00e9rer qu\u2019elles essaient de limiter les biais existants. Ou qu\u2019elles mettent en place des m\u00e9canismes pour \u00e9viter, par exemple, la reproduction de contenus st\u00e9r\u00e9otyp\u00e9s ou violents.<\/p>\n Mais quand les patrons de ces entreprises disent plut\u00f4t\u00a0: \u00ab\u00a0<\/small>Nous, on est pour une vision masculiniste de l\u2019entreprise, on d\u00e9teste la r\u00e9gulation, rangeons-nous tous derri\u00e8re Donald Trump pour mettre en place une loi du plus fort\u00a0<\/small>\u00bb<\/i>, alors toutes les personnes qui sont d\u00e9j\u00e0 domin\u00e9es dans la soci\u00e9t\u00e9 vont devoir subir en plus la vuln\u00e9rabilit\u00e9 que leur cr\u00e9ent les machines.<\/p>\n Depuis 2012, on d\u00e9veloppe de nouveaux mod\u00e8les d\u2019IA<\/span> probabilistes qui reposent sur le machine learning<\/i>, l\u2019apprentissage automatique\u00a0: on donne tout plein d\u2019\u00e9l\u00e9ments \u00e0 la machine \u00e0 partir desquels elle trouve elle-m\u00eame le chemin pour aboutir \u00e0 un r\u00e9sultat.<\/p>\n On a tendance \u00e0 consid\u00e9rer que les donn\u00e9es qu\u2019on lui apporte sont neutres, sauf que la mani\u00e8re de les choisir, de les hi\u00e9rarchiser, de les collecter, \u00e7a va avoir des impacts concrets sur les r\u00e9sultats donn\u00e9s. Le plus souvent, on entra\u00eene ces machines \u00e0 partir d\u2019\u00e9l\u00e9ments qui sont disponibles librement sur Internet. Or, ce n\u2019est pas du tout repr\u00e9sentatif de l\u2019int\u00e9gralit\u00e9 de la population. Ce qu\u2019on donne aux machines, c\u2019est d\u00e9j\u00e0 tr\u00e8s biais\u00e9.<\/p>\n Dans le monde de la tech, on dit souvent\u00a0: \u00ab\u00a0<\/small>garbage in, garbage out\u00a0<\/small>\u00bb<\/i>, en fran\u00e7ais \u00ab\u00a0<\/small>d\u00e9chets \u00e0 l\u2019entr\u00e9e, d\u00e9chets \u00e0 la sortie\u00a0<\/small>\u00bb<\/i>. Si vous donnez une vision d\u00e9form\u00e9e \u00e0 l\u2019entr\u00e9e, la machine, aussi performante soit-elle, vous donnera un r\u00e9sultat d\u00e9form\u00e9 \u00e0 la sortie, parce qu\u2019elle ne va pas inventer toute seule une mani\u00e8re d\u2019\u00e9galiser les faits.<\/p>\n \u00ab\u00a0<\/small>Une forme de concentration extr\u00eame des st\u00e9r\u00e9otypes qui existent dans la soci\u00e9t\u00e9\u00a0<\/small>\u00bb<\/p>\n<\/blockquote>\n Si vous demandez \u00e0 un mod\u00e8le d\u2019IA<\/span> g\u00e9n\u00e9ratif de vous produire une image de patron d\u2019entreprise, neuf fois sur dix, il va vous donner une image d\u2019homme blanc en costume, parce qu\u2019il ne peut pas imaginer que ce soit une femme, quelqu\u2019un qui ne soit pas en costume, ou quelqu\u2019un de non-blanc. Inversement, si vous demandez de g\u00e9n\u00e9rer une image de personne qui fait du m\u00e9nage, \u00e7a va quasiment \u00eatre uniquement des personnes noires, probablement des femmes.<\/p>\n La machine n\u2019est pas capable d\u2019autre chose puisqu\u2019on ne lui a donn\u00e9 que des images en ce sens. L\u2019IA<\/span> concentre de mani\u00e8re extr\u00eame les st\u00e9r\u00e9otypes qui existent dans la soci\u00e9t\u00e9.<\/p>\n L\u2019apparition des deepfakes<\/i> \u2014\u00a0cette technologie consiste \u00e0 reproduire de mani\u00e8re tr\u00e8s r\u00e9aliste les traits de quelqu\u2019un gr\u00e2ce \u00e0 l\u2019IA<\/span>, et \u00e0 les placer dans des situations imaginaires\u00a0\u2014, avant m\u00eame les IA<\/span> actuelles, est tr\u00e8s pr\u00e9occupante.<\/p>\n Aujourd\u2019hui, les chiffres<\/a> montrent que plus de 98\u00a0<\/small>% de ces contenus sont des deepfakes \u00e0 caract\u00e8re pornographique, et parmi eux, 99\u00a0<\/small>% repr\u00e9sentent des femmes. Sans leur consentement l\u2019essentiel du temps. Ces images sont utilis\u00e9es pour faire pression, pour les harceler, pour leur faire du mal, pour les faire dispara\u00eetre de l\u2019espace public\u2026<\/p>\n L\u2019IA<\/span> g\u00e9n\u00e9rative permet aussi d\u2019industrialiser les campagnes de d\u00e9sinformation ciblant les femmes, comme les campagnes des militants anti-avortement, en cr\u00e9ant beaucoup plus facilement leurs contenus et en fabriquant des robots qui vont les publier sur les r\u00e9seaux sociaux\u2026 L\u2019intelligence artificielle g\u00e9n\u00e9rative, par sa propension \u00e0 faciliter la production de texte et de code, augmente l\u2019ins\u00e9curit\u00e9 \u00e0 ce niveau-l\u00e0.<\/p>\n Une piste de solution, \u00e7a peut \u00eatre de mettre plus de diversit\u00e9 dans les \u00e9quipes de fabrication de nos outils num\u00e9riques, IA<\/span> et autres. Sans \u00e7a, on continuera de cr\u00e9er des outils calibr\u00e9s pour une toute petite part de la population masculine, blanche et privil\u00e9gi\u00e9e.<\/p>\n Par ailleurs, ces technologies ont des impacts tr\u00e8s concrets sur la plan\u00e8te. Pour faire tourner les mod\u00e8les d\u2019intelligence artificielle g\u00e9n\u00e9rative, il y a besoin d\u2019\u00e9norm\u00e9ment d\u2019\u00e9nergie. Dans l\u2019immense majorit\u00e9 des cas, les serveurs sont situ\u00e9s l\u00e0 o\u00f9 on extrait du charbon pour faire de l\u2019\u00e9lectricit\u00e9. L\u2019\u00e9nergie que demandent ces machines est telle qu\u2019aux \u00c9tats-Unis, on a d\u00fb relancer des r\u00e9acteurs nucl\u00e9aires pour satisfaire les besoins de l\u2019IA<\/span><\/a>.<\/p>\n Lire aussi : <\/strong> L\u2019insoutenable co\u00fbt \u00e9cologique du boom de l\u2019IA<\/span><\/span><\/a><\/p>\n Une autre piste de r\u00e9ponse est donc de viser la frugalit\u00e9. C\u2019est d\u2019ailleurs ce que recommande le CESE<\/span> qui a sorti un rapport en amont du sommet de l\u2019IA<\/span><\/a>. L\u2019IA<\/span> frugale consiste \u00e0 utiliser cette technologie l\u00e0 o\u00f9 elle est vraiment utile, par exemple, dans la sant\u00e9 ou dans la science, pour mettre en place des mod\u00e8les qui nous permettent de mieux pr\u00e9voir les \u00e9volutions climatiques\u2026<\/p>\n Par contre, des mod\u00e8les qui ne servent qu\u2019\u00e0 fabriquer des deepfakes d\u00e9nud\u00e9s pour harceler des femmes, on peut l\u00e9gitimement interroger leur utilit\u00e9 sociale\u00a0<\/small>! Surtout que pour fabriquer ces images, on br\u00fble du CO\u2082 et on pompe de l\u2019eau\u2026 Personnellement, ce n\u2019est pas tellement la d\u00e9finition du progr\u00e8s \u00e0 laquelle je souscris. La technologie n\u2019arr\u00eate pas de nous dire qu\u2019elle va nous nous apporter le progr\u00e8s mais en l\u2019\u00e9tat, elle nous apporte surtout des in\u00e9galit\u00e9s.<\/p>\n
\n
\nComment se fait-il qu\u2019il y ait si peu de femmes dans les nouvelles technologies\u00a0<\/small>? <\/strong><\/p>\n\n
\nAujourd\u2019hui, on voit qu\u2019Elon Musk et Marc Zuckerberg ne se cachent plus d\u2019adh\u00e9rer \u00e0 des th\u00e8ses masculinistes<\/a>\u2026<\/strong><\/p>\n
\nEn quoi l\u2019IA<\/span> peut-elle \u00eatre vectrice d\u2019in\u00e9galit\u00e9s\u00a0<\/small>? <\/strong><\/p>\n\n
\nConcr\u00e8tement, en quoi les femmes sont-elles particuli\u00e8rement vuln\u00e9rabilis\u00e9es par l\u2019IA<\/span>\u00a0<\/small>?<\/strong><\/p>\n
\nQu\u2019est-ce qui pourrait \u00eatre mis en place pour limiter ces biais\u00a0<\/small>? <\/strong><\/p>\n