CONF #8 : Intelligence artificielle, les femmes aussi
« L’IA ne doit pas être une machine à exclure ». La phrase de Cédric Villani mathématicien, initiateur de la stratégie nationale de l’IA a constitué le fil rouge du webinaire organisé par Toulouse is AI et Aerospace Valley le 9 mars 2021. Quatre femmes scientifiques ou data scientist ont participé à la rencontre et ont répondu à trois questions : Comment construire une intelligence artificielle inclusive et non sexiste ? Comment augmenter le nombre de femmes dans les secteurs du numérique et de l’IA ? Comment utiliser la technologie pour réduire les biais et stéréotypes de genre ?
Un certain nombre d’algorithmes actuels sont construits sur des biais sexistes et une représentation du monde faussée. La relative absence des femmes dans les domaines de l’IA et du numérique ainsi que le manque de mixité aggrave la situation. C’est à partir de ces deux constats que s’est engagée la discussion. Quatre femmes ont développé leur analyse : Siham Aarab, data scientist, product marketing manager Microsoft Azure ; Céline Castets-Renard, professeure à la Faculté de droit de l'Université d'Ottawa et titulaire de la chaire Aniti « Accountable AI in a Global Context » ; Marjorie Allain-Moulet, responsable innovation IA et data de CS Group, industrial coordinator et co-pilote de la commission mixité d’Aniti ; Flora Vincent, co-autrice de « L’intelligence artificielle, pas sans elles » et co-fondatrice de WAX Science.
Les principaux verbatim.
Les algorithmes ne sont pas neutres
« L’informaticienne américaine Joy Buolamwini, chercheuse au MIT Media Lab a été la première lanceuse d’alerte. Alors qu’elle travaillait sur les algorithmes de reconnaissance faciale, elle a montré que les algorithmes reconnaissaient mieux les visages d’hommes blancs que les visages de femmes noires. Il y a de fait , dans l’IA, un phénomène d’ « apprentissage sous influence » : la base de donnée de référence, utilisée pour entrainer l’algorithme, peut-être biaisée culturellement. Nos différents biais et limitations de données - on dispose globalement de beaucoup moins de données sur les femmes que sur les hommes- peuvent influencer l’apprentissage des algorithmes et donc ensuite les prises de décision. » - Flora Vincent, co-autrice du livre « L’intelligence artificielle, pas sans elles », publié par Belin et le Laboratoire de l’Égalité dans sa collection Egale à Egal.
« La question de l’accès aux données est majeure. Outre-Atlantique, un travail considérable est en cours et vise à objectiver les situations de discrimination liés au genre ou à la race.Avec le numérique, tout est « mis en données ». Et quand il n’y a pas de données c’est comme si le phénomène n’existait pas. Par exemple les féminicides, les stérilisations forcées des femmes dans certains endroits du globe, les disparitions suspectes, etc. Il faut chercher les données, les révéler pour expliquer ce qu’est notre société. Deux livres sont importants dans ce contexte : Data Feminism et Invisible Women expliquent la question du « gender data gap » et invitent les femmes et les hommes à mettre en évidence les problématiques et les biais potentiels. Il s’agit d’abord de les révéler et ensuite de construire une IA plus représentative de l’ensemble de la société. Cette réflexion vaut pour les femmes et pour toutes les populations marginalisées. L’IA sert de révélatrice à un grand nombre de problèmes de société qu’elle peut par ailleurs soit contribuer à renforcer soit contribuer à résoudre. » - Céline Castets-Renard
Le droit et les chartes inclusives
« Il y a plus d’une centaine de chartes éthiques en tous genres sur l’IA. Je mettrais de côté les normes établies par les grandes entreprises et notamment les gafa parce que je pense qu’elles font de l’ethique-washing bien loin d’une démarche éthique sincère. En tant que juriste je suis plus intéressée par le droit. Des principes éthiques ont été mis en place, réfléchis par un groupe d’experts en Europe et repris par la Commission Européenne dans son livre blanc publié en 2020. Ce document annonce de futures normes et je pense qu’au niveau européen nous devrions pouvoir disposer bientôt d’une réglementation un peu plus poussée de l’IA. Il faudra bien observer si dans l’appréciation des risques on prend bien compte des risques sociétaux pour l’ensemble de la société. À ce titre j’aimerais citer la démarche du do-tank Women In AI dont l’ambition est d’améliorer la représentation et la participation des femmes dans l'IA.» Céline Castets-Renard
Femmes data scientist
« Mon propre parcours reflète l’évolution des métiers du numérique. Quand j’ai fait mes études dans les années 85 et avant de passer ma thèse en IA en 1992, nous étions autour de 30% femmes. Je trouvais que nous n’étions pas assez nombreuses mais la disproportion ne me semblait pas aussi choquante qu’aujourd’hui. J’ai eu un choc et j’ai réalisé le problème du manque de femmes quand je suis intervenue à l’ université où je me retrouvais en face de classes où il y avait deux filles sur trente élèves. J’ai réalisé que, contrairement à ce que je pensais la mixité n’allait pas arriver naturellement. Il fallait faire quelque chose. Il est important que les équipes de data scientist soient mixtes et il se trouve que les femmes peuvent y réussir merveilleusement bien. Être data scientist c’est vraiment être le mouton à 5 pattes. Il faut connaître tous les domaines : les mathématiques, l’informatique, les statistiques mais aussi les besoins des clients, le marché, etc. Dans ce contexte, les femmes ont toute leur place. » Marjorie Allain-Moulet
« À l’époque où j’ai intégré Microsoft, il y aplus de 7 ans,j’étais la première data scientist de mon équipe data. Deux ans plus tard, nous étions déjà une trentaine au sein d’une équipe assez bien partagée entre hommes les femmes. Selon moi c’est très important. Pour résoudre les problèmes de biais, il faut commencer par veiller à ce qu’il y ait autant d’hommes que de femmes dans une équipe. Il faut aussi par exemple s’attacher à embaucher des personnes jeunes et moins jeunes. Pour que les algorithmes soient vraiment représentatifs, il y a de nombreux critères à remplir. Soit l’entreprise décide qu’on va recruter autant d’hommes et de femmes, de personnes âgées ou non, etc. soit on crée une culture qui veille à ce que chaque individu puisse avoir en tête tous ces principes de diversité. » - Siham Aarab
L’IA comme levier d’égalité
« L’IA peut être influencée par les biais mais elle dispose aussi d’un atout pour aider tous les secteurs à progresser vers l’égalité : avec sa capacité à analyser beaucoup de données très rapidement, elle constitue un très efficace détecteur de discriminations. Les inégalités de traitement entre les femmes et les hommes ne sont plus seulement ressenties, elles sont quantifiées ! L’IA est par ailleurs de plus utilisée pour le recrutement. Elle peut permettre d’éviter les recrutements sexistes. Comment ? eh bien en identifiant les éléments de langage qui favorisent la candidature d’un sexe par rapport à l’autre à partir de l’analyse du champ lexical de milliers de fiches de poste. Pour chercher des profils techniques sur LinkedIn, on peut aussi demander à un algorithme de proposer au moins 50% de profils féminins. Il faut utiliser IA comme un outil de discrimination positive pour aller chercher ces profils qui existent qui sont un peu moins visibles. » - Flora Vincent
« L’IA peut être très utile pour améliorer les processus d’orientations des jeunes.
Imaginons quelqu’un aujourd’hui qui a fait des études de droit jusqu’à la 4e année avant de réaliser qu’il ou elle veut devenir scientifique. Aujourd’hui ce serait difficile, il faudrait revenir en première année. Avec l’IA et avec la méthode de segmentation (clustering) on pourra trouver des groupes de métier auxquels on n’aurait pas forcément pensé, des parcours de formation et modules enseignés qui permettront aux futures générations de pouvoir switcher plus facilement. » - Siham Aarab
« La commission mixité d’Aniti travaille à différents niveaux de façon à féminiser l’IA. Notre défi est d’arriver à rapidement rééquilibrer les équipes de recherche et les équipes dédiées IA dans les entreprises. Nous devons nous adresser à une grande diversité de cibles : de l’école primaire jusqu’à la salariée en reconversion, en passant par les étudiantes. Tout d’abord, il faut encourager les filles à aller vers la science. Pour cela nous avons adapté le dispositif Astep, issu de l’initiative La main à la pâte, en créant un volet IA destiné aux enfants des écoles primaires. Nous allons aussi faire en sorte d’intervenir le plus possible au niveau des lycées avec notamment un plan de formation des enseignants à l’IA. Nous agissons aussi avec le secteur de l’industrie. Des ambassadeurs et ambassadrices sensibiliseront les manageur•es au sein des entreprises pour engager des femmes au sein de leurs équipes IA. Enfin nous lançons un réseau de mentorat composé de femmes et d’hommes de l’IA qui viendront expliquer en quoi les femmes ont un rôle à jouer dans l’IA. » - Marjorie Allain-Moulet
« Je voudrais lancer un appel. On parle actuellement beaucoup de relance économique et de développement de l’IA. J’aimerais que ces deux sujets soient liés et abordés ensemble. Il faut faire en sorte que les femmes puissent faire partie de cette industrie dans laquelle on investit beaucoup. L’industrie de l’IA devient un gros enjeu économique et je ne vois pas pourquoi les femmes en seraient exclues. » - Céline Castets-Renard
À noter : le Laboratoire de l’Egalité propose un Pacte pour une intelligence artificielle égalitaire entre les femmes et les hommes. Il s’adresse aux organisations, aux entreprises publiques et privées ainsi qu’aux associations.
Retrouvez ici l'intégralité du webinaire ici.
Cette rencontre en ligne a été conçue dans le cadre de la semaine « Les femmes scientifiques sortent de l’ombre ». À l’occasion de la Journée internationale des droits des femmes, de nombreux événements ont rendu les femmes scientifiques davantage visibles et ont permis de déconstruire les stéréotypes liés aux disciplines de l’IA, du numérique, de l’informatique et des mathématiques. En partenariat avec Le Quai des Savoirs, le CNRS Occitanie, Aerospace Valley, Toulouse is AI, Aniti, Femmes & Sciences, Le Club de la Presse Occitanie, La Casemate de Grenoble, l’Université Fédérale de Toulouse et Wikimédia France.
Prochain rendez-vous Toulouse is AI : mercredi 2 juin 2021 « AI for services » dans le cadre de Future Intelligence . L’événement autour de l’IA et des data dans l’industrie aura lieu les 1er, 2 et 3 juin en 100% digital. Co-organisé par ABE et Aerospace Valley, il réunira plus de 80 intervenant•es de très haut niveau.
Le programme des conférences, des tables rondes, des workshop et des rendez-vous d’affaires est déjà en ligne.
Emmanuelle Durand-Rodriguez avec Paula Boher