CONF#5 : BIG DATA - INTELLIGENCE ARTIFICIELLE & ÉTHIQUE, MISSION IMPOSSIBLE ?
L’intelligence artificielle, le recueil et le traitement des données vont donner lieu à des controverses éthiques inconnues.
Utiles pour automatiser des prises de décision, alléger ou améliorer des tâches, les systèmes d’IA nécessiteront de nouveaux cadres éthiques faute de quoi notre sécurité individuelle, nos droits fondamentaux ou nos vies privées pourraient être affectées. Le 24 février 2020 à Toulouse, Toulouse is AI, Aniti et Occitanie Data ont organisé un afterwork de réflexion sur les enjeux d’un IA et d’une stratégie de données responsables.
Une charte éthique du big data écrite par Occitanie Data
Occitanie Data travaille à l’écriture d’un texte qui devrait permettre aux acteurs français, européens ou internationaux de s’appuyer sur un cadre « pour un développement responsable de l’économie de la donnée ». Pour Bertrand Monthubert, président d’Occitanie Data et conseiller régional délégué à l’Enseignement supérieur et à la recherche, « si les entreprises européennes veulent trouver une place dans la course à l’IA ce n’est pas en copiant les mauvaises pratiques ».
Selon Bertrand Monthubert, « l’absence d’un cadre éthique clair est un frein. Travailler sur un cadre éthique clair devrait permettre de faciliter la manière dont on peut partager les données. »
Pour l’élaboration de sa charte éthique, Occitanie Data s’inspire du travail réalisé par l’Université de Montréal qui a abouti à la Déclaration de Montréal IA Responsable. Ce texte formule 10 principes éthiques et des recommandations concrètes pour déployer l’IA de manière responsable. La Déclaration a la particularité d’avoir fait l’objet d’une réflexion collective, citoyenne et inclusive (citoyens, experts, responsables publics, industriels, organisations de la société civile et ordres professionnels). Christophe Abrassart, responsable de la consultation citoyenne et de la coconstruction de la Déclaration de Montréal IA Responsable a expliqué que des scénarios prospectifs ont été imaginé pour permettre à tout un chacun de se projeter sur des interrogations qui se poseront d’ici 5 ou 10 ans. Des « chemins de transition » sont ainsi imaginés. À partir du mois d’avril 2020, cette méthodologie va être utilisée par Christophe Abrassart pour la charte d’Occitanie Data.
Montréal qui se positionne comme un pôle de recherche mondial sur l’IA a également l’ambition de favoriser l’autonomie des citoyens sur les données et l’IA. Pour Christophe Abrassart, il faut « développer l’encapacitation (empowerment) des citoyens »
Lors de l’afterwork organisé par Aniti, Toulouse is AI et Occitanie Data une table ronde (« Chercheur.euse.s, entreprises, citoyen.ne.s, collectivités : pourquoi vous avez besoin d’un cadre éthique ») a réuni Christophe Abrassart, Jean-Michel Loubès (chercheur en mathématiques et responsable d’une chaire de recherche Aniti), Bertrand Monthubert et Carole Zisa-Garat, fondatrice et CEO de Telegrafik et membre de la direction de French Tech Toulouse.
La cheffe d’entreprise a partagé sa vision de l’éthique en matière d’IA. Telegrafik a développé une plateforme intelligente d'analyse de données qui proviennent de capteurs installés dans une maison ou un appartement et qui permettent d’alerter en cas de chute d’une personne fragile, âgée ou handicapée.
Jean-Michel Loubès travaille sur les problématiques de biais dans les données et l’explicabilité de l’IA. Il dirige la chaire «IA robuste et sans biais » d’Aniti. Avec le mathématicien Philippe Bess et la juriste Céline Castets-Renard, il a par exemple montré qu’il était possible de créer une IA discriminante qui passe néanmoins tous les tests légaux anti-discrimination.
• La consultation citoyenne pour l’élaboration de la charte éthique d’Occitanie Data débutera fin avril / début mai. Le site à suivre pour en savoir plus : https://occitaniedata.fr/
• Dans la continuité de son « Livre blanc – Intelligence artificielle – Une approche européenne axée sur l’excellence et la confiance », la Commission européenne lance une consultation publique en ligne. Le « secteur privé, le milieu universitaire et la société civile des États membres » ont jusqu’au 19 mai 2020 pour s’exprimer.
« Cette consultation porte à la fois sur des moyens d’action visant à stimuler les investissements dans la recherche et l’innovation, à renforcer le développement des compétences et à soutenir l’adoption de l’IA par les PME, et sur les éléments clés d’un futur cadre réglementaire. » Des propositions concrètes sont attendues.