Résistances et contrepoids face à l’IA  

L’auteure est chargée de cours et chercheuse au doctorat sur les questions de cybercultures, de datafication et de réseaux sociaux

La réflexion éthique sur le développement des technologies en intelligence artificielle doit être appuyée par des mesures politiques et juridiques contraignantes ; sans quoi, les nombreux effets négatifs de l’IA ne pourront être contrebalancés.

Les applications de l’intelligence artificielle (IA) occupent une place de plus en plus considérable dans notre société, à la faveur des développements technologiques liés à la collecte et à l’analyse de données massives (Big Data). Pour cette raison, et parce qu’il comporte d’inquiétantes zones d’ombres, le développement de ces nouvelles technologies se doit d’être accompagné d’une réflexion éthique sérieuse et de mesures institutionnelles conséquentes. Parmi ces inquiétudes, il y a notamment la menace que fait peser l’IA sur la vie démocratique, comme l’a montré l’alliance entre Facebook et Cambridge Analytica, spécialisée en forage de données, en vue de manipuler l’opinion publique lors des élections présidentielles aux États-Unis en 2016.

Exclusion et profilage

La collecte massive de données personnelles, essentielle à l’apprentissage automatique, est un autre enjeu préoccupant. L’utilisation de données personnelles éminemment sensibles (liées à l’orientation sexuelle, à l’origine ethnique, à l’appartenance religieuse et aux opinions politiques, par exemple) peut non seulement servir à créer des profils-types pour des opérations de marketing ciblé, mais aussi à entraîner des algorithmes à identifier, voire à prédire les comportements des usagers. En plus de poser de sérieux problèmes en matière de droits de la personne, ce type de technologie a été fortement critiqué parce qu’il peut contribuer à renforcer l’exclusion et les inégalités sociales : les personnes qui programment les formulaires de captation de données, qui codent des algorithmes et créent des applications sont en effet susceptibles d’intégrer différents biais discriminatoires dans la « recette ».

Dans Algorithms of Oppression (NYU Press, 2017), la chercheure Safiya Noble a analysé l’invisibilité scandaleuse des femmes noires dans les résultats de recherche de Google. Cet éloquent exemple de biais algorithmiques renvoie à la réflexion du sociologue Dominique Cardon qui se demande, dans À quoi rêvent les algorithmes ? (Seuil, 2015), non seulement quels mondes les algorithmes sont en train de produire, mais surtout quels traits du monde actuel – incluant les préjugés et les jugements racistes – ils « reproduiront ».

Face aux différentes menaces que fait planer l’IA, de nouvelles formes de résistance surgissent. Par exemple, des organismes se sont donné la tâche de conscientiser la population sur l’IA et ses différents enjeux majeurs. Au Canada, des mouvements comme AI4Good (que l’on pourrait traduire par « intelligence artificielle pour le bien ») s’adressent principalement à un public étudiant ou déjà sensibilisé par le biais d’ateliers et de mini-conférences de « transfert des savoirs ». L’organisation internationale Access Now, consacrée à la défense des droits de la personne, publie chaque mois, depuis 2017, des articles critiques sur les effets des applications de l’IA sur la liberté d’expression, la démocratie et la vie privée.

Par ailleurs, différents projets montrent que l’IA peut être mise au service d’une société plus solidaire. Pensons aux initiatives de Joshua Browder, qui a d’abord lancé en 2016 l’agent conversationnel (chatbot) DoNotPay (« Ne payez pas »), visant à faciliter la démarche des personnes qui voulaient contester leurs contraventions de stationnement. Les fonctions de l’application ont ensuite été élargies pour embrasser d’autres tâches fastidieuses comme remplir une demande de logement social pour les personnes nécessitant ce type de services. En collaboration avec Facebook, le jeune entrepreneur a aussi implanté dans le système de messagerie instantanée Messenger un chatbot programmé pour accompagner les personnes immigrantes souhaitant remplir le formulaire fourni par l’État d’accueil.

Toutefois, ce type d’initiative à finalité de justice sociale dépend de financements bien maigres en comparaison des moyens gigantesques dont disposent les grandes sociétés qui développent l’IA. Cette réalité limite considérablement la portée de leurs interventions, si pertinentes soient-elles. 

La nécessité d’une vigilance éthique

Creuset de la recherche et du développement en IA, Montréal est devenue récemment chef de file en matière de réflexion éthique au service des entreprises, comme en fait foi la Déclaration de Montréal pour un développement responsable de l’IA, publiée en décembre 2018, qui énonce les principaux principes éthiques qui devraient baliser le développement de l’IA.

Parmi les enjeux les plus mentionnés dans la déclaration, on retrouve la justice sociale, couvrant des sujets tels que les biais algorithmiques et le devoir de représentativité de la diversité. Mais l’énonciation de tels principes a peu de poids face aux puissances économiques, et à leurs intérêts, à l’origine de l’essor actuel de l’IA et qui en profitent. Des mesures institutionnelles sont nécessaires pour s’assurer que ces principes éthiques soient pris en compte dès la création de projets concrets, et posés comme conditions à tout financement public.

Une étude réalisée par des chercheuses de l’UQAM, en collaboration avec l’Institut de recherche et d’informations socio-économiques (IRIS)[1], plaide d’ailleurs en ce sens. Elle remet en question les investissements haussiers faits dans les entreprises et la recherche universitaire portant sur l’IA, et défend l’idée qu’il faudrait créer un « espace institutionnel » ayant pour mission d’encadrer les investissements afin de s’assurer que tous en profitent. Car comme pour tout ce qui relève du secteur technologique, le néolibéralisme ambiant tend à prendre le pas sur une réflexion éthique, souvent sous-financée et marginalisée.

Sans ces mesures, le discours éthique, comme celui qu’on retrouve dans la Déclaration de Montréal, risque de ne servir que de caution morale à un développement lourdement financé par des fonds publics mais qui, en réalité, ne sert pas nécessairement l’intérêt général et profite surtout au milieu des affaires et à un cercle restreint de chercheurs universitaires.

Actuellement, le développement de l’IA est axé essentiellement sur la création de gadgets onéreux et sur le besoin des entreprises d’améliorer leur efficacité et leur productivité sans réelle considération du bien commun. Or, comme le concluent les chercheuses associées à l’IRIS : si aucune mesure politique n’encadre les activités économiques de l’IA, les risques sociaux qui y sont associés ne pourront être « réellement minimisés » et « rien n’assure que des investissements publics majeurs se métamorphoseront en retombées » (p. 11) pour toutes les Québécoises et tous les Québécois.

[1] Joëlle Gélinas, Myriam Lavoie-Moore, Lisiane Lomazzi et Guillaume Hébert, Financer l’intelligence artificielle, quelles retombées économiques et sociales pour le Québec ?, IRIS, 2019.