Profilage racial et technologies

Ce projet est mené en partenariat avec la Clinique juridique de St Michel (CJSM) à Montréal, Quebec.

Il est financé par le CRSH dans le programme Engagement Partenarial.

L’intelligence artificielle (IA) désigne « les systèmes qui font preuve d’un comportement intelligent en analysant leur environnement et en prenant des mesures, avec un certain degré d’autonomie, pour atteindre des objectifs spécifiques ». La police prédictive, les caméras corporelles, la reconnaissance faciale ou encore la lecture automatique de plaque d’immatriculation sont des systèmes basés sur l’IA et mis à la disposition de la police pour renforcer leur capacité d’action. Alors que les villes sont toujours plus denses et peuplées, la technologie peut avoir une utilité sociale en permettant de maintenir un niveau de sécurité que les forces de l’ordre ne peuvent plus assurer seules. Elle peut aussi faire gagner du temps ou simplifier le travail des agents. Mais ces outils font par ailleurs peser une menace de surveillance permanente et généralisée sur la population. Les droits et libertés protégés par la Charte canadienne (droit à la vie privée, libertés d’aller et venir, d’association, d’opinion, de manifestation) pourraient être menacés. En outre, de nombreuses études aux États-Unis prouvent les biais de ces technologies envers les populations racisées, révélant une discrimination algorithmique. Avec la prise de conscience de la présence de racisme systémique envers les populations noires et autochtones dans les institutions dont la police, la conjonction de ces facteurs d’inégalité révèle l’urgence d’analyser pour mieux agir.

Quels systèmes d’intelligence artificielle les polices du Canada utilisent-elles pour les appuyer dans leur travail ? Quels impacts ces outils peuvent-ils avoir sur le problème du racisme systémique ? Comment les services de police font-ils face aux risques de discrimination de certaines technologies ? Comment les communautés noires et autochtones peuvent-elles participer activement à la compréhension de ces risques et s’en défendre plus efficacement ? Le cadre légal est-il suffisamment robuste pour garantir le respect du principe d’égalité ?

Ces travaux, menés en partenariat avec la Clinique Juridique de St Michel à Montréal (CJSM), visent aussi à mieux comprendre les manifestations du profilage racial et le rôle que peut jouer la technologie pour réduire les risques de racisme systémique.

Mis à jour le 20 novembre 2021 à 16 h 21 min.