Un algorithme n’a pas de préjugés — il a ceux de ses données. De la prédiction de la récidive à la reconnaissance faciale, l’intelligence artificielle a déjà discriminé à grande échelle, parfois sous un vernis d’objectivité. Au Québec, c’est la Charte qui lui oppose une limite — mais la boîte noire complique tout.
Et si une machine décidait de votre crédit, de votre embauche ou de votre liberté en reproduisant, sans le savoir, une discrimination ancienne? Le danger de l’IA n’est pas qu’elle soit méchante. C’est qu’elle soit confiante — et qu’elle répète notre passé avec une autorité mathématique.
Le problème : la discrimination automatisée
Les exemples sont documentés. Aux États-Unis, le système COMPAS, qui prédit le risque de récidive, s’est révélé biaisé contre les personnes afro-américaines. La reconnaissance faciale, elle, se trompe davantage sur les femmes et les personnes à la peau foncée — jusqu’à dix fois plus que pour les hommes blancs, selon les tests du NIST. En 2020, une erreur d’un tel algorithme a conduit à l’arrestation injustifiée d’un homme afro-américain. Un outil de recrutement d’Amazon a même dû être abandonné parce qu’il pénalisait les candidatures féminines.
Le mécanisme est sournois : un algorithme n’a pas besoin de nommer une caractéristique sensible pour discriminer. Il lui suffit d’utiliser une variable de substitution — un code postal, un historique d’emploi — corrélée à l’origine ou à la précarité. Au Québec, l’affaire Clearview AI en a donné un exemple frappant : la Commission d’accès à l’information lui a ordonné, en décembre 2021, de cesser de constituer sa banque de visages et de détruire les données biométriques de Québécois recueillies sans consentement. La Gendarmerie royale du Canada avait utilisé l’outil; son usage a été jugé illégal au pays.
Ce qu’on essaie déjà
La réponse est double. Sur le plan technique : les audits algorithmiques, les tests de biais et l’explicabilité, qui cherchent à ouvrir la boîte. Sur le plan juridique : au Québec, tout système d’IA doit respecter la Charte des droits et libertés de la personne, qui a préséance sur toute autre loi (CDPDJ). La Loi 25 accorde à toute personne visée par une décision fondée exclusivement sur un traitement automatisé le droit d’en être informée, d’en connaître les principaux facteurs et de demander une révision par un humain. En Europe, l’AI Act classe les usages judiciaires parmi les « hauts risques » et interdit carrément le moissonnage de visages — la pratique même de Clearview.
La technologie, et comment elle s’adapte
Le biais entre par deux portes : les données d’entraînement, qui portent la marque des discriminations passées, et les variables proxy, qui les réintroduisent par la bande. Les audits mesurent l’effet discriminatoire sur différents groupes; l’explicabilité tente de rendre lisible une décision. Le remède est mi-technique, mi-juridique.
Les obstacles — le cœur du problème
Le remède reproduit la maladie. Entraîner un outil sur des décisions passées discriminatoires, c’est en automatiser la discrimination — notamment la surreprésentation des personnes autochtones. La « cohérence » obtenue peut n’être qu’une injustice constante.
La boîte noire résiste. La Loi 25 donne accès aux « principaux facteurs » d’une décision — mais pas à l’algorithme lui-même, que la loi n’oblige pas à dévoiler, pour protéger les secrets industriels. Or on conteste mal ce qu’on ne peut pas voir : le droit à une défense pleine s’en trouve fragilisé.
Des garde-fous contournables. Le droit de la Loi 25 ne vise que les décisions exclusivement automatisées : ajouter un humain symbolique suffit à y échapper. Et ce « superviseur » humain tend à accorder une confiance excessive à la première sortie de l’algorithme — le biais d’ancrage —, vidant le contrôle humain d’une part de son sens.
L’équité n’a pas de définition unique. Le débat autour de COMPAS l’a montré : on ne peut pas satisfaire en même temps toutes les définitions mathématiques de l’équité. « Équitable » n’a pas de réponse technique unique — c’est un choix de valeurs.
Qui audite l’auditeur? Un outil censé contrôler les biais peut lui-même être opaque ou biaisé. Le remède ne saurait être, à son tour, une boîte noire.
L’état des preuves
Le constat est clair : les biais sont réels, documentés, et ils s’étendent à mesure que l’IA gagne la justice pénale, le recrutement ou le crédit. Les régulateurs ont agi — Clearview écarté au Québec, usages judiciaires classés « haut risque » en Europe. Mais les garde-fous restent partiels : la boîte demeure close, les exemptions existent, l’équité se discute, et la Charte agit surtout après coup, une fois la discrimination établie à première vue. L’IA ne supprime pas le préjugé humain; elle peut le blanchir et le démultiplier sous une apparence de neutralité.
Au Québec, c’est la Charte qui a le dernier mot. Encore faut-il, pour qu’elle soit effective, que l’outil censé contrôler les biais ne soit pas, lui-même, une boîte noire. Ce texte fait partie de notre dossier L’IA et la justice québécoise.
Cet article est à jour au 19 juin 2026 et sera révisé au fil des décisions et des déploiements.
⚡ Voix augmentée — Note sur ce contenu. Cet article a été rédigé par une journaliste IA du Juridhic à partir de ses recherches, puis vérifié et validé sous la responsabilité éditoriale de la rédaction humaine du Juridhic. Sur un sujet où l’intelligence artificielle est à la fois l’objet et l’outil, chaque fait et chaque source ont été contrôlés par un humain. Une erreur, une information à mettre à jour? Signalez-la-nous à corrections-lejuridhic@protonmail.ch.
Références
- Commission des droits de la personne et des droits de la jeunesse. Respecter les droits de la personne en intelligence artificielle. cdpdj.qc.ca
- Gouvernement du Québec. (2021, 14 décembre). La Commission ordonne à Clearview AI de cesser ses pratiques de reconnaissance faciale non conformes. quebec.ca
- Laboratoire de cyberjustice, Université de Montréal. (2026, 25 mai). La justice à l’épreuve des biais de l’intelligence artificielle. cyberjustice.openum.ca
- Loi modernisant des dispositions législatives en matière de protection des renseignements personnels, LQ 2021, c 25 (art. 12.1 et 65.2). CanLII. canlii.org
- Gouvernement du Québec. Décision fondée exclusivement sur un traitement automatisé. quebec.ca
- IANA. (2026, 13 mars). Les biais algorithmiques : un danger pour l’équité et la justice? iana-data.org
- Commissariat à la protection de la vie privée du Canada. Enquête conjointe sur Clearview AI. publicsafety.gc.ca
