Justice (éthique de l’IA)
Matthieu Ferry ⇄ IAEn bref : Répartir équitablement les bénéfices et les risques des systèmes d’IA, prévenir les discriminations héritées des données, et préserver la solidarité. En santé mentale, sa question test : l’outil étend-il l’accès au soin — ou installe-t-il une médecine à deux vitesses, humaine pour les uns, algorithmique pour les autres ?
Cadre de référence
Ce principe hérite de la tradition distributive (rawlsienne) : la justice comme allocation équitable de biens entre des groupes. Cette ontologie de la répartition laisse dans l’ombre deux questions que d’autres traditions posent : qui décide, et qu’est-ce qui est extrait. → Voir d’autres perspectives
Pourquoi ce concept est utile
L’argument central des promoteurs de l’IA en santé mentale est un argument de justice : démocratiser l’accès au soin face à la pénurie de cliniciens. Ce principe fournit les outils pour instruire cet argument au lieu de l’accepter ou de le rejeter en bloc.
Floridi et Cowls (2019) donnent au principe une forme tripartite : utiliser l’IA pour corriger des inégalités existantes, empêcher qu’elle aggrave celles que ses données héritent, préserver la solidarité dans des sociétés que les infrastructures algorithmiques transforment.
Pour le clinicien, la justice n’est pas un enjeu abstrait de régulateurs : elle se joue dans votre cabinet, chaque fois qu’un outil validé sur des étudiants anglophones rencontre un patient qui ne leur ressemble pas.
Ce que le principe exige
1. L’équité d’accès — et de qualité
Vilaza et McCashin (2021) identifient le dilemme : les chatbots peuvent étendre l’accès au soin dans les déserts médicaux — ou consacrer une médecine à deux vitesses. La justice exige soit une qualité comparable, soit un positionnement explicitement complémentaire, jamais substitutif.
Pour le clinicien :
La question n’est pas seulement « qui a accès à l’outil ? » mais « qui n’a accès qu’à l’outil ? ».
2. Les discriminations héritées des données
Les chatbots sont massivement entraînés sur des données anglophones occidentales : réponses inadaptées ou stéréotypées pour les minorités linguistiques et culturelles, idiomes culturels interprétés comme symptômes. La justice exige données représentatives, audits différentiels par sous-population, correction post-déploiement.
Pour le clinicien :
Pour vos patients éloignés du profil majoritaire (langue, culture, neurodivergence), l’outil « validé » ne l’est peut-être pas pour eux. Demandez les performances désagrégées — leur absence est déjà une réponse.
3. La justice procédurale : qui participe ?
Au-delà de la distribution (qui obtient quoi), la justice procédurale interroge le processus : qui conçoit, qui définit les métriques d’équité, qui évalue les torts ? Costanza-Chock (2020) radicalise : la justice authentique exige une co-conception avec les communautés marginalisées, pas l’application descendante de principes par des experts distants.
Pour le clinicien :
Des usagers et des cliniciens ont-ils participé à la conception — en amont, pas en bêta-test ? C’est un critère de qualité aussi discriminant que la validation clinique.
4. L’impossibilité d’une équité purement technique
Résultat mathématique fondamental (Chouldechova, 2017) : on ne peut pas satisfaire simultanément toutes les définitions formelles de l’équité dès que les groupes diffèrent. Choisir une métrique d’équité est donc un arbitrage politique, pas un réglage technique — et un système « certifié équitable » a simplement choisi sa définition.
Pour le clinicien :
Quand un éditeur affirme que son système est « sans biais », la bonne question est : selon quelle définition, choisie par qui, au détriment de quelle autre ?
Cas illustratif
Une agence régionale de santé déploie un chatbot de première ligne dans un territoire où le délai d’accès à un psychologue dépasse huit mois. L’argument est explicitement un argument de justice : mieux qu’une liste d’attente.
Instruction par le principe : l’extension d’accès est réelle — des personnes sans aucune ressource en obtiennent une. Mais trois angles restent morts : le chatbot, entraîné en français standard, répond mal aux usagers allophones pourtant surreprésentés dans le territoire ; aucun financement ne renforce en parallèle l’offre humaine, transformant le provisoire en permanent ; et les données d’usage, massivement produites par les habitants les plus précaires, alimentent un produit commercial qui sera vendu ailleurs.
Le déploiement n’est ni juste ni injuste en bloc : il corrige une inégalité d’accès tout en en installant deux autres (qualité différentielle, extraction). C’est exactement le travail que le principe demande — instruire les trois dimensions, pas trancher par slogan.
En pratique pour le clinicien
- Désagrégez toute affirmation d’efficacité : validé sur qui ? Vos patients hors du profil majoritaire méritent la question à chaque fois.
- Repérez la substitution rampante : quand un outil déployé comme complément devient l’unique offre pour les publics précaires, la médecine à deux vitesses est installée — nommez-la dans les instances où vous siégez.
- Valorisez la co-conception : entre deux outils comparables, celui conçu avec des usagers et des cliniciens offre de meilleures garanties que celui conçu pour eux.
- Ne laissez pas l’équité aux ingénieurs : le choix d’une métrique d’équité est un choix de valeurs — les cliniciens ont toute légitimité à y prendre part.
Ce que ce concept ne dit pas
Précautions d’interprétation :
- La justice n’est pas une propriété technique du système : le théorème d’impossibilité montre qu’elle exige des arbitrages politiques explicites
- L’absence de biais ponctuel ne suffit pas : l’effet structurant des infrastructures (qui façonnent durablement l’offre de soin) excède la non-discrimination locale
- La consultation aval n’est pas la co-conception : faire valider par des usagers ce qui est déjà conçu n’est pas de la justice procédurale
- Le justice-washing existe : afficher des indicateurs de parité sans toucher aux conditions structurelles (modèle économique extractif, gouvernance fermée) est l’équivalent distributif de l’ethics-washing
- Tension interne assumée : étendre l’accès vite (justice distributive) et co-concevoir lentement (justice procédurale) tirent dans des directions opposées — l’arbitrage doit être explicite
Autres regards
La justice distributive pense en termes d’allocation : des biens à répartir entre des groupes. Cette ontologie de la répartition présuppose que ce qui circule est un bien — et que la question s’arrête à sa distribution.
Capabilités : distribuer ne suffit pas
Pour l’approche des capabilités (Sen, Nussbaum), la justice ne se mesure pas aux ressources distribuées mais aux capacités réelles de les convertir en fonctionnements. Un chatbot également « accessible » à tous ne crée pas des capabilités égales : littératie numérique, langue, confiance dans les institutions et bande passante en conditionnent l’usage réel.
Pour le clinicien : L’accès formel de votre patient à un outil ne dit rien de sa capacité effective à en tirer un bénéfice — c’est cette capacité qu’il faut évaluer.
Colonialité des données : l’injustice est dans l’extraction
Pour la critique de la colonialité des données (Couldry & Mejias), l’injustice première n’est pas dans la mauvaise répartition des bénéfices mais dans le rapport extractif constitutif : les confidences des usagers — matière première la plus intime qui soit — deviennent un actif commercial. Redistribuer les bénéfices d’une extraction ne la rend pas juste.
Pour le clinicien : Au-delà de « qui en profite ? », poser « qu’est-ce qui est extrait, de qui, et au profit de quel modèle ? ».
Éthique du care : la justice de la rencontre
Pour Tronto, la justice en contexte de soin ne se joue pas seulement dans les grandes allocations mais dans la qualité concrète de chaque rencontre : être entendu dans sa langue, dans son idiome culturel, dans sa singularité. Une distribution parfaite de rencontres inadéquates reste une injustice — simplement mieux répartie.
Pour le clinicien : L’égalité de traitement n’est pas l’uniformité de traitement — c’est vrai de vos consultations, ça l’est des outils. Voir la fiche Éthique du care.
Ces regards déplacent la question sans l’annuler : la distribution équitable reste nécessaire — mais elle ne dit ni ce qui vaut la peine d’être distribué (capabilités), ni ce que sa production extrait (colonialité), ni ce qui se passe dans chaque rencontre (care).
Pour aller plus loin
Les flèches ↩ renvoient au passage de la fiche qui cite la référence.
La formulation tripartite : Floridi, L. & Cowls, J. (2019). A Unified Framework of Five Principles for AI in Society. Harvard Data Science Review, 1(1). DOI ↩
Le dilemme d’accès en santé mentale : Vilaza, G. N. & McCashin, D. (2021). Is the Automation of Digital Mental Health Ethical? Applying an Ethical Framework to Chatbots for Cognitive Behaviour Therapy. Frontiers in Digital Health, 3. DOI ↩
La critique procédurale radicale : Costanza-Chock, S. (2020). Design Justice: Community-Led Practices to Build the Worlds We Need. MIT Press. DOI ↩
Le théorème d’impossibilité : Chouldechova, A. (2017). Fair Prediction with Disparate Impact: A Study of Bias in Recidivism Prediction Instruments. Big Data, 5(2), 153-163. DOI ↩
Tous les concepts
Fiche mise à jour : juillet 2026