Cadres éthiques de l’IA (AIEF)
Matthieu Ferry ⇄ IAEn bref : Dispositifs normatifs — principes, chartes, lignes directrices, codes de conduite — produits par des entreprises, des gouvernements et des institutions pour encadrer le développement de l’IA (AI Ethics Frameworks). Plus de 170 ont été publiés en une décennie. Leur convergence apparente masque un fait dérangeant : aucune étude n’a démontré leur effet sur les résultats des patients.
Cadre de référence
Les AIEF — et cette fiche qui les décrit — s’inscrivent dans le principlisme : l’idée, héritée de la bioéthique, que l’éthique consiste à énoncer des principes universels puis à les appliquer. Cette approche descendante est une position philosophique datée et située, pas une évidence neutre. → Voir d’autres perspectives
Pourquoi ce concept est utile
« IA responsable », « conforme aux principes éthiques européens », « développée selon une charte éthique stricte » : ces mentions figurent aujourd’hui sur la quasi-totalité des outils d’IA proposés aux professionnels de santé mentale — et sur les applications que vos patients utilisent déjà.
Savoir ce que recouvrent réellement ces promesses est devenu une compétence clinique. Un cadre éthique IA est une déclaration de principes, presque jamais un mécanisme de contrôle. Confondre les deux, c’est accorder à un argument marketing la valeur d’une certification.
Ce concept vous donne les repères pour situer une charte donnée dans le paysage normatif (qui l’a produite ? avec quelle force contraignante ?), et pour poser les questions que la charte ne pose pas.
Les cinq principes convergents (Floridi & Cowls, 2019)
En comparant les grands cadres publiés, Floridi et Cowls (2019) ont montré que leurs principes convergent vers les quatre piliers classiques de la bioéthique — que vous connaissez déjà par la déontologie médicale et psychologique — plus un cinquième, spécifique à l’IA.
1. Bienfaisance
L’IA doit bénéficier aux personnes et à la société. Promouvoir le bien-être, préserver la dignité, soutenir la planète.
Pour le clinicien :
Le bénéfice annoncé est-il démontré cliniquement, ou seulement plausible ? « Améliore l’accès au soin » est une hypothèse, pas un résultat.
2. Non-malfaisance
Ne pas nuire : protéger la vie privée, prévenir les mésusages, éviter les effets iatrogènes — qu’ils viennent des concepteurs ou des usages détournés.
Pour le clinicien :
Qui surveille les effets indésirables une fois l’outil déployé ? Existe-t-il un équivalent de la pharmacovigilance, ou le suivi s’arrête-t-il à la mise sur le marché ?
3. Autonomie
Préserver le pouvoir de décision humain. Floridi parle de « méta-autonomie » : décider ce que l’on délègue à la machine, et pouvoir reprendre la main à tout moment.
Pour le clinicien :
Le patient sait-il ce qu’il a délégué à l’application ? Et vous-même, gardez-vous la main sur les décisions cliniques que l’outil pré-formate (priorisation, alertes, synthèses) ?
4. Justice
Équité d’accès et de traitement. Ne pas amplifier les discriminations existantes, ne pas créer de médecine mentale à deux vitesses.
Pour le clinicien :
Sur quelles populations l’outil a-t-il été entraîné et évalué ? Un chatbot validé sur des étudiants américains anglophones ne dit rien de ses effets sur vos patients.
5. Explicabilité (le principe spécifique à l’IA)
Pouvoir comprendre comment le système produit ses résultats et savoir qui en répond. C’est le principe qui rend les quatre autres vérifiables : sans explicabilité, impossible de constater une injustice ou un dommage.
Pour le clinicien :
Si l’outil oriente, alerte ou catégorise, pouvez-vous savoir pourquoi ? Et en cas de dommage, la chaîne de responsabilité (éditeur, prescripteur, clinicien) est-elle explicite ?
Se repérer dans le paysage normatif
| Type de cadre | Exemples | Force contraignante |
|---|---|---|
| Charte d’entreprise | Google AI Principles, Microsoft Responsible AI | Aucune — engagement volontaire, auto-évalué |
| Recommandation internationale | Principes OCDE (2019), Recommandation UNESCO (2021) | Faible — engage politiquement les États signataires |
| Lignes directrices sectorielles | Guide HAS-CNIL sur les systèmes d’IA en contexte de soins, guide d’implémentation DNS (santé) | Variable — référence professionnelle, opposable en pratique |
| Réglementation (hard law) | AI Act européen (2024), RGPD | Forte — obligations légales, sanctions |
Environ 40 % des cadres publiés proviennent d’entreprises technologiques — c’est-à-dire des acteurs qu’ils sont censés encadrer. La position d’un cadre sur ce continuum change entièrement ce que sa mention « conforme » signifie.
Le constat empirique : des principes sans effets démontrés
La scoping review de Chan et collaborateurs (2025, JAMIA) a examiné une décennie de cadres éthiques IA dans le secteur de la santé : sur plus de 170 cadres publiés entre 2014 et 2024, seules 16 études ont examiné leur mise en œuvre effective — et aucune n’établit de lien entre l’adoption d’un cadre et une amélioration mesurable pour les patients ou les organisations.
Ce fossé entre principes déclarés et pratiques vérifiables porte un nom : le fossé d’opérationnalisation. Brent Mittelstadt (2019) en a identifié la cause structurelle : contrairement à la médecine, l’IA n’a ni obligations fiduciaires envers ses usagers, ni méthodes éprouvées de traduction des principes en pratiques, ni mécanismes de responsabilité professionnelle et légale. Les principes seuls ne peuvent pas garantir une IA éthique.
Quand la déclaration de principes sert de vitrine sans transformation des pratiques, on parle d’ethics washing — l’équivalent normatif du greenwashing écologique.
Cas illustratif
Un CMP évalue une application de soutien entre les séances pour ses patients suivis en TCC. Le dossier commercial met en avant : « IA développée selon une charte éthique conforme aux lignes directrices européennes, validée par un comité d’éthique interne ».
Lecture naïve : la mention éthique rassure l’équipe, l’application est adoptée. Feu vert.
Lecture informée : la psychologue référente pose quatre questions. Quelle charte, produite par qui ? (Celle de l’éditeur lui-même — auto-évaluée.) Quels mécanismes concrets ? (Aucun audit externe, pas de protocole d’escalade vers un humain en cas de crise.) Quelles données d’efficacité ? (Des scores de satisfaction, aucune mesure clinique.) Qui répond en cas de dommage ? (Silence du contrat.) La mention éthique ne couvrait aucune de ces questions.
La charte n’était ni mensongère ni inutile — mais elle décrivait des intentions, là où l’équipe croyait lire des garanties. C’est exactement l’écart que documente la littérature.
En pratique pour le clinicien
- Traitez toute mention « IA éthique » comme une déclaration, pas comme une garantie : demandez qui a produit le cadre, qui vérifie son application, et ce qui se passe en cas de manquement.
- Utilisez les cinq principes comme grille de questions, pas comme checklist rassurante : bénéfice démontré ? surveillance des dommages ? autonomie préservée ? populations d’évaluation ? explicabilité et responsabilité ?
- Appuyez-vous sur les cadres sectoriels français plutôt que sur les chartes d’éditeurs : le guide HAS-CNIL sur les systèmes d’IA en contexte de soins et l’AI Act européen offrent des repères plus exigeants et opposables.
- Votre déontologie reste le socle : les principes des AIEF reprennent ceux de la bioéthique que votre code de déontologie opérationnalise déjà — avec, lui, des instances et des sanctions. Ne laissez pas une charte technique se substituer à votre cadre professionnel.
Ce que ce concept ne dit pas
Précautions d’interprétation :
- Il n’existe pas « un » cadre éthique de l’IA : AIEF désigne une catégorie hétérogène de plus de 170 documents aux contenus, ambitions et légitimités très variables
- Critiquer les cadres n’est pas les rejeter : ils structurent le débat public et ont préparé le terrain de l’AI Act — l’erreur est de les prendre pour des mécanismes de contrôle
- La convergence des principes est nominale : un cadre chinois, une charte californienne et des lignes directrices européennes peuvent affirmer la même « transparence » en désignant des obligations très différentes
- Les principes ne sont pas neutres : massivement produits en Amérique du Nord et en Europe, les cadres encodent des conceptions occidentales de l’autonomie et du bien — une limite documentée (Birhane, 2021)
- L’absence de preuve n’est pas la preuve de l’inefficacité : Chan et al. montrent que l’effet des cadres n’a jamais été démontré — pas qu’il est nul ; c’est un déficit d’évaluation autant qu’un déficit d’effet
Autres regards
Le principlisme des AIEF présuppose que l’éthique est affaire de principes universels appliqués de haut en bas. Ce présupposé embarque des biais — dépolitisation des enjeux, universalisme culturellement situé — que d’autres traditions rendent visibles.
Éthique du care : la relation avant les principes
Pour Gilligan et Tronto, l’éthique ne descend pas de principes abstraits : elle naît de relations concrètes de soin et de la réponse aux besoins d’autrui. Un outil peut cocher les cinq principes et dégrader la relation de soin.
Pour le clinicien : Évaluer la qualité relationnelle produite par l’outil, pas seulement sa conformité — voir la fiche Éthique du care.
Design Justice : qui décide, qui subit ?
Pour Sasha Costanza-Chock, la vraie question n’est pas « quels principes ? » mais « qui conçoit, qui décide, qui subit ? ». Des principes irréprochables peuvent couvrir un processus injuste dont les premiers concernés — usagers, soignants — sont absents.
Pour le clinicien : Demander si des patients et des cliniciens ont participé à la conception et à l’évaluation de l’outil — question qu’aucune checklist de principes ne pose.
Éthique des vertus : la disposition plutôt que la règle
Pour la tradition aristotélicienne (reprise par Hagendorff et Vallor pour l’IA), l’éthique est une disposition cultivée par la pratique — la phronesis, le jugement situé — pas une conformité à des règles. Un cadre déclaratif ne rend personne éthique.
Pour le clinicien : Votre formation, votre supervision et votre jugement clinique sont des dispositifs éthiques plus opérants que n’importe quelle charte — c’est précisément ce que les AIEF n’ont pas.
Ces regards ne remplacent pas les principes — ils rappellent que « quels principes ? » n’est qu’une des questions éthiques. « Quelles relations ? », « quels processus de décision ? » et « quelles dispositions cultivées ? » en sont d’autres, que le paysage actuel des AIEF laisse largement sans réponse — tout comme les perspectives non-occidentales (Birhane) restent marginalisées dans leur production.
Pour aller plus loin
Les flèches ↩ renvoient au passage de la fiche qui cite la référence.
La synthèse des cinq principes : Floridi, L. & Cowls, J. (2019). A Unified Framework of Five Principles for AI in Society. Harvard Data Science Review, 1(1). DOI ↩
La cartographie mondiale : Jobin, A., Ienca, M. & Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1, 389-399. DOI
La critique structurelle : Mittelstadt, B. (2019). Principles alone cannot guarantee ethical AI. Nature Machine Intelligence, 1, 501-507. DOI ↩
Le bilan empirique : Chan, A., Rahimi-Ardabilli, H., Rogers, W. A. & Coiera, E. (2025). The real-world impact of artificial intelligence ethics frameworks across a decade in healthcare: a scoping review. Journal of the American Medical Informatics Association, 32(11), 1767-1777. DOI ↩
Le repère sectoriel français : HAS & CNIL (2026). Accompagner le bon usage des systèmes d’IA en contexte de soins. PDF officiel ↩
Tous les concepts
Fiche mise à jour : juillet 2026