Non-malfaisance (éthique de l’IA)
Matthieu Ferry ⇄ IAEn bref : Le primum non nocere appliqué à l’IA : les systèmes et ceux qui les conçoivent ne doivent pas causer de tort — ni aux individus (vie privée, sécurité psychique), ni à la société (manipulation, concentration de pouvoir). En santé mentale, son test décisif : que fait le système face à une situation d’urgence qu’il n’a pas su reconnaître ?
Cadre de référence
Ce principe hérite d’une ontologie médicale du tort comme événement identifiable, attribuable à un agent responsable. Or les torts algorithmiques sont souvent diffus, lents et distribués — ce qui met le principe sous tension. → Voir d’autres perspectives
Pourquoi ce concept est utile
C’est le principe que vous connaissez le mieux — il fonde votre déontologie depuis Hippocrate. Sa transposition à l’IA (Floridi & Cowls, 2019) apporte deux extensions qui changent l’analyse : les torts à prévenir sont directs (dommages psychiques, vie privée) mais aussi systémiques (manipulation des affects à l’échelle, érosion du lien social) ; et la responsabilité, personnelle en médecine, y est diluée entre concepteur, déployeur et usager.
Pour le clinicien, ce principe fournit la grille d’analyse des incidents qui font l’actualité des chatbots — et surtout des questions à poser avant l’incident : détection des crises, protection des données les plus sensibles qui soient, prévention de la dépendance.
Ce que le principe exige
1. Précaution informée, pas abstention totale
La non-malfaisance impose audits préalables, documentation des limites connues, mécanismes de désactivation — pas le risque zéro, qui n’existe pas. Un système qui refuse toute conversation sensible par prudence excessive cause un autre tort : le défaut d’aide.
Pour le clinicien :
Méfiez-vous des deux extrêmes : l’outil sans garde-fous, et l’outil qui noie l’usager sous les avertissements dissuasifs — le second n’est pas plus éthique, il est défensif.
2. Le test décisif : la détection des situations à risque
En santé mentale, l’exigence opérationnelle centrale (Vilaza & McCashin, 2021) : reconnaître les marqueurs d’urgence — idéations suicidaires, signalements d’abus — et orienter vers un humain. Le cas paradigmatique reste Woebot répondant à un enfant signalant des abus : « désolé que tu traverses ça, mais cela montre à quel point la connexion compte pour toi ». Un système conçu pour aider a causé un tort actif par incapacité à reconnaître la gravité.
Pour le clinicien :
Première question à poser à tout outil : que se passe-t-il concrètement quand un usager évoque le suicide, un abus, une décompensation ? Demandez une démonstration, pas une réponse de principe.
3. Les données de santé mentale : sensibilité maximale
Minimisation de la collecte, chiffrement, consentement granulaire, interdiction de monétisation secondaire. Le RGPD et l’AI Act opérationnalisent partiellement — mais la revente de données et le profilage restent des risques structurels des applications « bien-être » non classées dispositifs médicaux.
Pour le clinicien :
Ce que votre patient confie à un chatbot est du matériel clinique stocké chez un acteur commercial. La question « où vont ces conversations ? » fait partie de l’anamnèse numérique.
4. Le fossé de responsabilité
Matthias (2004) l’a théorisé avant l’ère des LLM : quand un système apprenant cause un tort que ni le concepteur ni l’opérateur ne pouvaient prédire, à qui l’imputer ? Ce fossé rend la non-malfaisance difficilement opposable juridiquement — là où la version médicale tient par la responsabilité personnelle du soignant.
Pour le clinicien :
En cas de dommage lié à un outil que vous avez recommandé, la chaîne de responsabilité vous inclut. Vérifiez ce que prévoit le contrat de l’éditeur — souvent : rien.
Cas illustratif
Léa, 19 ans, utilise quotidiennement un LLM généraliste pour parler de son anxiété. Un soir de crise, elle écrit qu’elle « pense à en finir ». Le système affiche un numéro d’urgence — puis, comme Léa change de sujet, poursuit la conversation sur un ton léger, comme si rien n’avait été dit.
Analyse par la non-malfaisance : le disclaimer d’urgence a été techniquement délivré — conformité formelle. Mais aucun protocole de bascule, aucune persistance de l’alerte, aucune mémoire de la gravité : le système a traité une idéation suicidaire comme un sujet de conversation parmi d’autres. Le tort n’est pas dans une réponse malveillante, mais dans l’absence structurelle de cadre clinique autour d’un moment critique.
C’est la signature des torts algorithmiques en santé mentale : pas d’intention, pas d’événement spectaculaire — une inadéquation silencieuse au moment précis où l’adéquation était vitale.
En pratique pour le clinicien
- Testez la gestion de crise avant de recommander : scénarisez une urgence et observez la réponse réelle du système — c’est le test de non-malfaisance le plus discriminant.
- Intégrez les usages numériques à l’évaluation du risque : pour un patient à risque suicidaire, savoir qu’il gère ses crises nocturnes avec un chatbot change le plan de sécurité.
- Comptez les torts lents : dépendance progressive, substitution aux relations humaines, therapeutic misconception — les torts les plus fréquents ne sont pas des incidents mais des dérives.
- N’oubliez pas le tort d’inaction : pour un patient sans aucun accès au soin, refuser par principe tout outil validé peut aussi nuire. La non-malfaisance est une balance, pas un veto.
Ce que ce concept ne dit pas
Précautions d’interprétation :
- Non-malfaisance ≠ risque zéro : le principe exige une balance bénéfice-risque informée, pas une innocuité absolue qu’aucune intervention (humaine incluse) ne garantit
- Conformité ≠ innocuité : satisfaire au RGPD ou à l’AI Act ne clôt pas la question des torts réels
- Le périmètre du « tort » est disputé : torts mesurables vs torts relationnels et symboliques — la frontière est instable et politiquement contestée
- La sur-application nuit : le paternalisme défensif (blocages systématiques, avertissements omniprésents) viole l’autonomie et peut priver d’aide
Autres regards
Le primum non nocere présuppose une ontologie du tort comme événement : identifiable, daté, attribuable. Les torts algorithmiques débordent ce moule de trois façons.
Le tort symétrique : les préjudices d’inaction
Comparer un chatbot au thérapeute idéal disponible et compétent est un biais de comparateur : pour des millions de personnes, l’alternative réelle n’est pas un psychologue mais rien. Une non-malfaisance qui ne compte que les torts du déploiement, jamais ceux du non-déploiement, est épistémiquement borgne.
Pour le clinicien : Évaluer contre l’alternative réelle du patient, pas contre l’idéal — voir la fiche Double standard épistémique.
Éthique du care : le tort comme qualité dégradée
Pour Tronto, le tort en contexte de soin n’est pas d’abord un événement mais une défaillance relationnelle : inattention, négligence, réponse incompétente, absence de vérification. Le cas Woebot n’est pas un « bug » — c’est une inattention structurelle au besoin. Cette lecture capte les torts qu’aucun registre d’incidents n’enregistrera.
Pour le clinicien : Évaluer la qualité de la réponse au besoin, pas seulement l’absence d’incident — voir la fiche Éthique du care.
Perspective systémique : les torts lents et diffus
Érosion progressive de l’esprit critique, dépendances douces, appauvrissement de l’écologie relationnelle : ces torts sans victime identifiable ni moment précis échappent à l’ontologie de l’événement-tort. Les approches processuelles invitent à évaluer des trajectoires (comment l’écosystème de vie du patient évolue-t-il ?) plutôt que des instantanés.
Pour le clinicien : Suivre dans la durée ce que l’usage fait à l’écologie relationnelle du patient, pas seulement chercher l’incident.
Ces regards élargissent le radar : le principe reste indispensable pour les torts aigus (crises non détectées, données exposées), mais les torts les plus probables de l’IA en santé mentale sont relationnels, lents et symétriques — exactement ceux que sa version classique voit le moins.
Pour aller plus loin
Les flèches ↩ renvoient au passage de la fiche qui cite la référence.
Le cadre des cinq principes : Floridi, L. & Cowls, J. (2019). A Unified Framework of Five Principles for AI in Society. Harvard Data Science Review, 1(1). DOI ↩
L’application aux chatbots TCC : Vilaza, G. N. & McCashin, D. (2021). Is the Automation of Digital Mental Health Ethical? Applying an Ethical Framework to Chatbots for Cognitive Behaviour Therapy. Frontiers in Digital Health, 3. DOI ↩
Le fossé de responsabilité : Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and Information Technology, 6(3), 175-183. DOI ↩
Le tort cognitif structurel : Khawaja, Z. & Bélisle-Pipon, J.-C. (2023). Your robot therapist is not your therapist: understanding the role of AI-powered mental health chatbots. Frontiers in Digital Health, 5. DOI
Tous les concepts
Fiche mise à jour : juillet 2026