Cinq principes pour juger l'IA en santé mentale : ce que vaut le cadre AIEF, et ce qui lui manque

Vous n’avez pas choisi cette situation, mais elle est là. Une partie de vos patients converse déjà avec ChatGPT ou une application dédiée entre les séances — parfois ils vous en parlent, souvent non. Les éditeurs de logiciels vous proposent des outils de prise de notes, de synthèse, de suivi, tous estampillés « IA responsable », « conforme aux principes éthiques européens », « développé selon une charte stricte ». Et votre institution, votre réseau professionnel ou vos collègues vous demandent, avec une insistance croissante, ce que vous en pensez.

Face à cette sollicitation, le clinicien dispose de sa déontologie — solide, mais écrite pour un monde où l’outil ne prétendait pas converser — et d’un paysage de recommandations proprement illisible : en une décennie, plus de 170 cadres éthiques de l’intelligence artificielle ont été publiés par des entreprises, des gouvernements, des organisations internationales et des institutions académiques. Personne ne peut les lire tous. Et rien n’indique, à première vue, lesquels méritent confiance.

Cet article — le premier de notre dossier consacré à l’éthique de l’IA en santé mentale — propose un point d’appui : le cadre de synthèse le plus utilisé, dit AIEF (AI Ethics Framework), ses cinq principes, ce que la recherche dit de leur efficacité réelle, et la manière dont un praticien peut s’en servir sans s’y fier aveuglément.

Des chartes partout, des repères nulle part

D’où viennent ces principes

L’histoire est plus courte qu’on ne le croit. En 1979, Beauchamp et Childress formalisent les quatre principes de la bioéthique — bienfaisance, non-malfaisance, autonomie, justice — qui irriguent depuis nos codes de déontologie sous le nom de principisme. Quarante ans plus tard, quand l’IA soulève ses propres questions morales, c’est vers cette matrice que le monde se tourne : en 2019, Jobin, Ienca et Vayena analysent 84 chartes éthiques publiées à travers le monde et constatent qu’elles convergent, en apparence du moins, vers une poignée de principes récurrents.

La même année, Luciano Floridi et Josh Cowls proposent la synthèse qui fera référence : les quatre principes bioéthiques classiques, plus un cinquième, spécifique à l’IA — l’explicabilité. Ce cadre unifié structure aujourd’hui l’essentiel du paysage : on le retrouve, sous des formulations variées, dans les principes de l’OCDE, la recommandation de l’UNESCO, les lignes directrices européennes qui ont préparé l’AI Act (2024), et jusqu’au guide publié en février 2026 par la HAS et la CNIL pour accompagner le bon usage des systèmes d’IA en contexte de soins.

Les cinq principes, en langage clinicien

La bonne nouvelle : vous connaissez déjà quatre principes sur cinq, parce que votre déontologie les opérationnalise depuis toujours. Les voici transposés à l’IA — chacun fait l’objet d’une fiche détaillée dans nos ressources.

Une image servira de fil rouge à cet article : ces cinq principes sont une boussole. Elle indique le Nord, et c’est précieux — sans elle, on marche au hasard. Mais une boussole n’est ni une carte, ni un véhicule, ni une connaissance du terrain. Toute la question est là.

Ce que disent les données

Les principes à l’épreuve des chatbots

Le cadre des cinq principes a été appliqué de façon systématique à notre champ par Vilaza et McCashin (2021), dans une étude devenue référence sur les chatbots de thérapie cognitivo-comportementale. Leur travail illustre la force de la grille : elle permet de nommer précisément ce qui cloche. Quand le chatbot Woebot répond à un enfant de douze ans signalant des abus sexuels par une formule d’empathie générique — « désolé que tu traverses cela, mais cela montre à quel point la connexion compte pour toi » —, la grille qualifie la défaillance : violation de la non-malfaisance (aucune détection de l’urgence), sur fond de promesse de bienfaisance non tenue.

Leur conclusion mérite d’être citée pour sa netteté :

« If the increase of profit margins becomes the primary goal of mental health automation, the principle of beneficence is broken. »

— Vilaza & McCashin (2021), Frontiers in Digital Health — « Si l’augmentation des marges devient l’objectif premier de l’automatisation en santé mentale, le principe de bienfaisance est rompu. »

Et leur recommandation générale — les chatbots doivent augmenter la thérapie humaine, non la remplacer — reste, cinq ans plus tard, le repère le plus solide du domaine.

Le bilan qui dérange

Mais une question plus gênante restait ouverte : ces cadres éthiques, une fois adoptés, changent-ils quelque chose pour les patients ? En 2025, Chan, Rahimi-Ardabili, Rogers et Coiera publient dans le JAMIA la première revue systématique de l’impact réel des cadres éthiques de l’IA en santé sur une décennie. Le résultat est sans appel :

Il faut manier ce résultat avec précision : l’absence de preuve d’effet n’est pas la preuve d’une absence d’effet — c’est d’abord un déficit massif d’évaluation. Mais pour une communauté professionnelle qui a fait de l’evidence-based practice son étalon, le contraste est saisissant : nous n’accepterions jamais d’une psychothérapie qu’elle se prévale de 170 manuels et de zéro donnée d’efficacité.

Pourquoi les principes seuls ne suffisent pas

Ce constat empirique avait été prédit sur le plan théorique.

« Principles alone cannot guarantee ethical AI. »

— Brent Mittelstadt (2019), Nature Machine Intelligence — « Les principes seuls ne peuvent pas garantir une IA éthique. »

Dès 2019, Mittelstadt identifiait ce qui sépare structurellement l’IA de la médecine : la médecine dispose d’obligations fiduciaires envers les patients, de méthodes éprouvées pour traduire les principes en pratiques, et de mécanismes de responsabilité professionnelle et légale. Le développement de l’IA n’a rien de tout cela. Les mêmes mots — bienfaisance, autonomie — n’y pèsent donc pas le même poids : chez le médecin, ils sont adossés à un ordre, une formation, une jurisprudence ; chez l’éditeur, à un document PDF. Sans ces adossements, la charte glisse vers l’ethics washing.

S’y ajoute ce que Matthias a nommé dès 2004 le fossé de responsabilité : quand un système apprenant cause un tort que ni le concepteur ni l’opérateur ne pouvaient prédire, à qui l’imputer ? Les principes énoncent la responsabilité ; le fossé la dissout.

Et il y a plus troublant encore. Certains risques violent plusieurs principes à la fois — et c’est précisément pour cela que les correctifs principe par principe échouent. Le cas d’école est la therapeutic misconception, transposée aux chatbots par Khawaja et Bélisle-Pipon (2023) : quand un usager en détresse croit recevoir un soin d’un système qui n’en a ni la finalité ni les garanties, son consentement est faussé (autonomie), il s’expose à des risques qu’il ne perçoit pas (non-malfaisance), il substitue le dispositif à un soin qui l’aiderait (bienfaisance), et ce risque frappe d’abord les plus vulnérables (justice). Quatre violations simultanées, structurellement liées — qu’aucun avertissement en début de session ne corrige. La boussole indique quatre Nords à la fois ; elle ne dit pas comment marcher.

La grille du praticien

Faut-il alors jeter la boussole ? Non — il faut apprendre à s’en servir pour ce qu’elle sait faire : poser les bonnes questions. Voici les cinq principes convertis en protocole d’évaluation, applicable à tout outil d’IA qui entre dans votre pratique ou dans celle de vos patients. Trente minutes suffisent pour une première instruction.

Le protocole : cinq questions, cinq signaux d’alerte

Deux règles d’usage. D’abord, cette grille est un jeu de questions, pas une checklist : cocher cinq cases ne certifie rien, mais une seule réponse manquante est déjà une information.

Les garde-fous déontologiques

Trois points méritent une vigilance particulière, parce qu’ils relèvent de votre responsabilité propre et non de celle de l’éditeur.

Les données : ce qu’un patient confie à un chatbot est du matériel clinique stocké chez un acteur commercial. Les données de santé mentale comptent parmi les plus sensibles qui soient ; le RGPD leur accorde une protection renforcée que les applications « bien-être » contournent souvent en évitant la qualification de dispositif médical. La question « où vont ces conversations ? » fait désormais partie de l’anamnèse.

Le consentement : il ne se joue pas une fois, mais en continu. Le consentement éclairé du premier jour ne couvre pas le deux-centième échange, ni l’attachement qui s’est construit entre-temps. Revisiter périodiquement ce que le patient sait, croit et attend de l’outil est un acte clinique à part entière — voir notre fiche Consentement éclairé et IA.

Votre code de déontologie : c’est le seul cadre de ce paysage qui soit adossé à des instances, une formation et des sanctions. Ne laissez jamais une charte d’éditeur s’y substituer — les principes des AIEF reprennent ceux que votre code opérationnalise déjà, en moins contraignant.

Ce que la grille ne voit pas : l’alliance

Un cas pour finir. Un centre médico-psychologique évalue une application de soutien entre les séances, présentée comme « conforme aux lignes directrices éthiques européennes ». La grille fait son travail : bénéfice non démontré cliniquement, pas de protocole de crise audité, modèle économique fondé sur le temps d’utilisation. Trois signaux d’alerte — l’équipe écarte l’outil, ou l’encadre strictement.

Mais supposons qu’un outil passe la grille avec succès. Resterait la question que les cinq principes ne posent pas : que fait-il à la relation ? La psychothérapie dispose ici d’un savoir que l’éthique de l’IA n’a pas : l’alliance thérapeutique — le lien, l’accord sur les objectifs, l’accord sur les tâches, selon le modèle de Bordin — est l’un des prédicteurs les plus robustes des résultats du soin (Flückiger et coll., 2018 : 295 études, plus de 30 000 patients). Or les travaux récents montrent que les usagers rapportent se sentir « compris » par des systèmes conversationnels : une alliance perçue, sans les mécanismes d’une alliance construite — pas de détection des ruptures, pas de co-construction des objectifs, pas de responsabilité mutuelle.

Évaluer un outil d’IA en santé mentale, c’est donc poser les cinq questions de la grille, plus une sixième que vous êtes seul à pouvoir instruire : ce dispositif enrichit-il l’écologie relationnelle du patient, ou l’appauvrit-il ? La boussole ne connaît pas le terrain. Vous, si.

Du quoi au comment

Ce qui change

Le diagnostic critique n’est pas une impasse — il a ouvert un chantier. Depuis 2020, une partie du champ s’est déplacée des principes vers leur opérationnalisation : le paradigme « from what to how » (Morley et collaborateurs) recense les outils qui traduisent chaque principe en méthodes concrètes à chaque étape du développement d’un système. La proposition d’Ethics as a Service distribue la responsabilité entre organes d’audit indépendants, praticiens et régulateurs — précisément les institutions dont Mittelstadt déplorait l’absence. Nous avions exploré une voie voisine dans notre décryptage de l’embedded ethics en IA médicale.

Et la contrainte juridique monte : l’AI Act européen transforme certains principes en obligations légales pour les systèmes à haut risque, dont relèvent les dispositifs médicaux à base d’IA. En France, le guide HAS-CNIL de 2026 fournit désormais un référentiel sectoriel opposable — d’un tout autre poids qu’une charte d’éditeur. La boussole se dote lentement d’une carte.

Les questions ouvertes

Restent les questions que la profession ne peut pas déléguer. Qui écrira les cadres de la psychothérapie augmentée par l’IA — les éditeurs, les régulateurs généralistes, ou les cliniciens et les usagers qui en connaissent le terrain ? L’histoire des 170 cadres montre ce qui arrive quand les premiers concernés sont absents de la table : des principes justes, des angles morts massifs. La justice procédurale — qui décide, qui co-conçoit — est peut-être l’enjeu le plus important de la décennie qui vient, et les psychologues y ont une légitimité entière.

Ce dossier se poursuivra : un article par principe, pour entrer dans les cas cliniques que chacun éclaire ; un article sur la therapeutic misconception, ce concept-pivot qui met le cadre entier sous tension ; un article sur les critiques structurelles du principlisme et leurs alternatives. Chaque fiche concept citée ici constitue déjà une porte d’entrée.

Conclusion : la boussole, la carte, le terrain

Le cadre des cinq principes est une boussole : il donne un langage commun, structure l’analyse, légitime vos questions face aux éditeurs — et votre déontologie vous le rend déjà familier. Mais dix ans de données le montrent : la boussole seule n’a encore conduit aucun patient à bon port. Il lui manque une carte — l’opérationnalisation, la régulation, les audits — qui se dessine à peine, et surtout la connaissance du terrain : la singularité de chaque situation clinique, la qualité de chaque alliance, que ni un principe ni un règlement ne mesureront jamais à votre place.

La position praticable tient en trois gestes : garder la boussole (la grille des cinq questions), exiger la carte (les cadres opposables — code de déontologie, RGPD, AI Act, guide HAS-CNIL — plutôt que les chartes déclaratives), et faire valoir le terrain (l’alliance et le point de vue des patients comme critères de dernier ressort). Ni technophilie, ni technophobie : une clinique informée.

Références principales : Floridi & Cowls (2019, HDSR) · Jobin, Ienca & Vayena (2019, Nat. Mach. Intell.) · Mittelstadt (2019, Nat. Mach. Intell.) · Vilaza & McCashin (2021, Front. Digit. Health) · Chan et al. (2025, JAMIA) · Khawaja & Bélisle-Pipon (2023, Front. Digit. Health) · Matthias (2004, Ethics Inf. Technol.) · Morley et al. (2020, Sci. Eng. Ethics) · Flückiger et al. (2018, Psychotherapy) · Guide HAS-CNIL 2026.