Bienfaisance (éthique de l’IA)
Matthieu Ferry ⇄ IAEn bref : Premier des cinq principes éthiques de l’IA : un système doit produire activement du bien — bien-être, dignité, accès au soin — et pas seulement éviter de nuire. Transposé de la bioéthique, il implique une exigence souvent oubliée : le bénéfice doit être démontré empiriquement, pas déclaré.
Cadre de référence
Ce principe relève du principlisme bioéthique et d’une ontologie conséquentialiste : le « bien » y est un résultat mesurable, produit par un dispositif, pour des bénéficiaires. Ce présupposé — le bien comme output — est précisément ce que d’autres traditions contestent. → Voir d’autres perspectives
Pourquoi ce concept est utile
Tout outil d’IA en santé mentale se présente comme bénéfique : « améliore l’accès au soin », « soutient le bien-être », « démocratise l’accompagnement psychologique ». Le principe de bienfaisance donne un critère pour trier ces promesses : il ne demande pas si le bénéfice est plausible, mais s’il est démontré.
Dans le cadre de Floridi et Cowls (2019), la bienfaisance est le premier des cinq principes du cadre éthique de l’IA : promouvoir le bien-être, préserver la dignité, soutenir la planète. Vous la connaissez déjà : c’est le pendant du devoir d’agir pour le bien du patient dans votre déontologie — transposé à des acteurs (concepteurs, déployeurs) qui, eux, n’ont ni votre formation ni vos obligations.
L’intérêt clinique du principe tient à sa face négative : il permet de nommer précisément ce qui cloche quand un outil inoffensif mais inutile occupe la place d’un soin qui aurait aidé.
Ce que le principe exige
1. Produire du bien, pas seulement éviter le mal
La bienfaisance se distingue de la non-malfaisance comme le médecin qui prescrit se distingue du pharmacien qui vérifie les contre-indications. Un système conforme à toutes les règles de sécurité mais sans valeur ajoutée démontrable ne satisfait pas le principe.
Pour le clinicien :
« Aucun risque identifié » n’est pas un argument d’adoption. La question est : qu’est-ce que cet outil apporte, à qui, et comment le sait-on ?
2. La validité empirique comme condition
Un système qui revendique une finalité thérapeutique doit être fondé sur des données probantes : essais contrôlés, évaluations en conditions réelles, audits de performance. Comme le posent Vilaza et McCashin (2021) pour les chatbots TCC, l’absence de validation rigoureuse viole le principe — quelle que soit l’intention affichée.
Pour le clinicien :
Exigez le même niveau de preuve que pour une intervention : études publiées, populations comparables à la vôtre, mesures cliniques — pas des scores de satisfaction ou des taux d’engagement.
3. La balance bénéfices-risques, et pour qui
Le principe exige de peser bénéfices, risques et coûts — et d’inclure l’équité d’accès : un outil qui ne profite qu’aux populations déjà favorisées ne remplit le principe qu’imparfaitement. La bienfaisance rejoint ici la justice.
Pour le clinicien :
Le cas Woebot illustre les deux faces : efficacité démontrée par essai contrôlé pour dépression et anxiété — et défaillance grave en situation de crise. Un même outil peut être bienfaisant en usage cadré et malfaisant hors cadre.
4. Le critère d’alerte : la primauté du profit
Vilaza et McCashin le formulent sans détour : si l’augmentation des marges devient l’objectif premier de l’automatisation en santé mentale, le principe de bienfaisance est rompu. Signes observables : collecte de données excessive, design addictif optimisant l’engagement plutôt que le mieux-être, opacité sur les limites, absence de cliniciens dans l’équipe.
Pour le clinicien :
Le modèle économique d’un outil est une donnée clinique : qui paie, et qu’est-ce qui est optimisé — le temps passé dans l’app, ou la capacité à s’en passer ?
Cas illustratif
Une mutuelle propose à ses adhérents une application de « soutien émotionnel par IA », mise en avant avec des chiffres impressionnants : 40 000 utilisateurs, 4,6 étoiles, 78 % se disent « aidés ».
Lecture par la bienfaisance : aucun de ces chiffres ne mesure un bénéfice clinique. La satisfaction mesure l’expérience d’utilisation ; l’engagement mesure le design. Interrogé, l’éditeur ne dispose d’aucune étude contrôlée, et l’application est classée « bien-être » précisément pour échapper aux exigences des dispositifs médicaux. Son modèle d’affaires repose sur le temps d’utilisation.
L’outil n’est probablement pas nocif — mais rien n’établit qu’il soit bénéfique, et son optimisation vise l’engagement, pas le mieux-être. Au sens du principe, la promesse de bienfaisance n’est pas tenue : elle est déléguée au marketing.
En pratique pour le clinicien
- Distinguez bénéfice démontré et bénéfice plausible : demandez les études, leur population, leurs mesures. Satisfaction et engagement ne sont pas des résultats cliniques.
- Interrogez le modèle économique : ce qui est optimisé (temps passé, rétention, données) en dit plus long que la charte éthique de l’éditeur.
- Pensez augmentation, pas substitution : la conclusion de Vilaza et McCashin pour les chatbots TCC — augmenter la thérapie humaine, pas la remplacer — reste le meilleur repère de bienfaisance en santé mentale.
- Comptez aussi les bénéfices manqués : ne pas recommander un outil validé qui aurait aidé un patient sans accès au soin est aussi un enjeu de bienfaisance — le principe joue dans les deux sens.
Ce que ce concept ne dit pas
Précautions d’interprétation :
- Bienfaisance ≠ bienveillance : l’intention déclarée des concepteurs ne compte pas — seuls comptent les effets démontrés
- Bienfaisance ≠ utilité économique : un système rentable, voire massivement adopté, n’est pas pour autant bénéfique aux personnes
- La certification ne clôt pas la question : le principe évalue les effets réels, pas la conformité formelle — voir la critique des cadres éthiques
- Le paternalisme guette : invoquer le bien de l’usager pour restreindre ses choix entre en tension avec l’autonomie — la tension est constitutive, pas accidentelle
- Les métriques réduisent : quantifier le bien-être (scores, engagement) peut occulter ce qui compte — alliance, sens, contexte relationnel
Autres regards
Le principe traite le « bien » comme un output mesurable produit par un dispositif. Ce présupposé conséquentialiste embarque une ontologie discutable : le bien préexisterait à la relation qui le produit.
Éthique du care : le bien se vérifie chez celui qui le reçoit
Pour Tronto, la phase décisive du soin est la réception : le besoin a-t-il été satisfait du point de vue du bénéficiaire ? Un bénéfice défini par le concepteur et mesuré par ses métriques peut manquer entièrement ce que la personne recevait — ou ne recevait pas.
Pour le clinicien : Demander au patient ce que l’outil change concrètement pour lui — pas s’il en est satisfait. Voir la fiche Éthique du care.
Perspective intersectionnelle : bénéfique pour qui ?
Un bien agrégé (efficacité moyenne, accès élargi) peut masquer des torts distribués : un chatbot validé sur une population majoritaire peut être inadapté, voire délétère, pour les groupes que ses données ignorent (Costanza-Chock). La moyenne est une fiction statistique — personne n’est le patient moyen.
Pour le clinicien : Toujours désagréger la question du bénéfice : démontré sur qui, et vos patients ressemblent-ils à cette population ?
Critique du solutionnisme : qui définit le bien ?
Quand le « bien-être » est défini par ce que la technologie sait produire (humeur trackée, exercices complétés, conversations disponibles), la réflexion s’inverse : le produit précède le besoin. Les perspectives processuelles rappellent qu’en santé mentale le bien n’est pas un état prédéfini à délivrer, mais quelque chose qui se co-définit dans la relation de soin.
Pour le clinicien : Méfiance quand un outil sait déjà, avant de rencontrer le patient, ce qui lui fera du bien.
Ces regards ne dispensent pas de l’exigence de preuve — ils la complètent : un bénéfice démontré en moyenne, défini par le concepteur et jamais vérifié auprès du bénéficiaire reste une bienfaisance incomplète.
Pour aller plus loin
Les flèches ↩ renvoient au passage de la fiche qui cite la référence.
Le cadre des cinq principes : Floridi, L. & Cowls, J. (2019). A Unified Framework of Five Principles for AI in Society. Harvard Data Science Review, 1(1). DOI ↩
L’application aux chatbots TCC : Vilaza, G. N. & McCashin, D. (2021). Is the Automation of Digital Mental Health Ethical? Applying an Ethical Framework to Chatbots for Cognitive Behaviour Therapy. Frontiers in Digital Health, 3. DOI ↩
La convergence mondiale des principes : Jobin, A., Ienca, M. & Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1, 389-399. DOI
La matrice bioéthique : Beauchamp, T. & Childress, J. (2019). Principles of Biomedical Ethics (8e éd.). Oxford University Press.
Voir aussi : Cadres éthiques de l’IA (AIEF), Non-malfaisance, Justice, Éthique du care
Tous les concepts
Fiche mise à jour : juillet 2026