all-MiniLM-L6-v2
Microsoft / Sentence-Transformers — 2021
En bref : all-MiniLM-L6-v2 est le modèle d'embedding utilisé par Vancappel et al. (2026) pour transformer le discours des 125 psychothérapeutes en vecteurs numériques. C'est un modèle compact (22 millions de paramètres, 384 dimensions) et anglophone. Comprendre ses caractéristiques est essentiel pour évaluer la portée des résultats de l'étude.
Identité
Créateur : Microsoft (via Sentence-Transformers / Nils Reimers)
Base : MiniLM (distillation de BERT)
Type : Modèle d'embedding de phrases
Dimensions : 384
Paramètres : 22,7 millions
Langue : Anglais (natif) — autres langues supportées mais non entraînées
Licence : Apache 2.0
Téléchargements : 100M+ sur Hugging Face (le plus téléchargé)
Ce que fait ce modèle (en clair)
all-MiniLM-L6-v2 prend une phrase en entrée et produit un vecteur de 384 nombres qui représente son sens. Deux phrases de sens proche auront des vecteurs proches.
Pourquoi « Mini » ?
C'est une version distillée (compressée) de BERT. La distillation consiste à entraîner un petit modèle à imiter un gros. Résultat : 5x plus rapide que BERT-base, avec ~95% de ses performances sur les benchmarks anglais. Mais cette compression a un coût : les nuances sémantiques fines sont les premières sacrifiées.
384 dimensions : qu'est-ce que ça signifie ?
Chaque phrase est représentée par 384 coordonnées numériques. Plus il y a de dimensions, plus le modèle peut capturer de nuances. À titre de comparaison, BGE-M3 utilise 1 024 dimensions — soit près de 3 fois plus. Cela lui permet de distinguer des significations que all-MiniLM-L6-v2 confond.
La question de la langue : c'est plus subtil qu'il n'y paraît
all-MiniLM-L6-v2 est souvent décrit comme un modèle « anglophone ». La réalité est plus nuancée — et comprendre cette nuance est important pour évaluer correctement les études qui l'utilisent.
Ce qui est clair : un ancrage anglophone
Le modèle a été fine-tuné (affiné) sur plus d'un milliard de paires de phrases issues de datasets généralistes, principalement en anglais. Sa documentation officielle indique : « language: English ». Son espace sémantique — la « carte du sens » qu'il a construite — est donc fondamentalement structuré par l'anglais.
Ce qui est subtil : il « fonctionne » en français
Grâce à son tokeniseur et à l'architecture Transformer, le modèle peut produire des embeddings pour du français (et d'autres langues — certaines sources mentionnent jusqu'à 50+ langues supportées). Un texte français sera encodé, et les résultats seront souvent corrects en première approximation.
Mais : ce n'est pas un vrai modèle multilingue entraîné explicitement sur plusieurs langues (comme BGE-M3). Le français y est projeté dans un espace conçu pour l'anglais, pas co-construit avec l'anglais.
Performance en pratique
| Cas d'usage | Performance |
|---|---|
| Anglais ↔ Anglais | Excellente — c'est son terrain natif |
| Français ↔ Français | Correcte mais variable — les nuances fines se perdent |
| Français ↔ Anglais (cross-lingual) | Fragile — les espaces sémantiques ne sont pas alignés |
Implication pour la recherche en psychothérapie
Quand Vancappel et al. (2026) appliquent ce modèle à des entretiens en français clinique, les résultats ne sont pas faux — ils sont approximatifs. Les grands thèmes (régulation émotionnelle, communication, attachement) seront probablement bien identifiés. Mais les distinctions fines — précisément celles qui comptent en psychothérapie — risquent d'être atténuées ou perdues.
Exemples concrets :
- • « Résistance » au sens psychanalytique (mécanisme de défense inconscient) vs au sens courant (opposition, refus) — cette distinction risque de se perdre dans l'espace vectoriel anglophone.
- • « Restructuration cognitive » vs « défusion cognitive » — deux techniques dont le vocabulaire se chevauche en français comme en anglais, mais qu'un modèle plus fin pourrait mieux séparer.
- • Les expressions idiomatiques cliniques françaises (« mise en pensée », « travail du négatif », « capacité de rêverie ») n'ont pas d'équivalent dans le corpus d'entraînement anglophone.
Pour aller plus loin : un centrage ontologique anglophone du sens ?
Ce phénomène dépasse la simple question technique. On peut le formuler ainsi : le modèle encode un espace sémantique appris dans une culture linguistique dominante (l'anglais académique). Les autres langues y sont « projetées » — comme si le français clinique devait se « traduire » dans les catégories de sens de l'anglais pour être compris. C'est une forme de biais de corpus qui rejoint des questions plus larges d'écologie du langage et de diversité épistémique en recherche.
Comparaison : all-MiniLM-L6-v2 vs BGE-M3
| Critère | all-MiniLM-L6-v2 | BGE-M3 |
|---|---|---|
| Paramètres | 22,7M | 568M |
| Dimensions | 384 | 1 024 |
| Langues | Anglais (natif), autres projetées | 100+ (dont français natif) |
| Longueur max | 256 tokens | 8 192 tokens |
| Vitesse | Très rapide | Modérée |
| Français clinique | Correct mais variable | Bon |
| Nuances fines | Limitées (384 dim.) | Meilleures (1024 dim.) |
Le point clé pour le clinicien
Le choix du modèle d'embedding n'est pas un détail technique — il détermine la précision sémantique des résultats. Utiliser un modèle anglophone compact sur du français clinique, c'est comme utiliser un dictionnaire de poche anglais pour analyser de la littérature française : ça fonctionne en gros, mais les nuances se perdent. Et en psychothérapie, les nuances sont souvent l'essentiel.
Références
- • Reimers, N. & Gurevych, I. (2019). Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks. EMNLP. arXiv:1908.10084
- • Wang, W. et al. (2020). MiniLM: Deep Self-Attention Distillation for Task-Agnostic Compression of Pre-Trained Transformers. NeurIPS. arXiv:2002.10957
- • Page Hugging Face du modèle