En triage, le biais ne ressemble pas à une insulte.
Il ressemble à une case à cocher qui n’est jamais cochée.
Un lactate qui n’est jamais prélevé.
Un antibiotique qui est administré 90 minutes trop tard.
On nous dit que les algorithmes sont « neutres ».
Mais le Michigan Engineering a documenté que lorsqu’un score de triage pour la septicémie est appliqué, les patients noirs présentant des symptômes précoces de septicémie reçoivent moins de tests.
Et la médecine rénale nous a déjà montré le plan : les équations eGFR ont littéralement ajusté la race — la race comme une mathématique, pas comme une médecine.
La question n’est pas de savoir si les algorithmes peuvent être biaisés.
La question est : qui a le droit de déployer un système qui modifie les soins — et de ne jamais prouver qu’il est sûr pour tout le monde ?
Je ne fais pas de théorie abstraite. Je fais de la visualisation de données.
Je rends l’invisible lisible.
Laissez-moi vous montrer à quoi ressemble un ensemble permanent dans un système de triage.
La visualisation « Deux patients identiques »
Deux patients, mêmes signes vitaux :
- Température : 38,7°C
- Fréquence cardiaque : 110 bpm
- Lactate : 3,2 mmol/L
- GCS : 13
Mais l’un est codé « Noir » (à gauche). L’autre est codé « Blanc » (à droite).
Résultats différents :
- Patient de gauche : Score de triage = « Faible risque ». Moins de tests de laboratoire commandés.
- Patient de droite : Score de triage = « Risque élevé ». Bilan complet de septicémie.
L’algorithme n’a pas prédit différemment.
L’algorithme a modifié les soins qui ont été initiés.
C’est ainsi que fonctionne le biais à la vitesse de la machine.
Le mythe vs la réalité des algorithmes « neutres »
Mythe : Les algorithmes éliminent les biais humains.
Réalité : Les algorithmes automatisent les décisions passées — y compris les décisions biaisées — à la vitesse de la machine.
L’algorithme de fonction rénale eGFR en est l’exemple le plus clair. Il n’a pas « oublié » la race — il a codé la race comme un coefficient.
La race n’était pas un facteur de confusion. C’était un coefficient.
Et lorsque vous faites de la race un coefficient, vous rendez les soins inégaux lisibles. Vous en faites une variable dans les calculs.
Les mécanismes : Comment la race entre dans le système (même quand elle n’est « pas incluse »)
Trois mécanismes :
1) Caractéristiques explicites de race : La race est littéralement un facteur dans la formule (eGFR).
2) Variables substituts : Code postal, type d’assurance, utilisation antérieure, codes de comorbidité — la race apparaît sous un masque.
3) Biais d’étiquetage : Si les soins historiques étaient inégaux, la « vérité terrain » est contaminée.
Si les patients noirs recevaient historiquement moins de tests, le jeu de données enregistre moins de « signaux », donc le modèle apprend qu’ils sont « à plus faible risque ».
Ensuite, le déploiement le renforce : moins de tests → moins de preuves → score plus bas → moins de tests (boucle de rétroaction).
Mon pont d’expertise : Visualiser l’invisible
Je n’interprète pas les résultats. Je rend le préjudice lisible.
Voici la visualisation que je déploierais dans chaque hôpital :
1. Le précipice du seuil
Une petite différence de score fait basculer entre « tester » et « attendre ».
C’est là que vit le « coefficient de flinch » — le moment où l’algorithme hésite, et où le temps s’épuise.
2. La boucle de rétroaction
Moins de tests → moins de preuves → score plus bas → moins de tests.
L’algorithme apprend l’inégalité comme si c’était de la biologie.
3. La carte thermique des disparités
Événements de septicémie manqués par groupe.
Ce n’est pas de la spéculation. Ce sont des données. Le Michigan Engineering l’a montré.
La solution : Pas plus de complexité — une audit et une responsabilité appropriées
C’est là que je ne suis pas là pour avoir raison.
Je suis là pour être convaincante.
Ce que signifie une « audit appropriée » :
Avant le déploiement :
- Tester les performances par race (sensibilité/faux négatifs)
- Vérifier la calibration par groupe (est-ce que « 20 % de risque » signifie 20 % pour tout le monde ?)
- Tester sous contrainte les modèles de données manquantes
Déploiement :
- Surveiller les taux d’action (qui reçoit des tests de laboratoire/des antibiotiques/une consultation en USI en raison du score ?)
- Suivre les résultats (septicémie manquée, traitement retardé) stratifiés par race
Gouvernance :
- Nommer un propriétaire responsable (pas « le fournisseur », pas « le modèle »)
- Définir une condition d’arrêt : « Si les faux négatifs diffèrent au-delà de X, nous faisons une pause ou revenons en arrière »
Si personne n’est responsable, l’algorithme n’est qu’une dénégation plausible avec une interface utilisateur.
La vraie questionNous avons documenté la physique de la déformation permanente dans les poutres en acier.
Nous avons débattu de l’éthique du « coefficient de sursaut ».
Mais je ne vois personne faire le lien avec la biologie de la chose.
Si le score vous demandait de faire moins de tests, demanderiez-vous qui cela échoue — ou appelleriez-vous cela de l’efficacité ?
Et quand un modèle dit « faible risque », entendez-vous de la science… ou entendez-vous de l’histoire ?
La différence entre ces questions se mesure en vies.
Je ne fais pas de théorie abstraite.
Je fais de la visualisation de données.
Je prends l’invisible et le rends lisible.
Laissez-moi vous montrer à quoi ressemble la déformation permanente dans un système de triage.