Face à deux patients et un seul rein, l’IA ne retient pas les mêmes critères que les soignants. Une étude montre aussi qu’elle gère moins bien l’ambiguïté.
En bref
- L’IA ne priorise pas comme les médecins
- L’alcool pèse plus dans ses choix
- L’ambiguïté reste un vrai problème
Entre deux patients et un seul rein disponible, l’IA ne choisit pas comme un médecin. C’est le point qui ressort le plus nettement d’un travail présenté à FAccT 2026 par des chercheurs de Penn State University et d’autres institutions.
Quand un seul rein force à choisir
L’équipe a soumis à plusieurs modèles de langage des situations fictives de transplantation. Le scénario était simple sur le papier, beaucoup moins dans le fond, deux patients, un unique rein, et donc une décision à prendre. Les profils variaient selon plusieurs éléments, notamment l’âge, l’état de santé, les responsabilités familiales ou encore la consommation d’alcool.
Ensuite, les réponses des modèles ont été comparées à celles de professionnels de santé placés devant les mêmes cas. C’est là que le décalage apparaît, et il n’est pas anecdotique.
L’IA regarde d’abord ce que les médecins ne placent pas en tête
Les chercheurs ont observé que les modèles d’intelligence artificielle s’attardaient surtout sur des facteurs comme les habitudes de consommation d’alcool. Le personnel médical, lui, accordait davantage de poids à l’âge.
Ce n’est pas un détail. Dans une décision aussi rare et chargée sur le plan moral, le choix dépend justement de la hiérarchie donnée aux critères. Et cette hiérarchie n’est visiblement pas la même d’un système à l’autre.
Le vrai point faible, c’est l’ambiguïté
L’étude ne montre pas seulement une différence de priorités. Elle met aussi en lumière une autre divergence, la façon de gérer l’incertitude. Les modèles d’IA tendaient à répondre de manière plus nette, là où les médecins reconnaissaient plus facilement qu’aucun des deux patients ne s’imposait clairement.
John Dickerson, directeur exécutif de Mozilla.ai et collaborateur de l’étude, le résume ainsi : « Quand on attribue quelque chose de rare, qu’il s’agisse d’un rein, d’un emploi ou de l’accès à une autre ressource, il n’existe pas toujours une seule réponse objectivement correcte. » Il ajoute que les humains reconnaissent cette ambiguïté et l’intègrent par le débat ouvert, alors que les modèles d’IA ne le font souvent pas.
Pourquoi ce débat dépasse largement la technique
Aujourd’hui, l’IA à l’hôpital reste surtout du côté de la recherche, de la prédiction et de l’analyse. Elle sert d’appui au diagnostic ou à d’autres processus, pas vraiment à trancher seule des décisions de cette portée.
Mais cette étude pose une question très concrète, que se passerait-il si elle entrait dans une décision de greffe ? Pour Hadi Hosseini, responsable de l’étude à la Université d’État de Pennsylvanie, l’enjeu éthique est considérable. Il rappelle, en gros, que ces décisions déterminent directement qui vit et qui meurt. Pour vous, la conséquence pratique est simple, si l’IA progresse en santé, ce ne sera pas seulement une affaire de performance technique, mais aussi de règles, de débat et de responsabilité humaine.
