Plus grand ne veut pas toujours dire meilleur : le rôle des modèles spécialisés en IA clinique

Ces dernières années, une association presque automatique s’est installée entre nombre de paramètres et capacité : plus un modèle est grand, mieux il devrait résoudre n’importe quel problème.

En intelligence artificielle appliquée au domaine clinique, cette conclusion est trop simple.

Une consultation médicale ne représente pas une seule tâche d’IA. Au sein d’un même flux peuvent apparaître la reconnaissance vocale, l’identification d’entités cliniques, la détection de négations, la classification, la vérification de preuves, la structuration de l’information et, enfin, la génération de texte.

Chaque problème a ses caractéristiques propres.

Et les données disponibles indiquent que, pour certaines de ces tâches, un modèle entraîné spécifiquement pour résoudre un problème précis peut rivaliser avec des systèmes bien plus grands et, dans certaines conditions, les surpasser.

Spécialisation contre capacité générale

Une étude publiée dans Nature Communications par Chen et al. en 2025 a comparé quatre grands modèles de langage sur douze jeux de données de traitement du langage biomédical correspondant à six types d’applications.

Les auteurs ont constaté que les approches classiques de réglage fin — notamment des modèles des familles BERT et BART — surpassaient les grands modèles utilisés en zero-shot ou few-shot sur une bonne partie des tâches évaluées.

L’avantage des grands modèles apparaissait surtout lorsque la tâche exigeait des capacités de raisonnement plus ouvertes, comme certaines questions médicales.

Le travail a aussi documenté un point particulièrement important pour les applications sensibles : les systèmes génératifs pouvaient produire des réponses apparemment convaincantes qui omettaient pourtant des informations ou introduisaient du contenu absent des données d’origine.

Cela ne signifie pas qu’une approche est universellement meilleure qu’une autre. Cela signifie que l’architecture adaptée dépend du travail qu’on lui demande.

Vérifier une affirmation n’est pas la même chose que rédiger une réponse

Cette différence se voit clairement dans les tâches de vérification biomédicale.

Dans un travail présenté au BioNLP Workshop de l’ACL 2026, Kumar a étudié des modèles ajustés avec seulement 1 008 exemples d’entraînement et les a comparés à de grands modèles propriétaires.

Sur HealthVer, BioLinkBERT a atteint un macro-F1 de 62,4, contre 53,2 et 42,4 pour les deux modèles propriétaires évalués. Un modèle de 7 milliards de paramètres ajusté par QLoRA a atteint 65,2.

Sur SciFact, BioLinkBERT a obtenu 87,5, contre 85,6 et 77,9.

Ces chiffres ne doivent pas être lus comme un classement universel des modèles. Ce sont des résultats obtenus sur des jeux de données, des configurations et des tâches précis.

De fait, l’article lui-même détecte dans SciFact un artefact structurel susceptible de favoriser les métriques des modèles ajustés. C’est pourquoi HealthVer constitue une comparaison particulièrement intéressante.

La conclusion importante est ailleurs : il n’est pas toujours nécessaire d’utiliser le plus grand système disponible pour prendre une décision circonscrite.

Un filtre rapide avant une opération coûteuse

Abbes et al. ont étudié en 2025 un autre problème pertinent : déterminer si l’information contenue dans un document suffit pour répondre à une requête.

Dans ce type de classification de groundedness, des encodeurs légers comme RoBERTa ou NomicBERT ont obtenu des résultats comparables à ceux de modèles bien plus grands, mais avec une latence considérablement inférieure.

L’architecture qui se dégage de ce type de recherches est intéressante : utiliser des modèles petits et rapides pour filtrer, vérifier ou classifier d’abord, et réserver les modèles génératifs plus coûteux aux étapes où ils apportent réellement de la valeur.

Au lieu de se demander quel modèle peut tout faire, la question devient :

quel est le modèle le plus approprié pour chaque étape ?

Il ne faut pas non plus idéaliser les petits modèles

Les données ne permettent pas de conclure que les encodeurs spécialisés sont toujours supérieurs.

Hu et al. ont comparé en 2024 des modèles BERT à des modèles de la famille LLaMA ajustés par instructions pour l’extraction d’informations cliniques.

Les modèles LLaMA obtenaient des améliorations modérées en reconnaissance d’entités et en extraction de relations, et montraient un avantage plus marqué face à des données non vues pendant l’entraînement.

Toutefois, cette amélioration avait un coût : des besoins de calcul plus élevés et, dans certaines configurations de l’étude, une exécution jusqu’à 28 fois plus lente.

La décision dépend de nouveau de l’application.

Précision, généralisation, latence, coût, consommation de mémoire et capacité d’audit relèvent d’un même problème d’ingénierie.

Ce que cela implique pour une architecture d’IA clinique

Cette discussion a des conséquences pratiques.

Dans les applications cliniques, une architecture ne devrait pas être conçue autour du modèle qui fait le plus de titres, mais autour d’une succession de tâches clairement évaluables.

Un système spécialisé peut être particulièrement intéressant lorsqu’il faut :

• extraire des informations structurées ;
• détecter certaines entités ;
• vérifier des affirmations ;
• classifier du contenu ;
• travailler avec une faible latence ;
• réduire le coût de calcul ;
• ou exécuter certains traitements sur une infrastructure locale.

Les modèles génératifs de plus grande taille continuent de jouer un rôle important lorsque la tâche demande une interprétation plus ouverte ou une génération complexe.

Les deux approches peuvent coexister.

La ligne que nous suivons chez Myukura

Chez Myukura, nous partons d’une idée similaire : la qualité d’une application clinique ne peut pas se mesurer uniquement au nom ou à la taille du modèle qu’elle utilise.

Comptent aussi l’architecture qui entoure le modèle, les mécanismes de vérification, la traçabilité des données, le traitement des erreurs et l’intervention du professionnel.

C’est pourquoi nous développons et évaluons à la fois des modèles génératifs et des systèmes plus petits et spécialisés, orientés vers différentes tâches du flux clinique.

Nous ne cherchons pas à ce qu’un seul modèle fasse tout.

Notre travail consiste à développer une architecture dans laquelle chaque composant répond à une fonction précise et peut être évalué indépendamment avant d’être intégré à un flux clinique supervisé.

L’objectif est de combiner précision, efficacité, traçabilité et contrôle, en choisissant pour chaque étape l’architecture et le niveau de spécialisation les plus adaptés.