On peut se demander pourquoi nous écrivons tant sur l’intersection entre l’IA et l’humain dans des contextes complexes.
La réponse est simple : nous apprenons aussi.
Nous apprenons ce qui sera réellement utile dans des environnements concrets, notamment en matière d’intelligence contextuelle — la capacité à comprendre non seulement l’information, mais aussi l’environnement, le système et le contexte dans lequel elle s’inscrit.
Et au cours de ce parcours, nous avons découvert un phénomène intéressant en IA appelé surapprentissage.
Le surapprentissage se produit lorsqu’une IA (ou un modèle) apprend trop parfaitement à partir de ses exemples d’entraînement, au point de mémoriser au lieu de comprendre. Oui, j’ai bien dit comprendre.
Car la compréhension est la différence fondamentale.
Pour faire simple :
- Bon apprentissage : « Les chats ont des moustaches, des oreilles pointues et des poils. »
- Surapprentissage : « Un chat, c’est UNIQUEMENT ce chat orange précis assis sur mon canapé. »
Ainsi, lorsque le modèle voit un chat noir ou un chat à poils longs, il est désorienté et déclare : « Ce n’est pas un chat ! »
Permettez-moi de parler plus simplement.
Si vous apprenez les règles d’orthographe, vous pouvez épeler des mots nouveaux que vous n’avez jamais vus auparavant. Mais si vous ne faites que mémoriser la fiche d’exercices, vous réussirez peut-être très bien sur cette fiche – voire parfaitement – mais vous échouerez à l’examen lorsque les mots seront différents.
C’est le risque du surapprentissage.
Et chose intéressante, ce problème ne se limite pas à l’IA. Il se manifeste également dans les systèmes humains, et notamment en médecine.
Quand l’étendard de la guérison voyage
La médecine se veut universelle. Une bactérie est une bactérie. Une fracture est une fracture. Le corps humain, à peu de choses près, reste le corps humain. Pourtant, quiconque a travaillé au sein de différents systèmes de santé sait que les normes de soins élaborées dans un contexte donné échouent souvent — parfois de manière catastrophique — lorsqu’elles sont transposées telles quelles dans un autre environnement.
C’est ce qu’on appelle le surapprentissage (*overfitting*), mais version blouse blanche.
Prenons l’exemple de la prise en charge de la diarrhée chez l’enfant. Dans un hôpital bien doté de Toronto ou de Londres, le protocole de soins est clair : examiner l’enfant, effectuer un bilan électrolytique, administrer une réhydratation par voie intraveineuse en cas de déshydratation sévère, assurer une surveillance continue et ajuster le traitement. Ce protocole suppose la présence d’un laboratoire à proximité, d’une infirmière pédiatrique pour quelques lits, d’une alimentation électrique fiable, de kits de perfusion stériles en stock et d’un parent capable de rester au chevet de l’enfant sans perdre une semaine de salaire.
Transposons maintenant ce même protocole dans un hôpital de district rural du nord de l’Ouganda ou de l’est de la RDC. L’enfant arrive après un trajet de six heures à moto. Le laboratoire est fermé pour le week-end. Le stock de perfusions est épuisé depuis mardi. La « surveillance continue » se résume à une infirmière pour quarante lits. La mère s’occupe de deux autres enfants et n’a personne à la maison pour les nourrir.
Appliqué à la lettre, le protocole de Toronto ne permet pas de soigner cet enfant. Dans certains cas, il retarde même activement la solution efficace : la solution de réhydratation orale (SRO), préparée correctement et administrée patiemment par la mère, accompagnée d’une supplémentation en zinc et de critères clairs indiquant quand intensifier les soins. L’OMS l’avait compris il y a des décennies. À l’échelle mondiale, les SRO sauvent plus d’enfants que presque toute autre intervention de l’histoire, précisément parce qu’elles ont été conçues pour ce contexte spécifique, et non simplement transposées.
Le clinicien qui insiste pour appliquer la norme de Toronto dans un service ougandais fait preuve de surapprentissage. Il a appris la médecine à partir d’un jeu de données spécifique et est incapable de généraliser ses connaissances à un autre contexte.
La même maladie, deux maladies différentes
Prenons le cas de la tuberculose. Dans un pays à revenu élevé, la tuberculose se résume essentiellement à une infection latente, à des cas isolés, à des souches sensibles aux médicaments et à des patients dont la situation stable permet d’envisager qu’ils suivront jusqu’au bout un traitement supervisé de six mois. Le protocole standard est le suivant : diagnostic par GeneXpert, prescription du traitement, suivi et guérison.
Dans un quartier informel surpeuplé de Nairobi ou de Mumbai, la tuberculose est une maladie totalement différente, bien que la bactérie en cause soit identique. Il s’agit d’une réalité marquée par la transmission au sein de foyers vivant dans des logements d’une seule pièce, par des patients qui échappent au suivi parce qu’ils ont dû migrer pour travailler, par une multirésistance aux médicaments née d’interruptions de traitement, par la co-infection au VIH et par une stigmatisation si forte qu’elle conduit à éviter le diagnostic lui-même. Ce même traitement de six mois, prescrit à l’identique, donne des résultats radicalement différents — non pas parce que le médicament change, mais parce que le contexte dans lequel il doit agir est différent.
Un médecin formé uniquement à la première forme de tuberculose, mais parachuté dans la seconde, prescrira le bon traitement tout en assistant à une issue défavorable. Le médicament était le bon. Mais la compréhension du contexte faisait défaut.
Hémorragie maternelle : deux normes
L’hémorragie du post-partum est la principale cause de mortalité maternelle dans le monde. Dans un hôpital de soins tertiaires à Calgary, la prise en charge standard repose sur une transfusion sanguine rapide, la disponibilité immédiate de médicaments utérotoniques, l’intervention d’une équipe obstétricale en quelques minutes, un bloc opératoire situé à deux pas et, en dernier recours, une salle de radiologie interventionnelle.
Dans un poste de santé situé à trois heures de la route la plus proche, dans les hautes terres d’Éthiopie, la prise en charge de cette même pathologie doit être entièrement repensée. Elle repose sur la distribution préalable de misoprostol aux accoucheuses traditionnelles. Sur l’utilisation d’un vêtement anti-choc non pneumatique pour gagner du temps. Sur une technique de tamponnement utérin par ballonnet improvisée à partir d’un préservatif et d’une sonde — oui, vraiment, et cela fonctionne. Sur un système de transfert organisé autour d’ambulances-motos et de réseaux de communication téléphonique communautaires.
Un clinicien formé uniquement aux normes de Calgary verrait, dans les hautes terres éthiopiennes, une femme mourir en attendant des ressources qui n’arriveront jamais. Un clinicien doté d’une intelligence contextuelle aura recours au misoprostol et au dispositif improvisé (préservatif et sonde) pour lui sauver la vie.
Même pathologie. Même physiologie. Deux normes de prise en charge radicalement différentes, mais toutes deux adaptées à leur contexte respectif.
Ce que la médecine nous enseigne sur le surapprentissage
Ce schéma se retrouve dans tous les domaines de la santé. Les protocoles de santé mentale fondés sur des séances de thérapie hebdomadaires d’une heure ne sont pas adaptés aux communautés où la guérison a toujours été collective et rituelle. Les conseils nutritionnels reposant sur l’accès aux supermarchés s’avèrent inopérants là où le système alimentaire est fondé sur la saisonnalité et l’agriculture de subsistance. Les listes de contrôle chirurgicales conçues pour des blocs opératoires disposant de l’eau courante doivent être repensées lorsque l’eau est acheminée par jerricans.
Cela ne signifie pas pour autant que les protocoles initiaux sont erronés. Ils sont pertinents dans le contexte où ils ont été élaborés. L’erreur consiste à assimiler le protocole au soin lui-même. Le protocole n’est qu’une expression du soin, façonnée par un environnement donné. Le soin en soi — le principe, la physiologie, l’objectif de guérison — doit être réinterprété dans chaque nouveau contexte.
C’est la transposition médicale de ce que les chercheurs en intelligence artificielle appellent la « généralisation ». Un modèle bien généralisé conserve le principe fondamental tout en laissant une certaine souplesse aux détails spécifiques. À l’inverse, un modèle en surapprentissage (« overfitting ») s’accroche aux détails spécifiques et devient inopérant dès que ceux-ci changent.
Quand les humains font du surapprentissage
Il est tentant de considérer le surapprentissage (*overfitting*) comme un phénomène propre aux machines. Or, ce n’est pas le cas. Il nous touche aussi — au quotidien, dans notre vie professionnelle comme au sein des institutions — et souvent par le biais de personnes pourtant très compétentes dans leur domaine. En voici quelques exemples familiers :
Le chirurgien qui ne maîtrise qu’une seule technique. Un chirurgien formé dans un seul hôpital, opérant sur une table unique, avec un anesthésiste attitré et un équipement spécifique, peut exceller dans son environnement habituel tout en se retrouvant désemparé ailleurs. Transposez-le dans un établissement où le système d’aspiration est défaillant, l’éclairage vacillant et l’assistant novice face à l’intervention, et ce praticien brillant perdra de son assurance. Sa compétence était bien réelle, mais elle était trop étroitement liée à un contexte précis.
Le manager expatrié qui applique partout la même méthode. Un spécialiste du développement met sur pied un programme couronné de succès au Bangladesh, reposant sur la mobilisation communautaire, des groupes d’épargne féminins et un rythme de suivi bien défini. Muté au Soudan du Sud, il y applique la même recette. Les groupes d’épargne ne parviennent pas à se constituer. Les réunions de mobilisation sont perçues comme politiquement suspectes. Les formulaires de suivi posent des questions inadaptées aux réalités locales. La méthode n’était pas mauvaise à Dacca ; elle était simplement trop spécifiquement calquée sur le contexte de Dacca.
Le clinicien incapable de « lire » le patient qu’il a en face de lui. Un médecin ayant toujours exercé en milieu hospitalier universitaire apprend à faire davantage confiance aux analyses de laboratoire qu’au patient lui-même : chiffres, scanners, bilans biologiques. Placez ce même clinicien dans un contexte où ces analyses sont peu fiables ou indisponibles, et il se retrouve paralysé ; car l’examen clinique, le récit du patient, le témoignage de la famille ou le regard de la mère n’ont jamais été considérés comme des sources d’information primordiales. Il a calqué sa pratique sur les instruments technologiques, perdant ainsi cette compétence plus ancienne et plus profonde : celle de savoir observer.
L’enseignant qui prépare ses élèves à l’examen qu’il a lui-même passé. Celui qui a réussi dans un système fondé sur l’apprentissage par cœur a tendance à transmettre cette même méthode à la génération suivante, alors même que ses élèves devront naviguer dans l’ambiguïté, exercer leur jugement et évoluer dans des contextes dépourvus de corrigé type. Cet enseignant n’est pas paresseux ; il reproduit simplement le modèle qui a façonné sa propre réussite.
Le décideur politique qui importe un modèle étranger. Un haut fonctionnaire revient d’une mission d’étude et propose un régime national d’assurance maladie calqué sur celui de l’Allemagne ou du Rwanda. L’architecture du projet est élégante. Elle suppose l’existence d’une assiette fiscale, d’un secteur de l’emploi formel, d’un registre d’état civil et d’une culture de confiance envers les institutions centrales. Or, aucune de ces conditions n’est réunie dans le pays d’accueil. Ce n’est pas une mauvaise politique en soi, mais une politique inadaptée au contexte local : elle a été conçue pour un environnement qui n’est pas le sien.
L’humanitaire qui, après avoir mis en place une réponse efficace face à une famine, reproduit systématiquement la même méthode pour les crises ultérieures. Qu’il s’agisse de la Somalie en 2011, du Soudan du Sud en 2017 ou de la Corne de l’Afrique en 2022, les chocs, les modes de gouvernance, les dynamiques de déplacement des populations et les marchés diffèrent. Pourtant, par réflexe acquis lors de la première intervention, il a tendance à appliquer la même recette. Parfois, cela fonctionne. Mais souvent, les éléments négligés sont précisément ceux qui distinguent la crise actuelle de la précédente.
Le dirigeant qui s’obstine à appliquer la stratégie ayant permis l’essor de son entreprise. Un fondateur ayant développé son activité grâce à une politique de recrutement agressif et une culture de l’hyperactivité continue d’appliquer cette stratégie bien après que l’entreprise, le marché et les effectifs ont évolué. La stratégie qui a permis d’intégrer les cent premiers employés nuit désormais aux mille suivants. Ce dirigeant n’est pas têtu ; il cherche simplement à reproduire le schéma qui a assuré son succès initial.
Dans chacun de ces cas, la personne est compétente. Souvent, elle figure même parmi les meilleures de son domaine. Le problème ne vient pas d’un manque de compétences, mais d’un défaut de transfert. Ils ont acquis des connaissances approfondies dans un contexte donné et ont cru que cet apprentissage constituait une vérité universelle, indépendante du contexte. Or, ce n’était pas le cas. Ça ne l’est jamais.
C’est là toute la discipline, discrète et sans éclat, qu’exige l’intelligence contextuelle : savoir distinguer ce que l’on a appris du contexte dans lequel on l’a appris, et accepter de remettre ce dernier en question à chaque fois que l’on change d’environnement.
Pourquoi c’est important maintenant
Lorsque nous traitons de l’interaction entre l’IA et l’humain dans des contextes complexes, c’est ce terrain que nous explorons. En effet, les systèmes d’IA sont désormais déployés dans les domaines de la santé, de la finance, de l’agriculture, de l’éducation et de la gouvernance, précisément dans des contextes où le surapprentissage (*overfitting*) cause le plus de dégâts : des situations où les données d’entraînement proviennent d’ailleurs et ne correspondent pas à la réalité locale.
Un outil de tri médical par IA entraîné sur les données d’un service d’urgences de Boston souffrira de surapprentissage s’il est utilisé à Kampala. Un modèle de notation de crédit entraîné sur les données de consommateurs américains présentera le même défaut s’il est appliqué dans les zones rurales du Bangladesh. Un classificateur de maladies des cultures entraîné sur des champs californiens sera inadapté — par surapprentissage — s’il est utilisé sur la parcelle d’un petit exploitant au Malawi.
La solution ne consiste pas à abandonner ces outils. Elle réside dans l’intelligence contextuelle : une démarche délibérée et structurée consistant à se demander ce qui change lorsque le contexte évolue, et à accepter de redéfinir les normes de soin en conséquence.
C’est pourquoi le contexte est primordial. Et c’est pourquoi l’apprentissage ne se résume pas à la répétition, mais repose avant tout sur le transfert de connaissances.
