Avant d'entrer dans le vif

👩‍⚕️ Berne fait le forcing sur le dossier électronique du patient. Le DEP est boudé par les citoyens comme par les professionnels de santé, alors la Confédération se démène.

🇮🇱 En Israël, deux entrepreneuses veulent remplacer les poules par des patates. Portrait de Maya et Raya, deux amies ambitieuses dans la foodtech.

📧 On vous a transféré ce Point fort?
Alors n’hésitez pas à vous inscrire: c’est tous les jours et c’est gratuit.

🙏 Vous voulez nous rendre service?
Donnez-nous votre avis sur cette newsletter, vos retours sont précieux!

Face à l'essor de l'IA en santé, la prudence des médecins

Image générée par le modèle Lexica Aperture avec l’instruction: «A robot wearing a white coat, standing next to a medical doctor»

🌐 Lire la version étoffée (abonnés) 🌐

➢ L’IA peut-elle être une chance pour la médecine?

➢ A priori, c’est compliqué. En dépit de ses aspects scientifiques et techniques, la médecine reste une science humaine, fondée sur la relation entre le médecin et son patient.

➥ L’IA pourrait malgré tout aider à replacer l’humain au cœur de la pratique médicale… A plusieurs conditions:

 ● si elle ne se substitue jamais à la décision médicale,

 ● et si elle parvient à libérer le médecin d’une partie des tâches répétitives et chronophages qui lui incombent.

Il n’y a pas de docteur IA. Pour l’heure, il s’agit tout au plus de systèmes d’aide à la décision, celle-ci revenant in fine à l’humain, illustrent les spécialistes:

  📄 «Cet essor de l’IA s’inscrit dans le long historique de l’informatique médicale: cela fait depuis 1950 que l’on parle de dossier électronique, rappelle le Dr François Bastardot, responsable de l’information médicale au CHUV.

  🩺 Il est important que ces technologies, en plus de respecter le contexte légal existant, parviennent à s’inscrire dans les habitudes des médecins, tout en respectant nos standards et nos bonnes pratiques», ajoute-t-il. «Il existe des directives de la FMH concernant l’IA, mais elles sont peu connues», complète le Dr Marc-Antoine Bornet.

  🔔«A l’hôpital, vous êtes bombardés de multiples alertes, dont peu sont vraiment utiles au lit du malade, poursuit le Dr François Bastardot. Si l’IA se contente d’augmenter le nombre d’alertes sans veiller à les prioriser, le seul effet sera d’augmenter la fatigue du médecin – et le risque d’ignorer une véritable urgence remontée par une de ces alertes.»

«Evidence based medicine» contre boîtes noires. L’IA devrait théoriquement respecter les mêmes principes qui s’appliquent à la recherche biomédicale: être fondée sur des preuves tangibles.

  ⬛ Dans les faits, les solutions commercialisées peuvent s’apparenter à des boîtes noires. Watson, l’IA d’IBM qui devait révolutionner dès 2015 la pratique de la médecine, s’est ainsi heurtée à un gros problème: les données médicales sur lesquelles elle avait été entraînée n’étaient pas représentatives des populations des hôpitaux où elle a pu être utilisée…

  «Il faut que nos confrères restent critiques face aux arguments marketings des sociétés qui vendent ces outils d’IA, insiste le Dr François Bastardot. La validation externe qui s’applique en recherche clinique devrait aussi s’appliquer aux produits qui utilisent l’IA à des fins médicales.»

  🕶️Le fond du problème, c’est aussi la façon dont les systèmes de machine learning fonctionnent. Plutôt que de suivre un cheminement diagnostique défini de manière explicite, comme les médecins, les IA apprennent à partir d’un grand nombre d’exemples différents… sans pouvoir toujours expliciter la règle qu’ils appliquent.

  ⚖️ Cette particularité n’est pas sans conséquence pour le droit:

  «Le médecin et/ou l’hôpital restent responsables de l’utilisation qui est faite des IA médicales, rappelle François Charlet, juriste spécialisé dans le droit des nouvelles technologies. La loi fédérale sur la responsabilité du fait des produits, qui établit le principe de la responsabilité du producteur en cas de dommage causé par son produit qui présente un défaut, permet théoriquement d’attaquer les développeurs d’une IA défectueuse». Dans les faits, cette responsabilité est souvent compliquée à prouver avec l’IA.

  🥼 Longtemps, l’informatique médicale a surtout été une affaire d’ingénieurs où les médecins avaient peu leur mot à dire… Cela doit changer, martèle le Dr Bastardot.

  «Si vous engagiez un assistant médical pour vous aider, par exemple sur les recherches de littérature, vous apprendriez à vous connaître avant de travailler ensemble. C’est la même chose pour l’IA.»

Des patients humains, trop humains.

  📖«Il n’y a pas de e-patients et de e-cancers, il n’y a que des patients et des cancers qui ne sont jamais comme dans les livres», lançait en mai dernier, à l’antenne de la RTS, Christian Lovis, médecin-chef du service des sciences de l’information médicale aux HUG.

  🏎️ «Notre force d’humains, c’est de savoir quand sortir des modèles, confirme François Bastardot. Le médecin doit pouvoir sortir des guidelines lorsqu’il estime que non, le patient en question n’est pas représentatif. Il doit pouvoir reprendre le contrôle, exactement comme le ferait le pilote d’un véhicule high-tech.»

Pour aller plus loin

Pour unir IA et médecine, réconcilier ingénieurs et cliniciens. Pour concevoir une IA, il faut des informaticiens. Mais pour fabriquer une IA médicale, il faut aussi des cliniciens. Regards croisés de plusieurs experts, qui s’accordent sur un point important: les deux corps de métier doivent travailler main dans la main, car la machine ne peut remplacer le praticien et la médecine reste un art.

La fable de Dr House et de la valeur médicale des données. Aux HUG ou à hôpital Necker à Paris, les IA jouent le rôle d’un véritable Dr House électronique, en tirant parti des données patients pour mieux identifier des maladies génétiques rares. On lève le voile sur cet usage vertueux des données, encadré par de solides règles d’éthique.

En biomédecine aussi, se méfier des prédictions de l’IA. Gavin Brown est professeur de machine learning à l’Université de Manchester. En 2020, il évoquait la fiabilité limitée des modèles prédictifs et la nécessité pour les experts d’y prendre garde, tout particulièrement dans le domaine de la santé. Entretien.

Il est temps de raconter le monde

✨ Heidi.news fête son premier lustre. Pour célébrer nos cinq ans, profitez de 50% de rabais sur nos abonnements et nos bons cadeaux. Nos offres anniversaires sont valables jusqu’au dimanche 12 mai inclus: faites vite!

Découvrez aussi notre toute nouvelle Exploration axée solutions, On a trouvé des journalistes heureux, qui dresse le portrait de médias qui marchent. Bonne lecture!

L'IA, la brute et le truand

WallHere / szaborozika

Les assureurs en embuscade. Le corps médical n’est pas le seul à trouver intérêt aux algorithmes: c’est aussi le cas des assureurs, en particulier aux Etats-Unis. Une enquête exhaustive de Stat News montre comment les algorithmes utilisés par les assureurs peuvent se retourner contre les patients, et leur refuser une couverture santé à laquelle ils sont pourtant éligibles en théorie… Et ce, en toute opacité. Sur la plateforme médicale KevinMD, une médecin oncologue revient sur l’affaire.

De bonnes lectures

Médecine artificielle ou intelligence augmentée? Dans ce dossier thématique publié par la revue trimestrielle de la Société Vaudoise de Médecine (SVM), plusieurs médecins s’interrogent sur le recours à l’IA par le corps médical suisse. Pour eux, le «remplacement» du médecin par l’IA n’est pas à l’ordre du jour. Mais bien utilisée, l’IA pourrait rendre la pratique de la médecine plus humaine.

Watson en médecine, anatomie d’un échec. Ce devait être l’avenir de la médecine. La division médicale de Watson, IA emblématique d’IBM, a finalement été revendue pour une fraction de son coût total en 2022. Dans cette interview à Slate, Casey Ross, journaliste pour Stat News, revient sur l’échec cuisant de Big Blue en oncologie. En cause, l’hétérogénéité des données utilisées pour modeler les algorithmes…

L’heure des IA médicales est-elle enfin arrivée avec ChatGPT? Impossible d’échapper à la déferlante ChatGPT des derniers mois. Est-ce le déclic qui fera décoller pour de bon les IA médicales? Les médecins américains Eric Topol et Isaac Kohane échangent à ce sujet dans un podcast retranscrit sur Medscape.

L’IA n’est pas un autre comme les autres. C’est ce qu’arguait, en 2017 déjà, l’éthicien Bertrand Kiefer dans la Revue médicale suisse. A cet égard, l’IA est incapable de voir au-delà de la question posée comme le ferait le médecin, et ne saurait le remplacer pour l’interprétation médicale. «Ce qui est important, dans le rôle du soignant, c’est d’abord qu’il soit un autre, quelqu’un qui se tient en face, écoute avec bienveillance et décale l’analyse», écrivait-il. Ce dont les algorithmes demeurent incapables.