L’IA dans le système de santé valaisan : comment s'assurer que les outils utilisés soient réellement adaptés à la population locale

Financé dans le cadre de l’appel à projet interinstitutionnel 2025 du Canton du Valais, le projet VALIDATE-H a été dirigé par le Dr André Anjos, responsable du groupe Medical AI à l’Idiap. Le groupe de travail comprenait Oscar Jimenez-del-Toro et Roberto Pulvirenti de l’Idiap, Elia Pacioni et Davide Calvaresi de la HES-SO Valais-Wallis, ainsi que Luc Fornerod de l’OVS.

Le projet a mobilisé les compétences complémentaires des partenaires : l’IA, la vision par ordinateur, l’imagerie médicale et l’ingénierie logicielle de l’Idiap ; l’IA distribuée et explicable de la HES-SO Valais-Wallis ; ainsi que l’expertise de l’OVS en santé, données populationnelles et statistiques sanitaires, garantissant une forte adéquation avec les besoins locaux.

L’objectif du projet était de vérifier si les systèmes d’IA développés à partir de données provenant de l’étranger étaient fiables, équitables et cliniquement pertinents lorsqu’ils étaient appliqués à des patients valaisans. Pour ce faire, l’équipe a développé un cadre d’évaluation destiné à tester leurs performances sur des données locales. Cet outil a contribué à identifier d'éventuels biais et à fournir aux professionnels de la santé les informations nécessaires pour une utilisation sûre et équitable de ces technologies.

Le projet s’est concentré sur deux applications d’imagerie médicale qui reflètent des défis cliniques courants : les radiographies thoraciques pour la détection de la cardiomégalie (augmentation de la taille du cœur) et de l’épanchement pleural (présence de liquide autour des poumons), ainsi que les scanners thoraciques (CT) pour la détection d’un éventail plus large d’anomalies pulmonaires.

Les résultats ont montré que les modèles d’IA développés à partir de données étrangères peuvent présenter des différences de performance importantes selon les groupes de patients. Par exemple, les performances des modèles étaient moins bonnes pour certains groupes démographiques, notamment les hommes et les patients âgés de 40 ans ou moins. Sans validation locale, de telles disparités auraient pu passer inaperçues, posant potentiellement un risque pour la prise en charge des patients.

Ces résultats montrent que les modèles d’IA doivent être testés et adaptés dans les environnements de soins où ils seront utilisés afin de garantir qu’ils fournissent un soutien à la fois précis, pertinent et équitable à l’ensemble des patients.

L’équipe a donc utilisé des outils permettant de comprendre comment les modèles prennent leurs décisions, ce qui a permis de vérifier qu’ils se fondaient sur des informations médicales pertinentes, et non sur des facteurs sans lien direct avec la maladie, tels que l’âge ou le sexe des patients, ou encore certains paramètres techniques des images.

L’équipe a également étudié DEXiRE-EVO, une méthode qui transforme les décisions complexes de l’IA en règles simples et compréhensibles, afin de rendre son fonctionnement plus transparent.

Les performances d’une IA indiquent si elle donne de bons résultats, mais elles n’expliquent pas comment elle y parvient. C’est pourquoi il est important d’évaluer les systèmes d’IA dans le contexte médical réel où ils seront utilisés.

Ce projet s’inscrit dans la stratégie Horizon 2030 du Canton du Valais en contribuant à une santé plus personnalisée, plus équitable et davantage fondée sur les données. En vérifiant que les outils d’intelligence artificielle sont adaptés à la population locale, le projet contribue à limiter les biais, à renforcer la confiance dans ces technologies et à promouvoir leur utilisation responsable au service de la santé. Il favorise également la collaboration entre les professionnels de la santé, les entreprises et les institutions de recherche, contribuant ainsi à une meilleure coordination du système de santé, en cohérence avec les objectifs d’Horizon 2030.

Site du Projet: https://www.idiap.ch/project/validate-h/
Paper: https://www.melba-journal.org/papers/2025:050.html