Une étude réalisée par INGENIO, centre du Conseil Supérieur de Investigaciones Científicas (CSIC), et l’Université polytechnique de Valence (UPV), propose un cadre éthique pour intégrer l’intelligence artificielle (IA) dans les systèmes d’aide à la décision clinique, sans déporter le jugement et la responsabilité des personnes impliquées.
Cette recherche, publiée dans la revue Science and Engineering Ethics, soutient que ces systèmes fondés sur l’IA devraient être conçus comme des outils destinés à soutenir le raisonnement humain. Pour cela, elle recommande d’appliquer un cadre fondé sur l’éthique discursive afin d’intégrer une réflexion éthique au cœur du processus décisionnel.
Ces outils informatiques, connus sous le nom de CDSS (Clinical Decision Support Systems), analysent des informations cliniques et fournissent aux professionnels de la santé des données, des prédictions ou des recommandations qui peuvent éclairer le diagnostic ou le choix de traitement pour un patient.
Leur intégration dans la pratique médicale soulève de nouveaux questionnements éthiques : jusqu’où doit-on suivre une recommandation automatisée lors d’une décision clinique ; comment peut être justifié le résultat offert par un algorithme ; ou qui assume la responsabilité de la décision finale. Le respect de l’autonomie, ainsi que l’évitement de la déshumanisation et de la dilution de la responsabilité, constituent les grands défis de l’intégration de l’IA dans les prises de décision cliniques.
Selon l’étude, l’éthique discursive repose sur l’idée que les normes qui affectent les personnes doivent pouvoir être justifiées de manière rationnelle par le dialogue et la participation de ceux qui en sont affectés. À cet égard, Félix Lozano, chercheur à INGENIO et auteur du travail, a expliqué : « Appliqué au domaine clinique, cette approche vise à ce que les recommandations générées par l’IA soient comprises, remises en question et évaluées dans le cadre d’un processus de délibération humaine ».
Le travail suggère que la réflexion éthique doit être présente dès la conception et le développement de ces systèmes et doit se maintenir pendant leur utilisation. Dans ce processus, il ne faudrait pas seulement faire intervenir les développeurs de logiciels, mais aussi des professionnels de la santé, des experts en éthique et les personnes affectées par les décisions du système, y compris les patients.
« L’IA dans les décisions cliniques ne devrait pas être évaluée uniquement sur sa précision ou sa capacité à faire des prédictions », a déclaré Lozano. Il a ajouté que son design doit garantir que ces outils préservent l’autonomie des patients et des professionnels et permettent de comprendre et de remettre en question les recommandations qu’ils génèrent.
Pour que les systèmes d’aide à la décision clinique prennent des décisions éthiques, ils devraient fonctionner comme des outils qui facilitent la délibération et apportent des informations pertinentes pour prendre une décision, sans remplacer le jugement des personnes impliquées.
Leurs recommandations devraient être compréhensibles et traçables, de sorte qu’elles puissent être évaluées par les professionnels de la santé. La responsabilité des décisions resterait ainsi entre les mains des professionnels de santé, tout en préservant l’autonomie éclairée des patients.
Pour progresser vers ce modèle, l’étude souligne la nécessité d’intégrer la réflexion éthique tout au long du développement et de l’application de ces technologies. Cela exige, selon l’auteur, un travail interdisciplinaire reliant des domaines tels que la philosophie morale, l’ingénierie des données et les politiques publiques. Cette recherche a reçu le soutien de la Conselleria de Cultura, Educación y Ciencia de la Generalitat Valenciana (CIBEST/2024/270).
