Dans un récent essai analytique, le docteur Terry Adirim, du Département de Pédiatrie et du Département de Médecine Préventive et Bioestatistique de l’Uniformed Services University of the Health Sciences (Bethesda, Maryland), et la docteure Amy Molten, du Département de Pédiatrie de la Faculté de Médecine de l’Université Tufts (Boston, Massachusetts), tous deux affiliés aux États-Unis, examinent les défis éthiques liés à l’utilisation de l’IA en santé publique, en soulignant le potentiel de ces systèmes pour renforcer les inégalités sanitaires existantes.
Les auteurs soutiennent qu’une mise en œuvre responsable de l’IA nécessite une gouvernance qui tienne compte des besoins des populations historiquement marginalisées. L’étude est publiée en ligne dans ‘American Journal of Public Health’.
« Le problème fondamental de l’IA dans le domaine de la santé publique est structurel, plutôt que technique », déclare le docteur Adirim. Ainsi, l’analyse identifie des risques éthiques critiques, tels que la discrimination, la surveillance et les violations de la vie privée, qui touchent des populations historiquement marginalisées, notamment les enfants, les communautés minoritaires, les peuples autochtones et les personnes handicapées.
En analysant divers ensembles de données, l’IA peut générer des résultats biaisés. De plus, l’utilisation de données commerciales, telles que le suivi de localisation, brouille la frontière entre la surveillance de la santé publique et la vie privée des consommateurs, tandis que les outils d’IA comportementale comportent le risque de manipulation, de désinformation et de violation de l’autonomie.
Pour atténuer ces menaces, l’analyse recommande des évaluations d’impact sur l’équité, une surveillance continue des biais, la protection de la souveraineté des données et la validation par la communauté locale. Elle suggère également une supervision humaine dans les décisions importantes et des normes nationales pour la transparence et l’évaluation de l’équité de l’IA.
En expliquant la valeur de cette approche, le docteur Adirim souligne: « Les menaces à la vie privée dans le développement de l’enfant diffèrent des inquiétudes liées à la souveraineté des données des communautés autochtones; les risques de mauvaise classification pour les adultes âgés diffèrent des craintes liées à la surveillance des familles sans statut ou des personnes incarcérées; les obstacles de la fracture numérique rencontrés par les populations rurales et mondiales diffèrent des risques de manipulation fondés sur l’interaction auxquels font face les personnes souffrant de troubles mentaux. Par conséquent, l’usage responsable de l’IA dans la pratique de la santé publique doit s’adapter à cette diversité et combiner une gouvernance transversale avec une validation spécifique à la population, la participation communautaire et les garde-fous adaptés à chaque groupe ».
Les auteurs concluent qu’une IA responsable en santé publique nécessite une gouvernance et une reddition de comptes afin de préserver la diversité de la population. Cette approche renforce la santé publique tout en protégeant l’équité, la transparence et la confiance de la communauté.
