Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 72

DOCTR INE
TECHNOLOGIES
L'intelligence
artificielle en santé
Fondements d'un cadre légal pour sa régulation en
Europe, tant pour son développement que pour son
utilisation
L
'intelligence artificielle
(IA) fondée sur les réseaux
de neurones artificiels
connaît une forte évolution,
passant de l'apprentissage
automatique
(«machine
learning»),
guidé à partir de données
structurées, à l'apprentissage
profond ( " deep learning " ), autonome
à partir de données non
structurées. D'autres abords sont
cependant attendus pour contrer
le caractère de boîte noire, dès
lors que ces systèmes d'IA sont
opaques et qu'ils présentent des
résultats sans mise en perspective
de leurs propres limites, ni présentation
de la manière dont ils ont
été construits. Ainsi, le prestige de
neutralité et d'infaillibilité dont ils
sont parés est insuffisant et nécessite
une régulation, en particulier
lorsqu'ils touchent à la santé.
Il s'agit pour l'IA en matière de
santé de disposer d'un cadre
réglementaire approprié, tant
pour son développement que
pour son utilisation. Cet article fait
suite à celui paru dans le numéro
d'Expertises de janvier sur l'odyssée
de l'IA1
qui en introduisait la
nécessité, pour en proposer ici les
fondements dans une perspective
européenne sur la base de droits
fondamentaux existants.
Introduction
L'intelligence artificielle (IA) est
reconnue en tant qu'élément
important pour l'atteinte des
objectifs de l'Organisation des
Nations unies en matière de santé.
72
Les communautés des domaines
de l'ingénierie et de la santé sont
enthousiastes et il est déjà constaté
une volonté d'introduction massive,
notamment par la présentation de
solutions fondées sur l'apprentissage
profond. Sans être exhaustif,
les secteurs visés sont principalement
liés à l'imagerie médicale
et à la réalité virtuelle, la chirurgie
assistée par ordinateur, la médecine
prédictive, la prévention en termes
d'anticipation d'épidémies et de
pharmacovigilance, le diagnostic et
la recommandation thérapeutique,
la
surveillance
approfondie des
patients, les agents conversationnels,
les robots, etc.
Dès aujourd'hui, l'IA est utile pour
les examens et contrôles à distance
et l'aide au diagnostic en espérant
limiter les erreurs médicales. Elle
est aussi présente dans l'auto-gestion
de la santé des patients atteints
de pathologies comme le diabète,
l'hypertension, etc., qui sont impliqués
dans le suivi et la gestion
de leur maladie. La recherche
médicale est incontournable pour
pouvoir découvrir et développer
de nouveaux traitements ou
médicaments2
et l'IA, associée à de
grandes masses de données scientifiques,
est en mesure d'accélérer
leur mise au point et de réduire les
délais nécessaires pour obtenir les
autorisations. Il faut également être
conscient que les systèmes d'IA
doivent être prudemment adaptés
pour traiter d'autres domaines ou
pour accomplir d'autres fonctions
que celles pour lesquelles ils ont été
initialement conçus3
.
EXPERTISES FÉVRIER 2022
Si l'introduction de l'IA en santé
peut faire gagner en efficacité et en
précision les gestes techniques des
soins, néanmoins, dans la relation
soignant-patient,
son
intrusion
pose un problème éthique si le
rôle du soignant est supposé être
assuré par un robot4
, alors que c'est
dans ce relationnel de confiance
établi pour relever de la qualité
des soins. Si le recours à un robot
peut présenter des avantages en
termes de coûts directs et en cas de
pénurie de personnels, il supprime
l'empathie et conduit à la déshumanisation
de cette relation5
. Par
ailleurs, l'IA a un rôle central à jouer
dans les études de santé publique
et la recherche scientifique, en
s'appuyant sur de grandes quantités
de données.
Problématique
et orientations
L'IA en santé doit trouver un sens
raisonnable entre un enthousiasme
irrationnel et une peur irraisonnée.
Le développement des algorithmes
et de l'IA doit être loyal envers
l'ensemble de parties-prenantes,
et principalement des utilisateurs
et des patients, lesquels doivent
rester vigilants en se mobilisant
pour assurer un dialogue
continu.
En
conséquence,
le
développement d'un cadre formel
éthique et juridique, de règles et
de normes concernant la transparence,
les usages et les limites doit
être un effort constant et commun
à l'ensemble des intervenants : cliniciens,
chercheurs, ingénieurs,
patients, législateurs, etc. Il s'agit
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia

Table des matières de la publication Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia
