Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet/Août 2019 - n°448 - 259

obligatoirement adaptées à tout le
monde ». Ainsi, les résultats donnés par
les machines doivent être analysés en
fonction du patient dans son entièreté.
Ces positions sont d'autant plus
pertinentes que, selon une étude6
publiée le 14 juin 2019, 78% des patients
interrogés n'accepteraient pas des
interventions
automatisées
sans
contrôle humain. Seulement 3% des
patients interrogés accepteraient une
automatisation complète.
Dans ces conditions, l'IA serait un
simple outil d'assistance au diagnostic ou au traitement dont la maîtrise
revient en dernier lieu au médecin et
à son propre jugement professionnel,
dans le respect des règles déontologiques applicables.
Au regard d'une IA humano-centrée, ou d'une intelligence humaine
augmentée, la responsabilité pèsera sur
le corps médical et non sur la machine
utilisant l'algorithme. « Tant que la prise
de décision restera humaine, qu'elle soit
ou non augmentée et facilitée par de
l'IA, la responsabilité restera toujours
humaine.  »7 Par ailleurs, le médecin
ne devrait être tenu pour responsable
du simple fait qu'il n'a pas suivi le
diagnostic ou le traitement suggéré par
la machine8.
La clarification du régime juridique est
certainement un élément important
dans la construction du lien de
confiance pour l'utilisation de l'IA dans
le domaine médical.
Ce lien de confiance sera également
renforcé par l'établissement et le
respect d'un socle éthique. A ce titre,
des lignes directives éthiques ont été
présentées par le groupe d'experts pour
l'IA le 8 avril 2019.
Comme l'a dit Andrus Ansip, vice-président de la Commission européenne,
chargé
du
marché
numérique
unique, «  la dimension éthique de
l'intelligence artificielle n'est pas un
luxe ou un accessoire. Ce n'est que par
la confiance que notre société peut
pleinement bénéficier de la technologie. Une intelligence artificielle éthique
est une solution gagnant-gagnant qui
peut donner à l'Europe un avantage
compétitif  : devenir le leader d'une IA
humano-centrée dans laquelle les gens
peuvent avoir confiance. »

D'après ces lignes directrices, les
exigences suivantes pourraient constituer un examen de passage afin de
garantir la fiabilité du système d'intelligence artificielle :
■Diversité,
■
non-discrimination, et
équité  : les systèmes d'intelligence
artificielle doivent prendre en considération un spectre complet des
capacités, compétences et exigences
humaines et assurer une accessibilité.
Les algorithmes doivent être conçus
pour identifier et corriger nos biais
sociétaux existants. L'équité est une
exigence fondamentale afin d'éviter
les situations où une IA largement
diffusée ne ferait qu'amplifier et perpétrer les biais existant dans nos sociétés.
■Transparence 
■
: la traçabilité des
systèmes d'intelligence artificielle doit
être assurée.
■Responsabilité 
■
: des mécanismes,
incluant des contrôles extérieurs et
indépendants, doivent être mis en
place afin d'assurer la responsabilité
concernant les systèmes d'IA et leurs
conséquences.
■Gestion
■
et supervision humaine : Les
systèmes d'IA doivent permettre de
mettre en place des sociétés équitables
en encourageant la gestion humaine
ainsi qu'en renforçant les droits fondamentaux sans limiter l'autonomie
humaine.
■Solidité
■
et sécurité  : une intelligence
fiable nécessite des algorithmes sécurisés, viables et pouvant assurer la
correction d'erreur et d'incohérence
durant toutes les phases de la vie d'un
système d'IA.
■Confidentialité
■
et gouvernance des
données  : Les citoyens doivent avoir
un contrôle total sur leurs propres
données en vertu du principe d'autodétermination. Dans le même temps,
des sécurités doivent être implémentées afin que les données concernant les citoyens, potentiellement
traitées par des outils IA par la suite,
ne soient pas utilisées pour les discriminer, leur causer un préjudice ou les
auto-incriminer.
■Bien-être
■
environnemental et sociétal : les systèmes IA doivent être utilisés
pour instaurer un changement social
positif et renforcer le développement
durable ainsi que la responsabilité
écologique.
EXPERTISES Juillet-Août 2019

Bien que dépourvues de force obligatoire, s'aligner sur les exigences ci-dessus sera très important pour achever
une intelligence artificielle, éthique,
humano-centrée et légitime, surtout
dans le secteur de la santé. Se conformer
à ces principes devrait renforcer l'idée
selon laquelle les technologies utilisant
l'IA ne doivent pas être conçues pour
remplacer le médecin mais plutôt
comme une aide afin de renforcer ses
capacités et, ainsi, bénéficier au patient
ainsi qu'à l'ensemble du système de
santé.
C'est au prix de cette éthique forte que
l'IA pourra être déployée avec succès
dans un domaine aussi sensible que
celui de la santé.

Constantin PAVLÉAS
Avocat fondateur
Constantin Pavléas Avocats,
Coordinateur du programme Droit
du numérique & propriété intellectuelle à l'école des Hautes études
appliquées du droit (HEAD)

Notes
(1)	Rapport « Épidémie mondiale de maladies », Forum de l'économie mondiale.
(2)	Joint Report by the Commission services and the Economic
Policy Committee on Health Care and Long- term Care Systems
and Fiscal Sustainability, European Commission and Economic
Policy Committee, October 2016
(3)	 Etude scientifique réalisée par la Communauté de Patients pour
la Recherche (ComPaRe) publiée dans la revue Nature Digital
Medicine.
(4)	Cf Régulation(EU) 2017/745 du 5 avril 2017 sur les dispositifs
médicaux, amendant la Directive 2001/83/EC, Regulation
(CE) No 178/2002 et Régulation (CE) No1223/2009 abrogeant
les directives du Conseil 90/385/EEC et 93/42/EEC du
14 juin 1993 concernant les dispositifs médicaux et les amendement suivants.
(5)	 La CJUE a jugé qu'un logiciel peut être classé comme dispositif
médical en vertu du droit européen  si au moins une de ses
fonctions permet d'utiliser des données de patients dans le but,
entre autres, de détecter des contre-indications, des interactions
de drogues ou des doses excessives, il est, un dispositif médical
dans le sens de ces provisions même si le logiciel n'agit pas
directement dans ou sur le corps humain.
(6)	 Étude scientifique réalisée par la Communauté de Patients pour
la Recherche (ComPaRe) publiée dans la revue Nature Digital
Medicine.
(7)	Docteur Brunet du Centre hospitalier universitaire de Montréal
(8)	 h t t p : / / w w w. e u r o p a r l . e u r o p a . e u / d o c e o /
document/A-8-2019-0019_EN.pdf

259
http://www.europarl.europa.eu/doceo/document/A-8-2019-0019_EN.pdf
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet/Août 2019 - n°448

Table des matières de la publication Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet/Août 2019 - n°448
