Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 75

en ce qui concerne le développement,
la maintenance et l'utilisation,
au regard des menaces et vulnérabilités
et de tout dommage pouvant
résulter d'applications d'IA en santé.
Exigences de
non-discrimination et
d'accessibilité
L'évocation des arts. 20 à 26 de
la CDF impose l'égalité devant
la loi et la non-discrimination.
Les dispositions concernent le
sexe, les enfants, les personnes
âgées et handicapées, ou encore
la diversité culturelle, religieuse
et linguistique. Il en découle de
prévoir des moyens permanents de
surveillance et d'alerte concernant
les biais susceptibles d'apparaître
au vu d'une sous-représentation
de groupes concernés par le développement
et le fonctionnement
de l'IA en santé, en veillant à sa
mise à disposition à l'ensemble
des populations auxquelles elle
serait utile.
Ce principe devrait s'accorder
avec le maintien ou l'adoption
de mesures prévoyant des avantages
spécifiques en faveur de
groupes sous-représentés,
toutes
les personnes dans leur diversité
étant égales en droit. Autrement
dit, l'IA en santé doit être accessible
à tous en termes d'égalité.
Exigences relatives aux
données
L'IA nécessitant d'importantes
quantités de données aux fins
d'apprentissage rend impérieux de
protéger les libertés individuelles
et de protéger les données personnelles,
en veillant à limiter et à
contrôler le recours au Big Data,
sans freiner le développement de
l'IA en santé. Ce qui justifie que
les données devront être sélectionnées
de façon pertinente, en
quantité et en qualité nécessaires
et suffisantes, en fonction du but
poursuivi.
L'évocation de l'art. 8 de la CDF sur
la protection des données à caractère
personnel indique qu'elles
doivent être traitées loyalement, à
des fins déterminées et sur la base
du consentement de la personne
concernée ou en vertu d'un autre
fondement légitime prévu par la
loi, et que par ailleurs le respect de
ces règles est soumis au contrôle
d'une autorité indépendante.
A cet effet, la loi du 6 janvier 1978,
dite «Informatique et libertés», en
vigueur depuis juin 2019 dans
une nouvelle rédaction, sans
reprendre totalement les dispositions
du RGPD, comporte des
mesures de transposition en droit
français. Aussi, la compréhension
du cadre juridique nécessite la
connaissance des deux.
Exigences d'obligation de
recourir à l'IA en santé
L'évocation des arts. 2 et 7 de
la CDF sur le droit à la vie et à sa
protection et sur le respect de la
vie privée et familiale peut imposer
l'utilisation de l'IA au profit
de l'intérêt général en obligeant
l'État, d'une part, à s'assurer de la
qualité des soins selon l'état de
l'art et, d'autre part, à interdire les
méthodes de santé qui ne seraient
plus
fournies
avec
la
qualité
requise sans l'aide de l'IA. Cette
assertion devrait probablement
s'appliquer en matière traitement
d'images médicales, de chirurgie
distante, etc.
Exigences en termes de
responsabilités
Les constituants de l'IA : algorithmes,
programmes, systèmes,
etc., sont trop souvent considérés
comme neutres, voire infaillibles,
par divers acteurs de l'IA en santé,
qu'il
s'agisse du développement,
de la maintenance et de l'utilisation,
impliquant les fabricants de
matériels, les éditeurs de logiciels,
les établissements de santé, les
chercheurs, les cliniciens, patients,
etc. Cette situation est susceptible
d'entraîner une confiance
excessive, sans que chacun puisse
exercer pleinement ses responsabilités
devant une telle dilution.
En soulignant la complexité des
systèmes et applications de l'IA
en santé et l'existence possible
de fautes diverses, préexistantes
mais non encore connues ou
EXPERTISES FÉVRIER 2022
La réglementation de l'AI en santé
concerne à la fois les professionnels
de santé, les patients et
tous ceux qui en développent les
applications et les maintiennent.
Certains pensent qu'elle est
excessive et qu'il pourrait être fait
appel à une " soft law " empruntée
aux anglo-saxons. Cependant,
sous le sceau de la simplification,
une telle disposition ne préciserait
pas a priori les principes aptes à
guider les développements et les
usages. Il s'agit donc de disposer
d'un cadre nécessaire pour ne
pas freiner l'avancement de l'IA
75
révélées par des erreurs18
, en cas
de dommages, les questions de
responsabilités ne peuvent être
résolues de manière concluante du
point de vue des droits fondamentaux
reposant sur la CDF.
Pour pallier à cette difficulté, la CE
indique qu'elle évaluera l'introduction
d'un système de responsabilité
associé à une assurance obligatoire
pour les applications d'IA particulièrement
dangereuses, ce qui
devrait couvrir la plupart des applications
en santé. Si un tel système
est en mesure d'éliminer certaines
ambiguïtés existantes concernant
la responsabilité au regard des
applications d'IA en santé, il ne peut
cependant pas porter d'indication
précise sur le partage des responsabilités,
ce que seule une expertise
complexe serait en mesure d'établir,
mais dont l'issue n'est pas toujours
certaine.
Conclusion
L'IA en santé ouvre des perspectives
prometteuses pour stimuler
l'innovation en santé. Cependant,
ce domaine en pleine croissance
n'est pas en mesure de garantir
que les systèmes d'IA agiront
légalement et respecteront les
valeurs morales attendues sans un
cadre approprié. Ceci
justifie de
prendre en compte les questions
éthiques et juridiques pour disposer
de lignes directrices concises
et claires et d'un cadre législatif et
réglementaire approprié.

Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia

Table des matières de la publication Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia

Couverture
SOMMAIRE
Editorial
FOCUS CONTENTIEUX - DATAJUST : STOP À LA MODÉLISATION DE L’INDEMNISATION DES VICTIMES
EN BREF - L'INFORMATION RAPIDE SUR LE MONDE DU NUMÉRIQUE
MAGAZINE - L'INFORMATION LÉGALE ET JURISPRUDENTIELLE DU NUMÉRIQUE
INTERVIEW - VÉHICULE CONNECTÉ : L’ENJEU DES DONNÉES
DOCTRINE
CONTRATS - EXTENSION DE LA GARANTIE DE CONFORMITE AU NUMERIQUE
DONNÉES - ACTE SUR LA GOUVERNANCE DES DONNÉES : INTENSIFICATION ET ENCADREMENT DES ÉCHANGES DE DONNÉES
RÉGULATION - L’ARCOM : HÉRITIER UNIQUE DE L’HADOPI ET DU CSA
TECHNOLOGIES - L’INTELLIGENCE ARTIFICIELLE EN SANTÉ
RGPD - DPO : QUELLE GOUVERNANCE POUR ÊTRE CONFORME AU RGPD ?
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - Couverture
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - SOMMAIRE
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - Editorial
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - FOCUS CONTENTIEUX - DATAJUST : STOP À LA MODÉLISATION DE L’INDEMNISATION DES VICTIMES
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 45
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - EN BREF - L'INFORMATION RAPIDE SUR LE MONDE DU NUMÉRIQUE
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 47
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 48
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - MAGAZINE - L'INFORMATION LÉGALE ET JURISPRUDENTIELLE DU NUMÉRIQUE
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 50
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 51
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 52
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 53
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - INTERVIEW - VÉHICULE CONNECTÉ : L’ENJEU DES DONNÉES
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 55
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 56
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 57
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 58
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - CONTRATS - EXTENSION DE LA GARANTIE DE CONFORMITE AU NUMERIQUE
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 60
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 61
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 62
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 63
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 64
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - DONNÉES - ACTE SUR LA GOUVERNANCE DES DONNÉES : INTENSIFICATION ET ENCADREMENT DES ÉCHANGES DE DONNÉES
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 66
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 67
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 68
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - RÉGULATION - L’ARCOM : HÉRITIER UNIQUE DE L’HADOPI ET DU CSA
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 70
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 71
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - TECHNOLOGIES - L’INTELLIGENCE ARTIFICIELLE EN SANTÉ
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 73
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 74
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 75
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 76
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - RGPD - DPO : QUELLE GOUVERNANCE POUR ÊTRE CONFORME AU RGPD ?
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 78
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 79
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 80
https://www.nxtbook.fr/newpress/celog/celog-expertises-2206_480
https://www.nxtbook.fr/newpress/celog/celog-expertises-2205_479
https://www.nxtbook.fr/newpress/celog/celog-expertises-2204_478
https://www.nxtbook.fr/newpress/celog/celog-expertises-2203_477
https://www.nxtbook.fr/newpress/celog/celog-expertises-2202_476
https://www.nxtbook.fr/newpress/celog/celog-expertises-2201_475
https://www.nxtbook.fr/newpress/celog/celog-expertises-2112_474
https://www.nxtbook.fr/newpress/celog/celog-expertises-2111_473
https://www.nxtbook.fr/newpress/celog/celog-expertises-2110_472
https://www.nxtbook.fr/newpress/celog/celog-expertises-2109_471
https://www.nxtbook.fr/newpress/celog/celog-expertises-2107_470
https://www.nxtbook.fr/newpress/celog/celog-expertises-2106_469
https://www.nxtbook.fr/newpress/celog/celog-expertises-2105_468
https://www.nxtbook.fr/newpress/celog/celog-expertises-2104_467
https://www.nxtbook.fr/newpress/celog/celog-expertises-2103_466
https://www.nxtbook.fr/newpress/celog/celog-expertises-2102_465
https://www.nxtbook.fr/newpress/celog/celog-expertises-2101_464
https://www.nxtbook.fr/newpress/celog/celog-expertises-2012_463
https://www.nxtbook.fr/newpress/celog/celog-expertises-2011_462
https://www.nxtbook.fr/newpress/celog/celog-expertises-2010_461
https://www.nxtbook.fr/newpress/celog/celog-expertises-2009_460
https://www.nxtbook.fr/newpress/celog/celog-expertises-2007_459
https://www.nxtbook.fr/newpress/celog/celog-expertises-2006_458
https://www.nxtbook.fr/newpress/celog/celog-expertises-2005_457
https://www.nxtbook.fr/newpress/celog/celog-expertises-2004_456
https://www.nxtbook.fr/newpress/celog/celog-expertises-2003_455
https://www.nxtbook.fr/newpress/celog/celog-expertises-2002_454
https://www.nxtbook.fr/newpress/celog/celog-expertises-2001_453
https://www.nxtbook.fr/newpress/celog/celog-expertises-1912_452
https://www.nxtbook.fr/newpress/celog/celog-expertises-1911_451
https://www.nxtbook.fr/newpress/celog/celog-expertises-1910_450
https://www.nxtbook.fr/newpress/celog/celog-expertises-1909_449
https://www.nxtbook.fr/newpress/celog/celog-expertises-1907_448
https://www.nxtbook.fr/newpress/celog/celog-expertises-1906_447
https://www.nxtbook.fr/newpress/celog/celog-expertises-1905_446
https://www.nxtbook.fr/newpress/celog/celog-expertises-1904_445
https://www.nxtbook.fr/newpress/celog/celog-expertises-1903_444
https://www.nxtbook.fr/newpress/celog/celog-expertises-1902_443
https://www.nxtbook.fr/newpress/celog/celog-expertises-1901_442
https://www.nxtbook.fr/newpress/celog/celog-expertises-1812_441
https://www.nxtbook.fr/newpress/celog/celog-expertises-1811_440
https://www.nxtbook.fr/newpress/celog/celog-expertises-1810_439
https://www.nxtbook.fr/newpress/celog/celog-expertises-1809_438
https://www.nxtbook.fr/newpress/celog/celog-expertises-1807_437
https://www.nxtbook.fr/newpress/celog/celog-expertises-1806_436
https://www.nxtbook.fr/newpress/celog/celog-expertises-1805_435
https://www.nxtbook.fr/newpress/celog/celog-expertises-1804_434
https://www.nxtbook.fr/newpress/celog/celog-expertises-1803_433
https://www.nxtbook.fr/newpress/celog/celog-expertises-1802_432
https://www.nxtbook.fr/newpress/celog/celog-expertises-1801_431
https://www.nxtbook.fr/newpress/celog/celog-expertises-1712_430
https://www.nxtbook.fr/newpress/celog/celog-expertises-1711_429
https://www.nxtbook.fr/newpress/celog/celog-expertises-1710_428
https://www.nxtbook.fr/newpress/celog/celog-expertises-1709_427
https://www.nxtbook.fr/newpress/celog/celog-expertises-1707_426
https://www.nxtbook.fr/newpress/celog/celog-expertises-1706_425
https://www.nxtbook.fr/newpress/celog/celog-expertises-1705_424
https://www.nxtbook.fr/newpress/celog/celog-expertises-1704_423
https://www.nxtbook.fr/newpress/celog/celog-expertises-1703_422
https://www.nxtbook.fr/newpress/celog/celog-expertises-1702_421
https://www.nxtbook.fr/newpress/celog/celog-expertises-1701_420
https://www.nxtbook.fr/newpress/celog/celog-expertises-1612_419
https://www.nxtbook.fr/newpress/celog/celog-expertises-1611_418
https://www.nxtbook.fr/newpress/celog/celog-expertises-1610_417
https://www.nxtbook.fr/newpress/celog/celog-expertises-1609_416
https://www.nxtbook.fr/newpress/celog/celog-expertises-1607_415
https://www.nxtbook.fr/newpress/celog/celog-expertises-1606_414
https://www.nxtbook.fr/newpress/celog/celog-expertises-1605_413
https://www.nxtbook.fr/newpress/celog/celog-expertises-1604_412
https://www.nxtbook.fr/newpress/celog/celog-expertises-1603_411
https://www.nxtbook.fr/newpress/celog/celog-expertises-1602_410
https://www.nxtbook.fr/newpress/celog/celog-expertises-1601_409
https://www.nxtbook.fr/newpress/celog/celog-expertises-1512_408
https://www.nxtbook.fr/newpress/celog/celog-expertises-1511_407
https://www.nxtbook.fr/newpress/celog/celog-expertises-1510_406
https://www.nxtbook.fr/newpress/celog/celog-expertises-1509_405
https://www.nxtbook.fr/newpress/celog/celog-expertises-1507_404
https://www.nxtbook.fr/newpress/celog/celog-expertises-1506_403
https://www.nxtbook.fr/newpress/celog/celog-expertises-1502_399
https://www.nxtbookmedia.com