Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 76

DOCTR INE
en santé, et suffisant pour éviter
les surprises et les difficultés en
cas de procédure judiciaire.
Avec le règlement général sur la
protection des données (RGPD),
qui bénéficie à la sécurité et à
la souveraineté des données, la
charte des droits fondamentaux
(CDF) constitue un ensemble
immuable pour constituer les
fondements d'un cadre légal de
la régulation de l'IA en santé pour
l'Europe et la France. Il apparaît
suffisamment contraignant pour
fixer les principes et règles juridiques
liées au développement et
à l'utilisation de l'IA en santé dans
l'UE, à quelques exceptions près.
Ceci justifie de façon complémentaire
la proposition de règlement
de la CE établissant des règles
harmonisées pour l'IA en Europe,
laquelle
s'emploie
à distinguer
divers types d'IA, selon l'impact
pour l'Homme, pour en faciliter la
mise en œuvre.
Il reste
que des dispositions
particulières devront être prévues
à propos de la visibilité des algorithmes
propriétaires au nom du
droit de propriété intellectuelle et
des responsabilités au vu des interfaces
entre agents d'IA et acteurs
humains et de la complexité des
processus.
Daniel GUINIER
Docteur ès Sciences
Certifications CISSP, ISSMP,
ISSAP et MBCI
Expert de justice honoraire,
ancien expert devant la Cour
pénale internationale de La Haye
Consultant en politiques et
stratégies de cybercriminalité et
de cybersécurité
Bibliographie
Anahory M, Bertho M., Vansuypeene M. (2021) : Un
cadre juridique pour les dispositifs médicaux recourant à
l'IA. Expertises, n°473, novembre, pp. 398-399.
Böke S. S. (2020) : Artificial intelligence in health care :
medical, legal and ethical challenges ahead. Rapport de
l'assemblée parlementaire du Conseil de l'Europe, 22
septembre, 17 pages.
CE (2018) : Communication sur l'intelligence artificielle
pour l'Europe, COM (2018) 237 final du 25 avril, 23 pages.
CE (2020) : Livre blanc sur l'intelligence artificielle - Une
approche européenne axée sur l'excellence et la confiance.
COM (2020) 65 final du 12 février, 31 pages.
CE (2021) : Proposition de règlement du Parlement
européen et du Conseil établissant des règles harmonisées
concernant l'IA (Artificial Intelligence Act)) et modifiant
certains actes législatifs de l'Union. COM(2021) 206
final du 21 avril, 119 pages, annexes 18 pages.
CNIL (2017) : Comment permettre à l'Homme de garder
la main ? Les enjeux éthiques des algorithmes et de l'intelligence
artificielle, synthèse de débat public, décembre,
80 pages.
CNOM (2018) : Médecins et patients dans le monde des
data, des algorithmes et de l'intelligence artificielle, livre
blanc, 72 pages.
Etzioni A., Etzioni O. (2016) : Designing AI systems that
obey our laws and values. Comm. ACM, vol.59, n°9, pp.
29-31.
Guinier D. (1994) : Oriented-scenario dynamics in information
systems safety, Introduction to propagation
paths, channels of risk and " revulsion momentum " , ACM
Sigsac Review, vol.12, n°3, pp. 6-11.
Guinier D. (2018) : Place des algorithmes et exigences
face à la complexité et à la convergence technologique.
Revue Experts, n°139, août, pp. 40-44.
Guinier D. (2022) : L'odyssée de l'intelligence artificielle
- Anticiper le futur en évitant les écueils appris du passé.
Expertises, n°475, janvier, pp. 32-37.
Jirotka M., et al., (2017) : Responsible research and innovation
in the digital age. Comm. ACM, vol.60, n°5, pp.
62-68.
Mueller H., et al. (2021) : The ten commandments of ethical
medical AI. IEEE Computer, vol.54, n° 7, pp. 119-123.
Price, W. N. (2013) : Medical malpractice and black box
medicine. In G. Cohen, et al. Ed., Big Data, health law and
bioethics, pp. 295-306.
Stöger K., et al. (2021) : Medical Artificial Intelligence :
The European legal perspective. Comm. ACM, vol.64,
n°11, pp. 34-36.
Villani C. (2018) : Donner un sens à l'intelligence artificielle.
Pour une stratégie nationale et européenne.
Rapport de mission parlementaire confiée par le Premier
Ministre, mars, 234 pages.
UE (2000) : Charte des droits fondamentaux de l'UE. J.O.
des Communautés européennes (2000/C 364/01) du 12
décembre, 22 pages, et 2012/C 326/02 du 26 octobre,
17 pages.
UE (2016) : Règlement du Parlement européen et du
Conseil, relatif à la protection des personnes physiques
à l'égard du traitement des données à caractère personnel
et à la libre circulation de ces données, et abrogeant
la directive 95/46/CE (Règlement général sur la protection
des données (RGPD), (UE) 2016/679 du 27 avril, 88
pages.
Ziegler L., Schlich R. (2021) : Emergence d'un cadre légal
harmonisé : de l'éthique à la conformité. Expertises,
n°471, septembre, pp. 309-317.
(5)
(3)
Notes
(1)
L'auteur en détaillait l'avancée par vagues sous
diverses formes et les aspects connexes à intégrer,
en introduisant le besoin d'une approche globale
de l'éthique et la nécessité de disposer d'un cadre
juridique et réglementaire pour l'UE (voir D.
Guinier (2022)).
(2)
Le processus est complexe et incertain, depuis
la recherche fondamentale jusqu'aux startups,
avant de pouvoir procéder à des essais.
Les applications en apprentissage profond qui
relèvent du traitement d'images : détection
de mélanomes, dépistage des rétinopathies
diabétiques, etc., nécessitent de disposer
d'échantillons de dizaines de milliers d'images,
voire plus, dans la phase d'apprentissage, pour
entraîner l'algorithme d'IA.
(4)
Ex. Robots animateurs en EHPAD, robots d'accueil
entraînés au dialogue, agents conversationnels
en santé mentale, etc. D'une façon générale, la
robotique est un autre domaine de l'IA qui vise
l'autonomie de machines en les dotant de capacités
de perception, de décision et d'action.
Le CNOM rappelle à propos des enjeux
que «le médecin doit se souvenir qu'il soigne
une personne qui est malade et qu'il ne combat
pas seulement la maladie dont un individu serait
atteint», p. 31, «L'empathie médicale aide à
guérir», p. 32.
(6) Voir UE (2000), CE (2018, 2020 et 2021).
(7) Voir CNOM (2018).
(8) Au vu de l'évaluation des menaces à l'encontre de
l'IA qui pourrait être faite par l'Agence de l'Union
européenne pour la cybersécurité (ENISA), sinon
l'Agence nationale de la sécurité des systèmes
d'information (ANSSI) pour la France.
(9)
Loi du 2 août 2021 relative à la bioéthique, sur
l'obligation d'information à la charge des professionnels
utilisant une IA en santé (art. L. 4001-3
du CSP).
(10) Voir UE (2016).
(11) Voir UE (2000).
(12) Il convient de rappeler que les droits fondamentaux
protègent les individus contre l'intervention
de l'État et l'obligent à protéger certaines libertés
contre l'ingérence de tiers. A plusieurs reprises
la Cour européenne des droits de l'Homme a
rappelé à l'État son obligation de réglementer
les prestations de services de santé pour que
des précautions soient prises afin d'éviter des
atteintes graves à la santé, obligeant ainsi la mise
en œuvre de mesures d'assurance qualité.
(13) Voir A. et O. Etzioni (2016).
(14) Voir W. N. Price (2013).
(15) Il faut distinguer le principe de «Privacy by
Design» qui implique la prise en compte de la
protection de la vie privée et de la protection des
données à caractère personnel dès la conception
d'un système impliquant leur traitement,
de «Privacy by Default» qui garantit un niveau
de protection d'un produit ou service qui a été
rendu public. Les standards en matière de protection
s'appliquent alors par défaut lors de son
utilisation.
(16) Voir S. S. Böke (2020).
(17) Voir D. Guinier (1994, 2018).

76
Vous avez envie de vous exprimer sur un sujet qui vous tient à cœur, de partager votre analyse
avec la communauté des lecteurs d'Expertises, d'exposer un point de vue différent sur un article
déjà publié, de lancer un débat sur un thème émergent, ou simplement de commenter l'actualité
du droit du numérique ?
Contactez la rédactrice en chef d'Expertises Sylvie Rozenfeld sr@expertises.info
EXPERTISES FÉVRIER 2022

Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia

Table des matières de la publication Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia

Couverture
SOMMAIRE
Editorial
FOCUS CONTENTIEUX - DATAJUST : STOP À LA MODÉLISATION DE L’INDEMNISATION DES VICTIMES
EN BREF - L'INFORMATION RAPIDE SUR LE MONDE DU NUMÉRIQUE
MAGAZINE - L'INFORMATION LÉGALE ET JURISPRUDENTIELLE DU NUMÉRIQUE
INTERVIEW - VÉHICULE CONNECTÉ : L’ENJEU DES DONNÉES
DOCTRINE
CONTRATS - EXTENSION DE LA GARANTIE DE CONFORMITE AU NUMERIQUE
DONNÉES - ACTE SUR LA GOUVERNANCE DES DONNÉES : INTENSIFICATION ET ENCADREMENT DES ÉCHANGES DE DONNÉES
RÉGULATION - L’ARCOM : HÉRITIER UNIQUE DE L’HADOPI ET DU CSA
TECHNOLOGIES - L’INTELLIGENCE ARTIFICIELLE EN SANTÉ
RGPD - DPO : QUELLE GOUVERNANCE POUR ÊTRE CONFORME AU RGPD ?
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - Couverture
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - SOMMAIRE
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - Editorial
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - FOCUS CONTENTIEUX - DATAJUST : STOP À LA MODÉLISATION DE L’INDEMNISATION DES VICTIMES
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 45
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - EN BREF - L'INFORMATION RAPIDE SUR LE MONDE DU NUMÉRIQUE
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 47
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 48
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - MAGAZINE - L'INFORMATION LÉGALE ET JURISPRUDENTIELLE DU NUMÉRIQUE
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 50
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 51
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 52
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 53
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - INTERVIEW - VÉHICULE CONNECTÉ : L’ENJEU DES DONNÉES
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 55
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 56
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 57
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 58
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - CONTRATS - EXTENSION DE LA GARANTIE DE CONFORMITE AU NUMERIQUE
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 60
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 61
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 62
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 63
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 64
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - DONNÉES - ACTE SUR LA GOUVERNANCE DES DONNÉES : INTENSIFICATION ET ENCADREMENT DES ÉCHANGES DE DONNÉES
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 66
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 67
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 68
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - RÉGULATION - L’ARCOM : HÉRITIER UNIQUE DE L’HADOPI ET DU CSA
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 70
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 71
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - TECHNOLOGIES - L’INTELLIGENCE ARTIFICIELLE EN SANTÉ
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 73
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 74
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 75
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 76
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - RGPD - DPO : QUELLE GOUVERNANCE POUR ÊTRE CONFORME AU RGPD ?
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 78
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 79
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 80
https://www.nxtbook.fr/newpress/celog/celog-expertises-2206_480
https://www.nxtbook.fr/newpress/celog/celog-expertises-2205_479
https://www.nxtbook.fr/newpress/celog/celog-expertises-2204_478
https://www.nxtbook.fr/newpress/celog/celog-expertises-2203_477
https://www.nxtbook.fr/newpress/celog/celog-expertises-2202_476
https://www.nxtbook.fr/newpress/celog/celog-expertises-2201_475
https://www.nxtbook.fr/newpress/celog/celog-expertises-2112_474
https://www.nxtbook.fr/newpress/celog/celog-expertises-2111_473
https://www.nxtbook.fr/newpress/celog/celog-expertises-2110_472
https://www.nxtbook.fr/newpress/celog/celog-expertises-2109_471
https://www.nxtbook.fr/newpress/celog/celog-expertises-2107_470
https://www.nxtbook.fr/newpress/celog/celog-expertises-2106_469
https://www.nxtbook.fr/newpress/celog/celog-expertises-2105_468
https://www.nxtbook.fr/newpress/celog/celog-expertises-2104_467
https://www.nxtbook.fr/newpress/celog/celog-expertises-2103_466
https://www.nxtbook.fr/newpress/celog/celog-expertises-2102_465
https://www.nxtbook.fr/newpress/celog/celog-expertises-2101_464
https://www.nxtbook.fr/newpress/celog/celog-expertises-2012_463
https://www.nxtbook.fr/newpress/celog/celog-expertises-2011_462
https://www.nxtbook.fr/newpress/celog/celog-expertises-2010_461
https://www.nxtbook.fr/newpress/celog/celog-expertises-2009_460
https://www.nxtbook.fr/newpress/celog/celog-expertises-2007_459
https://www.nxtbook.fr/newpress/celog/celog-expertises-2006_458
https://www.nxtbook.fr/newpress/celog/celog-expertises-2005_457
https://www.nxtbook.fr/newpress/celog/celog-expertises-2004_456
https://www.nxtbook.fr/newpress/celog/celog-expertises-2003_455
https://www.nxtbook.fr/newpress/celog/celog-expertises-2002_454
https://www.nxtbook.fr/newpress/celog/celog-expertises-2001_453
https://www.nxtbook.fr/newpress/celog/celog-expertises-1912_452
https://www.nxtbook.fr/newpress/celog/celog-expertises-1911_451
https://www.nxtbook.fr/newpress/celog/celog-expertises-1910_450
https://www.nxtbook.fr/newpress/celog/celog-expertises-1909_449
https://www.nxtbook.fr/newpress/celog/celog-expertises-1907_448
https://www.nxtbook.fr/newpress/celog/celog-expertises-1906_447
https://www.nxtbook.fr/newpress/celog/celog-expertises-1905_446
https://www.nxtbook.fr/newpress/celog/celog-expertises-1904_445
https://www.nxtbook.fr/newpress/celog/celog-expertises-1903_444
https://www.nxtbook.fr/newpress/celog/celog-expertises-1902_443
https://www.nxtbook.fr/newpress/celog/celog-expertises-1901_442
https://www.nxtbook.fr/newpress/celog/celog-expertises-1812_441
https://www.nxtbook.fr/newpress/celog/celog-expertises-1811_440
https://www.nxtbook.fr/newpress/celog/celog-expertises-1810_439
https://www.nxtbook.fr/newpress/celog/celog-expertises-1809_438
https://www.nxtbook.fr/newpress/celog/celog-expertises-1807_437
https://www.nxtbook.fr/newpress/celog/celog-expertises-1806_436
https://www.nxtbook.fr/newpress/celog/celog-expertises-1805_435
https://www.nxtbook.fr/newpress/celog/celog-expertises-1804_434
https://www.nxtbook.fr/newpress/celog/celog-expertises-1803_433
https://www.nxtbook.fr/newpress/celog/celog-expertises-1802_432
https://www.nxtbook.fr/newpress/celog/celog-expertises-1801_431
https://www.nxtbook.fr/newpress/celog/celog-expertises-1712_430
https://www.nxtbook.fr/newpress/celog/celog-expertises-1711_429
https://www.nxtbook.fr/newpress/celog/celog-expertises-1710_428
https://www.nxtbook.fr/newpress/celog/celog-expertises-1709_427
https://www.nxtbook.fr/newpress/celog/celog-expertises-1707_426
https://www.nxtbook.fr/newpress/celog/celog-expertises-1706_425
https://www.nxtbook.fr/newpress/celog/celog-expertises-1705_424
https://www.nxtbook.fr/newpress/celog/celog-expertises-1704_423
https://www.nxtbook.fr/newpress/celog/celog-expertises-1703_422
https://www.nxtbook.fr/newpress/celog/celog-expertises-1702_421
https://www.nxtbook.fr/newpress/celog/celog-expertises-1701_420
https://www.nxtbook.fr/newpress/celog/celog-expertises-1612_419
https://www.nxtbook.fr/newpress/celog/celog-expertises-1611_418
https://www.nxtbook.fr/newpress/celog/celog-expertises-1610_417
https://www.nxtbook.fr/newpress/celog/celog-expertises-1609_416
https://www.nxtbook.fr/newpress/celog/celog-expertises-1607_415
https://www.nxtbook.fr/newpress/celog/celog-expertises-1606_414
https://www.nxtbook.fr/newpress/celog/celog-expertises-1605_413
https://www.nxtbook.fr/newpress/celog/celog-expertises-1604_412
https://www.nxtbook.fr/newpress/celog/celog-expertises-1603_411
https://www.nxtbook.fr/newpress/celog/celog-expertises-1602_410
https://www.nxtbook.fr/newpress/celog/celog-expertises-1601_409
https://www.nxtbook.fr/newpress/celog/celog-expertises-1512_408
https://www.nxtbook.fr/newpress/celog/celog-expertises-1511_407
https://www.nxtbook.fr/newpress/celog/celog-expertises-1510_406
https://www.nxtbook.fr/newpress/celog/celog-expertises-1509_405
https://www.nxtbook.fr/newpress/celog/celog-expertises-1507_404
https://www.nxtbook.fr/newpress/celog/celog-expertises-1506_403
https://www.nxtbook.fr/newpress/celog/celog-expertises-1502_399
https://www.nxtbookmedia.com