Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 314

DOCTR INE
spécifiques sont ainsi
aux
fournisseurs,
distributeurs,
qu'aux tiers.
utilisateurs
imposées
importateurs,
ainsi
En substance, plus l'acteur est
éloigné de la phase de conception du
système d'IA considéré, moins ses
obligations seront conséquentes.
Ainsi, le fournisseur établi dans
l'UE devra s'assurer du respect
de nombreuses obligations en
fonction du système d'IA considéré,
qu'il s'agisse des exigences
relatives aux systèmes d'IA à haut
risque précités40
ou encore de
l'obligation de transparence relatives
aux systèmes d'IA spécifiques
lorsqu'ils sont destinés à interagir
avec des personnes physiques41
. Le
fournisseur de systèmes d'IA est
sans conteste l'acteur qui supporte
les obligations les plus lourdes. La
qualification de fournisseur est
par ailleurs très large puisque sera
considéré comme tel, non seulement
celui qui développe ou fait
développer un système d'IA à haut
risque en vue de le mettre sur le
marché ou de le mettre en service
sous son propre nom ou sa propre
marque (à titre gratuit ou onéreux)
mais également celui qui (i) sans
être à l'origine de son développement,
le met sur le marché ou met
en service sous son propre nom
ou sa propre marque, (ii) modifie
la destination d'un système d'IA à
haut risque déjà mis sur le marché
ou mis en service, ou encore (iii)
apporte une modification substantielle
au système d'IA à haut risque
considéré.
La qualification d'importateur vise
« toute personne physique ou
morale établie dans l'Union qui met
sur le marché ou met en service un
système d'IA qui porte le nom ou la
marque d'une personne physique
ou morale établie en dehors de
l'Union »42
. Ce dernier devra s'assurer
du respect par le fournisseur de
ses obligations relatives au système
d'IA à haut risque, à savoir notamment
s'assurer qu'une analyse de
conformité a bien été réalisée, que
le marquage CE a bien été apposé
314
Lorsque le système d'IA considéré
est qualifié de système d'IA à haut
risque, l'utilisateur devra pour sa
part principalement se conformer
aux instructions accompagnant le
système d'IA46
. Toutefois, lorsque
sont concernés des systèmes
d'IA spécifiques permettant la
reconnaissance
des
d'effectuer des catégorisations
biométriques ou encore permettant
des manipulations à l'instar du
deepfake, l'utilisateur supportera
l'obligation de transparence et
d'information, alors applicable, des
personnes physiques exposées à
ces systèmes47
.
Une proposition,
à consolider
Si ces nouveaux principes constituent
un socle réglementaire solide
pour réguler l'IA, il n'en demeure
pas moins qu'un grand nombre de
sujets devront encore faire l'objet de
travaux et d'efforts de clarification
pour assurer la mise en place d'un
cadre réglementaire pérenne et
efficace. L'EDPB,
l'EDPS et la Cnil
ont déjà eu l'occasion de soulever
un certain nombre de sujets et nul
doute que les contributions à venir
seront nombreuses en la matière.
La nécessité d'une
gouvernance harmonisée
L'identification de l'autorité nationale
compétente devra, par ailleurs,
être tranchée rapidement. En effet,
la Proposition prévoit la possibilité
pour chaque Etat membre
EXPERTISES SEPTEMBRE 2021
émotions,
et que la documentation technique
a bien été établie43
.
Le rôle de distributeur désigne,
quant à lui, dans
la chaîne de
valeur, l'opérateur qui n'est ni fournisseur
ni importateur et qui met
un système d'IA à disposition sur
le marché de l'UE44
. Ces derniers
sont tenus également de s'assurer
que le système d'IA à haut risque
considéré est accompagné de la
documentation nécessaire, qu'il
dispose bien du marquage CE et
que le fournisseur et l'importateur
ont bien respecté leurs obligations45
.
de désigner ou de créer une ou
plusieurs
autorités
nationales
compétentes pour contrôler l'application
et la mise en œuvre du
futur règlement48
, agissant en tant
qu'autorité notifiante et de surveillance
du marché, qui devront être
déclarées auprès de la Commission.
Ces autorités devront, notamment,
posséder, parmi leurs compétences
et leurs expertises, une compréhension
approfondie des technologies
de l'IA, des données et du
traitement de données, des droits
fondamentaux, des risques pour la
santé et la sécurité, et une connaissance
des normes et exigences
légales en vigueur.
La Cnil milite à cet égard, dans
une récente communication49
,
pour la désignation des autorités
de protection des données comme
autorités de contrôle nationale et
souligne l'intérêt de se reposer sur
un régulateur existant. Elle rappelle
à ce titre, qu'elle dispose d'une
expérience certaine en la matière
puisqu'elle régule déjà des systèmes
d'IA en application du RGPD et de
la directive « Police-Justice ». Cette
désignation pourrait présenter
une certaine cohérence dans la
mesure où l'EDPS a d'ores et déjà été
désignée par la Commission pour
exercer ces missions sur le plan
communautaire pour la surveillance
des institutions, agences
et organes de l'Union lorsqu'ils
relèvent du champ d'application du
présent règlement.
Toutefois, dans la mesure où la
Commission n'a, à ce jour, pas
exigé que ce régulateur présente
des conditions d'indépendance ou
un statut particulier et où le règlement
est applicable aux systèmes
d'IA, qu'ils mettent en œuvre ou
non des traitements de données à
caractère personnel, il est tout à fait
possible d'envisager la désignation
d'un autre régulateur (Autorité de la
concurrence, Anssi, etc.) ou la création
d'une autorité dédiée. En tout
état de cause, il sera indispensable
de clarifier le sujet pour garantir
une gouvernance harmonisée à
la fois entre les autorités des Etats
membres et l'EDPS et entre les Etats
membres eux-mêmes.

Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia

Table des matières de la publication Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia

Couverture
SOMMAIRE
Editorial
FOCUS - CYBERSURVEILLANCE : L'UE RENFORCE LE CONTRÔLE DE L'EXPORT DES LOGICIELS ESPIONS
EN BREF - L'INFORMATION RAPIDE SUR LE MONDE DU NUMÉRIQUE
MAGAZINE - L'INFORMATION LÉGALE ET JURISPRUDENTIELLE DU NUMÉRIQUE
INTERVIEW - ENTENTES ALGORITHMIQUES
DOCTRINE
DONNÉES PERSONNELL - LES NOUVELLES CLAUSES CONTRACTUELLES TYPES DE LA COMMISSION EUROPÉENNE
INTELLIGENCE ARTIFICIELLE - EMERGENCE D’UN CADRE LÉGAL HARMONISÉ : DE L’ÉTHIQUE A LA CONFORMITÉ
LOGICIEL - SAISIE-CONTREFAÇON : RETOUR SUR LES SINGULARITÉS DE LA DEMANDE DE MAINLEVÉE
DONNÉES PERSONNELLES - CNIL ET PLATEFORMES COLLABORATIVES : LES PRESTATAIRES AMÉRICAINS DE NOUVEAU DANS LE VISEUR
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - Couverture
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - SOMMAIRE
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - Editorial
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - FOCUS - CYBERSURVEILLANCE : L'UE RENFORCE LE CONTRÔLE DE L'EXPORT DES LOGICIELS ESPIONS
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 289
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - EN BREF - L'INFORMATION RAPIDE SUR LE MONDE DU NUMÉRIQUE
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 291
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 292
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 293
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - MAGAZINE - L'INFORMATION LÉGALE ET JURISPRUDENTIELLE DU NUMÉRIQUE
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 295
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 296
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - INTERVIEW - ENTENTES ALGORITHMIQUES
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 298
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 299
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 300
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 301
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - DONNÉES PERSONNELL - LES NOUVELLES CLAUSES CONTRACTUELLES TYPES DE LA COMMISSION EUROPÉENNE
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 303
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 304
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 305
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 306
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 307
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 308
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - INTELLIGENCE ARTIFICIELLE - EMERGENCE D’UN CADRE LÉGAL HARMONISÉ : DE L’ÉTHIQUE A LA CONFORMITÉ
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 310
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 311
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 312
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 313
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 314
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 315
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 316
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 317
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - LOGICIEL - SAISIE-CONTREFAÇON : RETOUR SUR LES SINGULARITÉS DE LA DEMANDE DE MAINLEVÉE
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 319
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 320
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 321
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - DONNÉES PERSONNELLES - CNIL ET PLATEFORMES COLLABORATIVES : LES PRESTATAIRES AMÉRICAINS DE NOUVEAU DANS LE VISEUR
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 323
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 324
https://www.nxtbook.fr/newpress/celog/celog-expertises-2110_472
https://www.nxtbook.fr/newpress/celog/celog-expertises-2109_471
https://www.nxtbook.fr/newpress/celog/celog-expertises-2107_470
https://www.nxtbook.fr/newpress/celog/celog-expertises-2106_469
https://www.nxtbook.fr/newpress/celog/celog-expertises-2105_468
https://www.nxtbook.fr/newpress/celog/celog-expertises-2104_467
https://www.nxtbook.fr/newpress/celog/celog-expertises-2103_466
https://www.nxtbook.fr/newpress/celog/celog-expertises-2102_465
https://www.nxtbook.fr/newpress/celog/celog-expertises-2101_464
https://www.nxtbook.fr/newpress/celog/celog-expertises-2012_463
https://www.nxtbook.fr/newpress/celog/celog-expertises-2011_462
https://www.nxtbook.fr/newpress/celog/celog-expertises-2010_461
https://www.nxtbook.fr/newpress/celog/celog-expertises-2009_460
https://www.nxtbook.fr/newpress/celog/celog-expertises-2007_459
https://www.nxtbook.fr/newpress/celog/celog-expertises-2006_458
https://www.nxtbook.fr/newpress/celog/celog-expertises-2005_457
https://www.nxtbook.fr/newpress/celog/celog-expertises-2004_456
https://www.nxtbook.fr/newpress/celog/celog-expertises-2003_455
https://www.nxtbook.fr/newpress/celog/celog-expertises-2002_454
https://www.nxtbook.fr/newpress/celog/celog-expertises-2001_453
https://www.nxtbook.fr/newpress/celog/celog-expertises-1912_452
https://www.nxtbook.fr/newpress/celog/celog-expertises-1911_451
https://www.nxtbook.fr/newpress/celog/celog-expertises-1910_450
https://www.nxtbook.fr/newpress/celog/celog-expertises-1909_449
https://www.nxtbook.fr/newpress/celog/celog-expertises-1907_448
https://www.nxtbook.fr/newpress/celog/celog-expertises-1906_447
https://www.nxtbook.fr/newpress/celog/celog-expertises-1905_446
https://www.nxtbook.fr/newpress/celog/celog-expertises-1904_445
https://www.nxtbook.fr/newpress/celog/celog-expertises-1903_444
https://www.nxtbook.fr/newpress/celog/celog-expertises-1902_443
https://www.nxtbook.fr/newpress/celog/celog-expertises-1901_442
https://www.nxtbook.fr/newpress/celog/celog-expertises-1812_441
https://www.nxtbook.fr/newpress/celog/celog-expertises-1811_440
https://www.nxtbook.fr/newpress/celog/celog-expertises-1810_439
https://www.nxtbook.fr/newpress/celog/celog-expertises-1809_438
https://www.nxtbook.fr/newpress/celog/celog-expertises-1807_437
https://www.nxtbook.fr/newpress/celog/celog-expertises-1806_436
https://www.nxtbook.fr/newpress/celog/celog-expertises-1805_435
https://www.nxtbook.fr/newpress/celog/celog-expertises-1804_434
https://www.nxtbook.fr/newpress/celog/celog-expertises-1803_433
https://www.nxtbook.fr/newpress/celog/celog-expertises-1802_432
https://www.nxtbook.fr/newpress/celog/celog-expertises-1801_431
https://www.nxtbook.fr/newpress/celog/celog-expertises-1712_430
https://www.nxtbook.fr/newpress/celog/celog-expertises-1711_429
https://www.nxtbook.fr/newpress/celog/celog-expertises-1710_428
https://www.nxtbook.fr/newpress/celog/celog-expertises-1709_427
https://www.nxtbook.fr/newpress/celog/celog-expertises-1707_426
https://www.nxtbook.fr/newpress/celog/celog-expertises-1706_425
https://www.nxtbook.fr/newpress/celog/celog-expertises-1705_424
https://www.nxtbook.fr/newpress/celog/celog-expertises-1704_423
https://www.nxtbook.fr/newpress/celog/celog-expertises-1703_422
https://www.nxtbook.fr/newpress/celog/celog-expertises-1702_421
https://www.nxtbook.fr/newpress/celog/celog-expertises-1701_420
https://www.nxtbook.fr/newpress/celog/celog-expertises-1612_419
https://www.nxtbook.fr/newpress/celog/celog-expertises-1611_418
https://www.nxtbook.fr/newpress/celog/celog-expertises-1610_417
https://www.nxtbook.fr/newpress/celog/celog-expertises-1609_416
https://www.nxtbook.fr/newpress/celog/celog-expertises-1607_415
https://www.nxtbook.fr/newpress/celog/celog-expertises-1606_414
https://www.nxtbook.fr/newpress/celog/celog-expertises-1605_413
https://www.nxtbook.fr/newpress/celog/celog-expertises-1604_412
https://www.nxtbook.fr/newpress/celog/celog-expertises-1603_411
https://www.nxtbook.fr/newpress/celog/celog-expertises-1602_410
https://www.nxtbook.fr/newpress/celog/celog-expertises-1601_409
https://www.nxtbook.fr/newpress/celog/celog-expertises-1512_408
https://www.nxtbook.fr/newpress/celog/celog-expertises-1511_407
https://www.nxtbook.fr/newpress/celog/celog-expertises-1510_406
https://www.nxtbook.fr/newpress/celog/celog-expertises-1509_405
https://www.nxtbook.fr/newpress/celog/celog-expertises-1507_404
https://www.nxtbook.fr/newpress/celog/celog-expertises-1506_403
https://www.nxtbook.fr/newpress/celog/celog-expertises-1502_399
https://www.nxtbookmedia.com