Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 313

au regard de leur fonction (ex. les
ascenseurs
et
leurs
composants
de sécurité, l'interopérabilité du
système ferroviaire), de leur composition
(ex. les appareils brûlant des
combustibles gazeux), du public visé
(ex. la sécurité des jouets) ou encore
du caractère hautement sensible du
domaine considéré (ex. dispositifs
médicaux de diagnostic in vitro, la
sûreté de l'aviation civile).
Ce faisant, dans une logique
de juxtaposition des différentes
normes, la Commission soumet
l'analyse de conformité de ces
produits et services aux nouvelles
exigences de la Proposition.
La seconde catégorie est composée,
quant à elle, de 21 systèmes d'IA
expressément visés dans l'Annexe
III de la Proposition. Ces derniers
sont classés parmi huit domaines,
dont les finalités sont expressément
décrites :
■ identification biométrique et
catégorisation des personnes
physiques,
■ gestion et exploitation des infrastructures
critiques,
■ éducation et formation professionnelle,
■
emploi, gestion de
la maind'œuvre
et accès à l'emploi
indépendant,
■ accès et droit aux services privés
essentiels, aux services publics et
aux prestations sociales,
■ autorités répressives,
■ gestion de la migration, de l'asile
et des contrôles aux frontières,
■ administration de la justice et processus
démocratiques.
Par conséquent, le système d'IA
dont l'utilisation correspond à
l'une des finalités décrites dans les
domaines énumérés ci-avant sera
qualifié de système d'IA à haut
risque.
Les obligations liées aux
systèmes d'IA à haut risque
Ces systèmes d'IA à haut risque
sont soumis à un nombre non
négligeable d'exigences relatives
à leur conception et leur fonctionnement,
pourtant considérés
par la Commission comme minimales
et relevant déjà de l'état de
l'art :
■ mise en place de systèmes
adéquats d'évaluation et d'atténuation
des risques au moment
de la conception du système d'IA ;
■ réalisation d'une évaluation de
conformité ;
■ assurer la qualité élevée de l'ensemble
des données alimentant
l'algorithme, afin d'écarter le
risque de survenance de biais
algorithmiques pouvant conduire
à des discriminations ;
■ mise en place d'une surveillance
post-commercialisation afin de
surveiller certaines IA dont
les
évolutions peuvent parfois s'avérer
imprévisibles ;
■ enregistrement du système d'IA
sur un registre public ;
■ conservation des logs ;
■ notification de tout incident grave
ou dysfonctionnement à l'autorité
compétente ;
■ communication d'informations
claires et adéquates aux
utilisateurs ;
■ mise
en place d'un contrôle
humain dans le fonctionnement
du système d'IA pour réduire les
risques au maximum ;
■ garantir un niveau élevé de
robustesse, de sécurité et d'exactitude
du système d'IA.
En pratique, les solutions techniques
permettant le respect de ces
exigences seront laissées à l'appréciation
du fournisseur de systèmes
d'IA qui pourra s'appuyer sur les
standards du marché ou sur des
spécifications techniques et fonctionnelles
développées conformément
au savoir-faire scientifique.
Les systèmes d'IA spécifiques
La Proposition contient également
des dispositions particulières
propres à certains systèmes d'IA
qui se trouvent ainsi soumis à une
obligation spécifique de transparence
et d'informations envers les
utilisateurs en raison du risque de
manipulation des personnes qu'ils
peuvent induire, et ce sans préjudice
de leur qualification de systèmes
d'IA à haut risque. Cette catégorie
EXPERTISES SEPTEMBRE 2021
vise plus précisément les systèmes
d'IA utilisés pour interagir avec des
individus, détecter des émotions ou
établir des catégories sur la base de
données biométriques ou encore
pour générer ou manipuler des
images, du contenu audio ou vidéo
(ex : deepfake, méthode permettant
de reconstituer un contenu vidéo ou
audio nouveau à partir de fichiers
vidéo ou audio préexistants, dont
le caractère artificiel est quasiment
imperceptible).
A ce sujet, l'EDPS et l'EDPB estiment
toutefois qu'en raison des risques
particuliers
pour
qu'ils
présentent
les droits fondamentaux
des personnes, les systèmes d'IA
visant à détecter des émotions ou
établir des catégories sur la base
de données biométriques visés
devraient être prohibés, au même
titre que les systèmes d'IA ayant
pour
finalité
la
reconnaissance
automatique des caractéristiques
humaines dans les espaces accessibles
au public.
Les systèmes d'IA
à risque limité
Tous les autres systèmes d'IA ne
sont quant à eux soumis à aucun
encadrement strict. La Commission
et les États membres encouragent
et devront, à ce titre, faciliter l'élaboration
volontaire de codes de
conduite par les fournisseurs de
systèmes d'IA ou par les organisations
les représentant, reprenant
les exigences de la Proposition
applicables aux systèmes d'IA à
haut risque39
, sur la base de spécifications
et solutions techniques
appropriées pour garantir le respect
de ces exigences à la lumière de la
destination des systèmes. L'objectif
d'harmonisation des règles applicables
aux systèmes d'IA est ici
clairement affiché, même par la
voie de la soft law.
La ventilation des obligations
entre les différents acteurs
de la chaîne de valeur de l'IA
Une fois le système d'IA qualifié,
reste alors à déterminer la répartition
des obligations entre les différents
acteurs de la chaîne de valeur
du système d'IA. Des obligations
313

Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia

Table des matières de la publication Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia

Couverture
SOMMAIRE
Editorial
FOCUS - CYBERSURVEILLANCE : L'UE RENFORCE LE CONTRÔLE DE L'EXPORT DES LOGICIELS ESPIONS
EN BREF - L'INFORMATION RAPIDE SUR LE MONDE DU NUMÉRIQUE
MAGAZINE - L'INFORMATION LÉGALE ET JURISPRUDENTIELLE DU NUMÉRIQUE
INTERVIEW - ENTENTES ALGORITHMIQUES
DOCTRINE
DONNÉES PERSONNELL - LES NOUVELLES CLAUSES CONTRACTUELLES TYPES DE LA COMMISSION EUROPÉENNE
INTELLIGENCE ARTIFICIELLE - EMERGENCE D’UN CADRE LÉGAL HARMONISÉ : DE L’ÉTHIQUE A LA CONFORMITÉ
LOGICIEL - SAISIE-CONTREFAÇON : RETOUR SUR LES SINGULARITÉS DE LA DEMANDE DE MAINLEVÉE
DONNÉES PERSONNELLES - CNIL ET PLATEFORMES COLLABORATIVES : LES PRESTATAIRES AMÉRICAINS DE NOUVEAU DANS LE VISEUR
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - Couverture
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - SOMMAIRE
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - Editorial
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - FOCUS - CYBERSURVEILLANCE : L'UE RENFORCE LE CONTRÔLE DE L'EXPORT DES LOGICIELS ESPIONS
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 289
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - EN BREF - L'INFORMATION RAPIDE SUR LE MONDE DU NUMÉRIQUE
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 291
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 292
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 293
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - MAGAZINE - L'INFORMATION LÉGALE ET JURISPRUDENTIELLE DU NUMÉRIQUE
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 295
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 296
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - INTERVIEW - ENTENTES ALGORITHMIQUES
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 298
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 299
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 300
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 301
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - DONNÉES PERSONNELL - LES NOUVELLES CLAUSES CONTRACTUELLES TYPES DE LA COMMISSION EUROPÉENNE
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 303
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 304
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 305
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 306
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 307
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 308
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - INTELLIGENCE ARTIFICIELLE - EMERGENCE D’UN CADRE LÉGAL HARMONISÉ : DE L’ÉTHIQUE A LA CONFORMITÉ
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 310
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 311
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 312
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 313
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 314
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 315
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 316
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 317
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - LOGICIEL - SAISIE-CONTREFAÇON : RETOUR SUR LES SINGULARITÉS DE LA DEMANDE DE MAINLEVÉE
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 319
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 320
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 321
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - DONNÉES PERSONNELLES - CNIL ET PLATEFORMES COLLABORATIVES : LES PRESTATAIRES AMÉRICAINS DE NOUVEAU DANS LE VISEUR
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 323
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 324
https://www.nxtbook.fr/newpress/celog/celog-expertises-2110_472
https://www.nxtbook.fr/newpress/celog/celog-expertises-2109_471
https://www.nxtbook.fr/newpress/celog/celog-expertises-2107_470
https://www.nxtbook.fr/newpress/celog/celog-expertises-2106_469
https://www.nxtbook.fr/newpress/celog/celog-expertises-2105_468
https://www.nxtbook.fr/newpress/celog/celog-expertises-2104_467
https://www.nxtbook.fr/newpress/celog/celog-expertises-2103_466
https://www.nxtbook.fr/newpress/celog/celog-expertises-2102_465
https://www.nxtbook.fr/newpress/celog/celog-expertises-2101_464
https://www.nxtbook.fr/newpress/celog/celog-expertises-2012_463
https://www.nxtbook.fr/newpress/celog/celog-expertises-2011_462
https://www.nxtbook.fr/newpress/celog/celog-expertises-2010_461
https://www.nxtbook.fr/newpress/celog/celog-expertises-2009_460
https://www.nxtbook.fr/newpress/celog/celog-expertises-2007_459
https://www.nxtbook.fr/newpress/celog/celog-expertises-2006_458
https://www.nxtbook.fr/newpress/celog/celog-expertises-2005_457
https://www.nxtbook.fr/newpress/celog/celog-expertises-2004_456
https://www.nxtbook.fr/newpress/celog/celog-expertises-2003_455
https://www.nxtbook.fr/newpress/celog/celog-expertises-2002_454
https://www.nxtbook.fr/newpress/celog/celog-expertises-2001_453
https://www.nxtbook.fr/newpress/celog/celog-expertises-1912_452
https://www.nxtbook.fr/newpress/celog/celog-expertises-1911_451
https://www.nxtbook.fr/newpress/celog/celog-expertises-1910_450
https://www.nxtbook.fr/newpress/celog/celog-expertises-1909_449
https://www.nxtbook.fr/newpress/celog/celog-expertises-1907_448
https://www.nxtbook.fr/newpress/celog/celog-expertises-1906_447
https://www.nxtbook.fr/newpress/celog/celog-expertises-1905_446
https://www.nxtbook.fr/newpress/celog/celog-expertises-1904_445
https://www.nxtbook.fr/newpress/celog/celog-expertises-1903_444
https://www.nxtbook.fr/newpress/celog/celog-expertises-1902_443
https://www.nxtbook.fr/newpress/celog/celog-expertises-1901_442
https://www.nxtbook.fr/newpress/celog/celog-expertises-1812_441
https://www.nxtbook.fr/newpress/celog/celog-expertises-1811_440
https://www.nxtbook.fr/newpress/celog/celog-expertises-1810_439
https://www.nxtbook.fr/newpress/celog/celog-expertises-1809_438
https://www.nxtbook.fr/newpress/celog/celog-expertises-1807_437
https://www.nxtbook.fr/newpress/celog/celog-expertises-1806_436
https://www.nxtbook.fr/newpress/celog/celog-expertises-1805_435
https://www.nxtbook.fr/newpress/celog/celog-expertises-1804_434
https://www.nxtbook.fr/newpress/celog/celog-expertises-1803_433
https://www.nxtbook.fr/newpress/celog/celog-expertises-1802_432
https://www.nxtbook.fr/newpress/celog/celog-expertises-1801_431
https://www.nxtbook.fr/newpress/celog/celog-expertises-1712_430
https://www.nxtbook.fr/newpress/celog/celog-expertises-1711_429
https://www.nxtbook.fr/newpress/celog/celog-expertises-1710_428
https://www.nxtbook.fr/newpress/celog/celog-expertises-1709_427
https://www.nxtbook.fr/newpress/celog/celog-expertises-1707_426
https://www.nxtbook.fr/newpress/celog/celog-expertises-1706_425
https://www.nxtbook.fr/newpress/celog/celog-expertises-1705_424
https://www.nxtbook.fr/newpress/celog/celog-expertises-1704_423
https://www.nxtbook.fr/newpress/celog/celog-expertises-1703_422
https://www.nxtbook.fr/newpress/celog/celog-expertises-1702_421
https://www.nxtbook.fr/newpress/celog/celog-expertises-1701_420
https://www.nxtbook.fr/newpress/celog/celog-expertises-1612_419
https://www.nxtbook.fr/newpress/celog/celog-expertises-1611_418
https://www.nxtbook.fr/newpress/celog/celog-expertises-1610_417
https://www.nxtbook.fr/newpress/celog/celog-expertises-1609_416
https://www.nxtbook.fr/newpress/celog/celog-expertises-1607_415
https://www.nxtbook.fr/newpress/celog/celog-expertises-1606_414
https://www.nxtbook.fr/newpress/celog/celog-expertises-1605_413
https://www.nxtbook.fr/newpress/celog/celog-expertises-1604_412
https://www.nxtbook.fr/newpress/celog/celog-expertises-1603_411
https://www.nxtbook.fr/newpress/celog/celog-expertises-1602_410
https://www.nxtbook.fr/newpress/celog/celog-expertises-1601_409
https://www.nxtbook.fr/newpress/celog/celog-expertises-1512_408
https://www.nxtbook.fr/newpress/celog/celog-expertises-1511_407
https://www.nxtbook.fr/newpress/celog/celog-expertises-1510_406
https://www.nxtbook.fr/newpress/celog/celog-expertises-1509_405
https://www.nxtbook.fr/newpress/celog/celog-expertises-1507_404
https://www.nxtbook.fr/newpress/celog/celog-expertises-1506_403
https://www.nxtbook.fr/newpress/celog/celog-expertises-1502_399
https://www.nxtbookmedia.com