Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 17

des situations discriminatoires, qui peuvent impacter la
vie des gens, comment s'y prépare-t-on ?
La question de la responsabilité est-elle compliquée ?
En l'occurrence, elle ne l'est pas. La justice est rendue
au nom de l'Etat. En appel, on n'est pas sans moyen
pour rectifier la décision.
A condition de savoir que la décision est fondée sur
un algorithme.
Absolument. Il faut que les justiciables en soient
informés. Pour ce qui est de la responsabilité de l'Etat,
cela va dépendre des juridictions. Mais la question
sociétale est plutôt de savoir comment faire pour que ces
technologies deviennent un facteur de progrès et non
un facteur de discrimination.

La jonction de deux fichiers.
En effet, qui se cumulent pour constituer un fichier massif.
On ne peut pas garantir qu'il n'y aura pas d'autres utilisations que celle de l'authentification des documents.
On n'a pas d'informations sur les algorithmes qui seront
appliqués à ces données. Idem pour le renseignement, où
les algorithmes sont classés secret défense. Le problème
se pose quand il y a un risque d'impact sur la vie des
personnes. Une éthique doit être mise en place dans le
secteur public, mais qui pourrait également, parfois, être
appliquée au secteur privé, vu les masses et la nature
de données que nous générons, et que certains réseaux
sociaux exploitent.

En quoi pourrait consister cette éthique ?
Elle devrait à mon sens reposer sur trois grands principes.
Premièrement, le principe de responsabilité devrait impoDe façon générale, pensez-vous que l'intelligence
ser pour chaque algorithme la désignation d'une personne
artificielle peut améliorer le fonctionnement de la
référente, à l'instar de ce qui se fait dans la presse, où le
justice ?
directeur de la publication est
responsable du contenu qu'il
Avec les réserves que je viens
« Quand ces systèmes sont utilisés
publie. Cette personne pourrait
d'exprimer,
l'intelligence
par la puissance publique, il faut
être une sorte d'ombudsman
artificielle va réduire un certain
se doter d'une vraie éthique de
auquel on pourrait s'adresser
nombre de risques juridiques.
pour demander des explications,
Je pense notamment aux
l'utilisation des algorithmes. »
porter des réclamations. En
véhicules autonomes. Il est
deuxième lieu, il faudrait respecavéré qu'ils vont réduire le
nombre d'accidents, car ils sont plus sûrs. Idem pour
ter un principe de clarté : quand une décision judiciaire ou
la médecine. La robotique et l'IA introduisent de la
administrative est influencée ou conditionnée par un algoprécision et de la constance en matière de chirurgie
rithme, cela devrait être dit, et le but devrait en être expliqué.
par rapport à la main humaine. Cela va donc réduire
Les citoyens et les justiciables qui font l'objet de traitements
le contentieux en responsabilité. Autre exemple un peu
algorithmiques ont le droit d'en être informés, et surtout
connexe, celui des smart contracts et de la blockchain.
de se voir expliquer, en termes clairs et précis, quelles
Des contrats vont pouvoir s'exécuter automatiquement
données sont exploitées et dans la poursuite de quel objecdans des cas prédéterminés, permettant ainsi de
tif. Le troisième principe devrait porter sur la précision : on
désengorger les tribunaux et de réduire les risques
devrait être capable d'identifier, de suivre et de corriger
juridiques.
régulièrement les sources d'erreurs dans les traitements
algorithmiques utilisés par les Etats, de la même manière
Par ailleurs, grâce aux algorithmes de prédiction des
qu'il semble normal et naturel à tout développeur de suivre
procès, beaucoup de procédures vont pouvoir être
et de corriger les bugs d'un logiciel. Certains algorithmes,
évitées. Les avocats qui pratiquent le contentieux savent
particulièrement sensibles, devraient même être régulièreque certaines affaires qui leur sont soumises n'ont pas
ment audités par un tiers indépendant.
de grandes chances d'être gagnées. Mais comme le
client veut en démordre, ils vont au contentieux. Si les
Le Conseil national du numérique avait proposé une
avocats disposent de chiffres précis sur les chances de
autorité des algorithmes.
succès, il leur sera beaucoup plus facile de convaincre
Absolument. En tout cas, une telle autorité ne devrait
leur client de négocier.
pas se limiter à un pouvoir consultatif. Un suivi régulier
et indépendant est indispensable. Enfin, il est important
d'instaurer une évaluation de l'impact des technologies
Vous êtes très optimiste, mais n'avez-vous aucune
sur la justice. L'exigence d'une déontologie n'est pas seulecrainte ?
ment morale, il y a aussi un enjeu d'efficacité. Le principal
Il y aura sans doute des abus. Mais nos systèmes
problème dans l'utilisation des algorithmes est qu'ils ont
judiciaires sont assez anciens et robustes pour réguler
ces risques. Par ailleurs, quand ces systèmes sont
l'air tellement efficaces que la tentation est grande de se
utilisés par la puissance publique, il faut se doter d'une
reposer totalement sur eux. Or, ils ne sont pas parfaits et ils
vraie éthique de l'utilisation des algorithmes. C'est
peuvent dysfonctionner. Si l'on ne met pas en place cette
en gestation, mais cela n'existe pas encore. On le voit
déontologie, ces algorithmes constitueront non plus un
notamment avec la constitution du fichier TES (Titres
progrès mais une véritable menace pour nos démocraties.
électroniques sécurisés), un fichier de la population
française.
Propos recueillis par Sylvie ROZENFELD

EXPERTISES JANVIER 2017

17



Table des matières de la publication Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420

Couverture
Editorial & Sommaire
MAGAZINE CONSERVATION DES DONNÉES : INCERTITUDE SUR LE RÉGIME FRANÇAIS
INTERVIEW L’IA JURIDIQUE
TABLES CLASSIFIÉES DU N°409 AU N°419
DOCTRINE
DROIT D’AUTEUR - CONTREFAÇON DE LOGICIEL ET FONDS COMMUN DE L’INFORMATIQUE
DONNÉES PERSONNELLES - GESTION DE L’IDENTITÉ NUMÉRIQUE POST-MORTEM
DONNÉES PUBLIQUES - LA HAUTE AUTORITÉ SUR LA VIE PUBLIQUE À L’HEURE DE L’OPEN DATA
JURISPRUDENCE TELE2 SVERIGE AB / POST- OCH TELESTYRELSEN ET SECRETARY OF STATE FOR THE HOME DEPARTMENT
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - Couverture
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - MAGAZINE CONSERVATION DES DONNÉES : INCERTITUDE SUR LE RÉGIME FRANÇAIS
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 3
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 4
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 5
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 6
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 7
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 8
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 9
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 10
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 11
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 12
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - INTERVIEW L’IA JURIDIQUE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 14
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 15
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 16
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 17
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - DROIT D’AUTEUR - CONTREFAÇON DE LOGICIEL ET FONDS COMMUN DE L’INFORMATIQUE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - TABLES CLASSIFIÉES DU N°409 AU N°419
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 20
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 21
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 22
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 23
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 24
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - DONNÉES PERSONNELLES - GESTION DE L’IDENTITÉ NUMÉRIQUE POST-MORTEM
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 26
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 27
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - DONNÉES PUBLIQUES - LA HAUTE AUTORITÉ SUR LA VIE PUBLIQUE À L’HEURE DE L’OPEN DATA
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 29
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - JURISPRUDENCE TELE2 SVERIGE AB / POST- OCH TELESTYRELSEN ET SECRETARY OF STATE FOR THE HOME DEPARTMENT
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 31
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 32
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 33
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 34
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 35
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 36
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 37
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 38
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 39
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 40
https://www.nxtbook.fr/newpress/celog/celog-expertises-2007_459
https://www.nxtbook.fr/newpress/celog/celog-expertises-2006_458
https://www.nxtbook.fr/newpress/celog/celog-expertises-2005_457
https://www.nxtbook.fr/newpress/celog/celog-expertises-2004_456
https://www.nxtbook.fr/newpress/celog/celog-expertises-2003_455
https://www.nxtbook.fr/newpress/celog/celog-expertises-2002_454
https://www.nxtbook.fr/newpress/celog/celog-expertises-2001_453
https://www.nxtbook.fr/newpress/celog/celog-expertises-1912_452
https://www.nxtbook.fr/newpress/celog/celog-expertises-1911_451
https://www.nxtbook.fr/newpress/celog/celog-expertises-1910_450
https://www.nxtbook.fr/newpress/celog/celog-expertises-1909_449
https://www.nxtbook.fr/newpress/celog/celog-expertises-1907_448
https://www.nxtbook.fr/newpress/celog/celog-expertises-1906_447
https://www.nxtbook.fr/newpress/celog/celog-expertises-1905_446
https://www.nxtbook.fr/newpress/celog/celog-expertises-1904_445
https://www.nxtbook.fr/newpress/celog/celog-expertises-1903_444
https://www.nxtbook.fr/newpress/celog/celog-expertises-1902_443
https://www.nxtbook.fr/newpress/celog/celog-expertises-1901_442
https://www.nxtbook.fr/newpress/celog/celog-expertises-1812_441
https://www.nxtbook.fr/newpress/celog/celog-expertises-1811_440
https://www.nxtbook.fr/newpress/celog/celog-expertises-1810_439
https://www.nxtbook.fr/newpress/celog/celog-expertises-1809_438
https://www.nxtbook.fr/newpress/celog/celog-expertises-1807_437
https://www.nxtbook.fr/newpress/celog/celog-expertises-1806_436
https://www.nxtbook.fr/newpress/celog/celog-expertises-1805_435
https://www.nxtbook.fr/newpress/celog/celog-expertises-1804_434
https://www.nxtbook.fr/newpress/celog/celog-expertises-1803_433
https://www.nxtbook.fr/newpress/celog/celog-expertises-1802_432
https://www.nxtbook.fr/newpress/celog/celog-expertises-1801_431
https://www.nxtbook.fr/newpress/celog/celog-expertises-1712_430
https://www.nxtbook.fr/newpress/celog/celog-expertises-1711_429
https://www.nxtbook.fr/newpress/celog/celog-expertises-1710_428
https://www.nxtbook.fr/newpress/celog/celog-expertises-1709_427
https://www.nxtbook.fr/newpress/celog/celog-expertises-1707_426
https://www.nxtbook.fr/newpress/celog/celog-expertises-1706_425
https://www.nxtbook.fr/newpress/celog/celog-expertises-1705_424
https://www.nxtbook.fr/newpress/celog/celog-expertises-1704_423
https://www.nxtbook.fr/newpress/celog/celog-expertises-1703_422
https://www.nxtbook.fr/newpress/celog/celog-expertises-1702_421
https://www.nxtbook.fr/newpress/celog/celog-expertises-1701_420
https://www.nxtbook.fr/newpress/celog/celog-expertises-1612_419
https://www.nxtbook.fr/newpress/celog/celog-expertises-1611_418
https://www.nxtbook.fr/newpress/celog/celog-expertises-1610_417
https://www.nxtbook.fr/newpress/celog/celog-expertises-1609_416
https://www.nxtbook.fr/newpress/celog/celog-expertises-1607_415
https://www.nxtbook.fr/newpress/celog/celog-expertises-1606_414
https://www.nxtbook.fr/newpress/celog/celog-expertises-1605_413
https://www.nxtbook.fr/newpress/celog/celog-expertises-1604_412
https://www.nxtbook.fr/newpress/celog/celog-expertises-1603_411
https://www.nxtbook.fr/newpress/celog/celog-expertises-1602_410
https://www.nxtbook.fr/newpress/celog/celog-expertises-1601_409
https://www.nxtbook.fr/newpress/celog/celog-expertises-1512_408
https://www.nxtbook.fr/newpress/celog/celog-expertises-1511_407
https://www.nxtbook.fr/newpress/celog/celog-expertises-1510_406
https://www.nxtbook.fr/newpress/celog/celog-expertises-1509_405
https://www.nxtbook.fr/newpress/celog/celog-expertises-1507_404
https://www.nxtbook.fr/newpress/celog/celog-expertises-1506_403
https://www.nxtbook.fr/newpress/celog/celog-expertises-1502_399
https://www.nxtbookmedia.com