Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 16

interview
La machine permet à des personnes qui ne feraient
pas appel à la justice de le faire. A terme, ne rend-elle
pas la justice plus accessible ?
Absolument. Et on pourrait même dire que les avocats
qui remplissaient des tâches peu gratifiantes, comme
le « discovery », vont pouvoir accepter des dossiers
qu'ils n'auraient pas pu prendre auparavant, faute
de disposer de collaborateurs. On voit bien que le
professionnel avocat n'est pas en danger, au contraire.
Il accède à un outil de travail extraordinaire.

d'alléger la peine ou d'envisager des aménagements.
Cela partait d'une excellente intention. Mais quoi
qu'on en dise, l'établissement d'un score, aux allures
scientifiques, influence le juge, consciemment ou non.
En 2014, l'équivalent du ministre de la Justice a demandé
qu'une enquête soit menée sur ces algorithmes. Mais
comme la séparation des pouvoirs est très rigide, il n'a
pas pu l'imposer, et ça n'a pas été fait. Du coup, c'est le
site d'information ProPublica qui a mené cette étude,
de façon indépendante et spontanée. En mai dernier, il
a publié un long article mettant en lumière les limites
de ces algorithmes. L'enquête a montré que le taux de
Les modalités du procès sont ainsi en train de changer.
précision de ces algorithmes n'est que de 60 %, ce qui est
L'intelligence artificielle va changer la nature de
à peine mieux que de tirer à pile ou face. Peut-être que
certains contentieux, et on n'est pas encore sûr que ce
les données ne sont pas si pertinentes, ou qu'elles ne sont
soit uniquement pour le meilleur. Le risque est de voir
pas structurées de manière
le contentieux devenir un outil
homogène, ou qu'elles ne se
de pression économique, en
industrialisant les recherches « Grâce aux algorithmes de prédiction prêtent pas si bien que cela à
des procès, beaucoup de procédures
la prédiction. Après tout, nous
et les processus. C'est déjà
ne sommes pas des robots.
le
modèle
économique
vont pouvoir être évitées. »
Mais surtout, ces algorithmes
des « patent trolls », qui
prédisent un taux de récidive
rachètent des masses de
bien plus élevé pour les noirs que pour les blancs. Pour
brevets et paient des avocats pour faire pressions sur
le dire clairement, l'outil se trompe beaucoup plus sur
les entreprises. A contrario, avec les nouveaux outils,
les noirs que sur les blancs.
n'importe quelle PME ou petit cabinet d'avocat, quand
il ou elle reçoit une mise en demeure d'un patent troll,
Quel est le biais de cet algorithme ?
pourra facilement vérifier s'il s'agit d'une vraie menace
Aujourd'hui, on ne le sait pas. Plusieurs théories sont
et voir s'il doit s'en inquiéter ou contre-attaquer. Donc,
échafaudées. Il faut prendre en compte que les Etats
cela permettra aussi d'atténuer la pression économique
n'utilisent pas toujours les mêmes technologies. Et
des menaces de procès. Certains considèrent ainsi qu'il
certains algorithmes fonctionnent mieux que d'autres.
s'agit d'un outil de justice économique, car les PME vont
Une première théorie parle d'une « infusion » du préjugé
pouvoir se défendre à égalité de chances.
dans les algorithmes : les concepteurs auraient intégré,
De façon générale, on peut imaginer qu'il y aura des
de manière innocente, leurs préjugés inconscients dans
abus, mais ce n'est pas une raison pour freiner cette
le système, en fonction de la manière dont les données
technologie, qui dans la majeure partie des cas sera un
sont structurées, le type de données auquel on fait
outil formidable. De toute façon, en cas d'abus, nul doute
référence, etc. Selon une autre théorie, il ne s'agirait
que les magistrats ne se laisseront pas facilement berner
pas de racisme mais d'une mauvaise interprétation des
par la puissance de l'argent. On peut être confiant.
jeux de données par la machine, ou d'une mauvaise
évaluation. La réponse n'est pas encore apportée, et ne
A la conférence de l'Afdit consacrée à l'intelligence
le sera peut-être jamais de façon définitive.
artificielle et aux smart cities, qui s'est tenue le
2 décembre dernier à Aix-en-Provence, vous avez
L'être humain n'est peut-être pas si prévisible ?
évoqué l'exemple d'un algorithme utilisé aux EtatsPeut-être. Mais ce n'est pas parce qu'on ne maîtrise
Unis pour évaluer le risque de récidive d'un prévenu,
pas toutes les causes d'un problème qu'il ne faut pas
comme aide à la détermination de la peine. Cet
y remédier. Il conviendrait de s'interroger sur l'intérêt
algorithme s'est avéré raciste, il surévaluait indûment
d'utiliser une technologie avec un taux de précision
le risque de récidive des noirs. Pouvez-vous nous
de 60 % seulement ! Que doit-on faire s'il s'avère que
parler de cette affaire ?
les juges condamnent plus lourdement les prévenus
Dans le procès pénal aux Etats-Unis, le prononcé
qui ont un score de récidive plus élevé et qu'on a
de la culpabilité et celui de la peine sont séparés.
ainsi une amplification des préjugés et des risques
Les décisions sont rendues lors de deux audiences
de discrimination contre les minorités à cause de cet
différentes. Dans la plupart des Etats, des sociétés,
algorithme ? Continuer à l'utiliser, l'améliorer, mieux
des associations ou des institutions parapubliques
informer le juge et les justiciables de la façon dont on
ont développé des algorithmes qui permettent d'aider
arrive aux résultats ?
au prononcé de la peine en déterminant un score de
On est bien au-delà des questions de responsabilité :
récidive, basé sur des statistiques, de la jurisprudence
nous devons réfléchir à notre manière collective de
et des données sur le prévenu. Ce score n'est pas censé
vivre avec ces technologies, et à comment les utiliser
influencer directement la peine à prononcer, mais
au mieux. Quand ces outils sont susceptibles de générer
plutôt donner au juge des éléments qui lui permettront

16

EXPERTISES JANVIER 2017



Table des matières de la publication Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420

Couverture
Editorial & Sommaire
MAGAZINE CONSERVATION DES DONNÉES : INCERTITUDE SUR LE RÉGIME FRANÇAIS
INTERVIEW L’IA JURIDIQUE
TABLES CLASSIFIÉES DU N°409 AU N°419
DOCTRINE
DROIT D’AUTEUR - CONTREFAÇON DE LOGICIEL ET FONDS COMMUN DE L’INFORMATIQUE
DONNÉES PERSONNELLES - GESTION DE L’IDENTITÉ NUMÉRIQUE POST-MORTEM
DONNÉES PUBLIQUES - LA HAUTE AUTORITÉ SUR LA VIE PUBLIQUE À L’HEURE DE L’OPEN DATA
JURISPRUDENCE TELE2 SVERIGE AB / POST- OCH TELESTYRELSEN ET SECRETARY OF STATE FOR THE HOME DEPARTMENT
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - Couverture
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - MAGAZINE CONSERVATION DES DONNÉES : INCERTITUDE SUR LE RÉGIME FRANÇAIS
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 3
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 4
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 5
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 6
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 7
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 8
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 9
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 10
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 11
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 12
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - INTERVIEW L’IA JURIDIQUE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 14
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 15
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 16
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 17
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - DROIT D’AUTEUR - CONTREFAÇON DE LOGICIEL ET FONDS COMMUN DE L’INFORMATIQUE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - TABLES CLASSIFIÉES DU N°409 AU N°419
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 20
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 21
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 22
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 23
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 24
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - DONNÉES PERSONNELLES - GESTION DE L’IDENTITÉ NUMÉRIQUE POST-MORTEM
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 26
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 27
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - DONNÉES PUBLIQUES - LA HAUTE AUTORITÉ SUR LA VIE PUBLIQUE À L’HEURE DE L’OPEN DATA
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 29
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - JURISPRUDENCE TELE2 SVERIGE AB / POST- OCH TELESTYRELSEN ET SECRETARY OF STATE FOR THE HOME DEPARTMENT
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 31
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 32
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 33
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 34
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 35
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 36
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 37
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 38
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 39
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 40
https://www.nxtbook.fr/newpress/celog/celog-expertises-2007_459
https://www.nxtbook.fr/newpress/celog/celog-expertises-2006_458
https://www.nxtbook.fr/newpress/celog/celog-expertises-2005_457
https://www.nxtbook.fr/newpress/celog/celog-expertises-2004_456
https://www.nxtbook.fr/newpress/celog/celog-expertises-2003_455
https://www.nxtbook.fr/newpress/celog/celog-expertises-2002_454
https://www.nxtbook.fr/newpress/celog/celog-expertises-2001_453
https://www.nxtbook.fr/newpress/celog/celog-expertises-1912_452
https://www.nxtbook.fr/newpress/celog/celog-expertises-1911_451
https://www.nxtbook.fr/newpress/celog/celog-expertises-1910_450
https://www.nxtbook.fr/newpress/celog/celog-expertises-1909_449
https://www.nxtbook.fr/newpress/celog/celog-expertises-1907_448
https://www.nxtbook.fr/newpress/celog/celog-expertises-1906_447
https://www.nxtbook.fr/newpress/celog/celog-expertises-1905_446
https://www.nxtbook.fr/newpress/celog/celog-expertises-1904_445
https://www.nxtbook.fr/newpress/celog/celog-expertises-1903_444
https://www.nxtbook.fr/newpress/celog/celog-expertises-1902_443
https://www.nxtbook.fr/newpress/celog/celog-expertises-1901_442
https://www.nxtbook.fr/newpress/celog/celog-expertises-1812_441
https://www.nxtbook.fr/newpress/celog/celog-expertises-1811_440
https://www.nxtbook.fr/newpress/celog/celog-expertises-1810_439
https://www.nxtbook.fr/newpress/celog/celog-expertises-1809_438
https://www.nxtbook.fr/newpress/celog/celog-expertises-1807_437
https://www.nxtbook.fr/newpress/celog/celog-expertises-1806_436
https://www.nxtbook.fr/newpress/celog/celog-expertises-1805_435
https://www.nxtbook.fr/newpress/celog/celog-expertises-1804_434
https://www.nxtbook.fr/newpress/celog/celog-expertises-1803_433
https://www.nxtbook.fr/newpress/celog/celog-expertises-1802_432
https://www.nxtbook.fr/newpress/celog/celog-expertises-1801_431
https://www.nxtbook.fr/newpress/celog/celog-expertises-1712_430
https://www.nxtbook.fr/newpress/celog/celog-expertises-1711_429
https://www.nxtbook.fr/newpress/celog/celog-expertises-1710_428
https://www.nxtbook.fr/newpress/celog/celog-expertises-1709_427
https://www.nxtbook.fr/newpress/celog/celog-expertises-1707_426
https://www.nxtbook.fr/newpress/celog/celog-expertises-1706_425
https://www.nxtbook.fr/newpress/celog/celog-expertises-1705_424
https://www.nxtbook.fr/newpress/celog/celog-expertises-1704_423
https://www.nxtbook.fr/newpress/celog/celog-expertises-1703_422
https://www.nxtbook.fr/newpress/celog/celog-expertises-1702_421
https://www.nxtbook.fr/newpress/celog/celog-expertises-1701_420
https://www.nxtbook.fr/newpress/celog/celog-expertises-1612_419
https://www.nxtbook.fr/newpress/celog/celog-expertises-1611_418
https://www.nxtbook.fr/newpress/celog/celog-expertises-1610_417
https://www.nxtbook.fr/newpress/celog/celog-expertises-1609_416
https://www.nxtbook.fr/newpress/celog/celog-expertises-1607_415
https://www.nxtbook.fr/newpress/celog/celog-expertises-1606_414
https://www.nxtbook.fr/newpress/celog/celog-expertises-1605_413
https://www.nxtbook.fr/newpress/celog/celog-expertises-1604_412
https://www.nxtbook.fr/newpress/celog/celog-expertises-1603_411
https://www.nxtbook.fr/newpress/celog/celog-expertises-1602_410
https://www.nxtbook.fr/newpress/celog/celog-expertises-1601_409
https://www.nxtbook.fr/newpress/celog/celog-expertises-1512_408
https://www.nxtbook.fr/newpress/celog/celog-expertises-1511_407
https://www.nxtbook.fr/newpress/celog/celog-expertises-1510_406
https://www.nxtbook.fr/newpress/celog/celog-expertises-1509_405
https://www.nxtbook.fr/newpress/celog/celog-expertises-1507_404
https://www.nxtbook.fr/newpress/celog/celog-expertises-1506_403
https://www.nxtbook.fr/newpress/celog/celog-expertises-1502_399
https://www.nxtbookmedia.com