Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 16

interview
La machine permet à des personnes qui ne feraient
pas appel à la justice de le faire. A terme, ne rend-elle
pas la justice plus accessible ?
Absolument. Et on pourrait même dire que les avocats
qui remplissaient des tâches peu gratifiantes, comme
le « discovery », vont pouvoir accepter des dossiers
qu'ils n'auraient pas pu prendre auparavant, faute
de disposer de collaborateurs. On voit bien que le
professionnel avocat n'est pas en danger, au contraire.
Il accède à un outil de travail extraordinaire.

d'alléger la peine ou d'envisager des aménagements.
Cela partait d'une excellente intention. Mais quoi
qu'on en dise, l'établissement d'un score, aux allures
scientifiques, influence le juge, consciemment ou non.
En 2014, l'équivalent du ministre de la Justice a demandé
qu'une enquête soit menée sur ces algorithmes. Mais
comme la séparation des pouvoirs est très rigide, il n'a
pas pu l'imposer, et ça n'a pas été fait. Du coup, c'est le
site d'information ProPublica qui a mené cette étude,
de façon indépendante et spontanée. En mai dernier, il
a publié un long article mettant en lumière les limites
de ces algorithmes. L'enquête a montré que le taux de
Les modalités du procès sont ainsi en train de changer.
précision de ces algorithmes n'est que de 60 %, ce qui est
L'intelligence artificielle va changer la nature de
à peine mieux que de tirer à pile ou face. Peut-être que
certains contentieux, et on n'est pas encore sûr que ce
les données ne sont pas si pertinentes, ou qu'elles ne sont
soit uniquement pour le meilleur. Le risque est de voir
pas structurées de manière
le contentieux devenir un outil
homogène, ou qu'elles ne se
de pression économique, en
industrialisant les recherches « Grâce aux algorithmes de prédiction prêtent pas si bien que cela à
des procès, beaucoup de procédures
la prédiction. Après tout, nous
et les processus. C'est déjà
ne sommes pas des robots.
le
modèle
économique
vont pouvoir être évitées. »
Mais surtout, ces algorithmes
des « patent trolls », qui
prédisent un taux de récidive
rachètent des masses de
bien plus élevé pour les noirs que pour les blancs. Pour
brevets et paient des avocats pour faire pressions sur
le dire clairement, l'outil se trompe beaucoup plus sur
les entreprises. A contrario, avec les nouveaux outils,
les noirs que sur les blancs.
n'importe quelle PME ou petit cabinet d'avocat, quand
il ou elle reçoit une mise en demeure d'un patent troll,
Quel est le biais de cet algorithme ?
pourra facilement vérifier s'il s'agit d'une vraie menace
Aujourd'hui, on ne le sait pas. Plusieurs théories sont
et voir s'il doit s'en inquiéter ou contre-attaquer. Donc,
échafaudées. Il faut prendre en compte que les Etats
cela permettra aussi d'atténuer la pression économique
n'utilisent pas toujours les mêmes technologies. Et
des menaces de procès. Certains considèrent ainsi qu'il
certains algorithmes fonctionnent mieux que d'autres.
s'agit d'un outil de justice économique, car les PME vont
Une première théorie parle d'une « infusion » du préjugé
pouvoir se défendre à égalité de chances.
dans les algorithmes : les concepteurs auraient intégré,
De façon générale, on peut imaginer qu'il y aura des
de manière innocente, leurs préjugés inconscients dans
abus, mais ce n'est pas une raison pour freiner cette
le système, en fonction de la manière dont les données
technologie, qui dans la majeure partie des cas sera un
sont structurées, le type de données auquel on fait
outil formidable. De toute façon, en cas d'abus, nul doute
référence, etc. Selon une autre théorie, il ne s'agirait
que les magistrats ne se laisseront pas facilement berner
pas de racisme mais d'une mauvaise interprétation des
par la puissance de l'argent. On peut être confiant.
jeux de données par la machine, ou d'une mauvaise
évaluation. La réponse n'est pas encore apportée, et ne
A la conférence de l'Afdit consacrée à l'intelligence
le sera peut-être jamais de façon définitive.
artificielle et aux smart cities, qui s'est tenue le
2 décembre dernier à Aix-en-Provence, vous avez
L'être humain n'est peut-être pas si prévisible ?
évoqué l'exemple d'un algorithme utilisé aux EtatsPeut-être. Mais ce n'est pas parce qu'on ne maîtrise
Unis pour évaluer le risque de récidive d'un prévenu,
pas toutes les causes d'un problème qu'il ne faut pas
comme aide à la détermination de la peine. Cet
y remédier. Il conviendrait de s'interroger sur l'intérêt
algorithme s'est avéré raciste, il surévaluait indûment
d'utiliser une technologie avec un taux de précision
le risque de récidive des noirs. Pouvez-vous nous
de 60 % seulement ! Que doit-on faire s'il s'avère que
parler de cette affaire ?
les juges condamnent plus lourdement les prévenus
Dans le procès pénal aux Etats-Unis, le prononcé
qui ont un score de récidive plus élevé et qu'on a
de la culpabilité et celui de la peine sont séparés.
ainsi une amplification des préjugés et des risques
Les décisions sont rendues lors de deux audiences
de discrimination contre les minorités à cause de cet
différentes. Dans la plupart des Etats, des sociétés,
algorithme ? Continuer à l'utiliser, l'améliorer, mieux
des associations ou des institutions parapubliques
informer le juge et les justiciables de la façon dont on
ont développé des algorithmes qui permettent d'aider
arrive aux résultats ?
au prononcé de la peine en déterminant un score de
On est bien au-delà des questions de responsabilité :
récidive, basé sur des statistiques, de la jurisprudence
nous devons réfléchir à notre manière collective de
et des données sur le prévenu. Ce score n'est pas censé
vivre avec ces technologies, et à comment les utiliser
influencer directement la peine à prononcer, mais
au mieux. Quand ces outils sont susceptibles de générer
plutôt donner au juge des éléments qui lui permettront

EXPERTISES JANVIER 2017

Table des matières de la publication Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420