Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420 - 17

des situations discriminatoires, qui peuvent impacter la
vie des gens, comment s'y prépare-t-on ?
La question de la responsabilité est-elle compliquée ?
En l'occurrence, elle ne l'est pas. La justice est rendue
au nom de l'Etat. En appel, on n'est pas sans moyen
pour rectifier la décision.
A condition de savoir que la décision est fondée sur
un algorithme.
Absolument. Il faut que les justiciables en soient
informés. Pour ce qui est de la responsabilité de l'Etat,
cela va dépendre des juridictions. Mais la question
sociétale est plutôt de savoir comment faire pour que ces
technologies deviennent un facteur de progrès et non
un facteur de discrimination.

La jonction de deux fichiers.
En effet, qui se cumulent pour constituer un fichier massif.
On ne peut pas garantir qu'il n'y aura pas d'autres utilisations que celle de l'authentification des documents.
On n'a pas d'informations sur les algorithmes qui seront
appliqués à ces données. Idem pour le renseignement, où
les algorithmes sont classés secret défense. Le problème
se pose quand il y a un risque d'impact sur la vie des
personnes. Une éthique doit être mise en place dans le
secteur public, mais qui pourrait également, parfois, être
appliquée au secteur privé, vu les masses et la nature
de données que nous générons, et que certains réseaux
sociaux exploitent.

En quoi pourrait consister cette éthique ?
Elle devrait à mon sens reposer sur trois grands principes.
Premièrement, le principe de responsabilité devrait impoDe façon générale, pensez-vous que l'intelligence
ser pour chaque algorithme la désignation d'une personne
artificielle peut améliorer le fonctionnement de la
référente, à l'instar de ce qui se fait dans la presse, où le
justice ?
directeur de la publication est
responsable du contenu qu'il
Avec les réserves que je viens
« Quand ces systèmes sont utilisés
publie. Cette personne pourrait
d'exprimer,
l'intelligence
par la puissance publique, il faut
être une sorte d'ombudsman
artificielle va réduire un certain
se doter d'une vraie éthique de
auquel on pourrait s'adresser
nombre de risques juridiques.
pour demander des explications,
Je pense notamment aux
l'utilisation des algorithmes. »
porter des réclamations. En
véhicules autonomes. Il est
deuxième lieu, il faudrait respecavéré qu'ils vont réduire le
nombre d'accidents, car ils sont plus sûrs. Idem pour
ter un principe de clarté : quand une décision judiciaire ou
la médecine. La robotique et l'IA introduisent de la
administrative est influencée ou conditionnée par un algoprécision et de la constance en matière de chirurgie
rithme, cela devrait être dit, et le but devrait en être expliqué.
par rapport à la main humaine. Cela va donc réduire
Les citoyens et les justiciables qui font l'objet de traitements
le contentieux en responsabilité. Autre exemple un peu
algorithmiques ont le droit d'en être informés, et surtout
connexe, celui des smart contracts et de la blockchain.
de se voir expliquer, en termes clairs et précis, quelles
Des contrats vont pouvoir s'exécuter automatiquement
données sont exploitées et dans la poursuite de quel objecdans des cas prédéterminés, permettant ainsi de
tif. Le troisième principe devrait porter sur la précision : on
désengorger les tribunaux et de réduire les risques
devrait être capable d'identifier, de suivre et de corriger
juridiques.
régulièrement les sources d'erreurs dans les traitements
algorithmiques utilisés par les Etats, de la même manière
Par ailleurs, grâce aux algorithmes de prédiction des
qu'il semble normal et naturel à tout développeur de suivre
procès, beaucoup de procédures vont pouvoir être
et de corriger les bugs d'un logiciel. Certains algorithmes,
évitées. Les avocats qui pratiquent le contentieux savent
particulièrement sensibles, devraient même être régulièreque certaines affaires qui leur sont soumises n'ont pas
ment audités par un tiers indépendant.
de grandes chances d'être gagnées. Mais comme le
client veut en démordre, ils vont au contentieux. Si les
Le Conseil national du numérique avait proposé une
avocats disposent de chiffres précis sur les chances de
autorité des algorithmes.
succès, il leur sera beaucoup plus facile de convaincre
Absolument. En tout cas, une telle autorité ne devrait
leur client de négocier.
pas se limiter à un pouvoir consultatif. Un suivi régulier
et indépendant est indispensable. Enfin, il est important
d'instaurer une évaluation de l'impact des technologies
Vous êtes très optimiste, mais n'avez-vous aucune
sur la justice. L'exigence d'une déontologie n'est pas seulecrainte ?
ment morale, il y a aussi un enjeu d'efficacité. Le principal
Il y aura sans doute des abus. Mais nos systèmes
problème dans l'utilisation des algorithmes est qu'ils ont
judiciaires sont assez anciens et robustes pour réguler
ces risques. Par ailleurs, quand ces systèmes sont
l'air tellement efficaces que la tentation est grande de se
utilisés par la puissance publique, il faut se doter d'une
reposer totalement sur eux. Or, ils ne sont pas parfaits et ils
vraie éthique de l'utilisation des algorithmes. C'est
peuvent dysfonctionner. Si l'on ne met pas en place cette
en gestation, mais cela n'existe pas encore. On le voit
déontologie, ces algorithmes constitueront non plus un
notamment avec la constitution du fichier TES (Titres
progrès mais une véritable menace pour nos démocraties.
électroniques sécurisés), un fichier de la population
française.
Propos recueillis par Sylvie ROZENFELD

EXPERTISES JANVIER 2017

Table des matières de la publication Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Janvier 2017 - n°420