Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 257

plus largement sur les sciences des données et leurs
interfaces en sciences humaines et sociales.
Au niveau européen, existet-il des réflexions dans ce
sens ?
La Commission européenne
s'intéresse beaucoup à ce
sujet ainsi qu'à l'initiative
TransAlgo.

Est-ce qu'il ne nous fait pas choisir un trajet pour un
intérêt commercial ? Qui peut nous garantir que ce
n'est pas le cas ?
Quand on est en train de
conduire, on ne se pose pas
la question. On se laisse
« Nous voulons pouvoir mettre à
guider car c'est plus simple.
disposition des outils ouverts pour

que tout le monde puisse opérer
les vérifications afin de tenter de
rétablir la symétrie informationnelle
entre la plateforme et les
personnes. »

Elle voudrait rassembler les
initiatives existantes dans les
Etats membres pour qu'on
puisse travailler au niveau
européen. La commission européenne va lancer
prochainement sur la question de la transparence
un appel d'offre de grande envergure.

Vous prônez la conception d'algorithmes « responsables
et transparents par « construction », by design.
Il s'agit de prévoir, dès la conception, la possibilité
qu'un algorithme puisse fournir les traces des
données qu'il utilise et qu'il produit, ses critères,
ses règles, etc. Un algorithme qui explique son
fonctionnement de manière à éviter d'avoir à
recourir au retro-engineering. Il doit pouvoir
prévoir la possibilité d'être questionné. Nous
avons proposé d'avoir des ingénieurs formés pour
accompagner les industriels afin de rendre leurs
algorithmes transparents et participer à la diffusion
de l'idée de la responsabilisation par construction.
Cela commence par la formation des ingénieurs et
la diffusion des bonnes pratiques.

C'est une facilitation de la
vie. Notre démarche consiste
à éclairer les personnes.
On ne veut pas limiter
la créativité humaine en
matière d'algorithmes, ce qui
n'est d'ailleurs pas possible.

Mais chacun a le droit de connaître les mécanismes
qui les gouvernent. Il ne faut cependant pas les
diaboliser. Si je reprends l'exemple du GPS, le
chemin indiqué est probablement le plus direct, en
évitant les encombrements, grâce à l'information
dont il dispose en direct et recalcule le trajet en
temps réel, grâce à l'exploitation des données de
tous les trajets.
Le système intègre des informations qui échappent à
la connaissance humaine à l'instant T. Notre objectif
est de permettre le libre arbitre en connaissance de
cause.

Propos recueillis par Sylvie ROZENFELD

Sur le sujet de la vie privée, on parle souvent du
paradoxe qui consiste à vouloir la protéger tout en
la dévoilant pour quelques avantages. On observe
un paradoxe similaire avec les algorithmes qui font
peur alors qu'on s'apprête à leur déléguer de plus
en plus de décisions. Dans une conférence, vous
citiez l'exemple du GPS. J'ai moi-même eu affaire
à un taxi dont le GPS se trompait mais dont le
conducteur préférait faire confiance à une machine,
supposée infaillible, plutôt qu'à un humain. Ils
dirigent de plus en plus nos vies, sans faire débat.
On a entendu peu de questionnement politique
sur cette technologie invisible qui a tant
d'impact sur le fonctionnement démocratique.
Cela pose plus que jamais la question du
consentement et au-delà du libre arbitre.
Comme dirait Spinoza, peut-on parler de libre
arbitre quand on ignore nos déterminismes ? En
matière numérique, consent-on librement quand
on ne connaît pas les règles de décision des
algorithmes ?
Il s'agit du désir de se décharger de certaines tâches.
Le GPS est un exemple intéressant, notamment par
rapport à la question de la neutralité.

EXPERTISES JUILLET/AOÛT 2017

257
Table des matières de la publication Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426
