Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 256

Interview
La France n'est sans doute pas le seul pays qui se
préoccupe de ce sujet, j'imagine. Est-ce que vous
avez connaissance de recherches effectuées à
l'étranger ?
Nous sommes en contact avec d'autres communautés
internationales. C'est d'ailleurs très intéressant
d'observer que celles qui s'intéressent au sujet
sont très récentes. Elles n'ont pas plus de trois ans
d'existence et commencent à se constituer sous forme
de workshop. Il n'y a pas encore de conférences
dédiées à la transparence et à la responsabilité des
algorithmes. Il faut donc créer de la connaissance,
trouver des solutions à ces problèmes. C'est un
domaine à défricher. Ce n'est pas pour rien que le
monde académique s'empare en premier du sujet.
Ensuite, ces systèmes pourront être professionnalisés
pour les rendre plus lisibles pour un public extérieur,
plus facilement utilisables.

ainsi créer des situations de discrimination. Nous
voulons attirer l'attention sur ce problème pour les
algorithmes existants et inciter au développement
d'algorithmes qui sortent de cette boucle à réaction
positive. Ce schéma est peut-être très valable pour
certaines applications comme la reconnaissance
des espèces végétales ou l'identification des objets
ou des personnes déjà disponible mais pas pour
tous les algorithmes prédictifs. Les biais actuels
peuvent se transformer et disparaître. D'où le besoin
de développer la recherche.
TransAlgo en est donc au début de sa mission.
Tout à fait. Il faut aussi préciser que TransAlgo
était une mission initiée par Axelle Lemaire. Or,
il ne vous a pas échappé qu'il y a un nouveau
gouvernement.

Oui avec un secrétaire d'Etat chargé du Numérique
qui était l'ancien président du Conseil national du
Avez-vous connaissance d'initiatives similaires à
numérique.
l'étranger ?
Oui mais on attend qu'il s'installe. On verra si le
L'administration Obama s'était beaucoup intéressée
gouvernement continue d'investir dans TransAlgo et
à ce sujet. Un rapport de 2016 avait alerté sur
s'il s'approprie cette volonté de transparence. Pour
les risques de discrimination et avait fait des
l'instant, elle est financée par l'Inria car cela entre
recommandations. Mais la situation américaine est
dans sa mission de recherche. S'il faut payer des
assez différente de celle de la France. Aux Etatsthèses et des post-doctorants pour la communauté
Unis, les algorithmes sont de plus en plus prescriptifs.
académique qui s'investira sur le sujet, cela nécessite
Les décisions algorithmiques sont entrées dans le
un budget dédié en dehors de celui de l'institut.
quotidien, ce qui n'est pas encore le cas en France,
C'est pourquoi, nous aimerions avoir un engagement
à part peut-être APB sur l'orientation post-bac. Aux
plus explicite de l'Etat sur les travaux de TransAlgo
Etats-Unis, cela touche les recrutements, les octrois
pour aller plus vite. Notre
de crédit, voire la justice
engagement sur TransAlgo
qui commence à introduire
est très fort mais nous
des
aspects
prédictifs.
« Sur la transparence, la loyauté,
attendons la confirmation
D'où les alertes reçues par
la non-discrimination ou la
l'administration. Ce sujet est
neutralité des algorithmes, le rétro- des budgets. C'est la raison
pour laquelle nous reportons
par ailleurs étudié au niveau
engineering en la matière, il y a
le lancement de notre centre
académique. Nous avons
tout au plus trois ou quatre ans de
de ressources en septembre.
des échanges avec le MIT,
avons
néanmoins
Harvard, Columbia, etc. Le recherche scientifique derrière nous, Nous
l'intention de démarrer nos
tissu académique est resté
ce qui est très peu. »
travaux de recherche dans
très actif aux Etats-Unis. Au
le cadre de notre institut
niveau de l'Etat, rien n'est
de convergence, notamment sur les questions
moins certain avec l'élection de Donald Trump.
d'explicabilité et d'apprentissage des algorithmes.
Aujourd'hui, je ne sais pas si l'Office scientifique et
Avec mon équipe, nous sommes à l'origine du
technologique de la Maison-Blanche est toujours
dépôt d'un projet d'institut de convergence, un
opérationnel. Rien n'est aujourd'hui produit. En
programme d'investissement d'avenir piloté par le
Grande-Bretagne, l'académie des sciences s'est
Commissariat Général à l'Investissement, le CGI.
aussi saisie du sujet. Un projet de recherche est lancé
Notre projet "Interdisciplinary Institute for Data
sur la question des biais des algorithmes.
Research : Intelligence, Value and Ethics" porte sur
dix ans et réunit quatorze établissements. Il dispose
Est-ce que les biais algorithmiques induisent une
d'un budget pour financer des bourses de thèses,
intention derrière ?
des post-doctorants, des ingénieurs, des écoles
Non pas nécessairement. D'ailleurs, on a aussi
d'été, des invitations internationales, des animations
choisi d'avoir un volet éditorial pour expliquer que
scientifiques autour de ce sujet. Cet institut a démarré
le biais algorithmique n'est pas toujours intentionnel.
le 1er juin. L'équipe de l'Inria avait été choisie
Mais certains algorithmes, dans le mode de
pour TransAlgo car elle avait déjà un projet de
fonctionnement par construction, perpétuent
grande envergure qui couvrait ce sujet et qui porte
le passé et les mêmes projections et peuvent

256

EXPERTISES JUILLET/AOÛT 2017

Table des matières de la publication Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426