Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 256

Interview
La France n'est sans doute pas le seul pays qui se
préoccupe de ce sujet, j'imagine. Est-ce que vous
avez connaissance de recherches effectuées à
l'étranger ?
Nous sommes en contact avec d'autres communautés
internationales. C'est d'ailleurs très intéressant
d'observer que celles qui s'intéressent au sujet
sont très récentes. Elles n'ont pas plus de trois ans
d'existence et commencent à se constituer sous forme
de workshop. Il n'y a pas encore de conférences
dédiées à la transparence et à la responsabilité des
algorithmes. Il faut donc créer de la connaissance,
trouver des solutions à ces problèmes. C'est un
domaine à défricher. Ce n'est pas pour rien que le
monde académique s'empare en premier du sujet.
Ensuite, ces systèmes pourront être professionnalisés
pour les rendre plus lisibles pour un public extérieur,
plus facilement utilisables.

ainsi créer des situations de discrimination. Nous
voulons attirer l'attention sur ce problème pour les
algorithmes existants et inciter au développement
d'algorithmes qui sortent de cette boucle à réaction
positive. Ce schéma est peut-être très valable pour
certaines applications comme la reconnaissance
des espèces végétales ou l'identification des objets
ou des personnes déjà disponible mais pas pour
tous les algorithmes prédictifs. Les biais actuels
peuvent se transformer et disparaître. D'où le besoin
de développer la recherche.
TransAlgo en est donc au début de sa mission.
Tout à fait. Il faut aussi préciser que TransAlgo
était une mission initiée par Axelle Lemaire. Or,
il ne vous a pas échappé qu'il y a un nouveau
gouvernement.

Oui avec un secrétaire d'Etat chargé du Numérique
qui était l'ancien président du Conseil national du
Avez-vous connaissance d'initiatives similaires à
numérique.
l'étranger ?
Oui mais on attend qu'il s'installe. On verra si le
L'administration Obama s'était beaucoup intéressée
gouvernement continue d'investir dans TransAlgo et
à ce sujet. Un rapport de 2016 avait alerté sur
s'il s'approprie cette volonté de transparence. Pour
les risques de discrimination et avait fait des
l'instant, elle est financée par l'Inria car cela entre
recommandations. Mais la situation américaine est
dans sa mission de recherche. S'il faut payer des
assez différente de celle de la France. Aux Etatsthèses et des post-doctorants pour la communauté
Unis, les algorithmes sont de plus en plus prescriptifs.
académique qui s'investira sur le sujet, cela nécessite
Les décisions algorithmiques sont entrées dans le
un budget dédié en dehors de celui de l'institut.
quotidien, ce qui n'est pas encore le cas en France,
C'est pourquoi, nous aimerions avoir un engagement
à part peut-être APB sur l'orientation post-bac. Aux
plus explicite de l'Etat sur les travaux de TransAlgo
Etats-Unis, cela touche les recrutements, les octrois
pour aller plus vite. Notre
de crédit, voire la justice
engagement sur TransAlgo
qui commence à introduire
est très fort mais nous
des
aspects
prédictifs.
« Sur la transparence, la loyauté,
attendons la confirmation
D'où les alertes reçues par
la non-discrimination ou la
l'administration. Ce sujet est
neutralité des algorithmes, le rétro- des budgets. C'est la raison
pour laquelle nous reportons
par ailleurs étudié au niveau
engineering en la matière, il y a
le lancement de notre centre
académique. Nous avons
tout au plus trois ou quatre ans de
de ressources en septembre.
des échanges avec le MIT,
avons
néanmoins
Harvard, Columbia, etc. Le recherche scientifique derrière nous, Nous
l'intention de démarrer nos
tissu académique est resté
ce qui est très peu. »
travaux de recherche dans
très actif aux Etats-Unis. Au
le cadre de notre institut
niveau de l'Etat, rien n'est
de convergence, notamment sur les questions
moins certain avec l'élection de Donald Trump.
d'explicabilité et d'apprentissage des algorithmes.
Aujourd'hui, je ne sais pas si l'Office scientifique et
Avec mon équipe, nous sommes à l'origine du
technologique de la Maison-Blanche est toujours
dépôt d'un projet d'institut de convergence, un
opérationnel. Rien n'est aujourd'hui produit. En
programme d'investissement d'avenir piloté par le
Grande-Bretagne, l'académie des sciences s'est
Commissariat Général à l'Investissement, le CGI.
aussi saisie du sujet. Un projet de recherche est lancé
Notre projet "Interdisciplinary Institute for Data
sur la question des biais des algorithmes.
Research : Intelligence, Value and Ethics" porte sur
dix ans et réunit quatorze établissements. Il dispose
Est-ce que les biais algorithmiques induisent une
d'un budget pour financer des bourses de thèses,
intention derrière ?
des post-doctorants, des ingénieurs, des écoles
Non pas nécessairement. D'ailleurs, on a aussi
d'été, des invitations internationales, des animations
choisi d'avoir un volet éditorial pour expliquer que
scientifiques autour de ce sujet. Cet institut a démarré
le biais algorithmique n'est pas toujours intentionnel.
le 1er juin. L'équipe de l'Inria avait été choisie
Mais certains algorithmes, dans le mode de
pour TransAlgo car elle avait déjà un projet de
fonctionnement par construction, perpétuent
grande envergure qui couvrait ce sujet et qui porte
le passé et les mêmes projections et peuvent

256

EXPERTISES JUILLET/AOÛT 2017



Table des matières de la publication Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426

Couverture
Editorial & Sommaire
FOCUS LE CHAMBOULE-TOUT POLITIQUE
MAGAZINE L'ACTUALITÉ DU DROIT ET DE LA JURISPRUDENCE
INTERVIEW TESTER LA TRANSPARENCE DES ALGORITHMES
DOCTRINE
BASES DE DONNÉES PUBLIQUES - DE « NOTREFAMILLE » A LA LOI LEMAIRE
CYBERATTAQUES - MACRONLEAKS ET DIFFUSION DE FAUSSES INFORMATIONS
DONNÉES PERSONNELLES - CONSEILS PRATIQUES POUR L’APPLICATION DU RGPD
DONNÉES PERSONNELLES - « COOKIES TIERS » : POUR UNE CLARIFICATION DES RESPONSABILITÉS ENTRE ÉDITEUR DE SITE ET TIERS
CLOUD COMPUTING - VERS DE NOUVEAUX HORIZONS DANS LE MONDE DES « NUAGES »
JURISPRUDENCE BASES DE DONNÉES PUBLIQUES - NOTREFAMILLE.COM / DEPT. DE LA VIENNE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - Couverture
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - Editorial & Sommaire
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - FOCUS LE CHAMBOULE-TOUT POLITIQUE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - MAGAZINE L'ACTUALITÉ DU DROIT ET DE LA JURISPRUDENCE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 245
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 246
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 247
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 248
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 249
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 250
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 251
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - INTERVIEW TESTER LA TRANSPARENCE DES ALGORITHMES
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 253
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 254
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 255
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 256
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 257
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - JURISPRUDENCE BASES DE DONNÉES PUBLIQUES - NOTREFAMILLE.COM / DEPT. DE LA VIENNE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 259
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 260
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 261
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - CYBERATTAQUES - MACRONLEAKS ET DIFFUSION DE FAUSSES INFORMATIONS
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 263
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 264
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 265
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 266
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 267
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 268
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - DONNÉES PERSONNELLES - CONSEILS PRATIQUES POUR L’APPLICATION DU RGPD
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 270
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 271
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 272
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 273
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - DONNÉES PERSONNELLES - « COOKIES TIERS » : POUR UNE CLARIFICATION DES RESPONSABILITÉS ENTRE ÉDITEUR DE SITE ET TIERS
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 275
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - CLOUD COMPUTING - VERS DE NOUVEAUX HORIZONS DANS LE MONDE DES « NUAGES »
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 277
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 278
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 279
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 280
https://www.nxtbook.fr/newpress/celog/celog-expertises-2005_457
https://www.nxtbook.fr/newpress/celog/celog-expertises-2004_456
https://www.nxtbook.fr/newpress/celog/celog-expertises-2003_455
https://www.nxtbook.fr/newpress/celog/celog-expertises-2002_454
https://www.nxtbook.fr/newpress/celog/celog-expertises-2001_453
https://www.nxtbook.fr/newpress/celog/celog-expertises-1912_452
https://www.nxtbook.fr/newpress/celog/celog-expertises-1911_451
https://www.nxtbook.fr/newpress/celog/celog-expertises-1910_450
https://www.nxtbook.fr/newpress/celog/celog-expertises-1909_449
https://www.nxtbook.fr/newpress/celog/celog-expertises-1907_448
https://www.nxtbook.fr/newpress/celog/celog-expertises-1906_447
https://www.nxtbook.fr/newpress/celog/celog-expertises-1905_446
https://www.nxtbook.fr/newpress/celog/celog-expertises-1904_445
https://www.nxtbook.fr/newpress/celog/celog-expertises-1903_444
https://www.nxtbook.fr/newpress/celog/celog-expertises-1902_443
https://www.nxtbook.fr/newpress/celog/celog-expertises-1901_442
https://www.nxtbook.fr/newpress/celog/celog-expertises-1812_441
https://www.nxtbook.fr/newpress/celog/celog-expertises-1811_440
https://www.nxtbook.fr/newpress/celog/celog-expertises-1810_439
https://www.nxtbook.fr/newpress/celog/celog-expertises-1809_438
https://www.nxtbook.fr/newpress/celog/celog-expertises-1807_437
https://www.nxtbook.fr/newpress/celog/celog-expertises-1806_436
https://www.nxtbook.fr/newpress/celog/celog-expertises-1805_435
https://www.nxtbook.fr/newpress/celog/celog-expertises-1804_434
https://www.nxtbook.fr/newpress/celog/celog-expertises-1803_433
https://www.nxtbook.fr/newpress/celog/celog-expertises-1802_432
https://www.nxtbook.fr/newpress/celog/celog-expertises-1801_431
https://www.nxtbook.fr/newpress/celog/celog-expertises-1712_430
https://www.nxtbook.fr/newpress/celog/celog-expertises-1711_429
https://www.nxtbook.fr/newpress/celog/celog-expertises-1710_428
https://www.nxtbook.fr/newpress/celog/celog-expertises-1709_427
https://www.nxtbook.fr/newpress/celog/celog-expertises-1707_426
https://www.nxtbook.fr/newpress/celog/celog-expertises-1706_425
https://www.nxtbook.fr/newpress/celog/celog-expertises-1705_424
https://www.nxtbook.fr/newpress/celog/celog-expertises-1704_423
https://www.nxtbook.fr/newpress/celog/celog-expertises-1703_422
https://www.nxtbook.fr/newpress/celog/celog-expertises-1702_421
https://www.nxtbook.fr/newpress/celog/celog-expertises-1701_420
https://www.nxtbook.fr/newpress/celog/celog-expertises-1612_419
https://www.nxtbook.fr/newpress/celog/celog-expertises-1611_418
https://www.nxtbook.fr/newpress/celog/celog-expertises-1610_417
https://www.nxtbook.fr/newpress/celog/celog-expertises-1609_416
https://www.nxtbook.fr/newpress/celog/celog-expertises-1607_415
https://www.nxtbook.fr/newpress/celog/celog-expertises-1606_414
https://www.nxtbook.fr/newpress/celog/celog-expertises-1605_413
https://www.nxtbook.fr/newpress/celog/celog-expertises-1604_412
https://www.nxtbook.fr/newpress/celog/celog-expertises-1603_411
https://www.nxtbook.fr/newpress/celog/celog-expertises-1602_410
https://www.nxtbook.fr/newpress/celog/celog-expertises-1601_409
https://www.nxtbook.fr/newpress/celog/celog-expertises-1512_408
https://www.nxtbook.fr/newpress/celog/celog-expertises-1511_407
https://www.nxtbook.fr/newpress/celog/celog-expertises-1510_406
https://www.nxtbook.fr/newpress/celog/celog-expertises-1509_405
https://www.nxtbook.fr/newpress/celog/celog-expertises-1507_404
https://www.nxtbook.fr/newpress/celog/celog-expertises-1506_403
https://www.nxtbook.fr/newpress/celog/celog-expertises-1502_399
https://www.nxtbookmedia.com