Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 254

Interview
pour connaître leur raisonnement, leurs règles,
leur réelle finalité ?
Il existe deux catégories à considérer. Il y a
des algorithmes dont on peut disposer du code
source. A ce propos, la loi pour une République
numérique facilite l'accès aux codes sources des
Quelle est la phase suivante ?
algorithmes publics. Mais la loi n'a imposé aucune
Elle est plus créative. Elle consiste à développer des
obligation pour les algorithmes privés. Ce qui ne
méthodes, des outils pour tester les algorithmes.
veut pas dire qu'on ne va pas pouvoir étudier
Pour cela, il faut faire de la recherche et financer des
leur comportement. Pour le tester, on va essayer
thèses de doctorat et des post-docs pour chercher et
d'utiliser des jeux de données maîtrisées, avec
trouver de nouvelles solutions. C'est du reste la raison
une certaine variabilité par construction, pour
pour laquelle l'Inria a été choisi comme opérateur.
avoir une « jouabilité » de
Tous les sujets dont on parle :
l'algorithme dont la source
la loyauté, la transparence,
n'est pas disponible. On
etc. ont déjà été explorés par
« Développer des modèles
peut ensuite avoir des
la communauté des sciences
algorithmiques explicables mais
inférences sur les résultats
humaines et sociales, bien
aussi des modèles d'explication
fournis. Si on fait varier
avant les sciences dures.
d'algorithmes existants. »
les paramètres : âge, lieu,
Mais il n'y a pas grand-chose
sexe, etc., on peut observer
sous l'angle mathématique,
comment l'algorithme se
informatique et sous celui
comporte. Mais cela ne suffit pas, face au deep
de la modélisation. L'explicabilité d'apprentissage
learning par exemple. Ce n'est pas intentionnel,
est un des sujets « chauds » en recherche. Par
mais le deep learning possède des mécanismes
exemple, les algorithmes du deep learning ne sont,
d'adaptation qui font qu'on n'est pas capable de
par essence, pas explicables. Cela n'est pas dû à
tracer son raisonnement.
une volonté de cacher leur fonctionnement. Mais le
résultat n'est pas explicable par construction, pour
Alors qu'on peut être amené à prendre des décisions
l'instant.
sur la base de ses résultats.
Bien sûr. Et quand il y a décision, il y a
Pensez-vous qu'il soit possible de trouver un
responsabilité. Quand on va remonter la chaîne
modèle mathématique pour comprendre le résultat
de responsabilité, on va arriver à la conception
produit par un algorithme ?
par arbitrage, aux données de l'apprentissage, etc.
L'idée est de pouvoir développer des modèles
Définir la responsabilité d'un algorithme, surtout en
algorithmiques explicables mais aussi des
matière de machine learning reste très difficile. Il
modèles d'explication d'algorithmes existants.
y a plusieurs niveaux de responsabilité à prendre
Or, la communauté des sciences du numérique,
en compte : celui qui a conçu l'algorithme, celui qui
mathématique ou informatique n'a pas beaucoup
l'a paramétré, celui qui l'a entraîné. L'entraînement
travaillé sur le sujet.
peut déterminer des résultats distincts. Un jeu de
paramètres différents va définir des règles de
Et les entreprises ?
décisions différentes.
Non plus. Au contraire, elles viennent nous voir
pour trouver des solutions. Nous n'avons pas trente
TransAlgo va-t-il développer des outils ?
ans d'histoire de la recherche sur ce sujet. Ce qui
Cela correspond en effet à la seconde phase du
n'est pas le cas de la vision par ordinateur qui
projet, à savoir développer la recherche avec de
permet aujourd'hui d'avoir une voiture autonome.
nouvelles méthodes, avec des partenaires comme
Cela fait longtemps qu'il y a des recherches sur
la DGCRRF qui nous communiquera des données
l'identification des objets, la reconnaissance de la
sur des cas concrets. La troisième phase consistera
posture d'un être humain en train de traverser une
à faire connaître les résultats de la recherche et les
route, etc. Il a fallu de longues années de recherche
professionnaliser.
afin que ces technologies soient mises en production
et intégrées à bord d'une voiture sécurisée. Sur la
Cette plateforme collaborative et scientifique
transparence, la loyauté, la non-discrimination ou
va donc développer des outils de surveillance
la neutralité des algorithmes, le rétro-engineering
des biais des algorithmes, des algorithmes pour
en la matière, il y a tout au plus trois ou quatre ans
contrôler le comportement des algorithmes.
de recherche derrière nous, ce qui est très peu.
Le sociologue Dominique Cardon trouve cette
initiative très intéressante car elle permet de
Le fait que les codes sources des algorithmes ne
changer de techniques probatoires. « On a besoin
soient pas toujours ouverts, pour des raisons de
d'algorithmes pour critiquer les algorithmes,
propriété intellectuelle, constitue-t-il un obstacle
de manière à faciliter l'accès à ces sujets. Avant de
le faire, nous voulions clarifier et définir le périmètre
de TransAlgo et ses objectifs, évaluer ce qui a déjà
été fait.

254

EXPERTISES JUILLET/AOÛT 2017



Table des matières de la publication Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426

Couverture
Editorial & Sommaire
FOCUS LE CHAMBOULE-TOUT POLITIQUE
MAGAZINE L'ACTUALITÉ DU DROIT ET DE LA JURISPRUDENCE
INTERVIEW TESTER LA TRANSPARENCE DES ALGORITHMES
DOCTRINE
BASES DE DONNÉES PUBLIQUES - DE « NOTREFAMILLE » A LA LOI LEMAIRE
CYBERATTAQUES - MACRONLEAKS ET DIFFUSION DE FAUSSES INFORMATIONS
DONNÉES PERSONNELLES - CONSEILS PRATIQUES POUR L’APPLICATION DU RGPD
DONNÉES PERSONNELLES - « COOKIES TIERS » : POUR UNE CLARIFICATION DES RESPONSABILITÉS ENTRE ÉDITEUR DE SITE ET TIERS
CLOUD COMPUTING - VERS DE NOUVEAUX HORIZONS DANS LE MONDE DES « NUAGES »
JURISPRUDENCE BASES DE DONNÉES PUBLIQUES - NOTREFAMILLE.COM / DEPT. DE LA VIENNE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - Couverture
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - Editorial & Sommaire
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - FOCUS LE CHAMBOULE-TOUT POLITIQUE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - MAGAZINE L'ACTUALITÉ DU DROIT ET DE LA JURISPRUDENCE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 245
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 246
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 247
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 248
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 249
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 250
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 251
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - INTERVIEW TESTER LA TRANSPARENCE DES ALGORITHMES
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 253
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 254
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 255
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 256
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 257
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - JURISPRUDENCE BASES DE DONNÉES PUBLIQUES - NOTREFAMILLE.COM / DEPT. DE LA VIENNE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 259
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 260
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 261
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - CYBERATTAQUES - MACRONLEAKS ET DIFFUSION DE FAUSSES INFORMATIONS
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 263
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 264
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 265
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 266
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 267
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 268
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - DONNÉES PERSONNELLES - CONSEILS PRATIQUES POUR L’APPLICATION DU RGPD
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 270
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 271
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 272
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 273
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - DONNÉES PERSONNELLES - « COOKIES TIERS » : POUR UNE CLARIFICATION DES RESPONSABILITÉS ENTRE ÉDITEUR DE SITE ET TIERS
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 275
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - CLOUD COMPUTING - VERS DE NOUVEAUX HORIZONS DANS LE MONDE DES « NUAGES »
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 277
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 278
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 279
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet 2017 - n°426 - 280
https://www.nxtbook.fr/newpress/celog/celog-expertises-1912_452
https://www.nxtbook.fr/newpress/celog/celog-expertises-1911_451
https://www.nxtbook.fr/newpress/celog/celog-expertises-1910_450
https://www.nxtbook.fr/newpress/celog/celog-expertises-1909_449
https://www.nxtbook.fr/newpress/celog/celog-expertises-1907_448
https://www.nxtbook.fr/newpress/celog/celog-expertises-1906_447
https://www.nxtbook.fr/newpress/celog/celog-expertises-1905_446
https://www.nxtbook.fr/newpress/celog/celog-expertises-1904_445
https://www.nxtbook.fr/newpress/celog/celog-expertises-1903_444
https://www.nxtbook.fr/newpress/celog/celog-expertises-1902_443
https://www.nxtbook.fr/newpress/celog/celog-expertises-1901_442
https://www.nxtbook.fr/newpress/celog/celog-expertises-1812_441
https://www.nxtbook.fr/newpress/celog/celog-expertises-1811_440
https://www.nxtbook.fr/newpress/celog/celog-expertises-1810_439
https://www.nxtbook.fr/newpress/celog/celog-expertises-1809_438
https://www.nxtbook.fr/newpress/celog/celog-expertises-1807_437
https://www.nxtbook.fr/newpress/celog/celog-expertises-1806_436
https://www.nxtbook.fr/newpress/celog/celog-expertises-1805_435
https://www.nxtbook.fr/newpress/celog/celog-expertises-1804_434
https://www.nxtbook.fr/newpress/celog/celog-expertises-1803_433
https://www.nxtbook.fr/newpress/celog/celog-expertises-1802_432
https://www.nxtbook.fr/newpress/celog/celog-expertises-1801_431
https://www.nxtbook.fr/newpress/celog/celog-expertises-1712_430
https://www.nxtbook.fr/newpress/celog/celog-expertises-1711_429
https://www.nxtbook.fr/newpress/celog/celog-expertises-1710_428
https://www.nxtbook.fr/newpress/celog/celog-expertises-1709_427
https://www.nxtbook.fr/newpress/celog/celog-expertises-1707_426
https://www.nxtbook.fr/newpress/celog/celog-expertises-1706_425
https://www.nxtbook.fr/newpress/celog/celog-expertises-1705_424
https://www.nxtbook.fr/newpress/celog/celog-expertises-1704_423
https://www.nxtbook.fr/newpress/celog/celog-expertises-1703_422
https://www.nxtbook.fr/newpress/celog/celog-expertises-1702_421
https://www.nxtbook.fr/newpress/celog/celog-expertises-1701_420
https://www.nxtbook.fr/newpress/celog/celog-expertises-1612_419
https://www.nxtbook.fr/newpress/celog/celog-expertises-1611_418
https://www.nxtbook.fr/newpress/celog/celog-expertises-1610_417
https://www.nxtbook.fr/newpress/celog/celog-expertises-1609_416
https://www.nxtbook.fr/newpress/celog/celog-expertises-1607_415
https://www.nxtbook.fr/newpress/celog/celog-expertises-1606_414
https://www.nxtbook.fr/newpress/celog/celog-expertises-1605_413
https://www.nxtbook.fr/newpress/celog/celog-expertises-1604_412
https://www.nxtbook.fr/newpress/celog/celog-expertises-1603_411
https://www.nxtbook.fr/newpress/celog/celog-expertises-1602_410
https://www.nxtbook.fr/newpress/celog/celog-expertises-1601_409
https://www.nxtbook.fr/newpress/celog/celog-expertises-1512_408
https://www.nxtbook.fr/newpress/celog/celog-expertises-1511_407
https://www.nxtbook.fr/newpress/celog/celog-expertises-1510_406
https://www.nxtbook.fr/newpress/celog/celog-expertises-1509_405
https://www.nxtbook.fr/newpress/celog/celog-expertises-1507_404
https://www.nxtbook.fr/newpress/celog/celog-expertises-1506_403
https://www.nxtbook.fr/newpress/celog/celog-expertises-1502_399
http://www.nxtbookMEDIA.com