Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 418
interview
La neutralité du net pour les infrastructures est très importante.
En revanche, la neutralité sur l'organisation de l'information
est contraire à tout travail éditorial. Un site classe, range, donne
de l'importance à certains éléments. On lui demande de trier
l'énorme bazar informationnel du web, avec un point de vue.
Google s'en est toujours sorti devant les tribunaux en invoquant
le premier amendement de la constitution américaine, la liberté
d'expression pour son algorithme. Il produit un résultat en
fonction d'un choix éditorial.
L'idée de loyauté des algorithmes a été amenée dans le débat
par le juriste américain James Grimmelmann. Le service dit
à l'utilisateur le principe selon lequel son algorithme calcule.
Par exemple Amazon dit que les gens qui ont lu tel livre on
aussi aimé cet autre livre. Le principe appliqué par Amazon,
le filtrage collaboratif, consiste à comparer mes achats avec
les gens qui ont acheté les mêmes choses que moi mais aussi
d'autres choses et de me recommander ces autres choses. Il
repose sur l'hypothèse sociologiquement juste qu'il y a des
affinités structurelles des goûts et que l'on peut ramener ces
affinités vers l'utilisateur et produire une recommandation qui
a de la pertinence.
Vous dites qu'« Il est vain de réclamer que soit levé
le secret des algorithmes et plus utile de connaître le
flux des données qui entrent dans la composition du
calcul ». Que voulez-vous dire .
Face au secret des machines, il y a une question centrale,
démocratique, il faut pouvoir soumettre tous les algorithmes à
la critique : les régulateurs, les chercheurs, etc. doivent pouvoir
mettre en place ces machines virtuelles qui calculent afin de
vérifier la loyauté des plateformes. En fait, la bonne alliance
serait composée de sociologues, d'informaticiens et de juristes.
Ils auraient des outils sérieux pour enquêter, procéder à des
audits afin de faire des statistiques sur les manières dont les
algorithmes classent.
Sans entrer dans la boîte noire.
On peut débattre sur le fait de savoir si l'algorithme doit rester
secret ou être partagé. Théoriquement, il serait souhaitable
qu'il soit partagé mais certaines plateformes ont des raisons
pour garder secrète une partie des variables métiers, des
réglages de seuil des algorithmes. Car s'ils étaient rendus
publics, ils seraient trucables par tous ceux qui veulent
apparaître bien placés. C'est particulièrement le problème
de Google. Mais il s'est ajouté une nouvelle difficulté. Même
si aujourd'hui on voit l'algorithme, on ne voit pas du tout ce
qu'il fait. Même ses concepteurs ne comprennent plus ce
qu'il fait car ils emploient une technique statistique nouvelle,
qui représente la vraie transformation socio-politique que
j'essaie de décrire dans le livre. Ils utilisent des méthodes
d'apprentissage (machine learning), qui ne consistent plus
à calculer avec des règles et des hypothèses préalablement
formulées et intelligibles par ses concepteurs, à partir d'un
modèle établi. Ce sont des méthodes très inductives, qui
partent du bas des données pour définir elles-mêmes des
systèmes de règles qui apprennent de nos comportements pour
se réviser. En fait, l'algorithme s'autoprogramme. Cela devient
donc complètement incompréhensible. Même Amit Singhal, le
grand coordonnateur de l'algorithme de Google, est incapable
d'expliquer pourquoi, pour telle requête, tel résultat surgit, en
fonction d'un ensemble de calculs qui ne sont plus décodables.
Il n'explique pas le fonctionnement de son système ni ne
communique ses statistiques mais il lui explique le service
qu'il lui rend. La question de la loyauté se résume à expliciter
la manière dont il propose le principe d'organisation. Et on
doit pouvoir vérifier que c'est bien ce qu'il fait. Si Amazon a
un contrat avec un éditeur qui a un stock de livres qu'il veut
écouler et qu'il les ajoute dans les livres des gens qui ont acheté
les mêmes livres que moi, ce n'est pas loyal. Il produirait une
déformation par laquelle il tromperait l'utilisateur sur le sens
qu'il donne au principe général de l'algorithme. Il me semble
que nous avons là un point d'entrée pour un audit critique,
une régulation et un chantier important sur la vérification du
travail de ces plateformes, vu le rôle structurant qu'elles jouent
aujourd'hui.
De même pour Google, on peut soupçonner qu'il favorise ses
propres services en les remontant indûment dans les résultats
alors qu'ils n'ont pas la même autorité que d'autres. Ce n'est
pas loyal par rapport au principe affirmé.
Le soupçon sur le classement « naturel », que l'on appelle
C'est le début de l'intelligence artificielle.
aussi « organique », du moteur de recherche est parfois un
Il faut être réservé sur le terme d'intelligence artificielle,
peu paranoïaque, surtout qu'il est souvent porté par ceux
je parlerais plutôt d'intelligence statistique. Mais cela ne
qui sont mal classé ou qui ont
veut pas dire qu'on ne peut pas
été « puni » par Google parce
les auditer. Dans les modèles
qu'ils essayaient de tricher avec
d'apprentissage, on donne un
« Les régulateurs, les chercheurs, etc.
l'algorithme. En revanche, pour
objectif à l'algorithme. On appelle
doivent pouvoir mettre en place ces
Google Shopping, il a été prouvé
cela les méthodes supervisées.
machines virtuelles qui calculent afin
que les restaurants conseillés par
On demande à l'algorithme de
de vérifier la loyauté des plateformes. » définir des règles en fonction d'un
Google ne sont pas ceux qui ont
reçu le plus d' « autorité ». On voit
objectif, par exemple : quand il
que Google privilégie les sites des
fait une recherche d'information,
établissements associés avec lui plutôt que ceux qui sont mieux
l'utilisateur doit cliquer sur le premier lien et non sur le
notés mais qui appartiennent à d'autres réseaux de notation.
deuxième. Facebook veut qu'il reste le plus longtemps possible
Il y a bien une déformation déloyale qui trompe l'utilisateur.
sur sa page. Connaître les règles de supervision données à
Pour prouver la déformation des résultats, il ne faut pas utiliser
l'algorithme permet aussi de vérifier sa loyauté. Car on peut
des copies d'écrans mais développer des programmes de
très bien donner des objectifs qui ne font pas du tout ce qu'on a
rétro-ingénierie pour prouver statistiquement l'existence des
explicité à l'utilisateur. Donc, je pense qu'un objectif critique et
classements déloyaux..
de la transparence sur ces algorithmes permettraient d'avoir
418
EXPERTISES DÉCEMBRE 2015
Table des matières de la publication Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408
Couverture
Sommaire
MAGAZINE - COOKIES FACEBOOK INTERDIT DE TRACER LES BELGES NON-MEMBRES
INTERVIEW - DOMINIQUE CARDON : PRIVATISER LA VIE PRIVÉE
DOCTRINE
JURISPRUDENCE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - Couverture
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - Sommaire
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - MAGAZINE - COOKIES FACEBOOK INTERDIT DE TRACER LES BELGES NON-MEMBRES
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 410
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 411
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 412
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 413
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 414
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - INTERVIEW - DOMINIQUE CARDON : PRIVATISER LA VIE PRIVÉE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 416
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 417
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 418
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 419
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 420
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - DOCTRINE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 422
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 423
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 424
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 425
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 426
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 427
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 428
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 429
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 430
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 431
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 432
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 433
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 434
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 435
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 436
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 437
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 438
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 439
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - JURISPRUDENCE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 441
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 442
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 443
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 444
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 445
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Décembre 2015 - n°408 - 446
https://www.nxtbook.fr/newpress/celog/celog-expertises-2210_483
https://www.nxtbook.fr/newpress/celog/celog-expertises-2209_482
https://www.nxtbook.fr/newpress/celog/celog-expertises-2207_481
https://www.nxtbook.fr/newpress/celog/celog-expertises-2206_480
https://www.nxtbook.fr/newpress/celog/celog-expertises-2205_479
https://www.nxtbook.fr/newpress/celog/celog-expertises-2204_478
https://www.nxtbook.fr/newpress/celog/celog-expertises-2203_477
https://www.nxtbook.fr/newpress/celog/celog-expertises-2202_476
https://www.nxtbook.fr/newpress/celog/celog-expertises-2201_475
https://www.nxtbook.fr/newpress/celog/celog-expertises-2112_474
https://www.nxtbook.fr/newpress/celog/celog-expertises-2111_473
https://www.nxtbook.fr/newpress/celog/celog-expertises-2110_472
https://www.nxtbook.fr/newpress/celog/celog-expertises-2109_471
https://www.nxtbook.fr/newpress/celog/celog-expertises-2107_470
https://www.nxtbook.fr/newpress/celog/celog-expertises-2106_469
https://www.nxtbook.fr/newpress/celog/celog-expertises-2105_468
https://www.nxtbook.fr/newpress/celog/celog-expertises-2104_467
https://www.nxtbook.fr/newpress/celog/celog-expertises-2103_466
https://www.nxtbook.fr/newpress/celog/celog-expertises-2102_465
https://www.nxtbook.fr/newpress/celog/celog-expertises-2101_464
https://www.nxtbook.fr/newpress/celog/celog-expertises-2012_463
https://www.nxtbook.fr/newpress/celog/celog-expertises-2011_462
https://www.nxtbook.fr/newpress/celog/celog-expertises-2010_461
https://www.nxtbook.fr/newpress/celog/celog-expertises-2009_460
https://www.nxtbook.fr/newpress/celog/celog-expertises-2007_459
https://www.nxtbook.fr/newpress/celog/celog-expertises-2006_458
https://www.nxtbook.fr/newpress/celog/celog-expertises-2005_457
https://www.nxtbook.fr/newpress/celog/celog-expertises-2004_456
https://www.nxtbook.fr/newpress/celog/celog-expertises-2003_455
https://www.nxtbook.fr/newpress/celog/celog-expertises-2002_454
https://www.nxtbook.fr/newpress/celog/celog-expertises-2001_453
https://www.nxtbook.fr/newpress/celog/celog-expertises-1912_452
https://www.nxtbook.fr/newpress/celog/celog-expertises-1911_451
https://www.nxtbook.fr/newpress/celog/celog-expertises-1910_450
https://www.nxtbook.fr/newpress/celog/celog-expertises-1909_449
https://www.nxtbook.fr/newpress/celog/celog-expertises-1907_448
https://www.nxtbook.fr/newpress/celog/celog-expertises-1906_447
https://www.nxtbook.fr/newpress/celog/celog-expertises-1905_446
https://www.nxtbook.fr/newpress/celog/celog-expertises-1904_445
https://www.nxtbook.fr/newpress/celog/celog-expertises-1903_444
https://www.nxtbook.fr/newpress/celog/celog-expertises-1902_443
https://www.nxtbook.fr/newpress/celog/celog-expertises-1901_442
https://www.nxtbook.fr/newpress/celog/celog-expertises-1812_441
https://www.nxtbook.fr/newpress/celog/celog-expertises-1811_440
https://www.nxtbook.fr/newpress/celog/celog-expertises-1810_439
https://www.nxtbook.fr/newpress/celog/celog-expertises-1809_438
https://www.nxtbook.fr/newpress/celog/celog-expertises-1807_437
https://www.nxtbook.fr/newpress/celog/celog-expertises-1806_436
https://www.nxtbook.fr/newpress/celog/celog-expertises-1805_435
https://www.nxtbook.fr/newpress/celog/celog-expertises-1804_434
https://www.nxtbook.fr/newpress/celog/celog-expertises-1803_433
https://www.nxtbook.fr/newpress/celog/celog-expertises-1802_432
https://www.nxtbook.fr/newpress/celog/celog-expertises-1801_431
https://www.nxtbook.fr/newpress/celog/celog-expertises-1712_430
https://www.nxtbook.fr/newpress/celog/celog-expertises-1711_429
https://www.nxtbook.fr/newpress/celog/celog-expertises-1710_428
https://www.nxtbook.fr/newpress/celog/celog-expertises-1709_427
https://www.nxtbook.fr/newpress/celog/celog-expertises-1707_426
https://www.nxtbook.fr/newpress/celog/celog-expertises-1706_425
https://www.nxtbook.fr/newpress/celog/celog-expertises-1705_424
https://www.nxtbook.fr/newpress/celog/celog-expertises-1704_423
https://www.nxtbook.fr/newpress/celog/celog-expertises-1703_422
https://www.nxtbook.fr/newpress/celog/celog-expertises-1702_421
https://www.nxtbook.fr/newpress/celog/celog-expertises-1701_420
https://www.nxtbook.fr/newpress/celog/celog-expertises-1612_419
https://www.nxtbook.fr/newpress/celog/celog-expertises-1611_418
https://www.nxtbook.fr/newpress/celog/celog-expertises-1610_417
https://www.nxtbook.fr/newpress/celog/celog-expertises-1609_416
https://www.nxtbook.fr/newpress/celog/celog-expertises-1607_415
https://www.nxtbook.fr/newpress/celog/celog-expertises-1606_414
https://www.nxtbook.fr/newpress/celog/celog-expertises-1605_413
https://www.nxtbook.fr/newpress/celog/celog-expertises-1604_412
https://www.nxtbook.fr/newpress/celog/celog-expertises-1603_411
https://www.nxtbook.fr/newpress/celog/celog-expertises-1602_410
https://www.nxtbook.fr/newpress/celog/celog-expertises-1601_409
https://www.nxtbook.fr/newpress/celog/celog-expertises-1512_408
https://www.nxtbook.fr/newpress/celog/celog-expertises-1511_407
https://www.nxtbook.fr/newpress/celog/celog-expertises-1510_406
https://www.nxtbook.fr/newpress/celog/celog-expertises-1509_405
https://www.nxtbook.fr/newpress/celog/celog-expertises-1507_404
https://www.nxtbook.fr/newpress/celog/celog-expertises-1506_403
https://www.nxtbook.fr/newpress/celog/celog-expertises-1502_399
https://www.nxtbookmedia.com