Expertises des Systèmes d'information - Juin 2021 - N°469 - Le mensuel du droit de l'informatique et du multimédia - 228

INTER VIEW
On a bien vu toute la puissance du RGPD et sa capacité
à être très opérationnel, qui est en grande partie
d'inspiration anglo-saxonne et notamment américaine.
Qu'aurait-il fallu faire, et qu'auriez-vous souhaité
pour que cette approche soit plus audacieuse ?
J'aurais d'abord rédigé une charte de la robotique, et opté
pour une approche par les grands principes, quelque
chose de beaucoup plus proche de ce que proposait le
Parlement européen, à savoir une réglementation en tant
que telle, et un encadrement juridique de la gestion des
risques.
Avec aussi la question de la responsabilité ?
En effet, la question de la responsabilité, celle de la
dignité, et l'application des droits humains aux robots.
Je crois qu'aujourd'hui, la robotique et l'IA incrustée
dans un ensemble, dans une coque quelle qu'elle soit,
nous confrontent à un nouveau monde. Dans ce cadre,
l'approche par le risque me paraît, encore une fois, intelligente
et pertinente. Ce n'est pas suffisant mais c'est une
première étape vers un véritable encadrement juridique.
Certes, comme je l'ai dit, des questions fondamentales se
posent, notamment sur la prise de décision en dernier
ressort, sur les rapports entre les hommes et les robots,
sur la discrimination, sur la taxe sur les robots et sur la
personnalité juridique des robots. Il s'agit d'une nécessaire
prise de conscience, et il faut en passer par là. Je suis
un homme du « et » pas un homme du « ou », expression
que j'emprunte à Joël de Rosnay : à l'occasion de l'une
de ses premières conférences sur l'internet, ce dernier
avait souligné le fait que lorsque les livres sont arrivés,
on a élaboré un droit du livre, puis lorsque la presse est
arrivée, on a élaboré un droit
de la presse, idem pour la radio
le téléphone, la télévision, etc.
A chaque fois, c'était ou l'un,
ou l'autre. Mais jamais « et ».
Avec l'internet,
l'ensemble des
vecteurs de communication ont
fusionné : c'est du texte « et » de
la radio, du cinéma « et » du livre... Il faut donc repenser
la façon d'approcher la technologie et l'économie, et
dessiner des règles de droit nouvelles.
Faudrait-il privilégier la décision de l'homme ou celle
de la machine ?
Il me semble qu'il ne faut pas laisser subsister, par exemple,
le dilemme que j'évoquais s'agissant de savoir qui de
l'humain ou du robot doit prendre la décision en dernier
ressort. A mes yeux, on a dépassé en la matière le stade
de l'éthique. Il est temps de passer au stade opérationnel.
Si les deux intelligences artificielles sont d'accord, je pense
qu'il faut donner la main à l'intelligence artificielle sur
l'humain. Si par contre les deux intelligences artificielles
sont incapables de converger vers une solution unique,
alors il faut donner à l'humain la décision en dernier
ressort, dans les cas extrêmement rares. Voilà des
éléments que l'on peut déjà apporter. On trouve déjà
228
des premières applications de ces règles dans les systèmes
algorithmiques intégrés aux voitures autonomes. Dans ce
secteur, la question dont est appréhendée la délégation
est une reconnaissance en creux de la théorie de la
personnalité robot. S'il y a un délégateur, c'est bien qu'il
est autonome, et qu'il doit être responsable. Sauf à créer
une fiction de responsabilité pour compte de tiers.
Donc c'est vraiment l'autonomie qui est le critère de la
responsabilité ?
L'autonomie intellectuelle est la véritable autonomie, qui
se trouve démultipliée par la mobilité. C'est pour cela que
je parle d'autonomie et de mobilité. Le robot est à la fois
autonome et mobile.
Comme les voitures. D'ailleurs, que vous inspire
l'accident de la Tesla aux Etats-Unis, dernièrement ?
Il me faudrait mieux connaître le dossier, parce que ce que
j'en ai lu est assez contradictoire. Tesla a communiqué
sur le fait que le système d'autonomie n'était pas enclenché.
Aujourd'hui, de toutes façons, on se situe en niveau
3, c'est le niveau juridiquement applicable, celui dans le
cadre duquel l'autopilotage est enclenché. La machine
prend des décisions seule et circule sur une catégorie de
voies particulières, des voies de type autoroutes, où il n'y
a personne dans le sens inverse, pas de piétons, pas de
cyclistes, pas d'obstacles. Dans le niveau 3, le conducteur
reste en position de superviseur. Ce niveau correspond à
l'état de la technologie d'aujourd'hui. Mais on avance à
une vitesse folle. Il vaudrait mieux laisser les voitures aux
robots qu'aux humains, il y aurait moins d'accidents...
« Ce n'est absolument pas un principe
de précaution mais bien un principe
de minimisation du risque »
... mais il n'y aura plus le plaisir de conduire.
Le plaisir de la conduite, lorsqu'elle
conduit à tant de morts,
ne me paraît pas admissible et
acceptable dans une
société
démocratique. On peut conduire
sans forcément tuer.
Je ne sais pas si psychologiquement
les gens sont prêts à ne plus conduire, mais
c'est un autre débat.
Le monde de demain sera celui dans lequel le conducteur
ne conduit pas, où le temps de transport deviendra un
temps de loisir ou de travail. La mutation réside dans le
fait de permettre au conducteur de récupérer du temps.
S'il veut conduire, il ira le faire sur des circuits.
Une ordonnance en date du 14 avril vient d'être
publiée.
En effet, et ce texte reporte la responsabilité sur le
constructeur dans le cadre de la délégation de conduite.
On a créé un système d'irresponsabilité du conducteur,
ce qui me paraît tout à fait normal. Comme je l'ai dit, ce
texte est également une reconnaissance en creux de
la personnalité juridique que je défends. Il s'agit d'une
approche par les risques car le constructeur est responsable,
mais c'est une responsabilité de droit et non pas
EXPERTISES JUIN 2021
Expertises des Systèmes d'information - Juin 2021 - N°469 - Le mensuel du droit de l'informatique et du multimédia

Table des matières de la publication Expertises des Systèmes d'information - Juin 2021 - N°469 - Le mensuel du droit de l'informatique et du multimédia
