Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 379

Conflit Armé
Droit applicable

Droit International Humanitaire (dit droit de la guerre ou
droit des conflits armés)

Droit International des Droits de
l'Homme

- Convention de Genève

- Convention européenne des droits
de l'Homme

- Convention de la Haye

Textes applicables

Conflit Non Armé

- Règles d'engagement

- Déclaration universelle des droits de
l'Homme
- Pacte international relatif aux droits
civils et politiques

Principe de distinction (l'élimination ciblée d'un combattant
ou d'un civil participant activement aux hostilités est légale
si nécessaire).

Règles
applicables

Principe de proportionnalité dans l'usage de la force

Elimination ciblée illégale
Exception cas de nécessité si aucun
autre moyen de préserver sa vie ou
prévenir une menace

Interdiction de recours aux armes causant des maux
superflus
Interdiction des attaques sans discrimination (ie de
frapper indistinctement des objectifs militaires et des
personnes civiles)

de l'autorité légale, la légitime défense
et l'état de nécessité. Qu'en sera-t-il
demain ?
Il pourra en effet être difficile de partager les responsabilités en raison de la
complexité des boucles de décision.
Par exemple, qui sera responsable
en cas d'une erreur provenant d'un
capteur responsable de la collection
de données imprécises ou incomplètes ? Ou de l'erreur d'interprétation
des données collectées ? Cette erreur
incombe-t-elle au capteur déficient ou
au militaire qui l'a mal interprétée ?
Lors d'une opération, les robots interprèteront et évalueront les situations
grâce aux modèles de leurs algorithmes. La question sera dès lors de
savoir si nous serons en mesure de
connaître ces modèles et déterminer
leurs limites. En effet, quelle sera la
fiabilité d'un algorithme pour déterminer les comportements dangereux ? Les algorithmes seront-ils
capables de distinguer clairement
les civils des militaires ? Les gens qui
souhaiteraient se rendre pourront-ils
être différenciés de ceux qui ruseraient ? En d'autres termes, voulonsnous nous en remettre aux machines
pour analyser les intentions des
individus ?
Si le robot est appelé à jouer un rôle
croissant dans les conflits armés,
nous devrons alors nous assurer
du respect des normes internationales applicables. Par exemple, du
respect du principe de proportionnalité dans l'emploi de la force ou dans
le degré de létalité d'une frappe. Cela

nécessiterait alors de concevoir une
programmation des règles juridiques
du Droit international humanitaire,
comme les règles d'engagement, au
sein des robots.
Enfin, l'erreur de programmation
devra également être distinguée
de l'erreur dans l'exécution de la
programmation. Enfin, se posera
surement de manière inédite la caractérisation de l'élément intentionnel de
l'homme dans le cas des machines
autonomes à moins que l'on ne se
rabatte sur la faute par négligence
(article 121-3 code pénal), c'est-à-dire
aux cas des personnes n'ayant pas
créé directement le dommage mais
ayant contribué à créer une situation
qui en a permis la réalisation ; ou bien
au crime d'omission, comme l'infraction de non-assistance de personne en
danger prévue par l'article 223-6 al.2
du code pénal.

L'ÉTHIQUE DE LA
ROBOTIQUE
Le droit ayant toujours un temps de
décalage avec la technologie, il nous
paraît important de pouvoir évoquer
ces enjeux en amont afin d'engager une réflexion critique et prévoir
les mécanismes les plus adaptés en
conséquence.
Comment valider, certifier les modèles
sur lesquels sont fondées les interprétations, évaluations et décisions
des robots ? Comment trancher entre
le point de vue d'un humain et d'un
robot, et quelle décision primera ?

EXPERTISES NOVEMBRE 2016

Les pilotes de drones de demain seront
avant tout des décideurs éthiques.
Nous devrons déterminer en amont
la façon dont seront gérées les situations en cas de conflits d'évaluation,
d'interprétation ou de décisions entre
humain et robot, en intégrant le fait
que des défaillances aussi bien de la
part de l'homme que de la machine
sont possibles, et partant doivent être
prises en compte.
L'imputabilité et la responsabilité des
actions entreprises par une machine
renvoient également à la question de
la définition du partage de l'autorité.
A savoir, le degré d'autonomie dont
nous doterons le robot et le degré de
contrôle final de l'opérateur humain.
Le corpus juris existant devra être
complété par un corpus éthicus.
Que les règles juridiques soient
ou non suffisantes, il s'agira avant
tout de déterminer l'acceptabilité
ou non de tels systèmes. La question ne sera pas uniquement « peuton ? » mais « veut-on ? ».
Quelle éthique dans le choix des
critères de ces algorithmes ? Quelles
valeurs doivent guider leurs concepteurs ? L'éthique de la robotique supposera l'encadrement de la conception et
de l'exploitation des algorithmes qui
deviendront eux aussi à terme de plus
en plus complexes et autonomes.

Maître Adrien BASDEVANT
Avocat, Lysias Partners

379



Table des matières de la publication Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418

Couverture
Editorial & Sommaire
MAGAZINE EXTRATERRITORIALITÉ : LA SOLUTION ANTI-PATRIOT ACT
INTERVIEW E-COLONISATION
DOCTRINE
CYBERSÉCURITÉ, CYBERATTAQUES ET CATASTROPHES
NOUVELLES TECHNOLOGIES : DRONES ET ROBOTS DANS LE CONTEXTE MILITAIRE
CONTRAT CGV D'AMAZON : L'EUROPE S'EN MÈLE
CYBERSÉCURITÉ SGDSN ET ANSSI : BILAN DE LA STRATÉGIE FRANÇAISE
JURISPRUDENCE M. B. / BUNDESREPUBLIK DEUTSCHLAND
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - Couverture
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - Editorial & Sommaire
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - MAGAZINE EXTRATERRITORIALITÉ : LA SOLUTION ANTI-PATRIOT ACT
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 356
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 357
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 358
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 359
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 360
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 361
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 362
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 363
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 364
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 365
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - INTERVIEW E-COLONISATION
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 367
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 368
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 369
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 370
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - CYBERSÉCURITÉ, CYBERATTAQUES ET CATASTROPHES
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 372
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 373
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 374
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 375
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 376
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - NOUVELLES TECHNOLOGIES : DRONES ET ROBOTS DANS LE CONTEXTE MILITAIRE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 378
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 379
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 380
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - CONTRAT CGV D'AMAZON : L'EUROPE S'EN MÈLE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 382
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - CYBERSÉCURITÉ SGDSN ET ANSSI : BILAN DE LA STRATÉGIE FRANÇAISE
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 384
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - JURISPRUDENCE M. B. / BUNDESREPUBLIK DEUTSCHLAND
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 386
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 387
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 388
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 389
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 390
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 391
Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Novembre 2016 - n°418 - 392
https://www.nxtbook.fr/newpress/celog/celog-expertises-2210_483
https://www.nxtbook.fr/newpress/celog/celog-expertises-2209_482
https://www.nxtbook.fr/newpress/celog/celog-expertises-2207_481
https://www.nxtbook.fr/newpress/celog/celog-expertises-2206_480
https://www.nxtbook.fr/newpress/celog/celog-expertises-2205_479
https://www.nxtbook.fr/newpress/celog/celog-expertises-2204_478
https://www.nxtbook.fr/newpress/celog/celog-expertises-2203_477
https://www.nxtbook.fr/newpress/celog/celog-expertises-2202_476
https://www.nxtbook.fr/newpress/celog/celog-expertises-2201_475
https://www.nxtbook.fr/newpress/celog/celog-expertises-2112_474
https://www.nxtbook.fr/newpress/celog/celog-expertises-2111_473
https://www.nxtbook.fr/newpress/celog/celog-expertises-2110_472
https://www.nxtbook.fr/newpress/celog/celog-expertises-2109_471
https://www.nxtbook.fr/newpress/celog/celog-expertises-2107_470
https://www.nxtbook.fr/newpress/celog/celog-expertises-2106_469
https://www.nxtbook.fr/newpress/celog/celog-expertises-2105_468
https://www.nxtbook.fr/newpress/celog/celog-expertises-2104_467
https://www.nxtbook.fr/newpress/celog/celog-expertises-2103_466
https://www.nxtbook.fr/newpress/celog/celog-expertises-2102_465
https://www.nxtbook.fr/newpress/celog/celog-expertises-2101_464
https://www.nxtbook.fr/newpress/celog/celog-expertises-2012_463
https://www.nxtbook.fr/newpress/celog/celog-expertises-2011_462
https://www.nxtbook.fr/newpress/celog/celog-expertises-2010_461
https://www.nxtbook.fr/newpress/celog/celog-expertises-2009_460
https://www.nxtbook.fr/newpress/celog/celog-expertises-2007_459
https://www.nxtbook.fr/newpress/celog/celog-expertises-2006_458
https://www.nxtbook.fr/newpress/celog/celog-expertises-2005_457
https://www.nxtbook.fr/newpress/celog/celog-expertises-2004_456
https://www.nxtbook.fr/newpress/celog/celog-expertises-2003_455
https://www.nxtbook.fr/newpress/celog/celog-expertises-2002_454
https://www.nxtbook.fr/newpress/celog/celog-expertises-2001_453
https://www.nxtbook.fr/newpress/celog/celog-expertises-1912_452
https://www.nxtbook.fr/newpress/celog/celog-expertises-1911_451
https://www.nxtbook.fr/newpress/celog/celog-expertises-1910_450
https://www.nxtbook.fr/newpress/celog/celog-expertises-1909_449
https://www.nxtbook.fr/newpress/celog/celog-expertises-1907_448
https://www.nxtbook.fr/newpress/celog/celog-expertises-1906_447
https://www.nxtbook.fr/newpress/celog/celog-expertises-1905_446
https://www.nxtbook.fr/newpress/celog/celog-expertises-1904_445
https://www.nxtbook.fr/newpress/celog/celog-expertises-1903_444
https://www.nxtbook.fr/newpress/celog/celog-expertises-1902_443
https://www.nxtbook.fr/newpress/celog/celog-expertises-1901_442
https://www.nxtbook.fr/newpress/celog/celog-expertises-1812_441
https://www.nxtbook.fr/newpress/celog/celog-expertises-1811_440
https://www.nxtbook.fr/newpress/celog/celog-expertises-1810_439
https://www.nxtbook.fr/newpress/celog/celog-expertises-1809_438
https://www.nxtbook.fr/newpress/celog/celog-expertises-1807_437
https://www.nxtbook.fr/newpress/celog/celog-expertises-1806_436
https://www.nxtbook.fr/newpress/celog/celog-expertises-1805_435
https://www.nxtbook.fr/newpress/celog/celog-expertises-1804_434
https://www.nxtbook.fr/newpress/celog/celog-expertises-1803_433
https://www.nxtbook.fr/newpress/celog/celog-expertises-1802_432
https://www.nxtbook.fr/newpress/celog/celog-expertises-1801_431
https://www.nxtbook.fr/newpress/celog/celog-expertises-1712_430
https://www.nxtbook.fr/newpress/celog/celog-expertises-1711_429
https://www.nxtbook.fr/newpress/celog/celog-expertises-1710_428
https://www.nxtbook.fr/newpress/celog/celog-expertises-1709_427
https://www.nxtbook.fr/newpress/celog/celog-expertises-1707_426
https://www.nxtbook.fr/newpress/celog/celog-expertises-1706_425
https://www.nxtbook.fr/newpress/celog/celog-expertises-1705_424
https://www.nxtbook.fr/newpress/celog/celog-expertises-1704_423
https://www.nxtbook.fr/newpress/celog/celog-expertises-1703_422
https://www.nxtbook.fr/newpress/celog/celog-expertises-1702_421
https://www.nxtbook.fr/newpress/celog/celog-expertises-1701_420
https://www.nxtbook.fr/newpress/celog/celog-expertises-1612_419
https://www.nxtbook.fr/newpress/celog/celog-expertises-1611_418
https://www.nxtbook.fr/newpress/celog/celog-expertises-1610_417
https://www.nxtbook.fr/newpress/celog/celog-expertises-1609_416
https://www.nxtbook.fr/newpress/celog/celog-expertises-1607_415
https://www.nxtbook.fr/newpress/celog/celog-expertises-1606_414
https://www.nxtbook.fr/newpress/celog/celog-expertises-1605_413
https://www.nxtbook.fr/newpress/celog/celog-expertises-1604_412
https://www.nxtbook.fr/newpress/celog/celog-expertises-1603_411
https://www.nxtbook.fr/newpress/celog/celog-expertises-1602_410
https://www.nxtbook.fr/newpress/celog/celog-expertises-1601_409
https://www.nxtbook.fr/newpress/celog/celog-expertises-1512_408
https://www.nxtbook.fr/newpress/celog/celog-expertises-1511_407
https://www.nxtbook.fr/newpress/celog/celog-expertises-1510_406
https://www.nxtbook.fr/newpress/celog/celog-expertises-1509_405
https://www.nxtbook.fr/newpress/celog/celog-expertises-1507_404
https://www.nxtbook.fr/newpress/celog/celog-expertises-1506_403
https://www.nxtbook.fr/newpress/celog/celog-expertises-1502_399
https://www.nxtbookmedia.com