Expertises des Systèmes d'information - Janvier 2020 - N°453 - Le mensuel du droit de l'informatique et du multimédia - 9

JO :// Décret modifiant les règles sur le secret défens.
Le décret du 2 décembre 2019 relatif aux modalités de
classification et de protection du secret de la défense
nationale est paru au JO du 3 décembre suivant. Il
modifie et complète les règles relatives aux modalités
de classification et de protection des informations et
supports classifiés, des systèmes d'information traitant

de telles informations ainsi que des lieux abritant
des éléments couverts par le secret de la défense
nationale. Il substitue un système à deux niveaux de
classification au système antérieur à trois niveaux. Il
s'agit d'aligner les standards de protection nationaux
sur les standards internationaux.

LE PROCÈS DU SOCIAL RANKING
La Cour des droits et des libertés s'est
prononcée sur le cas de deux personnes
confrontées au système de notation
sociale, mis en place par un prestataire
sur la base de 221 critères, et employé par
toute la société. Un homme a perdu son
travail, son logement, etc., en raison de
la chute de sa note car sa femme l'avait
accusé de l'avoir trompée. Une femme
est accusée, quant à elle, d'avoir fait appel
aux services d'une société pour faire
artificiellement gonfler sa note afin de
lui permettre de postuler à un emploi
très qualifié.
Vous l'aurez compris, il s'agit d'un
procès fictif  : aucun système global
de notation n'est, à ce jour, utilisé en
France. En revanche, il est en train d'être
implanté en Chine. D'où l'idée proposée
par l'association des Jurisnautes en
partenariat avec les éditions Dalloz et
l'Assemblée nationale, de réfléchir, par
anticipation, aux problématiques par le
biais de la fiction. La Cour des droits et des
libertés, imaginée pour l'occasion, était
présidée par le magistrat Jean-Baptiste
Crabières et assisté de deux assesseurs,
les professeurs de droit Judith Rochfeld
et Grégoire Loiseau, un rapporteur
public en la personne de Valéry Turcey
(président de la chambre d'instruction
de la cour d'appel de Paris) et de
prestigieux jurés : les députés Laure de la
Raudière et Eric Bothorel, tous les deux
investis dans les questions touchant
au numérique, Catherine Chambon,
sous-directrice de la lutte contre la
cybercriminalité,
Laurent
Buanec,
directeur général adjoint de Twitter
France, Michel Eltchaninoff, rédacteur
en chef de Philosophie Magazine,
Pierre Berlioz, professeur de droit,
Jean-Louis Humblet, DG d'Etowline, les
avocats des parties  : Emmanuel Daoud
(avocat), Florence Lardet et Françoise
Barbier-Chassaing (magistrates), Arthur
Gaudron (chercheur mines ParisTech),
Catherine Millet Ursin, Gérard Haas
et Frédéric Picard, et deux témoins  :
Elise Berlinsky (Data scientist) et
l'entrepreneur Tariq Krim.
La notation ne nous est pas étrangère  ;
elle constitue une composante de notre
vie. Nous sommes notés à l'école, dans
notre vie professionnelle, les candidats
aux élections obtiennent des scores,

les sociétés sont cotées, la situation
financière des Etats fait l'objet d'une
notation pour emprunter sur le marché,
etc. Comme l'a rappelé Gérard Haas,
qui incarnait le rôle du défenseur de
l'opérateur en charge de la notation,
celle-ci a son utilité  ; elle permet
d'instaurer la confiance et d'offrir à la
personne un moyen de se démarquer,
d'être gratifiée. Mais la notation sociale
imaginée dans ce procès fictif, qu'on a
vue dans la série Black Miroir et qui se
met en place en Chine, est d'une autre
nature. Il s'agit d'évaluer une personne
dans sa globalité à partir d'une multitude
de données, d'estimer l'ensemble de la
personne avec une note, de la réduire à
une statistique. On tente de modéliser
la subjectivité objectivement, a expliqué
la data scientist Elise Berlinsky. Mais
peut-on établir des statistiques sur la
subjectivité .
Le risque est d'induire un changement
de comportement ou une autocensure.
Tariq Krim a cité le cybernéticien
Norbert Wiener qui avait écrit que la
rétroaction contrôle la machine et elle
nous contrôlera. Le chercheur Arthur
Goudron a précisé que la note influe
sur le système, la personne voulant se
montrer conforme au comportement
attendu. Si la notation n'est pas nouvelle,

EXPERTISES Janvier 2020

c'est la concentration de l'évaluation de
la personne en une note, élaborée par
une entité, un opérateur unique qui pose
problème, selon Valéry Torcey. Celleci doit être encadrée par les principes
d'égalité, de proportionnalité et de
non-discrimination.
Après deux heures et demi de débats,
sous les ors de l'hôtel de Lassay de
l'Assemblée nationale, la Cour s'est
prononcée en faveur des personnes qui
s'opposaient au système mais aussi, sans
surprise, pour l'interdiction du système
de notation sociale car il est contraire
aux principes de dignité humaine et
d'égalité.
Ce faux tribunal a jugé en 2019 une
réalité censée exister en 2028, avec notre
regard actuel. En neuf années, beaucoup
de choses peuvent se passer  : une
guerre, des attentats, des changements
politiques, etc. Nous savons que le
recours exceptionnel à des technologies
intrusives, ou susceptibles de porter
atteinte aux libertés individuelles,
a toujours tendance à se banaliser,
à se généraliser. Et puis, nous nous
habituons tranquillement aux évolutions
technologiques. Qui aurait imaginé, il y
a dix ans, que de nombreuses personnes
débloqueraient leur téléphone mobile
avec leur empreinte digitale, que les
individus dialogueraient avec un
assistant personnel pour commander
des actions, etc.

9
Expertises des Systèmes d'information - Janvier 2020 - N°453 - Le mensuel du droit de l'informatique et du multimédia

Table des matières de la publication Expertises des Systèmes d'information - Janvier 2020 - N°453 - Le mensuel du droit de l'informatique et du multimédia
