Expertises des Systèmes d'information - Octobre 2022 - N°483 - Le mensuel du droit de l'informatique et du multimédia - 351

notamment avec les algorithmes
qui utilisent la rétropropagation
voire l'apprentissage profond
(«deep learning») à partir de
données non structurées.
Il est donc difficile de déterminer
les enregistrements des données
individuelles qui ont été utilisées
dans la construction du modèle.
Aussi, il peut être nécessaire de
reprendre entièrement ce dernier
pour s'assurer de leur suppression
en respect du Règlement général
sur la protection des données
(RGPD) de l'Union européenne
(UE). Il s'agit d'un processus plus ou
moins long et coûteux qui a aussi
pour défaut de ne pas apporter d'assurance
formelle sur la conformité
de ce qui résulte du modèle révisé,
pas plus que sur sa validité opérationnelle.
Bien des organismes
peuvent ainsi être confrontés à des
défauts de conformité associés à
des pénalités importantes. En effet,
le RGPD encadre le traitement des
données personnelles sur le territoire
de l'Union européenne, en
offrant un cadre juridique unique
pour permettre de développer les
activités numériques au sein de
l'UE fondées sur la confiance des
utilisateurs. Il s'applique à tout
organisme qui traite des données
personnelles, dès
lors qu'il est
établi sur le territoire de l'UE ou
que son activité cible des résidents
européens2. Il concerne également
les sous-traitants de données
personnelles pour le compte
d'autres organismes.
A cet égard, la Commission européenne
souhaite la construction
d'une IA de confiance et éthique
au sein de l'UE, reposant sur
un écosystème d'IA favorable à
l'innovation sur la base d'un futur
règlement sur l'IA et d'une gouvernance
harmonisée. En plus du
RGPD garantissant
la protection
des droits fondamentaux et particulièrement
celui de la protection
des données, l'approche retenue
devrait
garantir
l'interprétation
cohérente des dispositions relatives
aux algorithmes d'IA dans
l'UE.
Il est naturel que les utilisateurs
puissent souhaiter
que leurs
données personnelles et l'influence
qui en découle soient
complètement oubliées. Les
opérateurs et les fournisseurs de
services sont alors fortement incités
à satisfaire cette demande et se
conformer à la loi. Les systèmes
d'oubli devront être conçus pour
permettre une amnésie complète
et rapide des données sensibles
et de leurs lignées. Une lignée
décrivant les transformations,
elle permettra de confirmer que
les données proviennent de
sources fiables et sont dotées de
contrôles suffisants, de façon
à en assurer la traçabilité. Elle
peut être utilisée pour la gestion
des modifications et évaluer les
effets des changements tant au
niveau technologique qu'à celui
des processus opérationnels. Les
systèmes d'oubli devraient pour
cela rendre cette lignée visible
aux utilisateurs, pour le suivi et la
suppression complète et en temps
opportun sur demande, de façon
à ce que les opérations futures
s'exécutent comme si ces données
n'avaient jamais existé, en spécifiant
ce qui est à oublier selon
divers niveaux de granularité.
Ces systèmes devraient donc être
évalués par leur exhaustivité et
leur rapidité à se conformer à la loi.
Pistes à explorer
et désapprentissage
Plutôt que d'avoir à déconstruire,
puis à créer un nouveau modèle
quand les données changent au
point d'affecter le modèle existant,
il serait utile de disposer d'une
technique de «datamnésie» sélective.
Celle-ci reste à inventer pour
ne supprimer que les données
individuelles concernées tout en
laissant le modèle intact. Les outils
actuels utiles à la confidentialité des
données paraissent
insuffisants.
C'est le cas de la «tokenisation», qui
consiste à remplacer une donnée
critique par un élément équivalent
(«token») sans valeur intrinsèque
ou signification exploitable hors
du système.
EXPERTISES OCTOBRE 2022
A son
tour,
la
confidentialité
différentielle tente de résoudre
ce problème en ajoutant une
composante aléatoire aux données
brutes, dénommée «bruit», pour
rendre imperceptibles les données
d'un seul individu, ce qui aurait un
impact plus ou moins limité sur la
précision. De même, l'anonymisation
des données introduit un bruit
en mesure de fausser l'entraînement.
De fait, un niveau élevé de
bruit se traduit par des données
dont l'exactitude et la fiabilité
seront moindres et rendront le
modèle incertain.
Avec l'arrivée de plus en plus massive
de demandes de suppression de
données personnelles, le désapprentissage
devient criant pour ne
pas avoir à subir de graves conséquences,
vu l'incapacité actuelle de
valider la suppression de données
précises dans un modèle associé
aux techniques de «tokenisation»,
de confidentialité différentielle, ou
d'anonymisation. Si la démonstration
de la capacité à extraire
des données sensibles à partir
d'algorithmes et de modèles a été
faite, des méthodes plus avancées
de désapprentissage automatique
sont néanmoins nécessaires avec
comme condition essentielle que
les changements d'entrée n'affectent
ni la validité du modèle, ni
les résultats.
L'objectif vise à produire un cadre
et des algorithmes d'apprentissage
automatique qui permettent de
supprimer un enregistrement ou
un point de données individuelles
et de se retrouver avec un modèle
valide qui a complètement désappris
les données en question. Une
idée serait de séparer les données
d'apprentissage
automatique
en plusieurs composants pour
permettre un aggiornamento
uniquement sur le composant
spécifique lié à la suppression, avant
de le replacer dans l'ensemble des
données pour constituer un modèle
d'apprentissage automatique totalement
fonctionnel. Il serait alors
possible de supprimer des données
tout en ayant à recycler uniquement
351
Expertises des Systèmes d'information - Octobre 2022 - N°483 - Le mensuel du droit de l'informatique et du multimédia

Table des matières de la publication Expertises des Systèmes d'information - Octobre 2022 - N°483 - Le mensuel du droit de l'informatique et du multimédia
