Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 30

TECH
DÉVELOPPEMENT DE L'INTELLIGENCE ARTIFICIELLE : QUELLE SUPERVISION DES ALGORITHMES ?
Publié par Marie Brière ENSAE 1998 | 30/11/2021 | Option Finance
L
e 6 octobre, les députés européens ont adopté une résolution mettant
en avant l'importance des contrôles humains poura la supervision des
algorithmes d'Intelligence Artificielle (IA) utilisés par les autorités
judiciaires et la police. Ces algorithmes se développent également très
largement dans le secteur financier. Comment les superviser ?
L'IA dans le secteur financier : opportunités et challenges
L'utilisation d'algorithmes d'IA se développe rapidement dans le secteur financier,
avec de nombreux avantages. Pour les consommateurs, l'IA permet par exemple
de simplifier et d'accélérer les procédures d'accès au crédit, d'offrir un meilleur
accès aux conseils financiers, plus personnalisé, via les robo-advisors, ou des
interactions plus efficaces via la mise en place de chatbots. Cela permet également
une tarification assurantielle plus fine. Pour les institutions financières également,
le développement de l'IA présente de nombreux intérêts : identification de transactions
frauduleuses, scoring de crédit automatique, etc.
Mais l'utilisation de ces algorithmes peut également exacerber certains risques. Par
exemple, les algorithmes d'apprentissage profond (deep learning) qui font appel à
un très grand nombre de paramètres, peuvent avoir des comportements inattendus.
Ils peuvent être très sensibles à de petites modifications des inputs1
et changer de
façon arbitraire de prédiction. D'une manière générale, les algorithmes d'IA peuvent
présenter des biais non intentionnels ou de la discrimination envers certains groupes.
Ainsi, même s'ils présentent d'excellentes performances sur un grand nombre de
tâches, leurs mécanismes sous-jacents sont très différents de ceux des humains
et ne sont pas nécessairement toujours bien compris. Leur utilisation peut générer
des risques nouveaux, qui peuvent se traduire par des expositions financières et des
risques opérationnels pour les institutions financières qui les utilisent.
De l'importance des algorithmes explicables
Dans ce contexte, l'explicabilité des algorithmes est essentielle, à la fois pour les
utilisateurs, pour qui les explications rendent le système plus facile d'utilisation
et favorisent la confiance, mais également pour les régulateurs, qui devront en
superviser l'usage2
.
Deux aspects des modèles d'apprentissage automatique peuvent nécessiter une
explication : (i) le processus d'apprentissage, pour lequel il est nécessaire de comprendre
l'algorithme, la fonction objectif, les données d'entraînement et de test, les
paramètres de réglage du modèle, et (ii) le processus d'inférence dans lequel le
modèle entraîné fait des prédictions à l'aide de données réelles. Dans cette deuxième
phase, on pourra s'interroger sur les principaux facteurs ayant conduit à la décision,
comment la décision serait modifiée si l'on altérait l'un de ces facteurs. Enfin, il
peut être utile de visualiser synthétiquement le processus de décision.
L'explicabilité peut être recherchée en amont de la phase d'apprentissage de
l'algorithme (via une analyse exploratoire des données permettant par exemple de
mesurer la dépendance à des variables sensibles), pendant l'apprentissage (via
des modèles conjoints de prédiction/explication), ou après dans une phase postmodélisation.
On peut également distinguer les méthodes cherchant une
explicabilité globale (c'est-à-dire la capacité à expliquer le fonctionnement d'un
algorithme dans son ensemble), et celles fournissant une explicabilité locale,
permettant d'expliquer une décision algorithmique particulière, en quantifiant
localement l'influence des variables prédictives sur la décision (voir par exemple
les méthodes LIME, SHAP ou SLIM3
ou les méthodes d'explication contrefactuelle)4
.
Faire face aux risques de discrimination
Un autre enjeu lié à l'utilisation des algorithmes est celui de leur équité et de leur
éthique5
statistiques permettant de les mesurer6
, et d'y remédier soit en changeant
l'échantillon de données utilisé dans le cadre de l'apprentissage algorithmique,
soit en modifiant la règle de décision pour favoriser l'absence de lien entre la
décision et la variable sensible.
Quelle supervision ?
A l'heure actuelle, il n'existe pas de cadre unifié pour la régulation des algorithmes
d'IA, mais la plupart des pays ont émis des recommandations et des principes
généraux (voir par exemple les principes de l'OCDE (2019) ou le livre blanc de la
Commission Européenne - 2020), qui s'articulent généralement autour des
5 principes suivants : fiabilité, responsabilité, transparence, équité et éthique7
.
La réglementation RGPD (2016) donne aux utilisateurs d'algorithmes un droit à l'explication
des résultats, un droit de contester la décision, et d'obtenir une
intervention humaine de la part du responsable du traitement. De son côté, le
rapport Villani (2018) met en avant la nécessité de définir des outils d'évaluation
de la discrimination. Même si le règlement européen interdit de prendre en compte
les données personnelles sensibles (orientation religieuse, politique, sexuelle,
origine ethnique, ...) sans consentement explicite ou intérêt public substantiel, il
ne suffit pas que la variable " sensible " ne soit pas prise en compte ou même supprimée
des données d'apprentissage pour que la décision soit sans biais.
L'information sensible peut être corrélée aux informations non sensibles (habitudes
de consommation, etc.) et ainsi participer au biais de la décision. L'Artificial
Intelligence Act (Avril 2021) de la Commission Européenne définit les domaines
d'application à haut risque (santé, finance, services publics, transport) et établit
que les notions d'équité, de transparence et de robustesse sont clés.
Avant d'imposer de façon uniforme une exigence d'explicabilité, il est essentiel de
conduire une analyse coûts-bénéfices, en comparant les bénéfices associés à l'explicabilité
à leurs coûts, qui seront différent selon le domaine d'application et de
son impact sur la société. Beaudoin et al. (2020)8
définissent plusieurs catégories
de coûts, en particulier ceux liés au stockage des données dans des registres dédiés9
permettant de reconstituer la décision après coup, les coûts de design de la fonction
d'explication qui peut varier selon les exigences réglementaires du pays concerné.
Enfin, il ne faut pas négliger qu'imposer qu'un algorithme soit explicable et/ou
équitable peut avoir des impacts sur sa précision10
. Par exemple, ces contraintes
peuvent réduire la flexibilité de l'algorithme, en obligeant l'utilisateur à appliquer
toujours la même règle. L'explicabilité peut aussi altérer le principe de sécurité
(certains algorithmes de détection de fraude ou de blanchiment d'argent doivent
rester secrets pour éviter que les criminels ne fassent du reverse engineering afin
d'éviter d'être détectés).
. L'apprentissage est le reflet de la base des données d'entraînement. Si
les données sont biaisées (par exemple, si elles ne sont pas représentatives de la
population, ou si la population examinée présente un biais structurel), l'algorithme
pourra reproduire voire même renforcer ce biais, et donc favoriser la discrimination.
Eviter les biais de discrimination nécessite la mise en place d'indicateurs
30
1 Ce type d'input modifié est appelé " exemple adversariel " .
2 Dupont et al. (2020), " Gouvernance des algorithmes d'intelligence artificielle dans le secteur
financier " , Document de réflexion ACPR.
3 Par exemple, la méthode SHAP permet d'expliquer l'influence de chaque variable prédictive sur 4
les valeurs prédites, de façon agnostique vis-à-vis de la nature du modèle.
4 Une explication contrefactuelle répond à la question : quel changement aussi minimal que
possible dans les variables prédictives aurait conduit à une modification du résultat (par exemple,
une acceptation du crédit) ?
5 Besse P. et al. (2018), " L'IA du quotidien peut-elle être éthique ? " , Statistique et société, 6(3).
6 Par exemple les mesures d' " impact disproportionné " (disparate impact).
7 Pour plus de détail sur les débats réglementaires et les outils mathématiques qui pourraient être
développés, voir le replay de la conférence: https://www.institutlouisbachelier.org/en/ multimedia2/ilb-replay-2/webinar-fair-deep-learning-in-finance-from-implementation-to-regulation-replay/
8
Beaudoin V. et al. (2020), 'Flexible and context-specific AI explainability: a multidisciplinary
approach', Technical report, ArXiv.
9 Cette exigence peut par ailleurs potentiellement entrer en conflit avec la législation qui limite la
possibilité de stocker les données personnelles (RGPD, 2016).
10 Même si l'explication est construite de manière indépendante de l'algorithme, l'exigence
d'explication peut conduire à rejeter une solution difficilement explicable.
ENSAE Alumni Annuaire 2022
https://www.institutlouisbachelier.org/en/multimedia-2/ilb-replay-2/webinar-fair-deep-learning-in-finance-from-implementation-to-regulation-replay/

Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP)

Table des matières de la publication Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP)

Sommaire
• Édito de la Directrice Générale du GENES
• Édito du Directeur de l’ENSAE
• Édito de la Présidente d’ENSAE Alumni
• Édito du Directeur Général de l’INSEE
• Notre sélection
- Climat – Environnement
- Énergie
- Social – Santé
- Tech
- Économie - Finance
• Annuaire des anciens élèves
- Liste alphabétique
- Liste par promotion
- Liste géographique
- Liste par entreprise
- Liste des organismes internationaux
- Liste alphabétique des annonceurs
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - Couv4
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - Couv1
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - Couv2
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 1
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 2
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - Sommaire
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 4
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - • Édito de la Directrice Générale du GENES
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 6
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - • Édito du Directeur de l’ENSAE
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 8
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - • Édito de la Présidente d’ENSAE Alumni
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 10
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - • Édito du Directeur Général de l’INSEE
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - • Notre sélection
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 13
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 14
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - - Climat – Environnement
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 16
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 17
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 18
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 19
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - - Énergie
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 21
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 22
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 23
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 24
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 25
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 26
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - - Social – Santé
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 28
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - - Tech
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 30
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 31
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 32
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 33
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - - Économie - Finance
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 35
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 36
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 37
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 38
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 39
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - 40
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - E1
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - E2
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - - Liste alphabétique
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - Pub1
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - - Liste par promotion
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - - Liste géographique
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - - Liste par entreprise
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - - Liste des organismes internationaux
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - - Liste alphabétique des annonceurs
Annuaire 2022 des Diplômé(e)s ENSAE Paris (IPP) - Couv3
https://www.nxtbookmedia.com