Dauphinews - Le magazine des Alumni - N°10 / Novembre 2023 - 26

PAROLES
GABRIEL TURINICI
Professeur de mathématiques
et chercheur au Ceremade
ESTELLE COGNACQ
Directrice de l'Agence Radio France
IA génératives :
Quels impacts peuvent-elles
avoir sur nos usages et nos
sociétés ? Comment repérer les
fausses informations ? Tel est le
sujet débattu dans le cadre du
podcast " Ex Machina " , dont
voici un extrait des échanges.
Comment savoir si une
information sur ChatGPT est
fiable et vérifiée ?
Gabriel Turinici : Il n'y a pas
d'algorithme particulier à
recommander. Je crois qu'une
bonne partie du chemin est
parcouru lorsque l'on sait que
cela peut être faux. Rien que le
fait de se poser la question,
c'est la moitié de la réponse.
Les fausses informations ne
sont pas nouvelles. On se
rappelle tous de l'histoire d'un
homme, il y a 3000 ans, qui
s'appelle Ulysse. Il se retrouve
face à un deepfake audio : les
chants de sirènes qui veulent
détruire son bateau. Or, parce
qu'il était prévenu du risque, il
réussit à y échapper.
D'un autre côté, vous avez des
gens qui ne sont pas prévenus.
26
Numéro 10 // novembre 2023
Chaque fois que je lis Montaigne,
je suis étonné : il cite
sans filtre des livres de la
période romaine. Parce que
c'est écrit en latin, ce doit être
forcément vrai ! Au Moyen Âge,
des explorateurs ayant à peine
franchi la limite du département
racontaient avoir vu des
dragons. Cinquante ans plus
tard, leurs écrits étaient
considérés comme une vérité
pure. L'esprit initial avec lequel
nous consultons les informations
compte pour beaucoup.
Parfois, cela peut même nous
faire douter de la vérité !
Estelle Cognacq : En effet, la
désinformation a toujours
existé. Sur ce sujet, nous avons
réalisé le podcast " Les infox de
l'histoire " avec France Info.
Nous y parlons par exemple
des pamphlets et articles
complètement inventés qui ont
été écrits sur Marie-Antoinette
à son époque, dont on sait
aujourd'hui qu'ils n'avaient
aucun fondement ! La différence
de nos jours est que la
propagation est bien plus
rapide via les réseaux sociaux
et les nouvelles technologies.
Il y a aussi des phénomènes
d'hallucination : quand la
réponse n'est pas dans
ses bases de données,
l'intelligence artificielle va
sortir la réponse la plus
probable et commet donc
une erreur de sens...
G.T. : Exactement. J'ai fait il y a
quelques jours un test avec
les années du règne de
Napoléon Ier
en tant qu'empereur.
Les années données par
l'IA étaient correctes, mais
quand je lui ai demandé des
références, sur les quatre ou
cinq données, trois n'existaient
pas : page avec erreur 404,
auteur ou livre inconnu...
L'intelligence artificielle, pour le
moment, fait encore des
contresens et de mauvaises
retranscriptions. Son vecteur
d'amélioration vient de testeurs
humains, c'est ironique ! Les
améliorations sont faites par
rapport à la cohérence que les
testeurs humains demandent. Il
du fake plus vrai que nature
ChatGPT, MidJourney... Nous avons tous testé ces intelligences artificielles redoutablement efficaces, capables
de générer à l'envi textes et images.
y aura toujours des hallucinations,
parce que la réponse part
toujours de ce qui est probable
et non de ce qui existe
réellement.
MidJourney génère des
images via une IA. Nous nous
sommes retrouvés face à un
flot incroyable d'images :
le pape François, Emmanuel
Macron, des personnes
faussement ensanglantées...
Y a-t-il un avant et un après ?
E.C. : L'image est en effet plus
complexe que le texte. Les
deepfakes existent déjà depuis
longtemps, tout comme le fait
de créer ou de remonter des
images, des vidéos, de les sortir
de leur contexte... Cependant,
les logiciels progressent à
grands pas. Ce qu'il va falloir
faire, ce que Gabriel disait, c'est
éduquer au doute. On en
revient à un principe philosophique
: l'humain va devoir
douter de tout ce qu'il voit,
entend, lit.
On ne peut pas arrêter ce
mouvement. D'autant que du

Dauphinews - Le magazine des Alumni - N°10 / Novembre 2023

Table des matières de la publication Dauphinews - Le magazine des Alumni - N°10 / Novembre 2023