Magazin n°3 - Anatomie de l'IA

4
MAGAZIN
entretien
« L’humain doit prendre
conscience des valeurs
qu’il veut transmettre »
L’irruption de l’intelligence artificielle dans notre vie pose des
questions éthiques, économiques et spirituelles.
La philosophe Marie-des-Neiges Ruffo de Calabre et le chargé
de mission digitale Hervé Cuillandre assurent que
cette technologie est un outil dont on aurait tort de se passer.
RECUEILLI PAR ALEXANDRE CAMINO ET CLAIRE FERRAGU
Les œuvres de fiction ont façonné
le mythe d’une IA toute puissante
qui menace l’humanité. Qu’en
pensez-vous ?
Hervé Cuillandre. L’IA est partout,
jusqu’au creux de notre main avec
nos téléphones. Il s’agit d’un outil
inéluctable, d’un progrès
technologique dont on ne peut se
passer et dont il faut savoir se
servir. Rien ne sert d’être
catastrophiste. Des activités
disparaîtront mais pas autant que
ce qui était annoncé. Je ne suis pas
d’un optimisme béat, mais l’outil
est intéressant. Il va sûrement nous
amener à créer la société de demain.
Marie-des-Neiges Ruffo de Calabre.
Si on pense que l’intelligence
artificielle va remplacer l’humain ou
qu’elle est une solution absolue à
tous les problèmes, alors elle n’est
nulle part. Il n’y a pas une mais des
IA. Celle qui me permet de choisir
mon chemin n’est pas la même que
celle qui me permet de tenir une
conversation. Il y a des techniques
différentes, toujours maîtrisées par
les humains dont elles dépendent.
Notre compréhension de
l’environnement permet de créer de
la donnée qui alimente cette
technologie. Il faut ensuite
questionner l’algorithme utilisé.
Intelligences artificielle et humaine
s’opposent-elles ?
H. C. Dans l’inconscient collectif,
l’IA finira par occuper des emplois
à notre place. On dit souvent que la
machine va nous remplacer, mais ce
n’est pas le cas. L’humain a une
capacité créative étonnante alors
que la machine se distingue par sa
capacité de calcul et sa rapidité. Ce
n’est pas sur le même champ. Il faut
justement réfléchir aux métiers du
futur. Car, dans le fond, notre
avenir ne sera pas fait d’exactitudes.
Nous sommes les seuls maîtres à
bord. Des humains dans un monde
d’humains. Tout l’enjeu est de faire
de l’IA quelque chose d’utile.
M. R. De facto, elle est un
concentré d’intelligence humaine,
nourrie de données étiquetées par
l’humain. Les erreurs de la machine
peuvent être dues à du piratage par
exemple, elles ne sont pas les
mêmes que celles des humains. On
aura toujours besoin d’humains
pour collaborer avec les machines.
Il n’y aurait donc aucune
concurrence entre les deux ?
M. R. Au contraire, surtout d’un
point de vue économique. Mais, les
systèmes d’IA nécessitent de
l’entretien. On se trompe en
imaginant qu’ils coûtent moins
cher. Le mythe est peut-être là…
H. C. Nous sommes essentiels pour
maintenir toute l’infrastructure qui
la fait fonctionner. Mais n’oublions
pas que l’IA de Google, par
exemple, se nourrit aussi de
questions stupides. Celles-ci
alimentent le fonctionnement de
son moteur de recherche.
M. R. Je suis d’accord. Par
exemple, il y a eu par le passé, une
campagne féministe pour lutter
contre les recherches et les
suggestions sexistes de Google.
En 2016, une IA à peine lancée
par Microsoft avait publié des
messages racistes sur les réseaux
sociaux. Comment doter l’IA de
valeurs morales ?
M. R. Avec des solutions
techniques, par la correction des
biais cognitifs et la promotion d’une
diversité dans les profils de
programmeurs. Il y avait à l’origine
des femmes dans la programmation.
C’était le cas d’Ada Lovelace qui fut
même le tout premier
programmeur. Maintenant, elles
sont beaucoup moins nombreuses.
Par définition, un robot ne
s’intéresse pas à l’éthique. Il fera
tout aussi bien griller du pain que
sélectionner des cibles sur un champ
de bataille. C’est à l’humain de
prendre conscience des valeurs qu’il
souhaite transmettre et de les
traduire ensuite informatiquement.
H. C. Le fait que les équipes,
essentiellement blanches et
masculines, programment nos
algorithmes et définissent une vision
globale du monde induit une
représentation biaisée dans l’IA.
Comment remédier à ces biais ?
H. C. L’industriel peut les corriger
par la formation des programmeurs.
Mais, pour cela, il faut qu’il y voie
un intérêt économique.
M. R. Il existe des solutions
techniques pour fixer des limites.
C’est ce que l’on appelle « l’éthique
by design » : anticiper les usages