syndicom magazine No.32

10 Dossier
bientôt donner naissance à une nouvelle espèce qui asservira
l’ancien Homo sapiens.
Des algorithmes néolibéraux et racistes ?
Nous préférons ignorer ces visions en les rejetant comme
« dystopiques », grâce à une vieille astuce. Peu importe que
nous comprenions ou non quelque chose à propos de ces
techniques, nous disons avec un air savant : les algorithmes
et le Big Data, l’intelligence artificielle et les réseaux
neuronaux, la robotique et le profilage sont des opportunités,
mais ils comportent aussi des risques.
Ce n’est pas faux, bien sûr, et c’est pourquoi cette
phrase est terriblement stupide. Car tout dépend de qui
contrôle ces technologies, de ce qu’ils en font et des règles
sociales qui s’appliquent. Dans un monde capitaliste, aux
mains de groupes mondiaux comme les GAFAM et de gouvernements
répressifs, ce sont des armes de destruction
massive.
En d’autres termes, un algorithme n’est pas raciste par
essence. Mais il peut être programmé pour l’être. C’est ce
qu’ont découvert des dizaines de milliers de familles néerlandaises,
dont l’existence a été anéantie par un algorithme
les accusant de fraude à l’aide sociale. C’était manifestement
faux dans 94 % des cas, comme il s’est avéré
des années plus tard, mais cela s’est traduit par des ordonnances
de condamnation automatiques et des demandes
de paiement monstrueuses, qui ont immédiatement mis
fin aux allocations pour enfant, aux contributions aux
Les êtres humains
ne sont plus que des
algorithmes.
loyers, aux indemnités journalières, aux allocations chômage,
à l’aide sociale, etc. Des familles ont perdu leur toit,
d’autres ont été déchirées. Et puis il s’est avéré que les migrant-e-s
et les mères isolées avec des noms à consonance
africaine ou arabe ont été particulièrement touchés. Si
vous êtes confronté à un algorithme, mieux vaut ne pas
vous appeler Leila. Les objections ont été durement rejetées,
l’algorithme a toujours raison, parce qu’il s’agit de
mathématiques. Des dettes fictives ont été impitoyablement
recouvrées. Des victimes se sont suicidées. Cet adversaire
est invisible, il ne se bat pas avec vous, il n’a rien
à prouver. Kafkaïen.
Lorsque le scandale est finalement arrivé au Parlement,
le gouvernement a parlé d’« erreurs de programmation
». Un cas particulier regrettable, peut-être même dû à
un programmeur malveillant ? Absurde. Au contraire, des
centaines d’évènements de ce type, dans de nombreux
pays et dans tous les domaines, révèlent une logique systémique.
La moitié inférieure de la société et les migrant-e-s
sont régulièrement discriminés par des algorithmes
en matière de candidatures, de crédit, de sursis à
l’exécution d’une peine, d’attribution de places d’études
et de formation, de travail policier préventif et d’assurance
sociale. Apparemment, l’IA telle qu’elle est actuellement
déployée est un véritable reflet de la politique néolibérale.
Aujourd’hui, c’est un immense défi pour la société.
L’AI peut être utile. Pour les soins médicaux. Pour éviter
les catastrophes écologiques. Pour toutes les formes
d’égalité. Pour un service public efficace. Même pour un
meilleur travail. Mais pour cela, les algorithmes devraient
être plus transparents et arrachés aux seuls bénéfices des
multinationales.
Le dossier spécial de syndicom
sur l’intelligence artificielle