syndicom rivista N.32

10 Dossier
e i big data, l’intelligenza artificiale e le reti neurali, la robotica
e il profiling sono opportunità, ma contengono anche
rischi.
Ovviamente non è un concetto sbagliato, e proprio per
questo è una frase terribilmente stupida. Perché tutto dipende
da chi controlla queste tecnologie, da cosa ne fa e
dalle regole sociali che vengono applicate. Nel mondo capitalista,
nelle mani di società globali come i GAFAM e di
governi repressivi, sono simili ad armi di distruzione di
massa.
In parole povere: un algoritmo non è razzista di sua iniziativa.
Ma può essere programmato per essere razzista.
Questo è ciò che hanno vissuto decine di migliaia di famiglie
olandesi allorché un algoritmo ha distrutto i loro mezzi
di sostentamento accusandole di frode sociale. Sebbene
ciò fosse palesemente sbagliato nel 94 per cento dei
casi, come si scoprì anni dopo, si è arrivati a decreti d’accusa
automatici e a mostruose richieste di risarcimento.
Inoltre, si è arrivati all’interruzione immediata di assegni
familiari, contributi per l’affitto, indennità di malattia,
sussidi di disoccupazione, assistenza sociale ecc. Alcune
famiglie sono state sfrattate, altre sono state separate. E
poi si è scoperto che a essere particolarmente colpiti dalle
misure erano migranti e madri single con nomi africani o
arabi. Se sei nel mirino di un algoritmo, è meglio che non
Se ti chiami Leila,
meglio che tu
non sia nel mirino
di un algoritmo
ti chiami Leila. Le obiezioni sono state immediatamente
respinte: l’algoritmo ha sempre ragione, perché è matematica.
I debiti fittizi sono stati riscossi senza pietà. Alcune
persone colpite si sono tolte la vita. Questo avversario
è invisibile, non discute con voi, non deve dimostrare nulla.
Kafkiano.
Allorché lo scandalo è arrivato in Parlamento, il governo
si è giustificato con «errori di programmazione». Uno
sfortunato caso particolare, forse dovuto a un programmatore
malintenzionato? Sciocchezze. Piuttosto, una logica
sistemica è evidente in centinaia di situazioni di questo
tipo in molti Paesi e in tutti i settori. La metà inferiore
della società e i migranti sono regolarmente discriminati
dagli algoritmi quando si tratta di domande di lavoro, domande
di crediti, libertà vigilata, assegnazione di posti di
studio e formazione, lavoro di polizia preventiva, assicurazioni
sociali. L’IA, così come viene attualmente utilizzata,
è verosimilmente uno specchio fedele della politica neoliberale.
Per una IA sociale
Si tratta di una sfida immensa per la società. L’intelligenza
artificiale può essere utile. Per le cure mediche. Per evitare
disastri ecologici. Per tutte le forme di uguaglianza.
Per un servizio pubblico efficiente. Anche per un lavoro
migliore. Ma per questo, gli algoritmi dovrebbero essere
più trasparenti e sottratti al beneficio esclusivo dei grandi
gruppi.
L’umanità prima della macchina: il dossier di syndicom
sull’intelligenza artificiale