Allure Magazine (1-2024)

031
TECHNOBRAIN
tro ben vista dalle aziende. I chatbot possono effettivamente
essere utilizzati per manipolare i clienti e
indurli a comprare certi prodotti. Occorre in ogni
caso ricordare che i testi prodotti sono lessicalmente
e sintatticamente corretti, ma privi di valore informativo
(i generatori di linguaggio non contengono
alcun riferimento al vero e al falso, né alcun criterio
per distinguerli). Simili chatbot possono essere perciò
molto pericolosi per i clienti, perché possono
dare suggerimenti che ne mettano a rischio la vita o
la salute. Quando ad esempio, di recente, si è deciso
di licenziare i lavoratori addetti a fornire una consulenza
telefonica alle persone con disturbi alimentari
e di sostituirli con un chatbot, questo ha suggerito
agli utenti di ridurre le calorie e pesarsi con
frequenza. E, quando un supermercato
ha offerto ai propri clienti la possibilità
di interagire con un chatbot che
suggeriva ricette “personalizzate”,
sulla base degli ingredienti che ciascuno
aveva in casa, il chatbot ha
suggerito, tra le altre, ricette di preparazioni
che avrebbero sprigionato
gas letali.
Dei limiti ci ha parlato. Può dirci quali sono,
secondo Lei, le prospettive dell’IA?
Al momento sono i monopoli della tecnologia,
in virtù della loro posizione dominante e della
concentrazione di risorse e potere, a dettare le linee
uomo
vs ma
china
di progettazione e sviluppo dei sistemi di IA.
Restano possibili, naturalmente, una progettazione
e uno sviluppo dei sistemi di intelligenza artificiale
che creino valore, anziché estrarlo, che valorizzino
il lavoro umano, anziché parcellizzarne l’esecuzione
a fini di controllo, e che non incarnino un
modello di business basato sulla sorveglianza e sul
controllo sociale. Tale possibilità sembra tuttavia
affidata oggi, come già in altre epoche di cambiamento
tecnologico, alle sole lotte dei lavoratori. Gli
sceneggiatori di Hollywood, ad esempio, hanno
mostrato concretamente come, senza il loro consenso
e il loro lavoro, i sistemi di “intelligenza artificiale”
non siano in grado di produrre alcunché.
A livello statale, la priorità dovrebbe essere
quella acquisire il controllo di dati e
potenza di calcolo. Il che significa,
anzitutto, seguire le tracce dei francesi,
che hanno smesso di far usare
Microsoft e Google e i loro cloud
per scuole, università e amministrazioni
pubbliche. Dovremmo
anche noi valorizzare le competenze
locali, a partire dalla rete
GARR, la rete nazionale a banda ultralarga
per la comunità della ricerca, dell’istruzione
e della cultura e che rappresenta
un’eccellenza pubblica italiana.