L’umanità prima della macchina

26 27
3. Responsabilità etica e sociale
4. Trasparenza e capacità di dialogo
Risoluzione
Nel design, sviluppo, introduzione e impiego di sistemi di
IA viene esercitata la responsabilità sociale ed etica. Con i
sistemi di IA si agisce in modo affidabile. Si applica il
principio « Ethics by Design ».
Motivazione
I progettisti di IA hanno una responsabilità etica nell’elaborazione
di sistemi di IA che si ripercuotono positivamente sulla
società, sono conformi alle disposizioni giuridiche e soddisfano i
nostri più elevati standard etici.
Chi viene ritenuto responsabile delle conseguenze se le persone
delegano le decisioni alle macchine? A causa di questa domanda
gli specialisti si dichiarano contrari ai sistemi completamente
autonomi e a favore di una persona nel circuito (loop). Altrimenti
ci cederebbe la responsabilità etica per la progettazione
sistemica.
La responsabilità deve rimanere in capo all’uomo. È ciò che
avviene già oggi, quando ad esempio guidiamo un’auto – non
cambia nulla in termini di responsabilità. È necessario che
esercitiamo il potere sulle macchine e vi è motivo di ritenere che
saremo ancora in grado di farlo anche in un prossimo futuro.
Risoluzione
I sistemi di IA sono trasparenti, comprensibili, spiegabili e
riconoscibili in quanto tali. I loro risultati sono riproducibili,
rintracciabili e affidabili. I dati e i formati elaborati e
risultanti sono interoperabili. Se le decisioni dei sistemi di
IA riguardano le persone, esse hanno il diritto di contestare
tali decisioni e farle verificare da una persona (« human
review »).
Motivazione
Per avere fiducia nei sistemi intelligenti nella pratica quotidiana,
servono sufficienti informazioni sul relativo funzionamento e
sulle possibili conseguenze. I meccanismi del sistema devono
essere trasparenti al fine di fornire informazioni per il proprio
operato e per poter determinare autonomamente se e in
che misura dargli fiducia. Gli elementi chiave di una catena
di processo di tipo etico sono di conseguenza: informazione →
trasparenza riconoscimento autodeterminazione
fiducia. La fiducia è tanto più importante quanto più alto
è il rischio.