Create successful ePaper yourself
Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.
RISICOBEHEER EN PREVENTIE<br />
AI IS EEN UITSTEKENDE TOOL OM FINANCIËLE FRAUDEDETECTIE EN<br />
DE BEOORDELING VAN CREDIT RISKS TE VERSNELLEN, ZO BLEEK UIT<br />
AFSTUDEEROPDRACHTEN DIE STUDENTEN VAN DE MASTEROPLEIDING<br />
APPLIED AI AAN DE HOGESCHOOL VAN AMSTERDAM AFGELOPEN<br />
SEMESTER BIJ FINANCIËLE INSTELLINGEN HEBBEN UITGEVOERD. MAAR<br />
WE ZIEN SOMS DAT DE BESLISSINGEN OP BASIS VAN AI-SYSTEMEN TE<br />
RIGOUREUS WORDEN GENOMEN.<br />
Ethische<br />
AI-dilemma’s<br />
TEKST KEES VAN MONTFORT EN GERT DE JONG<br />
Zo meldt onderzoeksprogramma Argos (1 mei<br />
20<strong>23</strong>) dat volgens de DNB de vier grootste<br />
banken van Nederland in 2021 bijna vierduizend<br />
zakelijke rekeningen hebben opgezegd<br />
vanwege verdachte transacties, contact met<br />
veroordeelde criminelen of onverklaarbare omzetstijgingen.<br />
Dit zou soms ook onterecht zijn gebeurd. Het<br />
snijdt mensen en bedrijven vervolgens volledig af van<br />
het betalingsverkeer.<br />
In NRC van 22 juni 20<strong>23</strong> wordt een andere ‘uitglijder’<br />
gemeld: DUO zou te eenkennig controles op uitwonende<br />
studenten uitvoeren. De toeslagenaffaire hebben<br />
we allemaal nog wel in het geheugen.<br />
Waar de ene kant van AI nog kan zijn dat het snel<br />
en efficiënt heel behulpzaam kan zijn, blijkt de andere<br />
‘Gaat het om efficiëntie<br />
en kostenbesparing of<br />
om klanten te helpen’<br />
kant een systeem te zijn dat compromisloze en meedogenloze<br />
beslissingen kan nemen, die mensen te kort<br />
kunnen doen. Hoe kunnen we die behulpzame kant nu<br />
benutten en verder ontwikkelen en die meedogenloze<br />
kant vermijden of inperken?<br />
OPLOSSINGEN<br />
De morele kant blijkt uit de manier waarop AI-systemen<br />
beslissingen nemen. Een algoritme is ontworpen<br />
om zaken ‘rationeel’ af te wegen. Er is geen ruimte<br />
om de menselijke maat in te brengen. Als mensen beslissingen<br />
nemen, geven ze anderen soms een tweede<br />
kans, of geven ze het voordeel van de twijfel. We kunnen<br />
verschillende afwegingen maken. AI-systemen<br />
kunnen dat niet. In de kern zijn hun beslissingen (als<br />
ze zo geprogrammeerd zijn): als A dan B. Mensen kunnen<br />
nog denken: als A, dan in deze situatie toch maar<br />
C. Het is juist die menselijke maat die onze samenleving<br />
menselijk maakt en houdt.<br />
Die afweging maken we bij voorkeur vanuit de vragen<br />
wie nu gediend zijn met onze beslissingen en wat<br />
we ermee willen bereiken. In termen van de hiervoor<br />
genoemde voorbeelden: gaat het om efficiëntie en kostenbesparing<br />
of (ook) om klanten te helpen en de wereld<br />
veiliger te maken?<br />
42 | <strong>VVP</strong> NR 5 NOVEMBER 20<strong>23</strong>