VVP 5-23 eZine

RISICOBEHEER EN PREVENTIE
Kees van Montfort.
Gert de Jong.
ROL
Een ander aspect is de vraag welke rol we AI geven in
ons werk en besluitvorming. De mogelijkheden van
ChatGPT laten zien welke mogelijkheden er zijn om het
onderwijs te versterken. Er ligt een onmetelijke vraagbaak
binnen handbereik die zeer snel en vaak ook nog
adequaat reageert. Tegelijk liggen er tal van mogelijkheden
klaar om te frauderen. Studenten schrijven hun
essays, werkstukken en dergelijke niet meer zelf, maar
laten dat doen.
We kunnen iets soortgelijks zeggen voor beslissingen
rondom fraudedetectie en risicobeoordeling: varen
we uitsluitend op het besluit van AI? Dat lijkt ons
onethisch. Moreel verantwoorder is om te kijken wat
AI ons levert als waardevolle input voor onze besluitvorming,
maar dat we zelf kiezen en besluiten. Daarmee
is ook helder waar de eindverantwoordelijkheid
ligt: bij de menselijke beslissers. Het lijkt ons dat die
daar ook hoort.
Gelet op de cruciale rol van vertrouwen in de financiële
sector is de uitlegbaarheid van de uitkomsten en
werking van AI-toepassingen cruciaal. Enerzijds moet
een financiële dienstverlener weten op basis van welke
criteria en scores het gebruikte AI-algoritme heeft geadviseerd
om bijvoorbeeld een bedrijfskrediet toe te
kennen of te weigeren. Met name de vraag is van belang
of hierbij gebruik is gemaakt van ethisch-verantwoorde
en praktisch-relevante uitgangspunten. Anderzijds
dient het voor de kredietaanvrager duidelijk te
zijn op welke door het AI-algoritme gebruikte criteria
en scores het kredietadvies is gebaseerd.
Voor de geschetste ethische dilemma’s, die met het
gebruik van AI gepaard kunnen gaan, zal er regelgeving
moeten worden ontwikkeld door de overheid of
de financiële sector. Het is onduidelijk in welke mate de
overheid daartoe bereid is en of zij daarmee nu al niet
te laat is. n
Kees van Montfort en Gert de Jong zijn verbonden aan de
Hogeschool van Amsterdam, Center for Financial Innovations.
NR 5 NOVEMBER 2023 VVP | 43