Rabobank kondigde onlangs een tijdelijke AI stop aan. Een onpopulaire maatregel waarmee de bank tegen de stroom van de AI-gekte inzwemt. Moedig, maar tegelijkertijd ook zeer terecht.
Niet dat Rabobank tegen AI is. Integendeel. Bart Leurs, chief innovation and technology officer van de bank is ervan overtuigd dat AI grote maatschappelijke vraagstukken kan helpen oplossen. Maar hij wil eerst in kaart hebben welke risico’s er aan AI verbonden zijn. Zo wil de bank onder andere niet het risico lopen dat data van klanten op platformen van buitenlandse techbedrijven terechtkomen. Tot die tijd is op de Croeselaan het gebruik van onder andere ChatGPT verboden.
Dat kunnen we bij Hyarchis goed begrijpen. In 2018 – toen zowel regulatory compliance als artificial intelligence nog nauwelijks een rol speelden – namen we het voortouw door regulatory compliance te automatiseren met behulp van kunstmatige intelligentie. Onze conclusie: een algoritme dat tegen de 100% accuraatheid aanschurkt voor de ene bank, kan tientallen procenten lager scoren wanneer dit ongetraind wordt ingezet bij een andere bank. Dit is volledig gelegen in de input die het algoritme ontvangt en waarmee het getraind is. De kwaliteit van de uitkomst van het werk dat AI levert valt of staat met de kwaliteit van de data die het absorbeert.
De weg vrij voor AI
Het lijdt geen twijfel dat we met de huidige doorbraak op het gebied van artificial intelligence aan het begin staan van een radicale vernieuwing in de wereld van de technologie. Deze ontwikkeling zal ook zijn weerslag hebben op maatschappelijk vlak. De gevolgen voor de financiële wereld zijn nu al zichtbaar. Vorig jaar won Bunq een rechtszaak tegen De Nederlandsche Bank. Inzet was de inzet van nieuwe technologie – lees AI – voor het onboarden van klanten en het tegengaan van witwassen en terrorismefinanciering. Met het winnen van deze zaak heeft Bunq de weg vrijgemaakt om de compliancebureacratie die de financiële wereld heeft opgetuigd te vervangen door automatisering met behulp van AI.
Voor Bunq is dit echter aanzienlijk eenvoudiger dan voor de traditionele banken. Bunq heeft haar klanten immers vanaf het eerste moment in een digitale en grotendeels geautomatiseerde omgeving geonboard. De kwaliteit van de data die Bunq tot haar beschikking heeft is daarom vele malen hoger dan bij de traditionele banken. Die hebben een groot deel van hun klanten geonboard in een periode waarin het internet nog niet bestond en er van software nog nauwelijks gebruik werd gemaakt. Dit compromitteert de kwaliteit van de data. Gebrekkige datakwaliteit kan op haar beurt weer leiden totgrote problemen bij zaken zoals de automatisering van besluitvormingsprocessen en het maken van gedegen risicoanalyses.
Bezint eer ge begint
Hoe verleidelijk het ook kan zijn om mee te doen met de AI-hype, voorzichtigheid is in de financiële wereld van uitermate groot belang. Wat op het spel staat is immers niet enkel de verlichting van de operationele lasten binnen een organisatie, maar ook de toegankelijkheid tot het financiële stelsel en daarmee de bewegingsvrijheid van afnemers van financiële producten. Dit laatste moet – vanuit een ethisch perspectief – altijd zwaarder wegen en daarom is accuraatheid de allerhoogste prioriteit. De benodigde accuraatheid kan echter enkel worden bereikt indien men de data op orde heeft.
Kijk ik naar de projecten die we met Hyarchis door de breedte van de financiële dienstverlening draaien, dan zie ik dat het voor de (grootschalige) inzet van AI voor veel partijen nog te vroeg is. De financiële sector bevindt zich momenteel nog in de fase van remediation. Dat wil zeggen, het op orde brengen van de historische klantgegevens. Dit laatste is niet enkel noodzakelijk vanuit het oogpunt van data governance en regulatory compliance, maar is tevens van belang om kernprocessen zoals witwasbestrijding en kredietbeoordeling succesvol te automatiseren. De stap van Rabobank is daarom de enige juiste: als je je klanten blijvend naar tevredenheid wilt kunnen bedienen, is het van belang om eerst je data goed op orde te hebben.
Geschreven door
