Bart Leurs (Rabobank): ‘We hebben een tijdelijke AI-stop ingevoerd’

U bent chief innovation and technology officer. Veel organisaties hebben een chief innovation officer of een chief technology officer. Waarom is die rol bij Rabobank gecombineerd?
‘In onze visie zijn technologie en data zo sterk met elkaar verbonden, dat kun je niet in twee aparte rollen onderbrengen. Bedrijfsprocessen draaien tegenwoordig vooral op data en technologie, er vindt steeds minder manuele interventie plaats. Innovatie zit daar nog niet altijd bij. Bij Rabobank is dat wel zo: de gedachte is dat veel innovaties worden gedreven door technologie en data.’

Hoe draagt de agile organisatiestructuur bij aan de innovaties binnen Rabobank?
‘Zo’n 7.000 mensen werken inmiddels in tribes en squads, als kleine bedrijfjes dragen ze bij aan de digital experience van de klant. De besluitvorming ligt lager. Omdat ze dichtbij de business opereren, begrijpen ze beter wat er speelt en hoe er het best geïnnoveerd kan worden. Ontwikkelaars en data scientists werken nauw met de tribes samen om bijvoorbeeld de bank-app verder te verbeteren. Technologie en data lopen zo als een rode draad door de organisatie.’

Welke kansen biedt ai-technologie volgens u?
‘Die zijn enorm. Ik ben heel enthousiast over hoe ai kan bijdragen aan het oplossen van grote maatschappelijke vraagstukken. Ook binnen onze organisatie liggen oneindig veel kansen. Maar alles valt of staat met solide data management en data governance.
Er is geen enkel domein waar ai-technologie de bank niet raakt – of het nu gaat om duurzaamheid of het detecteren van frauduleuze praktijken. Het fundament moet dus goed zijn. Alleen dan kunnen we op Champions League-niveau meespelen met grote innovaties. Data governance is daarbij extreem belangrijk. We moeten ervoor zorgen dat onze 42.000 mensen op de juiste manier met data omgaan en dat er uiteindelijk betrouwbare en kwalitatief goede data in ons platform staan.’

Hoe borgt u goede data governance?
‘We investeren er fors in en lanceerden bijvoorbeeld een masterplan data management. Het betekent allereerst dat we alle medewerkers data analytics-trainingen laten volgen. Collega’s moeten begrijpen hoe belangrijk data zijn en welke rol ze daarbij spelen. Ook binnen de raad van bestuur vormen data en technologie een strategisch leerpunt, omdat beide expertises cruciaal zijn voor de besturing van ons bedrijf. We kunnen ze niet vanuit een hoekje van de organisatie managen. Belangrijke stap daarnaast is dat we investeren in technologie die toekomstvast is. Op ons nieuwe Global Data Platform hebben we straks alle data van het bedrijf op één plek en kunnen we oneindig data laden.’

Wat zijn de grootste uitdagingen op het vlak van data?
‘Om data optimaal te kunnen gebruiken, moeten deze toegankelijk en gestructureerd zijn. We moeten zorgen voor goede en veilige technologie en daarnaast moeten data kwalitatief goed en betrouwbaar zijn. Uiteindelijk nemen we met hulp van algoritmes beslissingen op basis van deze data. Je keurt een hypotheek wel of niet goed, je classificeert iemand wel of niet als een fraudeur.
Ik denk dat we al ver zijn. Veel van onze kernprocessen draaien al op data en algoritmes. Er worden steeds minder besluiten door mensen genomen. Tegelijkertijd moeten de modellen goed zijn; er mag geen bias in zitten. Ook is explainable ai belangrijk. Als een klant geen hypotheek krijgt, moeten we altijd kunnen uitleggen waarom dat zo is.’

Hoe zorgt u ervoor dat data kwalitatief op orde zijn?
‘De afgelopen twee jaar zijn we intensief met data governance bezig geweest. We zijn er nog steeds niet mee klaar. In het verleden zijn velden in onze systemen verkeerd ingevuld – denk aan een aantekening van een hypotheekadviseur of het gebruik van een komma in plaats van een punt. Er was nog geen besef dat die gegevens ooit een keer gebruikt zouden worden voor algoritmes. Een flink aantal medewerkers is bezig geweest om die datavelden te repareren. Het is monnikenwerk, maar we ontkomen er niet aan om de data op het gewenste kwaliteitsniveau te krijgen.’

Rabobank heeft growing a better world together als missie. Hoe innoveert u om die belofte waar te maken?
‘Ik ben zeven jaar geleden aangetrokken om innovatie binnen de bank aan te jagen. Dat is in het begin best een zoektocht geweest. Aanvankelijk begonnen we heel breed. We introduceerden bijvoorbeeld SurePay: bij online betalingen wordt automatisch het IBAN-nummer gecheckt met de naam van de rekeninghouder. En ook Peaks: een beleggingsapp waarmee consumenten met hun wisselgeld kunnen beleggen. Met deze innovatieve producten verbeterden we weliswaar onze dienstverlening, maar we onderscheidden ons niet echt.
Dat leidde tot een periode van bezinning – wat maakt ons nu echt bijzonder en op welke innovaties willen we inzetten? Gaandeweg ontdekten we: om impactvol te kunnen innoveren, moeten we samenwerken met partners. Het paste goed bij de coöperatieve gedachte. Ook kozen we ervoor innovaties voortaan te linken aan drie transities die we vanuit onze strategie willen versnellen. Dat is allereerst de food- en agritransitie: hoe produceren we op een duurzame manier voldoende voedsel voor de groeiende wereldbevolking. Daarnaast zetten we ons in voor de energietransitie en een inclusieve samenleving. We hebben inmiddels 42 innovaties gerealiseerd in deze domeinen, de meeste in de food & agri. Dat maakt ons als retailbank echt anders dan ING of ABN Amro.’

Kunt u een voorbeeld geven van een innovatie in de food & agrisector?
‘Er zitten verschillende mooie projecten in de pijplijn, maar een van onze mooiste projecten tot dusver is Acorn. Daarmee stimuleren we kleine boeren in Zuid-Amerika, Azië en Afrika bomen te laten groeien op hun grond. Zij hebben vaak moeite om voldoende inkomsten te genereren. Met het Acorn-project verdienen ze extra door naast maïs bijvoorbeeld ook mango’s of cashewnoten te gaan verbouwen. Omdat die bomen CO2 uit de lucht halen, krijgen deze boeren CO2-rechten die ze op een internationaal platform kunnen verhandelen aan multinationals. Inmiddels zijn er 60.000 boeren aangesloten. Dat aantal groeit, mede doordat ontwikkelingsorganisaties, zoals bijvoorbeeld Solidaridad, boeren helpen om zich aan te sluiten op het platform.
Acorn is een samenwerking tussen Rabobank en Microsoft. Wij hebben toegang tot duizenden boeren, Microsoft bouwde het platform. Door onze krachten te bundelen, doen we iets goeds voor de wereld. Niet alleen verminderen we zo de totale CO2-uitstoot, ook helpen we boeren aan extra inkomsten. Het project illustreert hoe data en technologie de wereld vooruit kunnen helpen. We hebben ruim 40 satellietspecialisten in dienst die goed kunnen inschatten of bomen al dan niet goed kunnen groeien in bepaalde gebieden en wat de toekomstverwachtingen zijn.
Het is best bijzonder: vroeger baseerden we ons bij het verstrekken van een lening op financiële informatie van de boer. Nu beschikken we over veel meer relevante data, die we ook steeds meer nodig zullen hebben om onze ambities te verwezenlijken. We zijn al ver in satelliet-technologie, in bijvoorbeeld het analyseren van grond wereldwijd. We creëerden zo een digital twin – een virtuele weergave – van de aarde. Dankzij realtime data monitoren we zo de gezondheid van onze planeet.’

Welke data en algoritmen zullen in de toekomst bepalend worden in de besluitvorming?
‘In het algemeen kijken we verder dan louter financiële gegevens. We zijn een gatekeeper van het financiële systeem, we hebben de verantwoordelijkheid frauduleuze praktijken te signaleren. Dankzij ai zullen we daar nog beter in worden. Daarnaast zullen we bij het goedkeuren van een kredietaanvraag steeds meer kijken naar de duurzaamheidsprestaties of het diversiteitsbeleid van een bedrijf.
Op het gebied van food & agri worden de databronnen steeds rijker, bijvoorbeeld omtrent klimaatontwikkeling. Waar we ook steeds meer op focussen, is traceerbaarheid. Consumenten willen weten waar hun tilapiafilet vandaan komt, of waar de mango is geplukt. Voor ons wordt dat ook steeds belangrijker. Ik denk dat er door overheden nog veel eisen gesteld gaan worden op het gebied van traceerbaarheid.’

We staan misschien nog maar aan het begin van een ontwikkeling waarbij data kunnen helpen om de wereld te verbeteren. Wat is uw verwachting?
‘Het belang van data en algoritmes zal exponentieel groeien. Dat komt mede door de razendsnelle ontwikkelingen op het gebied van gen ai, ofwel generatieve ai; complexe technologie is zoveel toegankelijker geworden. Dankzij prompt engineering hoef je niet meer te kunnen coderen om software te ontwikkelen; je hoeft alleen maar opdrachten te kunnen geven. Gen ai helpt ontwikkelaars ook. Met een programma als GitHub Copilot kunnen ze beter, sneller en foutlozer coderen. Tijdens het schrijven van een code krijgt de ontwikkelaar suggesties voor nieuwe regels code. Het programma genereert zelfs complete functies. Die versnelling gaat hard, zo hard dat we het soms niet meer kunnen beheersen.’

Dat is vaak ook de maatschappelijke angst – dat we ai niet meer in de hand hebben.
‘Ik deel die zorg. Ik vind dat overheden en bedrijven de plicht hebben ervoor te zorgen dat we op een goede, ethische manier met ai omgaan. Vanuit onze raad van bestuur hebben we daarom sinds kort een tijdelijke ai-stop afgekondigd. We zagen dat developers erg enthousiast gingen experimenteren met bijvoorbeeld ChatGPT en Google BARD, ook een ai-tool om codes te genereren. Dat is natuurlijk gaaf omdat het tot mooie innovaties zal leiden. Maar als bank willen we niet dat er bepaalde codes worden gedeeld of dat data van klanten op platformen van Amerikaanse techbedrijven terechtkomen. Dat mogen we ook niet, onze klantgegevens zijn goed beschermd. Daarom mag momenteel niemand vanaf bedrijfsapparaten met ChatGPT of Google BARD werken. We willen snel in kaart brengen welke interventies nodig zijn om de risico’s te beperken. Hoe we deze tools in een beveiligde omgeving kunnen gebruiken. Daarna pakken we de kansen die ai biedt, direct weer op.
Ik verwacht dat elk bedrijf goed nadenkt over de risico’s van ai en passende maatregelen treft. Daarnaast moeten overheden een goed regulerend kader creëren. Want, zoals ik eerder al zei, het kan gruwelijk misgaan met ai. Ik heb begrepen dat de toekomstige AI Act goed in elkaar zit. Deze wet van de Europese Commissie die ongewenste ai-praktijken moet voorkomen, wordt her en der nog bijgeschaafd.’ Grappend: ‘Misschien wel met hulp van ChatGPT.’

Het beheer van data en gebruik van ai kosten enorm veel stroom. Hoe gaat Rabobank daarmee om?
‘We hebben onlangs sustainable coding geïntroduceerd. We willen dat elke engineer begrijpt dat er CO2 wordt gecreëerd als hij of zij aan het coderen is. Dat bewustzijn kan beter. Daarom hebben we binnen elk team iemand verantwoordelijk gesteld voor het energieverbruik. We gaan dat ook echt meten. Deels kunnen we dat zelf, deels zijn we afhankelijk van datacenters. Die informatie wordt nog te weinig gedeeld. Ik ga ervan uit dat bedrijven daar meer naar zullen vragen en meenemen in hun sustainable finance-rapportages. Dat kan niet anders.’ 

Interview door Koko Visser, partner bij Valcon. Gepubliceerd in Management Scope 06 2023.