Masterclass ai: 'Schone data zijn het nieuwe goud'

ChatGPT als Zwitsers zakmes
Eerst een korte geschiedenis. Ai bestaat sinds 1950. Het was de Engelse wiskundige Alan Turing die toen al probeerde om computers als mensen te laten denken en communiceren. Hij gaf zijn naam aan de Turing-test waarmee – nog altijd – wordt bepaald in welke mate een computer menselijke intelligentie vertoont. In 1980 wordt machine learning geïntroduceerd. Niet langer vertelt de mens via een code wat computers moeten doen; computers leren zelf door het analyseren van gegevens. Daar komt in 2010 deep learning bij. Bij deze vorm van kunstmatige intelligentie worden neurale netwerken met veel diepe lagen gebruikt om grote hoeveelheden complexe data te analyseren en patronen te herkennen. De technologie is geïnspireerd door de werking van het menselijk brein.
Hoewel deze technologieën destijds baanbrekend waren, is ai pas ‘echt spannend’ geworden toen het Amerikaanse bedrijf Open AI in 2022 ChatGPT lanceerde. Het taalmodel vindt patronen in teksten, beeld en audio en maakt daar iets compleet nieuws van, ofwel generative ai. Daarbij is ChatGPT in staat om – anders dan machine en deep learning – op een menselijke manier te communiceren. Zo is ai voor iedereen toegankelijk geworden en dat brengt ai in een nieuwe stroomversnelling.
Generative ai opent een nieuwe wereld aan mogelijkheden. Veldsink: ‘ChatGPT is getraind met enorme hoeveelheden tekstdata en kan realistische antwoorden geven op vragen, artikelen schrijven, samenvattingen maken, gedichten genereren en beelden herkennen.’ De ai-expert omschrijft ChatGPT als een Zwitsers zakmes. ‘We beschikken ineens over een tool die binnen elke industrie en binnen heel veel verschillende processen van een organisatie kan worden ingezet. Met deze nieuwe vorm kan ai gevoerde klantgesprekken analyseren, complexe rapporten pijl-snel duiden en frauduleuze of witwaspraktijken detecteren.’ Het werk kan dankzij ai niet alleen efficiënter, sneller en beter georganiseerd worden, maar ook veiliger en duurzamer. ‘Zo zou Rijkswaterstaat ai kunnen gebruiken bij het inspecteren van wegen, bruggen, sluizen, gebouwen en het wegennet. Je kunt met drones filmen en de beelden laten beoordelen door ai. Zo weet Rijkswaterstaat waar onderhoud nodig is. Er zijn geen inspecteurs op hoogwerkers nodig, ook wordt het verkeer niet gehinderd.’

Besluitvorming onder de loep
Maar ai brengt ook risico’s met zich mee. Zo moeten gebruikers zich realiseren dat het taalmodel is gebouwd op een database met door mensen gecreëerde data, en dat die nieuw gegenereerde data ook weer onderdeel worden van het leerproces van ChatGPT. ‘Binnen deze database legt hij verbanden. Dat betekent dat de taalrobot geen nieuwe dingen kan bedenken.’ Dat is volgens Veldsink tricky, zeker als ChatGPT wordt gebruikt bij besluitvormingsprocessen. ‘Stel dat 9 van de 10 decisionmakers ChatGPT hebben geraadpleegd om zich te verdiepen in een bepaald vraagstuk. Slechts één persoon heeft zelf nagedacht en is ervan overtuigd dat de organisatie een andere richting op zou moeten bewegen. In de praktijk zullen de decisionmakers die ChatGPT gebruikten, het snel met elkaar eens zijn. Ze hebben misschien een iets ander verhaal gekregen, maar uiteindelijk zullen ze tot dezelfde – door ChatGPT gegeven – conclusie komen.’ Veldsink drukt bestuurders en commissarissen op het hart dringend rekening te houden met deze confirmation bias. ‘Het is belangrijk besluitvormingsprocessen onder de loep te nemen. Krijgen minderheidsstemmen voldoende ruimte? Is er voldoende transparantie over hoe besluiten tot stand zijn gekomen?’ Daarnaast zullen uitkomsten van ChatGPT altijd door een mens gevalideerd moeten worden.
‘De taalrobot beschikt niet over gezond verstand en een diepere logica. Hij heeft geleerd van teksten, afbeeldingen en video, maar kan niet zelf nadenken.’ Een voorbeeld: ChatGPT neemt aan dat objecten kunnen vallen, omdat dit hem is geleerd. ‘Maar hij begrijpt het logische concept van zwaartekracht niet, zoals wij mensen dat snappen.’ Dat is volgens Veldsink een beperking van nu, er wordt hard aan gewerkt om ChatGPT meer menselijk verstand bij te brengen. ‘Er wordt gesleuteld aan algoritmes, maar dat is ongelooflijk ingewikkeld. We begeven ons in een transitiefase waarin generative ai heel nuttige dingen kan doen, maar we moeten ons ook nog heel erg bewust zijn van de haken en ogen, risico’s en beperkingen.’

Data als belangrijkste asset
Daar komt bij dat het succes van ai staat of valt met de kwaliteit van data waarover een bedrijf beschikt. ‘Vergeet het algoritme, laat die door een universiteit ontwikkelen’, betoogt Veldsink. ‘Investeer in plaats daarvan in betrouwbare data; in het ai-tijdperk zijn schone data de belangrijkste asset voor bedrijven. Schone data zijn het nieuwe goud.’ Veldsink verduidelijkt waarom ai zo goed is als de gegevens waarop het gebaseerd is. ‘Als ik voor een bepaald vraagstuk niet over de juiste data beschik, zal ik nooit tot een oplossing komen.’ Ook is het essentieel om vooraf goed te onderzoeken of er een bias zit in verouderde data. ‘Een bank was misschien jaren geleden van mening dat men in de regio Amsterdam-Zuidoost voorzichtig moest zijn met het verstrekken van leningen. Als de organisatie geen rekening houdt met de recente upgradings-plannen in het gebied, kan dat leiden tot verkeerde beslissingen.’ Veldsink wijst erop dat het belangrijk is om data te standaardiseren. ‘Pas als data gestandaardiseerd zijn, kun je er een ai-tool op loslaten.’

Ander beloningssysteem
Bedrijven staan voor de uitdaging om hun organisatie flink ‘op te schudden’ nu ai op zoveel plekken kansen biedt. Ze moeten gaan nadenken welke cognitieve taken ze dankzij taalmodellen als ChatGPT anders kunnen organiseren. ‘Overal zal de workflow veranderen’, aldus Veldsink. Hij stelt dat bedrijven bij hun transformatie in elk geval twee belangrijke zaken moeten regelen. Eén: zorg voor goede checks and balances rondom de processen waarbij je gebruik maakt van ai. Waar wordt ai precies voor gebruikt en hoe? Welke data worden gebruikt? En vooral: wie valideert de resultaten? En twee: verbeter het beloningssysteem. ‘Bij de meeste organisaties is dit systeem gerelateerd aan verantwoordelijkheid. Hoe meer mensen een leidinggevende onder zich heeft, hoe hoger de beloning. Dankzij ai gaat dat niet meer op. Er zullen voor veel processen minder mensen nodig zijn. Het beloningssysteem zal in de toekomst daarom veel meer gebaseerd moeten zijn op hoeveel toegevoegde waarde iemand biedt.’
Het staat ook vast dat medewerkers over andere competenties zullen moeten beschikken als ai veel werkzaamheden zal overnemen. Zo heeft ai al een flinke impact op softwareontwikkeling. Dankzij een programma als GitHub is het namelijk niet langer nodig om te kunnen coderen. Ai neemt het eenvoudige programmeerwerk over. ‘Dat betekent niet dat softwareontwikkelaars overbodig zullen worden, maar het leidt er wel toe dat hun rol zal veranderen.’ In het nieuwe ai-tijdperk zal er volgens Veldsink behoefte zijn aan flink wat nieuwe skills. ‘Een medewerker moet straks conceptueel en systematisch kunnen denken, en daarnaast prompts – opdrachten aan ChatGPT – kunnen formuleren. Ook wordt het heel belangrijk dat medewerkers in staat zijn om de uitkomsten van ChatGPT te valideren. Kloppen de resultaten wel?’

Ai-transformatie wordt pittige reis
Ook bestuurders en commissarissen zullen hun skills moeten doorontwikkelen, stelt Victor Prozesky, managing partner van The Board Practice. ‘Technische kennis is minder nodig, voor de rvb en rvc draait het meer dan ooit om conceptueel en kritisch denken. Daarbij moeten bestuurders en commissarissen verder denken dan het eigen domein.’ Juist omdat ai de hele organisatie raakt, is kennis over dit thema onontbeerlijk. ‘Daar is nog veel winst te behalen’, signaleert Prozesky. ‘Bij boardmembers van de top-40 van AEX-genoteerde bedrijven ontbreekt het in alle industrieën aan passende kennis op het gebied van ai, zo blijkt uit onderzoek van The Board Practice.’
Een veelgestelde vraag is of bestuurders en commissarissen in de toekomst een ai-collega aan tafel zullen krijgen. In 2016 benoemde een venture capital-investeringshuis in Hongkong al een robot-boardmember. Hoewel dat deels een marketingstunt was, gelooft Prozesky dat ai binnen enkele jaren ingeburgerd zal zijn binnen de board. ‘Het zal ondersteunen bij fact checking en scenarioplanning.’
Prozesky voorspelt dat de transformatie naar een ai-gedreven organisatie een pittige reis zal worden. ‘Net als de digitale transformatie zal het technische deel het minst lastig zijn. Vooral de cultuuromslag, het meeveranderen van medewerkers tijdens de transitie, wordt ingewikkeld. Hoe neem je iedereen mee op de reis? Net als bij de digitale transformatie zullen bedrijven de meeste energie moeten steken in change management.’

Naar een fluïde organisatie
Ook Veldsink erkent dat de ai-transformatie niet makkelijk zal zijn, maar adviseert bedrijven snel een duidelijke ai-strategie te formuleren. ‘Bij voorkeur kiezen ze daarbij voor een meer “fluïde organisatie”, een organisatiestructuur die makkelijk meebeweegt met continue verandering.’ Zijn tip is om sandboxes te creëren. ‘Laat medewerkers binnen een veilige omgeving spelen met ai. Mensen willen dat ook.’ Uit recent onderzoek van Microsoft en LinkedIn blijkt dat maar liefst 78 procent van de ai-gebruikers eigen ai-tools van thuis meeneemt naar kantoor. ‘Dat brengt risico's met zich mee. Je kunt het gebruik van ai maar beter faciliteren en duidelijke regels stellen over wat wel en wat niet kan.’
Daarnaast raadt Veldsink bedrijven aan voor een ander type leiderschap te kiezen. 'Op het gebied van ai is er nu vaak sprake van top-down-management. Het is beter om medewerkers meer ruimte te geven. Leidinggevenden moeten ervoor zorgen dat alle medewerkers op die reis worden meegenomen. Alle collega’s moeten begrijpen wat ai is, wat het kan betekenen en hoe ze hun werk anders, beter en sneller kunnen doen. Laat mensen elkaar ook uitdagen.’ Volgens Veldsink vraagt dit om managers die niet op de tent passen, maar de tent gaan runnen.

Zorg voor ai-register
Veldsink waarschuwt bestuurders en commissarissen tenslotte op tijd klaar te zijn voor de Europese AI Act. ‘Zorg dat je er niet op wordt afgerekend. Op het moment dat die in werking treedt, naar verwachting in 2026, hebben bedrijven nog een half jaar de tijd om aan de eerste vereisten van de wetgeving te voldoen. Belangrijk is dat je met een register moet kunnen aantonen dat je geen ai hebt die verboden is, zoals biometrische identificatie op basis van gevoelige kenmerken, zoals politieke of religieuze overtuigingen, seksuele geaardheid of ras.’
Welk effect heeft ai op mensen en de samenleving? ‘Als de persoonlijke vrijheid van burgers in het geding komt, als gevolg van ai, dan valt het betreffende bedrijf in een hogere risicoklasse en gelden er strengere regels.’

Een flinke opdracht voor leiders
Concluderend is de boodschap aan de commissarissen tijdens deze masterclass geen gemakkelijke. De organisatie opschudden en ai-proof maken – dat betekent nogal wat. ‘Met welke processen begin je als eerste en waarmee kun je nog even wachten?’, vraagt een commissaris zich af. Een collega maakt zich zorgen over de behoefte aan nieuwe skills. ‘Sommige competenties, zoals systematisch kunnen denken, breng je niet zomaar bij. Tegelijkertijd is het werven van talent nog altijd moeilijk.’ En dan is er nog de impact die ai zal gaan hebben op de productiviteit. ‘Wat te doen met de mensen die straks niets meer toevoegen binnen de organisatie?', vraagt een multicommissaris. Hoewel de beloften van ai groots zijn, leidt de ai-transformatie vooralsnog tot lastige vraagstukken waar bestuurders en toezichthouders zich de komende tijd flink in zullen moeten vastbijten.

Dit verslag is gepubliceerd in Management Scope 07 2024.