Drie topvrouwen over generative artificial intelligence: ‘Een enorme call to action’

Om het begrip af te bakenen: kunstmatige intelligentie ofwel ai is geen nieuw verschijnsel. Wat is er wezenlijk anders aan GenAI?
Qiu: ‘Klassieke ai is discriminative in plaats van generative. Het richt zich op het creëren van algoritmes op basis van bestaande data om output te classificeren of voorspellen. GenAI “traint” data om nieuwe mensachtige content te creëren, en zo bijvoorbeeld tekst naar nieuwe tekst te “vertalen”, of een tekst naar een afbeelding, of een afbeelding naar een video. De kracht waarmee dat gebeurt, is enorm. Dat maakt het zo revolutionair. Het is echt een mijlpaal in de ontwikkeling van ai.’
Moerel: ‘Klassieke ai wordt met domeingegevens getraind om specifieke taken binnen dat domein uit te voeren, denk bijvoorbeeld aan een recruitmenttool. GenAI is getraind met ongelabelde data uit alle mogelijke bronnen en kan alle soorten taken tegelijk aan. Een groot verschil is ook het gebruikersgemak. Als consument voer je een prompt in, zoals een vraag of opdracht, en binnen de kortste keren krijg je de output. Niet voor niets gebruiken veel mensen het min of meer als zoekmachine die niet alleen relevante informatie zoekt, maar vervolgens ook content genereert. Dat zie ik echt als gamechanger.’
Kuijt: ‘De reikwijdte ervan is bovendien veel groter door de manier waarop het in de markt wordt gezet. Zo kwam taalmodel ChatGPT op grote schaal beschikbaar voor consumenten terwijl het nog volop in ontwikkeling was. Dat hebben we zo niet eerder gezien.’

Laten we het concreet maken. Hoe past u Gen- AI toe in uw eigen werk of organisaties?
Kuijt: ‘IBM heeft het Watsonx-platform ontwikkeld en haar eigen foundational modellen om GenAI te integreren in bedrijfsactiviteiten. We ontwikkelen basismodellen voor organisaties die controle willen hebben over de data waarmee het model wordt gevoed. Samen met ruimtevaartorganisatie NASA hebben we bijvoorbeeld HLS Geospatial FM ontwikkeld. Dat is een model voor aardobservatiegegevens dat uitsluitend gevoed en getraind is met data die NASA met hulp van satellieten verzamelt. Na de lancering is het als open source beschikbaar gesteld. De toegevoegde waarde daarvan voor de wetenschap is enorm. Zo kun je bijvoorbeeld veranderingen in landgebruik volgen, natuurrampen monitoren of gewasopbrengsten voorspellen. In het begin is het behoorlijk veel werk om de juiste datasets te verzamelen, maar als het model er eenmaal staat, zijn de toepassingen vervolgens helemaal niet zo kostbaar. Ook dat is het mooie ervan.’
Qiu: ‘Signify zet GenAI al in om bijvoorbeeld het coderen van software te versnellen, in sommige gevallen reduceren we de benodigde tijd van weken naar uren. In onze klantcontactcentra gebruiken we GenAI om antwoorden aan klanten te versnellen. Waar een medewerker gemiddeld 2,5 minuten nodig had, doet het model er gemiddeld 8 seconden over. Dat moet dan wel nog gecheckt worden door een mens, wat zo’n 20 seconden duurt, maar het is al een enorme versnelling. Omdat het model getraind is met al onze eigen data én gevoed wordt met alle nieuwe oplossingen, worden de antwoorden bovendien steeds accurater.’
Moerel: ‘Toepassingen op grote schaal zie ik in mijn advieswerk inderdaad vooral in callcenters. Sterker nog: ik ken geen groot bedrijf dat daar niet mee bezig is, met als gevolg dat nogal wat mensen zich zorgen maken over hun baan. Dat is terecht, alleen om de foute redenen. Ze hoeven niet te vrezen dat ze worden vervangen door GenAI, ze moeten bang zijn te worden vervangen door iemand die met GenAI kan omgaan. En dat geldt niet alleen voor callcentermedewerkers.’

Wat betekent dat voor de toekomst van werken?
Qiu: ‘GenAI begint al tot een personeelsreductie te leiden in bepaalde delen van de business. Helaas merken we dat veel mensen bang zijn om ermee te werken omdat ze het niet goed begrijpen. Dat is vooral uitdagend, omdat Gen- AI zich in rap tempo blijft ontwikkelen. De leercurve is dus gigantisch en de vraag is hoe we kennis erover in het hele bedrijf krijgen geïmplementeerd.’
Kuijt: ‘Ik zie de toekomst van werken veranderen voor zowel mensen op de werkvloer als voor managers en bestuurders. Inmiddels zijn beslissingen veel meer onderbouwd met data en daardoor veel transparanter. GenAI zal het gebruik van data naar een nog hoger niveau tillen. Het is echt een call to action. Denk nu al na over hoe Gen- AI je kan helpen je werk te verlichten of verbeteren.’
Moerel: ‘Dit geldt echt voor vrijwel alle functies. Neem de corporate secretary. Met GenAI kan een efficiencyslag worden gemaakt wat betreft verslaglegging van vergaderingen van rvb en rvc en van de ava. Zo kun je ook alle jaarverslagen van bedrijven in jouw sector laten vergelijken en op basis daarvan suggesties genereren of je bepaalde risico’s of ontwikkelingen hebt gemist. De mogelijkheden worden nog onvoldoende benut. Als ik gesprekken voer over bij- en herscholing op dit gebied, gaat het altijd over iemand anders. Nooit over de mensen die in de kamer aanwezig zijn.’

Geldt dat ook voor bestuurders? Zijn zij voldoende uitgerust voor dit thema?
Kuijt: ‘Ik zie vanuit bestuurders duidelijk aandacht voor de ontwikkeling en de waarde ervan voor hun organisatie. Technologie was altijd iets van een groepje techneuten op de IT-afdeling. Nu kunnen bestuurders het zelf toepassen, hun kinderen gebruiken het… dat maakt enthousiast en zorgt ervoor dat de discussie niet blijft steken in compliance- aspecten, maar ook gaat over kansen en mogelijkheden. Vanzelfsprekend vraagt de aankomende Europese ai-wetgeving ook de nodige aandacht van bestuurders.’
Moerel: ‘Toch zit het leiderschap er nog onvoldoende bovenop en wordt er te weinig fundamenteel nagedacht over de gevolgen van GenAI voor de missie en strategie. Het loopt door je hele bedrijfsvoering en door alle afdelingen heen en dus moet iedere bestuurder zich op dit gebied bijscholen. Anders heb je niet eens een gezamenlijke taal om over de nieuwe mogelijkheden en risico’s te spreken en weet je niet welke kant het op moet als zich onverwachte issues voordoen. Ik zie dat Nederlandse bestuurders aan hun juridische afdeling vragen om een rapportage van alle risico’s, en dat zijn er nogal wat. In verhouding zijn Nederlandse bedrijven meer huiverig om GenAI te gebruiken vanwege alle risico’s. Ze wachten liever tot de Europese AI Act duidelijk maakt waar ze aan toe zijn. Er is bijna sprake van opluchting: gelukkig, we hoeven nog niet te innoveren. Ik generaliseer natuurlijk, maar er zit een kern van waarheid in. Terwijl ik denk dat niemand het zich kan permitteren te wachten tot het helemaal veilig en gereguleerd is. Dan word je door anderen voorbij gelopen. Experimenteer en onderzoek hoe je het kunt inzetten, zonder je ervan afhankelijk te maken en de weg terug af te snijden. Je moet leren lopen voordat je kunt rennen. Daar komt het in feite op neer.’
Kuijt: ‘Tegelijk moet je niet van je normale methodologische manier van werken afstappen omdat GenAI nieuw en opwindend is en je niet wilt achterblijven. Begin met vragen als: wat wil ik bouwen? Met welk doel wil ik het gebruiken? Is dit echt de beste technologie voor dit doel? Waar haal ik mijn data vandaan? Heb ik checks ingebouwd om bias of andere risico’s te adresseren? Zijn de gebruikers goed opgeleid om ermee te werken? Heb ik voldoende inhoudelijke experts in huis? Vervolgens moet je het monitoren en ervoor zorgen dat er een weg terug is als het model niet doet wat je wilde bereiken.’

Nu zijn er natuurlijk volop risico’s aan het gebruik van GenAI verbonden, zoals op het gebied van privacy, auteursrecht, accuraatheid, ethiek, bias… In Europa wordt al ruim twee jaar gewerkt aan wetgeving omtrent ai. Wat verwacht u daarvan?
Moerel: ‘Het commissievoorstel voor de AI Act dateert van voor de introductie van GenAI, zodat voor deze foundation models speciaal een nieuwe categorie in de wet moest worden gemaakt. De onderhandelingen over de AI Act zijn inmiddels in de afrondende fase, en de verwachting is dat de wet voor het einde van het jaar wordt aangenomen. Intussen moet de Nederlandse regering haar positie over ai nog bepalen. In die zin hobbelen we als land te ver achteraan. Op de AI Act is van alles aan te merken – net als op de AVG – maar deze geeft goede basisprincipes om algoritmes te toetsen op accuraatheid en bias. Overheden en bedrijven moeten hierover verantwoording gaan afleggen.’
Qiu: ‘Elders in de wereld wordt met spanning uitgekeken naar die Europese AI Act. Men weet dat het in Europa vaak lang duurt voordat wetgeving tot stand komt, maar wat er uitkomt is meestal goed en richtinggevend. Signify is een globale speler, maar we nemen in bepaalde gevallen de Europese regelgeving als standaard omdat die het meest compleet is, en vaak het strengst. Zolang de AI Act er nog niet is, blijven we aan de voorzichtige kant zitten. Voor ons zou het dus heel prettig zijn als duidelijk wordt wat wel of niet mag, maar op Europees niveau ontbreekt het aan eenheid en daadkracht.
Problematisch daarbij is dat Europa zelf geen grote tech-spelers als Amazon, Google, Microsoft, Tencent of Alibaba heeft in de wereld van the internet of things, en daarom niet de invloed heeft om voorop te lopen in technologische trends. Dat dreigt nu ook te gebeuren op het gebied van GenAI. Op het gebied van Large Language Models (LLM) hebben we Bard van Google, ChatGPT van Microsoft, Ernie Bot van het Chinese Baidu. Zulke techbedrijven lopen voorop als het gaat om innovatie en bepalen in eerste instantie de spelregels. Er zou wat meer politieke steun mogen zijn om de Europese initiatieven die er wel zijn verder te helpen ontwikkelen.’
Moerel: ‘We kunnen onszelf dan wel zien als de regelgever van de wereld en trots zijn op het “Brussels effect”, maar bottom line is dat scheidsrechters nooit de wedstrijd winnen. Je moet zelf spelen en innoveren, anders heb je een competitief nadeel. Cloudproviders leveren inmiddels vitale infrastructuur, maar nu zitten nog vrijwel alle Europese data in buitenlandse clouds en zijn daarmee minder beschikbaar voor Europese innovatie met ai. Die afhankelijkheid is niet goed voor Europa.’

We kunnen de ontwikkelingen rondom GenAI weliswaar niet overzien, maar toch: waar staan we mogelijk over vijf jaar? Wat heeft het ons dan gebracht?
Kuijt: ‘Ik denk dat er dan in alle sectoren op specifieke gebieden afgestemde foundational modellen zijn en dat mensen die echt benutten, ook omdat mensen erom zullen vragen. Op enig moment wordt het normaal dat bijvoorbeeld artsen en advocaten niet alleen op hun eigen expertise afgaan, maar alle mogelijke bronnen gebruiken. Ik hoop bovendien dat de technologie echt inclusief wordt, zodat mensen het willen omarmen.’
Moerel: ‘De AI Act is van toepassing op alle soorten ai. Ik verwacht dat er specifieke standaarden, regels en certificeringen komen voor specifieke toepassingen. Net zoals we nu oneindig veel checks hebben specifiek om ervoor te zorgen dat auto’s of vliegtuigen veilig zijn. Voor de toepassing van ai geldt nu nog dat dit is als rijden in een auto zonder remmen. Er zullen meer en meer regels opgesteld worden om dit onder controle te krijgen. Het is namelijk onacceptabel dat je een product gebruikt waarvan je niet weet of de output veilig of correct is.’
Qiu: ‘Veel technologie komt en gaat, maar GenAI zal niet meer verdwijnen. Het zal ups en downs kennen, de impact is groot en blijvend. Dat is spannend en maakt ook een beetje onzeker. Maar is dat niet de schoonheid van het leven: leren omgaan met het onverwachte?’

Interview door Elisabeth Philipse, partner bij Kearney, en Ingrid Reichmann, mede-eigenaar van Partners at Work. Dit artikel is gepubliceerd in Management Scope 10 2023.