‘Kritisch leren denken in een door ai gladgestreken wereld’

We hebben hier een interview over de digital age en het valt me op dat jij hier als enige met een papieren aantekenboekje zit. Is dat een statement?
‘Ja, dat is opvallend hè. Maar het is geen principieel statement hoor. Ik heb uiteraard ook alle digitale middelen tot mijn beschikking, ik ben dol op gadgets en techniek en ik heb een abonnement op meerdere ai-diensten, maar tegelijkertijd weet ik van mezelf dat ik me beter kan concentreren met pen en papier.’

Laten we het hebben over ethiek in de digital age, en dan met name de dilemma’s en vragen waar de boardroom mee te maken heeft en krijgt. Hoe vind je dat het bedrijfsleven met de digital age omgaat?
‘Ik ben net een groot project aan het opstarten over ethische richtlijnen voor ai-gebruik in het midden- en kleinbedrijf. Ik zie daar grofweg twee stromingen. De ene stroming van bedrijven doet helemaal niets. Die wacht af, kijkt de kat uit de boom en is in afwachting van bijvoorbeeld wet- en regelgeving. De tweede stroming – en die is wat groter – gaat gewoon all-in. We moeten wel mee, is wat zij zeggen. Als je niet meebeweegt, is de kans groot dat je straks tot de verliezers hoort. Het feit dat er weinig tot niets is gereguleerd, biedt volgens hen ook kansen. Het valt momenteel nog niet te zeggen waar de ontwikkelingen heen gaan. We hebben geen goed zicht op wie de winnaars, verliezers en slachtoffers zullen zijn. Dat kunnen we pas later concluderen.’

Hoe gaan we moreel om met alle veranderingen om ons heen?
‘Bij elke nieuwe technologische ontwikkeling zie je iets van morele paniek. Toen de trein geïntroduceerd werd, dachten sommigen dat het niet verstandig was om vrouwen ermee te laten reizen; hun baarmoeder zou er weleens uit kunnen vallen. Ook nu is er sprake van morele paniek. Vraag is alleen: is dit gewoon normale morele paniek rond nieuwe technologie, of is dit fundamenteel anders? Helaas, ook dat kunnen we nu nog niet overzien. Dat zijn conclusies voor later. We kunnen alleen iets zeggen over wat we nu voelen als we bijvoorbeeld een tekst laten schrijven door GenAI. Die tekst ziet er perfect uit, maar het is niet jouw tekst. En dat voelt een beetje raar. Ik was laatst op bezoek bij een reclamebureau en die doen tegenwoordig echt hun best om hun uitingen er juist niet als ai uit te laten zien. Door ai zien veel uitingen er te gelikt uit. Eerst was glad en gelikt het ultieme streven, zeker in de reclame, maar nu heeft het iets afstotends gekregen en willen we juist dat stukje imperfectie. Dat spreekt ons mensen kennelijk meer aan. Bedrijven willen klanten overtuigen dat het niet puur door ai gegenereerd is. Op de universiteit hier gebeurt hetzelfde. Ik heb veel te maken met studenten die hun papers laten schrijven door ai. Vervolgens stoppen ze er wat foutjes in om het geloofwaardiger te maken. Ik snap het ook wel: als ik een perfect geschreven thesis onder ogen krijg, ben ik meteen achterdochtig.’

Maar toch is dat gek. De ambitie moet zijn: het best mogelijke stuk schrijven. Als ik mijn medewerkers om een memo vraag, wil ik een goede memo. Maakt het uit hoe het resultaat tot stand komt? Waarom zou je dat moeten opschuren?
‘Ik denk dat de omgeving waarin het gebeurt een essentieel verschil is. Natuurlijk heb jij liever een goede memo dan een slechte. Maar hier zitten we op een onderwijsinstelling. Ik moet mensen iets bijbrengen en als jij je tekst niet zelf geschreven hebt, kan ik niet beoordelen of je de stof beheerst. Er zijn veel docenten die ai-gebruik helemaal willen verbieden. Dat is wellicht een sympathieke en begrijpelijke gedachte. Maar dat is niet te handhaven.
Ik zie inmiddels ook kansen. Ik laat studenten een stuk schrijven en als we over die tekst – of die nu van ChatGPT komt of van henzelf – een zinnig gesprek kunnen voeren, ben ik tevreden. Sterker nog: ik heb gemerkt dat de aanpassingen die we vanwege ai moeten maken – zoals bijvoorbeeld mondelinge examens – iets belangrijks kunnen toevoegen. Ik heb de laatste jaren studenten die afstuderen en die nog nooit een serieus gesprek met een volwassene hebben gehad. Ik heb studenten die geen oogcontact kunnen of durven maken met volwassenen. Ik zie revolutionair potentieel: een zinnig gesprek voeren over een wetenschappelijk thema.’

Ai heeft de neiging om foutloos te zijn. Is het ook niet belangrijk dat je moet leren om fouten te maken? Het nemen van risico’s, accepteren dat er daarbij dingen fout kunnen gaan, en in staat zijn om dan van die eventuele fouten te leren, is bijvoorbeeld onlosmakelijk verbonden met succesvol ondernemen.
‘Ja, ik denk dat je daar gelijk in hebt. Sowieso voorzie ik een probleem op het terrein van innovatie. De natuurlijke aard van GenAI is om patronen uit het verleden in de toekomst te projecteren. Het herhaalt het meest succesvolle. De kans dat GenAI met iets verrassends of met een niche komt, is dan ook niet zo groot. Als je dat nastreeft, hebben we eigenlijk weer een aantal ouderwetse menselijke deugden nodig. Zoals moed. Je hebt iemand nodig die iets durft te bevragen, die kritisch durft te zijn, die de steen in zijn maag durft te benoemen. We moeten kritisch leren denken in een wereld die door ai gladgestreken wordt. Innovatie komt juist vaak door te botsen. Innovatie ontstaat ook door durven te falen, door mislukking en door kritiek op die mislukking. Het is op dit moment heel moeilijk om ruzie te maken met ChatGPT. “Chat” is heel vleiend, vindt alles geweldig, zegt dat ieder waardeloos stuk potentie heeft. Als innovatie hoog in het vaandel van je bedrijf staat, weet ik niet of “Chat” je vriend is. Waar zit immers de frictie?’

Jij doet onderzoek naar sciencefiction uit het verleden, wat valt je op aan die toekomstvisies?
‘Ik vind het boeiend om de verhalen die ooit werden verteld over de wereld van de toekomst te onderzoeken, bijvoorbeeld Brave New World van Aldous Huxley. Waarvoor waarschuwt Huxley? Hij waarschuwt niet per se voor onderdrukking door robots, nee, het is veel subtieler. Hij waarschuwt dat we ooit zo entertained zullen zijn dat we nergens meer op letten. Min of meer vrijwillig. Boeken hoeven helemaal niet verboden te worden als niemand ze toch leest, als iedereen toch alleen maar aan de pleasure machine wil liggen. Het scenario van Huxley is nu grotendeels werkelijkheid geworden.’

Wat kan of moet het antwoord zijn?
‘Er is een stroming van techno-optimisten die zegt dat alle vragen en alle problemen kunnen worden beantwoord of opgelost met meer technologie. We weten niet meer hoe we vriendschap moeten sluiten en dus bedenkt Mark Zuckerberg een ai-vriend. Ik denk dat dat een zorgelijke ontwikkeling is. Als dat de oplossing is, is het eind zoek. Maar de techniek zal altijd in het voordeel zijn. Filosofie leeft immers van traagheid. Daarom vindt men filosofie binnen de zakenwereld ook zo irritant. Er is altijd een ethicus die oproept om er nog een nachtje over te slapen. De voormalig ceo van Google, Eric Schmidt, heeft eens gezegd dat wij mensen te veel praten. Technologie lost het allemaal wel voor ons op. Praten is verspilde tijd. Ik ben van de andere school. Ik vind dat we best even mogen bedenken wat nieuwe technologie met je doet. Maar dat zijn echt twee conflicterende bewegingen.’

Even terug naar de vraag hoe ontwrichtend deze nieuwe tijd is. We kunnen inderdaad terugverwijzen naar de trein, maar zijn de huidige digitale ontwikkelingen niet veel unieker? Kun je dat in historisch perspectief plaatsen?
‘Het grote verschil is dat de trein destijds niet in je binnenzak zat. GenAI zit dat wel. De schaal is nu veel groter, het is voor iedereen beschikbaar. GenAI gaat bovendien met je in gesprek. En daar komt bij dat de economische afhankelijkheid enorm is. De hele Amerikaanse economie drijft op datacenters. De schaal en de economische afhankelijkheid maken dit allemaal ongekend in de geschiedenis. Dat zou ontwrichtend kunnen zijn.
Dat geldt ook voor de persoonlijke verhoudingen. Ik doe veel onderzoek naar mensen die een romantische relatie hebben met ai. Waarom willen ze dat? Omdat het een frictieloze relatie is. Het is iemand die altijd beschikbaar is, nooit moeilijk doet, die je gewoon kunt vormen naar jouw ideaalbeeld. Mijn grootste zorg zit er niet zozeer in dat wij mensen straks het huisdier van een robot zijn, mijn zorg zit er vooral in dat mensen kennelijk denken dat een perfecte relatie een relatie zonder frictie is.’

 Er worden op het gebied van data heel veel regels bedacht om te zorgen dat consumenten of bedrijven beter beschermd worden. In hoeverre zijn regels de oplossing?
‘Vanuit ethisch perspectief is compliance nooit afdoende. Je loopt met regels al snel achter de feiten aan. We hebben namelijk de neiging om overal regeltjes voor te bedenken. Kijk naar ons diversiteit- en inclusiebeleid hier aan de universiteit. Dat wordt steeds omvangrijker. Voor elke situatie stellen we een nieuwe regel op. Ondertussen is het beleid uitgegroeid tot iets wat voor sommigen aanvoelt als een soort van politiestaat. Dan hoor je bepaalde mensen zeggen: je mag hier ook niks meer zeggen. Daar zit best wat in. Want waar is nog het gesprek als je alleen maar regels hebt? Regels schrijven kan zijn eigen verpletterende machinerie op gang helpen, waarin uiteindelijk ook het menselijk oordeel dreigt te verdwijnen. Mensen hebben altijd de neiging gehad om regels te schrijven. Denk aan de tien geboden. Het is namelijk fijn om dat houvast te hebben. Maar op het moment dat je de regel opschrijft, komt er altijd iemand met een uitzondering op die regel. Daar kom je dus nooit helemaal uit.’

Bovendien kan ik de regels misschien makkelijk bedenken. Maar wat als niemand zich eraan houdt? Hebben we niet een meer culturele of ethische omslag nodig?
‘Daar zit de grote vraag. Dat is ook de frustratie van de ethiek. Vaak kom je niet verder dan de uitroep: mensen moeten gewoon béter worden. Dat klinkt nogal naïef. Ook hier geldt: the medium is the message. Als ik college geef, krijg ik mijn studenten wel mee. Over de meeste ethische kwesties worden we het eens. Maar zodra we in andere context zitten, bijvoorbeeld allemaal achter een schermpje, dan zie je plots dat degelijke, fatsoenlijke mensen het decorum verliezen. Het medium dwingt je niet, maar nodigt je wel uit. Dat zie je bij de ai-tool van Elon Musk, Grok. Die biedt nu een nudifier tool, waarbij je iemand op de foto kan laten uitkleden. Die tool wordt massaal gebruikt. En het valt allemaal onder “free speech” of “good fun”. Maar de slachtoffers van deze grapjes zijn meestal de kwetsbare groepen die zelf geen stem hebben en geen macht. Wij zouden die kwetsbare groepen moeten beschermen. Maar die bescherming zal vermoedelijk niet van de technologie komen (Socialmediaplatform X kondigde kort na het interview aan dat de regels voor AI-chatbot Grok strenger worden. Hierdoor zou het niet meer mogelijk moeten zijn om foto's van mensen digitaal 'uit te kleden', red.). Daar hebben we kritische mensen voor nodig. Hoe zorgen we ervoor dat mensen toch kritisch blijven denken, toch moed blijven tonen in die frictieloze wereld?’  

Stel nou dat ik commissaris ben van een onderneming die actief is met social media. En bestuurders komen met een plan dat binnen de regels valt, maar waarvan ik het gevoel heb: ‘moeten we dit wel doen?’ Hoe moet ik daarmee omgaan? Zou er in de board van Grok niemand hebben gezegd: ‘Ja, maar jongens, we moeten het toch even over die nudifier tool hebben...’?
‘Ik vrees dat deze discussie in de VS niet heel actief gevoerd is. Obama heeft ooit zijn Team of Rivals samengesteld, onder het motto “omgeef je met mensen die het niet met je eens zijn”. Maar wie durft dat nog? Het is niet voor niks dat we nu allemaal tools en media hebben die gericht zijn op entertainen en op frictieloosheid. Frictieloosheid staat ook voor al die techbedrijven hoog in het vaandel. Maar wat betekent het als je geen enkele weerstand ervaart? Tegenspraak is nu iets radicaals geworden, iets waar je moed voor nodig hebt.’

Moeten we bijvoorbeeld naar een beleid waarbij het altijd iemands taak is om het oneens te zijn?
 ‘Mensen benoemen om kritisch te zijn, lijkt me niet de oplossing. Dan zeg ik: ik neem jou niet serieus, want jij moet nu eenmaal altijd moeilijk doen. Wat we moeten doen, is het eigen ongemak en het ongemak van anderen heel serieus nemen. Je moet een klimaat creëren waarin je twijfels kunt uiten, buikpijn moet kunnen benoemen. Daar begint moraliteit – bij dat gevoel. Het begint met moed om je vinger op te steken en te zeggen: dit voelt niet goed. Dat is ethiek – the stick in the mud. Ieder individu heeft ergens een grens.’

Wat zou top of mind moeten zijn in de boardroom?
‘Ik denk dat de les moet zijn dat je oog moet hebben voor het microniveau. Daarmee bedoel ik bijvoorbeeld ons vermogen om haarfijn aan te voelen of onze mening welkom is. Terug naar Grok, de chatbot van Elon Musk: er zullen ongetwijfeld mensen in Musks omgeving zijn geweest die hun bedenkingen hadden bij die nudifier tool. Maar die weten uit ervaring dat je beter niet tegen de wil van Musk ingaat. In de boardroom wil je natuurlijk juist dat er altijd de mogelijkheid tot een gesprek is. Op microniveau kan die ruimte ontstaan door een kleinigheid: wanneer bijvoorbeeld iemand twijfel durft te uiten of zich een klein beetje kwetsbaar durft op te stellen. We hebben dat allemaal wel eens meegemaakt: dat de sfeer ineens vrijer en opener wordt door zo’n kleine manifestatie van moed. Moed zit hem juist in die kleine dingen. Als je je dat realiseert, voelt het ook niet als een enorme opgave.’

Gaan we nu met z'n allen de verkeerde kant op? Of hebben we uiteindelijk een voldoende moreel kompas? Overheerst hoop of wanhoop?
‘We gaan allebei de kanten op. Er is wanhoop en er is hoop. Je kunt weinig anders dan wanhopen als je 's ochtends zit te doom scrollen door je nieuwsapp. Maar er zijn ook voldoende hoopvolle momenten. Bijvoorbeeld als ik studenten zie die echt voor zichzelf aan het denken zijn. Die worstelen en dat met elkaar delen. Het bijzondere is dat de hoop zich altijd op microniveau afspeelt en de wanhoop meestal op macroniveau. We moeten beseffen dat dat macroniveau vrijwel altijd gemedieerd tot ons komt, gedepersonaliseerd via een scherm en vrijwel nooit in de pure vorm. Gelukkig zullen we altijd persoonlijke contacten houden. Daar zit de hoop.’  

Reageren? Mail ons op redactie@scopebusinessmedia.nl

Dit interview is gepubliceerd in Management Scope 02 2026.