Kunstmatige intelligentie als force for good

Waarom is ai voor uw relevant?
Polak: ‘Er zijn zoveel data om ons heen, we hebben ai nodig om ervan te leren. Misschien kunnen we vandaag nog zonder, maar morgen niet meer. Sinds twee jaar maken we bij het scouten van veelbelovende bedrijven gebruik van ai-modellen. Dat maakt het werk inspirerender. Ai speelt een belangrijke rol bij onze proposities. Zo’n 80 procent doet er iets mee.’
Del Maffeo: ‘Ai is voortgekomen uit machine learning. Deze technologie werd door mensen aangestuurd. Ai gaat inmiddels verder. Machines leren van data en creëren nieuwe modellen. Ai zal onze samenleving vooruithelpen, onder meer op het gebied van gezondheid, veiligheid en duurzaamheid.’
Frijters: ‘Data zijn kennis en kennis is voor de mensheid altijd al van strategisch belang geweest. Zij die erin slagen om ai op de juiste manier in te zetten, zullen daarmee een groot voordeel hebben ten opzichte van anderen. Ai is ook strategisch voor Europa, we willen daarvoor niet afhankelijk zijn van andere, soms minder democratische landen en werelddelen.’

Wat zijn de grootste uitdagingen voor Axelera AI?
Del Maffeo: ‘Geld is niet het probleem. Sinds we de technologie hebben bewezen, zijn genoeg investeerders geïnteresseerd. De uitdaging is vooral het vinden van de juiste mensen. We hebben daarom vestigingen in Eindhoven, Leuven en Zürich. Hier werken getalenteerde ontwikkelaars vanuit de hele wereld. Als je internationaal koploper wil zijn in high tech en wil concurreren met Amerika en China, dan kun je niet alleen in Nederland zitten. Het is enorm belangrijk om voor deze talenten een creatieve werkcultuur te creëren. Big tech-bedrijven als Facebook bieden hogere salarissen, maar bij ons kunnen ze echt interessante dingen doen en meebouwen aan impactvolle technologie.’

Welke bedrijven zijn frontrunners?
Del Maffeo: ‘Google, Facebook en Amazon. Deze grote jongens verzamelen al heel lang data en begrepen al vroeg dat ze met slimme algoritmes een voorsprong namen. Daarom zijn ze nu ook de koplopers.’
Frijters: ‘Uiteraard de techreuzen waar iedereen mee bekend is, maar ook dichter bij huis zijn er honderden voorbeelden. Zoals Robovision uit Gent, zij zorgen ervoor dat onder andere tuinders zonder al te veel kennis van ai toch ai-oplossingen kunnen trainen en gebruiken. Of startups zoals Tarucca, aanbieder van predictive maintenance voor windmolenparken. Of AlphaBeats, een startup die stress helpt te verminderen door muziek te spelen: ai leest de alfa- en bètagolven in je brein om zo de muziek aan te passen met als doel stress te verminderen.’
Polak: ‘Zes jaar geleden werd ik met mijn neus op de werkelijkheid gedrukt. Ik sprak in Palo Alto, nabij San Francisco, met een grote investeerder. Deze vakgenoot vertelde dat zijn team jaarlijks duizenden bedrijven scant en over een grote database beschikt. Die boodschap trof me als een mokerslag. Ik zat al 20 jaar in dezelfde business, waarom had ik daar nooit aan gedacht? Sinds die bewuste trip verzamelen ook wij data. Ook als we niet in deze startups investeren, volgen we hoe ze zich ontwikkelen. De gegevens leiden tot waardevolle inzichten. We vergelijken de cijfers met de proposities die we ontvangen.’

Welke ethische dilemma’s spelen er rondom ai?
Del Maffeo: ‘Er zijn zorgen. De sector ontwikkelt algoritmes om mensen te herkennen. Dat is prima, maar het is niet goed als mensen vervolgens worden gevolgd zonder dat ze het weten. Ook op het vlak van data spelen ethische dilemma’s. Mensen zijn van nature biased ofwel bevooroordeeld. Het is de uitdaging om unbiased datasets te creëren.’
Frijters: ‘Het risico op bias is groot en daarom een belangrijk onderwerp voor bestuurders. Zo zijn er verschillende oorzaken van biases. De eerste is de meest bekende, namelijk dat de trainingsdata al vol met bias zitten waardoor het model ook biased uitkomsten voortbrengt. Stel dat je cv’s van kandidaten wil screenen met je personeelsbestand als uitgangspunt. Dan krijg je wellicht vooral blanke, mannelijke kandidaten met dezelfde opleidingen en studentenverenigingen, terwijl je ook vrouwelijke kandidaten en kandidaten met een migratieachtergrond wilt. Ten tweede kan er sprake zijn van een te kleine dataset als het gaat om bijvoorbeeld minderheden: dan gaat een model automatisch minder zekerheid toekennen aan die data met als gevolg bias naar de uitkomsten uit de grote groep. Als laatste gaat het vaak fout met zogenaamde proxies zoals postcodegebieden, die kunnen indirect tot discriminatie van bepaalde groepen leiden. Of: om de klantenservice te verbeteren, gebruiken sommige bedrijven stemherkenning. Ze leiden daar emoties uit af. Dat gaat snel mis, omdat het uiten van emoties sterk cultureel afhankelijk is, denk maar eens aan een Vlaming versus een Nederlander. Al met al genoeg uitdagingen, maar er zijn gelukkig ook voldoende oplossingen beschikbaar en in de maak.’

Hoe zouden bestuurders en investeerders hierop kunnen anticiperen?
Frijters: ‘Het begint met bewustzijn door de hele organisatie. Dat geldt voor zowel bestuurders als de betreffende teams. Als er geen bewustzijn is en een bedrijf gaat met ai aan de slag, dan gaat het snel mis. De toeslagenaffaire is daar een pijnlijk voorbeeld van. Begin in ieder geval met het stellen van de juiste vragen, zoals: wat voor data en ai-model gebruiken we? Hoe kunnen we biases vermijden? Zijn de teams die zich bezighouden met ai multidisciplinair, zodat ze zich meer bewust zijn van de bredere risico’s?’
Del Maffeo: ‘Elk bedrijf zou iemand verantwoordelijk moeten stellen voor data en privacy. Je hebt een specialist nodig die de datasets controleert. Hier beginnen vaak de problemen.’
Polak: ‘Als investeerder kijk ik tijdens de due diligence of een organisatie deze ethische dilemma’s goed heeft geborgd. Als er geen goed verhaal is, investeren we niet. Het gaat niet alleen om een goede technologie, het gaat er ook om hoe bewust een bedrijf hiermee omgaat.’

Hoe geavanceerder ai, hoe meer ethische dilemma’s, zo lijkt het. Tot welke effecten kan dat leiden?
Del Maffeo: ‘Ai zal markten sneller verstoren dan we denken. Er zullen banen verdwijnen en nieuwe bijkomen. Alleen medewerkers met de juiste kennis en vaardigheden doen straks mee. Bezoek eens een Tesla-fabriek; daar staan minder en vooral anders gekwalificeerde medewerkers dan in de gemiddelde autofabriek. Bedrijven onderschatten de impact hiervan. De overheid zal moeten inspelen op de veranderende arbeidsmarkt en moeten nadenken hoe ze ongelijkheid kan voorkomen. Binnen vijf jaar kunnen problemen zich al manifesteren.’
Polak: ‘We moeten voorkomen dat er een tweedeling in de samenleving ontstaat tussen de haves en de have nots. Als een deel van de bevolking niet over de juiste digitale vaardigheden beschikt, leidt dat tot een onherstelbare kloof. Toen ik in 2017 in San Francisco was, las ik een interessant artikel in de lokale krant. Het schetste hoe schrijnend de situatie is in de stad, waar de flower power-generatie in 1967 droomde van een samenleving met gelijke kansen. Sinds bedrijven als Facebook, Twitter en Oracle in San Francisco zitten, wordt er met forse salarissen gestrooid. De oorspronkelijke bewoners kunnen hier domweg niet meer wonen.’
Frijters: ‘Ik ben huiverig voor de sociale en geopolitieke impact van ai. We hebben gezien hoe er door sociale media fake news kan ontstaan, met ai zal dat nog veel verder ontwikkelen. Doordat grote techbedrijven algoritmen gebruiken, krijgen consumenten steeds weer nieuws voorgeschoteld dat hun ideeën versterkt. We hadden niet voorzien dat dit democratieën kon ontwrichten. Er zullen meer onvoorziene effecten op ons afkomen. Stel dat ai zo goed wordt dat kinderen opgroeien met een robot als beste vriend? Wat doet het met kinderen als zij alleen maar horen hoe goed ze zijn? Stel dat een virtuele persoon je beter begrijpt dan je echtgenoot? We weten niet waartoe het zal leiden, maar zoals met elke nieuwe disruptieve technologie zullen we de negatieve bijvangst ook weer repareren.’

Kun je als investeerder, bestuurder of toezichthouder borgen dat ai niet verkeerd wordt gebruikt?
Polak: ‘Het is misschien een vreemde vergelijking, maar het is net als met een schroevendraaier. Je kunt er een stoel of kast mee in elkaar zetten, maar je kunt er ook iemand mee verwonden of zelfs doden. Er kloppen veel bedrijven bij ons aan die plannen hebben met ai. Ik verwacht dat ze daarmee de goede dingen doen, maar je weet het nooit. Als bestuurder en investeerder zie ik mede toe op de ESG-criteria. Maar er is altijd een grijs gebied waar ik geen controle over heb.’
Frijters: ‘Als commissaris zie ik erop toe dat ESG-doelstellingen in harmonie zijn met alle bedrijfsactiviteiten, dus ook op het gebied van ai. De meeste bedrijven hebben goede intenties, maar regelgeving zal nodig zijn voor de rest.’

Europa wil de kwalijke gevolgen van ai reguleren en is daarin verder dan Amerika. Is het mogelijk voor een overheid om te reguleren?
Del Maffeo: ‘In Europa ligt een wetsvoorstel waarin de mate van risico wordt gecategoriseerd. Ik denk dat zo’n framework goed is voor ai. Maar er schuilt ook een gevaar in. Als je data van burgers wil beschermen, vertraag je innovatie. Het is noodzakelijk om technologieën te laten leren van data. Ook kan de gezondheidszorg zich geen vertraging permitteren, denk alleen maar aan de ontwikkeling van vaccins tegen COVID-19. Er zijn ook andere oplossingen. Bijvoorbeeld door gebruik te maken van versleutelde data; deze gegevens zijn niet herleidbaar tot personen.’
Frijters: ‘De nieuwe wetgeving zou ook moeten opgaan voor spelers als Google en Amazon. Ik ben cynisch. Er wordt hard gelobbyd om te bereiken dat de wet gunstig voor hen uitpakt. Dat gebeurde al met de General Data Protection Regulation. Kleine bedrijven worden beboet terwijl Google er meestal mee wegkomt.’
Del Maffeo: ‘Er speelt nog iets anders. De Europese economie kent voornamelijk mkb-bedrijven. Zij zouden flink kunnen profiteren als zij onderling niet-gevoelige data gaan delen. Europa zou dat moeten faciliteren; zo krijgt het mkb een flinke boost.’

Welke kansen biedt ai?
Del Maffeo: ‘Ai zal een belangrijke schakel zijn bij het oplossen van grote maatschappelijke vraagstukken, maar kan ook betere customer experiences creëren. Verschillende domeinen, denk aan de zorg en het onderwijs, zullen “democratiseren”. Zo zullen er bijvoorbeeld kleinere medische apparaten op de markt komen waarmee consumenten hun gezondheid kunnen checken.’
Frijters: ‘Daar sluit ik me bij aan, zo’n democratisering kan bijvoorbeeld betekenen dat ook mensen met een kleinere portemonnee overal in de wereld toegang krijgen tot voorheen onbetaalbare professionals. Denk aan virtuele leraren, trainers, coaches, diëtisten of psychologen.’

Hoe doet Nederland het op het gebied van AI?
Del Maffeo: ‘Europa telt drie belangrijke ai-innovatiehubs. Dat zijn Amsterdam, Londen en Parijs. Voor ai-halfgeleiders zijn dit Cambridge, Bristol, Eindhoven, Delft, München en Zürich. Nederland heeft een goed ecosysteem. Als klein land kunnen we een leidende positie pakken, maar er is onderling te veel concurrentie tussen de regio’s. Er moet veel meer worden samengewerkt om innovatief te zijn met ai. Ambtenaren willen te graag hun stempel drukken op hun regio. Ik ben blij met de Nederlandse AI Coalitie, die inzet op een betere samenwerking en kennisdeling. Het initiatief krijgt stevige financiële steun van het Nationaal Groeifonds.’
Frijters: ‘Ai en digital in het algemeen moeten een prominentere plaats innemen in ons onderwijs, maar ook in de bestuurskamers. Ook binnen bedrijven zou het bijna een verplichting moeten zijn om voldoende digitale kennis te hebben, dat verwachten we ook op het gebied van HR, finance, et cetera. Er zijn volop mogelijkheden om kennis op te doen dankzij online cursussen en de veelvoud aan publicaties. Zo kun je als bestuurder betere vragen stellen.’

Hoe ziet u de toekomst van ai?
Polak: ‘Ik durf geen uitspraken te doen. Al over vijf jaar ziet de wereld er totaal anders uit dankzij ai. Ik hoop dat we in staat zijn een framework te creëren zodat ai alleen voor goede dingen gebruikt zal worden. Mijn wens is dat bedrijven het beste uit ai zullen halen en dat ai tot een inclusievere samenleving zal leiden.’
Frijters: ‘Ai kan de wereld op zoveel manieren mooier maken. Ik hoop dat we als maatschappij met al onze instellingen en bedrijven daarin zullen excelleren.’
Del Maffeo: ‘Ik hoop dat Axelera een van de grote chipfabrikanten is en een leidende rol speelt op het gebied van ai.’

Interview door Juul Vaandrager, director venture capital van de Nederlandse Vereniging van Participatiemaatschappijen (NVP). Dit artikel is gepubliceerd in Management Scope 07 2022.