De gevaren van een door ai vertekende werkelijkheid
Op allerlei manieren zit er een discrepantie tussen GenAI en de echte wereld. Ten eerste natuurlijk in hoe GenAI nog altijd kan ‘hallucineren’, waardoor het op bepaalde vragen antwoorden geeft die met de realiteit weinig te maken hebben.
Ten tweede vertekenen de enorme investeringen die nu in GenAI worden gedaan het beeld van economische groei. Ja, op papier gaan de lijntjes omhoog, maar een groot deel van de economische activiteit richt zich maar op één sector. Expert na expert waarschuwt voor een bubbel, voor een economie die kunstmatig wordt gestut door geld dat vooral naar datacenters en microchips gaat. Wedden op één paard, hoe veelbelovend dat paard ook is, blijft gevaarlijk.
Die ongelijkheid in investeringen is niet alleen een papieren werkelijkheid. ‘AI is powering an economy in which many Americans are falling behind’, is de kop van een CNN-artikel over San Francisco, waar de ongelijke verdeling pijnlijk duidelijk wordt. Grote ai-bedrijven hebben er goedbetaalde werknemers, terwijl de aanmeldingen bij voedselbanken stijgen. Ook het consumentengedrag laat maar weinig groei zien. Op papier trekt de stad enorme investeringen aan, maar die zijn slechts weggelegd voor een deel van de bevolking, en een deel van de economie.
Dit is natuurlijk een heel specifiek Amerikaans voorbeeld, maar het is wel tekenend voor de kortzichtigheid die de markt kan hebben, en de gevaarlijke uitwerkingen daarvan.
Voor Management Scope schreven Gijs Linse en Hilde van der Baan over ai als governancevraagstuk. Daarin gaat het vooral over hoe bedrijven zelf met ai kunnen (of moeten) omgaan, en waarom bestuur en toezicht zich actief moeten inzetten om dat in goede banen te leiden. Ik denk dat bovenstaande waarschuwingen het belang van actieve sturing en weloverwogen beslissingen rondom ai nog maar eens onderstrepen.