Het dilemma van staan voor je principes
Een interessante zaak in de Verenigde Staten, waar het Ministerie van Defensie (of ‘oorlog’, volgens minister Pete Hegseth) en ai-ontwikkelaar Anthropic lijnrecht tegenover elkaar staan. De inzet: Anthropic wil niet afwijken van zijn ethische principes, het wil niet dat het Amerikaanse leger bijvoorbeeld autonome wapens kan aansturen met Anthropics technologie, of dat die technologie wordt gebruikt voor massasurveillance. Maar Anthropics ai-model Claude wordt door dat leger al wel veel gebruikt voor andere doeleinden.
Als het aan Hegseth ligt is het helemaal niet aan Anthropic om ethische grenzen voor hun technologie te stellen. Hij wil het ongelimiteerd kunnen inzetten, en dreigt een deal van $200 miljoen met Anthropic op te zeggen, en zou ze zelfs als een gevaar voor de keten kunnen bestempelen, waardoor geen enkele Defensie-leverancier meer met Anthropic zou mogen samenwerken.
Deze casus werpt licht op een dilemma waar bedrijven vaker mee hebben geworsteld. De grens tussen principes en groei. Anthropic heeft verantwoord gebruik van ai altijd als hoogste goed beschouwd, en hoewel het dus wel samenwerkt met Defensie, vindt ceo Dario Amodei dat er wel degelijk een grens is aan hoe ver die samenwerking gaat. Maar als de samenwerking stopt, en zeker als Anthropic wordt aangemerkt als supply chain risk, kan dat de doodsteek zijn voor het bedrijf, of in ieder geval de groei flink vertragen.
Het doet denken aan de zaak uit 2016 waarin de FBI, in een onderzoek naar de daders van een schietpartij, Apple wilde dwingen om software te maken waarmee er een ‘achterdeur’ in een iPhone kon worden geïnstalleerd. De FBI wilde zo toegang krijgen tot de telefoon van een van de daders. Apple weigerde, vanuit de gedachte dat de privacy van hun gebruikers voorop stond. Dat was nogal een gok, want het kwam het bedrijf in eerste instantie op veel kritiek te staan. Maar het zorgde er ook voor dat ‘Apple’ en ‘privacy’ in de publieke opinie zo’n beetje synoniemen werden.
Staan voor je principes is een enorme opsteker voor je reputatie. Als Anthropic de druk vanuit het Pentagon weet te weerstaan, laat het bedrijf zien dat het bereid is hun waarden tot het uiterste te verdedigen. Het doet denken aan de ‘frictieloze wereld’ die filosoof en ethicus Roos Slegers schetst in dit interview. Zij heeft het over de relatie met ai als een relatie zonder frictie. Een chatbot is het altijd met je eens. Pete Hegseth heeft het idee dat de ‘echte wereld’ ook zo frictieloos zou moeten zijn: als hij iets vraagt, dan moet er worden gehoorzaamd. Hoe bescherm je de wereld tegen zulke frictieloosheid? ‘Daar hebben we kritische mensen voor nodig.’ Hopelijk dus: mensen zoals Dario Amodei.