Datahonger: een grote zorg voor ons allemaal

Het hemd van het lijf
Ten eerste zouden u en ik als individuele burger bezorgd moeten zijn over de ongebreidelde datahonger van bedrijven en overheden. Er worden enorme hoeveelheden data verzameld en zelfs bij het online kopen van een kaartje voor een tentoonstelling of concert word je het hemd van het lijf gevraagd, zonder dat daar een acceptabel belang of doel voor bestaat. Niet alleen wordt er veel verzameld, er wordt ook nog eens slecht voor gezorgd waardoor hackers er keer op keer in slagen die data te stelen. U en ik krijgen dus nu regelmatig te maken met allerlei vormen van phishing en die worden steeds geavanceerder. De Kamer van Koophandel past slecht op, gemeentes evenzeer. De GGD en bedrijven doen het niet veel beter, zoals we hebben gezien bij het datalek bij autobranche-databedrijf RDC waarbij veel persoonlijke data van Nederlandse automobilisten werden gestolen. Ik laat bedrijfsspionage dan nog buiten beschouwing. Het is inmiddels zo ongeveer dagelijks nieuws.

Zonder bias gaat het niet
Ten tweede, als er dan veel data zijn verzameld, worden daarop algoritmes losgelaten die per definitie niet waardenvrij zijn. Je kunt nog zo je best doen om een algoritme te maken dat uiteindelijk geen biases gaat vertonen, de experts zullen u vertellen dat het onbegonnen werk is. Waar dat toe kan leiden weten we na de kinderzorgtoeslagaffaire. In dit geval ging het om profiling met het doel op zoek te gaan naar fraude en misbruik. Tja, dat vind je dan ook uiteraard. De maatschappelijke schade is enorm, om maar niet te spreken van het menselijk leed bij tienduizenden mensen.

Klikken is meer betalen
Ten derde worden, met dank aan de inzichten van de behavioral economics, die data gebruikt om ons te beïnvloeden in onze keuzes. Dat gaat soms om nog enigszins positieve bedoelingen, zoals in het geval van de donorwet waarbij ‘opt in’ werd gewijzigd in ‘opt out’ – je moet dus aangeven dat je geen donor wilt zijn. Mensen zijn lui en willen niet kiezen, dus is hiermee het percentage donoren in Nederland op een internationaal vergelijkbaar niveau gebracht.
Maar, als we een hotelkamer op een site willen boeken, kan een algoritme druk op ons uitoefenen door aan te geven dat er nog maar één kamer over is en dat er inmiddels vijf anderen aan het kijken zijn. Als we een vliegticket online willen boeken en een aantal keren heen en weer klikken, dan blijkt de prijs uiteindelijk steeds hoger te worden. Is dat oké? Dat mag iedereen voor zichzelf bepalen, maar mijn antwoord is nee.

Leven in een bubbel
Ten vierde heeft die ongebreidelde datahonger geleid tot monopolies en het falen van de markt, zodanig dat niet alleen de menselijke keuzevrijheid wordt bedreigd maar daarmee ook de rechtsstaat. De marktmacht is zo groot geworden dat niemand meer om die big tech-bedrijven heen kan. Sommigen hebben het dan over de fearsome five, u mag raden welke bedrijven dat zijn. De invloed gaat zo ver dat we dankzij het schandaal rond Cambridge Analytica weten dat zelfs verkiezingen worden beïnvloed met door algoritmes verspreide desinformatie.
Ook is met dank aan die algoritmes de door Arjen Lubach zo mooi gemunte ‘fabeltjesfuik’ een realiteit geworden, waardoor mensen in een bubbel terechtkomen omdat ze alleen maar dezelfde informatie voorgeschoteld krijgen. Polarisatie in de samenleving is daardoor steeds manifester geworden. Als mensen gaan verkondigen dat iets waar is omdat het op Facebook stond, dan weet u hoever we zijn gekomen.

1984
Ten vijfde willen geheime diensten steeds meer weten van u en mij. Immers, het belang is om terrorisme tegen te gaan en ja, boeven worden ook steeds vindingrijker. Met dank aan Edward Snowden weten we hoe ver dat ging en waarschijnlijk gaat in de USA. Mass surveillance lijkt de norm te worden en het meest extreme voorbeeld is uiteraard China. Daar is de samenleving in mijn ogen beland in het ‘1984’-scenario, of in ieder geval gaat het hard die kant op. Niet alleen in China, ook hier hangen overal camera’s en de vermeende moordenaar van Peter R. de Vries kon in no time worden opgespoord en gevolgd met dank aan alle camera’s. Dat is natuurlijk in dit geval prettig, maar welke prijs betalen we eigenlijk voor deze verzamelwoede? Het argument is vaak ‘ik heb niets te verbergen’ maar dat is onzin, zoals De Correspondent al eens mooi opschreef. Maar liefst 11 tegenargumenten waarbij de eerste de belangrijkste is: er is geen ‘ik’ zonder iets te verbergen – en zo is het. Mensen maken altijd keuzes over wat ze wel of niet over zichzelf prijsgeven. En, zoals ‘ik’ hiervoor al aangaf, overheden passen slecht op onze data, zelfs inlichtingendiensten zijn niet feilloos.

Bestuurders hebben zorgplicht
Het zou in de boardroom dus niet alleen om financieel-economische vragen moeten gaan, zoals het risico om niet te voldoen aan de Algemene verordening gegevensbescherming (AVG) en daardoor een flinke boete te kunnen krijgen. Nee, uiteindelijk gaat het vooral om ethische vragen waarop een antwoord dient te komen. Wat is acceptabel bij de datahonger, hoe gaan we ermee om, zijn de algoritmes wel oké, is er sprake van ongeoorloofde manipulatie van consumenten?
De vragen zijn talloos en ik heb de antwoorden ook niet. Wel zou ik u toewensen dat u hier tijdig over nadenkt om te voorkomen dat u een affaire aan de broek heeft, omdat de samenleving niet langer accepteert wat er gebeurt. U heeft een zorgplicht, ook zeker op dit punt. Het is immers een toenemende zorg voor ons allen.

Dit essay is gepubliceerd in Management Scope 07 2021.