De laatste jaren groeit het besef dat de werkwijze van Big Tech verregaande en ongewenste maatschappelijke gevolgen heeft. Met Big Tech bedoelen we de economische sector die met commerciële doeleinden gebruik maakt van big data en kunstmatige intelligentie om het gedrag van gebruikers te sturen. Kunstmatige Intelligentie (AI)¹ is een prachtige techniek die gevaarlijk is als ze ondoordacht wordt toegepast. Techbedrijven assisteren en bedienen ons op maat – ten bate van hun verdienmodel. Ze verzamelen zo onvoorstelbare hoeveelheden macht en kapitaal.

In dit artikel komt de filosofie van Big Tech aan bod, gevolgd door maatschappelijke en persoonlijke risico’s. Vervolgens laten we ons waarschuwen door filosoof Hannah Arendt en tot slot worden oplossingsrichtingen geschetst.

De bril van Big Tech | We worden steeds meer onderworpen aan BigTech-praktijken. Niet alleen door die sector, maar ook door overheden. Het is daarom belangrijk om niet alleen naar de uit- werking daarvan te kijken, maar ook oog te hebben voor ‘de leer’ die bij deze technieken hoort.

De basisaanname van techbedrijven is: alle gedrag kan voorspeld worden, als er maar genoeg kennis wordt verzameld. Daarachter zit de filosofische psychologie van het behaviorisme, waarin gedrag centraal staat. Volgens die stroming bepaalt de omgeving gedrag en moet die relatie tussen omgeving en gedrag het onderwerp van onderzoek zijn. Met de uitbreiding van kennis en data neemt de zekerheid over menselijk gedrag toe. De samenleving kunnen we vervolgens begrijpen als een verzameling organismen die zich gedragen naar ‘natuurwetten’. Innerlijk leven kunnen we niet meten en het heeft ook geen zin dat verder te onderzoeken – het concept ‘ziel’ is al helemaal niet aan de orde. Het is effectiever de handelende mens als een organisme tussen andere organismen te begrijpen, dan de relatie tussen de psyche en de handelende mens te onderzoeken. Gedrag is wat objectief door een ander geobserveerd kan worden. Daarvoor is het nodig om de terminologie van subjectieve connotaties te ontdoen. Dus niet ‘een mens ziet iets’ maar ‘een organisme kijkt naar iets’. Het gaat erom patronen van causaliteit te vinden tussen de omgeving en het waargenomen gedrag. Om dat mogelijk te maken wordt menselijk gedrag gereduceerd tot wat meetbaar is. Volgens psycholoog en grondlegger van het radicale behaviorisme Skinner, zullen door voortschrijdende behavioristische inzichten het privédomein en vrijheid verschrompelen: “In reality freedom and ignorance are synonyms.The acquisition of knowledge is heroic in that it rescues us from ignorance, but it is also tragic because it necessarily reveals the impossibility of freedom.” ²

Van democratie naar datacratie | Om iemands gedrag te voorspellen en daarop commercieel in te spelen, zijn veel data over gedrag nodig. Om dat proces te begrijpen, muntte Harvard-professor Soshana Zuboff het begrip ‘surveillance capitalism’. Google was het eerste bedrijf dat via zoekgeschiedenis gebruikersprofielen aanmaakte en advertenties daarop afstemde. Dat heeft een belangrijk effect op de werking van het internet. Het verschrompelt de gemeenschappelijke publieke ruimte waarbinnen we elkaar kunnen ontmoeten, van mening verschillen, de wereld ontdekken en tot samenleven komen. BigTech-bedrijven hebben helemaal geen belang bij het in stand houden van die vrije ruimte – die internet ooit leek te zijn – waar onverwachte situaties kunnen optreden, of bij het alleen maar geven van door ons opgevraagde informatie.³

Pioniers en internetenthousiastelingen van het eerste uur luiden nu de noodklok. Dat onze data in handen zijn van enkele spelers met een agressief commercieel oogmerk is een directe bedreiging van onze democratie. We leven steeds minder in een democratie en steeds meer in een ‘datacratie’ waar grote bedrijven een soort staatsmacht uitoefenen over burgers.⁴ Dit gevecht lijkt virtueel en digitaal, maar corrumpeert steeds meer de reële wereld. We zien overheden steeds meer BigTech- methodes toepassen zoals het voorspellen van misdaad en tegelijk hebben BigTech-bedrijven een enorme macht, zonder bijbehorende democratische legitimatie, machtenscheiding of toezicht.

Emoties te koop | Hoewel grote platformen geen geweld gebruiken om mensen aan zich te binden, is het moeilijk om je te onttrekken aan hun praktijken. Hierdoor is er bij steeds meer mensen sprake van ‘wereldvervreemding’ en ‘zelfvervreemding’. Wereldvervreemding, omdat steeds meer mensen in hun eigen bubbel verblijven. Zij raken via techniek los van de wereld en worden niet gecorrigeerd door de realiteit. Bij ‘zelfvervreemding’ wordt de mens als handelswaar benaderd. De wil om iets te willen, wordt gemanipuleerd door constante monitoring van data en feedback daarop.

Zeker sinds de introductie van de smartphone maakt  internet  deel  uit van onze fysieke wereld. Alles is een app geworden en achter iedere app zit een bedrijfsbelang. Het gaat deze bedrijven om onze tijd, aandacht, clicks, likes en gedachten. Door de verregaande digitalisering is een steeds groter deel van ons handelen, denken, zoeken, communiceren, foto’s verzenden en online winkelen beschikbaar in de vorm  van  digitale data. Consumenten zijn gebruikers, de bedrijven die geld willen verdienen met onze data zijn de klanten van de Big Tech. Techbedrijven moet steeds meer data verkrijgen om relevant te blijven. Hoe meer data, des te meer geld ze verdienen aan de nauwkeurige voorspelling van ons gedrag. Vanuit die verzamelde data presenteren zij ons opties en beïnvloeden ons direct tegen betaling van derden.

In de ‘echte wereld’ leren mensen met zichzelf en anderen te leven. Ze doen ervaringen op, ontmoeten elkaar en ontwikkelen een identiteit. Ze ondernemen iets, slagen of falen daarin en ervaren ongemak en frustratie – dat is allemaal vormend. Met de huidige sociale media is dat een nog grotere opgave geworden. De door sociale media gevoede behoefte om je steeds met anderen te vergelijken verstoort de noodzakelijke ‘zelfconstructie’ en wordt door onderzoekers als problematisch gezien.⁵ De voortdurende prikkels en ervaren aanwezigheid van anderen via de smartphone geeft een schijnverbondenheid en tast sociale structuren aan. Uiteindelijk gaat het niet om jou of het contact met wie je lief is, maar om je aandacht, tijd en geld.

Big Tech exploiteert die ruimte waarbinnen we leren en ervaren. Zij spreken onze emotionele, instinctieve gevoelens aan en onze voorliefde voor het sensationele. Een uitgelekt intern rapport (2017) van Facebook liet zien dat het bedrijf van zesenhalf miljoen jongeren vanaf veertien jaar in Australië en Nieuw-Zeeland inzicht had in hun emotionele toestand en wist wie wanneer een ‘confidence boost’ nodig had.

Daarmee konden jongeren op basis van real-time informatie benaderd worden om een aankoop te doen die paste bij hoe waardeloos ze zich op dat moment voelden.⁶  In een reactie stelt Facebook dat er niet op die manier gebruik gemaakt is van de data. Uit een ander onderzoek (2012) bleek dat Facebook zonder toestemming onderzocht of ze de emoties van gebruikers konden beïnvloeden, en dat lukte.⁷

De menselijke conditie | Hoe kunnen we ons weren tegen deze ontwikkelingen die ons persoonlijk en onze samenleving schaden? We gaan te rade bij filosofe Hannah Arendt, die meer dan genoeg aanknopingspunten biedt voor een kritiek op Big Tech en lichten een paar relevante denklijnen uit.

Volgens Arendt is denken de belangrijkste menselijk activiteit en gaat het mis als we niet meer nadenken. Met haar beroemde these van ‘de banaliteit van het kwaad’ (1963) formuleerde ze het ultieme kwaad van de Holocaust niet als een exclusief Duits fenomeen, maar als een algemeen menselijk tekort: onnadenkendheid. Een aspect uit haar werk dat hieraan raakt en dat al eerder aan de orde kwam is dat van ‘wereldvervreemding’ en ‘zelfvervreemding’, die leiden tot onnadenkendheid.

Volgens haar historische analyse raken mensen minder betrokken op de wereld en steeds meer opgesloten in zichzelf.⁸ Een van de oorzaken daarvan is dat we de werkelijkheid steeds meer in de mal van een natuurwetenschappelijk – technisch – wereldbeeld gieten. Arendt wijst erop dat die blik te beperkt is en ons vervreemdt van de wereld die we waarnemen en van onszelf. Door die vervreemding ligt onnadenkendheid op de loer.

Níemand doorgrond de algoritmen achter flitskapitaal dat enorm snel over de wereld beweegt, terwijl begrip nodig is om na te denken over wat er gebeurt. Arendt zag – in 1958 – de bui al hangen. “Wij kunnen dingen doen die wij niet kunnen begrijpen en waarover we dus niet kunnen denken en spreken (…) alsof ons brein niet meer bij machte is te registreren wat wij doen, zodat wij voortaan daadwerkelijk machines nodig hebben om voor ons te denken en te spreken. Als waar blijkt dat weten (in de moderne betekenis van technische kennis) en denken voorgoed eigen wegen zijn gegaan, dan zouden we inderdaad de machteloze slaven worden, niet zozeer van onze machines als wel van onze technische kennis, niet-denkende wezens, tot speelbal geworden van elk apparaat (…)” ⁹

Het geeft wel te denken dat juist Arendt, die onnadenkendheid zowel banaal als de grondslag voor het ultieme kwaad noemt, ons dit probleem schetst. Mensen onder elkaar moeten de richting van de technologische ontwikkeling bepalen, er zijn keuzes en we moeten begrijpen welke. Arendt waarschuwt dat we onszelf door onnadenkendheid geen slachtoffer moeten maken van automatische noodzaak, en met elkaar het wonder van het nadenkend handelen in en vrijheid moeten bewaren. ‘Willen’, ‘oordelen’, ‘beloven’ en ‘vergeven’ zijn de centrale begrippen waarmee Arendt het samenleven duidt – en die ons kunnen laten ontsnappen aan de gedachteloosheid en het gebod van de noodzaak. BigTech-bedrijven willen de noodzaak en voorspelbaarheid maximaliseren ten bate van hun verdienmodel, terwijl mensen alleen in vrijheid hun bestemming kunnen ontwikkelen, individueel en met elkaar.