Zijn we vrij of niet?

Zijn we vrij of niet?

tunnel stad

23 juni 2021 by Anke Griffioen (Schoendetaillist en eigenaar adviespraktijk voor wijkontwikkeling)

Foto: Folkert Rinkema

‘Er is meer aandacht nodig voor wetgeving rond digitale technieken, de bescherming van grondrechten, bewustwording en het borgen van het publieke belang’, schreven de indieners van een amendement op het conceptverkiezingsprogramma van de ChristenUnie. En: ‘De overheid moet een grotere rol nemen bij de regulering van BigTech-spelers, het internet als publieke ruimte en via voorlichting en andere bewustwordingsmaatregelen pal gaan staan voor vrijheid”. In de toelichting op het amendement vallen  de termen ‘wereldverzaking’ en ‘zelfvervreemding’. Wat staat er op het spel?

De laatste jaren groeit het besef dat de werkwijze van Big Tech verregaande en ongewenste maatschappelijke gevolgen heeft. Met Big Tech bedoelen we de economische sector die met commerciële doeleinden gebruik maakt van big data en kunstmatige intelligentie om het gedrag van gebruikers te sturen. Kunstmatige Intelligentie (AI)  is een prachtige techniek die gevaarlijk is als ze ondoordacht wordt toegepast. Techbedrijven assisteren en bedienen ons op maat – ten bate van hun verdienmodel. Ze verzamelen zo onvoorstelbare hoeveelheden macht en kapitaal.

In dit artikel komt de filosofie van Big Tech aan bod, gevolgd door maatschappelijke en persoonlijke risico’s. Vervolgens laten we ons waarschuwen door filosoof Hannah Arendt en tot slot worden oplossingsrichtingen geschetst.

De bril van Big Tech | We worden steeds meer onderworpen aan BigTech-praktijken. Niet alleen door die sector, maar ook door overheden. Het is daarom belangrijk om niet alleen naar de uit- werking daarvan te kijken, maar ook oog te hebben voor ‘de leer’ die bij deze technieken hoort.

De basisaanname van techbedrijven is: alle gedrag kan voorspeld worden, als er maar genoeg kennis wordt verzameld. Daarachter zit de filosofische psychologie van het behaviorisme, waarin gedrag centraal staat. Volgens die stroming bepaalt de omgeving gedrag en moet die relatie tussen omgeving en gedrag het onderwerp van onderzoek zijn. Met de uitbreiding van kennis en data neemt de zekerheid over menselijk gedrag toe. De samenleving kunnen we vervolgens begrijpen als een verzameling organismen die zich gedragen naar ‘natuurwetten’. Innerlijk leven kunnen we niet meten en het heeft ook geen zin dat verder te onderzoeken – het concept ‘ziel’ is al helemaal niet aan de orde. Het is effectiever de handelende mens als een organisme tussen andere organismen te begrijpen, dan de relatie tussen de psyche en de handelende mens te onderzoeken. Gedrag is wat objectief door een ander geobserveerd kan worden. Daarvoor is het nodig om de terminologie van subjectieve connotaties te ontdoen. Dus niet ‘een mens ziet iets’ maar ‘een organisme kijkt naar iets’. Het gaat erom patronen van causaliteit te vinden tussen de omgeving en het waargenomen gedrag. Om dat mogelijk te maken wordt menselijk gedrag gereduceerd tot wat meetbaar is. Volgens psycholoog en grondlegger van het radicale behaviorisme Skinner, zullen door voortschrijdende behavioristische inzichten het privédomein en vrijheid verschrompelen: “In reality freedomandignorancearesynonyms.The acquisitionofknowledgeisheroicinthat itrescuesusfromignorance,butitisalso tragicbecauseitnecessarilyrevealsthe impossibilityoffreedom. 

Van democratie naar datacratie | Om iemands gedrag te voorspellen en daarop commercieel in te spelen, zijn veel data over gedrag nodig. Om dat proces te begrijpen, muntte Harvard-professor Soshana Zuboff het begrip ‘surveillance capitalism’. Google was het eerste bedrijf dat via zoekgeschiedenis gebruikersprofielen aanmaakte en advertenties daarop afstemde. Dat heeft een belangrijk effect op de werking van het internet. Het verschrompelt de gemeenschappelijke publieke ruimte waarbinnen we elkaar kun- nen ontmoeten, van mening verschillen, de wereld ontdekken en tot samenleven komen. BigTech-bedrijven hebben hele- maal geen belang bij het in stand houden van die vrije ruimte – die internet ooit leek te zijn – waar onverwachte situaties kunnen optreden, of bij het alleen maar geven van door ons opgevraagde informatie.

Pioniers en internetenthousiastelingen van het eerste uur luiden nu de noodklok. Dat onze data in handen zijn van enkele spelers met een agressief commercieel oogmerk is een directe bedreiging van onze democratie. We leven steeds minder in een democratie en steeds meer in een ‘datacratie’ waar grote bedrijven een soort staatsmacht uitoefenen over burgers. Dit gevecht lijkt virtueel en digitaal, maar corrumpeert steeds meer de reële wereld. We zien overheden steeds meer BigTech- methodes toepassen zoals het voorspellen van misdaad en tegelijk hebben BigTech-bedrijven een enorme macht, zonder bijbehorende democratische legitimatie, machtenscheiding of toezicht.

Emoties te koop | Hoewel grote platformen geen geweld gebruiken om mensen aan zich te binden, is het moeilijk om je te onttrekken aan hun praktijken. Hierdoor is er bij steeds meer mensen sprake van ‘wereldvervreemding’ en ‘zelfver- vreemding’. Wereldvervreemding, omdat steeds meer mensen in hun eigen bubbel verblijven. Zij raken via techniek los van de wereld en worden niet gecorrigeerd door de realiteit. Bij ‘zelfvervreemding’ wordt de mens als handelswaar benaderd. De wil om iets te willen, wordt gemanipuleerd door constante monitoring van data en feedback daarop.

Zeker sinds de introductie van de smartphone maakt  internet  deel  uit van onze fysieke wereld. Alles is een app geworden en achter iedere app zit een bedrijfsbelang. Het gaat deze bedrijven om onze tijd, aandacht, clicks, likes en gedachten. Door de verregaande digitalisering is een steeds groter deel van ons handelen, denken, zoeken, communiceren, foto’s verzenden en online winkelen beschikbaar in de vorm  van  digitale data. Consumenten zijn gebruikers, de bedrijven die geld willen verdienen met onze data zijn de klanten van de Big Tech. Techbedrijven moet steeds meer data verkrijgen om relevant te blijven. Hoe meer data, des te meer geld ze verdienen aan de nauwkeurige voorspelling van ons gedrag. Vanuit die verzamelde data presenteren zij ons opties en beïnvloeden ons direct tegen betaling van derden.

In de ‘echte wereld’ leren mensen met zichzelf en anderen te leven. Ze doen ervaringen op, ontmoeten elkaar en ontwikkelen een identiteit. Ze ondernemen iets, slagen of falen daarin en ervaren ongemak en frustratie – dat is allemaal vormend. Met de huidige sociale media is dat een nog grotere opgave geworden. De door sociale media gevoede behoefte om je steeds met anderen te vergelijken verstoort de noodzakelijke ‘zelf-constructie’ en wordt door onderzoekers als problematisch gezien. De voortdurende prikkels en ervaren aanwezigheid van anderen via de smartphone geeft een schijnverbondenheid en tast sociale structuren aan. Uiteindelijk gaat het niet om jou of het contact met wie je lief is, maar om je aandacht, tijd en geld.

Big Tech exploiteert die ruimte waarbinnen we leren en ervaren. Zij spreken onze emotionele, instinctieve gevoelens aan en onze voorliefde voor het sensationele. Een uitgelekt intern rapport (2017) van Facebook liet zien dat het bedrijf van zesenhalf miljoen jongeren vanaf veertien jaar in Austra- lië en Nieuw Zeeland inzicht had in hun emotionele toestand en wist wie wan- neer een ‘confidence boost’ nodig had.

Daarmee konden jongeren op basis van real-time informatie benaderd worden om een aankoop te doen die paste bij hoe waardeloos ze zich op dat moment voelden.6  In een reactie stelt Facebook dat er niet op die manier gebruik gemaakt is van de data. Uit een ander onderzoek (2012) bleek dat Facebook zonder toestemming onderzocht of ze de emoties van gebruikers konden beïnvloeden, en dat lukte.

De menselijke conditie | Hoe kunnen we ons weren tegen deze ontwikkelingen die ons persoonlijk en onze samenleving schaden? We gaan te rade bij filosofe Hannah Arendt, die meer dan genoeg aanknopingspunten biedt voor een kritiek op Big Tech en lichten een paar relevante denklijnen uit.

Volgens Arendt is denken de belang- rijkste menselijk activiteit en gaat het mis als we niet meer nadenken. Met haar beroemde these van ‘de banaliteit van het kwaad’ (1963) formuleerde ze het ultieme kwaad van de Holocaust niet als een exclusief Duits fenomeen, maar als een algemeen menselijk tekort: onnadenkendheid. Een aspect uit haar werk dat hieraan raakt en dat al eerder aan de orde kwam is dat van ‘wereldvervreemding’ en ‘zelfvervreemding’, die leiden tot onnadenkendheid.

Volgens haar historische analyse raken mensen minder betrokken op de wereld en steeds meer opgesloten in zichzelf. Een van de oorzaken daarvan is dat we de werkelijkheid steeds meer in de mal van een natuurwetenschappelijk – technisch – wereldbeeld gieten. Arendt wijst erop dat die blik te beperkt is en ons vervreemdt van de wereld die we waarne- men en van onszelf. Door die vervreemding ligt onnadenkendheid op de loer.

Níemand doorgrond de algoritmen achter flitskapitaal dat enorm snel over de wereld beweegt, terwijl begrip nodig is om na te denken over wat er gebeurt. Arendt zag – in 1958 – de bui al hangen. Wijkunnendingendoendiewijnietkunnenbegrijpenenwaarover we dus niet kunnen denken en spreken (…) alsof ons brein niet meer bij machte is te registreren wat wij doen, zodat wij voortaan daadwerkelijk machines nodig hebben om voor ons te denken en te spreken. Als waar blijkt dat weten (in de moderne betekenis van technische kennis) en denken voorgoed eigen wegen zijn gegaan, dan zouden we inderdaad de machteloze slaven worden, niet zozeer van onze machines als wel van onze technische kennis, niet-denkende wezens, tot speelbal geworden van elk apparaat (…)” 

Het geeft wel te denken dat juist Arendt, die onnadenkendheid zowel banaal als de grondslag voor het ultieme kwaad noemt, ons dit probleem schetst. Mensen onder elkaar moeten de richting van de technologische ontwikkeling bepalen, er zijn keuzes en we moeten begrijpen welke. Arendt waarschuwt dat we onszelf door onnadenkendheid geen slachtoffer moeten maken van automati- sche noodzaak, en met elkaar het wonder van het nadenkend handelen in en vrijheid moeten bewaren. ‘Willen’, ‘oordelen’, ‘beloven’ en ‘vergeven’ zijn de centrale begrippen waarmee Arendt het samenleven duidt – en die ons kunnen laten ontsnappen aan de gedachteloosheid en het gebod van de noodzaak. BigTech-bedrijven willen de noodzaak en voorspelbaarheid maximaliseren ten bate van hun verdien- model, terwijl mensen alleen in vrijheid hun bestemming kunnen ontwikkelen, individueel en met elkaar.

Aanpak | Om ons te wapenen tegen Big Tech die middels AI alleen private en geen gemeenschappelijke belangen dient, is techonderwijs al vanaf de basis- school nodig. De wereld wordt vanuit het publieke en private domein steeds meer aangestuurd met behulp van algoritmen. Deze kunnen ingezet worden om de aandeelhouderswaarde te vergroten, maar ook om discriminatie en kansenongelijkheid te ontmaskeren. Als we controle willen houden, moeten we als burgers algoritmisch kunnen denken en het niet aan overheid of bedrijfsleven over laten om sturende apps te maken. Big Tech houdt ons graag dom en onwetend, maar we kunnen kinderen prima leren hoe en welke belangen met data en algoritmen gediend kunnen worden. Internetpionier Marleen Stikker bepleit ‘toekomstlabs’ in scholen en wijken waar bewoners leren programmeren en oefenen met techniek om te begrijpen hoe het werkt.

Behalve begrip van digitalisering is ook ervaring van spreken en handelen met anderen essentieel. Mensen leren door ontmoetingen en samenwerking en dat wordt steeds lastiger naarmate de eigen bubbel dominanter wordt. Het vertrouwen in een gedeelde wereld als plaats voor ontmoeting, het toneel waar mensen kunnen handelen en spreken, heeft onderhoud nodig. Als mensen die gedeelde wereld niet meer ervaren en het vertrouwen verliezen, dan krijgen chaos en onzekerheid de overhand. Daarom moeten we investeren in onze digitale publieke ruimte en een goed gebruik daarvan. Het moet een ruimte zijn waarin we vrije burgers kunnen zijn.

Overheden werken aan het reguleren van Big Tech, zie de inspanningen van het Amerikaanse Congres en de Europese Unie. Bedrijven en onderzoekers experimenteren met alternatief gebruik van big data en AI, maar wij als gebruikers en burgers zijn ook aan zet om onze autonomie en keuzevrijheid te kunnen behouden. Onze samenleving heeft platforms en digitale infrastructuur nodig die vanuit publieke waarden georganiseerd en beheerd worden; het werken daaraan is een gemeenschappelijke opgave.

Anke Griffioen is mede-indiener van het aangeno- men amendement op het verkiezingsprogramma over Big Tech. Griffioen is schoendetaillist in Rotterdam en Amsterdam en heeft daarnaast een adviespraktijk voor wijkontwikkeling. Op onderwerpen als economie en bestuurlijke vernieuwing ondersteunt zijn de ChristenUniefractie in Rotterdam.