Voorbij het algoritme

Groen - interruptie

'Onder alle techtalk liggen oude vragen over macht, rechtvaardigheid en welvaartsverdeling.'

Microfoon

In het kielzog van alle technologische vooruitgang komt het politieke debat over AI maar moeilijk op gang. Wat mist, is de politieke bezinning op de productie en het gebruik van AI-systemen, in plaats van een apolitiek en moralistisch vertoog over de algoritmische natuur.

Een diepe angst voor vrijheidsbeperking door AI en onwetendheid over de staat van kunstmatige intelligentie heeft de discussie vernauwd. Het debat bestaat enerzijds uit gesteggel over restricties op het gebruik van algoritmes. Anderzijds richt kritiek zich op de bias in algoritmische systemen en wordt gezocht naar hoe de ongewenste effecten van het gebruik van algoritmische systemen te beperkten. Zolang de singulariteit nog niet bereikt is, mag het debat over AI wel wat verder gaan dan naïeve angst en filosofische zoektochten naar neutrale technologie. Onder alle techtalk liggen namelijk oude vragen over macht, rechtvaardigheid en welvaartsverdeling. Die gaan ons allemaal aan.

Wat we kunstmatige intelligentie noemen, behelst vooral het trainen van modellen op grote hoeveelheden tekstuele of visuele data. Deze modellen worden vervolgens ingezet om zaken te voorspellen of te categoriseren. De modellen worden steeds beter, maar dit komt in belangrijke mate door de grotere hoeveelheden data die in het trainingsproces gebruikt worden. GPT-3, het laatste taalmodel gemaakt door Elon Musks OpenAI, is getraind op honderden miljarden woorden. Gemiddeld verdubbelt de grootte van de input-data elke drie tot vier maanden. Al die data zijn geproduceerd door individuen wiens eigendomsrechten en privacy met voeten getreden wordt.

Daarnaast worden klimaatbelastende en omgevingsverstorende datacentra in de Nederlandse polders uit de grond gestampt om de data op te slaan en berekeningen te maken. Pessimistische onderzoeken schatten in dat de datacentra die nodig zijn voor de productie en inzet van AI binnen enkele jaren tien procent van de totale CO2-uitstoot omvat.

Ook wordt de productie van ground truth, op basis waarvan de nauwkeurigheid van modellen geëvalueerd wordt, vaak uitbesteed aan slecht betaalde arbeidskrachten. Het platform Amazon Mechanical Turk, waar dit soort classificatietaken worden uitbesteed, staat bekend om slechtbetaalde opdrachten.

Vervolgens wordt deze techniek doorgaans zonder enig toezicht gebruikt. Een berucht voorbeeld zijn de in China ontwikkelde beeldherkenningsalgoritmen die ingezet worden om Oeigoeren te herkennen. Westerse bedrijven en onderzoekers die de heropvoedingskampen ongetwijfeld keurig afkeuren, gebruiken de daar ontwikkelde Chinese techniek vaak zonder enige schroom.

Dit alles wordt overschaduwd door het feit dat onze digitale infrastructuur in handen is van een handjevol megacorporaties, voor wie het gemijmer over de algoritmische moraal de perfecte bliksemafleider is voor hun problematische marktpositie.

Een AI-politiek zou zich dus kunnen en moeten richten op praktijkissues als deze. Er is meer te doen dan het verbieden van technologie of het reduceren van bias. Ontwikkel een Europese innovatie-agenda waarin bovenstaande issues een plaats hebben, in plaats van te bezuinigen op onderzoek. De recente miljardenkorting op de Europese academische Horizon 2020 fondsen zal bepaald niet helpen om alternatieven voor Chinese technologie te ontwikkelen. Breek daarnaast de macht van de Big Five met mededigingsingrepen en belastingmaatregelen, in plaats van het zoveelste morele appel. Ook dat kan het beste op Europees niveau. Ten slotte, pak privacy-issues bij de wortel aan door persoonlijke advertenties te verbieden, in plaats van techbedrijven te smeken transparant te zijn.

Het debat over AI kan wel wat meer politiek gebruiken. Daarvoor is een blik voorbij het algoritme noodzakelijk. Pas wanneer we alle elementen – dataverzameling en opslag, training, techniek, gebruik en eigenaarschap – in ogenschouw nemen, kunnen we de balans opmaken en bepalen wat wel en niet wenselijk is in een samenleving die niet in algoritmes te vatten is.

Bestel dit nummer van Groen

en lees meer over artificial intelligence

Groen cover 2021-1

Gerelateerde artikelen

  1. Techkandidaat

    2 november 2020 om 12:00 by Bas de Groot

    Bas de Groot column

    Eind deze maand stellen de ChristenUnie-leden de kandidatenlijst vast voor de komende Kamerverkiezingen. Uw columnist van dienst heeft geen politieke aspiraties, maar volgt dit proces met veel interesse - het gaat immers om de politieke voorhoede van de partij. Traditiegetrouw bevat de lijst capabele en talentvolle mensen, maar helaas ontbreekt er een techkandidaat op een verkiesbare plek en dat is een gemiste kans voor de ChristenUnie.

    Lees verder

  2. Data-ethiek

    18 mei 2020 om 12:00 by Bas de Groot

    Bas de Groot column

    In mijn vorige column hield ik een pleidooi om ook in coronatijden onze digitale vrijheden te koesteren. Inmiddels zijn we zes weken verder en lijkt het erop dat er een tracingapp komt voor bron en contactonderzoek. Dit lijkt mij onwenselijk, maar het laat ook een onderliggend probleem zien: het gebrek aan data ethiek bij politieke besluitvorming.

    Lees verder

  3. Volwassen democratie

    6 april 2020 om 12:00 by Bas de Groot

    Bas de Groot column

    Mark Rutte oogstte veel lof met zijn toespraak over de verlenging van de Corona-maatregelen. Direct, duidelijk, presidentieel. Wat mij in positieve zin is bijgebleven is zijn pleidooi voor een volwassen democratie. Geen regering die burgers oplegt wat te doen, maar kabinet en burgers gezamenlijke ten strijde tegen het virus. Mijn aanvulling: laten we in deze tijden ook onze digitale vrijheden koesteren.

    Lees verder