Overheids-ICT: een ongelukkig huwelijk? | Het valt niet te ontkennen dat er veel misgaat met ICT binnen overheidsorganisaties. Naast het feit dat ICT-projecten vaak vele malen duurder uitvallen dan begroot, kwamen er recentelijk ook andere fundamentele problemen aan het licht. Een korte greep uit het afgelopen jaar: het fraudesysteem SyRi werd via de rechter verboden omdat het systeem in strijd was met mensenrechten. Kortgeleden maakte de toeslagenaffaire pijnlijk duidelijk dat mede door ICT-systemen burgers vast kwamen te zitten in de bureaucratische molen. De gemeente Enschede kreeg een flinke boete (van zo’n 600.000 euro) van de Autoriteit Persoonsgegevens vanwege WiFi-tracking, een systeem waarmee burgers in de binnenstad nauwkeurig kunnen worden gevolgd. De corona-app die er bij aanvang van de coronacrisis moest en zou komen, kwam moeilijk van de grond en is uiteindelijk nog steeds maar half af en nauwelijks geïmplementeerd. En zo kunnen we nog wel even doorgaan. Hoe komt het toch dat belangrijke aspecten zoals mensenrechten niet goed in die systemen worden geborgd? Wat maakt dat data van duizenden, soms zelfs miljoenen individuen in handen van cybercriminelen kunnen komen? Hoe komt het dat overheids-ICT steeds vaker tot uitsluiting in plaats van insluiting van burgers leidt?

Gevangen door bits en bytes | Om een antwoord op die vragen te kunnen formuleren, moet eerst de vraag gesteld worden waarom er überhaupt wordt geïnvesteerd in digitalisering. Het belangrijkste argument is dat overheden – net als bedrijven – ICT inzetten om efficiënter en effectiever te zijn in het produceren van hun producten en diensten. Het zelf kunnen inzien van de uitslag van een coronatest via de website is nu eenmaal goedkoper dan dat een callcentermedewerker over de uitslag moet bellen. ICT bespaart kosten en het voorkomt rompslomp. Problemen ontstaan als kostenreductie en efficiëntie als de drijvende waarden achter ICT gaan fungeren, en dat zijn nu juist – al dan niet bewust – de drijfveren achter overheids-ICT.3 Daar waar complexe maatschappelijke vraagstukken zich aandienen, bestaat het ant- woord veelal in méér ICT. ICT heeft – soms flink opgeklopt door techbedrijven – de pretentie om die complexe maatschappelijke vraagstukken in hapklare brokjes op te delen om die vervolgens snel en efficiënt met behulp van software te kunnen adresseren. Maar dan wordt vaak vergeten dat op die manier andere waarden zoals het recht op privacy, rechtszekerheid, gelijkheid en vertrouwen bekneld kunnen raken. Zo leerde de GGD dat het registratiesysteem CoronIT – dat onder hoge tijdsdruk in elkaar werd geknutseld – weliswaar snel de juiste data kon verzamelen, maar ook dat er bij het ontwerp ervan maar nauwelijks was nagedacht over het beschermen van diezelfde data tegen malafide callcentermedewerkers. En zo kwamen slachtoffers van de toeslagenaffaire onder de roep om een hardere fraudeaanpak via het systeem Fraude Signalering Voorziening (FSV) in een digitale fuik terecht waar nauwelijks aan te ontsnappen was. Ze kwamen immers niet meer van het predicaat ‘fraudeur’ af, terwijl het in werkelijkheid ging om gastouderbureaus die ouders vertelden dat ze geen eigen ouderbijdrage hoefden te betalen. Wat vaak niet meer dan een vergissing was, werd daardoor als fraude behandeld. Protesteren hielp niet en procederen evenmin, zodat ouders werden gedwongen de gehele toeslag terug te betalen, ook het eventueel terecht ontvangen deel. Al- lemaal voorbeelden waarin ICT-systemen leidend worden en burgers disciplineren in plaats van dienen.

Voor burgers is het gevolg: administratieve uitsluiting of erger. ICT kan op die manier verworden tot: ”een digitale kooi waarin waarderationaliteit – de vraag met welke beginselen en principes bureaucratisch handelen moet worden ingegeven – wordt verdrongen ten fa- veure van een instrumentele rationaliteit die het realiseren van organisatorische doelen en het volgen van algoritmen en databases ‘heilig’ verklaart.” Dit maakt dat overheids-ICT met een sterke hang naar efficiëntie en kostenreductie kan leiden tot verlies van aandacht voor belangrijke waarden, om nog maar te zwijgen over het feit dat van kostenbesparing lang niet altijd sprake is. De menselijke maat, het oog hebben voor omstandigheden van burgers verdwijnt dan naar de achtergrond, terwijl perverse prikkels zoals discriminatie, uitsluiting of veroordeling het overnemen.

Naar beginselen van behoorlijke ICT Gebleken is dat politici en uitvoeringsorganisaties vaak te optimistisch zijn over de werking van ICT-systemen en eenzijdig gefocust zijn op kostenreductie en efficiëntie. Daardoor verslapt de aandacht voor belangrijke waarden die in de oplossing van maatschappelijke vraagstukken een centrale rol spelen en die niet door een louter instrumentele rationaliteit kunnen worden geadresseerd. Bovendien laten zij zich daarbij dikwijls te gemakkelijk inpalmen door de illusies van maakbaarheid die verkocht worden in de marketing van techbedrijven. Dat roept de vraag op hoe voorkomen kan worden dat uitvoeringsorganisaties met hun ICT- systemen (smart of niet) onbedoeld bijdragen aan de zojuist beschreven digitale kooi. Hoe kan bevorderd worden dat ICT zo wordt ingezet dat het bijdraagt aan juist die waarden die we in een democratische rechtsstaat hoog achten? Met een knipoog naar de ‘algemene beginselen van behoorlijk bestuur’ definiëren Widlak en Peeters in hun boekje De digitale kooi vier beginselen van ‘behoorlijke ICT’. Ze vormen een leidraad voor het ontwerpen van ICT-systemen die gevoeliger zijn voor de sociale werkelijkheid van burgers en de aandacht voor efficiëntie en kosten- reductie niet ten koste laten gaan van de aandacht voor publieke waarden. Let wel, het zijn beginselen. Deze dienen per keerzorgvuldig te worden ingevuld en waar nodig uitgebreid. Die beginselen zijn:

Consistentie. Waar het in overheids-ICT nogal eens misgaat is waar ICT-systemen van diverse organisaties met elkaar verbonden worden. Categorieën en begrippen binnen die systemen kun- nen per context en per organisatie sterk verschillen. Denk bijvoorbeeld aan de categorie ’geslacht’. Die kan betrekking hebben op gewenste aanspreekvorm, maar ook op iemands actueel juridische geslacht (het geslacht dat in de Basisregistratie Personen staat vermeld) of om het geboortegeslacht (het geslacht dat na de geboorte wordt opgetekend in de basisregistratie). Dit klinkt arbitrair, maar er zijn voorbeelden waarin dit soort semantische verschillen tot ernstige problemen leiden. Wie dus de gegevens van andere organisaties gebruikt, dient deze incongruenties in begrippen eerst op te lossen.

Informatie. Burgers hebben het recht om de informatie die organisaties over hen verzamelen in te zien en daar een overzicht van te ontvangen. Maar dat alleen is niet voldoende. De organisaties die de gegevens van burgers beheren, dienen hen ook te informeren wanneer hun gegevens worden gewijzigd, wie dat doet en waarom. Organisaties dienen burgers daarnaast te wijzen op de gevolgen die wijzigingen in registraties voor hen kunnen hebben. Dat vraagt dus om een actievere houding waarin burgers meer inzicht krijgen in de wijze waarop informatie over hen wordt verwerkt en welke consequenties dat heeft.

Maatwerk. Ten gevolge van de digitale standaardisering van gegevens en de beslissingen die daaruit volgen, wordt de ruimte van professionals voor het  leveren van maatwerk beperkt. Als gegevens digitaal worden gestandaardiseerd en daar beslissingen uit volgen, moet maatwerk mogelijk blijven. Binnen geautomatiseerde systemen met gestandaardiseerde procedures moet er altijd ruimte worden georganiseerd voor menselijke interventie.

Correctie. Als beslissingen automatisch worden genomen, moet het ook mogelijk zijn die beslissingen te corrigeren. De redelijkheid is hierin van belang. Zodra registratiefouten worden gecorri- geerd, moet het mogelijk zijn dat er met het oog op de omstandigheden van burgers een individuele afweging gemaakt wordt. De conclusie moet luiden dat verantwoord ICT-gebruik door overheidsorganisaties mogelijk is, mits aan bepaalde voorwaarden wordt voldaan: de menselijke maat moet centraal staan en er moet maatwerk kunnen worden geleverd. ICT moet worden benut waarvoor het bedoeld is: ter ondersteuning, maar nooit ter vervanging van menselijke beslissingen.

Oproep aan politici | Arjen Lubach betoogde in zijn programma Zondag met Lubach dat politici vastzitten in de ‘digibetocratie’. Ze zouden te weinig kennis hebben om ICT te kunnen doorgronden, laat staan dat ze in staat zijn om sturing te geven aan de almaar doordenderende trein van de digitalisering. Maar ook al is het onredelijk om te verwachten dat politici zich al de nodige kennis en kunde eigen kunnen maken, toch moeten ze in staat zijn om alle mogelijkheden en beperkingen van ICT te voorzien om in de politieke arena verschillende waarden af te wegen om zo het algemeen belang te dienen. Helaas is dat echter niet altijd de realiteit. Want hoezeer ICT de realisering van belangrijke waarden ook kan realiseren, toch zien we doorgaans dat instrumentele waarden in automatiseringsprocessen overheersen. Daarom moeten politici weten welke belangen er op het spel staan en op welke wijze digitalisering daar al dan niet een bijdrage aan kan leveren. In navolging van het Rathenau Instituut roep ik politici op om met de volgende vier opgaven aan de slag te gaan om zo zorg te dragen voor een beter digitaal landschap:

Ontwikkel een visie op digitalisering: Er moet een multidisciplinaire overheidsvi- sie komen op de samenleving die steeds verder digitaliseert en op de rol die de overheid daarbinnen wenst te nemen.

Voer een breed debat over digitalisering: De Eerste en Tweede Kamer dienen vaker maatschappelijke en ethische digitaliseringsvraagstukken te bediscussiëren. Digitalisering is immers geen gegeven, maar vraagt om keuzes en beslissingen.

Versterk de rol van toezichthouders: ICT-systemen zijn complex en vaak zijn de consequenties die eruit voortvloeien moeilijk te voorzien. Er gebeurt nu nog te veel buiten juridische kaders om. De rol van toezichthouders moet om die reden worden versterkt.

Faciliteer de dialoog over digitalisering: Bedrijven, overheden en het maatschappelijk middenveld dienen met elkaar in gesprek te gaan over de betekenis van digitalisering en op welke wijze publieke waarden kunnen worden geborgd. Als politici deze oproepen ter harte nemen en daarnaast een vleugje bestuurlijke bescheidenheid tonen, dan kan digitalisering als proces en ICT als middel bijdragen aan de versterking van de rechtsstaat, de democratie en het algemeen belang.

Anthonie Drenth is bestuurskundige en als adviseur ‘digitale veilige stad’ werkzaam bij de gemeente Amersfoort. Hij schrijft regelmatig over digitalisering en de impact daarvan op de samenleving.