SyRI: voor de overheid met een menselijk gezicht

Het is algemeen bekend dat wij in een datasamenleving leven. Voor de argeloze observant lijkt die datasamenleving zich te beperken tot het domein van de commerciële bedrijven. In de relatie met Google, Facebook, Microsoft, Amazon, Apple en – niet te vergeten – Tencent en Alibaba vormt onze data een ruilmiddel voor toegang tot platforms, gepersonaliseerde gebruikerservaringen en aanbiedingen. Veel minder bekend is dat toen deze bedrijven de markt begonnen te veroveren, ook de overheid de waarde van digitaal contact, data en data-analyses ging ontdekken. Voor de meest gevarieerde vormen van contact tussen overheid en burgers en bedrijven werden digitale interfaces ingevoerd. Niet alleen werden burgers en bedrijven zo medeverantwoordelijk voor de informatie-invoer, ook werden zij klant van de E-overheid. Gebruikerservaringen werden belangrijk, en het contact met de overheid werd steeds vaker gepresenteerd als een dienst. Door de digitalisering van de ‘service’verlening, beschikte de overheid over steeds meer digitaal verwerkte informatie. De beschikbaarheid van grootschalige databestanden opende nieuwe vergezichten. Niet alleen zou nog betere en snellere dienstverlening mogelijk zijn – door bijvoorbeeld de aangifte inkomstenbelasting al voor een groot deel in te vullen – ook kon de beleidsvoorbereiding en uitvoering door eigen data-analyses worden ondersteund. Door databestanden met elkaar te koppelen konden wetten en regels op een betere en effectievere wijze worden gehandhaafd. Een voorlopig hoogtepunt in deze ontwikkeling vormde het Systeem Risicoindicatie, beter bekend als SyRI. Dit systeem laat zien dat het tijd is om een normatief kader te ontwikkelen om de (verdere) digitalisering van het overheidshandelen te reguleren.  

1. Het Systeem Risicoindicatie
SyRI was een overheidssysteem dat een inschatting maakte van het risico dat iemand sociale zekerheids-, arbeids- of belastingfraude pleegde. Om die inschatting te kunnen maken verbond het systeem een groot aantal gegevens aan elkaar die in het bezit waren van de overheid. Vervolgens werd op de gekoppelde gegevens een risicomodel losgelaten. 

Privacy-activisten stelden SyRI aan de kaak en daagden de Staat voor de rechter. Begin dit jaar kwam de rechtbank Den Haag tot de conclusie dat het gebruik van SyRI onrechtmatig was en onverenigbaar met het recht op privéleven (8 EVRM). Er bestond te weinig duidelijkheid over de werking van SyRI. De inhoud en het functioneren van zowel het risicomodel als de gebruikte risico-indicatoren waren aan het oog onttrokken.  

De wijze waarop de rechtbank Den Haag SyRI heeft beoordeeld, sluit aan bij de wijze waarop rechters gewoon zijn de inzet van data-analyses door de overheid te evalueren. Daarbij leggen zij veelal nadruk op procedurele of formele normen. Van de overheid wordt vooral geëist dat zij transparant is over (het functioneren van) de data-analyses en dat er een voldoende en heldere wettelijke grondslag bestaat voor die data-analyses. Materiële normen over de inzet van data-analyses door de overheid zijn maar zeer beperkt voorhanden. Voor een totaalverbod op SyRI-achtige systemen is dan ook weinig (concrete) juridische houvast te vinden. Met betere procedurele voorzieningen – transparantie, wettelijke grondslag – zou SyRI dan ook rechtmatig kunnen zijn. 

De SyRI casus maakt bij uitstek duidelijk dat het tijd is om na te denken over het normatieve kader voor de handhaving van wetten en regels door data-analyses en de koppeling van databestanden. Het doordenken van een nieuw normatief kader kan daarbij alleen vruchtbaar zijn als de context zo concreet mogelijk wordt gedefinieerd. Abstracte regels en algemene ethische principes vormen slechts het begin.

2. Drie observaties over de (veranderende) relatie overheid-burger
Door gebruik te maken van data-analyses bij de handhaving is de relatie overheid-burger wezenlijk veranderd. Dat is op zichzelf niet zo vreemd, maar het wordt een probleem als zo’n wezenlijke verandering niet gestuurd wordt door maatschappelijke consensus over wat wel en niet aanvaardbaar is. De vraag die daarbij meer in het bijzonder op tafel ligt is: wat betekent het om burger te zijn in een samenleving, waarin de overheid zichzelf opnieuw uitvindt als verwerkingsfabriek van digitale informatie en de handelingen van de overheid uiteenvallen in databestanden en algoritmen?

Schaarste verdween; alles kan, maar moet het ook?
Voordat de overheid gebruik kon maken van technologie, werden overheidskeuzes vooral bepaald door schaarste in het aantal ambtenaren en in de beschikbare tijd en geld. Door digitalisering kan de overheid (nu of in de nabije toekomst) niet slechts een selectie van gevallen, maar alle gevallen, of iedere aanvraag nauwkeurig beoordelen en controleren. Dit is positief omdat fraude zo nog verder voorkomen kan worden. Daar komt bij dat de overheid in beginsel een plicht heeft om de wet te handhaven. En een burger in ieder geval geen recht heeft om de wet te overtreden. Maar als schaarste het handhavingsbeleid niet meer bepaalt, en de plicht om de wet te handhaven niet langer slechts een ideaal is, heeft dat onder andere tot gevolg dat iedere fout die de burger maakt zal worden afgestraft; ongeacht het gewicht en de omstandigheden. 

Het juridisch en maatschappelijk denken over handhavingsverplichtingen voor de overheid is gevormd in een tijd waarin schaarste natuurlijke grenzen aan de handhavingsmogelijkheid stelde. De overheid was gedwongen tot afweging. Nu de handhavingsmogelijkheden naar de 100% kunnen groeien zal de vraag op tafel moeten komen of in alle gevallen waarin handhaving rechtmatig is, die handhaving ook rechtvaardig is. Betekent de gelijke toepassing van de wet ook dat op iedere onrechtmatigheid moet worden gehandhaafd? 

Reductie van de mens tot facetpersoonlijkheid
Het recht kent een groot aantal open normen die de overheid beleidsvrijheid laten. Die beleidsvrijheid is vooral bedoeld om in het individuele geval maatwerk te kunnen bieden, om zo tot een rechtvaardige toepassing van de norm te komen. In het door data gedreven handhavingsbeleid verdwijnt dit uitgangspunt naar de achtergrond. Burgers worden immers niet langer als mens in hun menselijke complexiteit – als rationeel en emotioneel wezen – begrepen. In plaats daarvan leidt de inzet van dataverzamelingen en data-analyses door de overheid ertoe dat burgers worden gereduceerd tot een deel van hun persoon; tot een verzameling datapunten. Een focus op de in datapunten te vatten overeenkomsten en verschillen vooronderstelt dat de verzameling datapunten een ware reflectie vormt van de werkelijkheid. Dat is natuurlijk niet waar. De data die door de burgers zelf aan de overheid is verstrekt, geven niet weer wat iemand dacht of voelde toen hij een webformulier invulde; evenmin of de vraag wel goed gelezen en begrepen is. En data die de overheid buiten de burger om verkrijgt, geven niet weer hoe die burger zijn eigen situatie interpreteert. De reductie van burgers tot datapunten of facetten van de persoonlijkheid resulteert in een reductie van de werkelijkheid. De vraag is of de uitoefening van overheidsgezag wel gebaseerd mag zijn op dit soort simplificaties. 

Nadruk op burgerplichten
De inzet van databestanden en data-analyses valt ook samen met een grotere nadruk op burgerplichten en een veranderende opvatting over wat sociale zekerheidsaanspraken zijn. Aan de door data gedreven handhaving ligt de idee ten grondslag dat sociale zekerheidsaanspraken vooral moeten worden gezien als een aanspraak die alleen bestaat als de burger tot in detail aan zijn verplichtingen jegens de overheid heeft voldaan. Dat is een visie die past bij de marktterminologie van tweezijdige relaties (en services), waarmee het overheidshandelen omgeven is. Wat daarmee evenwel verdwijnt is de idee dat de overheid optreedt namens een gemeenschap. Daarbij lijkt het steeds meer uitgesloten dat die gemeenschap ook een verplichting kan dragen zonder dat daar een nauwkeurig omschreven recht tegenover staat. Steeds vaker lijkt de gedachte door te klinken dat een overheid die niet handhaaft als niet aan alle voorwaarden is voldaan, onrechtmatig handelt. De inzet van door data gedreven systemen stimuleert het uitvergroten van de burgerplicht en draagt bij aan een omkering van de bewijslast. In de datasamenleving heeft de overheid hoge verwachtingen van een burger. Maar past dat wel bij de (specifieke) overheidstaak en bij de reële mogelijkheden van de burger?

3. Oplossingsrichtingen
1. Het begint met te erkennen dat we niet ongestraft de eigen aard van verhoudingen kunnen wegpoetsen. De overheid is geen commercieel bedrijf en de burger kan in geval van ontevredenheid niet zijn klandizie opzeggen. Voor collectieve taken heeft de overheid middelen en bevoegdheden gekregen om het belang van de gemeenschap als zodanig te behartigen. De overheid staat niet buiten of boven die gemeenschap, maar maakt daar integraal onderdeel van uit.

2. Ten tweede zal onder ogen moeten worden gezien, dat de inzet van data-analyses in de relatie overheid-burger leidt tot een wezenlijke verandering van die relatie. De inzet van technologie is dus zeker niet neutraal, niet slechts een kwestie van oude wijn in nieuwe zakken. Het brengt nieuwe wijzen van interactie en daarmee andere waarden in deze verhouding, die de ene keer wel, de andere keer niet passen.

3. Ten derde volgt uit de aard van de hiervoor gepresenteerde vragen dat een maatschappelijke consensus de doorslag moet geven en niet een of andere vorm van technologische onvermijdelijkheid. Het is daarom ook van belang dat die vragen in het politieke domein worden besproken. De vraag ‘wat doet de inzet van technologie met de samenleving vanuit het perspectief van de burger?’ wordt door de politiek te weinig bediscussieerd.  

4. Ten slotte moet er gewerkt worden aan materiële normen die geschikt zijn om het gebruik van data-analyses door de overheid op betekenisvolle wijze te reguleren. In die normen, zal de grondtoon moeten zijn dat een mens het recht heeft om als mens en burger begrepen en gezien te worden. De mogelijkheden en beperkingen van de mensen die samen de gemeenschap vormen die het systeem geacht wordt te dienen moeten leidend zijn; niet de beperkingen van de technologie.