Bestuursrecht kan helpen om algoritmes onder controle te houden

De overheid laat besluiten steeds vaker nemen door computers. Maar moet er niet altijd een mens achter de knoppen zitten? En wat als niemand meer weet hoe een besluit genomen is? Het bestuursrecht heeft antwoorden op deze prangende vragen, stelt hoogleraar Johan Wolswinkel.

Mag een demonstratie plaatsvinden, kan een bouwproject doorgaan? Het is de overheid die er steeds over moet beslissen. Nog niet zo lang geleden deden uitsluitend mensen dat. Tegenwoordig worden besluiten ook automatisch genomen. Computers hakken knopen door.

Computers die besluiten nemen staan sterk in de belangstelling. Er wordt al snel gedacht aan het gevaar van een intelligent systeem dat de wereld overneemt. Of China komt in beeld, waar volautomatische massasurveillance door de overheid de normaalste zaak is. De gemene deler is de gewone mens die het onderspit delft.

Wetenschappers uit allerlei disciplines breken zich het hoofd over de vraag hoe verantwoord omgegaan kan worden met deze systemen. Zo worden er concepten bedacht als explainable AI en algorithmic transparency. Dat verwonderde Johan Wolswinkel. Gaat het om overheden die besluiten nemen, dan zijn veel antwoorden er volgens hem al. Daar voorziet het bestuursrecht in.

In zijn inaugurele rede, waarmee Wolswinkel het ambt van hoogleraar Bestuursrecht, markt en data aanvaardde, gaat hij in op de bijdrage die zijn vakgebied kan leveren aan dit debat. Niet omdat er in het bestuursrecht veel regels zijn voor automatische besluitvorming. Die zijn er amper. En dat is volgens hem ook niet nodig.

Belangrijk zijn volgens Wolswinkel de algemene beginselen van behoorlijk bestuur. Burgers moeten beschermd worden tegen een machtige overheid, die eenzijdig beslissingen kan doordrukken. De overheid moet besluiten daarom onder meer zorgvuldig nemen, ze verantwoorden en mensen gelijk behandelen.

“Daar moet je ook aan voldoen als je digitaal opereert. In het bestuursrecht weten wij niet beter dan dat besluiten bijvoorbeeld deugdelijk gemotiveerd moeten worden.” Dit systeem van wetten en regels moet volgens Wolswinkel vertaald worden naar een digitale context.

Absolute waarborgen om te voorkomen dat er iets mis gaat, zijn de bestuursrechtelijke regels niet. Overheden, zoals provincies en gemeenten, moeten in de eerste plaats zelf afwegen of ze bijvoorbeeld zorgvuldig handelen als ze een computersysteem aan het werk zetten. “Bestuursorganen tasten in het duister,” zegt Wolswinkel. Eventuele toetsing gebeurt pas achteraf, door een rechter.

En voor rechters is het ook bepaald niet eenvoudig om zich in deze materie te verdiepen. “De verleiding is groot te zeggen dat een computersysteem te complex is, maar wel zal kloppen omdat de overheid de expertise heeft.” Het vraagt een bereidheid onder de motorkap te kijken. Wat gebeurt daar en wat betekent dat?

Het goede nieuws is dat rechters die bereidheid volgens Wolswinkel hebben. De Nederlandse overheid gebruikt het programma AERIUS om de uitstoot van stikstof en de neerslag daarvan op Natura 2000-gebieden te berekenen. Op basis van zo’n berekening kunnen bouwprojecten bijvoorbeeld doorgaan of stopgezet worden.

In 2017 wees de hoogste bestuursrechter, de Raad van State, erop dat AERIUS een black box dreigde te worden. Niemand zou dan nog weten waarom welk besluit werd genomen. Dat was nadrukkelijk niet de bedoeling. “De overheid moet inzichtelijk maken welke keuzes, gegevens en aannames in het systeem zijn gebruikt.”

“Eind vorig jaar dwong de rechter het RIVM zelfs om op korte termijn te beslissen over openbaarmaking van opgevraagde data van stikstofuitstoot.” Zodat burgers – of boerenorganisaties die de berekeningen in twijfel trekken – weten waar de overheid zich op baseert. En zelf kunnen gaan rekenen.

“Wetenschappers kunnen het denken op gang brengen”

Het slechte nieuws? Rechters lopen achter de feiten aan, ze krijgen een zaak pas voor zich als het kwaad geschied is. Ze oordelen bovendien over concrete gevallen. Dwarsverbanden leggen en vergezichten schetsen past minder goed in hun takenpakket. De gevallen die tot nu toe voor de rechter kwamen, waren bovendien niet eens zo complex. Dat zal ooit anders zijn.

Om de automatisering van besluiten in goede banen te leiden, moet er volgens Wolswinkel iemand opstaan aan de voorkant. De wetenschapper. “Wetenschappers kunnen het denken op gang brengen. Wat houdt de digitale ontwikkeling in, waar zijn de grenzen, hoe kan het bestuursrecht bijdragen aan oplossingen? Is het bijvoorbeeld belangrijk dat er altijd een mens bij besluitvorming betrokken wordt, of heeft een burger er juist recht op dat de overheid data met computers analyseert zodat een besluit objectiever is?”

Een rechtswetenschapper voelt zich misschien niet meteen geroepen om zich te mengen in kwesties van algoritmes en digitalisering. Maar computercode staat volgens Wolswinkel helemaal niet zo ver van het recht af. Voor verschillende rechtsregels is precies uitgeschreven wat er moet gebeuren als een bepaalde omstandigheid zich voordoet. Dat maakt ze goed te programmeren. “De wet is ook een soort code.”

Johan Wolswinkel sprak vrijdag 17 januari 2020 zijn inaugurele rede – ‘Willekeur of algoritme? Laveren tussen analoog en digitaal bestuurecht’ – uit in de aula van Tilburg University.

_Advertentie.