Inlopen achterstand algoritmeregistratie is geen bijzaak, maar essentieel voor betrouwbare, open overheid

Het laatste wat je als bestuurder wilt, is dat jouw organisatie een discriminerend algoritme gebruikt, zonder dat je er weet van hebt. De kans hierop is aanzienlijk groter bij overheden waar het aan inzicht en overzicht ontbreekt, doordat ze achterlopen met het registreren, terwijl ze steeds meer algoritmes inzetten voor beleidsuitvoering. Gebrek aan registratie is dus meer dan een administratief gemis.

In een recent in Binnenlands Bestuur luidt de Autoriteit Persoonsgegevens (AP) de noodklok: ondanks de groeiende aandacht voor transparantie en verantwoorde inzet van technologie binnen de overheid, heeft meer dan de helft van de gemeenten nog geen enkel algoritme opgenomen in het landelijke algoritmeregister. 

Dit terwijl ze algoritmes steeds vaker inzetten voor allerlei doeleinden, variërend van parkeerhandhaving tot risicosignalering in het sociaal domein. Slimme systemen kunnen bijvoorbeeld zien of iemand parkeergeld en boetes heeft betaald, maar ook of iemand een verhoogde kans loopt om door schulden in de problemen te komen.

Zonder registratie geen overzicht en geen grip

Het gebrek aan registratie is als gezegd meer dan een administratief gemis. Het opnemen van algoritmes in het register zorgt voor overzicht, en zet de organisatie aan tot nadenken over de rechtmatige inzet en beheer van algoritmes. Beheer is ook nodig omdat de wereld niet stilstaat. Een algoritme kan vandaag de toets der kritiek nog doorstaan, maar morgen misschien niet meer.

Zonder zicht op welke algoritmes actief zijn, ontbreekt het dus aan inzicht in de gebruikte algoritmes en aan grip. Bestuurders kunnen zich dan onvoldoende verantwoorden tegenover inwoners, de media of organisaties die vragen hebben over de inzet van algoritmes en willen weten of die proportioneel en gerechtvaardigd is. Daarnaast is het voor de gemeenteraad of rekenkamer lastig om hun controlerende taak uit te oefenen als er geen overzicht is.

Stilstand door gebrek aan eigenaarschap 

Dat de registratie achterblijft komt meestal doordat er in de praktijk geen helderheid is over het eigenaarschap. Is het een taak van de ICT-afdeling, van juristen, van beleidsmakers, de privacy officer, of van de Chief Information (Security) Officer? Wie weet überhaupt welke algoritmes er draaien en hoe die in processen zijn ingebed? Het gevolg is stilstand. 

Dit ondanks de maatschappelijke urgentie en de roep van toezichthouders zoals de AP om vaart te maken. Het is noodzakelijk om verantwoordelijkheid te nemen, om te voorkomen dat het vertrouwen in de overheid verder afneemt.

Pleidooi voor registratieplicht 

De Autoriteit Persoonsgegevens gaat zelfs nog verder en pleit voor invoering van een wettelijke registratieplicht voor overheidsorganisaties. De toezichthouder vindt daarvoor echter (nog) geen gehoor bij de minister. Die stelt in een recente kamerbrief dat er veel beleid in de maak is dat gaat bijdragen aan naleving en algoritmeregistratie. Het gaat dan bijvoorbeeld over beleid dat te maken heeft met vraagstukken rond algoritmische besluitvorming (zoals bij vergunningverlening) en geautomatiseerde selectietechnieken (zoals van dossiers voor controle).

Tegelijk staat in de brief dat het algoritmeregister een centrale plaats inneemt in het waarborgen van transparantie, toezicht en naleving én zorgt voor meer bewustwording. Ook valt te lezen dat het algoritmeregister meegenomen dient te worden in het toekomstig auditkader voor de naleving en compliance rondom algoritmes. 

Maar als het auditkader straks is vastgesteld, lopen overheden het risico dat een enorme inhaalslag nodig is om te zorgen dat ze aan de toetsingskaders kunnen voldoen. Reden temeer dus het register snel te vullen.

Hoe nu verder?

Hoe kunnen organisaties nu stilstand voorkomen en concreet werken aan meer inzicht?  De eerste stap is inventarisatie van alle toepassingen met algoritmes. Dit is vaak lastig, omdat alle afdelingen erbij moeten worden betrokken. Toch is dit cruciaal voor bewustwording, eigenaarschap en actie. 

Hierna kan de organisatie het beheer van algoritmes van begin tot eind organiseren en structureren. Dat wil zeggen: het eigenaarschap beleggen, de uitvoering beschrijven en de controle borgen. Dan volgt de laatste stap, de daadwerkelijke registratie van de algoritmische toepassingen.

Het resultaat: helderheid en duidelijkheid 

Het zetten van al deze stappen levert merkbare resultaten op:

• Een volledig en actueel overzicht van algoritmes binnen de organisatie;
• Een praktisch kader dat ervoor zorgt dat inzet van algoritmes past binnen wet- en regelgeving;
• Duidelijkheid over verantwoordelijkheden;
• Heldere documentatie van de algoritmes in het algoritmeregister.

BMC adviseert en biedt praktische ondersteuning

BMC heeft veel expertise op het gebied van data, AI, informatiebeveiliging en privacy. Met deze kennis helpen wij organisaties hun AI-governance op orde te krijgen. Wij adviseren niet alleen maar assisteren u ook graag met een vlotte en volledige inventarisatie, het opzetten van het beheer en het registreren van de algoritmes op een begrijpelijke, juridisch verantwoorde en transparante manier. 

We kijken niet alleen naar de techniek, maar ook naar juridische kaders en ethische afwegingen. Want registratie is geen doel op zich, maar een middel om te zorgen dat de inzet van algoritmes past bij publieke waarden als gelijkheid, rechtvaardigheid, openheid, inclusie en vertrouwen. 

Wij nemen uw medewerkers mee in het gehele proces, zodat de kennis binnen de organisatie blijft en medewerkers in de toekomst algoritmes zelfstandig op de juiste manier kunnen registreren.

Conclusie

De oproep van de AP is duidelijk: het inlopen van de achterstand bij het invullen van het register is essentieel voor overheden. Niet alleen om te voldoen aan toetsingskaders, maar ook omdat het zorgt voor inzicht en overzicht en meer bewustwording. Registratie hoort bij een betrouwbare en open overheid. Transparantie is geen bijzaak, maar essentieel voor het maatschappelijk vertrouwen in technologische vernieuwing en de overheid zelf. Bij BMC combineren we inhoudelijke expertise met praktijkervaring. Samen zorgen we ervoor dat technologische innovatie hand in hand gaat met publieke waarden.