Geen DPIA bij twee van de negen getoetste algoritmes
De Algemene Rekenkamer heeft voor de tweede keer onderzoek gedaan naar algoritmes. Elke maand neemt de overheid miljoenen beslissingen. Bijvoorbeeld over wie wel en wie geen huurtoeslag krijgt. Of wie een boete moet krijgen voor te hard rijden. Voor al die beslissingen gebruikt de overheid algoritmes. Er zitten ook risico’s aan het gebruik van algoritmes. Als algoritmes niet goed werken, kunnen groepen mensen worden gediscrimineerd. Ook maken burgers zich zorgen dat de overheid door algoritmes te veel over hun privéleven te weten komt.
De Algemene Rekenkamer heeft in haar onderzoek geconstateerd dat 3 van de 9 algoritmes aan het toetsingskader voldoen. Dit laat zien dat je algoritmes op een eerlijke, verstandige manier kunt gebruiken. De Algemene Rekenkamer heeft ook gezien dat 6 van de 9 onderzochte algoritmes niet helemaal voldoen aan de voorwaarden in hun toetsingskader. Zo is er bij 2 van de 9 gebruikte algoritmes geen DPIA uitgevoerd.
Overzicht uit rapport 'Algoritmes getoetst' van de Algemene Rekenkamer, p. 20
DPIA
Uit het onderzoek blijkt dat aandacht voor de bescherming van persoonsgegevens standaard onderdeel is geworden van de belangenafweging en besluitvorming van (voorgenomen) beleid en regelgeving. Overheidsorganisaties zijn op grond van de AVG in sommige gevallen verplicht om een gegevensbeschermingseffectbeoordeling (ook bekend als DPIA, Data Protection Impact Assessment) uit te voeren bij nieuwe gegevensverwerkingen (BZK, 2017). Een DPIA is bijvoorbeeld verplicht als er voor bestaande processen hoge privacyrisico’s zijn. Het rijksbrede template voor de DPIA helpt om gemaakte afwegingen vast te leggen. Voor 7 van de 9 onderzochte algoritmes, of de processen waar algoritmes onderdeel van zijn, is een DPIA uitgevoerd. De Rijksdienst voor Identiteitsgegevens heeft geen DPIA opgesteld. Ook de politie heeft geen privacy impact analyse uitgevoerd. Zij missen daarmee een manier om in te zien of alle risico’s afgedekt zijn.
Download hier het rapport Algoritmes getoetst