De ontwikkeling van AI bij gemeenten binnen het sociaal domein

Abstract

In deze scriptie is onderzocht in hoeverre AI wordt gebruikt binnen het sociaal domein bij Nederlandse gemeenten naar aanleiding van de AI Act 2025. Er is daarbij voornamelijk bekeken hoe de gemeenten hierbij omgingen met het zorgvuldigheids- en het evenredigheidsbeginsel. Om dit vast te kunnen stellen is er gekeken naar de mate van transparantie van het algoritme dat werd gebruikt en hoe er met privacy en bias wordt omgegaan. Uit het onderzoek bleek dat de gemeenten veel stappen zetten om vooral zorgvuldig met privacy en bias om te gaan. Zo worden er overal veel trainingen aangeboden aan werknemers, voordat er met AI wordt gestart. Echter moet daarbij vermeld worden dat de gemeenten geen controlerende of toezichthoudende mechanismen hebben die controleren of de ambtenaren daadwerkelijk zorgvuldig met privacy en bias omgaan. De mate van transparantie verschilden per gemeente, door de verschillende wijze waarop algoritmes werden toegepast.