Selectiviteitsscan: veilige toetsing van algoritmes

Casus UWV-algoritmeAls toepassing van de Selectiviteitsscan heeft het UWV een selectie-algoritme door het CPB laten toetsen: de Sollicitatiescan WW. Dit algoritme helpt bij het selecteren van dossiers die medewerkers bekijken om te beoordelen of iemand extra ondersteuning nodig heeft bij het solliciteren. De analyse laat zien dat bij zowel het algoritme als de medewerkers de groepssamenstelling in de selectie verschilt van een neutrale referentiegroep. In de referentiegroep heeft 37% een migratieachtergrond; het algoritme komt uit op 38% en medewerkers op 43%. Bij elk selectieproces zijn enige verschillen te verwachten, en in dit geval zijn die bij het algoritme kleiner dan bij medewerkers. De Selectiviteitsscan laat zien dát er verschillen zijn; het is aan de eigenaar van het algoritme om verschillen te duiden en rechtvaardigen.

Het is daarom belangrijk om te controleren of deze algoritmes bepaalde groepen niet benadelen. Dat is nu vaak lastig, omdat organisaties gevoelige gegevens, zoals leeftijd of migratieachtergrond, niet kunnen gebruiken. De Selectiviteitsscan biedt hiervoor een oplossing. Organisaties uploaden hun selectie naar de beveiligde microdataomgeving van het CBS, waar een onafhankelijke partij de analyse doet. De organisatie krijgt alleen de uitkomsten te zien; de gevoelige persoonsgegevens blijven volledig afgeschermd.