Automatiserad avgörandeverksamhet vid myndighetsarbete – hur tryggar man icke-diskriminering? 

Informationshanteringslagen har kompletterats med separata bestämmelser om automatiserad avgörandeverksamhet vid myndighetsarbete. I bestämmelserna ingår också en särskild regel om icke-diskriminering. Enligt informationshanteringslagen ska myndigheten se till att det framgår av de dokumenterade behandlingsreglerna för ett automatiserat beslutsförfarande hur det säkerställs att beslutsförfarandet är icke-diskriminerande. Många myndigheter funderar nu på hur denna skyldighet kan verkställas.

Myndigheten för digitalisering och befolkningsdata anordnade tidigare i vår ett intressentgruppsmöte för myndigheter som utför automatiserat beslutsfattande där man diskuterade bland annat vikten av icke-diskriminering när utnyttjandet av automatiserat beslutsfattande inom myndighetsverksamheten blir vanligare. Under mötet föreslog jag åtgärder till stöd av icke-diskriminering:

1) Genomför och dokumentera en bedömning av likabehandlingskonsekvenserna.

Innan avgörandeverksamheten automatiseras bör man redan vid ett tidigt planeringsskede genomföra en konsekvensbedömning ur perspektivet för olika diskrimineringsgrunder och -former. Enligt 5 § i diskrimineringslagen ska myndigheterna bedöma konsekvenserna av väsentliga projekt för likabehandlingen. Myndigheterna ska också beakta i synnerhet personer i utsatt ställning samt hur likabehandling även skulle kunna främjas med automatiseringen.

2) Skriv in motiveringar till särbehandling och ofördelaktig ställning i behandlingsreglerna. 

Om automatiserat beslutsfattande leder till särbehandling eller ofördelaktig ställning ska man bedöma huruvida verksamheten är berättigad enligt likabehandlingsbestämmelserna. Bestämmelser om direkt och indirekt diskriminering finns i 10 och 13 § i diskrimineringslagen. Bedömningen av verksamhetens berättigande är kontext- och diskrimineringsgrundspecifik. Det väsentliga är att motivera i behandlingsreglerna varför särbehandling och/eller indirekt försättande i ofördelaktig ställning har ansetts vara berättigade. Åtgärderna ska ha ett godtagbart syfte och medlen för att uppnå detta syfte ska vara proportionerliga.

3) Försäkra dig om kunskap om diskrimineringslagen, de olika diskrimineringsgrunderna och de olika formerna av diskriminering.

Förteckningen över diskrimineringsgrunderna (8 § i diskrimineringslagen) är öppen i och med att den utöver de diskrimineringsgrunder som uttryckligen nämnts även innehåller ”annan omständighet som gäller den enskilde som person”. Myndigheterna ska också bedöma vilka andra omständigheter som gäller den enskilde som person än de diskrimineringsgrunder som uttryckligen nämnts i bestämmelserna om diskrimineringsförbud kan leda till särbehandling eller ofördelaktig ställning. Till exempel en spärrmarkering eller avsaknad av en permanent adress kan komma att bedömas som en annan omständighet som gäller den enskilde som person såsom avses i lagen.

4) Förstå förbudet mot indirekt diskriminering och de berättigandegrunder som förknippas med det. 

En till synes neutral regel eller praxis som till exempel kravet att använda en ärendehanterings-, identifierings- eller delgivningskanal kan försätta vissa persongrupper i en ofördelaktig ställning, alltså orsaka en olägenhet som har betydelse för likabehandlingen. En sådan olägenhet kan vara till exempel betydande fördröjning i beslutsfattandet eller prisskillnad på grund av att ärendet behandlas manuellt. Man bör vara medveten om att även det att bli vald till automatiserat beslutsfattande kan alltså orsaka ofördelaktig ställning till en persongrupp. I dessa fall ska man bedöma i enlighet med 13 § i diskrimineringslagen huruvida regeln eller förfarandet har ett godtagbart syfte och huruvida medlen för att uppnå detta syfte är proportionerliga.

Bestämmelser om diskrimineringsförbud finns i grundlagen, diskrimineringslagen, jämställdhetslagen och förvaltningslagen. Automatiserad avgörandeverksamhet kan ge myndighetsverksamheten betydande effektivitetsfördelar. Automatiserad avgörandeverksamhet ska alltid ske på ett icke-diskriminerande sätt, vilket förutsätter noggrann planering, adekvat utbildning och kompetens samt kontinuerlig uppföljning.