Datadrivet och automatiserat beslutsfattande – främjas eller skadas likabehandlingen?
Att myndigheternas verksamhet baseras på data och kunskap låter bra. Automatiskt beslutsfattande låter som en lättnad. Verksamheten blir mer korrekt och effektivt och besluten gagnar alla, eller hur? I princip finns det inte heller något skäl att ställa sig negativ för dessa. Både med effektiverat utnyttjande av data och med automatiskt beslutsfattande kan man på flera sätt främja tillgodoseendet av allas rättigheter och likabehandling.
Problemet är dock att användningen av system som nyttjar artificiell intelligens kan på ett betydande sätt fördjupa den strukturella ojämlikheten mellan människogrupper om riskerna inte identifieras. När man anskaffar system som nyttjar ny teknologi och överväger deras användning ska vi kunna bedöma konsekvenserna av vår verksamhet för olika människogrupper. Verksamheten kan leda till diskriminering av enskilda personer. En central orsak till detta som dock inte är den enda orsaken till risken för diskriminering är snedvriden eller bristfällig data. Det finns redan gott om information om frågan, som en sammanfattning till exempel i statsrådets utredning från 2022 (på finska), Algoritmisk diskriminering och främjande av jämlikhet: Bedömningsram för icke-diskriminerande AI - Valto (valtioneuvosto.fi).
Likabehandling och icke-diskriminering är grundläggande värderingar och rättigheter i vårt samhälle. Förbudet mot diskriminering är också en av de få absoluta reglerna i internationell rätt. Eftersom riskerna för diskriminering i samband med användningen av ny teknologi är kända ska vi konkret börja satsa på tryggandet av jämlikt utnyttjande av artificiell intelligens nu som en prioritet.
Effektiv bedömning av likabehandlingskonsekvenserna ska tryggas till exempel i statsrådets projekt om och upphandlingar av artificiell intelligens. En stödstruktur på statsrådsnivån ska säkras för detta arbete och ansvaren för styrningen och uppföljningen ska fördelas. Digitaliseringsbyrån vid finansministeriet, kommunikationsministeriet samt arbets- och näringsministeriet skulle kunna vara rätta platsen för att koordinera detta.
Riskerna för diskriminering i samband med användningen av ny teknologi samt användningen av AI-system och de etiska principerna som styr dem. Myndigheterna är skyldiga att förebygga diskriminering och har dessutom en lagstadgad skyldighet att aktivt främja likabehandling i sin verksamhet. Denna skyldighet ska också uppfyllas bättre än hittills vid utnyttjandet av artificiell intelligens, datadriven verksamhet och automatiskt beslutsfattande.
