Att säkerställa att artificiell intelligens inte diskriminerar kräver nya kunskaper – även inom myndigheternas övervakningsarbete
Diskrimineringsombudsmannens byrå inleder ett nytt projekt med målet att öka såväl ombudsmannens som andra myndigheters kunskap om och kompetens inom AI och likabehandling. Dessutom kommer vi att i projektet pilottesta proaktiv övervakning av diskrimineringsrisker.
Betydelsen av detta projekt förstärks av det faktum att AI blir en allt mer central del av vår vardag: det påverkar bland annat rekrytering, hälso- och sjukvård, försäkrings- och banktjänster, säkerhetsmyndigheters arbete och andra offentliga tjänster. Även om AI kan effektivisera processer, förbättra tjänster och på många sätt främja likabehandling, finns det också risker. Utan noggrann planering, testning och övervakning kan AI-system förstärka fördomar och diskriminering.
Projektets start sammanfaller med ikraftträdandet av EU:s AI-förordning. Förordningen, som trädde i kraft i augusti 2024, innebär skyldigheter och förbud för leverantörer och användare av AI-system, med syfte att förebygga diskriminering vid användning av AI. Detta ställer även nya krav på myndigheter som övervakar grundläggande och mänskliga rättigheter. I projektet utvecklar vi vår egen och andra nyckelaktörers, särskilt myndigheters, expertis kring AI, icke-diskriminering och likabehandling. Utbildningspaketet planeras vara klart och tillgängligt för målgrupperna i början av 2025.
Vi kommer att pilottesta proaktiv övervakning baserat på den handbok som utvecklas inom projektet. Proaktiv övervakning är särskilt viktig när det gäller AI, eftersom övervakning baserad på diskrimineringsanmälningar inte räcker: AI-system är ofta ogenomskinliga, och enskilda individer har svårt att få information om hur de fungerar. Det är också avgörande att proaktiv övervakning fokuserar på de samhälleliga och sociala skador som AI-system kan orsaka, samt de skyldigheter som finns att främja likabehandling. Valet av övervakningsobjekt kommer att baseras på forskningsresultat, undersökningar och andra referenser som indikerar var övervakningsinsatser kan vara mest effektiva. Exempel på områden där övervakning kan vara aktuell är rekrytering, uppehållstillstånd för utlänningar samt beslut inom bank- och försäkringstjänster.
Dessutom kommer vi att bygga upp samarbete och strukturer för samverkan med andra aktörer för att möjliggöra effektiv övervakning och främja likabehandling. Vi genomför inte projektet ensamma, utan tillsammans med partners från motsvarande organ i Belgien och Portugal. Vi får stöd i projektgenomförandet från Europarådet, som tidigare har utarbetat och genomfört utbildningsprogram om AI och likabehandling, till exempel i Frankrike och Storbritannien. Vårt tvååriga projekt finansieras av Europeiska unionen och Europarådet (EU:s stöd för strukturomvandlingar - Instrumentet för tekniskt stöd TSI).
Vi ser fram emot att få ny kunskap och framtida samarbetsmöjligheter som kan bidra till att AI utvecklas till ett verktyg som bygger ett mer jämlikt Finland och Europa.
The Project is co-funded by the European Union via the Technical Support Instrument, and implemented by the Council of Europe, in co-operation with the European Commission.
