Tekoälyjärjestelmät täytyy arvioida yhdenvertaisuuden näkökulmasta – tuore arviointityökalu tarjoaa uusia mahdollisuuksia siihen
Tekoälyn hyödyntämisellä voidaan edistää yhdenvertaisuutta, mutta myös aiheuttaa syrjintää tai syventää yhteiskunnassa olevaa eriarvoisuutta ja syrjiviä rakenteita.
Digitalisaatiolla ja tekoälyn käytöllä voidaan esimerkiksi tuottaa palveluita, jotka ovat saatavilla asuinpaikasta, toimintarajoitteista ja kielestä riippumatta. Tekoälyn hyödyntämisen yhdenvertaisuutta voidaan edistää merkittävästi lisäämällä tekoälyjärjestelmien kehittäjien moninaisuutta, tarjoamalla järjestelmien kehittäjille, hankkijoille ja päättäjille koulutusta yhdenvertaisuudesta sekä varmistamalla tekoälyjärjestelmien riittävä läpinäkyvyys ja valvonta.
Tekoälyn hyödyntäminen voi kuitenkin johtaa syrjintään, jos tekoälyjärjestelmien yhdenvertaisuuteen ei kiinnitetä huomiota jo suunnitteluvaiheessa tai valmiita järjestelmiä ei arvioida yhdenvertaisuuden näkökulmasta. Tekoäly saattaa voimistaa yhteiskunnan rakenteissa ja päätöksenteossa esiintyvää rakenteellista syrjintää. Koneoppiva tekoäly perustuu usein olemassa olevasta datasta oppimiseen, eli tekoäly oppii jo tekemistämme päätöksistä ja tuottamastamme tiedosta. Yhteiskunnan epäyhdenvertaisuus heijastuu datasta oppivan tekoälyn tekemiin johtopäätöksiin, suosituksiin ja päätöksiin, ellei tätä nimenomaisesti pyritä estämään.
Siksi on erittäin tärkeää, että tekoälyjärjestelmien suunnittelussa, käytössä ja hankinnoissa arvioidaan järjestelmän yhdenvertaisuusvaikutuksia. Yhdenvertaisuusvaltuutettu on keväällä eduskuntakertomuksessaan antanut aiheesta useita suosituksia. Suosituksissaan valtuutettu peräänkuuluttaa kattavia ja täsmällisiä velvoitteita yhdenvertaisuusvaikutusten arvioinnille ja läpinäkyvyydelle sekä tekoälyn ja automaattisen päätöksenteon tehokasta valvontaa tukevia säännöksi.
Uusi arviointikehikko auttaa edistämään tekoälyjärjestelmien yhdenvertaisuutta
Tuoreessa tutkimushankkeessa on kehitetty arviointikehikko, jonka avulla voidaan arvioida tekoälyjärjestelmien yhdenvertaisuutta. Arviointikehikko pohjaa tekoälyn elinkaarimalliin. Malli korostaa, että tekoälyjärjestelmien syrjivät vaikutukset voivat syntyä ja ilmentyä eri vaiheissa läpi järjestelmän suunnittelun, kehityksen ja käyttöönoton. Osallistuin yhdenvertaisuusvaltuutetun osalta hankkeen asiantuntijaryhmään ja haluaisin kiinnittää arviointikehikon tiimoilta huomiota erityisesti seuraaviin asioihin:
1. Työkalua tulee hyödyntää yhdenvertaisuuden edistämiseen:
Työkalun käytöllä voidaan ehkäistä syrjinnän riskiä – tämä on erinomaista. Mutta: Sitä ei ole tarkoitettu eikä sitä tule hyödyntää vain syrjinnän riskiarvioinnin välineenä. Nyt on laadittu työkalu, jota tulee hyödyntää myös yhdenvertaisuuden edistämiseen.
2. Työkalu tukee yhdenvertaisuuden edistämisvelvoitteiden toimeenpanoa:
Yhdenvertaisuuslain mukaan viranomaisilla, koulutuksenjärjestäjillä ja työnantajilla on velvollisuus suunnitelmallisesti edistää yhdenvertaisuutta. Tämä edellyttää toimien vaikutusarviointia, mihin työkalua voi hyödyntää.
3. Viranomaisten ja muiden edistämisvelvollisten toimijoiden on arvioitava toimintaansa säännöllisesti: Usein toiminnan syrjivät tai eriarvoistavat vaikutukset näkyvät vasta jälkijunassa. Tekoälyn hyödyntämisessäkin toimien yhdenvertaisuusvaikutusarviointia on tehtävä jatkuvasti.
4. Osaamisen lisääminen syrjinnästä ja yhdenvertaisuudesta on erityisen tarpeellista:
Mitä tarkoittaa välillinen ja välitön syrjintä? Mitä tarkoittaa syrjintäperusteena muu henkilöön liittyvä syy? Mitä tarkoittaa rakenteellinen syrjintä? Osaamista näistä ja yhdenvertaisuussääntelystä on lisättävä yleisesti esimerkiksi viranomaisissa – ja nyt erityisesti siis myös tekoälyn hyödyntämisen yhteydessä.
5. Työkalu tulee jalkauttaa ministeriöissä ja niiden alaisessa hallinnossa tehokkaasti käyttöön. Nykyinen hallitus asetti tavoitteeksi syrjimättömän tekoälyn hyödyntämisen varmistamisen. Toivottavasti tuleva hallituskin asettaa ohjelmassaan konkreettisia tavoitteita.
Yhdenvertaisuusvaltuutettu jatkaa työtään tekoälyn ja automaattisen päätöksenteon yhdenvertaisuuden edistämiseksi ja syrjimättömyyden varmistamiseksi. Valtuutetun toiminnan merkitystä ja samalla resurssien varmistamista tehokkaan valvonta- ja edistämistyön mahdollistamiseksi tuodaan esille myös tutkimusraportissa ja sen suosituksissa.
Keskustelua sekä kehitystyötä tekoälyjärjestelmien yhdenvertaisuuden edistämiseksi on tarpeen jatkaa. On ihmisten vastuulla varmistaa, että tekoäly ei aiheuta syrjintää. Tuore arviointikehikko antaa erittäin hyvän mahdollisuuden tekoälyn syrjimättömyyden arvioimiseen ja myös yhdenvertaisuuden edistämiseen.
Tekoälyn vinoumien välttäminen -hankkeen toteuttivat Demos Helsinki, Turun yliopisto ja Tampereen yliopisto.
Lisätietoa tekoälyn yhdenvertaisuudesta:
Tekoälystä ja yhdenvertaisuusvaltuutetun tekoälyyn liittyviä lausuntoja valtuutetun verkkosivuilla
Regulating for an Equal AI: A New Role for Equality Bodies – Equinetin julkaisu (pdf)
