Yhdenvertaisuusvaltuutetun huomioita tekoälyn yhdenvertaisuusvaikutuksista
Yhdenvertaisuusvaltuutettu on vastannut sosiaali- ja terveysministeriön (STM) kyselyyn tekoälyajan etiikasta. Kysely on osa STM:n ”Etiikka algoritmien aikakaudella” –selvitystyötä.
Valtuutettu käsittelee vastauksessaan sekä tekoälyn käyttöön liittyviä syrjintäriskejä, että tekoälyn mahdollisuuksia edistää yhdenvertaisuutta. Valtuutettu nostaa esille myös tarpeen ennakolliselle vaikutustenarvioinnille ja valvonnalle tekoälyn käytössä. Erilaisten tekoälyjärjestelmien käyttö ja algoritminen päätöksenteko lisääntyvät jatkuvasti, jolloin myös yhdenvertaisuuskysymysten merkitys niiden hyödyntämisessä kasvaa.
Digitalisaatiolla ja tekoälyn käytöllä on potentiaalia edistää yhdenvertaisuutta
Digitalisaatioon, tekoälyyn ja esimerkiksi automaattiseen päätöksentekoon liittyy keskeisesti kysymys yhdenvertaisuus- ja tasa-arvovaikutuksista. Digitalisaatiolla ja tekoälyn käytöllä on potentiaalia edistää yhdenvertaisuutta, esimerkiksi päätöksenteon yhdenvertaisuuden edistäminen, eri ryhmien kuten toimintarajoitteisten ja iäkkäiden ihmisten oikeuksien toteutumista tukevien ratkaisujen tuottaminen sekä yleisemmin yhdenvertaisuuden edistämisen kannalta olennaisten tekijöiden havaitseminen datasta toiminnan suuntaamiseksi. Samalla on huomioitava tekoälyn potentiaali aiheuttaa syrjintää ja merkittävästi voimistaa yhteiskuntarakenteissa ja päätöksenteossa nykyisin tapahtuvaa rakenteellista syrjintää.
Viranomaisilla, työnantajilla ja koulutuksenjärjestäjillä on lakisääteinenvelvollisuus kehittää tekoälyn hyödyntämistä nimenomaan yhdenvertaisuuden edistämisen näkökulmasta (YVL 5-7 § edistämisvelvoitteet). Esimerkkinä: Satsataanko tekoälyyn sen varmistamiseksi, että eri yhteiskunnallisiin tukiin oikeutetut osaavat hakea halutessaan tuen, vai satsataanko tekoälyä sääntöjen vastaisten tukien valvontaan.
Yhdenvertaisuuslain 5 §:n mukaan viranomaisilla on velvollisuus edistää yhdenvertaisuutta ja arvioida toimintansa yhdenvertaisuusvaikutuksia. Viranomaisen on pyrittävä toiminnassaan poistamaan yhdenvertaisuuden toteutumisen esteet ja muutettava tällaisia olosuhteita (HE 19/2014 vp, s. 61). Yhdenvertaisuuden edistämisvelvoite edellyttää tehokasta yhdenvertaisuusvaikutusten arviointia tekoälyjärjestelmän suunnittelu- ja hankintavaiheissa ja sekä käytön aikana.
Tekoälyn käytössä on myös syrjintäriskejä ja kielteisiä yhdenvertaisuusvaikutuksia
Tekoälyn syrjintäriskejä ja potentiaalisia kielteisiä vaikutuksia yhdenvertaisuudelle, tasa-arvolle sekä muille ihmisoikeuksille käsitellään useissa kansainvälisissä ja eurooppalaisissa raporteissa (raportteja muun muassa YK:n elimiltä, EU:n komissiolta, Euroopan neuvostolta ja EU:n perusoikeusvirastolta).
Tekoälyjärjestelmän kielteiset yhdenvertaisuusvaikutukset ja varsinkin automaattisen päätöksenteon syrjivyys voivat johtua monenlaisista seikoista, esimerkiksi käytetyn datan vinoumista tai mallin huonosti valituista ominaisuuksista. Mitä läpinäkymättömämmäksi ja monitahoisemmaksi tekoälyn tai algoritmin toiminta muodostuu, sitä vaikeampaa syrjintää on ehkäistä ja syrjiviä vaikutuksia havaita ja korjata. Syrjintä voi olla myös välillistä. Vaikka sääntöpohjaiseenkin tekoälyyn voi liittyä syrjintää, on riskit helpommin ennaltaehkäistävissä ja tapahtunut syrjintä helpompaa havaita kuin ns. oppivan tekoälyn tilanteissa. Siksi jatkuva vaikutusten arviointi myös perusoikeus- ja yhdenvertaisuusnäkökulmasta on otettava ns. oppivan tekoälyn käytön perusperiaatteeksi.
Tekoälyn kielteiset yhdenvertaisuusvaikutukset voivat johtua myös tekoälyn käytön kohdentamistavasta ja siitä, ketkä tai mitkä ryhmät tekoälyjärjestelmän käytöstä hyötyvät.
Tekoälyn syrjintä- ja yhdenvertaisuusvaikutukset on arvioitava aina tekoälyjärjestelmien käyttöä kuhunkin kontekstiin suunniteltaessa ja hankittaessa. Vaikutusarvioinnin tekeminen on olennaista myös jatkuvasti käytön aikana. Yhdenvertaisuuslain 5 § sekä perustuslain 22 § ja 6 § huomioiden viranomaisen ei tule myöskään kehittää ja käyttää automaattista päätöksentekoa tavalla, joka olisi perus- ja ihmisoikeuksien turvaamisvelvoitteen tai yhdenvertaisuuden edistämisvelvoitteen kanssa ristiriidassa.
Yhdenvertaisuuslain mukaisesti myös työnantajilla ja koulutuksenjärjestäjillä on velvollisuus edistää yhdenvertaisuutta ja siten tehokkain toimin ehkäistä tekoälyn mahdollisia kielteisiä yhdenvertaisuusvaikutuksia (YVL 6 ja 7 §).
Yhdenvertaisuusvaltuutetun näkemys on, että yhdenvertaisuus, tasa-arvo ja syrjimättömyys ovat keskeisiä eettisiä näkökulmia, jotka tulee huomioida tekoälyn käytössä. Aiheesta on jo myös jonkin verran oikeuskäytäntöä. Suomessa esimerkiksi yhdenvertaisuus- ja tasa-arvolautakunnan ratkaisu syrjintäperusteisiin pohjautuvasta tilastollisiin seikkoihin nojaavasta päätöksenteosta luotonannossa. (yvtltk.fi)
Syrjinnän ehkäisemiseksi ja havaitsemiseksi tekoälyn toimintaa on valvottava ja testattava säännöllisesti
Suomessa on tarvetta laajemmalle arvioinnille ja yhteiskunnalliselle keskustelulle siitä, minkälaista sääntelyä tekoälyn käytöstä, sekä julkista että yksityistä sektoria koskien, tulee laatia ihmis- ja perusoikeuksien, kuten yhdenvertaisuuden, toteutumisen turvaamiseksi. Lainsäädäntöä kehitettäessä on arvioitava esimerkiksi nykyistä kattavampia ja täsmällisempiä velvoitteita vaikutustenarvioinnille ja läpinäkyvyydelle.
Tekoälyä ei tulisi ottaa käyttöön, mikäli järjestelmässä tai sen käyttökontekstissa tai -tavassa havaitaan syrjintäriskejä. Yhdenvertaisuusvaltuutettu korostaa ennakollisten vaikutustenarviointien olennaisuutta sekä jatkuvaa valvontaa. Vaikka yhdenvertaisuuslaissa asetetaan viranomaisille, työnantajille ja koulutuksenjärjestäjille yleinen velvoite yhdenvertaisuusvaikutusten arviointiin niiden toiminnassa, tulisi velvoitteen sisältöä ja velvoitettujen piiriä nimenomaan tekoälyn käyttöä koskien selkiyttää ja laajentaa mahdollisesti muussa lainsäädännössä. Yhdenvertaisuuslain soveltuvuutta tekoälyn käyttöön ei myöskään riittävästi tiedosteta ja tunneta.
Läpinäkyvyys tekoälyn käytössä on olennaista yhdenvertaisuusvaikutusten arvioimiseksi ja syrjinnän ennaltaehkäisemiseksi, siihen puuttumiseksi ja valvonnan tehokkaaksi toteuttamiseksi. Tämä toteutuminen tulisi varmistaa sääntelyllä.
Olisi myös tärkeää varmistaa, että tekoälyjärjestelmiä käyttöönottavilla tai suunnittelevilla toimijoilla on riittävästi tietoa ja osaamista yhdenvertaisuusvaikutusten arvioinnin tekemiseksi. Varsinkin viranomaisissa tämä on varmistettava.
Yhdenvertaisuuden ja tasa-arvon näkökulmasta olennainen kysymys ei ole pelkästään se, onko jokin tietty tekoälyn hyödyntämisen tapa ja käyttökonteksti juridisesti syrjivä. Tekoälyn käytön tulee myös hyödyttää yhdenvertaisesti kaikkia. Tekoälyn käyttö saattaa voimistaa yhteiskunnassa jo olemassa olevia valtarakenteita ja epäyhdenvertaisuutta. Sen vaikutuksia eri käyttökonteksteissaan on varsinkin viranomaisissa tarkasteltava myös laajemmasta yhteiskunnallisen yhdenvertaisuuden kuin vain kapeasta juridisen syrjinnän näkökulmasta.
Riittävä perusymmärrys ja koulutus tekoälystä on varmistettava kaikille sen laaja-alaisten vaikutusten vuoksi. Tekoälyn kehittämisessä on myös varmistettava asiantuntijoiden monimuotoisuus.
Yhdenvertaisuusvaltuutetun näkemyksiä on esitetty tarkemmin oikeusministeriölle toimitetussa lausunnossa arviomuistiin hallinnon automaattiseen päätöksentekoon liittyvistä yleislainsäädännön sääntelytarpeista (VVTDno-2020-620).
09.02.2021