Tekoälyn syrjimättömyyden varmistaminen vaatii uutta osaamista – myös viranomaisten valvontatyössä
Yhdenvertaisuusvaltuutetun toimistossa käynnistyy uusi hanke, jonka tavoitteena on lisätä sekä valtuutetun että muiden viranomaisten tietoa ja osaamista tekoälyn yhdenvertaisuudesta. Lisäksi pilotoimme hankkeessa syrjintäriskien oma-aloitteista valvontaa.
Hankkeen merkitystä korostaa se, että tekoäly on yhä keskeisempi osa arkeamme: se vaikuttaa muun muassa rekrytointiin, terveydenhuoltoon, vakuutus- ja pankkipalveluihin, turvallisuusviranomaisten toimintaan ja muihin julkisiin palveluihin. Vaikka tekoäly voi tehostaa prosesseja, parantaa palveluita ja edistää yhdenvertaisuuden toteutumista monin tavoin, siihen liittyy myös riskejä. Ilman tarkkaa suunnittelua, testaamista ja valvontaa tekoälyjärjestelmät voivat vahvistaa ennakkoluuloja ja syrjintää.
Hankkeen käynnistyminen ajoittuu samanaikaisesti EU:n tekoälyasetuksen voimaantulon kanssa. Elokuussa 2024 voimaan tullut asetus tuo mukanaan järjestelmien tarjoajille ja käyttöönottajille velvoitteita ja kieltoja, joiden tavoitteena on ehkäistä syrjintää tekoälyn käytössä. Tämä asettaa uusia vaatimuksia myös perus- ja ihmisoikeuksien toteutumista valvoville viranomaisille.
Hankkeessa kehitämme omaa ja muiden avaintoimijoiden, etenkin viranomaisten, asiantuntemusta tekoälyn syrjimättömyydestä ja yhdenvertaisuudesta. Koulutuspaketin on tarkoitus olla valmis ja avoin kohderyhmäläisille alkuvuonna 2025.
Tulemme pilotoimaan hankkeessa laaditun ohjekirjan pohjalta oma-aloitteista valvontaa. Oma-aloitteinen valvonta tekoälyn osalta on erityisen tärkeää, sillä syrjintäilmoituksiin perustuva valvonta ei riitä: tekoälyjärjestelmät ovat usein läpinäkymättömiä ja yksittäisten henkilöiden on vaikea saada tietoa niiden toiminnasta. Olennaista on myös se, että proaktiivisella valvonnalla kiinnitetään huomioita tekoälyjärjestelmien aiheuttamiin yhteisöllisiin ja yhteiskunnallisiin haittoihin sekä velvoitteisiin edistää yhdenvertaisuutta. Valvonnan kohteiden valikoinnissa huomioidaan tutkimuksiin ja selvityksiin perustuvat tiedot ja muut viitteet siitä, mihin valvontapilotointia kannattaa kohdistaa. Tällaisia valvonnan paikkoja voivat olla esimerkiksi työntekijöiden rekrytointi, ulkomaalaisten oleskeluluvat sekä pankki- ja vakuutuspalveluiden päätökset.
Lisäksi tulemme rakentamaan sidosryhmäyhteistyötä ja yhteistyörakenteita osaavan valvonnan ja yhdenvertaisuuden edistämistyön toteuttamiseksi. Emme tee hanketta yksin, vaan Belgian ja Portugalin yhdenvertaisuuselimissä työskentelevien kumppaneiden kanssa. Hankkeen toteutuksessa meitä tukee Euroopan neuvosto, joka on aiemminkin laatinut ja toteuttanut koulutusohjelmia tekoälyn yhdenvertaisuudesta esimerkiksi Ranskassa ja Isossa-Britanniassa. Kaksivuotisen hankkeemme rahoitus tulee Euroopan unionilta ja Euroopan neuvostolta (EU:n tuki rakennemuutoksiin - Teknisen tuen väline TSI).
Odotamme innolla uutta osaamista ja tulevia yhteistyömahdollisuuksia, joiden avulla voimme osaltamme tukea tekoälyn kehitystä työkaluksi, joka rakentaa yhdenvertaisempaa Suomea ja Eurooppaa.
The Project is co-funded by the European Union via the Technical Support Instrument, and implemented by the Council of Europe, in co-operation with the European Commission.
