Parhaillaan vietetään rasismin vastaista viikkoa (17.–23. 3). Tänäkin vuonna kampanjaviikko rohkaisee meitä kaikkia tunnistamaan rasismin, puuttumaan siihen ja toimimaan sitä vastaan. Rasismiin puuttumalla rakennamme parempaa arkea ja edistämme hyvinvointia eri ympäristöissä: työelämässä, kodeissa, kouluissa, harrastuksissa ja nuorten vapaa-ajanviettopaikoissa. Vuonna 2025 näiden eri ympäristöjen joukkoon on tullut mukaan uusi ulottuvuus, eli tekoäly.
Viimeisten parin vuoden aikana tekoäly on mullistanut monia elämänalueita, mutta sen käyttöön liittyy myös merkittäviä yhdenvertaisuuskysymyksiä. Tekoälyn toteuttama syrjintä ei ole täysin uusi asia maailmalla. Muutamina esimerkkitapauksina tekoälylähtöisestä syrjinnästä voidaan nostaa jo vuonna 2018 keskusteluun noussut Amazonin syrjivä rekrytointijärjestelmä, joka suosi mieshakijoita sekä vuoden 2021 niin sanottu Deliveroo-tapaus. Siinä italialainen tuomioistuin katsoi, että algoritmi, jota ruokalähettiyhtiö Deliveroo käytti arvioidessaan ja pisteyttäessään kuljettajia alustallaan, oli syrjivä.
Suomessakaan tekoälyyn ja algoritmeihin liittyvä syrjintä ei ole aivan uusi ilmiö, vaikkakaan tapauksia ei toistaiseksi ole juuri ilmennyt. Yksi konkreettinen syrjintäpäätös on kuitenkin annettu yhdenvertaisuus- ja tasa-arvolautakunnan toimesta vuonna 2017. Tapauksessa lautakunta katsoi, että luotonantaja oli toiminut syrjivästi käyttäessään sen automaattista päätöksentekojärjestelmää luotonannossa. Syy tälle oli, että automatisointi perustui järjestelmään, jossa luotonhakijat pisteytettiin muun muassa asuinpaikan, sukupuolen, äidinkielen ja iän perusteella.
Tekoälypohjaisen syrjinnän uudet uhkakuvat
Muun muassa yhdenvertaisuusvaltuutettu on korostanut, että tekoälyn hyödyntämiseen yhdenvertaisuuden edistämisessä liittyy sekä riskejä että mahdollisuuksia. Myös rasismin ja siihen puuttumisen näkökulmasta tekoälyn käyttöönotto pitää sisällään isoja kysymysmerkkejä. Miten esimerkiksi jatkossa työelämässä voimme ennaltaehkäisevästi puuttua rasismiin ja tunnistaa sen, jos rekrytointiin liittyvästä päätöksenteosta vastaa tekoäly? Tai miten voimme tunnistaa, kohteleeko työnantaja työntekijöitä työtehtävien jakamisessa syrjivästi, jos työnjohtovallasta vastaa tekoäly?
Tekoälyn käyttöönotossa piilee erityisiä riskejä silloin, jos tekoälyjärjestelmät koulutetaan aineistoilla, jotka vahvistavat rasistisia rakenteita esimerkiksi rekrytoinnissa. Tekoälyn käyttöönotto voi näyttäytyä syrjivänä, vaikka tämä ei olisi järjestelmän laatijan tai käyttäjän tarkoitus. Syrjivyys voi johtua esimerkiksi algoritmille syötetyn opetusdatan virheistä tai puutteista.
Tekoälyn käyttöönotossa piilee erityisiä riskejä silloin, jos tekoälyjärjestelmät koulutetaan aineistoilla, jotka vahvistavat rasistisia rakenteita esimerkiksi rekrytoinnissa.
Konkreettinen esimerkki, joka maailmalla on havaittu, on tekoälypohjainen kasvojentunnistusjärjestelmä. Siinä kasvojentunnistuksessa käytettävät algoritmit tunnistavat paremmin valkoihoisia, koska ne on opetettu valkoihoisten kasvojen avulla. Tämä voi johtaa tummaihoisten syrjintään väärien epäilysten ja turhien toimenpiteiden muodossa. Tästä järjestelmästä ei ole enää pitkä matka siihen, että samanlainen mekanismi voisi olla käytössä esimerkiksi rekrytoinnissa, joka arvioi hakijoita esimerkiksi ihonvärin perusteella.
Tekoäly voi syrjiä myös välillisesti. Vaikka tekoälylle ei annettaisi suoraan syötteitä tietylle syrjintäperusteelle, kuten iälle tai ihonvärille, se voi silti löytää datasta tietoa, joka liittyy vahvasti syrjintäperusteeseen. Esimerkiksi kieltä ja asuinpaikkaa koskevat tiedot voivat korreloida vahvasti alkuperän kanssa. Tekoäly voi näin päätyä välillisesti syrjiviin ennusteisiin ja johtopäätöksiin, vaikka tekoälyn laatija tai käyttäjä ei itse edes haluaisi näin tapahtuvan.
Tekoälyn potentiaali rasismiin puuttujana
Koska rasismin vastaisella viikolla on tarkoitus puhua nimenomaan rasismiin puuttumisesta, on syytä arvioida miten tekoäly voisi myös puuttua tulevaisuudessa entistä paremmin rasismiin työelämässä ja muualla. Mahdollisia hyötyjä tekoälyn käyttöönotossa on varmasti monia, esimerkiksi rasismin tehokkaampi havaitseminen sekä moderointi ja vihapuheen torjunta. Tekoäly voi auttaa analysoimaan suuria tietomääriä ja tunnistamaan rasistisia rakenteita nopeammin kuin ihminen. Lisäksi erilaiset sosiaalisen median alustat voivat käyttää tekoälyä poistamaan vihapuhetta ja rasistista sisältöä nykyistä nopeammin ja tehokkaammin.
Yhdenvertaisuuslain edistämisvelvoitteet lähtevät siitä, että työnantajilla, viranomaisilla ja koulutuksenjärjestäjillä on velvollisuus kehittää tekoälyn hyödyntämistä nimenomaan yhdenvertaisuuden edistämisen näkökulmasta. Säännökset ovat tärkeä pitää mielessä esimerkiksi aina silloin, kun työpaikoilla otetaan käyttöön uusia tekoälytyökaluja, joilla on vaikutusta henkilöstöä valittaessa ja henkilöstöä koskevia ratkaisuja tehdessä.
Luonnollisesti tekoälystäkin tulee suuremmalla todennäköisyydellä yhdenvertaisuuden edistäjä, jos tekoälyn kouluttaja itsekään ei anna rasismille tilaa omassa toiminnassaan.
Jotta tekoälystä saataisiin valjastettua tehokas rasismiin puuttuja, edellyttää se tekoälyn käytön säännöllistä valvomista ja testaamista. Luonnollisesti tekoälystäkin tulee suuremmalla todennäköisyydellä yhdenvertaisuuden edistäjä, jos tekoälyn kouluttaja itsekään ei anna rasismille tilaa omassa toiminnassaan. Ensiarvoisen tärkeää on, että tekoälyn syrjintä- ja yhdenvertaisuusvaikutuksia arvioidaan aina, kun uusia tekoälyjärjestelmiä ollaan suunnittelemassa ja ottamassa käyttöön.
Pidetään siis huoli siitä, että tulevaisuudessa oman älymme lisäksi myös tekoäly puuttuu rasismiin kaikissa tilanteissa riittävän ajoissa.
Ville Kirvesniemi
Kirjoittaja on STTK:n juristi