2.4 Tekoäly – hyvä apuväline vai syrjinnän mahdollistaja?

Internet pyrkii jatkuvasti todistamaan, että olet oikeassa. Se osaa lukea ja analysoida dataa, kuten mitä haet netistä, kuinka kauan vietät aikaa eri sivustoilla ja mitä niillä teet. Tämän perusteella algoritmit muodostavat sinulle personoidun näkymän, joka pyrkii koukuttamaan, eli sellaisen, jossa on asioita, joista pidät sekä asioita, jotka todistavat sinun olevan oikeassa (1.). Psykologisesti olemme koukuttuneita löytämään tietoa, joka tukee omaa näkemystämme ja sulkemaan silmät asioilta, jotka poikkeavat siitä (2), siksi algoritmit toimivatkin tehokkaasti.

Yhdenvertaisuuslaki inhimillistää tekoälyä

Algoritmien ja tekoälyn tuomien mahdollisuuksien tiedetään olevan harmaalla alueella laillisuuden suhteen. Tästä syystä näitä vahtii yhdenvertaisuusvaltuutettu. Valosen blogipostauksessa on esimerkiksi suora linkki tapaukseen, jossa yhdenvertaisuusvaltuutettu vei tekoälyä hyödyntävän luottopäätöstapauksen yhdenvertaisuus- ja tasa-arvolautakuntaan. Yhdenvertaisuusvaltuutetut valvoo, monitoroi ja testaa säännöllisesti, ettei tekoäly vahingossa tai tahallaankaan opi syrjiväksi (3.). Tämä on ehdottoman tärkeää, jotta tekoälyn käyttöä voidaan laajentaa eettisesti oikein. Ilman ihmisiä, jotka vahtivat ihmisten oikeuksia, ei voi olla täysin inhimillisiä ratkaisujakaan.

 

Amazon tapaus & syrjiminen työnhaussa

Amazonin työnhaussa käyttämä tekoäly oppi tunnistamaan miehen sukupuolen menestystekijäksi sen perusteella, että miehiä oli yrityksessä enemmän töissä (4). Amazonin tekoäly tunnisti valkoisen miehen lähes 100 % varmuudella oikein, kun taas tummaihoisen naisen monta kymmentä prosenttia epätodennäköisemmin (5). Tästä seurasi se, että tekoäly alkoi pitämään naisia epäluotettavina ja suuri osa potentiaalisista ansioluetteloista lensi suoraan roskakoriin. Lopulta epäoikeudenmukaisuus huomattiin ja järjestelmä poistettiin käytöstä (4). Kuitenkin vastaavanlaisia järjestelmiä käytetään edelleen, Suomessakin nämä ovat yleisiä. Esimerkiksi Baronalla on käytössä järjestelmä, joka on opetettu seulomaan hakemuksista ”huonot pois”. Järjestelmät oppivat aikaisemmista toimintatavoista, mutta niin kuin Amazon tapauksesta voidaan huomata, nämä järjestelmät eivät ole täydellisiä eikä tästä syystä myöskään oikeudenmukaisia. Tekoäly totta kai nopeuttaa hakemusten läpikäymistä, mutta se ei tunnista poikkeuksia. Vaikka vääristymien vaara on tiedostettu, tekoäly on ollut vasta niin vähän aikaan käytössä, ettei datavirheiltä tai -puutteilta voida välttyä. Artikkelissa mainitaan esimerkiksi läpinäkyvyyden puuttuminen. Hakijan tulisi esimerkiksi saada tietää, millä perusteella hakemus menee suoraan hylkyyn tekoälyn toimesta (6.).

Coded Bias - Koodin Syrjimät

Shalini Kantayyan dokumentissa useampi nainen kertoo omista syrjivistä kokemuksistaan liittyen tekoälyyn. Yksi järkyttävimmistä kokemuksista oli, että Atlantic Plaza Tower -asuntoon, jossa asuu pääosin heikompituloisia, oli asennettu tekoälyä hyödyntävä kamerajärjestelmä huijaamalla asukkaat suostumaan siihen. Heille kerrottiin kasvojentunnistuksen olevan vain ovissa, jotta kulkulätkät asuntoon saataisiin poistettua käytöstä. Myöhemmin kävi kuitenkin ilmi, että heitä vahditaan tauotta ja jos asukas tekee jotain johdon mukaan kyseenalaista, he lähettävät asukkaalle kuvia, kun asukas tekee kyseistä asiaa ja kuvien ympärille kirjoitettuja muistiinpanoja, aivan kuin rikostutkimuksessa (5.). Tämä ja moni muukin dokumentin tarina saa pysähtymään miettimään dystopioita, joita voisi toteuttaa nykyajan teknologialla. 

 Lähteet:

Lähde 1. WIRED.  Youtube. How the Internet Tricks You Into Thinking You're Always Right | Argument Clinic |. 2017.

URL: https://www.youtube.com/watch?v=u3177plhOSY 

Lähde 2. Shahram Heshmat. Psychology today. What Is Confirmation Bias? 2015.

URL: https://www.psychologytoday.com/us/blog/science-choice/201504/what-is-confirmation-bias Luettu 10.11.2021.

 Lähde 3. Tiina Valonen. Yhdenvertaisuusvaltuutettu. Tiesitkö, että tekoälyyn ja algoritmeihin liittyvää syrjintää valvoo yhdenvertaisuusvaltuutettu? 2020.

URL: https://syrjinta.fi/-/tiesitko-etta-tekoalyyn-ja-algoritmeihin-liittyvaa-syrjintaa-valvoo-yhdenvertaisuusvaltuutettu- Luettu 12.11.2021

Lähde 4. Maude Lavanchy. Talouselämä. Amazon päätti lopettaa tekoälyyn perustuvan kokeilunsa havaittuaan, että se syrji naisia. 2019.

URL: https://www-talouselama-fi.ezproxy.haaga-helia.fi/uutiset/amazon-paatti-lopettaa-tekoalyyn-perustuvan-kokeilunsa-havaittuaan-etta-se-syrji-naisia/a946332f-7f47-337c-bd34-86d35984210a

Luettu 12.11.2021

Lähde 5. Shalini Kantayya. Coded bias – Koodin syrjimät. 2020.

Lähde 6. Jari Hakkarainen. Yle. Lisääntyykö syrjintä työnhaussa? Tekoäly seuloo entistä useammin hyvät akanoista. 2018.

URL: https://yle.fi/uutiset/3-10034072 Luettu 12.11.2021