Eettiset huolet ja tekoälyn hyväksyttävä käyttö

Tekoälyn eettisistä periaatteista ja ohjeistuksista on käyty paljon keskustelua, sillä tekoälyn kehitys on herättänyt huolia paitsi tällaisiin teknologioihin liittyvistä riskeistä myös sen hyväksyttävästä käytöstä. Kiina ja Yhdysvallat ovat olleet edelläkävijöitä tekoälyn kehitystyössä. Samalla Kiinan käyttöön ottamat sosiaalisen pisteytyksen ja muun kansalaisvalvonnan järjestelmät sekä Yhdysvaltalaisten teknologiajättien laaja asiakasdatan hyödyntäminen ovat kuitenkin herättäneet huolta tekoälyjärjestelmien eettisestä käytöstä.

Tekoälyn käytön lisääntyessä myös käytettävät teknologiat ovat muuttuneet yhä monimutkaisemmiksi. Osa tekoälyjärjestelmistä on äitynyt niin monimutkaisiksi, ettei niiden käyttäjä pysty ymmärtämään järjestelmän toimintaperiaatteita tai sitä, millä perustein järjestelmä tuottaa tietyn lopputuloksen. Tällaiset ns. ‘black box’ -ongelmat horjuttavat yksilöä koskevan päätöksenteon läpinäkyvyyden vaatimuksia ja voivat käytännössä johtaa esimerkiksi syrjintään ja virheellisiin lopputuloksiin.

Lisäksi ymmärryksen puute tekoälyjärjestelmän toiminnasta vaikeuttaa sen varmistamista, että järjestelmä toimii lainsäädännön mukaisesti. Asianmukainen, yhteiskunnan normien edellyttämä valvonta ja ihmisten mahdollisuudet tekoälyn päätöksentekoon puuttumiseen voivat osoittautua lähes mahdottomiksi, jos tekoälysovelluksella on tiedollinen etulyöntiasema sitä operoivaan nähden.

“Syrjivyys ja puolueellisuus saattavat myös heijastua tekoälyyn ja sen tuloksiin, sillä massadatalla koulutetut tekoälyjärjestelmät toisintavat – usein tiedostamattomia – rakenteellisia ennakkoasenteita.”

Valtaosa tekoälyjärjestelmän vastuulliseen ja luotettavaan toimintaan liittyvistä valinnoista tehdäänkin jo järjestelmän kehitysvaiheessa. Kehitysvaiheessa käytetty data voi kuitenkin sisältää tarkoituksellisia tai tahattomia vääristymiä. Syrjivyys ja puolueellisuus saattavat myös heijastua tekoälyyn ja sen tuloksiin, sillä massadatalla koulutetut tekoälyjärjestelmät toisintavat – usein tiedostamattomia – rakenteellisia ennakkoasenteita. Kaikkia kulttuurin ja mediavaikutteiden ihmiseen synnyttämiä ennakkoasenteita voi siis vastaavasti löytää myös tekoälyn toiminnasta. Järjestelmä ei välttämättä toimi alun alkaen ennakkoasenteiden perusteella, mutta on taitava oppimaan niitä ajan saatossa.

Tekoälyjärjestelmiin liittyvän luottamuksen lisäämisen kannalta keskeinen haaste on luonnollisesti myös määrittää, kuka on vastuussa tekoälyn avulla toimivan järjestelmän aiheuttamista vahingoista. EU:n tasolla on käynnissä sekä yleisiä että sektorikohtaisia vastuukysymyksiä koskevia hankkeita. Yhtenäisen oikeudellisen vastuukehikon puuttuessa toimijoiden välisillä sopimuksilla onkin korostunut merkitys.

EU suunnannäyttäjänä tekoälyn sääntelyssä

Tekoäly on keskeinen osa yhteiskunnan digitaalista muutosta ja myös yksi EU:n tämänhetkisistä lainsäädäntöprioriteeteista. Vaikka nykyinen lainsäädäntö tarjoaa suojaa ja pelisääntöjä, se ei riitä vastaamaan kaikkiin tekoälyjärjestelmien erityishaasteisiin.

Euroopan komissio julkisti huhtikuussa esityksensä kaikkien aikojen ensimmäiseksi kokonaisvaltaiseksi tekoälyä koskevaksi sääntelyksi.

“Komission ehdotuksessa on lähdetty tavoittelemaan selkeitä sääntöjä tekoälyn käytölle ja kehitykselle. Uusilla säännöillä varmistettaisiin EU:ssa käytettävien tekoälyjärjestelmien turvallisuus, läpinäkyvyys, eettisyys ja puolueettomuus.”

Komission ehdotus perustuu riskipohjaiseen lähestymistapaan, jossa erilaiset tekoälyjärjestelmät on jaettu kategorioihin sen mukaan, miten suuren riskin ne aiheuttavat ihmisten terveydelle, turvallisuudelle tai perusoikeuksille:

1. Kokonaan kielletyt tekoälyjärjestelmät

Tietyt tekoälyn sovellutukset olisivat EU:n arvojen vastaisina kokonaan kiellettyjä. Tällaisia ovat esimerkiksi ihmisten poliittinen manipulointi alitajuntaan vaikuttavilla tekoälytekniikoilla, viranomaisten sosiaaliset pisteytysjärjestelmät sekä reaaliaikainen julkisten tilojen kasvojentunnistusteknologia lainvalvontaa varten.

2. Korkean riskin tekoälyjärjestelmät

Valtaosa ehdotuksen vaatimuksista kohdistuu ns. korkean riskin tekoälyjärjestelmiin, jotka aiheuttavat suuren riskin ihmisten terveydelle, turvallisuudelle tai perusoikeuksille. Tällaisten tekoälyjärjestelmien markkinoille saattamiselle ja käytölle asetettaisiin ehdotuksen perusteella tiukat velvoitteet.

Korkeariskiseksi tunnistetut tekoälyjärjestelmät sisältävät tekoälytekniikkaa, jota käytetään esimerkiksi kriittiseen infrastruktuuriin, koulutukseen, työllistymiseen, julkisiin palveluihin sekä lainvalvontaan. Esimerkiksi robottikirurgiaan, työhönottoon tai luottopisteytykseen liittyvät tekoälyjärjestelmät voisivat olla korkeariskisiä.

3. Rajoitetun riskin tekoälyjärjestelmät

Rajoitetun riskin tekoälyjärjestelmille asetetaan ehdotuksessa kevyempiä, läpinäkyvyyteen liittyviä vaatimuksia. Jos esimerkiksi käytetään asiointibottien kaltaisia tekoälysovelluksia tai tekoälytyökaluja, jotka pyrkivät tunnistamaan ihmisten ominaisuuksia tai tunteita, ihmisille on ilmoitettava heidän olevan tekemisissä tekoälyn kanssa.

4. Vähäriskiset tekoälyjärjestelmät

Sen sijaan ns. vähäriskisten tekoälyjärjestelmien kehittämiselle tai käytölle tekoälyasetus ei asettaisi uusia rajoituksia. Tällaisia sovelluksia olisivat esimerkiksi tekoälyä hyödyntävät videopelit tai roskapostisuodattimet. Käytännössä valtaosa tekoälyn sovellutuksista kuuluisi tähän luokkaan.

Asetuksen sisältämiä velvoitteita tehostettaisiin EU:n yleisen tietosuoja-asetuksen (GDPR) tapaan tuntuvalla sanktioriskillä. Ehdotuksen mukaan asetuksen rikkomisesta voitaisiin määrätä suurimmillaan 30 miljoonan euron, tai 6 prosenttia yrityksen maailmanlaajuisesta kokonaisliikevaihdosta suuruinen hallinnollinen sakko.

Esitys on julkaisunsa jälkeen herättänyt vilkasta keskustelua. Vaikka EU:n tavoite edistää luotettavaa ja eettistä tekoälyn käyttöä on saanut kannatusta, erityisesti sääntelyn soveltamisala, kielletyt tekoälyjärjestelmät sekä rajanveto eri tekoälyn riskikategorioiden välillä ovat herättäneet kysymyksiä käytännön toimintakentällä. Edes tekoälyn käsitteen määritteleminen ei ole helppoa, joten EU on todellisen haasteen edessä pyrkiessään muotoilemaan tekoälyasetuksen tavalla, joka mahdollistaisi artiklojen selkeän soveltamisalan myös tulevaisuuden teknologiakehityksen huomioivalla tavalla.

Stay tuned!

Tulevissa Quarterly-numeroissamme pureudumme tarkemmin tekoälyjärjestelmien kehitystä ja käyttöönottoa koskeviin sopimuksiin, ja ylipäänsä tekoälyn kehittämiseen sekä siihen perustuvien sovellusten hankintaan liittyviin juridisiin pulmiin ja käytännön vinkkeihin.