Silmäyksellä
Viisi kontekstuaalista tekijää vaikuttavat siihen, mihin tarkoitukseen yksilö haluaa käyttää selitystä ja miten sinun tulisi antaa selitys:
- alue, jolla työskentelet;
- vaikutus yksilöön;
- käytetyt tiedot;
- päätöksenteon kiireellisyys ja
- yleisö, jolle selitys esitetään.
Perusteellisemmin
- Johdatus kontekstuaalisiin tekijöihin
- Tekijä
- Tekijä, joka vaikuttaa
- Tekijä, joka vaikuttaa
- Tekijä, joka vaikuttaa dataan
- Tekijä, joka vaikuttaa päätöksen kiireellisyyteen
- Tekijä, joka vaikuttaa kohderyhmään
Johdanto
Kehitettäessä selitysyksilön selitys, on useita tekijöitä siitä kontekstista, jossa tekoälyavusteinen päätös tehdään. Nämä vaikuttavat siihen, minkälaista selitystä ihmiset pitävät hyödyllisenä ja mihin tarkoituksiin he haluavat sitä käyttää.
Toteuttamastamme primaaritutkimuksesta, jonka teimme erityisesti kansalaisten kanssa, tunnistimme viisi keskeistä kontekstuaalista tekijää, jotka vaikuttavat siihen, miksi ihmiset haluavat selityksiä tekoälyavusteisista päätöksistä. Seuraavassa esitetään nämä taustatekijät sekä ehdotuksia siitä, mitkä selitykset olisi asetettava etusijalle tekoälyavusteisten päätösten selittämisessä. Nämä tekijät on syytä ottaa huomioon tämän ohjeen osassa 2 kuvatun prosessin kaikissa vaiheissa.
Kun pohdit näitä asiayhteystekijöitä, pidä mielessä, että selitysten antaminen päätöksenteon vastaanottajille kouluttaa heitä myös tekoälyjärjestelmistä. Siksi voi olla syytä miettiä, millaista tietoa voit antaa ennen käsittelyä, jotta yleisön tietämys ja ymmärrys tekoälyn käytöstä kehittyy.
Toimialatekijä
Mitä tämä tekijä on?
Toimialalla tarkoitamme ympäristöä tai alaa, jossa otat tekoälymallin käyttöön auttaaksesi sinua tekemään päätöksiä ihmisten suhteen. Tämä voi vaikuttaa siihen, millaisia selityksiä ihmiset haluavat. Esimerkiksi se, mitä ihmiset haluavat tietää tekoälyavusteisista päätöksistä, joita tehdään rikosoikeudellisella alalla, voi poiketa merkittävästi muista aloista, kuten terveydenhuollosta.
Niin ikään toimiala- tai alakohtaiset selitysstandardit voivat vaikuttaa siihen, mitä ihmiset odottavat selitykseltä. Esimerkiksi henkilö, joka saa tekoälyavusteisen asuntolainapäätöksen, odottaa saavansa tietää päätöksen taustalla olevat perustelut tavalla, joka vastaa vakiintuneita luotonantostandardeja ja -käytäntöjä.
Mitä selityksiä meidän pitäisi asettaa etusijalle?
Toimialatekijän huomioon ottaminen on kenties ratkaisevin tekijä sen määrittämisessä, mitä selityksiä kannattaa sisällyttää mukaan ja asettaa etusijalle, kun viestitään henkilöille, joita asia koskee. Jos tekoälyjärjestelmäsi toimii turvallisuuskriittisessä ympäristössä, päätöksenteon vastaanottajat haluavat luonnollisesti asianmukaiset selitykset turvallisuudesta ja suorituskyvystä. Jos järjestelmäsi kuitenkin toimii alalla, jossa ennakkoluulot ja syrjintä ovat yleisiä, he todennäköisesti haluavat, että annat selityksen oikeudenmukaisuudesta.
Sähköisen kaupankäynnin kaltaisilla aloilla, joilla on vähemmän panosta, on epätodennäköistä, että ihmiset haluaisivat tai odottaisivat laajoja selityksiä suosittelujärjestelmien tuotosten turvallisuudesta ja suorituskyvystä. Silti näillä vaikutuksiltaan vähäisemmillä aloilla sinun tulisi selittää kaikkien ihmisiin vaikuttavien päätöksentekojärjestelmien perusperusteet ja vastuullisuuskomponentit (sekä kaikki muut asiaankuuluvat selitystyypit).
Esimerkiksi ”vaikutuksiltaan vähäiset” sovellukset, kuten tuotesuositukset ja henkilökohtaistaminen (esim. mainonnan tai sisällön), voivat herättää arkaluonteisia kysymyksiä, jotka liittyvät tiettyihin demografisiin ryhmiin kohdentamiseen tai toisten huomiotta jättämiseen (esim. mainostaminen johtajatehtävistä, jotka on suunnattu miehille). Nämä herättävät ilmeisiä kysymyksiä oikeudenmukaisuudesta ja yhteiskunnallisesta vaikutuksesta, mikä lisää näitä kysymyksiä käsittelevien selitysten merkitystä.
Vaikutustekijä
Mikä tämä tekijä on?
Vaikutustekijässä on kyse siitä, millainen vaikutus tekoälyavusteisella päätöksellä voi olla yksilöön ja laajemmin yhteiskuntaan. Vaihtelevat vakavuusasteet ja erityyppiset vaikutukset voivat muuttaa sitä, mitä selityksiä ihmiset pitävät hyödyllisinä ja mitä tarkoitusta selitys palvelee.
Ovatko päätökset turvallisuuskriittisiä, liittyvätkö ne elämän tai kuoleman tilanteisiin (useimmiten terveydenhuollon alalla)? Vaikuttavatko päätökset jonkun vapauteen tai oikeudelliseen asemaan? Onko päätöksen vaikutus vähemmän vakava, mutta silti merkittävä (esim. hyödyn epääminen tai poliittisen viestin kohdentaminen)? Vai onko vaikutus vähäpätöisempi (esim. se, että tekoälyjärjestelmä, joka lajittelee jonoja lentoasemalla, ohjaa tietylle lipputiskille)?
Mitä selityksiä meidän pitäisi priorisoida?
Yleisesti silloin, kun tekoälyavusteisella päätöksellä on suuri vaikutus yksilöön, selitykset, kuten oikeudenmukaisuus, turvallisuus ja suorituskyky sekä vaikutus, ovat usein tärkeitä, koska yksilöt haluavat olla vakuuttuneita päätöksen turvallisuudesta, luottaa siihen, että heitä kohdellaan oikeudenmukaisesti, ja ymmärtää seuraukset.
Yhteensopivuus- ja vastuullisuus-selitykset voivat kuitenkin olla yhtä tärkeitä muista asiayhteystekijöistä riippuen. Esimerkiksi jos tekoälymallin käyttämien tietojen ominaisuudet ovat muuttuvia tai jos tehdyt johtopäätökset ovat tulkinnanvaraisia ja ne voidaan kyseenalaistaa.
Vaikutuksen huomioon ottaminen kontekstuaalisena tekijänä ei ole suoraviivaista. Mitään tiukkoja ja tiukkoja sääntöjä ei ole olemassa. Se on tehtävä tapauskohtaisesti ja sitä on tarkasteltava yhdessä kaikkien muiden kontekstuaalisten tekijöiden kanssa. Siihen pitäisi myös sisältyä kattava vuoropuhelu kaikkien niiden asiantuntemuksen alojen välillä, jotka osallistuvat tekoälyjärjestelmän suunnitteluun, kehittämiseen ja käyttöönottoon. Kokoamalla yhteen erilaisia tiimin jäseniä, joilla on teknistä, poliittista, sääntöjen noudattamiseen liittyvää ja alaan liittyvää asiantuntemusta, voidaan saada perustellumpi näkemys tekoälymallin vaikutustekijästä.
Datatekijä
Mitä tämä tekijä on?
”Data” kontekstuaalisena tekijänä liittyy sekä tekoälymallin harjoitteluun ja testaukseen käytettyyn dataan että syöttöaineistoon päätöksentekohetkellä. Tekoälymallisi käyttämän datan tyyppi voi vaikuttaa yksilön halukkuuteen hyväksyä tai kiistää tekoälyavusteinen päätös ja sen seurauksena tehtäviin toimiin.
Tämä tekijä viittaa siihen, että sinun tulisi miettiä, millaista dataa mallisi on koulutettu ja mitä se käyttää syötteenä tuotoksissaan, kun se otetaan käyttöön. Sinun tulisi miettiä, onko data biologista tai fysikaalista (esim. biolääketieteellistä dataa, jota käytetään tutkimukseen ja diagnostiikkaan), vai onko se sosiaalista dataa demografisista ominaisuuksista tai ihmisten käyttäytymisen mittauksista.
Sinun tulisi myös miettiä, voiko yksilö muuttaa päätöksen lopputulosta. Jos päätökseesi vaikuttavat tekijät ovat sellaisia, joihin voidaan vaikuttaa muuttamalla jonkun käyttäytymistä tai elämäntapaa, on todennäköisempää, että yksilöt haluavat tehdä nämä muutokset, jos he eivät ole samaa mieltä lopputuloksesta.
Jos esimerkiksi pankkilainapäätös on tehty asiakkaan taloudellisen toiminnan perusteella, asiakas voi haluta muuttaa kulutuskäyttäytymistään muuttaakseen päätöstä tulevaisuudessa. Tämä vaikuttaa siihen, millaisen selityksen yksilö haluaa. Jos tiedot ovat kuitenkin vähemmän joustavia, kuten biofysikaaliset tiedot, on epätodennäköisempää, että yksilö on eri mieltä tekoälyjärjestelmän tuotoksesta. Esimerkiksi terveydenhuollossa tekoälyjärjestelmän tuottama tuloste diagnoosiehdotuksesta, joka perustuu potilaan geneettisiin tietoihin, on ”kiinteämpi” – potilas ei voi helposti muuttaa sitä.
Mitä selityksiä meidän pitäisi asettaa etusijalle?
Usein on hyödyllistä asettaa etusijalle perustelumuotoinen selitys sekä sosiaalisen datan että biofysikaalisen datan osalta. Kun käytetään sosiaalista dataa, epäsuotuisan päätöksen saaneet yksilöt voivat ymmärtää perustelut ja oppia niistä mukauttamaan käyttäytymistään asianmukaisesti tulevissa päätöksissä. Kun kyseessä on biofyysinen tieto, tämä voi auttaa ihmisiä ymmärtämään, miksi heitä koskeva päätös on tehty.
Kuitenkin kun käytetään biofyysistä tietoa, kuten lääketieteellisissä diagnooseissa, yksilöt saattavat haluta vain tietää, mitä päätöksen tulos merkitsee heidän kannaltaan, ja saada varmuuden päätöksen turvallisuudesta ja luotettavuudesta. Näissä tapauksissa on järkevää asettaa vaikutusten sekä turvallisuuden ja suorituskyvyn selitykset etusijalle näiden tarpeiden täyttämiseksi.
Toisaalta, kun tiedot ovat luonteeltaan sosiaalisia tai subjektiivisia, yksilöt ovat todennäköisemmin huolissaan siitä, mitä tietoja päätöksenteossa on otettu huomioon, ja siitä, ovatko ne sopivia tai oikeudenmukaisia, kun ne vaikuttavat tekoälyavusteiseen päätökseen, joka koskee heitä. Näissä tilanteissa tietoja ja oikeudenmukaisuutta koskevat selitykset auttavat käsittelemään näitä huolenaiheita kertomalla ihmisille, mitä syöttötiedot olivat, mistä ne olivat peräisin ja mitä toimenpiteitä otit käyttöön varmistaaksesi, että näiden tietojen käyttäminen tekoälyavusteisten päätösten tekemisessä ei johda ennakkoluuloihin tai syrjintään.
Kiireellisyystekijä
Mitä tämä tekijä on?
Kiireellisyystekijä koskee sitä, miten tärkeää on, että tekoälyavusteisen päätöksen tulos vastaanotetaan tai että sen perusteella toimitaan lyhyessä ajassa. Se, mitä ihmiset haluavat tietää päätöksestä, voi muuttua sen mukaan, kuinka vähän tai paljon heillä on aikaa miettiä sitä.
Kiireellisyystekijä suosittelee miettimään, kuinka kiireellinen tekoälyavusteinen päätös on. Mieti, onko tietty toimintatapa usein välttämätön tekemiesi päätösten jälkeen ja kuinka nopeasti sinun on ryhdyttävä kyseiseen toimeen.
Mitä selityksiä meidän pitäisi priorisoida?
Jos kiireellisyys on keskeinen tekijä, on todennäköisempää, että yksilöt haluavat tietää, mitkä ovat seuraukset heidän kannaltaan, ja saada varmuuden siitä, että tekoälymalli, joka auttaa päätöksen tekemisessä, on turvallinen ja luotettava. Siksi vaikutusten sekä turvallisuuden ja suorituskyvyn selitykset ovat sopivia näissä tapauksissa. Tämä johtuu siitä, että nämä selitykset auttavat yksilöitä ymmärtämään, miten päätös vaikuttaa heihin, mitä tapahtuu seuraavaksi ja mitä toimenpiteitä ja testejä on toteutettu tekoälymallin turvallisuuden ja suorituskyvyn maksimoimiseksi ja valvomiseksi.
Yleisötekijä
Mikä tämä tekijä on?
”Yleisö” kontekstuaalisena tekijänä tarkoittaa niitä yksilöitä, joille tekoälyavusteista päätöstä selitetään. Ihmisryhmät, joista teet päätöksiä, ja yksilöt näissä ryhmissä vaikuttavat siihen, millaiset selitykset ovat heille mielekkäitä tai hyödyllisiä.
Minkälaista asiantuntemusta (esim. tekoälystä) heillä on siitä, mistä päätöksessä on kyse? Onko päätöksenteon kohteena laaja joukko ihmisiä (esim. Yhdistyneen kuningaskunnan suuri yleisö), mikä viittaa siihen, että myös tietämys tai asiantuntemus saattaa olla laaja-alaista? Vai ovatko ihmiset, joita koskevia päätöksiä teet, rajoittuneet pienempään osajoukkoon (esim. työntekijäsi), mikä viittaa siihen, että heillä saattaa olla enemmän tietoa asioista, joista teet päätöksiä? Harkitse myös, vaativatko päätöksen vastaanottajat kohtuullisia mukautuksia siinä, miten he saavat selityksen (tasa-arvolaki 2010).
Yleissääntönä on hyvä ottaa huomioon haavoittuvimmassa asemassa olevien henkilöiden selitystarpeet. Sinun tulisi varmistaa, että nämä päätöksen vastaanottajat pystyvät selkeästi ymmärtämään heille antamasi tiedot. Selkeän, ei-teknisen kielen ja mahdollisuuksien mukaan visualisointityökalujen käyttö voi usein auttaa.
Huomaa myös, että vaikka keskitymmekin päätöksenteon vastaanottajiin, sinun on todennäköisesti pohdittava etukäteen, miten annat muille yleisöille asianmukaista tietoa tekoälymallisi tuotoksista. Esimerkiksi tapauksissa, joissa mallit tukevat päätöksentekoa, sinun on annettava näiden mallien loppukäyttäjille tai toteuttajille riittävän syvällistä ja yksityiskohtaista selitystä, joka auttaa heitä toteuttamaan näyttöön perustuvaa päättelyä tavalla, joka on kontekstisidonnainen ja tietoinen mallin rajoituksista. Vastaavasti tapauksissa, joissa tilintarkastajat tarkastelevat malleja ja niiden tuloksia, sinun on annettava tietoa näistä järjestelmistä sellaisella tasolla ja syvyydellä, joka soveltuu kyseisen tarkastuksen tarkoitukseen.
Mitä selityksiä meidän pitäisi priorisoida?
Jos ihmisillä, joista teet tekoälyavusteisia päätöksiä, on todennäköisesti jonkin verran alaan liittyvää asiantuntemusta, voisit harkita perustelujen selittämistä. Tämä johtuu siitä, että voit olla varmempi siitä, että he ymmärtävät tekoälymallin tai tietyn päätöksen perustelut ja logiikan, koska he tuntevat paremmin päätösten aiheen. Lisäksi, jos tekoälyavusteisten päätöstesi kohteena olevilla ihmisillä on jonkin verran teknistä asiantuntemusta tai he ovat todennäköisesti kiinnostuneita päätöksen perustana olevista teknisistä yksityiskohdista, turvallisuus- ja suorituskykyselitys auttaa.
Vaihtoehtoisesti, jos luulet, että ihmisillä ei todennäköisesti ole erityistä asiantuntemusta tai tietoa päätöksen aihepiiristä tai sen teknisistä näkökohdista, muista selitystyypeistä, kuten vastuullisuudesta tai turvallisuus- ja suorituskykyselityksen tietyistä näkökohdista, voi olla enemmän apua. Näin ihmiset saavat varmuuden järjestelmän turvallisuudesta ja tietävät, kenen puoleen kääntyä kysyäkseen tekoälyä koskevasta päätöksestä.
Vaikka henkilöille, joilla on vain vähän tietoa jostakin alasta, perustelujen selitys voi silti olla hyödyllinen, kun halutaan selittää selkokielisesti ja yksinkertaisesti syyt, miksi päätös on tehty. Voi kuitenkin olla myös tilanteita, joissa tekoälymallin käyttämät tiedot ja sen tekemät päätelmät ovat erityisen monimutkaisia (ks. edellä oleva ”tiedot”-tekijä), ja yksilöt haluaisivat mieluummin antaa perustelujen selittämisen asiaankuuluvan alan asiantuntijan tehtäväksi. Asiantuntija voi sitten tarkastella ja tehdä omat tietoon perustuvat johtopäätöksensä päätöksen perustelujen pätevyydestä tai soveltuvuudesta (esim. lääkäri terveydenhuollossa).