Tekoälyn hyödyntäminen lisääntyy jatkuvasti myös sosiaali- ja terveyspalveluissa. Näköpiirissä ei kuitenkaan ole, että ohjelmistot tekisivät vammaistukipäätöksiä. Pirkanmaan hyvinvointialue ja Kela ovat linjanneet hiljattain tekoälypolitiikkaansa. 

Oletko kohdannut hakemusten tai ilmoitusten käsittelyssä vastauksen, joka kertoo saamasi päätöksen syntyneen automaattisesti? Jos olet, se ei ole yllätys – ja jos et, todennäköisyys tähän kasvaa jatkuvasti. Esimerkiksi vakuutusyhtiöt ja Kela hyödyntävät hakemusten käsittelyssä automaattista päätöksentekoa. Mutta lipeääkö päätöksenteko laajemminkin, esimerkiksi vammaistukien kohdalla, tekoälyn tehtäväksi? Tällaista ei ole näköpiirissä.

Tekoälyn ja päätöksenteon suhdetta kuitenkin tarkastellaan. Pirkanmaan hyvinvointialueen (Pirha) aluehallitus hyväksyi keväällä alueen tekoälypolitiikan ja pääperiaatteet. Pirhan tietojohtajan Emil Ackermanin mukaan automaation osuutta halutaan lisätä sote-sektorilla, sillä se vapauttaa asiantuntijoiden aikaa asiakkaiden ja potilaiden hyväksi rutiinitehtävistä. Hänen mukaansa tätä ei tehdä kuitenkaan teknologiausko edellä.

– Perusperiaatteet on hyvä olla jo nyt, sillä myöhemmin voidaan olla niin uppoutuneita ja innostuneita yksittäisen sovelluksen ratkaisemisesta, että vedetään vahingossa sellaisia mutkia suoriksi, joita ei koskaan pitäisi.

Tekoäly ei tee Pirhassa päätöstä ihmisen sijaan, eikä se uuden tekoälypolitiikan mukaan tee niin jatkossakaan.

– Ihmiskeskeisyys on keskeinen arvo Pirhan tekoälypolitiikassa. Siinä lausutaan, että ihminen tarkastaa ja arvioi aina tekoälyn tuotokset – tekoäly ei tule tekemään päätöksiä itse.

Automaatiota potilaiden parhaaksi

Pirkanmaan hyvinvointialueella kuitenkin pohditaan aktiivisesti tekoälyn ja muun ohjelmistoautomaation tuomia hyötyjä. Ne löytyvät Ackermanin mukaan muualta kuin hakemuksia koskevan päätöksenteon automaatiosta.

Osuva esimerkki on Tampereen yliopistollisen sairaalan uniapneapotilaisiin erikoistunut unipoliklinikka, joka hoitaa takavuosiin verrattuna kolminkertaisen määrän potilaita samalla henkilökuntamäärällä. Ero on digitalisaation ja ohjelmistorobotiikan hyödyntämisessä. Ackerman sanoo, että ohjelmistorobotiikasta on moneksi, kuten tarkastamaan ennen laboratoriokokeita koskevaa vastaanottoaikaa, että kaikki tarvittavat kokeet on myös tehty. Jos jotain puuttuu, aika perutaan automaattisesti ja vastaanottoaika menee potilaalle, joka siitä hyötyy.

– Robotille on määritelty tietyt säännöt, joiden mukaisesti se toimii, ja ihminen toimisi vastaavassa tilanteessa täsmälleen samoin.

Laajat kielimallit tulevat Pirhaan

Pirkanmaan hyvinvointialueella syksyllä alkavassa kokeilussa laaja kielimalli tuottaa lääkäreille käynnin kannalta relevantin tiivistelmän potilaan sairauskertomuksesta. Ackerman huomauttaa, että yhden potilaan potilaskertomukset voivat olla yhteensä kymmeniä sivuja pitkiä, eikä lääkärien aika yksinkertaisesti riitä koko historian omaksumiseen.

– Tekoäly osaa muodostaa fiksun kuuloisen tiivistelmän, joka usein on hyvin totuudenmukainen. On kuitenkin mahdollista, että kielimalli tarinoikin jotain muuta – tällöin puhutaan tekoälyn hallusinaatiosta – ja siksi tekoälyn tuotoksiin pitää suhtautua aina kriittisesti.

Pirhan tekoälypolitiikan pääperiaatteet ovat ihmiskeskeisyys, vastuullisuus, oikeudenmukaisuus ja syrjimättömyys. Ackerman sanoo, että näistä tulee huolehtia ennen tekoälyn käyttöönottoa, ei vain sen jälkeen. Laajojen kielimallien toiminta perustuu niiden opettamiseen suurista tietoaineistoista. Samalla syntyy digitaalisen ajan syrjinnän vaara: tekoäly tunnistaa asiat, jotka sille on opetettu.

 Ackerman huomauttaa, että tekoälysovellusten kehittämisessä tiedon tulee olla aidosti eri ryhmiä edustavaa, sillä sen perusteella tekoälylle opetetaan mitä todellisuus on.

Kelan automaatio on ohjelmistoautomaatiota

Osa Kelan päätöksistä tehdään täysin automaattisesti. Näihin kuuluu opintotukiin liittyviä päätöksiä ja erilaisten etuuksien käsittelyä, mutta päätöksillä on aina yksi yhteinen tekijä: ne ovat rutiinipäätöksiä, joihin ei liity viranomaisen harkintaa. Esimerkiksi opintotuki voi lakata automaattisesti, jos opiskelija ei ole vastannut määräaikaan mennessä opintojen edistymistä koskevaan selvityspyyntöön.

– Automaattiseen päätöksentekoon sopivat prosessit, joissa on hyvin selkeät säännöt. Silloin ei ole merkitystä, tekeekö päätöksen ohjelmisto vai ihminen, johtava asiantuntija Heli Kauhanen kertoo.

Vammaisetuuksia automaattisen päätöksenteon piiriin ei kuulu muun muassa siitä syystä, että niihin kuuluu aina myös viranomaisen harkintaa.

"Vammaisryhmien näkemys selvitettävä"

Pirkanmaan vammaisneuvoston puheenjohtaja Tuija Kaivanto kertoo, että juuri nyt pinnalla olevat ongelmat korostavat sitä, miten tärkeää yhteys eri vammaisryhmiin on erilaisten järjestelmien suunnittelussa ja käyttöönotossa. Samanaikaisesti kun tekoälyn hyödyntäminen etenee asiantuntijoiden työarjessa, vammaisryhmät törmäävät edelleen ongelmiin yksinkertaisimmissa asioissa. Syy on yksilöllisten tarpeiden unohtumisessa.

– Pirhan Teams-palavereihin kirjautuminen hyvinvointialueen ulkoisesta sähköpostista vaatii ylimääräisen varmennuksen, joka on ongelmallinen näkövammaisille ihmisille. On käynyt ikäviä tilanteita, joissa osallistuminen on kaatunut tähän.

Myös sote-palveluiden digitaalisen asioinnin vahva tunnistautuminen voi olla ongelma tavalla, jota ohjelmistosuunnittelijat eivät voi tietää ilman asian selvittämistä.

– Kaikilla vammaisilla ihmisillä ei ole mahdollisuutta vahvaan tunnistautumiseen. Pirhassa edunvalvoja voi saada luvan asioida vammaisen henkilön puolesta, jos suostumuksen antaa viranhaltijan läsnä ollessa, mutta silloin pitää osata kommunikoida.

Vahvaa tunnistautumista Kaivanto pitää tavoitteiltaan oikeana.

– Mutta se toimii hyvin niillä, joilla se toimii.

Teksti Juha-Pekka Honkanen 
Kuvat Freepik