Australiassa yli 40 % lääkäreistä käyttää jo niin kutsuttuja AI-scribejä, ohjelmistoja jotka kuuntelevat vastaanottokeskusteluja ja luovat niistä potilaskertomuksia. Käytännön hyöty helpottaa työkuormaa, mutta samaan aikaan syntyy vakavia kysymyksiä potilastietojen käsittelystä, virheiden vaikutuksista ja siitä, kuka lopulta vastaa tiedoista.

AI-scribet eivät pelkästään litteroi keskustelua, vaan tiivistävät ja tulkitsevat puhetta suuren kielimallin avulla. Tämä voi säästää lääkäreiltä tuntikausia kirjaamista, mutta järjestelmät voivat myös ”keksiä” tapahtumia, väärin käsittää potilaan ilmaisut tai toistaa kulttuurisia ja kielisiä vinoumia. Tällaiset virheet voivat vaikuttaa potilaan jatkohoitoon ja lääketieteen päätöksiin.

Virheiden laajuus ja inhimillinen tarkastus

Alustavat tutkimukset ovat osoittaneet, että merkittävä osa tekoälyn tuottamista kliinisistä muistiinpanoista vaatii korjauksia: vanhemmissa arvioissa korjaustarve on ollut jopa 90 %, ja uudemmat analyysit viittaavat siihen, että noin 20 % muistiinpanoista sisältää virheitä, jotka voivat vaikuttaa diagnoosiin. Ihmisen on vaikea havaita koneen virheitä, etenkin aikapaineessa, ja automaation tuoma luottamus voi johtaa tilanteeseen, jossa virheet jäävät ennalleen.

Jos lääkäreiden täytyy korjata jokainen tekoälyn laatima muistiinpano huolellisesti, järjestelmän tuomat tehokkuushyödyt saattavat kadota. Toisaalta, jos tarkistuksia ei tehdä riittävästi, terveydenhuoltojärjestelmä voi täyttyä epäluotettavasta tiedosta, mikä heikentää hoidon laatua ja potilasturvallisuutta.

Tietosuoja, vastuut ja sääntelyn aukot

Monet AI-scribe-palvelut eivät ole selkeästi kertoneet, mihin potilastiedot siirtyvät tai ketkä niihin pääsevät käsiksi. Terveydenhuollon ammattilaiset eivät välttämättä ole teknologia-asiantuntijoita, ja ammattijärjestöjen tarjoama tieto voi olla niukkaa. Potilas joutuu usein luottamaan siihen, että hoitava taho ymmärtää miten tiedot käsitellään. Tämä läpinäkymättömyys on ongelmallista henkilökohtaisten ja arkaluonteisten tietojen kannalta.

Australiassa keskustellaan siitä, pitäisikö AI-scribet luokitella lääketieteellisiksi laitteiksi ja siten joutua tiukemman arvioinnin piiriin. Nykyinen käytäntö tunnistaa järjestelmät lääkinnällisiksi laitteiksi vain, jos ne antavat diagnostista neuvontaa. Tämä tulkinta jättää monia scribe-ratkaisuja kevyemmän sääntelyn ja valvonnan alle, vaikka niiden tuottamat virheet voisivat silti muuttaa potilaan hoitoa. Vertailuna mainitaan, että esimerkiksi Yhdistyneessä kuningaskunnassa suhtautuminen on tiukempaa.

Asiantuntotahon suosituksiin kuuluu, että viranomaisten tulisi edellyttää selkeitä ilmoituksia siitä, mitä dataa palvelut keräävät, miten dataa käytetään ja keillä on siihen pääsy. Lisäksi ehdotetaan riippumatonta testausta järjestelmien puolueettomuuden, turvallisuuden ja todellisen hyödyllisyyden varmentamiseksi. Tämän puutteessa kansalaisten luottamus terveydenhuoltojärjestelmään voi heikentyä.

AI-scribejen yleistyminen on konkreettinen esimerkki siitä, miten teknologia voi muuttaa ammattikäytäntöjä ja samalla pakottaa yhteiskunnan pohtimaan vastuuta, läpinäkyvyyttä ja etiikkaa. Päätöksillä sääntelystä ja riippumattomasta testaamisesta on vaikutuksia paitsi potilasturvallisuuteen myös siihen, miten ihmiset luottavat terveydenhuoltojärjestelmään laajemmin.

Lopulta kysymys ei ole vain teknisestä toimivuudesta, vaan siitä, miten varmistamme, että potilaan ääni ja oikeudet säilyvät kun yhä enemmän hoidosta dokumentoidaan ja käsitellään algoritmien kautta.