Tekoälylain riskiarviointi mielenterveystyökaluille

EU:n tekoälyasetus luokittelee suurimman osan psykiatrisessa käytännössä käytetyistä tekoälytyökaluista korkean riskin järjestelmiksi ja asettaa niille laajan joukon vaatimustenmukaisuusvelvoitteita ennen käyttöönottoa. Psykiatreille tämä ei ole enää abstrakti sääntelykysymys.

Miksi mielenterveyden tekoälytyökalut kuuluvat asetuksen vaativimpiin vaatimuksiin

EU:n tekoälyasetus ei sovella yhtenäistä standardia kaikkiin terveydenhuollon tekoälysovelluksiin. Sen riskiluokittelukehys ottaa huomioon kliinisen kontekstin, jossa työkalu toimii, sen vaikuttamien päätösten luonteen ja sen vaikutuspiirissä olevan väestön ominaisuudet. Mielenterveyskäytäntö osuu useamman tekijän risteyskohtaan, jotka johdonmukaisesti johtavat asetuksen vaativimpiin vaatimuksiin: potilaspopulaation haavoittuvuus, virheellisten tekoälytulosten mahdollisten haittojen vakavuus sekä se, kuinka paljon psykiatrian kliiniset päätökset nojaavat vivahteikkaaseen, suhteeseen pohjautuvaan harkintaan, jota on vaikea tarkastaa tai peruuttaa.

Vuonna 2024 julkaistussa vertaisarvioidussa analyysissä todettiin, että generatiivisen tekoälyn käyttö mielenterveydessä sisältää merkittäviä riskejä ja että EU:n tekoälyasetus saattaa yksinään olla riittämätön käsittelemään psykiatrisissa yhteyksissä syntyviä erityisiä oikeudellisia ja eettisiä aukkoja, vaikka asetus on suoraan sovellettavissa. Tämä arvio korostaa, miksi psykiatrit eivät voi jättää sääntelyvaatimustenmukaisuutta pelkästään toimittajan vastuulle.

Miten riskiluokittelu toimii ja mitkä työkalut kuuluvat korkean riskin piiriin

Asetus luo porrastetun luokittelujärjestelmän. Ylimpänä ovat kielletyt tekoälykäytännöt, järjestelmät joita ei voi ottaa käyttöön lainkaan. Sen alapuolella on korkean riskin kategoria, johon liittyy laajimmat vaatimustenmukaisuusvelvoitteet. Asetuksen 6 artiklassa määritellään kaksi reittiä korkean riskin luokitteluun. Ensimmäinen koskee tekoälyjärjestelmiä, jotka ovat liitteessä I lueteltuun EU:n yhdenmukaistamislainsäädäntöön kuuluvan tuotteen turvallisuuskomponentteja. Tähän lainsäädäntöön sisältyy lääkinnällisten laitteiden asetus eli MDR (Medical Device Regulation). Toinen reitti koskee järjestelmiä, jotka kuuluvat johonkin liitteessä III lueteltuun kategoriaan.

Useimmat tekoälytyökalut, jotka on suunniteltu avustamaan psykiatrisessa diagnosoinnissa, ennustamaan potilaan tilan heikkenemistä, luokittelemaan riskiä tai tukemaan hoitopäätöksiä, saavuttavat korkean riskin aseman artiklan 6(1)/liitteen I reitin kautta: ne luokitellaan MDR:n mukaan säänneltyjen tuotteiden turvallisuuskomponenteiksi. Käytännön vaikutus on samankaltainen kuin liitteen III reitillä, mutta oikeudellinen reitti on eri, ja tällä on merkitystä sen kannalta, mitä vaatimustenmukaisuuden arviointimenettelyä sovelletaan.

Luokittelu riippuu tarkoitetusta käyttötarkoituksesta ja käyttöönottokontekstista eikä pelkästään tuotekategoriasta. Siitä huolimatta useat psykiatrisessa käytännössä käytetyt työkalutyypit todennäköisesti kuuluvat korkean riskin määrittelyn piiriin.

Riskin luokittelu- ja hoidontarpeen arviotyökalut arvioivat itsemurhariskiä, ennustavat psykiatrista heikkenemistä tai priorisoivat potilaita kiireelliseen arviointiin. Vuonna 2026 julkaistussa systemaattisessa katsauksessa todettiin, että itsemurhan ehkäisy ja kriisien havaitseminen oli yleinen käyttöalue tekoälyn mielenterveyschattiboteille, juuri se konteksti, jossa virheellisillä tuotoksilla on vakavimmat seuraukset. Diagnostiset tukityökalut, jotka ehdottavat diagnooseja, erotusdiagnooseja tai diagnoosikoodeja mielenterveysolosuhteille, luokitellaan yleensä lääkinnällisiksi laitteiksi ja saavuttavat korkean riskin aseman artiklan 6(1)/liitteen I reitin kautta. Tekoälypohjaiset psykoterapia-agentit muodostavat oman erityisen huolensa: akateeminen tutkimus suuriin kielimalleihin perustuvista psykoterapia-agenteista on nostanut esiin standardoitujen turvallisuuden arviointimenetelmien puuttumisen tältä kategorialta ja dokumentoinut haittoja, joita sääntelemättömät tekoälychattibotit ovat aiheuttaneet haavoittuville väestöryhmille. Korkean riskin piiriin kuuluu lisäksi mikä tahansa tekoälyjärjestelmä, joka suosittelee hoitovaihtoehtoja tai vaikuttaa hoitopäätöksiin mielenterveysympäristössä. Mielialan seurantajärjestelmät kuuluvat tähän ryhmään, jos niiden tuotokset suoraan ohjaavat kliinisiä päätöksiä sen sijaan, että ne vain tallentaisivat potilaan itse raportoimaa tietoa.

Asetuksen artiklan 6(4) mukaan palveluntarjoajien, jotka katsovat, että heidän liitteen III mukainen järjestelmänsä ei täytä korkean riskin kynnystä, on dokumentoitava tuo arviointi. Todistustaakka alemman riskin luokittelusta on palveluntarjoajalla, ei sääntelyviranomaisella.

Ero kiellettyjen järjestelmien ja korkean riskin järjestelmien välillä on käytännössä merkittävä. Kiellettyjä järjestelmiä, kuten sellaisia, jotka käyttävät psykologisia haavoittuvuuksia hyväkseen manipuloidakseen käyttäytymistä haitallisilla tavoilla, ei voi ottaa käyttöön lainkaan. Mielenterveyschattibotit, jotka käyttävät vakuuttavaa vuoropuhelua tai pelillistämistä vaikuttaakseen potilaan käyttäytymiseen, saattavat ylittää kielletyn alueen riippuen niiden suunnittelusta ja käyttöönottokontekstista. Korkean riskin järjestelmät sen sijaan voidaan ottaa käyttöön, mutta vasta kun tiukka joukko vaatimustenmukaisuusvaatimuksia on täytetty.

Missä kliiniset dokumentointityökalut sijoittuvat luokittelukehyksessä

Ympäristödokumentointiavustajat eli työkalut, jotka litteroivat ja jäsentävät kliiniset kohtaamiset potilasasiakirjamerkinnöiksi, lähetekirjeiksi tai epikriiseiksi, sijoittuvat luokittelukehyksessä kiistanalaisempaan asemaan. Työkalu, joka passiivisesti litteroi puhetta ja esittää jäsentämätöntä tekstiä kliinikon tarkasteltavaksi ja muokattavaksi, sijoittuu eri kohtaan riskispektrissä kuin sellainen, joka luo jäsennettyjä potilasasiakirjamerkintöjä, soveltaa diagnoosikoodeja tai tuottaa tuotoksia, joita käytetään rutiininomaisesti hoitopäätösten tukemiseen ilman, että kliinikko merkittävästi muokkaa niitä.

Mielenterveyskontekstissa kynnys, jolla dokumentointityökalusta tulee korkean riskin työkalu, on matalampi kuin muilla erikoisaloilla. Psykiatrian potilasasiakirjamerkintöjä käytetään usein tukemaan päätöksiä pakkohoitoon, oikeustoimikelpoisuusarviointeihin ja lastensuojeluilmoituksiin. Kun tekoälyn tuottamat merkinnät suoraan vaikuttavat näihin päätöksiin, vaikka kliinikko nimellisesti tarkistaa ne, työkalun tuotos vaikuttaa käytännössä korkean panoksen kliiniseen päätökseen, joka koskee haavoittuvaa yksilöä. Tekoälyasetuksen akateeminen analyysi terveydenhuollossa vahvistaa, että tekoälyasetuksen ja MDR:n välinen vuorovaikutus on erityisen tärkeä tässä yhteydessä: jos dokumentointityökalu täyttää lääkinnällisen laitteen ohjelmiston kriteerit MDR:n mukaan, se saa korkean riskin luokittelun myös tekoälyasetuksen mukaan.

Psykiatrien ei pidä olettaa, että koska työkalu markkinoidaan dokumentointiavustajana eikä diagnostisena apuvälineenä, se olisi automaattisesti kevyempien sääntelyvaatimusten alainen. Yksi tärkeä vivahde: lääkinnällisten laitteiden koordinaatioryhmän ohjeistus selventää, että tekoälyjärjestelmät, jotka on kehitetty ja joita käytetään yksinomaan yhdessä terveydenhuolto-organisaatiossa ilman, että niitä saatetaan markkinoille, voivat olla muutettujen velvoitteiden alaisia. Tämä koskee rajattua joukkoa organisaation sisäisiä työkaluja eikä vaikuta kaupallisesti hankittuihin tuotteisiin.

Vaatimustenmukaisuusvaatimukset ennen käyttöönottoa

Asetus asettaa korkean riskin tekoälyjärjestelmille joukon velvoitteita, jotka on täytettävä ennen käyttöönottoa. Psykiatrin tai käytännön johtajan näkökulmasta seuraavat ovat keskeisiä vaatimuksia, jotka on varmistettava minkä tahansa toimittajan kanssa.

• CE-merkintä ja MDR-vaatimustenmukaisuus: Kun työkalu täyttää lääkinnällisen laitteen kriteerit, CE-merkintä MDR:n mukaan vaaditaan. Korkean riskin tekoälytyökalut, jotka ovat myös lääkinnällisiä laitteita, on täytettävä sekä MDR:n vaatimustenmukaisuusarviointi että tekoälyasetuksen vaatimukset. Nämä ovat rinnakkaisia velvoitteita, eivät vaihtoehtoja toisilleen.

• Tekninen dokumentaatio ja riskinhallinta: Toimittajien on ylläpidettävä kattavaa teknistä dokumentaatiota järjestelmän suunnittelusta, harjoitusdatan ominaisuuksista ja suorituskyvyn validoinnista sekä dokumentoitua riskinhallintaprosessia, joka on linjassa ISO 14971:n tai vastaavien standardien kanssa. Systemaattinen katsaus havaitsi, että 78,8 prosenttia tarkastelluista tutkimuksista arvioitiin korkean riskin kyberturvallisuuden arviointitiukkuudeksi, mikä osoittaa, että muodollinen vastustajatestaus ja jäsennetty uhkamallinnus ovat edelleen harvinaisia. Psykiatrien kannattaa ottaa tämä puute suoraan puheeksi toimittajien kanssa.

• Ihmisen valvontamekanismit: Korkean riskin järjestelmät on suunniteltava niin, että kliinikot voivat tehokkaasti valvoa niitä. Heillä on oltava mahdollisuus ohittaa tai muuttaa järjestelmän tuotosta. Kyse on lakisääteisestä vaatimuksesta, ei valinnaisesta ominaisuudesta.

• Kirjaaminen ja tarkastuspolut: Järjestelmän on automaattisesti kirjattava toimintansa siinä määrin, että jälkikäteen voidaan tarkastella, miten tuotokset luotiin. Tämä on erityisen tärkeää psykiatriassa, jossa kliiniset päätökset voivat päätyä oikeudellisen tarkastelun kohteeksi.

• Tarkkuus, kestävyys ja kyberturvallisuus: Toimittajien on osoitettava, että järjestelmä toimii määritellyn tarkkuustason mukaisesti ja kestää virheitä sekä haitallisia syötteitä.

Psychiatria Danubinassa julkaistussa kliinikkolähtöisessä oppaassa todettiin, että nämä sääntelykäsitteet voivat olla epäselviä kliinikoille, ja suositeltiin, että terveydenhuollon ammattilaiset hankkivat riittävän tuntemuksen viitekehyksestä arvioidakseen tekoälytyökaluja kriittisesti ennen käyttöönottoa.

Läpinäkyvyysvelvoitteet ja potilaan oikeudet tekoälyn käytössä

Tekoälyasetuksen läpinäkyvyysvaatimukset muuttuvat kliinisessä ympäristössä konkreettisiksi velvollisuuksiksi, jotka lankeavat järjestelmän käyttöönottajalle. Useimmissa tapauksissa käyttöönottaja on terveydenhuolto-organisaatio tai vastaanotto, ei toimittaja.

Liitteen III korkean riskin järjestelmien osalta artikla 26(11) edellyttää, että käyttöönottajat ilmoittavat asianosaisille henkilöille, kun korkean riskin tekoälyjärjestelmää käytetään heitä koskevaan päätöksentekoon tai sen tukemiseen. Artikla 50 edellyttää erikseen tiedottamista järjestelmistä, jotka ovat suoraan vuorovaikutuksessa potilaiden kanssa. Näiden erityissäännösten ulkopuolella tekoälyasetus ei aseta itsenäistä velvollisuutta ilmoittaa tekoälyn osallisuudesta jokaisessa yksittäisessä tapauksessa. Psykiatrien tulisi silti pitää potilaalle ilmoittamista hyvänä käytäntönä ammatillisten velvoitteiden ja GDPR:n (General Data Protection Regulation) läpinäkyvyysvaatimusten mukaisesti.

Mielenterveysdata luokitellaan erityiseksi kategoriaksi GDPR:n mukaan, mikä edellyttää korkeinta tietosuojan tasoa. Kun tekoälyjärjestelmät käsittelevät tätä dataa, myös konsultaatioiden litteroinnin kautta, käsittelyn laillinen perusta, tietojen säilytyskäytännöt sekä potilaiden pääsy- ja poisto-oikeudet on määriteltävä selkeästi. Euroopan komission virallinen ohjeistus toteaa, että Euroopan terveystietoavaruusasetus, joka tuli voimaan vuonna 2025, tuo lisähallintokerroksen kliinisen tekoälyn datan käytölle.

Psykiatriassa, jossa potilailla voi olla tiloja, jotka vaikuttavat heidän suostumuskykynsä, merkityksellisen tietoisen suostumuksen saaminen tekoälyn käyttöön hoidossa vaatii erityistä huolellisuutta. Vuoden 2025 hallintaprotokolla tekoälypohjaiselle psykoterapialle ehdotti porrastettuja suostumusprosesseja käytännön mekanismina tämän haasteen käsittelemiseksi, nimenomaisesti linjaten ne EU:n tekoälyasetuksen ja GDPR:n vaatimusten kanssa.

Mitä kysyä toimittajalta ennen tekoälytyökalun käyttöönottoa

Asetus luokittelee psykiatrit ja käytännön johtajat tekoälyjärjestelmien käyttöönottajiksi, mikä luo heille suoria lakisääteisiä velvoitteita ja asemoi heidät samalla tietoisiksi hankkijoiksi. Seuraavat kysymykset edustavat vähimmäistasoa asianmukaisessa huolellisuudessa:

• Onko tämä järjestelmä luokiteltu korkean riskin järjestelmäksi EU:n tekoälyasetuksen mukaan? Jos ei, mikä dokumentoitu arviointi tukee tätä johtopäätöstä?

• Täyttääkö järjestelmä lääkinnällisen laitteen kriteerit MDR:n mukaan? Jos täyttää, onko sillä CE-merkintä ja mikä ilmoitettu laitos suoritti vaatimustenmukaisuusarvioinnin?

• Onko järjestelmä kliinisesti validoitu mielenterveyspotilailla? Voidaanko validointidata jakaa, mukaan lukien suorituskykymittarit eriteltyinä potilasalaryhmittäin?

• Missä potilasdata käsitellään ja tallennetaan? Vahvistaako toimittaja EU:n datan sijainnin, ja mitkä ovat tietojen säilytys- ja poistokäytännöt?

• Minkälaisen tarkastuspolun järjestelmä luo, ja miten lokeja voidaan käyttää kliinisen hallinnon tai oikeudellisen tarkastelun tarkoituksiin?

• Mitkä ihmisen ohitusmekanismit on rakennettu järjestelmään, ja miten ne on dokumentoitu?

• Miten toimittaja käsittelee mallipäivityksiä? Validoidaanko päivitetyt versiot uudelleen ennen käyttöönottoa?

• Mikä on toimittajan prosessi sellaisten tapahtumien raportointiin ja käsittelyyn, joissa tekoälyn tuottama tuotos on saattanut myötävaikuttaa potilashaittaan?

Systemaattinen katsaus mielenterveyden tekoälychattiboteista havaitsi, että useimmat järjestelmät perustuvat yleiskäyttöisiin suuriin kielimalleihin ja otetaan käyttöön kuluttajalähtöisten alustojen kautta ilman kliinistä valvontaa. Tämä toimintamalli ei ole yhteensopiva tekoälyasetuksen vaatimusten kanssa korkean riskin järjestelmille psykiatrisissa ympäristöissä.

Tekoälyasetus suhteessa MDR:ään, GDPR:ään ja kansalliseen lainsäädäntöön

Tekoälyasetus on horisontaalinen asetus: se toimii olemassa olevan alakohtaisen lainsäädännön rinnalla sen sijaan, että korvaisi sen. Psykiatrisessa käytännössä käytetty tekoälytyökalu voi samanaikaisesti olla useiden eri velvoitteiden alainen. EU:n tekoälyasetuksen korkean riskin velvoitteet koskevat sitä suoraan. MDR:n velvoitteet tulevat mukaan, jos työkalu täyttää lääkinnällisen laitteen ohjelmiston kriteerit. GDPR:n velvoitteet koskevat sitä, koska mielenterveysdata on erityinen kategoria. Joissakin EU:n jäsenvaltioissa sovelletaan lisäksi kansallista mielenterveysdatalainsäädäntöä. Yhden viitekehyksen noudattaminen ei vapauta velvoitteista muiden mukaan.

Healthy Europe -politiikka-analyysi toteaa, että eurooppalaiset mielenterveyssovellusmarkkinat sisältävät tuhansia tuotteita, joilla on rajallinen tai olematon kliininen arviointi. Sekä tekoälyasetuksen että MDR:n vaatimusten täyttäminen samanaikaisesti lisää todellista monimutkaisuutta kaikille tällä alalla toimiville toimittajille, ja psykiatrien on syytä tarkistaa sääntelyvaatimustenmukaisuus erikseen jokaisen hankittavan tuotteen kohdalla, erityisesti nykyisen siirtymäkauden aikana.

On myös tunnustettu rajoitus, joka ansaitsee suoran toteamisen: tekoälyasetus ei ratkaise kysymyksiä kliinisestä vastuusta tilanteissa, joissa tekoäly on myötävaikuttanut haitalliseen päätökseen. Kansalliset lääketieteellisen vastuun viitekehykset jatkavat näiden kysymysten hallitsemista itsenäisesti, eikä asetuksen noudattaminen suojaa psykiatria vastuulta, jos tekoälyn tuotos on johtanut potilashaittaan.

Keskeiset siirtymäaikataulut psykiatreille

Tekoälyasetus otetaan käyttöön vaiheittain. Kiellettyihin tekoälykäytäntöihin liittyvät määräykset tulivat voimaan helmikuussa 2025, ja yleiskäyttöisiin tekoälymalleihin liittyvät velvoitteet elokuussa 2025. Tekoälyasetuksen Omnibus-asetuksen (EU 2026/1744) seurauksena liitteen III järjestelmien täysi korkean riskin vaatimustenmukaisuuskehys, joka kattaa vaatimustenmukaisuusarvioinnin, dokumentoinnin, valvonnan ja läpinäkyvyysvelvoitteet, koskee nyt joulukuuta 2027 alkaen, kun alun perin oli suunniteltu elokuuta 2026. Pidennetty siirtymä elokuuhun 2028 koskee erityisesti tekoälyjärjestelmiä, jotka ovat myös MDR:n tai in vitro -diagnostiikkalaiteasetuksen mukaan säänneltyjä lääkinnällisiä laitteita.

Psykiatrien ja käytännön johtajien, jotka parhaillaan hankkivat tai ottavat käyttöön tekoälytyökaluja, tulisi käsitellä näitä tarkistettuja vaatimustenmukaisuuden määräaikoja ajankohtaisina operatiivisina kysymyksinä. 50 osavaltion Yhdysvaltain lainsäädäntökatsaus JMIR Mental Healthissa tunnisti johdonmukaisen mallin, jossa kliinikot jäävät tekoälypolitiikan tekemisen ulkopuolelle, mikä johtaa viitekehyksiin, jotka eivät vastaa kliinistä todellisuutta. Sama riski on olemassa Euroopassa. Psykiatrit, jotka osallistuvat aktiivisesti tekoälyasetuksen vaatimuksiin hankkijoina, käyttöönottajina ja ammatillisen ohjeistuksen laatijoina, ovat paremmin asemoituja vaikuttamaan siihen, miten nämä työkalut toteutetaan käytännössä.

Usein kysytyt kysymykset

▶ Miksi mielenterveysympäristöissä käytetyt tekoälytyökalut kohtaavat tiukempaa sääntelyä EU:n tekoälyasetuksen mukaan?

Kolme tekijää yhdistyy psykiatriassa tavalla, joka on harvinainen muilla erikoisaloilla: potilaat kuuluvat EU:n lainsäädännössä tunnustettuun haavoittuvaan ryhmään, virheelliset tuotokset voivat johtaa vakaviin seurauksiin, ja kliininen harkinta perustuu suhteeseen, jota on vaikea jälkikäteen tarkastaa. Mikään näistä tekijöistä yksinään ei välttämättä riittäisi, mutta yhdessä ne nostavat sääntelypainon johdonmukaisesti korkeimmalle tasolle.

▶ Mitkä psykiatrisessa käytännössä käytetyt tekoälytyökalut luokitellaan todennäköisimmin korkean riskin työkaluiksi?

Riskin arviointityökalut, diagnostiset tukityökalut, hoitopäätöksiin vaikuttavat järjestelmät, tekoälypohjaiset psykoterapia-agentit sekä mielialan seurantajärjestelmät, joiden tuotokset ohjaavat kliinisiä päätöksiä, kuuluvat kaikki todennäköisesti korkean riskin piiriin. Diagnostiset tukityökalut saavuttavat tämän aseman yleensä MDR:n ja liitteen I kautta, muut liitteen III kautta.

▶ Luokitellaanko kliiniset dokumentointityökalut, kuten ambient-kirjurit, automaattisesti korkean riskin työkaluiksi mielenterveysympäristöissä?

Luokittelu riippuu siitä, miten tuotoksia käytetään. Käytännön kysymys on, tarkistaako kliinikko tuotoksen aidosti vai hyväksyykö sen rutiinisti. Jos merkinnät vaikuttavat päätöksiin pakkohoidosta tai oikeustoimikelpoisuudesta ilman merkittävää muokkausta, työkalu toimii korkean panoksen päätöksenteon tukena riippumatta siitä, miten se on markkinoitu.

▶ Mitkä vaatimustenmukaisuusvaatimukset korkean riskin tekoälytyökalun on täytettävä ennen kuin se voidaan ottaa käyttöön psykiatrisessa käytännössä?

Vaadittavia asioita ovat kattava tekninen dokumentaatio, dokumentoitu riskinhallintaprosessi, ihmisen ohitusmahdollisuus, automaattinen kirjaaminen jälkikäteistä tarkastelua varten sekä osoitetut tarkkuus- ja kyberturvallisuustasot. Jos työkalu täyttää lääkinnällisen laitteen kriteerit, CE-merkintä MDR:n mukaan vaaditaan tekoälyasetuksen vaatimusten rinnalla.

▶ Mitkä läpinäkyvyysvelvoitteet koskevat tekoälyn käyttöä mielenterveyskonsultaatioissa?

Artikla 26(11) ja artikla 50 velvoittavat ilmoittamaan potilaille tietyissä tilanteissa. GDPR edellyttää lisäksi, että käsittelyn laillinen perusta ja potilaiden oikeudet on määritelty selkeästi, koska mielenterveysdata on erityinen kategoria. Psykiatriassa suostumuksen hankkiminen vaatii erityistä huolellisuutta silloin, kun potilaan päätöksentekokyky voi olla alentunut.

▶ Voidaanko EU:n tekoälyasetuksen mukaan kiellettyä tekoälytyökalua käyttää mielenterveysympäristössä, jos se on kliinisesti hyödyllinen?

Ei. Kielto on ehdoton eikä riipu koetusta kliinisestä hyödystä. Mielenterveyschattibotit, jotka käyttävät vakuuttavaa vuoropuhelua tai pelillistämistä vaikuttaakseen potilaan käyttäytymiseen, voivat ylittää kielletyn alueen riippuen niiden suunnittelusta ja käyttöönottokontekstista.

▶ Mitä kysymyksiä psykiatrin tai käytännön johtajan tulisi kysyä toimittajalta ennen tekoälytyökalun hankintaa?

Pyydä kirjallinen selvitys riskiluokittelusta ja sen perusteista, CE-merkinnästä, kliinisestä validointidatasta mielenterveyspopulaatiolle eriteltynä potilasalaryhmittäin, datan sijaintia koskevasta vahvistuksesta, tarkastuspolun rakenteesta, ihmisen ohitusmekanismeista, mallipäivitysten käsittelystä sekä prosessista potilashaittaan mahdollisesti myötävaikuttaneiden tapahtumien raportointiin.

▶ Miten EU:n tekoälyasetus on vuorovaikutuksessa lääkinnällisten laitteiden asetuksen ja GDPR:n kanssa psykiatrisessa käytännössä?

Kaikki kolme viitekehystä voivat koskea samaa työkalua samanaikaisesti, ja jotkut jäsenvaltiot lisäävät vielä kansallisia rajoituksia psykiatristen tietojen käsittelyyn. Vertaisarvioitu oikeudellinen analyysi on todennut, että tekoälyasetus yksinään on riittämätön kattamaan kaikkia mielenterveyden tekoälyyn liittyviä oikeudellisia ja eettisiä aukkoja.

▶ Mitkä ovat keskeiset EU:n tekoälyasetuksen vaatimustenmukaisuuden määräajat, joista psykiatrien tulisi olla tietoisia?

Kielletyt käytännöt: helmikuu 2025. Yleiskäyttöiset tekoälymallit: elokuu 2025. Liitteen III järjestelmien täysi korkean riskin kehys: joulukuu 2027 Omnibus-asetuksen (EU 2026/1744) jälkeen. MDR:n tai IVDR:n mukaan säänneltyjen lääkinnällisten laitteiden pidennetty siirtymä: elokuu 2028.

▶ Ratkaistaako EU:n tekoälyasetus kysymykset kliinisestä vastuusta, kun tekoäly myötävaikuttaa haitalliseen päätökseen psykiatriassa?

Ei. Asetus luo vaatimustenmukaisuusvelvoitteita tarjoajille ja käyttöönottajille, mutta kliininen vastuu jää kansallisten lääketieteellisen vastuun viitekehysten varaan. Asetuksen noudattaminen ei suojaa psykiatria vastuulta potilashaitassa. Lainkäyttöaluekohtainen oikeudellinen neuvonta on tarpeen ennen käyttöönottoa.