Eurooppalainen psykiatria on merkittävän sääntelymuutoksen kynnyksellä. EU:n tekoälyasetus, maailman ensimmäinen kattava oikeudellinen viitekehys tekoälylle, on nyt asteittain tulossa voimaan ja suhtautuu erityisen vakavasti mielenterveysympäristöissä käytettäviin tekoälytyökaluihin. Psykiatreille, jotka arvioivat tai jo käyttävät tekoälyavusteisia työkaluja kliinisessä työssään, sen ymmärtäminen, miten tämä asetus luokittelee kyseiset työkalut, ei ole enää pelkkä vaatimustenmukaisuuden abstraktio. Sillä on suoria vaikutuksia siihen, mitä voidaan ottaa käyttöön, millä ehdoilla ja millaisin velvoittein potilaisiin nähden.

Miksi mielenterveyden tekoälytyökalut kohtaavat tiukempaa sääntelyvalvontaa

EU:n tekoälyasetus ei sovella yhtenäistä standardia kaikkiin terveydenhuollon tekoälysovelluksiin. Sen riskien luokittelukehys on herkkä kliiniselle kontekstille, jossa työkalu toimii, sen vaikuttamien päätösten luonteelle ja sen vaikutuspiirissä olevan väestön ominaisuuksille. Mielenterveyskäytäntö sijoittuu useiden tekijöiden risteyskohtaan, jotka johdonmukaisesti johtavat asetuksen vaativimpiin vaatimuksiin.

Näitä tekijöitä ovat potilaspopulaation haavoittuvuus, virheellisten tekoälytulosten mahdollisten haittojen vakavuus sekä se, kuinka paljon psykiatrian kliiniset päätökset perustuvat vivahteikkaaseen, suhteeseen pohjautuvaan harkintaan, jota on vaikea tarkastaa tai peruuttaa. Vuonna 2024 julkaistussa vertaisarvioidussa analyysissä todettiin, että generatiivisen tekoälyn käytössä mielenterveydessä otetaan merkittäviä riskejä ja että EU:n tekoälyasetus, vaikka se on suoraan sovellettavissa, saattaa olla yksinään riittämätön käsittelemään psykiatrisissa yhteyksissä syntyviä erityisiä oikeudellisia ja eettisiä aukkoja.

Tämä arvio korostaa, miksi psykiatrit eivät voi jättää sääntelyvaatimustenmukaisuutta vain toimittajan vastuulle.

Mitä EU:n tekoälyasetus sanoo korkean riskin tekoälystä terveydenhuollossa

Asetus luo porrastetun luokittelujärjestelmän. Ylimpänä ovat kielletyt tekoälykäytännöt eli järjestelmät, jotka on suoraan kielletty. Sen alapuolella on korkean riskin kategoria, johon liittyy laajimmat vaatimustenmukaisuusvelvoitteet.

Asetuksen 6 artiklassa määritellään kaksi reittiä korkean riskin luokitteluun. Ensinnäkin, kun tekoälyjärjestelmä on liitteessä I lueteltuun EU:n yhdenmukaistamislainsäädäntöön jo kuuluvan tuotteen turvallisuuskomponentti (johon sisältyy lääkinnällisten laitteiden asetus eli MDR). Toiseksi, kun järjestelmä kuuluu johonkin liitteessä III lueteltuun kategoriaan.

Liite III sisältää nimenomaisesti tekoälyjärjestelmät, jotka on tarkoitettu terveystilojen, mukaan lukien mielenterveyshäiriöiden, diagnosointiin, hoitoon, seurantaan tai ennustamiseen. Tekoälytyökalut, jotka on suunniteltu avustamaan psykiatrisessa diagnosoinnissa, ennustamaan heikkenemistä, kerrostamaan riskiä tai tukemaan hoitopäätöksiä, kuuluvat suoraan korkean riskin määrittelyyn lainsäädännöllisen suunnittelun, ei tulkinnan, perusteella.

Ero kielletyn järjestelmän ja korkean riskin järjestelmän välillä on käytännössä merkittävä. Kiellettyjä järjestelmiä, kuten sellaisia, jotka hyödyntävät psykologisia haavoittuvuuksia manipuloidakseen käyttäytymistä tavoilla, jotka aiheuttavat haittaa, ei voida ottaa käyttöön lainkaan. Oikeudellinen analyysi, joka tarkastelee asetuksen mukaisia kiellettyjä käytäntöjä, tunnisti mielenterveyschattibotit, jotka käyttävät vakuuttavaa vuoropuhelua tai pelillistämistä vaikuttaakseen potilaan käyttäytymiseen, mahdollisesti ylittävän kielletyn alueen riippuen niiden suunnittelusta ja käyttöönottokontekstista.

Korkean riskin järjestelmät sen sijaan voidaan ottaa käyttöön, mutta vasta kun tiukka joukko vaatimustenmukaisuusvaatimuksia on täytetty.

Miten väestön haavoittuvuus muokkaa riskiluokittelua

Yksi asetuksen riskikehyksen vähemmän keskustelluista ulottuvuuksista on sen huomio käyttäjien ja vaikutuksen kohteena olevien henkilöiden ominaisuuksiin, ei vain tekoälyjärjestelmän tekniseen toimintoon. Asetus vaatii nimenomaisesti, että käyttäjien ja vaikutuksen kohteena olevien henkilöiden haavoittuvuus otetaan huomioon riskinarviointiprosessissa.

Psykiatrista hoitoa saavat potilaat, mukaan lukien vakavaa mielenterveyssairautta sairastavat, akuutissa kriisissä olevat ja potilaat, joilla on kognitioon tai päätöksentekokykyyn vaikuttavia tiloja, tunnustetaan EU:n lainsäädännössä haavoittuvaksi ryhmäksi. Tällä on käytännön seuraus luokitteluun.

Dokumentointityökalu, joka luo strukturoituja sairauskertomusmerkintöjä, saattaa suorittaa teknisesti vertailukelpoisen toiminnon dermatologiassa ja psykiatriassa. Mutta kliininen konteksti psykiatriassa, jossa merkinnät voivat suoraan vaikuttaa päätöksiin pidättämisestä, lääkityksestä tai kriisiinterventiosta, ja potilaspopulaation haavoittuvuus tarkoittavat, että sama tekninen toiminto kantaa erilaista sääntelypainoa. Psykiatrien ei pitäisi olettaa, että koska työkalu markkinoidaan dokumentointiavustajana eikä diagnostisena apuvälineenä, se olisi automaattisesti kevyempien sääntelyvaatimusten alainen.

Mitkä mielenterveyskäytännön tekoälytyökalut luokitellaan todennäköisimmin korkean riskin työkaluiksi

Yleisten tekoälytyökalujen kategorioiden kartoittaminen asetuksen luokittelukriteereihin ei ole suoraviivaista, koska luokittelu riippuu tarkoitetusta käyttötarkoituksesta ja käyttöönottokontekstista eikä pelkästään tuotekategoriasta. Siitä huolimatta useat psykiatrisessa käytännössä käytetyt työkalutyypit todennäköisesti kuuluvat korkean riskin määrittelyn piiriin.

• Riskin kerrostamis- ja hoidontarpeen arviotyökalut: Järjestelmät, jotka arvioivat itsemurhariskiä, ennustavat psykiatrista heikkenemistä tai priorisoivat potilaita kiireelliseen arviointiin, ovat selkeimpiä tapauksia korkean riskin luokitteluun. Vuonna 2026 julkaistussa systemaattisessa katsauksessa todettiin, että itsemurhan ehkäisy ja kriisien havaitseminen oli yleinen alue tekoälyn mielenterveyschattiboteille, juuri se konteksti, jossa virheellisillä tuotoksilla on vakavimmat seuraukset.

• Diagnostiset tukityökalut: Tekoälyjärjestelmät, jotka ehdottavat diagnooseja, erotusdiagnooseja tai diagnoosikoodeja mielenterveysolosuhteille, kuuluvat liitteen III nimenomaiseen soveltamisalaan.

• Mielialan ja oireiden seurantajärjestelmät: Kun nämä järjestelmät tuottavat tuotoksia, jotka suoraan vaikuttavat kliinisiin päätöksiin sen sijaan, että ne vain tallentaisivat potilaan raportoimaa dataa, ne luokitellaan todennäköisesti korkean riskin järjestelmiksi.

• Tekoälypohjaiset psykoterapia-agentit: Akateeminen tutkimus suuriin kielimalleihin perustuvista psykoterapia-agenteista on korostanut standardoitujen turvallisuuden arviointimenetelmien puuttumista tälle kategorialle ja dokumentoinut sääntelemättömien tekoälychattibottien aiheuttamia haittoja haavoittuville väestöryhmille, vahvistaen perusteen korkean riskin luokittelulle.

• Kliinisen päätöksenteon tuen työkalut: Mikä tahansa tekoälyjärjestelmä, joka suosittelee tai vaikuttaa hoitopäätöksiin mielenterveysympäristössä, mukaan lukien lääkitysehdotukset tai hoitopolkusuositukset, kuuluu korkean riskin viitekehykseen.

Kriittinen kohta, joka mainitaan Euroopan komission ohjeistuksessa tekoälystä terveydenhuollossa, on, että palveluntarjoajien, jotka uskovat, että heidän järjestelmänsä ei täytä korkean riskin kynnystä, on dokumentoitava tuo arviointi. Taakka alemman riskin luokittelun osoittamisesta on palveluntarjoajalla, ei sääntelyviranomaisella.

Missä kliiniset dokumentointityökalut sijoittuvat luokittelukehyksessä

Ambient-dokumentointiavustajat, työkalut, jotka litteroivat ja strukturoivat kliiniset kohtaamiset merkinnöiksi, lähetekirjeiksi tai epikriiseiksi, miehittävät kiistanalaisemman aseman luokittelukehyksessä. Kysymykseen siitä, ovatko tällaiset työkalut automaattisesti korkean riskin työkaluja, ei ole yksiselitteistä vastausta.

Dokumentointityökalu, joka passiivisesti litteroi puhetta ja esittää strukturoimatonta tekstiä kliinikon tarkasteltavaksi ja muokattavaksi, sijoittuu eri kohtaan riskispektrissä kuin sellainen, joka luo strukturoituja sairauskertomusmerkintöjä, soveltaa diagnoosikoodeja tai tuottaa tuotoksia, joita käytetään rutiininomaisesti ilman merkittävää kliinikon muokkausta hoitopäätösten tukemiseen. Asetuksen luokittelulogiikka keskittyy tarkoitettuun käyttötarkoitukseen ja järjestelmän tuotoksen realistiseen käyttöön.

Kuten tekoälyasetuksen akateeminen analyysi terveydenhuollossa vahvistaa, tekoälyasetuksen ja MDR:n välinen vuorovaikutus on erityisen relevantti tässä: jos dokumentointityökalu täyttää lääkinnällisen laitteen ohjelmiston kriteerit MDR:n mukaan, se todennäköisesti houkuttelee korkean riskin luokittelua myös tekoälyasetuksen mukaan.

Mielenterveyskontekstissa kynnys, jolla dokumentointityökalusta tulee korkean riskin työkalu, on väitetysti matalampi kuin muissa erikoisaloissa. Psykiatrian sairauskertomusmerkintöjä käytetään usein tukemaan päätöksiä pakkohoitoon, oikeustoimikelpoisuusarviointeihin ja lastensuojeluilmoituksiin. Kun tekoälyn tuottamat merkinnät suoraan vaikuttavat näihin päätöksiin, vaikka kliinikko nimellisesti tarkistaa ne, työkalun tuotos vaikuttaa toiminnallisesti korkean panoksen kliiniseen päätökseen, joka koskee haavoittuvaa yksilöä.

Yksi tärkeä vivahde: Lääkinnällisten laitteiden koordinaatioryhmän ohjeistus selventää, että tekoälyjärjestelmät, jotka on kehitetty ja joita käytetään yksinomaan yhdessä terveydenhuolto-organisaatiossa ilman, että niitä saatetaan markkinoille, voivat olla muutettujen velvoitteiden alaisia. Tämä koskee rajattua joukkoa talon sisäisiä työkaluja eikä vaikuta kaupallisesti hankittuihin tuotteisiin.

Vaatimustenmukaisuusvaatimukset, jotka psykiatrien ja käytännön johtajien on varmistettava

Korkean riskin luokitelluille tekoälyjärjestelmille asetus asettaa joukon velvoitteita, jotka on täytettävä ennen käyttöönottoa. Tekoälytyökalua hankkivan psykiatrin tai käytännön johtajan näkökulmasta seuraavat ovat keskeisiä vaatimuksia, jotka on varmistettava minkä tahansa toimittajan kanssa.

• CE-merkintä ja MDR-vaatimustenmukaisuus: Kun työkalu täyttää lääkinnällisen laitteen kriteerit, CE-merkintä MDR:n mukaan vaaditaan. Korkean riskin tekoälytyökalut, jotka ovat myös lääkinnällisiä laitteita, on täytettävä sekä MDR:n vaatimustenmukaisuusarviointi että tekoälyasetuksen vaatimukset. Nämä ovat rinnakkaisia velvoitteita, eivät vaihtoehtoja.

• Tekninen dokumentaatio: Toimittajien on ylläpidettävä kattavaa teknistä dokumentaatiota, joka osoittaa järjestelmän suunnittelun, kehitysprosessin, harjoitusdatan ominaisuudet ja suorituskyvyn validoinnin. Tämän dokumentaation tulisi olla saatavilla tarkastusta varten.

• Riskinhallintajärjestelmä: Dokumentoitu riskinhallintaprosessi, joka on linjassa ISO 14971:n tai vastaavien standardien kanssa, vaaditaan. Vuoden 2026 systemaattinen katsaus mielenterveyschattiboteista havaitsi, että 78,8 prosenttia tarkastelluista tutkimuksista arvioitiin korkean riskin kyberturvallisuuden arviointitiukkuudeksi, mikä osoittaa, että muodollinen vastustajatestaus ja strukturoitu uhkamallinnus ovat edelleen harvinaisia. Psykiatrien tulisi selvittää tätä puutetta suoraan toimittajien kanssa.

• Ihmisen valvontamekanismit: Korkean riskin järjestelmät on suunniteltava sallimaan tehokas ihmisen valvonta, mukaan lukien mahdollisuus kliinikoiden ohittaa, sivuuttaa tai puuttua järjestelmän tuotokseen. Tämä on lakisääteinen vaatimus, ei harkinnanvarainen ominaisuus.

• Kirjaaminen ja tarkastuspolut: Järjestelmän on automaattisesti kirjattava toimintansa siinä määrin, että se tukee jälkikäteistä tarkastelua siitä, miten tuotokset luotiin. Tämä on erityisen tärkeää psykiatriassa, jossa kliiniset päätökset voivat olla oikeudellisen tarkastelun kohteena.

• Tarkkuus, kestävyys ja kyberturvallisuus: Toimittajien on osoitettava, että järjestelmä toimii määritellyn tarkkuustason mukaisesti ja on kestävä virheitä ja haitallisia syötteitä vastaan.

Psychiatria Danubinassa julkaistussa kliinikkolähtöisessä oppaassa todettiin, että nämä sääntelykonseptit voivat olla epäselviä kliinikoille, ja suositeltiin, että terveydenhuollon ammattilaiset kehittävät riittävää tuntemusta viitekehyksestä arvioidakseen tekoälytyökaluja kriittisesti ennen käyttöönottoa.

Läpinäkyvyysvelvoitteet tekoälyn käytössä mielenterveyskonsultaatioissa

Tekoälyasetuksen läpinäkyvyysvaatimukset ovat erillisiä, vaikkakin täydentäviä, edellä kuvattuihin vaatimustenmukaisuusvelvoitteisiin nähden. Kliinisessä ympäristössä ne muuttuvat konkreettisiksi velvollisuuksiksi, jotka lankeavat järjestelmän käyttöönottajalle, mikä useimmissa tapauksissa tarkoittaa terveydenhuolto-organisaatiota tai vastaanottoa, ei toimittajaa.

Kun tekoälyjärjestelmä on mukana kliinisessä vuorovaikutuksessa, olipa kyse merkintöjen luomisesta, diagnostisen päätöksen tukemisesta tai minkä tahansa osan suorittamisesta arvioinnissa, potilailla on oikeus saada tietoa. Mielenterveyskäytännössä tämä velvoite on erityisen painava. Terapeuttinen suhde on psykiatrisen hoidon perusta, ja potilaiden luottamus tähän suhteeseen riippuu osittain heidän ymmärryksestään siitä, miten heidän hoitoaan koskevia päätöksiä tehdään.

Keskeisiä läpinäkyvyysvelvoitteita ovat:

• Tekoälyn käytön ilmoittaminen: Potilaille on kerrottava, kun tekoälyjärjestelmää käytetään tavalla, joka olennaisesti vaikuttaa heidän hoitoonsa. Tämä koskee myös tilanteita, joissa kliinikko säilyttää lopullisen päätösvallan.

• Vuorovaikutus GDPR:n kanssa: Mielenterveysdata luokitellaan erityiseksi kategoriaksi yleisen tietosuoja-asetuksen mukaan, mikä edellyttää korkeinta tietosuojan tasoa. Kun tekoälyjärjestelmät käsittelevät tätä dataa, mukaan lukien konsultaatioiden litteroinnin kautta, käsittelyn laillinen perusta, tietojen säilytyskäytännöt sekä pääsy- ja poisto-oikeudet on määriteltävä selkeästi. Euroopan komission virallinen ohjeistus toteaa, että Euroopan terveystietoavaruusasetus, joka tuli voimaan vuonna 2025 ja jonka määräyksiä sovelletaan asteittain seuraavien vuosien aikana, tarjoaa lisähallintotason kliinisen tekoälyn datan käytölle.

• Tietoinen suostumus: Psykiatriassa, jossa potilailla voi olla suostumuskykyyn vaikuttavia tiloja, prosessi merkityksellisen tietoisen suostumuksen saamiseksi tekoälyn käyttöön hoidossa vaatii huolellista harkintaa. Vuoden 2025 hallintaprotokolla tekoälypohjaiselle psykoterapialle ehdotti kerrostettuja suostumusprosesseja käytännön mekanismina tämän haasteen käsittelemiseksi, nimenomaisesti linjassa EU:n tekoälyasetuksen ja GDPR:n vaatimusten kanssa.

Mitä kysyä toimittajalta ennen tekoälytyökalun käyttöönottoa psykiatrisessa käytännössä

Psykiatrit ja käytännön johtajat luokitellaan asetuksen mukaan tekoälyjärjestelmien käyttöönottajiksi. Tämä luo suoria lakisääteisiä velvoitteita, mutta myös asemoi heidät tietoisiksi hankkijoiksi, joiden tulisi pitää toimittajat vastuullisina. Seuraavat kysymykset edustavat vähimmäishuolellisuusstandardia.

• Onko tämä järjestelmä luokiteltu korkean riskin järjestelmäksi EU:n tekoälyasetuksen mukaan? Jos ei, mikä dokumentoitu arviointi tukee tätä johtopäätöstä?

• Täyttääkö järjestelmä lääkinnällisen laitteen kriteerit MDR:n mukaan? Jos täyttää, onko sillä CE-merkintä ja mikä ilmoitettu laitos suoritti vaatimustenmukaisuusarvioinnin?

• Onko järjestelmä kliinisesti validoitu mielenterveyspotilailla? Voidaanko validointidata jakaa, mukaan lukien suorituskykymittarit eriteltyinä potilasalaryhmittäin?

• Missä potilasdata käsitellään ja tallennetaan? Vahvistaako toimittaja EU:n datan sijainnin ja mitkä ovat tietojen säilytys- ja poistokäytännöt?

• Minkälaisen tarkastuspolun järjestelmä luo ja miten lokeja voidaan käyttää kliinisen hallinnon tai oikeudellisen tarkastelun tarkoituksiin?

• Mitkä ihmisen ohitusmekanismit on rakennettu järjestelmään ja miten ne on dokumentoitu?

• Miten toimittaja käsittelee mallipäivityksiä? Ovatko päivitetyt versiot uudelleen validoitavia ennen käyttöönottoa?

• Mikä on toimittajan prosessi tekoälyn tuottamiin tuotoksiin liittyvien tapahtumien raportointiin ja niihin vastaamiseen, jotka ovat saattaneet myötävaikuttaa potilashaittaan?

Systemaattinen katsaus mielenterveyden tekoälychattiboteista havaitsi, että useimmat järjestelmät luottavat yleiskäyttöisiin suuriin kielimalleihin ja otetaan käyttöön kuluttajalähtöisten alustojen kautta ilman kliinistä valvontaa, malli, joka on yhteensopimaton tekoälyasetuksen vaatimusten kanssa korkean riskin järjestelmille psykiatrisissa ympäristöissä.

Miten tekoälyasetus on vuorovaikutuksessa olemassa olevan lääkinnällisten laitteiden ja tietosuojalainsäädännön kanssa

Tekoälyasetus on horisontaalinen asetus. Se koskee eri sektoreita ja sijoittuu olemassa olevan alakohtaisen lainsäädännön rinnalle sen sijaan, että se korvaisi sen. Psykiatreille tämä tarkoittaa, että tekoälyasetuksen noudattaminen ei vapauta velvoitteista MDR:n tai GDPR:n mukaan, eikä päinvastoin.

Tekoälyasetuksen akateeminen analyysi terveydenhuollossa käsittelee nimenomaisesti tekoälyasetuksen vaatimustenmukaisuusvelvoitteiden ja MDR-vaatimusten välistä vuorovaikutusta. Psykiatrisessa käytännössä käytetty tekoälytyökalu voi samanaikaisesti olla seuraavien alainen:

• EU:n tekoälyasetuksen korkean riskin velvoitteet (jos se täyttää liitteen III kriteerit)

• MDR-velvoitteet (jos se täyttää lääkinnällisen laitteen ohjelmiston kriteerit)

• GDPR-velvoitteet (koska mielenterveysdata on erityinen kategoria)

• Kansallinen mielenterveysdatalainsäädäntö joissakin EU:n jäsenvaltioissa, jotka voivat asettaa lisärajoituksia psykiatristen tietojen käsittelyyn

Healthy Europe -politiikka-analyysi toteaa, että eurooppalaiset mielenterveyssovellusmarkkinat sisältävät tuhansia tuotteita, joilla on rajallinen kliininen arviointi, ja että kaksoisvaatimustenmukaisuus tekoälyasetuksen ja MDR:n mukaan lisää monimutkaisuutta, jota monet toimittajat eivät ole vielä täysin käsitelleet. Psykiatrien ei pitäisi olettaa, että tuotteen läsnäolo markkinoilla osoittaa täyttä sääntelyvaatimustenmukaisuutta, erityisesti nykyisen siirtymäkauden aikana.

Nykyisessä sääntelymaisemassa on myös tunnustettu rajoitus. Vertaisarvioitu oikeudellinen analyysi on todennut, että EU:n tekoälyasetus, vaikka se on suoraan sovellettavissa mielenterveyden tekoälyyn, on riittämätön yksinään käsittelemään kaikkia tämän alueen oikeudellisia ja eettisiä aukkoja. Asetus ei ratkaise kysymyksiä kliinisestä vastuusta, kun tekoäly myötävaikuttaa haitalliseen päätökseen, ja kansalliset lääketieteellisen vastuun viitekehykset jatkavat näiden kysymysten hallitsemista itsenäisesti.

Keskeiset päivämäärät ja siirtymäaikataulut, jotka psykiatrien tulisi tietää

Tekoälyasetus otetaan käyttöön vaiheittain, eivätkä kaikki velvoitteet ole vielä voimassa. Työkaluja nyt arvioiville psykiatreille seuraava aikataulu on suoraan relevantti.

• Helmikuu 2025: Kiellettyihin tekoälykäytäntöihin liittyvät määräykset tulivat voimaan. Tekoälyjärjestelmät, jotka hyödyntävät psykologisia haavoittuvuuksia tai käyttävät alitajuista manipulaatiota kliinisissä yhteyksissä, kiellettiin tästä päivämäärästä lähtien.

• Elokuu 2025: Yleiskäyttöisiin tekoälymalleihin, mukaan lukien kliinisten tekoälytyökalujen perustana käytettyihin suuriin kielimalleihin, liittyvät velvoitteet tulivat voimaan.

• Elokuu 2026: Täysi korkean riskin vaatimustenmukaisuuskehys, mukaan lukien kaikki vaatimustenmukaisuusarviointi-, dokumentointi-, valvonta- ja läpinäkyvyysvelvoitteet, koskee terveydenhuollon tekoälyjärjestelmiä. Tämä on määräaika, johon mennessä korkean riskin tekoälyjärjestelmien tarjoajien ja käyttöönottajien on oltava täydessä vaatimustenmukaisuudessa.

• Elokuu 2027: Pidennetty siirtymä koskee erityisesti tekoälyjärjestelmiä, jotka ovat myös säänneltyjä lääkinnällisiä laitteita MDR:n tai in vitro -diagnostiikkalaiteasetuksen mukaan, mikä heijastaa pidempiä vaatimustenmukaisuusarviointiaikatauluja lääkinnällisten laitteiden sektorilla.

Elokuun 2026 määräaika on välittömästi tärkein psykiatreille, jotka arvioivat tai ottavat käyttöön tekoälytyökaluja tänään. Nyt hankittavien työkalujen on täytettävä täydet korkean riskin vaatimustenmukaisuusvaatimukset kuukausien kuluessa tämän artikkelin julkaisusta. Psykiatrien ja käytännön johtajien, jotka ovat keskellä hankintaa tai käyttöönottoa, tulisi käsitellä vaatimustenmukaisuuden määräaikaa ajankohtaisena operatiivisena huolena, ei tulevana harkintana.

50 osavaltion Yhdysvaltain lainsäädäntökatsaus, joka julkaistiin JMIR Mental Healthissa, vaikka se keskittyi amerikkalaiseen kontekstiin, tunnisti johdonmukaisen mallin, jossa kliinikot ja ammatilliset organisaatiot pysyvät poissa tekoälypolitiikan tekemisestä, mikä johtaa viitekehyksiin, jotka poikkeavat kliinisistä todellisuuksista. Sama riski on olemassa Euroopassa. Psykiatrit, jotka osallistuvat aktiivisesti tekoälyasetuksen vaatimuksiin hankkijoina, käyttöönottajina ja ammatillisen ohjeistuksen laatijoina, ovat paremmin asemoituja muokkaamaan sitä, miten nämä työkalut toteutetaan käytännössä, kuin ne, jotka näkevät sääntelyn ulkoisena rajoitteena.

Usein kysytyt kysymykset

▶ Miksi mielenterveysympäristöissä käytetyt tekoälytyökalut kohtaavat tiukempaa sääntelyä EU:n tekoälyasetuksen mukaan?

EU:n tekoälyasetuksen riskiluokittelukehys ottaa huomioon potilaspopulaation haavoittuvuuden, virheellisten tekoälytulosten mahdollisten haittojen vakavuuden ja kliinisen harkinnan monimutkaisuuden psykiatriassa. Mielenterveyspotilaat, mukaan lukien akuutissa kriisissä olevat tai päätöksentekokykyyn vaikuttavia tiloja sairastavat, tunnustetaan EU:n lainsäädännössä haavoittuvaksi ryhmäksi. Tämä tunnustaminen nostaa suoraan psykiatrisissa ympäristöissä toimiviin tekoälytyökaluihin sovellettavaa sääntelypainoa, vaikka kyseiset työkalut suorittaisivat toimintoja, jotka voisivat olla kevyemmin säänneltyjä muilla erikoisaloilla.

▶ Mitkä psykiatrisessa käytännössä käytetyt tekoälytyökalut luokitellaan todennäköisimmin korkean riskin työkaluiksi?

Useat kategoriat houkuttelevat johdonmukaisesti korkean riskin luokittelua asetuksen mukaan. Riskin kerrostamis- ja hoidontarpeen arviotyökalut, mukaan lukien ne, jotka arvioivat itsemurhariskiä tai ennustavat psykiatrista heikkenemistä, kuuluvat selkeästi tähän ryhmään. Diagnostiset tukityökalut, jotka ehdottavat diagnooseja tai diagnoosikoodeja mielenterveysolosuhteille, kuuluvat nimenomaisesti asetuksen liitteen III piiriin. Kliinisen päätöksenteon tuen työkalut, jotka vaikuttavat hoitopäätöksiin, tekoälypohjaiset psykoterapia-agentit sekä mielialan tai oireiden seurantajärjestelmät, joiden tuotokset suoraan vaikuttavat kliinisiin päätöksiin, luokitellaan myös todennäköisesti korkean riskin työkaluiksi.

▶ Luokitellaanko kliiniset dokumentointityökalut, kuten ambient-kirjurit, automaattisesti korkean riskin työkaluiksi mielenterveysympäristöissä?

Ei automaattisesti, mutta kynnys on matalampi psykiatriassa kuin muilla erikoisaloilla. Työkalu, joka passiivisesti litteroi puhetta kliinikon tarkasteltavaksi, sijoittuu eri kohtaan riskispektrissä kuin sellainen, joka luo strukturoituja sairauskertomusmerkintöjä tai soveltaa diagnoosikoodeja. Psykiatriassa sairauskertomusmerkinnät vaikuttavat usein päätöksiin pakkohoidosta, oikeustoimikelpoisuusarvioinneista ja lastensuojeluilmoituksista. Kun tekoälyn tuottamat merkinnät suoraan vaikuttavat näihin päätöksiin, vaikka kliinikko nimellisesti tarkistaa ne, työkalun tuotos vaikuttaa toiminnallisesti korkean panoksen päätökseen, joka koskee haavoittuvaa yksilöä. Jos työkalu myös täyttää lääkinnällisen laitteen ohjelmiston kriteerit lääkinnällisten laitteiden asetuksen mukaan, korkean riskin luokittelu tekoälyasetuksen mukaan tulee todennäköisemmäksi.

▶ Mitkä vaatimustenmukaisuusvaatimukset korkean riskin tekoälytyökalun on täytettävä ennen kuin se voidaan ottaa käyttöön psykiatrisessa käytännössä?

Korkean riskin tekoälyjärjestelmien on täytettävä useita vaatimuksia ennen käyttöönottoa. Toimittajien on ylläpidettävä kattavaa teknistä dokumentaatiota, joka kattaa järjestelmän suunnittelun, harjoitusdatan ja suorituskyvyn validoinnin. Dokumentoitu riskinhallintaprosessi vaaditaan. Järjestelmän on sisällettävä ihmisen valvontamekanismit, jotka sallivat kliinikoiden ohittaa tai sivuuttaa sen tuotokset. Järjestelmän toimintojen automaattinen kirjaaminen on oltava paikallaan jälkikäteisen tarkastelun tukemiseksi. Kun työkalu myös täyttää lääkinnällisen laitteen kriteerit, CE-merkintä lääkinnällisten laitteiden asetuksen mukaan vaaditaan tekoälyasetuksen vaatimustenmukaisuuden ohella. Toimittajien on myös osoitettava määritellyt tarkkuus-, kestävyys- ja kyberturvallisuustasot.

▶ Mitkä läpinäkyvyysvelvoitteet koskevat tekoälyn käyttöä mielenterveyskonsultaatioissa?

Potilaille on ilmoitettava, kun tekoälyjärjestelmää käytetään tavalla, joka olennaisesti vaikuttaa heidän hoitoonsa, vaikka kliinikko säilyttää lopullisen päätöksentekovallan. Mielenterveysdata luokitellaan erityiseksi kategoriaksi yleisen tietosuoja-asetuksen mukaan, mikä tarkoittaa, että käsittelyn laillinen perusta, tietojen säilytyskäytännöt ja potilaiden pääsy- ja poisto-oikeudet on määriteltävä selkeästi. Psykiatriassa, jossa potilailla voi olla suostumuskykyyn vaikuttavia tiloja, merkityksellisen tietoisen suostumuksen saaminen tekoälyn käyttöön hoidossa vaatii erityistä huolellisuutta. Vuoden 2025 hallintaprotokolla ehdotti kerrostettuja suostumusprosesseja käytännön lähestymistapana tähän haasteeseen.

▶ Voidaanko EU:n tekoälyasetuksen mukaan kiellettyä tekoälytyökalua käyttää mielenterveysympäristössä, jos se on kliinisesti hyödyllinen?

Ei. Kielletyt tekoälykäytännöt on kielletty suoraan, eikä niitä voida ottaa käyttöön riippumatta koetusta kliinisestä hyödystä. Asetus tunnistaa järjestelmät, jotka hyödyntävät psykologisia haavoittuvuuksia manipuloidakseen käyttäytymistä haitallisilla tavoilla, kielletyiksi. Mielenterveyschattibotit, jotka käyttävät vakuuttavaa vuoropuhelua tai pelillistämistä vaikuttaakseen potilaan käyttäytymiseen, voivat ylittää kielletyn alueen riippuen niiden suunnittelusta ja käyttöönottokontekstista. Ero kielletyn järjestelmän ja korkean riskin järjestelmän välillä on merkittävä: korkean riskin järjestelmät voidaan ottaa käyttöön, mutta vasta kun tiukat vaatimustenmukaisuusvaatimukset on täytetty.

▶ Mitä kysymyksiä psykiatrin tai käytännön johtajan tulisi kysyä toimittajalta ennen tekoälytyökalun hankintaa?

Vähintään sinun tulisi kysyä, onko järjestelmä luokiteltu korkean riskin järjestelmäksi EU:n tekoälyasetuksen mukaan ja, jos ei, mikä dokumentoitu arviointi tukee tätä johtopäätöstä. Kysy, täyttääkö se lääkinnällisen laitteen kriteerit ja, jos täyttää, onko sillä CE-merkintä. Pyydä kliinistä validointidataa, joka on spesifinen mielenterveyspopulaatiolle, mukaan lukien suorituskykymittarit eriteltyinä potilasalaryhmittäin. Vahvista, missä potilasdata käsitellään ja tallennetaan, ja koskeeko EU:n datan sijainti. Kysy, minkälaisen tarkastuspolun järjestelmä luo, mitkä ihmisen ohitusmekanismit ovat olemassa, miten mallipäivityksiä käsitellään ja mikä on toimittajan prosessi tekoälyn tuottamiin tuotoksiin liittyvien tapahtumien raportointiin, jotka ovat saattaneet myötävaikuttaa potilashaittaan.

▶ Miten EU:n tekoälyasetus on vuorovaikutuksessa lääkinnällisten laitteiden asetuksen ja GDPR:n kanssa psykiatrisessa käytännössä?

EU:n tekoälyasetus sijoittuu olemassa olevan lainsäädännön rinnalle sen sijaan, että se korvaisi sen. Psykiatrisessa käytännössä käytetty tekoälytyökalu voi samanaikaisesti olla EU:n tekoälyasetuksen korkean riskin velvoitteiden, lääkinnällisten laitteiden asetuksen velvoitteiden, jos se täyttää lääkinnällisen laitteen ohjelmiston kriteerit, ja yleisen tietosuoja-asetuksen velvoitteiden alainen, koska mielenterveysdata on erityinen kategoria. Jotkin EU:n jäsenvaltiot asettavat myös lisäkansallisia rajoituksia psykiatristen tietojen käsittelyyn. Yhden viitekehyksen noudattaminen ei vapauta velvoitteista muiden mukaan. Vertaisarvioitu oikeudellinen analyysi on todennut, että tekoälyasetus yksinään on riittämätön käsittelemään kaikkia mielenterveyden tekoälyyn liittyviä oikeudellisia ja eettisiä aukkoja.

▶ Mitkä ovat keskeiset EU:n tekoälyasetuksen vaatimustenmukaisuuden määräajat, joista psykiatrien tulisi olla tietoisia?

Kiellettyihin tekoälykäytäntöihin liittyvät määräykset tulivat voimaan helmikuussa 2025. Yleiskäyttöisiin tekoälymalleihin, mukaan lukien kliinisten tekoälytyökalujen perustana käytettyihin suuriin kielimalleihin, liittyvät velvoitteet tulivat voimaan elokuussa 2025. Täysi korkean riskin vaatimustenmukaisuuskehys, joka kattaa vaatimustenmukaisuusarvioinnin, dokumentoinnin, valvonnan ja läpinäkyvyysvelvoitteet, koskee elokuusta 2026 lähtien. Pidennetty siirtymä elokuuhun 2027 asti koskee erityisesti tekoälyjärjestelmiä, jotka ovat myös säänneltyjä lääkinnällisiä laitteita lääkinnällisten laitteiden asetuksen tai in vitro -diagnostiikkalaiteasetuksen mukaan. Nyt hankittavien työkalujen on täytettävä täydet korkean riskin vaatimustenmukaisuusvaatimukset elokuuhun 2026 mennessä.

▶ Ratkaistaako EU:n tekoälyasetus kysymykset kliinisestä vastuusta, kun tekoäly myötävaikuttaa haitalliseen päätökseen psykiatriassa?

Ei. Vertaisarvioitu oikeudellinen analyysi on vahvistanut, että EU:n tekoälyasetus ei ratkaise kysymyksiä kliinisestä vastuusta, kun tekoäly myötävaikuttaa haitalliseen päätökseen. Kansalliset lääketieteellisen vastuun viitekehykset jatkavat näiden kysymysten hallitsemista itsenäisesti. Asetus luo vaatimustenmukaisuus- ja vaatimustenmukaisuusvelvoitteet tarjoajille ja käyttöönottajille, mutta se ei luo yhtenäistä vastuujärjestelmää tekoälyyn liittyvälle kliiniselle haitalle. Psykiatrien tulisi hakea oikeudellista neuvontaa, joka on spesifinen heidän lainkäyttöalueelleen, kun arvioidaan vastuualttiutta tekoälytyökalun käyttöönotosta.