Kliiniline otsustustoe vahend (tarkvarasüsteem, mis analüüsib patsiendi andmeid kliiniliste soovituste loomiseks) võib läbida kõik tarnija tarkvarakvaliteedi testid ja olla siiski ohtlik patsientidele, keda perearst esmaspäeva hommikul vastu võtab. Loogika võib töötada veatult. Liides võib olla reageeriv ja intuitiivne. Andmetöötlus võib olla täielikult toimiv. Kuid kui mudel on treenitud haigla statsionaarsete patsientide andmetel, valideeritud mitte-Euroopa tervishoiusüsteemis või seda pole kunagi testitud diferentseerimata sümptomite suhtes, mis iseloomustavad üldarstiabi, võib vahend anda soovitusi, mis on süstemaatiliselt eksitavad kontekstis, kus seda tegelikult kasutatakse. Tervishoiu otsustajatel, kes hindavad neid vahendeid praktika, võrgustiku või tellimise tasandil, on nüüd oluline juhtimiskohustus mõista, milline näeb välja range valideerimine.

Miks valideerimine ei ole sama mis tarkvaratestid

Tarkvaratestid kinnitavad, et süsteem käitub nii, nagu arendajad kavatsesid. Kliiniline valideerimine esitab teistsuguse küsimuse: kas süsteemi kavandatud käitumine annab ohutuid ja tõhusaid tulemusi päris patsientidele päris kliinilises keskkonnas?

See erinevus on oluline. Vahend võib olla tehniliselt korrektne ja samal ajal kliiniliselt kahjulik. Algoritm, mis täpselt arvutab riskiskoori Põhja-Ameerika haiglate patsientide andmestikust, võib süstemaatiliselt alahinnata või ülehinnata riski Euroopa esmatasandi tervishoiu populatsioonis, kus on erinevad demograafilised näitajad, kaasuvate haiguste mustrid ja arstiabi otsimise käitumine. Teisese tasandi tervishoius valideeritud ravimite väljakirjutamise otsustustoe vahend võib luua hoiatusi, mis on kalibreeritud spetsialistide juhitavate patsientide jaoks, põhjustades hoiatuste väsimust või oluliste märkide vahelejäämist üldarstiabis.

Kliiniliste otsustustoe süsteemide disainilähenduste süstemaatiline ülevaade, mis avaldati ajakirjas Journal of Medical Internet Research, toob välja kliinitsistide usalduse ja selgitatavuse kui keskseid kasutuselevõtu väljakutseid. Need on probleemid, mis tulenevad valideerimise ebaõnnestumistest, mitte tarkvara puudustest. Kui vahendi soovitused ei vasta kliinilisele reaalsusele, mida perearst näeb, väheneb usaldus olenemata sellest, kas tarkvara töötab tehniliselt korrektselt.

Kliiniline valideerimine nõuab tõendeid, et vahend annab täpseid, ohutuid ja kliiniliselt asjakohaseid väljundeid just selles populatsioonis ja keskkonnas, kus seda kasutatakse.

Regulatiivne maastik: kus meditsiiniseadmete määrus tõmbab piiri

Mitte iga kliinilise otsustustoe vahend ei ole meditsiiniseade EL meditsiiniseadmete määruse (MDR) 2017/745 alusel, kuid märkimisväärne ja kasvav osa neist on. Oluline regulatiivne erinevus on vahendite vahel, mis pakuvad üldist kliinilist teavet, ja vahendite vahel, mis juhivad või mõjutavad otseselt kliinilist otsust üksiku patsiendi jaoks.

Meditsiiniseadmete määruse kohaselt on tarkvaravahend, mis analüüsib patsiendispetsiifilisi andmeid soovituste loomiseks diagnoosimiseks, raviks, riski stratifitseerimiseks või ravimite väljakirjutamiseks, tõenäoliselt meditsiiniseadme definitsioonile vastav. Kui see on nii klassifitseeritud, peab sellel olema CE-märgis, mis nõuab tootjalt kliiniliste tõendite esitamist ohutuse ja toimivuse kohta enne vahendi Euroopa turule laskmist.

Alates 2026. aastast seisavad tehisintellektiga meditsiiniseadmete tootjad silmitsi topeltvastavusega nii MDR kui ka EL tehisintellekti seaduse alusel. Tehisintellekti seadus klassifitseerib automaatselt tehisintellektipõhised kliinilise otsustustoe süsteemid kõrge riskiga, käivitades kohustusliku vastavushindamise, kallutatuse jälgimise, läbipaistvuskohustused ja inimjärelevalve nõuded, mis lähevad kaugemale sellest, mida MDR üksi nõudis. MyHealth@EU vastavusraamistik lisab täiendava kihi vahenditele, mis töötavad EL liikmesriikides, nõudes tehisintellektispetsiifiliste metaandmete ja päritolu dokumentatsiooni kaasamist kliiniliste andmete vahetussõnumitesse.

CE-märgis ei ole garantii sobivusest konkreetses kliinilises kontekstis. See on tootja deklaratsioon, et seade vastab kohaldatavatele regulatiivsetele nõuetele. CE-märgis on vajalik tingimus seadusliku kasutuselevõtu jaoks Euroopas, kuid mitte piisav tingimus kliiniliseks kasutuselevõtuks üheski konkreetses keskkonnas.

Ajakirjas npj Health Systems avaldatud eelretsenseeritud analüüs toob välja olulised lüngad praegustes EL MDR standardites andmepõhiste ja kohanevate tehisintellekti süsteemide jaoks. Need lüngad tähendavad, et mõned vahendid võivad saavutada regulatiivse vastavuse, kuid neil puudub siiski range kliiniline valideerimine, mida nõuab kasutuselevõtt esmatasandi tervishoius.

Mida kliiniline valideerimine tegelikult hõlmab

Kliiniline valideerimine on struktureeritud protsess, mille käigus näidatakse, et vahend toimib kavandatud viisil kogu määratletud patsientide populatsioonis. Kliinilise otsustustoe vahendite puhul hõlmavad põhikomponendid:

• Kliinilise täpsuse tõendid: Toimivus võrreldes võrdlusstandardiga, näiteks riskiskooride võrdlemine sõltumatult valideeritud algoritmidega või soovituste võrdlemine ekspertide kliinilise ülevaatega. Selle metoodika varajane näide ilmub südame-veresoonkonna kliinilise otsustustoe süsteemi segameetodite hindamises esmatasandi tervishoius, kus vahendi riskihindamise algoritmi võrreldi sõltumatult programmeeritud versiooniga, saavutades klassidesisese korrelatsioonikoefitsiendi 0,999, ning juhtimissoovitusi vaadati üle võrreldes arstide soovitustega käsitsi juhendi ülevaatamisest.

• Esinduslikud populatsiooniandmed: Tõendid, et valideerimise andmestik peegeldab populatsiooni demograafilisi, kliinilisi ja sotsiaalmajanduslikke omadusi, kus vahendit kasutatakse. Valideerimine kitsale või ebaesinduslikule andmestikule piirab toimivuse väidete üldistamist.

• Sõltumatu ülevaatus: Tootja poolt läbiviidud sisemine valideerimine on vajalik, kuid mitte piisav. Eelretsenseeritud avaldamine, sõltumatu audit või kolmanda osapoole hindamine pakub kontrolli metoodilise kvaliteedi ja toimivuse väidete terviklikkuse üle.

• Prospektiivsed või retrospektiivsed uuringud sihtkeskkonnas: Olemasolevate andmete retrospektiivne analüüs võib kehtestada lähtejõudluse, kuid prospektiivsed uuringud, ideaaljuhul tegelikus hoolduskeskkonnas, pakuvad tugevamat tõendust reaalse maailma kliinilisest kasulikkusest.

Ühes riigis või hoolduskontekstis läbiviidud valideerimine ei kandu automaatselt üle. Astma kliinilise otsustustoe süsteemi rakendamise ulatuslik ülevaade esmatasandi tervishoius, hõlmates 18 uuringut erinevates keskkondades, sealhulgas Ühendkuningriigis ja Hispaanias, illustreerib, kuidas rakendamise tulemused erinevad märkimisväärselt tervishoiusüsteemide vahel, isegi Euroopas, sõltuvalt töövoo integratsioonist, patsientide populatsiooni omadustest ja kohalikest kliinilistest juhistest.

Kuidas esmatasandi tervishoiuteenused toovad kaasa spetsiifilisi valideerimise väljakutseid

Üldarstiabi esitab tingimusi, mis erinevad struktuurilt haigla ja eriarsti keskkondadest, kus paljud kliinilise otsustustoe vahendid on esmakordselt välja töötatud ja valideeritud. Need erinevused mõjutavad seda, kas vahendi toimivus ühes keskkonnas ennustab selle toimivust teises.

Esmatasandi tervishoiu omadused, mis muudavad valideerimise ülekandmise keeruliseks:

• Diferentseerimata esitlused: Perearst kohtub patsientidega enne diagnoosi kehtestamist. Vahend, mis on valideeritud teisese tasandi tervishoiu kirjetest pärit kodeeritud diagnooside põhjal, võib toimida halvasti, kui seda rakendatakse ebaselgetele, sümptomitasemel esinevatele kaebustele, millega patsiendid perearsti vastuvõtule pöörduvad.

• Ajasurve ja kognitiivne koormus: Kõrge hooldusvajadus ja killustatud struktuurid on tunnuslikud esmatasandi tervishoiusüsteemidele kogu Euroopas. Vahend, mis nõuab märkimisväärset andmesisestust või katkestab kliinilise töövoo, võib luua lahendusi, mis õõnestavad selle kavandatud funktsiooni ja valideeritud toimivust.

• Mitmekesine ja valimata demograafia: Haigla valideerimise populatsioonid on valitud suunamisteedega ja vastuvõtukriteeriumidega. Perearsti populatsioonid seda ei ole. Vanus, multimorbiidsus, tervisealane kirjaoskus ja sotsiaalmajanduslik mitmekesisus esmatasandi tervishoius võivad erineda oluliselt haigla kohorditest, mõjutades nii seisundite levimust kui ka baasintensiivsust, millest sõltuvad ennustavad algoritmid.

• Integratsioon olemasolevate süsteemidega: Kliinilise otsustustoe süsteemi prototüübi kvalitatiivne uuring Saksa esmatasandi tervishoius, SATURN projekt, leidis, et iteratiivne koosarendus perearstidega ja kasutatavuse testimine olid hädavajalikud rakendamise takistuste tuvastamiseks, mis ei oleks olnud nähtavad kontrollitud valideerimisuuringus. Tehniline toimivus ja kliiniline kasutatavus on seotud, kuid erinevad valideerimise mõõtmed.

Ravimite väljakirjutamise kliinilise otsustustoe süsteemide ulatuslik ülevaade esmatasandi tervishoius, mis avaldati 2025. aasta alguses, kaardistab selle valdkonna tõendite lüngad, leides, et rakendamise mõju andmed esmatasandi tervishoiu ravimite väljakirjutamise vahendite kohta on piiratud ning uuringute disainid erinevad märkimisväärselt ranguse poolest, muutes tarnijate valideerimisväidete otsese võrdlemise keeruliseks.

Reaalse maailma tõendite roll pärast kasutuselevõttu

Eelkasutuselevõtu valideerimine kehtestab toimivuse lähtejoone kontrollitud või poolkontrollitud tingimustes. See ei saa ette näha iga kliinilist stsenaariumi, populatsiooni muutust ega juhendi muudatust, mis toimub pärast vahendi aktiivset kasutamist. Seetõttu on turujärgne kliiniline jälgimine kohustuslik nõue MDR alusel meditsiiniseadmete tarkvara jaoks, mitte valikuline kvaliteedi parandamise tegevus.

Turujärgne kliiniline jälgimine nõuab tootjatelt süstemaatilist reaalse maailma tõendite kogumist ja ülevaatamist seadme toimivuse kohta pärast kasutuselevõttu. Kliinilise otsustustoe vahendite puhul tähendab see:

• Soovituste täpsuse ja hoiatuste määrade pidev jälgimine reaalajas kliinilises kasutuses

• Järelevalve tekkivate ohutusmärkide üle, sealhulgas kliinitsistide tühistamise või mittekasutamise mustrite üle, mis võivad viidata süstemaatilistele vigadele

• Perioodiline toimivuse ümberhindamine, kui patsientide populatsioonid muutuvad või kliinilisi juhendeid uuendatakse

• Leidude dokumenteerimine ja vajadusel parandusmeetmed

EL tehisintellekti seaduse nõuded pideva turujärgse riskihindamise kohta tugevdavad ja laiendavad neid kohustusi tehisintellektiklassifitseeritud vahendite jaoks, nõudes intsidentide jälgimist ja vastavust tekkivale Euroopa tervishoiuandmete infrastruktuurile.

Tervishoiu otsustajad peaksid küsima tarnijatelt mitte ainult seda, milline eelkasutuselevõtu valideerimine on läbi viidud, vaid ka seda, milline turujärgse kliinilise jälgimise infrastruktuur on olemas ja kuidas leidudest teavitatakse kasutuselevõtvaid organisatsioone. Tarnija, kellel puudub selge kasutuselevõtujärgne jälgimisplaan, kujutab endast juhtimisriski samamoodi nagu kliinilist riski.

Reaalse maailma tõendite kogumine esmatasandi tervishoius on struktuurselt keeruline. Kõrge patsientide maht, muutuv andmekvaliteet meditsiinikirjete süsteemides ja standardiseeritud tulemuste mõõtmise puudumine muudavad keeruliseks tuvastada peeneid toimivuse halvenemisi kasutusele võetud kliinilise otsustustoe süsteemides. See ei vähenda kohustust selliseid tõendeid koguda. See tähendab aga, et turujärgse kliinilise jälgimise plaanide kvaliteet varieerub märkimisväärselt ja seda tuleks vastavalt kontrollida.

Andmenõuded: GDPR, andmete residentsus ja treeningandmete läbipaistvus

Kliinilise otsustustoe vahendi kvaliteet sõltub lahutamatult andmete kvaliteedist, päritolust ja esindatavusest, millel see on treenitud ja testitud. Euroopa tervishoiu otsustajate jaoks on kolm andmetega seotud küsimust eriti olulised.

Isikuandmete kaitse üldmääruse vastavus ja seaduslik andmete kasutamine: Kliinilise tehisintellekti treeningandmed peavad olema saadud seaduslikult. Isikuandmete kaitse üldmääruse alusel nõuab see tavaliselt kas selgesõnalist patsiendi nõusolekut, seaduslikku õiguslikku alust tervishoiuandmete töötlemiseks või nõuetekohaselt anonüümitud andmete kasutamist. Tarnijad peaksid olema võimelised tõendama, mitte ainult väitma, et nende treeningandmed on saadud vastavalt kohaldatavatele andmekaitse seadustele. Euroopa Komisjoni raamistik tehisintellekti jaoks tervishoius positsioneerib Euroopa tervishoiuandmete ruumi, mille määrus jõustub 2025. aastal ning rakendamine liikmesriikides toimub järk-järgult, olles peamine mehhanism tervishoiuandmete seaduslikuks kasutamiseks tehisintellekti treenimiseks ja hindamiseks liikmesriikides.

EL andmete residentsus: Kus patsiendiandmeid töödeldakse järeldamise ajal, st kui vahend analüüsib reaalse patsiendi andmeid soovituse loomiseks, on oluline isikuandmete kaitse üldmääruse järgimiseks. Andmeid, mida töödeldakse väljaspool EL-i või Euroopa Majanduspiirkonda, reguleerivad ülekandmise piirangud, välja arvatud juhul, kui on olemas piisavad kaitsemeetmed. Tervishoiu otsustajad peaksid kinnitama, et tarnija töötlemise infrastruktuur vastab EL andmete residentsuse nõuetele, mitte ainult seda, et tarnija väidab isikuandmete kaitse üldmääruse järgimist üldiselt.

Treeningandmete esindatavus ja kallutatus: Vahend, mis on treenitud peamiselt ühe demograafilise rühma, ühe tervishoiusüsteemi või ühe haiguse levimuse konteksti andmetel, võib toimida erinevalt ja vähem ohutult, kui seda rakendatakse teisele populatsioonile. Topeltvastavuse juhised tehisintellekti meditsiiniseadmetele MDR ja tehisintellekti seaduse alusel nõuavad nüüd tootjatelt kallutatuse jälgimise dokumenteerimist ja tõendamist, et treeningandmed olid esinduslikud kavandatud kasutuspopulatsiooni jaoks. Otsustajad peaksid paluma tarnijatel seda dokumentatsiooni esitada, mitte aktsepteerima üldisi kinnitusi.

Mida küsida tarnijalt enne kliinilise otsustustoe vahendi kasutuselevõttu

Järgmised küsimused pakuvad praktilist hindamisraamistikku perearstidele, praktikajuhtidele ja kliinilistele juhtidele, kes hindavad kliinilise otsustustoe vahendit enne kasutuselevõttu. Need hõlmavad aspekte, mis kõige tõenäolisemalt paljastavad lüngad tarnija väidete ja nende tõendusbaasi ranguse vahel.

Regulatiivne staatus:

• Kas see vahend on klassifitseeritud meditsiiniseadmena EL MDR 2017/745 alusel? Kui jah, milline on selle klassifikatsioon (klass I, IIa, IIb või III)?

• Kas sellel on CE-märgis ja kas saate esitada vastavusdeklaratsiooni?

• Kas seda on hinnatud EL tehisintellekti seaduse kõrge riski klassifikatsiooni alusel? Kui jah, milline vastavushindamine on lõpule viidud?

Kliinilised tõendid:

• Millised kliinilise valideerimise uuringud on läbi viidud ja kas need on avaldatud eelretsenseeritud ajakirjades?

• Kas valideerimise uuringud viidi läbi Euroopa esmatasandi tervishoiu keskkondades või teistes hoolduskontekstides?

• Millised olid valideerimise populatsiooni omadused, sealhulgas vanus, kaasuvate haiguste profiil, etniline kuuluvus ja tervishoiusüsteem?

Toimivus ja läbipaistvus:

• Milliseid toimivuse mõõdikuid raporteeritakse (tundlikkus, spetsiifilisus, positiivne ennustav väärtus, hoiatuste määrad)?

• Kas vahend suudab selgitada oma soovitusi viisil, mida kliinitsist saab hinnata? Kas mudeli loogika on läbipaistev või must kast?

• Kuidas vahend toimib demograafiliste alarühmade lõikes?

Kasutuselevõtu järgselt:

• Milline turujärgse kliinilise jälgimise plaan on olemas ja kuidas leidudest teavitatakse kasutuselevõtvaid organisatsioone?

• Kuidas hallatakse mudeli uuendusi ja kas enne uuenduste kasutuselevõttu toimub ümberhindamine?

Andmed ja integratsioon:

• Kus patsiendiandmeid töödeldakse ja kas see vastab EL andmete residentsuse nõuetele?

• Kas vahend suudab integreeruda meie olemasoleva meditsiinikirjete süsteemiga ilma märkimisväärset täiendavat andmesisestust nõudmata?

• Milline on tarnija infoturbealane sertifikaat (näiteks ISO 27001)?

Punased lipud: millal tuleks tarnija valideerimise väiteid kontrollida

Mõned valideerimisväited on tehniliselt täpsed, kuid praktiliselt eksitavad. Järgmised mustrid peaksid ajendama tervishoiu otsustajaid täpsemale kontrollile.

Valideerimine viidi läbi ainult väljaspool Euroopat. Vahend, mis on valideeritud Ameerika Ühendriikides, Austraalias või teises mitte-Euroopa tervishoiusüsteemis, võib olla testitud populatsioonidel, kus on erinev haiguste levimus, hoolduse teed ja kliinilised kodeerimise tavad. See ei välista automaatselt tõendeid, kuid see nõuab tarnijalt tõendamist, miks leiud on ülekantavad, mitte lihtsalt väitmist, et nad on. Tõendid astma kliinilise otsustustoe süsteemi rakendamisest Euroopa esmatasandi tervishoiu keskkondades näitavad, et tulemused erinevad isegi Euroopas, muutes mitte-Euroopa valideerimise tähenduslikuks piiranguks.

Valideerimine ainult teisese tasandi tervishoiu või eriarsti populatsioonidel. Haigla statsionaarsed patsiendid ja suunatud eriarsti patsiendid ei ole esinduslikud diferentseerimata populatsioonile, mis esitab end üldarstiabis. Vahend, mis on valideeritud ainult nendes keskkondades, ei ole testitud patsientidel, kelle jaoks perearst seda tegelikult kasutab.

Sõltumatu eelretsensiooni puudumine. Tootja poolt koostatud sisemised valideerimisaruanded ei ole võrdväärsed eelretsenseeritud avaldamise või sõltumatu auditiga. Kui tarnija ei suuda esitada väliselt ülevaadatud tõendeid, tuleks valideerimise alust käsitleda esialgse.

Läbipaistmatu mudeli loogika. Kui tarnija ei suuda või ei taha selgitada, kuidas vahend jõuab oma soovitusteni, ei saa kliinitsistid tähenduslikult hinnata, kas soovitus on asjakohane konkreetse patsiendi jaoks. Selgitatav tehisintellekt on tuvastatud kliinilise otsustustoe süsteemi disaini kirjanduses kui eeltingimus kliinitsistide usaldusele ja ohutule kasutuselevõtule – see ei ole lihtsalt soovitav funktsioon, vaid funktsionaalne nõue.

Selge turujärgse kliinilise jälgimise plaani puudumine. Tarnija, kes ei suuda kirjeldada, kuidas nad jälgivad reaalse maailma toimivust pärast kasutuselevõttu, ei ole täitnud oma kliiniliste tõendite kohustusi MDR alusel. See on regulatiivne lünk samamoodi nagu kliiniline risk.

Tehisintellekti seaduse vastavuse väited ilma täpsustusteta. Arvestades, et tehisintellekti seaduse vastavushindamise nõuded kõrge riskiga süsteemide jaoks hõlmavad kallutatuse jälgimist, läbipaistvuse dokumentatsiooni ja inimjärelevalve mehhanisme, tuleks üldist vastavuse väidet ilma toetava dokumentatsioonita käsitleda kontrollimata.

Hanke ja juhtimise kiht: kes veel peab olema kaasatud

Kliinilise otsustustoe vahendi kasutuselevõtmine ei ole otsus, mis võib või peaks puhkama ühe perearsti või praktikajuhi õlgadel. See hõlmab kliinilisi, õiguslikke, infoturbe ja organisatsioonilise riski aspekte, mis nõuavad mitme rolli panust.

Uuringud kliinilise otsustustoe süsteemi rakendamisest Hollandi esmatasandi tervishoius toovad välja mitme sidusrühma kaasamise kui ühe kahest põhimehhanismist, mis toetavad edukat kasutuselevõttu, koos iteratiivse koosarendusega. Uuring leidis, et mitmetasandiliste, uuenduslike ja mõjukate sidusrühmade kaasamine algusest peale ning vastavuse säilitamine orkestreeriva tegija kaudu olid praktilised eeltingimused jätkusuutlikuks rakendamiseks. Otsused, mis tehti ilma selle laiema panuseta, tõid hiljem kaasa suuremaid probleeme ja kulusid.

Euroopa tervishoiusüsteemides hõlmavad kliinilise otsustustoe süsteemi hankesse tavaliselt kaasatud juhtimisrollid:

• Kliinilise ohutuse ametnikud: Vastutavad kliinilise riski hindamise ja tagamise eest, et vahendi kasutuselevõtt ei tooks kaasa patsientide ohutuse ohte. Inglismaal on see funktsioon formaliseeritud DCB0160 kliinilise riskijuhtimise standardi alusel. Samaväärsed raamistikud eksisteerivad kogu EL liikmesriikides.

• Infoturbe juhid: Vastutavad isikuandmete kaitse üldmääruse järgimise, andmetöötluse lepingute ja andmete residentsuse hindamise eest. Tarnija andmetöötluse lepingud tuleks selle funktsiooni poolt üle vaadata enne mis tahes patsiendiandmete jagamist vahendiga.

• Tellimisasutused ja tervishoiusüsteemi ostjad: Avalikult rahastatud Euroopa tervishoiusüsteemides hõlmab kliinilise tarkvara hange tavaliselt ametlikke pakkumismenetlusi, kliinilise hindamise paneele ja eelarve mõju hindamisi. Valideerimise tõendid tuleks esitada osana nendest protsessidest, mitte käsitleda lepingujärgse kaalutlusena.

• Kliinilise informaatika ja meditsiinikirjete süsteemide meeskonnad: Integratsioon olemasolevate meditsiinikirjete süsteemidega on tehniline ja kliinilise juhtimise küsimus. Vahend, mis ei suuda usaldusväärselt juurde pääseda vajalikele andmetele või mis toob kaasa uusi andmesisestuse koormusi, ei toimi valideeritult.

Eelkasutuselevõtu hindamise raamistik, mida pakutakse RISED mudelis kõrge panusega tehisintellekti otsustustoe süsteemide jaoks tervishoius, soovitab käsitleda vastavushindamist, läbipaistvuse ülevaatust ja inimjärelevalve disaini kui integreeritud komponente ühest eelkasutuselevõtu protsessist, mitte järjestikuste sammudena, mida haldavad eraldi meeskonnad. Tervishoiu otsustajate jaoks tähendab see mitmefunktsionaalse hindamisprotsessi ülesehitamist enne hankeotsuse tegemist, mitte pärast lepingu allkirjastamist.

Valideerimise tõendid ei ole selles kontekstis dokument, mida tuleb lihtsalt arhiveerida. See on alus, millel põhinevad kliiniline juhtimine, patsientide ohutus ja organisatsiooniline vastutus.

Korduma kippuvad küsimused

Mis on erinevus tarkvaratestimise ja kliinilise valideerimise vahel kliinilise otsustustoe vahendi puhul?

Tarkvaratestid kinnitavad, et süsteem käitub nii, nagu selle arendajad kavatsesid. Kliiniline valideerimine küsib, kas see kavandatud käitumine annab ohutuid ja tõhusaid tulemusi päris patsientidele päris kliinilises keskkonnas. Vahend võib olla tehniliselt korrektne ja samal ajal kliiniliselt kahjulik. Näiteks algoritm, mis täpselt arvutab riskiskoori, mis on tuletatud Põhja-Ameerika haiglate andmetest, võib süstemaatiliselt alahinnata või ülehinnata riski Euroopa esmatasandi tervishoiu populatsioonis, kus on erinevad demograafilised näitajad ja arstiabi otsimise käitumine.

Millal kvalifitseerub kliinilise otsustustoe vahend meditsiiniseadmena EL määruste alusel?

EL meditsiiniseadmete määruse 2017/745 alusel on tarkvaravahend, mis analüüsib patsiendispetsiifilisi andmeid soovituste loomiseks diagnoosimiseks, raviks, riski stratifitseerimiseks või ravimite väljakirjutamiseks, tõenäoliselt meditsiiniseadme definitsioonile vastav. Kui see on nii klassifitseeritud, peab sellel olema CE-märgis, mis nõuab tootjalt kliiniliste tõendite esitamist ohutuse ja toimivuse kohta enne vahendi Euroopa turule laskmist. Alates 2026. aastast seisavad tehisintellektiga meditsiiniseadmete tootjad silmitsi topeltvastavusega nii MDR kui ka EL tehisintellekti seaduse alusel.

Kas CE-märgis garanteerib, et kliinilise otsustustoe vahend on ohutu kasutamiseks minu praktikas?

Ei. CE-märgis on tootja deklaratsioon, et seade vastab kohaldatavatele regulatiivsetele nõuetele. See on vajalik tingimus seadusliku kasutuselevõtu jaoks Euroopas, kuid mitte piisav tingimus kliiniliseks kasutuselevõtuks üheski konkreetses keskkonnas. Ajakirjas npj Health Systems avaldatud eelretsenseeritud analüüs toob välja olulised lüngad praegustes EL MDR standardites andmepõhiste ja kohanevate tehisintellekti süsteemide jaoks, mis tähendab, et mõned vahendid võivad saavutada regulatiivse vastavuse, kuid neil puudub siiski range kliiniline valideerimine, mida nõuab kasutuselevõtt esmatasandi tervishoius.

Miks on kliinilise otsustustoe vahendi valideerimine üldarstiabi jaoks eriti keeruline?

Üldarstiabi esitab tingimusi, mis erinevad struktuurilt haigla ja eriarsti keskkondadest, kus paljud vahendid on esmakordselt välja töötatud. Perearst kohtub patsientidega enne diagnoosi kehtestamist, seega võib vahend, mis on valideeritud teisese tasandi tervishoiu kirjetest pärit kodeeritud diagnooside põhjal, toimida halvasti ebaselgete, sümptomitasemel esinevate kaebuste suhtes, millega patsiendid perearsti vastuvõtule pöörduvad. Esmatasandi tervishoiu populatsioonid on ka mitmekesisemad vanuse, multimorbiidsuse ja sotsiaalmajandusliku tausta poolest kui haigla kohordid, mis mõjutab baasintensiivsust, millest sõltuvad ennustavad algoritmid.

Mida tähendab turujärgne kliiniline jälgimine kliinilise otsustustoe vahendite jaoks ja miks see on oluline?

Turujärgne kliiniline jälgimine on kohustuslik nõue MDR alusel meditsiiniseadmete tarkvara jaoks. See nõuab tootjatelt süstemaatilist reaalse maailma tõendite kogumist ja ülevaatamist seadme toimivuse kohta pärast kasutuselevõttu. Kliinilise otsustustoe vahendite puhul hõlmab see soovituste täpsuse ja hoiatuste määrade pidevat jälgimist, järelevalvet kliinitsistide tühistamise mustrite üle, mis võivad viidata süstemaatilistele vigadele, ning perioodilist ümberhindamist, kui patsientide populatsioonid muutuvad või kliinilisi juhendeid uuendatakse. Tarnija, kellel puudub selge kasutuselevõtujärgne jälgimisplaan, kujutab endast juhtimisriski samamoodi nagu kliinilist riski.

Milliseid andmetega seotud küsimusi peaksid tervishoiu otsustajad küsima enne kliinilise otsustustoe vahendi kasutuselevõttu?

Kolm küsimust on eriti olulised. Esiteks, kas treeningandmed on saadud seaduslikult isikuandmete kaitse üldmääruse alusel, mis nõuab kas selgesõnalist patsiendi nõusolekut, seaduslikku õiguslikku alust või nõuetekohaselt anonüümitud andmeid? Teiseks, kus patsiendiandmeid töödeldakse järeldamise ajal ja kas see vastab EL andmete residentsuse nõuetele? Kolmandaks, kas tarnija esitab dokumentatsiooni, mis näitab, et treeningandmed olid esinduslikud kavandatud kasutuspopulatsiooni jaoks ja et kallutatuse jälgimine on olemas? Üldised kinnitused isikuandmete kaitse üldmääruse järgimise kohta ei asenda konkreetseid vastuseid igale nendele küsimustele.

Millised on punased lipud, mis peaksid ajendama tarnija valideerimisväidete täpsemale kontrollile?

Mitu mustrit peaksid ajendama täpsemale kontrollile. Valideerimine, mis viidi läbi ainult väljaspool Euroopat, ei pruugi kanduda üle Euroopa esmatasandi tervishoiu populatsioonidele. Valideerimine ainult teisese tasandi tervishoiu või eriarsti populatsioonidel tähendab, et vahendit ei ole testitud diferentseerimata patsientidel, kelle jaoks perearst seda tegelikult kasutab. Sõltumatu eelretsensiooni puudumine tähendab, et tõendusbaasi tuleks käsitleda esialgse. Läbipaistmatu mudeli loogika takistab kliinitsistidel hinnata, kas soovitus on asjakohane konkreetse patsiendi jaoks. Ja tarnija, kes ei suuda kirjeldada oma turujärgse kliinilise jälgimise plaani, ei ole täitnud oma kliiniliste tõendite kohustusi MDR alusel.

Kes peaks olema kaasatud kliinilise otsustustoe vahendi kasutuselevõtu otsusesse?

Kliinilise otsustustoe vahendi kasutuselevõtmine ei ole otsus, mis võib puhkada ühe perearsti või praktikajuhi õlgadel. See hõlmab kliinilisi, õiguslikke, infoturbe ja organisatsioonilise riski aspekte. Tavaliselt kaasatud juhtimisrollid hõlmavad kliinilise ohutuse ametnikke, infoturbe juhte, tellimisasutusi ja kliinilise informaatika meeskondi, kes vastutavad meditsiinikirjete süsteemi integratsiooni eest. Uuringud kliinilise otsustustoe süsteemi rakendamisest Hollandi esmatasandi tervishoius toovad välja mitme sidusrühma kaasamise kui ühe kahest põhimehhanismist, mis toetavad edukat kasutuselevõttu, koos iteratiivse koosarendusega.

Milliseid kliinilisi tõendeid peaks tarnija olema võimeline esitama enne vahendi kasutuselevõttu?

Tarnijad peaksid olema võimelised esitama kliinilise valideerimise uuringute eelretsenseeritud avaldamist, valideerimise populatsiooni üksikasju, sealhulgas vanus, kaasuvate haiguste profiil, etniline kuuluvus ja tervishoiusüsteem, ning toimivuse mõõdikuid nagu tundlikkus, spetsiifilisus ja positiivne ennustav väärtus. Euroopa esmatasandi tervishoiu keskkondades läbiviidud uuringud kannavad rohkem kaalu kui teistes hoolduskontekstides läbiviidud uuringud. Tootja poolt koostatud sisemised valideerimisaruanded ei ole võrdväärsed sõltumatult ülevaadatud tõenditega ja neid tuleks käsitleda esialgse, kui välist ülevaadet ei ole saadaval.

Kuidas EL tehisintellekti seadus muudab kliinilise otsustustoe vahendite vastavusnõudeid?

EL tehisintellekti seadus klassifitseerib automaatselt tehisintellektipõhised kliinilise otsustustoe süsteemid kõrge riskiga. See käivitab kohustusliku vastavushindamise, kallutatuse jälgimise, läbipaistvuskohustused ja inimjärelevalve nõuded, mis lähevad kaugemale sellest, mida MDR üksi nõudis. Alates 2026. aastast seisavad tehisintellektiga meditsiiniseadmete tootjad silmitsi topeltvastavusega nii MDR kui ka tehisintellekti seaduse alusel. Üldist tehisintellekti seaduse vastavuse väidet ilma toetava dokumentatsioonita tuleks käsitleda kontrollimata, arvestades, et vastavushindamise nõuded hõlmavad kallutatuse jälgimist, läbipaistvuse dokumentatsiooni ja inimjärelevalve mehhanisme.