AI-tööriista lepingu allkirjastamine võib tunduda hankemenetluse lõpusirgena, kuid praktikajuhtide jaoks on see pigem stardipauk. Kui leping on allkirjastatud ja tööriist kasutusele võetud, lasuvad selle kasutuselevõtuga seotud kliinilised, õiguslikud ja regulatiivsed kohustused kindlalt praktikal, mitte müüjal. AI kasutuselevõtt edeneb kiiremini kui põhjalik reaalne hindamine ja reguleerimine viisil, mis loob tõelise riski praktikatele, kes pole teinud põhjalikku hoolsuskohustuse kontrolli. See juhend esitab konkreetsed küsimused, mida praktikajuhid peaksid esitama, ja dokumendid, mida nad peaksid läbi vaatama enne lepingu allkirjastamist.

Kas tööriist on klassifitseeritud meditsiiniseadmeks ja mida see teie jaoks tähendab

Mitte iga kliinilises keskkonnas kasutatav AI-tööriist ei ole meditsiiniseade, kuid paljud on. See eristus kannab olulist regulatiivset kaalu. Ühendkuningriigis klassifitseerib Medicines and Healthcare products Regulatory Agency (MHRA) tarkvara meditsiiniseadmena. Kui AI-tööriist toetab kliinilist diagnoosimist, triaažiotsuseid või ravijuhiseid, kuulub see tõenäoliselt Software as a Medical Device (SaMD) definitsiooni alla ja vajab UKCA või CE märgistust vastavalt Medical Device Regulation (MDR)-ile.

Enne allkirjastamist peaksid praktikajuhid:

• Otsima MHRA Product and Registration Database (PARD) andmebaasist, et kinnitada, kas tööriist on registreeritud meditsiiniseadmena

• Küsima müüjalt otse nende MHRA registreerimise staatust ja seadme klassi

• Kontrollima, kas tööriistal on NICE hinnang, Medtech Innovation Briefing (MIB), Diagnostics Guidance (DG) või Early Value Assessment (EVA)

• Kinnitama, kas tööriistal on kehtiv UKCA või CE märgis, kui see on klassifitseeritud meditsiiniseadmena

CQC GP Mythbuster 109 AI kohta, mis avaldati juulis 2025, teeb selgeks, et inspektorid kontrollivad, kas praktikad on kinnitanud MHRA registreerimise, kui see on kohaldatav, ja kas hange viidi läbi DCB0160 ja Digital Technology Assessment Criteria (DTAC) standardite alusel. Tööriistad, mis ei ole klassifitseeritud meditsiiniseadmetena, ei ole kontrollist vabastatud. Neil on endiselt andmekaitse, kliinilise ohutuse ja juhtimisraamistike kohustused.

Kes kannab kliinilist ja õiguslikku vastutust, kui midagi läheb valesti

See on üks kõige olulisemaid küsimusi mis tahes AI-tööriista lepingus. Müüja lepingud varjavad seda sageli. Üldine seisukoht NHS esmatasandi arstiabis on, et NHS organisatsioonid võivad endiselt vastutada AI-ga seotud nõuete eest isegi kolmandate osapoolte tööriistade kasutamisel ning vastutus mittevastava AI-lahenduse kasutamise eest lasub kasutuselevõtval organisatsioonil või üksikul kliinikul.

Müüjad piiravad tavaliselt oma vastutust tarkvaraga, mis toimib lepingus kirjeldatud viisil. Nad ei võta vastutust kliiniliste otsuste eest, mis tehakse AI-väljundite põhjal. See tähendab, et kui AI loodud kliiniline märge sisaldab viga, mis mõjutab patsiendi ravi, kannab praktika, mitte müüja, tõenäoliselt kliinilisi ja õiguslikke tagajärgi.

Lepingutingimuste läbivaatamisel peaksid praktikajuhid otsima:

• Selgeid avaldusi selle kohta, kus kliiniline vastutus paikneb ja kas müüja võtab vastutuse AI loodud väljundite eest, mis sisenevad patsiendi andmetesse

• Hüvitisklausleid ja seda, kas müüja hüvitis hõlmab kliinilisi juhtumeid või piirdub tarkvara toimimise tõrgetega

• Kas müüja tingimused nõuavad, et praktika säilitaks inimese järelevalve kõigi AI-väljundite üle ja millist selle järelevalve dokumenteerimist oodatakse

• Kas praktika on konsulteerinud oma meditsiinilise kaitse organisatsiooni või hüvitise pakkujaga tööriista kasutamise osas

Surrey & Sussex LMCs soovitavad praktikatel kaasata oma Integrated Care Boardi (ICB), et tagada kindlustus ning veenduda, et kõik AI loodud väljundid kontrollitakse kliiniku poolt enne patsiendi andmetesse sisestamist. See inimese sekkumise nõue ei ole lihtsalt hea tava, vaid on ohutu kasutuselevõtu tingimus praeguste NHS juhiste alusel.

Kus patsiendi andmeid töödeldakse ja säilitatakse

Andmete asukoht on põhiküsimus mis tahes kliinilise AI hankes. Müüja vastused ei ole alati selged. Vastavalt Ühendkuningriigi General Data Protection Regulationile (GDPR) ja ühisõiguse konfidentsiaalsuskohustusele on patsiendi andmed erikategooria andmed ning nende töötlemine peab olema seaduslik, läbipaistev ja proportsionaalne. Kui patsiendi andmeid, sealhulgas konsultatsioonide helisalvestisi, edastatakse töötlemiseks või säilitamiseks väljaspool Ühendkuningriiki või EL-i, on vaja täiendavaid kaitsemeetmeid.

NHS Englandi juhised ümbritseva helisalvestise toodete kohta kinnitavad, et Data Protection Impact Assessment (DPIA) on enne kasutuselevõttu väga tõenäoliselt õiguslik nõue, arvestades erikategooria terviseandmete ulatuslikku töötlemist. NHS Transformation Directorate'i infoturbe juhised rõhutavad, et DPIA-d peavad käsitlema töödeldavate andmete liike (sealhulgas heli ja transkriptsioonid), müüja andmete taaskasutamist AI-mudeli koolitamiseks ja patsiendi läbipaistvuse kohustusi.

Peamised küsimused, mida müüjatelt enne allkirjastamist küsida:

• Kus patsiendi andmeid töödeldakse? Kas Ühendkuningriigis, EL-is või kolmandas riigis?

• Kes on müüja alltöötlejad ja kus nad asuvad?

• Kas müüja kasutab patsiendi konsultatsiooniandmeid oma AI-mudelite koolitamiseks või täiustamiseks ja kui jah, siis millisel õiguslikul alusel?

• Kas lepingusse on lisatud Data Processing Agreement (DPA) ja kas see vastab UK GDPR artikli 28 nõuetele?

• Mis on erinevus anonüümsete ja pseudonüümsete andmete vahel müüja töötlemisel ning milline on jääkrisk uuesti tuvastamiseks?

Spencer West LLP õiguslik kommentaar märgib, et erinevus anonüümsete ja pseudonüümsete andmete vahel on siin eriti oluline, kuna pseudonüümsed andmed säilitavad jääkriski uuesti tuvastamiseks ega kuulu andmekaitseõigusest vabastamisele.

Milliseid turvasertifikaate peaks müüjal olema

Turvasertifikaadid ei ole turvalisuse garantii, kuid nende puudumine on oluline signaal müüja küpsuse ja investeeringu kohta andmekaitsesse. NHS esmatasandi arstiabis kasutatavate kliiniliste AI-tööriistade puhul on olemas baastaseme sertifikaadid ja hinnangud, mida usaldusväärne müüja peaks suutma tõendada.

Praktikad peaksid eeldama, et müüjatel on või nad töötavad aktiivselt selle nimel, et omada:

• ISO 27001, rahvusvaheline infoturbe juhtimissüsteemide standard

• NHS Data Security and Protection (DSP) Toolkit vastavus – NHS-i enda raamistik andmeturbe hindamiseks, mis on lepinguline nõue NHS-i patsiendiandmetele juurdepääsu omavate organisatsioonide jaoks

• Cyber Essentials või Cyber Essentials Plus – Ühendkuningriigi valitsuse baastaseme küberturvalisuse sertifikaat

• DTAC vastavus – NHS Englandi raamistik, mis hõlmab andmekaitset, tehnilist turvalisust, koostalitlusvõimet ja kliinilist ohutust

iatroX hankejuhend NHS-i ostjatele soovitab, et praktikad tagaksid, et müüjal on läbitud DTAC-pakett enne kasutuselevõttu. NHS Englandi juhised ümbritseva helisalvestise kohta märgivad ka küberturvalisuse riske, mis on spetsiifilised suurte keelemudelite jaoks, sealhulgas võimalust kiire süstimise rünnakuteks ja andmete lekkeks mudeli väljundite kaudu.

Müüjat, kes ei suuda esitada tõendeid nende sertifikaatide kohta või kes ei esita praegust DSP Toolkit esitust, tuleks käsitleda ettevaatlikult, olenemata sellest, kui veenev nende toote demonstratsioon võib olla.

Kuidas tööriist integreerub teie olemasoleva meditsiiniandmete süsteemiga

Enamik Inglismaa perearsti praktikaid kasutab kas EMIS Webi või SystmOne’i oma peamise meditsiiniandmete süsteemina. AI-tööriista praktiline väärtus, eriti ümbritseva helisalvestise kirjutaja või dokumenteerimise assistendi puhul, sõltub suuresti sellest, kui hästi see integreerub praktika olemasoleva süsteemiga. Integratsioon, mis nõuab AI loodud sisu käsitsi kopeerimist ja kleepimist meditsiiniandmetesse, suurendab oluliselt transkriptsioonivigade riski ja vähendab oluliselt efektiivsuse kasu.

Enne allkirjastamist peaksid praktikajuhid kindlaks tegema:

• Kas tööriistal on natiivne, sertifitseeritud integratsioon EMIS Webi või SystmOne’iga või kas see tugineb muule lahendusele

• Kes vastutab integratsiooni säilitamise eest, kui meditsiiniandmete süsteemi pakkuja avaldab uuendusi: AI-müüja, süsteemi pakkuja või praktika

• Kas integratsiooni on testitud reaalajas perearsti keskkonnas, mitte ainult arendus- või teisese ravi keskkonnas

• Milline on tagavaraprotsess, kui integratsioon katkeb kliinilise seansi ajal

iatroX juhend AI-tööriistade kohta Ühendkuningriigi perearsti praktikate jaoks toob välja meditsiiniandmete süsteemi integratsiooni kui ühe peamise hindamiskriteeriumi ümbritseva helisalvestise kirjutajate jaoks, märkides, et hankeotsused peaksid arvestama kogu omandikulu, sealhulgas töövoo kohandusi, mis on vajalikud, kui integratsioon on ebatäiuslik. Integratsiooni tõrked ei ole lihtsalt tehniline ebamugavus – kliinilises keskkonnas võivad need põhjustada lünki patsiendi andmetes või tuua sisse vigu, millel on patsiendi ohutuse tagajärjed.

Mis saab teie andmetega, kui lõpetate lepingu

Andmete ülekantavus ja kustutamine lepingu lõpetamisel on valdkonnad, kus müüja lepingud on sageli ebamäärased. Praktikad võivad sattuda keerulisse olukorda, kui nad pole läbi rääkinud selgeid tingimusi ette. Küsimused, mis tuleb lahendada enne allkirjastamist, on:

• Kui kaua müüja säilitab patsiendi andmeid pärast lepingu lõpetamist ja millisel õiguslikul alusel?

• Kas praktika saab eksportida täieliku koopia kõigist müüja valduses olevatest patsiendi andmetest enne lõpetamist?

• Mida "kustutamine taotluse korral" tegelikult tähendab? Kas see hõlmab kõiki koopiaid, sealhulgas varukoopiaid ja alltöötlejate andmeid?

• Milline on kinnitatud kustutamise ajakava ja kas müüja annab kirjaliku kinnituse?

Vastavalt UK GDPR-ile on andmesubjektidel õigused, sealhulgas õigus kustutamisele. Praktika kui andmete vastutav töötleja vastutab selle eest, et neid õigusi saaks kasutada isegi pärast müüja suhte lõppemist. Privaatsus ja turvalisus kogu terviseandmete elutsükli jooksul on kasvav regulatiivse kontrolli valdkond. Praktikad, kes ei suuda aru anda, kuhu patsiendi andmed läksid pärast müüja lepingu lõppemist, võivad seista silmitsi vastavusriskiga.

Lepingutingimused, mis võimaldavad müüjatel säilitada andmeid pikemaks ajaks pärast lõpetamist „toote täiustamise” või „mudeli koolitamise” eesmärkidel, tuleks märkida õiguslikuks läbivaatamiseks enne allkirjastamist.

Kas AI-tööriist on koolitatud NHS-i või samaväärsetel kliinilistel andmetel

AI-tööriista arendamiseks kasutatud koolitusandmed mõjutavad otseselt selle kliinilist täpsust Ühendkuningriigi esmatasandi arstiabi kontekstis. Näiteks tööriist, mis on koolitatud peamiselt USA kliinilistel andmetel, võib toimida halvasti Ühendkuningriigi spetsiifilistel kliinilistel koodidel (nt SNOMED CT, nagu kasutatakse NHS-is), ravimite nimedel ja annustamiskonventsioonidel, suunamisteedel või perearsti konsultatsioonide erilise dokumenteerimisstiili puhul.

Kliiniliste spetsialistide vaatenurgad AI kohta esmatasandi arstiabis tõstatavad järjepidevalt muresid koolitusandmete kaudu tutvustatud eelarvamuste kohta. Laranjo jt Lancet Primary Care'is on märkinud, et kiire kasutuselevõtt enne põhjalikku hindamist tõstatab muresid ootamatute tagajärgede kohta ravi kvaliteedile. Need ei ole abstraktsed riskid, vaid tõlgenduvad otseselt kliiniliste märkmete täpsuseks, soovitatud kliiniliste koodide asjakohasuseks ja mis tahes otsuste toetamise väljundite usaldusväärsuseks.

Müüja koolitusandmete väidete hindamisel peaksid praktikajuhid küsima:

• Kas mudel koolitati NHS-i või Ühendkuningriigi esmatasandi arstiabi andmetel ja kas müüja saab esitada selle dokumentatsiooni?

• Kas mudelit on valideeritud spetsiifiliselt Ühendkuningriigi perearsti konsultatsiooni andmetel?

• Kas müüja avaldab mudeli kaardi või samaväärse tehnilise dokumentatsiooni, mis kirjeldab koolitusandmete allikaid, teadaolevaid piiranguid ja jõudluse võrdlusaluseid?

• Kuidas mudel käsitleb Ühendkuningriigi spetsiifilist kliinilist terminoloogiat, ravimite nimesid ja suunamise konventsioone?

Müüjad peaksid suutma nendele küsimustele vastata dokumenteeritud tõenditega, mitte pelgalt turundusväidetega. Kui müüja ei suuda seda teavet esitada, on see oluline lünk nende kliinilises tõendusbaasis.

Kes praktikas vastutab tööriista järelevalve eest

AI-tööriista juhtimine ei ole ühekordne hankeotsus, vaid jätkuv operatiivne vastutus. CQC GP Mythbuster 109 määratleb, mida inspektorid otsivad, sealhulgas Clinical Safety Officer’i (CSO) nimetamist, riskihindamise ja ohtude logi säilitamist ning tõendeid selle kohta, et AI-väljundite inimese järelevalve on praktika töövoogudesse sisse ehitatud.

Nõue nimetada CSO praktika tasemel on see, mida Surrey & Sussex LMCs tunnustavad väiksemate praktikate jaoks praktilise väljakutsena. See on regulatiivne ootus, mitte valikuline täiendus. CSO ei pea olema täiskohaga roll, kuid praktika peab suutma tuvastada nimega isiku, kes kannab seda vastutust ja suudab näidata, et ta seda täidab.

Juhtimisdokumentatsioon, mida praktika peaks säilitama, hõlmab:

• Lõpetatud DCB0160 kliinilise ohutuse juhtumit tööriista kasutuselevõtu jaoks

• Riskihindamist ja ohtude logi, mida vaadatakse regulaarselt üle ja uuendatakse, kui tööriist muutub

• Kliiniliste spetsialistide koolituse kirjeid tööriista kohta, sealhulgas teadlikkust selle piirangutest

• Logi mis tahes juhtumite või peaaegu-õnnetuste kohta, mis hõlmavad AI loodud väljundeid

• Tõendeid selle kohta, et kõik patsiendi andmetesse sisenevad AI loodud sisud on läbi vaadatud kliiniku poolt

See dokumentatsioon ei ole oluline ainult CQC inspekteerimise jaoks, vaid on tõendusbaas, mis kaitseb praktikat, kui toimub kliiniline juhtum ja tekivad küsimused selle kohta, kuidas tööriist kasutusele võeti ja järelevalvet teostati.

Milline näeb välja müüja tugi ja juhtumite reageerimise kord

Service Level Agreement (SLA) on standardne osa mis tahes tarkvaralepingus, kuid kliiniliste AI-tööriistade puhul on toe ebaõnnestumise panused kõrgemad kui enamiku tarkvara puhul. Kui ümbritseva helisalvestise kirjutaja ebaõnnestub konsultatsiooni keskel või kui AI loodud märge sisaldab süsteemset viga, mida ei märgata kohe, peab praktika teadma, et müüja reageerib kiiresti ja kliinilise arusaamisega.

Enne allkirjastamist peaksid praktikajuhid läbi vaatama:

• Reageerimis- ja lahendusajad SLA-s ning kas need eristavad kliinilise ohutuse juhtumeid ja üldisi tehnilisi probleeme

• Kas müüjal on nimega kontakt perearsti praktikate jaoks või kas tugi suunatakse läbi üldise abiteenuse

• Milline on müüja protsess praktikate teavitamiseks kliinilise ohutuse juhtumist, sealhulgas kui kiiresti nad suhtlevad ja millist teavet nad esitavad

• Kas müüjal on dokumenteeritud kliinilise ohutuse juhtumi teatamise protsess, mis vastab NHS-i standarditele

NHS Englandi juhised ümbritseva helisalvestise toodete kohta nõuavad, et lepingulised kokkulepped määratleksid selgelt rollid, vastutused ja vastutuse, sealhulgas juhtumite reageerimise. Müüja, kes ei suuda sõnastada selget kliinilise ohutuse juhtumi protsessi, ei ole valmis kasutuselevõtuks esmatasandi arstiabi keskkonnas.

Kas tööriista on hinnatud reaalsetes esmatasandi arstiabi tingimustes

See on küsimus, millele paljud müüjad vaevlevad vastamisega kõvade tõenditega. Lõhe veenva demonstratsiooni ja eelretsenseeritud hindamise vahel reaalajas perearsti keskkonnas on oluline. Uuringud AI kirjutajate kohta esmatasandi arstiabis on hakanud dokumenteerima pakkujate kogemusi ja eetilisi muresid reaalsetes tingimustes, kuid tõendusbaas jääb piiratuks ja suuresti uurivaks.

Frontiers in Health Services ülevaade NHS-i AI hankimise raamistikest soovitab, et müüja vastavuse dokumentatsioon peaks sisaldama kliinilisi tõendeid, mitte ainult tehnilisi sertifikaate. Praktikajuhid peaksid paluma müüjatel esitada:

• Avaldatud eelretsenseeritud uuringud või dokumenteeritud piloottulemused perearsti või esmatasandi arstiabi keskkondadest

• Juhtumiuuringud Ühendkuningriigi esmatasandi arstiabi tingimustest mõõdetavate tulemustega (dokumenteerimise aeg, kliiniline täpsus, kliiniliste spetsialistide rahulolu)

• Tõendid hindamisest NHS-spetsiifiliste töövoogude ja meditsiiniandmete süsteemide vastu

• Mis tahes teadaolevad piirangud või tõrkerežiimid, mis on tuvastatud reaalajas testimise ajal

Tõendid teisese ravi või rahvusvahelise esmatasandi arstiabi kohta ei kandu otse üle Ühendkuningriigi üldarstiabisse. Konsultatsiooni struktuurid, dokumenteerimise konventsioonid ja regulatiivsed nõuded erinevad oluliselt. Tööriist, mis toimib hästi haigla ambulatoorse ravi keskkonnas või USA esmatasandi arstiabi kontekstis, ei pruugi toimida samaväärselt Ühendkuningriigi perearsti kabinetis.

On ka laiem tõendite lünk, mida tuleb tunnistada. Nagu Laranjo jt Lancet'is märgivad, edeneb AI kasutuselevõtt esmatasandi arstiabis praegu kiiremini kui põhjalik hindamine, mis on vajalik selle reaalajas mõju mõistmiseks. See ei tähenda, et praktikad peaksid AI-tööriistu vältima, kuid müüja väiteid tuleks hoolikalt kontrollida ning kasutuselevõtu järgnev jälgimine on hädavajalik.

Allkirjastamiseelne kontrollnimekiri praktikajuhtidele

Järgmine kontrollnimekiri koondab selles artiklis käsitletud peamised kontrollipunktid. Kasutage seda praktilise viitena enne mis tahes AI-tööriista lepingu allkirjastamist.

Regulatiivne ja kliiniline ohutus

• [ ] Kinnitatud MHRA registreerimise staatus ja seadme klass (otsige PARD-ist, kui kohaldatav)

• [ ] Müüjal on DCB0129 kliinilise ohutuse juhtumi dokumentatsioon

• [ ] Praktika on lõpetanud või alustanud DCB0160 kliinilise ohutuse juhtumi kasutuselevõtuks

• [ ] DTAC hindamine lõpetatud ja läbitud müüja poolt

• [ ] NICE hindamine kontrollitud (MIB, DG või EVA), kui kohaldatav

Andmekaitse ja infoturve

• [ ] DPIA lõpetatud enne kasutuselevõttu

• [ ] Data Processing Agreement lisatud lepingusse, UK GDPR artikli 28 nõuetele vastav

• [ ] Andmete asukoht kinnitatud, Ühendkuningriigi või EL-i töötlemine ja säilitamine

• [ ] Alltöötlejad tuvastatud ja hinnatud

• [ ] Müüja poliitika patsiendi andmete kasutamise kohta mudeli koolitamiseks läbi vaadatud ja kokku lepitud

• [ ] Andmete kustutamise ja ülekantavuse tingimused kinnitatud lepingu lõpetamisel

Turvalisus

• [ ] ISO 27001 sertifikaat kinnitatud

• [ ] NHS DSP Toolkit vastavus kinnitatud

• [ ] Cyber Essentials või Cyber Essentials Plus kinnitatud

• [ ] DTAC küberturvalisuse sektsioon läbitud

Vastutus ja lepinguline kokkulepe

• [ ] Vastutuse jaotus selgelt määratletud lepingus

• [ ] Hüvitisklauslid läbi vaadatud, ulatus kinnitatud

• [ ] Meditsiinilise kaitse organisatsiooniga või hüvitise pakkujaga konsulteeritud

• [ ] Rollid, vastutused ja juhtumite reageerimine määratletud lepingus

Meditsiiniandmete süsteemi integratsioon

• [ ] Natiivne integratsioon EMIS Webi või SystmOne’iga kinnitatud

• [ ] Integratsiooni säilitamise vastutus määratletud

• [ ] Testitud reaalajas Ühendkuningriigi perearsti keskkonnas

Juhtimine

• [ ] Clinical Safety Officer nimetatud praktika tasemel

• [ ] Riskihindamine ja ohtude logi algatatud

• [ ] Kliiniliste spetsialistide koolituse plaan olemas

• [ ] Kõigi AI-väljundite inimese läbivaatus kinnitatud töövoo nõudena

Tõendid ja tugi

• [ ] Kliinilised tõendid Ühendkuningriigi esmatasandi arstiabi tingimustest läbi vaadatud

• [ ] SLA läbi vaadatud, kliinilise ohutuse juhtumi reageerimisajad kinnitatud

• [ ] Nimega müüja kontakt perearsti praktikate jaoks kinnitatud

• [ ] Koolitusandmete päritolu dokumenteeritud müüja poolt

Allkirjastamine enesekindlusega, mitte ainult kiirusega

AI-hange üldarstiabis on kliinilise juhtimise otsus sama palju kui operatiivne otsus. 2025. ja 2026. aastal saadaolevad tööriistad pakuvad tõelist potentsiaali dokumenteerimise koormuse vähendamiseks ja kliiniliste spetsialistide toetamiseks, kuid see potentsiaal realiseerub ainult turvaliselt, kui praktika on kinnitanud regulatiivse vastavuse, andmekaitsekohustused, vastutuse jaotuse ja kliinilised tõendid enne kasutuselevõtu algust.

Digital Healthi aruandlus NHS-i AI hankimise kohta tabab praeguse regulatiivse reaalsuse selgelt: olemasolevad standardid ei olnud loodud õppivate AI-süsteemide jaoks ning müüjate tegevuse tempo esmatasandi arstiabis tähendab, et praktikad peavad olema, NHS Englandi riikliku Chief Clinical Information Officer’i sõnul, „tugevad tagamaks, et see, mida me teeme, on ohutu, kindlustatud ja toob kasu.”

Selles artiklis esitatud küsimused ja kontrollid ei ole takistused vastuvõtmisele. Need on alus, millele ohutu, tõhus ja kaitsev vastuvõtmine on ehitatud. Müüja, kes ei suuda neile selgelt ja dokumenteeritud tõenditega vastata, ei ole valmis kasutuselevõtuks kliinilises keskkonnas. Praktika, kes pole neid küsinud, kannab riski, millest ta ei pruugi veel teadlik olla.

Korduma kippuvad küsimused

▶ Kas perearsti praktikas kasutatav AI-tööriist peab olema registreeritud meditsiiniseadmena?

See sõltub sellest, mida tööriist teeb. Kui see toetab kliinilist diagnoosimist, triaažiotsuseid või ravijuhiseid, on see tõenäoliselt klassifitseeritud Software as a Medical Device’ina Medicines and Healthcare products Regulatory Agency poolt ning vajab UKCA või CE märgistust vastavalt Medical Device Regulationile. Praktikajuhid peaksid otsima MHRA Product and Registration Database’i andmebaasist, et kinnitada tööriista registreerimise staatus enne mis tahes lepingu allkirjastamist. Tööriistad, mis ei ole klassifitseeritud meditsiiniseadmetena, kannavad endiselt andmekaitse, kliinilise ohutuse ja juhtimisraamistike kohustusi.

▶ Kes vastutab, kui AI loodud kliiniline märge sisaldab viga, mis mõjutab patsiendi ravi?

NHS esmatasandi arstiabis lasub vastutus AI-ga seotud kliiniliste juhtumite eest tavaliselt kasutuselevõtval organisatsioonil või üksikul kliinikul, mitte müüjal. Müüjad piiravad üldiselt oma vastutust tarkvaraga, mis toimib lepingus kirjeldatud viisil, ega võta vastutust kliiniliste otsuste eest, mis tehakse AI-väljundite põhjal. Praktikajuhid peaksid hüvitisklausleid hoolikalt läbi vaatama, kinnitama, kas nende meditsiinilise kaitse organisatsiooniga on konsulteeritud, ja tagama, et kõik AI loodud sisud vaadatakse läbi kliiniku poolt enne patsiendi andmetesse sisestamist.

▶ Kus peaks patsiendi andmeid töötlema ja säilitama kliinilise AI-tööriista kasutamisel?

Patsiendi andmed on erikategooria andmed vastavalt Ühendkuningriigi General Data Protection Regulationile ning neid tuleb töödelda seaduslikult, läbipaistvalt ja proportsionaalselt. Kui andmeid edastatakse väljaspool Ühendkuningriiki või EL-i, on vaja täiendavaid kaitsemeetmeid. Enne allkirjastamist peaksid praktikad kinnitama, kus müüja töötleb ja säilitab andmeid, kes on nende alltöötlejad ning kas lepingusse on lisatud Data Processing Agreement, mis vastab UK GDPR artikli 28 nõuetele. NHS England kinnitab, et Data Protection Impact Assessment on enne kasutuselevõttu väga tõenäoliselt õiguslik nõue.

▶ Milliseid turvasertifikaate peaks kliinilisel AI-müüjal olema?

Usaldusväärsetel müüjatel peaks olema või nad peaksid aktiivselt töötama ISO 27001 (rahvusvaheline infoturbe juhtimise standard), NHS Data Security and Protection Toolkit’i vastavuse, Cyber Essentials või Cyber Essentials Plus ja Digital Technology Assessment Criteria vastavuse nimel. NHS DSP Toolkit on lepinguline nõue NHS-i patsiendiandmetele juurdepääsu omavate organisatsioonide jaoks. Müüjat, kes ei suuda esitada tõendeid nende sertifikaatide kohta või kes ei esita praegust DSP Toolkit esitust, tuleks käsitleda ettevaatlikult.

▶ Mis saab patsiendi andmetega, kui praktika lõpetab lepingu AI-müüjaga?

See on valdkond, kus müüja lepingud on sageli ebamäärased. Praktikad peaksid enne allkirjastamist kinnitama, kui kaua müüja säilitab patsiendi andmeid pärast lõpetamist, kas täieliku ekspordi kõigist patsiendi andmetest on võimalik ning mida „kustutamine taotluse korral” praktikas hõlmab, sealhulgas varukoopiad ja alltöötlejate andmed. Vastavalt UK GDPR-ile vastutab praktika kui andmete vastutav töötleja selle eest, et patsientide õigusi, sealhulgas õigust kustutamisele, saaks kasutada isegi pärast müüja suhte lõppemist. Lepingutingimused, mis võimaldavad müüjatel säilitada andmeid mudeli koolitamiseks pärast lõpetamist, tuleks märkida õiguslikuks läbivaatamiseks.

▶ Kas on oluline, kas AI-tööriist koolitati NHS-i või Ühendkuningriigi esmatasandi arstiabi andmetel?

Jah. Koolitusandmed mõjutavad otseselt kliinilist täpsust Ühendkuningriigi esmatasandi arstiabi kontekstis. Tööriist, mis on koolitatud peamiselt USA kliinilistel andmetel, võib toimida halvasti NHS-i spetsiifiliste kliiniliste koodidega (nt SNOMED CT), Ühendkuningriigi ravimite nimede ja annustamiskonventsioonidega, suunamisteedega ning perearsti konsultatsiooni dokumenteerimisstiiliga. Praktikad peaksid küsima müüjatelt, kas mudel koolitati ja valideeriti Ühendkuningriigi perearsti konsultatsiooni andmetel ning kas müüja avaldab mudeli kaardi, mis kirjeldab koolitusandmete allikaid, teadaolevaid piiranguid ja jõudluse võrdlusaluseid. Turundusväited ei asenda dokumenteeritud tõendeid.

▶ Kes praktikas vastutab AI-tööriista järelevalve eest pärast selle kasutuselevõttu?

Care Quality Commissioni GP Mythbuster 109 tehisintellekti kohta määratleb, et praktikad peavad nimetama nimega Clinical Safety Officer’i, säilitama riskihindamise ja ohtude logi ning integreerima AI-väljundite inimese järelevalve kliinilistesse töövoogudesse. See on regulatiivne ootus, mitte valikuline samm. Praktikad peaksid ka säilitama lõpetatud DCB0160 kliinilise ohutuse juhtumi, kliiniliste spetsialistide koolituse kirjed ja logi mis tahes juhtumite kohta, mis hõlmavad AI loodud väljundeid. See dokumentatsioon kaitseb praktikat, kui toimub kliiniline juhtum ja tekivad küsimused selle kohta, kuidas tööriist kasutusele võeti.

▶ Kuidas peaks praktika hindama, kas AI-tööriist integreerub korralikult oma meditsiiniandmete süsteemiga?

Enamik Inglismaa perearsti praktikaid kasutab kas EMIS Webi või SystmOne’i. Praktikad peaksid kinnitama, kas tööriistal on natiivne, sertifitseeritud integratsioon nende süsteemiga, mitte ajutine lahendus; kes vastutab selle integratsiooni säilitamise eest, kui meditsiiniandmete süsteemi pakkuja avaldab uuendusi; ning kas integratsiooni on testitud reaalajas perearsti keskkonnas. Integratsioon, mis nõuab AI loodud sisu käsitsi kopeerimist ja kleepimist meditsiiniandmetesse, suurendab transkriptsioonivigade riski ja vähendab oluliselt efektiivsuse kasu. Integratsiooni tõrked võivad põhjustada lünki patsiendi andmetes otseste patsiendi ohutuse tagajärgedega.

▶ Milliseid kliinilisi tõendeid peaks müüja suutma esitada enne praktika lepingu allkirjastamist?

Müüjad peaksid esitama avaldatud eelretsenseeritud uuringud või dokumenteeritud piloottulemused perearsti või esmatasandi arstiabi keskkondadest, juhtumiuuringud Ühendkuningriigi esmatasandi arstiabi tingimustest mõõdetavate tulemustega ja tõendid hindamisest NHS-i spetsiifiliste töövoogude ja meditsiiniandmete süsteemide vastu. Tõendid teisese ravi või rahvusvahelise esmatasandi arstiabi kohta ei kandu otse üle Ühendkuningriigi üldarstiabisse. Nagu teadlased Lancet’is on märkinud, edeneb AI kasutuselevõtt esmatasandi arstiabis praegu kiiremini kui põhjalik hindamine, mis tähendab, et müüja väiteid tuleks hoolikalt kontrollida ning kasutuselevõtu järgnev jälgimine on hädavajalik.

▶ Mida peaks praktika otsima müüja toe ja juhtumite reageerimise korralduses?

Service Level Agreement peaks eristama reageerimis- ja lahendusaegu kliinilise ohutuse juhtumite ja üldiste tehniliste probleemide vahel. Praktikad peaksid kinnitama, kas müüjal on nimega kontakt perearsti praktikate jaoks või suunatakse tugi läbi üldise abiteenuse ning kas müüjal on dokumenteeritud kliinilise ohutuse juhtumi teatamise protsess, mis vastab NHS-i standarditele. NHS Englandi juhised ümbritseva helisalvestise toodete kohta nõuavad, et lepingulised kokkulepped määratleksid selgelt rollid, vastutused ja vastutuse, sealhulgas juhtumite reageerimise. Müüja, kes ei suuda sõnastada selget kliinilise ohutuse juhtumi protsessi, ei ole valmis kasutuselevõtuks esmatasandi arstiabi keskkonnas.