AI tööriistade lepingud: mida perearsti praktikajuhid peavad esmalt kontrollima

AI-tööriista lepingu allkirjastamine on praktikajuhi jaoks stardipauk. Kui leping on sõlmitud, lasuvad kliinilised, õiguslikud ja regulatiivsed kohustused kindlalt praktikal, mitte müüjal. See juhend esitab konkreetsed küsimused ja dokumendid, mida praktikajuhid peaksid enne allkirjastamist läbi vaatama.

Kas tööriist on klassifitseeritud meditsiiniseadmeks

Mitte iga kliinilises keskkonnas kasutatav AI-tööriist pole meditsiiniseade, kuid paljud on. Ühendkuningriigis klassifitseerib Medicines and Healthcare products Regulatory Agency (MHRA) tarkvara meditsiiniseadmena. Kui AI-tööriist toetab kliinilist diagnoosimist, triaažiotsuseid või ravijuhiseid, kuulub see tõenäoliselt Software as a Medical Device (SaMD) definitsiooni alla ning vajab UKCA või CE märgistust vastavalt Medical Device Regulation (MDR)-ile.

Enne allkirjastamist tasub otsida MHRA Product and Registration Database (PARD) andmebaasist, et kinnitada tööriista registreerimise staatus. Müüjalt tuleks otse küsida nende MHRA registreerimise staatust ja seadme klassi ning kontrollida, kas tööriistal on NICE hinnang (MIB, DG või EVA) ja kehtiv UKCA või CE märgis.

CQC GP Mythbuster 109, mis avaldati juulis 2025, teeb selgeks, et inspektorid kontrollivad MHRA registreerimise kinnitamist ja seda, kas hange viidi läbi DCB0160 ja Digital Technology Assessment Criteria (DTAC) standardite alusel. Tööriistad, mis pole klassifitseeritud meditsiiniseadmetena, kannavad endiselt kohustusi andmekaitse, kliinilise ohutuse ja juhtimisraamistike osas.

Kes kannab vastutust, kui midagi läheb valesti

Müüja lepingud varjavad seda küsimust sageli. Üldine seisukoht NHS esmatasandi arstiabis on, et NHS organisatsioonid võivad endiselt vastutada AI-ga seotud nõuete eest isegi kolmandate osapoolte tööriistade kasutamisel. Müüjad piiravad tavaliselt oma vastutust tarkvaraga, mis toimib lepingus kirjeldatud viisil, ega võta vastutust kliiniliste otsuste eest, mis tehakse AI-väljundite põhjal. Kui AI loodud kliiniline märge sisaldab viga, mis mõjutab patsiendi ravi, kannab praktika tõenäoliselt nii kliinilised kui ka õiguslikud tagajärjed.

Lepingutingimuste läbivaatamisel tuleks otsida selgeid avaldusi selle kohta, kuidas vastutus jaguneb praktika ja müüja vahel, ning kontrollida hüvitisklausleid: kas müüja hüvitis hõlmab kliinilisi juhtumeid või ainult tarkvara toimimise tõrkeid. Surrey & Sussex LMCs soovitavad kaasata Integrated Care Boardi, et tagada kindlustus, ning veenduda, et kõik AI loodud väljundid vaatab kliiniku töötaja üle enne patsiendi andmetesse sisestamist. Enne kasutuselevõttu tasub konsulteerida meditsiinilise kaitse organisatsiooniga, sest seda sammu jätavad liiga paljud praktikad vahele.

Kus patsiendi andmeid töödeldakse ja mis saab neist lepingu lõppedes

Andmete asukoht on iga kliinilise AI hankimise juures põhiküsimus. Vastavalt Ühendkuningriigi GDPR-ile (General Data Protection Regulation) ja ühisõiguse konfidentsiaalsuskohustusele on patsiendi andmed erikategooria andmed. Nende töötlemine peab olema seaduslik, läbipaistev ja proportsionaalne. Kui andmeid edastatakse väljaspool Ühendkuningriiki või EL-i, on vaja täiendavaid kaitsemeetmeid. NHS Englandi juhised ümbritseva helisalvestise toodete kohta kinnitavad, et andmekaitsemõju hindamine ehk Data Protection Impact Assessment (DPIA) on enne kasutuselevõttu suure tõenäosusega õiguslik nõue.

Enne allkirjastamist tuleks müüjalt küsida, kus töödeldakse patsiendi andmeid ja kes on alltöötlejad; kas müüja kasutab konsultatsiooniandmeid AI-mudelite koolitamiseks ja millisel õiguslikul alusel; ning kas lepingusse on lisatud Data Processing Agreement (DPA) vastavalt UK GDPR artikli 28 nõuetele. Spencer West LLP õigusliku kommentaari üks olulisemaid tähelepanekuid on see, et pseudonüümsed andmed säilitavad jääkriski uuesti tuvastamiseks ega kuulu andmekaitseõigusest vabastamisele. Seda eristust üritavad müüjad oma lepingutes sageli hägustada.

Andmete ülekantavus ja kustutamine lepingu lõpetamisel on valdkonnad, kus müüja lepingud on sageli ebamäärased. Praktika peaks selgeks tegema, kui kaua müüja säilitab patsiendi andmeid pärast lepingu lõpetamist ja millisel õiguslikul alusel; kas kõigi patsiendi andmete täielik eksport on võimalik; mida „kustutamine taotluse korral" praktikas tähendab, sealhulgas varukoopiad ja alltöötlejate andmed. Lepingutingimused, mis võimaldavad müüjatel säilitada andmeid mudeli koolitamise eesmärkidel pärast lepingu lõpetamist, tuleks suunata õiguslikule läbivaatamisele, kuna praktika vastutab andmete vastutava töötlejana selle eest, et patsientide õigusi saaks kasutada isegi pärast müüjasuhtega lõpetamist.

Milliseid turvasertifikaate ja meditsiiniandmete süsteemi integratsiooni nõuda

Turvasertifikaadid ei garanteeri turvalisust, kuid nende puudumine räägib müüja küpsusest oma jagu. NHS esmatasandi arstiabis kasutatavate kliiniliste AI-tööriistade puhul peaks usaldusväärne müüja suutma tõendada ISO 27001 sertifikaati, NHS Data Security and Protection (DSP) Toolkit'i vastavust (mis on lepinguline nõue kõigile organisatsioonidele, kellel on juurdepääs NHS-i patsiendiandmetele), Cyber Essentials või Cyber Essentials Plus sertifikaati ning DTAC vastavust. Müüjat, kes ei suuda esitada tõendeid nende sertifikaatide kohta, tuleks käsitleda ettevaatlikult, olenemata sellest, kui veenev nende toote demonstratsioon võib olla.

Enamik Inglismaa perearsti praktikaid kasutab kas EMIS Webi või SystmOne'i oma peamise meditsiiniandmete süsteemina. AI-tööriista praktiline väärtus, eriti ümbritseva helisalvestise kirjutaja puhul, sõltub suuresti sellest, kui hästi see olemasoleva süsteemiga integreerub. Integratsioon, mis nõuab AI loodud sisu käsitsi kopeerimist ja kleepimist meditsiiniandmetesse, suurendab transkriptsioonivigade riski ja vähendab efektiivsuse kasu. Kliinilises keskkonnas võivad sellised tõrked tekitada lünki patsiendi andmetes, millel on otsesed tagajärjed patsiendi ohutusele.

Enne allkirjastamist tuleks kinnitada, kas tööriistal on natiivne, sertifitseeritud integratsioon EMIS Webi või SystmOne'iga; kes vastutab integratsiooni säilitamise eest, kui meditsiiniandmete süsteemi pakkuja avaldab uuendusi; ning kas integratsiooni on testitud reaalajas perearsti keskkonnas, mitte ainult arendus- või teisese ravi keskkonnas.

Kas tööriist on koolitatud ja valideeritud NHS-i kontekstis

AI-tööriista arendamiseks kasutatud koolitusandmed mõjutavad otseselt selle kliinilist täpsust Ühendkuningriigi esmatasandi arstiabi kontekstis. Tööriist, mis on koolitatud peamiselt USA kliinilistel andmetel, võib halvasti toimida NHS-i spetsiifiliste kliiniliste koodidega (nt SNOMED CT), Ühendkuningriigi ravimite nimede ja annustamiskonventsioonidega, suunamisteedega ning perearsti konsultatsiooni dokumenteerimisstiiliga. Laranjo jt Lancet Primary Care'is on hoiatanud, et kiire kasutuselevõtt enne põhjalikku hindamist tekitab muret ootamatute tagajärgede pärast ravi kvaliteedile.

Müüjad peaksid suutma dokumenteeritud tõenditega vastata järgmistele küsimustele: kas mudel koolitati ja valideeriti Ühendkuningriigi perearsti konsultatsiooni andmetel; kas müüja avaldab mudeli kaardi, mis kirjeldab koolitusandmete allikaid, teadaolevaid piiranguid ja jõudluse võrdlusaluseid; ning kuidas mudel käsitleb Ühendkuningriigi spetsiifilist kliinilist terminoloogiat ja suunamise konventsioone. Turundusväited ei asenda dokumenteeritud tõendeid.

Kes praktikas vastutab tööriista järelevalve eest ja mida see nõuab

AI-tööriista juhtimine on jätkuv igapäevane vastutus. CQC GP Mythbuster 109 määratleb, mida inspektorid otsivad: Clinical Safety Officer'i (CSO) nimetamist praktika tasemel, riskihindamise ja ohtude logi säilitamist ning tõendeid selle kohta, et AI-väljundite inimese järelevalve on praktika töövoogudesse sisse ehitatud. Surrey & Sussex LMCs tunnistavad, et CSO nimetamine on väiksemate praktikate jaoks praktiline väljakutse, kuid see on regulatiivne ootus. CSO ei pea olema täiskohaga roll, kuid praktika peab suutma nimetada konkreetse isiku, kes seda vastutust kannab.

Juhtimisdokumentatsioon, mida praktika peaks säilitama, hõlmab lõpetatud DCB0160 kliinilise ohutuse juhtumit, regulaarselt ülevaadatavat riskihindamist ja ohtude logi, kliiniliste spetsialistide koolituse kirjeid ning logi juhtumite kohta, mis hõlmavad AI loodud väljundeid. See dokumentatsioon kaitseb praktikat, kui toimub kliiniline juhtum ja tekivad küsimused selle kohta, kuidas tööriist kasutusele võeti.

Müüja tugi, kliinilised tõendid ja allkirjastamiseelne kontrollnimekiri

Kliiniliste AI-tööriistade puhul on toe ebaõnnestumise tagajärjed tõsisemad kui enamiku tarkvara puhul. Teenustaseme leping ehk Service Level Agreement peaks eristama kliinilise ohutuse juhtumeid ja üldisi tehnilisi probleeme ning määratlema selged reageerimis- ja lahendusajad. Praktikad peaksid kinnitama, kas müüjal on nimega kontakt perearsti praktikate jaoks ning dokumenteeritud kliinilise ohutuse juhtumi teatamise protsess, mis vastab NHS-i standarditele. NHS Englandi juhised nõuavad, et lepingulised kokkulepped määratleksid selgelt rollid, vastutused ja kohustused, sealhulgas juhtumitele reageerimise korra.

Tõendite osas tuleb arvestada, et tõendid teisese ravi või rahvusvahelise esmatasandi arstiabi kohta ei kandu otse üle Ühendkuningriigi üldarstiabisse, kuna konsultatsiooni struktuurid, dokumenteerimise konventsioonid ja regulatiivsed nõuded erinevad oluliselt. Müüjad peaksid esitama avaldatud eelretsenseeritud uuringud või dokumenteeritud piloottulemused perearsti keskkondadest, juhtumiuuringud Ühendkuningriigi esmatasandi arstiabi tingimustest mõõdetavate tulemustega ning tõendid hindamisest NHS-i spetsiifiliste töövoogude vastu. Uuringud AI kirjutajate kohta esmatasandi arstiabis on hakanud dokumenteerima pakkujate kogemusi reaalsetes tingimustes, kuigi tõendusbaas jääb piiratuks.

Regulatiivne ja kliiniline ohutus

• [ ] Kinnitatud MHRA registreerimise staatus ja seadme klass (otsige PARD-ist, kui kohaldatav)

• [ ] Müüjal on DCB0129 kliinilise ohutuse juhtumi dokumentatsioon

• [ ] Praktika on lõpetanud või alustanud DCB0160 kliinilise ohutuse juhtumi kasutuselevõtuks

• [ ] DTAC hindamine lõpetatud ja läbitud müüja poolt

• [ ] NICE hindamine kontrollitud (MIB, DG või EVA), kui kohaldatav

Andmekaitse ja infoturve

• [ ] DPIA lõpetatud enne kasutuselevõttu

• [ ] Data Processing Agreement lisatud lepingusse, UK GDPR artikli 28 nõuetele vastav

• [ ] Andmete asukoht kinnitatud, Ühendkuningriigi või EL-i töötlemine ja säilitamine

• [ ] Alltöötlejad tuvastatud ja hinnatud

• [ ] Müüja poliitika patsiendi andmete kasutamise kohta mudeli koolitamiseks läbi vaadatud ja kokku lepitud

• [ ] Andmete kustutamise ja ülekantavuse tingimused kinnitatud lepingu lõpetamisel

Turvalisus

• [ ] ISO 27001 sertifikaat kinnitatud

• [ ] NHS DSP Toolkit vastavus kinnitatud

• [ ] Cyber Essentials või Cyber Essentials Plus kinnitatud

• [ ] DTAC küberturvalisuse sektsioon läbitud

Vastutus ja lepinguline kokkulepe

• [ ] Vastutuse jaotus selgelt määratletud lepingus

• [ ] Hüvitisklauslid läbi vaadatud, ulatus kinnitatud

• [ ] Meditsiinilise kaitse organisatsiooniga või hüvitise pakkujaga konsulteeritud

• [ ] Rollid, vastutused ja juhtumite reageerimine määratletud lepingus

Meditsiiniandmete süsteemi integratsioon

• [ ] Natiivne integratsioon EMIS Webi või SystmOne'iga kinnitatud

• [ ] Integratsiooni säilitamise vastutus määratletud

• [ ] Testitud reaalajas Ühendkuningriigi perearsti keskkonnas

Juhtimine

• [ ] Clinical Safety Officer nimetatud praktika tasemel

• [ ] Riskihindamine ja ohtude logi algatatud

• [ ] Kliiniliste spetsialistide koolituse plaan olemas

• [ ] Kõigi AI-väljundite inimese läbivaatus kinnitatud töövoo nõudena

Tõendid ja tugi

• [ ] Kliinilised tõendid Ühendkuningriigi esmatasandi arstiabi tingimustest läbi vaadatud

• [ ] SLA läbi vaadatud, kliinilise ohutuse juhtumi reageerimisajad kinnitatud

• [ ] Nimega müüja kontakt perearsti praktikate jaoks kinnitatud

• [ ] Koolitusandmete päritolu dokumenteeritud müüja poolt

Digital Healthi aruandlus NHS-i AI hankimise kohta tabab praeguse regulatiivse reaalsuse hästi: olemasolevad standardid ei olnud loodud õppivate AI-süsteemide jaoks. Müüjate kiire tegutsemistempo tähendab, et praktikad peavad olema, NHS Englandi riikliku Chief Clinical Information Officer'i sõnul, „tugevad tagamaks, et see, mida me teeme, on ohutu, kindlustatud ja toob kasu." Müüja, kes ei suuda neile küsimustele selgelt ja dokumenteeritud tõenditega vastata, ei ole valmis kasutuselevõtuks kliinilises keskkonnas, ja praktika, kes pole neid küsimusi esitanud, kannab riski, millest ta ei pruugi veel teadlik olla.

Korduma kippuvad küsimused

▶ Kas perearsti praktikas kasutatav AI-tööriist peab olema registreeritud meditsiiniseadmena?

See sõltub tööriista funktsioonist. Kontrollige MHRA PARD andmebaasist registreerimise staatust enne lepingu allkirjastamist. Kui tööriist pole meditsiiniseadmena klassifitseeritud, kehtivad siiski andmekaitse, kliinilise ohutuse ja juhtimise kohustused, seega ei vabasta klassifitseerimata staatus praktikat vastutusest.

▶ Kes vastutab, kui AI loodud kliiniline märge sisaldab viga, mis mõjutab patsiendi ravi?

Vastutus jääb praktikale. Enne allkirjastamist konsulteerige meditsiinilise kaitse organisatsiooniga ja küsige konkreetselt, kas teie praegune kindlustuskaitse hõlmab AI-tööriistadest tulenevaid kliinilisi juhtumeid. Paljud praktikad jätavad selle sammu vahele ja avastavad lüngad alles siis, kui juhtum on juba toimunud.

▶ Kus peaks patsiendi andmeid töötlema ja säilitama kliinilise AI-tööriista kasutamisel?

Eelistage Ühendkuningriigi või EL-i servereid. Kui andmeid edastatakse mujale, on vaja täiendavaid kaitsemeetmeid. Küsige müüjalt alltöötlejate nimekirja ja kontrollige, kas leping sisaldab UK GDPR artikli 28 nõuetele vastavat Data Processing Agreementi. Ilma selleta pole praktika andmete vastutava töötlejana nõuetekohane.

▶ Milliseid turvasertifikaate peaks kliinilisel AI-müüjal olema?

Nõudke ISO 27001 sertifikaati, NHS DSP Toolkiti vastavust, Cyber Essentials või Cyber Essentials Plus sertifikaati ja DTAC vastavust. Küsige kehtivat DSP Toolkiti esitust, mitte ainult müüja kinnitust selle olemasolu kohta. Puuduvad sertifikaadid on iseseisev punane lipp, olenemata toote demonstratsiooni veenvusest.

▶ Mis saab patsiendi andmetega, kui praktika lõpetab lepingu AI-müüjaga?

Küsige lepingust kolme asja: kui kaua müüja andmeid säilitab pärast lõpetamist, kas täielik andmete eksport on võimalik ja kas kustutamine hõlmab varukoopiad ning alltöötlejate süsteemid. Lepingutingimused, mis lubavad müüjal andmeid mudeli koolitamiseks säilitada pärast lepingu lõppu, suunake õiguslikule läbivaatamisele.

▶ Kas on oluline, kas AI-tööriist koolitati NHS-i või Ühendkuningriigi esmatasandi arstiabi andmetel?

Jah. Küsige müüjalt mudeli kaarti, mis kirjeldab koolitusandmete allikaid, teadaolevaid piiranguid ja jõudluse võrdlusaluseid. Turundusmaterjal ei asenda seda dokumenti. Kui müüja ei suuda mudeli kaarti esitada, pole neil piisavat läbipaistvust kliiniliseks kasutuselevõtuks.

▶ Kes praktikas vastutab AI-tööriista järelevalve eest pärast selle kasutuselevõttu?

CQC GP Mythbuster 109 nõuab nimega Clinical Safety Officerit praktika tasemel. See on regulatiivne ootus. Nimetage konkreetne isik enne kasutuselevõttu ja dokumenteerige see otsus kirjalikult, sest inspektorid kontrollivad seda tõendust kohapeal.

▶ Kuidas peaks praktika hindama, kas AI-tööriist integreerub korralikult oma meditsiiniandmete süsteemiga?

Nõudke tõendeid, et integratsiooni on testitud reaalajas Ühendkuningriigi perearsti keskkonnas, mitte arendus- või teisese ravi seadistuses. Küsige ka, kes vastutab integratsiooni säilitamise eest pärast meditsiiniandmete süsteemi pakkuja uuendusi, ja saage see vastutus lepingusse kirja.

▶ Milliseid kliinilisi tõendeid peaks müüja suutma esitada enne praktika lepingu allkirjastamist?

Nõudke tõendeid Ühendkuningriigi esmatasandi arstiabi tingimustest, mitte teisese ravi või rahvusvahelise konteksti andmeid. Kui avaldatud uuringuid pole, küsige dokumenteeritud piloottulemusi mõõdetavate tulemustega. Planeerige kasutuselevõtu järgne jälgimine, sest tõendusbaas on praegu piiratud ka parimate müüjate puhul.

▶ Mida peaks praktika otsima müüja toe ja juhtumite reageerimise korralduses?

Kontrollige, kas müüjal on eraldi reageerimisajad kliinilise ohutuse juhtumitele ja tavalistele tehnilistele probleemidele. Küsige nimega kontakti perearsti praktikate jaoks. Müüja, kes suunab kõik päringud üldisesse abiteenusesse, pole valmis kliinilise ohutuse juhtumitega tegelemiseks esmatasandi arstiabi keskkonnas.