ISO 13485 in agenti UI: kaj bo vprašal priglašeni organ

Skoraj polovica MedTech podjetij pravi, da ima agenta umetne inteligence že v produkciji. Le 7 odstotkov ga opisuje kot v celoti vgrajenega in pripravljenega na presojo, tretjina pa priznava, da se izhod agenta uporablja neformalno, brez posodobljenega postopka in brez validacije — Deloittova raziskava med 100 vodilnimi v MedTechu, julij 2026.¹ Ta vrzel ni problem Akta o umetni inteligenci. Pravila Akta za visokotvegane sisteme UI v pripomočku začnejo veljati šele 2. avgusta 2028.² Agent, ki bere vaše reklamacije, piše osnutke vaših CAPA (korektivnih in preventivnih ukrepov) in skrbi, da tehnična dokumentacija sledi spremenjenemu standardu, je reguliran že danes, in sicer s standardom, po katerem ste že certificirani. ISO 13485:2016, standard za sistem vodenja kakovosti, po katerem je certificiran vsak proizvajalec medicinskih pripomočkov, ga v točki 4.1.6 imenuje programska oprema, ki se uporablja v sistemu vodenja kakovosti, in zahteva eno samo stvar: validacijo pred prvo uporabo in po spremembah, sorazmerno s tveganjem, z zapisi.³ Vaš priglašeni organ to točko preverja na vsaki nadzorni presoji. Članek opisuje, kaj bo presojevalec najverjetneje vprašal, kako izgleda zagovorljiva mapa in s katerimi tremi procesi začeti.

Raziskano in napisano s pomočjo umetne inteligence; pregledal, preveril in uredil Primož Verbič.

Na kratko

• Točka 4.1.6 standarda ISO 13485:2016 zahteva dokumentirane postopke za validacijo računalniške programske opreme, ki se uporablja v sistemu vodenja kakovosti, pred prvo uporabo in po spremembah, s pristopom, sorazmernim tveganju, in z zapisi.³ Agent UI pri obravnavi reklamacij, v CAPA ali pri obvladovanju dokumentov je taka programska oprema.
• Ista točka zdaj velja tudi v Združenih državah: uredba FDA o sistemu vodenja kakovosti (QMSR), ki velja od 2. februarja 2026, s sklicevanjem vključuje ISO 13485:2016.⁴
• Akt EU o umetni inteligenci za zaledne agente ni zavezujoča omejitev. Uredba (EU) 2026/1744, ki velja od 27. julija 2026, je datum za visokotvegano UI v reguliranih izdelkih, kot so medicinski pripomočki, prestavila na 2. avgust 2028; obveznosti glede preglednosti veljajo od 2. avgusta 2026.^{2, 5}
• Deloitte, julij 2026: 45 odstotkov od 100 vodilnih v MedTechu ima agentsko UI v produkciji, 7 odstotkov jo ima za pripravljeno na presojo, 33 odstotkov poroča o neformalni uporabi brez posodobljenih postopkov, 61 odstotkov ima razdrobljena orodja, ki se po oddelkih uporabljajo različno.¹
• Metoda že obstaja. ISO/TR 80002-2:2017 razlaga, kako validirati programsko opremo sistema kakovosti, vključno z obravnavo reklamacij, GAMP 5 (druga izdaja, 2022) pa dodaja prilogo za UI in strojno učenje: predvidena uporaba, podatki kot sestavni del sistema, obvladovanje sprememb ob posodobitvah modela, človeški nadzor.^{6, 7}

Kaj pravilo dejansko pravi

Točka 4.1.6 je kratka. Organizacija dokumentira postopke za validacijo uporabe računalniške programske opreme v sistemu vodenja kakovosti. Programska oprema se validira pred prvo uporabo in, kadar je primerno, po spremembah. Pristop je sorazmeren tveganju, povezanemu z njeno uporabo, vključno z vplivom na sposobnost pripomočka, da izpolnjuje zahteve. Zapisi se hranijo.³ Dve sorodni točki pokrivata programsko opremo v proizvodnji (7.5.6) ter pri nadzoru in merjenju (7.6).⁸

Nič v tej točki ne imenuje tehnologije. Veljala je za preglednice, za elektronske sisteme vodenja kakovosti in za makro v dnevniku reklamacij. Za agenta na velikem jezikovnem modelu velja povsem enako, z eno praktično razliko: agent se spreminja, ne da bi ga kdo v vašem podjetju urejal. Dobavitelj posodobi model, vedenje agenta se premakne, vaš validacijski zapis pa opisuje različico, ki ne teče več. To je vprašanje obvladovanja sprememb, na katero pri preglednici ni bilo treba odgovoriti, in presojevalec ga bo odprl prvega.

Pravna podlaga v Evropi je Uredba (EU) 2017/745, člen 10(9): proizvajalci vzdržujejo sistem vodenja kakovosti, za razred IIa in višje pa ga priglašeni organ ocenjuje po Prilogi IX, z nadzornimi presojami vsaj enkrat letno.⁹ EN ISO 13485:2016 daje domnevo o skladnosti, zato presojevalec dela po njegovih točkah. Od februarja 2026 enako dela inšpektor FDA, ker je QMSR nadomestil staro uredbo o sistemu kakovosti z ISO 13485, vključenim s sklicevanjem, in novi program inšpekcij mu sledi.⁴

Kje so podjetja danes

Deloittova raziskava iz julija 2026 je najjasnejša slika, ki je na voljo. Od 100 vodilnih v MedTechu jih 45 odstotkov pravi, da je agentska UI že v produkciji. Več kot polovica želi z njo optimizirati delovne tokove; 27 odstotkov jih želi tokove zasnovati na novo, okoli sodelovanja ljudi in agentov. Na tej ravni jih deluje le 6 odstotkov. Pri upravljanju 7 odstotkov tistih z agenti v produkciji ureditev opisuje kot v celoti vgrajeno in pripravljeno na presojo; 33 odstotkov pravi, da se izhodi uporabljajo neformalno, brez posodobljenih postopkov ali validacije; 61 odstotkov ima razdrobljena orodja, ki se od oddelka do oddelka uporabljajo različno. Deloitte kot procese s posledicami, kjer je upravljanje pomembno, imenuje preiskavo reklamacij, CAPA, odločitve o označevanju in kvalifikacijo dobaviteljev.¹

Če to beremo ob točki 4.1.6, se ugotovitev presoje napiše sama. Agent, katerega izhod gre v mapo reklamacije ali v CAPA, je programska oprema sistema kakovosti. Če validacijskega zapisa ni, ugotovitev ne govori o UI. Je navadna neskladnost s točko, po kateri je podjetje certificirano od leta 2016.

Tri vprašanja, ki jih bo postavil presojevalec

Ne glede na tehnologijo presojevalec zahteva vedno isto troje: postopek, zapis in lastnika. Pri agentu to postanejo tri vprašanja.

1. Čemu je namenjen in česa nikoli ne odloči sam? Presojevalec želi izjavo o predvideni uporabi. Ne prospekt, eno stran: kateri korak procesa agent opravlja, katere vhode prejme, kaj proizvede, kaj človek naredi z izhodom in katere odločitve ostanejo pri človeku. ISO/TR 80002-2 na tem koraku gradi celotno metodo, ker iz predvidene uporabe sledita razvrstitev tveganja in s tem globina validacije.⁶

2. Kako veste, da deluje, in kako boste vedeli, kdaj neha? Validacijska mapa. Pri determinističnem orodju sta zadostovala testni scenarij in rezultati. Pri agentu bo presojevalec iskal opredeljen testni nabor resničnih primerov z znanimi pravilnimi izidi, merila sprejemljivosti, rezultate pri različici modela, ki je v uporabi, in načrt spremljanja odstopanj. Priloga GAMP 5 za UI imenuje podatke in model samostojna sestavna dela sistema z življenjskim ciklom zasnove, projekta in delovanja, ponovno učenje ali posodobitev modela pa obravnava kot nadzorovano spremembo, ki sproži ponovno validacijo.⁷

3. Kdo odgovarja za rezultat? Poimensko določena oseba, ne »ekipa za UI«. Točka tega ne pove s temi besedami, a vsak presojevalec bere poslovnik kakovosti zaradi odgovornosti, in agent brez lastnika nima nikogar, ki bi podpisal zapis. Deloittovih 33 odstotkov neformalne uporabe je natanko ta vrzel.¹

Dokumentacija dobavitelja ni odgovor na nobeno od treh vprašanj. Presojevalci priglašenih organov pričakujejo lastno testiranje proizvajalca glede na njegovo predvideno uporabo; dobaviteljev certifikat ali validacijski paket mapo podpira, ne nadomešča je.¹⁰

Kako izgleda zagovorljiva validacijska mapa

Naj ostane pri tem, kar lahko pregledovalec prebere v eni uri. Tabela kaže minimum in sorazmernost: agent, ki za ekipo kakovosti piše povzetke sestankov, potrebuje prvo vrstico in malo drugega; agent, ki razvršča vhodne reklamacije, potrebuje vse.

Element	Kaj vsebuje	Zakaj ga presojevalec hoče
Izjava o predvideni uporabi	Korak procesa, vhodi, izhodi, točke človeške odločitve, izključitve	Določa obseg validacije in razred tveganja
Ocena tveganja	Kaj se zgodi, če je izhod napačen, pozen ali manjka; vzpostavljeni ukrepi	Točka 4.1.6 veže globino validacije na tveganje
Zapis konfiguracije	Ime in različica modela, navodila oziroma poziv, povezani viri podatkov, pravice dostopa	Opredeli, kaj je bilo validirano
Testni nabor in merila sprejemljivosti	Resnični pretekli primeri z znanimi izidi; pragovi, dogovorjeni pred testiranjem	Dokaz, da agent izpolnjuje predvideno uporabo
Rezultati pri različici	Izvedba, rezultat, odstopanja in njihova obravnava, podpis	Zapis, ki ga točka zahteva
Obvladovanje sprememb	Seznam sprožilcev (posodobitev modela, sprememba navodil, nov vir podatkov); pravilo ponovne validacije za vsak sprožilec	Odgovarja na vprašanje »spreminja se sam«
Načrt spremljanja	Vzorčenje izhodov v živo, kazalniki odstopanja, pogostost pregleda, kdo pregleduje	Kaže, da se validacija vzdržuje, ne da je enkratna
Lastnik in usposabljanje	Poimensko določen lastnik procesa; kdo sme agenta uporabljati in za kaj je bil usposobljen	Odgovornost in usposobljenost, točki 5.5 in 6.2

Eno pravilo prihrani večino truda: validirajte uporabo, ne modela. Temeljnega modela ne morete validirati. Lahko pa validirate, da vaš nastavljeni agent na vaših primerih, znotraj vašega procesa, izpolnjuje vaša merila sprejemljivosti. To točka zahteva.

Trije procesi, s katerimi začeti

Začnite tam, kjer agent že teče in kjer je tveganje ob napaki največje.

Sprejem in razvrščanje reklamacij. To je prvo mesto, kamor večina podjetij postavi agenta, in prvo, kamor pogleda priglašeni organ, ker obravnava reklamacij napaja poročanje o vigilanci z zakonskimi roki. Testni nabor: zadnjih dvesto reklamacij z razvrstitvijo in odločitvijo o obveznosti poročanja, ki jo je ekipa kakovosti dejansko sprejela. Merilo: noben zgrešen dogodek, ki ga je treba poročati, nikoli; dogovorjena toleranca za ostalo. Točka človeške odločitve: o obveznosti poročanja odloča človek.

Pisanje osnutkov CAPA. Agent, ki iz zapiskov preiskave piše osnutke analize temeljnega vzroka in načrta ukrepov. Manjše tveganje za bolnika kot pri razvrščanju, večje tveganje verjetno zveneče mape, ki je nihče ni preveril. Testni nabor: zaključeni CAPA, primerjani z osnutkom agenta. Točka človeške odločitve: preverjanje učinkovitosti in zaključek.

Vzdrževanje tehnične dokumentacije. Agent, ki označi, kje spremenjeni standard zadeva tehnično mapo, in predlaga popravke. Tveganje je v opustitvah. Testni nabor: zadnja revizija standarda, ki jo je podjetje predelalo ročno. Točka človeške odločitve: vsako spremembo nadzorovanega dokumenta odobri njegov lastnik.

Tri mape, napisane po zgornji tabeli, bodo majhni ekipi kakovosti vzele nekaj tednov, večinoma za sestavljanje testnih naborov. Ti testni nabori so hkrati premoženje: naslednja posodobitev modela se ob njih validira v enem dnevu. To je peti od osmih ukrepov za trajnosten prehod na UI, tisti, ki se ga večina podjetij še ni lotila.

Opomba o obsegu

Ta članek govori o UI, ki se uporablja v sistemu vodenja kakovosti in ki jo ISO 13485 obravnava kot programsko opremo sistema kakovosti. Ne govori o UI v medicinskem pripomočku. Programska oprema, ki je sama pripomoček ali njegova varnostna komponenta, gre po poti ugotavljanja skladnosti po MDR; kadar temelji na UI in je razreda IIa ali višje, je po Aktu o UI visokotvegana, z obveznostmi, ki se od 2. avgusta 2028 ocenjujejo znotraj postopka priglašenega organa.^{2, 5} ISO/TR 80002-2 potegne isto črto: pokriva programsko opremo v sistemu kakovosti in v proizvodnji, izključuje pa tisto, ki je del pripomočka.⁶ Če isti agent dela oboje, ga obravnavajte kot dva sistema z dvema mapama.

Kaj storiti naprej

Če vodite srednje veliko proizvodno podjetje: ta teden popišite vsako orodje UI, ki se dotakne zapisa sistema kakovosti. Za vsako napišite stran o predvideni uporabi in imenujte lastnika. Izberite tisto z največjo posledico ob napaki, običajno reklamacije, in iz lastne zgodovine sestavite njegov testni nabor. Nato agenta vključite v postopek validacije programske opreme, ki ga že imate, s posodobitvami modela kot dodatnim sprožilcem spremembe. Naslednja nadzorna presoja je že v koledarju; to je manjše delo od vrzeli, ki jo zapre. Če želite, da si zemljevid procesa pred presojevalcem ogleda še kdo drug, je za to Scale Sprint.

Če ste distributer ali vodja trga: vprašajte svojega principala, kateri procesi njegovega sistema kakovosti zdaj tečejo prek agenta in ali je bil postopek obravnave reklamacij, ki ga izvajate v njegovem imenu, posodobljen. Reklamacije s terena vstopajo v njegov sistem prek vas. Če agent, ki jih prejme, ni validiran, ugotovitev pade na obe strani.

Pogosta vprašanja

Ali je agent UI v našem sistemu kakovosti medicinski pripomoček? Ne, če nikoli ni del pripomočka ali njegove varnostne komponente. Je programska oprema, ki se uporablja v sistemu vodenja kakovosti po točki 4.1.6 standarda ISO 13485, in jo je treba kot tako validirati. Pravila MDR za pripomočke in obveznosti Akta o UI za visokotvegane sisteme zanj ne veljajo.^{3, 6}

Ali Akt EU o umetni inteligenci sploh velja za naše notranje agente? Obveznosti glede preglednosti iz člena 50 veljajo od 2. avgusta 2026, kadar ljudje komunicirajo s sistemom UI ali je vsebina ustvarjena z UI; obveznosti za visokotvegano UI v medicinskih pripomočkih veljajo od 2. avgusta 2028 po Uredbi (EU) 2026/1744. Nobena ne nadomešča dolžnosti validacije po ISO 13485, ki velja že zdaj.^{2, 5}

Dobavitelj pravi, da je njegova platforma validirana. Je to dovolj? Ne. Točka zahteva, da proizvajalec validira uporabo programske opreme v svojem sistemu kakovosti. Dobaviteljevi dokazi mapo podpirajo; presojevalec pričakuje lastno testiranje proizvajalca glede na njegovo predvideno uporabo.¹⁰

Kaj šteje za spremembo, ki sproži ponovno validacijo? Vse, kar lahko spremeni izhod: dobaviteljeva posodobitev različice modela, sprememba navodil ali poziva, nov povezani vir podatkov, sprememba pravic dostopa ali procesa okoli agenta. Priloga GAMP 5 za UI ponovno učenje in posodobitve modela obravnava kot nadzorovane spremembe.⁷

Ali to velja tudi za ameriški trg? Da. Uredba FDA QMSR, ki velja od 2. februarja 2026, s sklicevanjem vključuje ISO 13485:2016, zato enako pričakovanje glede validacije velja pri inšpekciji FDA.⁴

Vse gradivo iz virov je parafrazirano po povezanih publikacijah.

---

Viri

1. Deloitte Insights, Medtech’s agentic AI moment: turning ambition into enterprise advantage, 30. julij 2026.
2. EUR-Lex, Uredba (EU) 2026/1744 Evropskega parlamenta in Sveta (digitalni omnibus o UI), Uradni list 24. julij 2026.
3. ISO, ISO 13485:2016 Medical devices — Quality management systems — Requirements for regulatory purposes, 2016, točka 4.1.6.
4. Ropes & Gray, A QMSR state of mind: FDA adopts new inspection approach for medical devices as Quality Management System Regulation takes effect, 17. februar 2026.
5. Hunton Andrews Kurth, EU Digital Omnibus on AI enters into force, julij 2026.
6. ISO, ISO/TR 80002-2:2017 Medical device software — Part 2: Validation of software for medical device quality systems, 2017.
7. IntuitionLabs, AI/ML validation in GxP: a guide to GAMP 5 Appendix D11, 2. februar 2026 (o ISPE GAMP 5, druga izdaja, 2022).
8. Greenlight Guru, Understanding the new requirements for QMS software validation in ISO 13485:2016, posodobljeno 18. september 2026.
9. EUR-Lex, Uredba (EU) 2017/745 o medicinskih pripomočkih (MDR), člen 10(9) in Priloga IX.
10. Zechmeister Solutions, Validating QMS software tools under MDR (EN ISO 13485 clause 4.1.6), 2026.