Část 2: Základní požadavky aktu EU o umělé inteligenci na zdravotnické prostředky

Napsal Vaclav Vlcek, MD

Část 1: Regulatorní základy a rozsah se věnovala klasifikaci: zdravotnický prostředek s podporou AI je vysoce rizikový podle čl. 6 odst. 1 tam, kde je systém AI bezpečnostní komponentou produktu, na který se vztahují právní předpisy uvedené v příloze I oddíle A, jako je MDR nebo IVDR, nebo je tímto produktem sám, a kde je u tohoto produktu vyžadováno posouzení shody třetí stranou, s výhradou čl. 6 odst. 1c. Tato část se věnuje praktickým požadavkům, které z této klasifikace vyplývají.

Na vysoce rizikové systémy se podle aktu vztahuje vymezený soubor požadavků. Mnohé se překrývají s povinnostmi podle MDR a IVDR a s oblastmi, které již řeší normy ISO 13485 a IEC 62304. Velká část práce proto spočívá v rozšíření stávajícího systému pro zajišťování souladu, nikoli ve vytváření paralelního systému.

Ve zkratce

Vysoce rizikový zdravotnický prostředek s AI musí splnit požadavky na řízení rizik, správu dat, technickou dokumentaci, vedení záznamů, transparentnost, lidský dohled, přesnost, spolehlivost a kybernetickou bezpečnost a k tomu mít systém řízení kvality, projít posouzením shody a zajistit monitorování po uvedení na trh.

Mnohé z těchto požadavků navazují na stávající povinnosti podle MDR a IVDR a na rámec založený na normách ISO 13485 a IEC 62304. Podle čl. 17 odst. 3 lze systém řízení kvality podle aktu začlenit do stávajícího systému řízení kvality podle MDR nebo IVDR, který bývá obvykle vystavěn podle EN ISO 13485. Podle čl. 43 odst. 3 tvoří požadavky oddílu 2 a posouzení systému řízení kvality podle článku 17 součást příslušného postupu posuzování shody podle MDR nebo IVDR.

Povinnosti monitorování po uvedení na trh a oznamování incidentů vznikají samostatně podle článků 72 a 73. Postupy pro jejich plnění však nejsou od integrovaného posouzení zcela odděleny: čl. 17 odst. 1 písm. h) a i) vyžaduje, aby systém řízení kvality zahrnoval systém monitorování po uvedení na trh a postupy oznamování závažných incidentů, a posouzení tohoto systému řízení kvality je podle čl. 43 odst. 3 součástí sektorového postupu. Oddíly 1 až 3 kapitoly III, s výjimkou čl. 6 odst. 5, se použijí od 2. srpna 2028 na systémy klasifikované výhradně podle čl. 6 odst. 1, s výhradou článku 111; příloha III se posuzuje samostatně.

Jiné části nařízení se začaly používat dříve, takže toto datum nelze chápat jako okamžik, od něhož se začíná používat celý akt. Do 2. srpna 2027 musí Komise rovněž přijmout akty v přenesené pravomoci podle čl. 2 odst. 13, které mohou omezit určené povinnosti v článcích 9 až 15 a 17 až 25, a to za dvou kumulativních podmínek: že právní předpisy podle přílohy I oddílu A poskytují rovnocennou nebo vyšší úroveň ochrany a že omezení nesnižuje celkovou úroveň ochrany, kterou akt poskytuje. Ke dni 10. srpna 2026 nebyl žádný takový akt v platnosti, a proto nelze vycházet z toho, že již existuje účinné omezení těchto povinností.

Co akt vyžaduje od vysoce rizikového zdravotnického prostředku

Podmínku podle čl. 6 odst. 1 písm. b) může naplnit požadavek na posouzení shody třetí stranou podle MDR nebo IVDR, nikoli označení třídy samo o sobě. Níže uvedené požadavky vyplývají přímo z aktu.

Jakmile se příslušná ustanovení kapitoly III začnou používat, musí poskytovatel provozovat systém řízení rizik, spravovat příslušná trénovací, validační a testovací data, vypracovávat a udržovat aktuální technickou dokumentaci, zajistit schopnost automatického vedení záznamů, zajistit transparentnost vůči zavádějícím subjektům a možnost lidského dohledu a dosáhnout odpovídající úrovně přesnosti, spolehlivosti a kybernetické bezpečnosti. To jsou požadavky oddílu 2.

Na požadavky oddílu 2 navazují povinnosti provozovatelů v oddíle 3 (články 16 až 27), včetně systému řízení kvality podle článku 17 a uchovávání protokolů, které má poskytovatel pod kontrolou, podle článku 19. Posuzování shody, EU prohlášení o shodě, označení CE a registrace jsou upraveny v oddíle 5 (články 40 až 49). Monitorování po uvedení na trh a oznamování incidentů jsou upraveny samostatně v kapitole IX (články 72 a 73).

Následující tabulka přiřazuje hlavní požadavky k příslušným článkům aktu a k nejbližším odpovídajícím ustanovením MDR a IVDR. Nejde o vyčerpávající přehled každé povinnosti v článcích 16 až 27. Tam, kde neexistuje dostatečně blízký sektorový protějšek, je řádek označen „—“.

Tabulka 1: Požadavky na vysoce rizikový zdravotnický prostředek s AI, mapované na akt o umělé inteligenci a na MDR/IVDR. Odkazy na akt o umělé inteligenci se vztahují k nařízení (EU) 2024/1689 ve znění digitálního omnibusu, nařízení (EU) 2026/1744; sektorové odkazy se vztahují k MDR a IVDR.

Dva řádky si zaslouží bližší pohled. Registrace podle článku 49 je užší, než se často předpokládá: týká se především systémů podle přílohy III a poskytovatelů, kteří uplatňují výjimku podle čl. 6 odst. 3, a obecně nevyžaduje, aby byl systém klasifikovaný výhradně podle čl. 6 odst. 1 zapsán do databáze podle aktu o umělé inteligenci.

Dvě upřesnění. Registrace podle MDR a IVDR pokračuje samostatně a není nahrazena, moduly aktérů, UDI a prostředků a oznámených subjektů a certifikátů v databázi EUDAMED jsou povinné od 28. května 2026 a modul dozoru nad trhem je povinný pro příslušné orgány a Komisi (přehled Komise k databázi EUDAMED); moduly vigilance a klinických zkoušek a studií funkční způsobilosti zatím povinné nejsou. A databáze EUDAMED nenahrazuje registraci podle aktu o umělé inteligenci tam, kde tentýž systém samostatně spadá do přílohy III: v takovém případě je nutné článek 49 posoudit navíc.

Článek 26 je něco jiného: stanoví povinnosti zavádějícího subjektu, jako je lidský dohled při používání a monitorování. Článek 26 odst. 8 vyžaduje, aby zavádějící subjekty, které jsou orgány veřejné moci nebo orgány, institucemi či jinými subjekty Unie, plnily registrační povinnosti podle článku 49; nejde tedy o samostatný registrační režim podle článku 26. Povinnost registrace ukládá čl. 49 odst. 3, který vyžaduje, aby tyto zavádějící subjekty a osoby jednající jejich jménem registrovaly dotčené systémy podle přílohy III s výjimkou systémů podle bodu 2 přílohy III. Pro systém klasifikovaný výhradně podle čl. 6 odst. 1 nezakládá žádnou povinnost vůči databázi podle aktu o umělé inteligenci.

Tři požadavky přinášejí nejvíce nové práce. MDR a IVDR již pokrývají klinické údaje a údaje o funkční způsobilosti, kontrolní opatření životního cyklu softwaru, použitelnost, řízení rizik, technickou dokumentaci a sledování po uvedení na trh, takže nejde o zcela neznámé území. Co akt přidává, jsou výslovnější a konkrétněji předepsaná kontrolní opatření specifická pro AI.

Příklad: lidský dohled (článek 14). Povinností je zabudovat vhodná a přiměřená opatření, která osobě pověřené dohledem umožní sledovat provoz, interpretovat výstup, nezohlednit jej nebo jej zrušit a zasáhnout do systému nebo jej zastavit. Nástroj pro určování priority, který tiše mění pořadí pacientů ve frontě, jí nemusí vyhovět, chybí-li účinný dohled, zda tomu tak je, však závisí na celkovém návrhu a na podmínkách zavedení. Praktickým způsobem, jak tuto možnost doložit, je poskytnout lékaři přehled o tom, na čem je pořadí založeno, a možnost pořadí změnit tak, aby se zásah zaznamenal; nejde však o doslovný zákonný požadavek.

Řízení rizik a kybernetická bezpečnost představují opačný případ: mnohé je již zavedeno. Povinnost řízení rizik podle článku 9 lze propojit s procesy podle EN ISO 14971, které výrobce již provozuje, a práci na kybernetické bezpečnosti podle článku 15 lze postavit na IEC 81001-5-1, místo aby se obojí začínalo od nuly. EN ISO 14971:2019 s A11:2021 je uvedena v Úředním věstníku podle MDR a IVDR; EN 62304 a EN IEC 81001-5-1 v těchto seznamech v současné době nejsou.

Jak požadavky dopadají na SaMD

U softwaru jako zdravotnického prostředku se oba režimy prolínají nejtěsněji, protože samotný software je produktem. Je-li systém AI sám tímto SaMD, naplňuje čl. 6 odst. 1 písm. a), aniž by musel být bezpečnostní komponentou. Je-li AI pouze komponentou širšího softwaru zdravotnického prostředku, je nutné nadále posoudit, zda jde o bezpečnostní komponentu. Vysoce rizikový podle čl. 6 odst. 1 je pouze tehdy, je-li splněna také podmínka podle čl. 6 odst. 1 písm. b), s výhradou čl. 6 odst. 1c, samostatný prostředek třídy I s vlastním prohlášením o shodě tedy vysoce rizikový automaticky není. Jsou-li splněny obě podmínky čl. 6 odst. 1, vztahují se na prostředek současně použitelné požadavky MDR nebo IVDR na bezpečnost a funkční způsobilost i požadavky aktu specifické pro AI.

Akt se použije souběžně s použitelnými obecnými požadavky na bezpečnost a funkční způsobilost podle přílohy I MDR nebo IVDR, nikoli tak, že by je měnil, a přidává vlastní povinnosti ke správě dat, lidskému dohledu a spolehlivosti (články 10, 14 a 15).

U řízení kvality jde o integraci. Článek 17 odst. 3 umožňuje poskytovateli, který již sektorový systém řízení kvality provozuje, začlenit do něj prvky systému řízení kvality podle aktu. Ustanovení odkazuje na systém řízení kvality podle MDR nebo IVDR; ten bývá obvykle vystavěn podle EN ISO 13485, uvedené v Úředním věstníku ve vydání z roku 2016 s AC:2018 a A11:2021. Samotnou normu však článek jmenovitě neuvádí. Ke stejnému závěru dospívají společné pokyny MDCG a Evropské rady pro umělou inteligenci (MDCG 2025-6). Tyto pokyny jsou nejnovějšími oficiálně uvedenými společnými pokyny k tomuto vzájemnému působení. Jsou však nezávazné, pocházejí z 19. června 2025 a byly zveřejněny před digitálním omnibusem, takže jsou překonané všude tam, kde jejich data nebo právní závěry odporují novelizovanému nařízení.

V praxi výrobce rozšiřuje svůj systém managementu kvality podle ISO 13485 tak, aby pokrýval správu dat, rizika algoritmu, monitorování životního cyklu a řízení změn.

Příklad: Výrobce se zavedeným systémem podle ISO 13485 nezakládá druhou příručku kvality. Doplní postupy pro schvalování a verzování souborů dat, určí, kdo schvaluje změnu modelu, a rozšíří své stávající procesy řízení návrhu a řízení změn tak, aby pokrývaly přetrénování. Auditní stopa a systém řízení dokumentace, které již provozuje, budou zahrnovat i nové záznamy.

Při řízení životního cyklu softwaru se výrobce může opřít o IEC 62304. Tato norma již řeší bezpečnost a sledovatelnost softwaru a akt k ní přidává vrstvu pro části specifické pro AI. Pokud výrobce s normou dosud nepracoval, věnujeme se jí od začátku v článku začínáme s IEC 62304.

Tato vrstva pokrývá kontrolu trénovacích a validačních dat, schopnost automatického vedení záznamů podle článku 12, zkoumání a zmírňování možných zkreslení, informace o transparentnosti a interpretaci vyžadované tam, kde je to relevantní, a monitorování chování systému a jeho aktualizací v provozu. Aktualizace v provozu mají vlastní pravidlo: monitorování po uvedení na trh běží podle článku 72 a aktualizace, která je podstatnou změnou, vyvolává nové posouzení shody podle čl. 43 odst. 4.

Příklad: aktualizace v provozu. Výrobce dodává měsíční aktualizaci modelu trénovanou na nových datech. Tam, kde poskytovatel změnu předem stanovil při počátečním posouzení shody a zahrnul ji do technické dokumentace podle přílohy IV a kde jde o systém, který se po uvedení na trh dále učí, není tato aktualizace podstatnou změnou. Musí být nadále řízena v rámci zdokumentovaného procesu změn, zachycena v technické dokumentaci a monitorována podle článku 72. Opačný případ je vymezen užším testem. Tam, kde změna po uvedení na trh nebyla při počátečním posouzení shody předvídána ani plánována a kde buď ovlivňuje soulad systému AI s požadavky oddílu 2, nebo mění posouzený zamýšlený účel, jde o podstatnou změnu a je nutné nové posouzení shody příslušným sektorovým postupem. Vybočení z ověřeného rozsahu výkonnosti je silným varovným signálem, nikoli samotným testem.

Dokumentace životního cyklu softwaru se odpovídajícím způsobem rozšiřuje. Nyní obsahuje artefakty specifické pro AI: historii verzí modelu, charakteristiky souborů dat a jejich správu a případná omezení samoučícího se chování. Většina těchto informací je součástí technické dokumentace.

Hlavní závěr pro výrobce SaMD je tento: akt o umělé inteligenci a příslušné sektorové nařízení, MDR nebo IVDR, jsou závazným právem a nadále se používají. Postavení norem je odlišné. EN ISO 13485:2016 s AC:2018 a A11:2021 a EN ISO 14971:2019 s A11:2021 jsou v současné době uvedeny v Úředním věstníku podle MDR a IVDR, takže shoda s nimi zakládá předpoklad shody u požadavků, které pokrývají. EN 62304 a EN IEC 81001-5-1 v současných seznamech nejsou a normy jsou tak jako tak dobrovolné. Praktické zajištění souladu spočívá ve včasném začlenění dokumentace a kontrolních opatření specifických pro AI do návrhu, vývoje, systému řízení kvality a procesů po uvedení na trh a v předložení příslušných dokladů v rámci sektorového posouzení, nikoli v provádění druhého samostatného posouzení.

Kde se akt a MDR potkávají

Akt a MDR jsou koncipovány tak, aby se uplatňovaly souběžně, přičemž každý upravuje jiný rozměr téhož prostředku. Největší praktický význam má pět styčných bodů.

Klasifikace je prvním bodem styku a oba režimy klasifikují samostatně. Zdravotnický prostředek s podporou AI je vysoce rizikový podle čl. 6 odst. 1 ve spojení s přílohou I oddílem A tam, kde jsou splněny obě podmínky. MDR klasifikuje podle článků 51 a 52 a pro čl. 6 odst. 1 písm. b) není rozhodné označení třídy, nýbrž to, zda je u daného prostředku posouzení shody třetí stranou právně vyžadováno. U prostředků tříd IIa, IIb a III se vyžaduje zapojení oznámeného subjektu, stejně jako u prostředků třídy I uváděných na trh ve sterilním stavu, prostředků s měřicí funkcí a chirurgických nástrojů pro opakované použití, byť je zde zapojení omezeno na hlediska sterility, metrologie nebo opakovaného použití. Podmínku podle čl. 6 odst. 1 písm. b) může naplnit použitelný požadavek na posouzení shody třetí stranou, nikoli označení třídy samo o sobě. Klasifikace podle MDR neurčuje postavení podle aktu o umělé inteligenci a systém může samostatně naplnit i cestu podle přílohy III.

Řízení rizik je druhým bodem styku. Článek 9 aktu vyžaduje řízení rizik specifické pro AI, které doplňuje požadavky MDR v příloze I kapitole I.

Třetím bodem je technická dokumentace; článek 11 aktu přidává obsah specifický pro AI nad rámec dokumentace podle přílohy II MDR.

Čtvrtým bodem je sledování po uvedení na trh, u něhož platí snadno přehlédnutelné integrační pravidlo. Akt vyžaduje monitorování po uvedení na trh podle článku 72. Podle čl. 72 odst. 4 lze toto monitorování začlenit do stávajících systémů a plánů sledování po uvedení na trh podle MDR nebo IVDR za předpokladu, že je dosaženo rovnocenné úrovně ochrany.

Oznamování závažných incidentů funguje u zdravotnických prostředků odlišně. Podle čl. 73 odst. 10 se u prostředků, na které se vztahuje MDR nebo IVDR, oznamovací povinnost podle aktu o umělé inteligenci omezuje na incidenty podle čl. 3 bodu 49 písm. c) (porušení povinností podle práva Unie chránících základní práva) a oznamují se příslušnému vnitrostátnímu orgánu určenému k tomuto účelu. Události týkající se zdraví a bezpečnosti prostředku je nutné posoudit podle použitelných kritérií vigilance MDR nebo IVDR: článku 87 MDR a širších ustanovení o vigilanci, nebo článku 82 IVDR.

Toto zúžení není obecným pravidlem vylučujícím dvojí oznamování. Tam, kde událost samostatně naplňuje jak čl. 3 bod 49 písm. c), tak použitelná kritéria vigilance MDR nebo IVDR, může být nutné zvážit obě oznamovací povinnosti. Každý důvod pro oznámení se posuzuje samostatně.

Posuzování shody je pátým a nejužitečnějším bodem. Podle čl. 43 odst. 3 tvoří požadavky oddílu 2 a posouzení systému řízení kvality podle článku 17 součást příslušného sektorového postupu (článku 52 MDR nebo článku 48 IVDR) namísto samostatného druhého posouzení. Povinnosti podle článků 72 a 73 vznikají samostatně, postupy pro jejich plnění se však promítají do integrovaného posouzení systému řízení kvality vyžadovaného čl. 17 odst. 1 písm. h) a i).

Článek 43 odst. 3 zachovává sektorové volby posuzování, takže to, zda je zapojen oznámený subjekt, vyplývá z MDR nebo IVDR. Je-li oznámený subjekt zapojen, použijí se navíc podmínky způsobilosti a jmenování podle čl. 43 odst. 3. Subjekt již oznámený podle MDR nebo IVDR může toto posouzení provádět pouze tehdy, pokud bylo v rámci existujícího sektorového postupu pro oznamování ověřeno a doloženo, že splňuje požadavky čl. 31 odst. 4, 5, 10 a 11. Oznámené subjekty podle přílohy I oddílu A, na které čl. 43 odst. 3 odkazuje, musejí požádat o jmenování podle aktu do 28. ledna 2028. Toto datum je lhůtou pro podání žádosti, nikoli lhůtou, do níž musí být jmenování získáno.

Příklad: Výrobce, který uvádí na trh nový SaMD třídy IIb po dni použitelnosti, nebo který od tohoto dne provádí významné změny v návrhu stávajícího typu či modelu tak, že se použije čl. 111 odst. 2, přináší své doklady podle aktu o umělé inteligenci (dokumentaci správy dat, návrh vedení záznamů a odůvodnění lidského dohledu) do příslušného sektorového podání k posouzení shody. Výsledkem je integrovaný sektorový proces posuzování shody a jediný soubor technické dokumentace. Harmonogram a způsob vedení auditu zůstávají věcí oznámeného subjektu, takže článek 43 sám o sobě jeden cyklus auditu namísto dvou nezaručuje.

Co část 2 stanoví a co následuje

Výrobce, který si prošel touto částí, zná soubor požadavků, ví, že jeho velká část rozšiřuje již zavedené systémy podle MDR a ISO 13485, a ví, že požadavky oddílu 2 a posouzení systému řízení kvality podle článku 17 vstupují do sektorového posouzení, nikoli vedle něj.

Formální splnění požadavků je snazší částí. Náročnější je vybudovat prostředek s podporou AI a systém kvality, které tým dokáže skutečně provozovat a dlouhodobě udržovat i při změnách modelu v provozu.

Část 3: Průniky mezi předpisy a praktický soulad se věnuje tomu, jak se akt prolíná s dalšími režimy, jimž výrobce podléhá: podrobněji s MDR, s GDPR při práci s údaji, z nichž model vychází, a s rámcem FDA u společností působících na evropském i americkém trhu. Následně představuje praktickou cestu k souladu.

Často kladené otázky

1. Co akt EU o umělé inteligenci vyžaduje u vysoce rizikového zdravotnického prostředku?

   • Požadavky oddílu 2 jsou řízení rizik, správa dat, technická dokumentace, automatické vedení záznamů, transparentnost vůči zavádějícím subjektům, lidský dohled a odpovídající úroveň přesnosti, spolehlivosti a kybernetické bezpečnosti. Oddíl 3 (články 16 až 27) obsahuje povinnosti provozovatelů včetně systému řízení kvality podle článku 17; oddíl 5 (články 40 až 49) obsahuje posuzování shody, EU prohlášení o shodě, označení CE a registraci; a kapitola IX (články 72 a 73) obsahuje monitorování po uvedení na trh a oznamování incidentů, s výjimkou podle čl. 73 odst. 10 pro prostředky podle MDR a IVDR.

     K načasování: článek 113 stanoví pro cestu podle čl. 6 odst. 2 a přílohy III datum 2. prosince 2027 a pro cestu podle čl. 6 odst. 1 a přílohy I datum 2. srpna 2028. Tam, kde se použije pouze jedna cesta, je datum jasné. Nařízení výslovně neřeší datum tam, kde se obě cesty použijí samostatně.

2. Lze systém řízení kvality podle aktu o umělé inteligenci spojit se systémem managementu kvality podle ISO 13485?

   • Ano. Článek 17 odst. 3 umožňuje poskytovateli, který již provozuje systém řízení kvality podle MDR nebo IVDR, obvykle vystavěný podle EN ISO 13485, zahrnout do něj prvky systému řízení kvality podle aktu, a MDCG 2025-6 totéž potvrzuje pro systémy kvality podle MDR a IVDR. V praxi výrobce rozšíří svůj systém managementu kvality podle ISO 13485 tak, aby pokrýval správu dat, rizika algoritmu, monitorování životního cyklu a řízení změn.

3. Vyžaduje akt o umělé inteligenci posouzení shody oddělené od MDR?

   • Nikoli jako samostatný postup. Podle čl. 43 odst. 3 tvoří požadavky oddílu 2 a posouzení systému řízení kvality podle článku 17 součást příslušného postupu podle MDR nebo IVDR; povinnosti podle článků 72 a 73 vznikají samostatně, jejich postupy jsou však posuzovány prostřednictvím systému řízení kvality podle čl. 17 odst. 1 písm. h) a i). Článek 43 odst. 3 zachovává sektorové volby posuzování, takže to, zda je zapojen oznámený subjekt, vyplývá z MDR nebo IVDR, u způsobilého prostředku podle čl. 6 odst. 1 tomu tak zpravidla bude. Je-li oznámený subjekt zapojen, použijí se navíc podmínky způsobilosti a jmenování podle čl. 43 odst. 3.

4. Musí být vysoce rizikový zdravotnický prostředek s AI registrován v databázi podle aktu o umělé inteligenci?

   • Obecně nikoli, je-li klasifikován výhradně podle čl. 6 odst. 1. Registrace podle článku 49 se týká především systémů podle přílohy III a poskytovatelů, kteří uplatňují výjimku podle čl. 6 odst. 3. Registrace podle MDR a IVDR pokračuje samostatně a není tím nahrazena. Tam, kde tentýž systém samostatně spadá do přílohy III, je však nutné článek 49 posoudit navíc, databáze EUDAMED jej nenahrazuje. Článek 26, který se pro registraci někdy uvádí, ve skutečnosti stanoví povinnosti zavádějícího subjektu při používání. Článek 26 odst. 8 vyžaduje, aby zavádějící subjekty, které jsou orgány veřejné moci nebo orgány, institucemi či jinými subjekty Unie, plnily registrační povinnosti podle článku 49; nejde tedy o samostatný registrační režim podle článku 26. Povinnost registrace ukládá čl. 49 odst. 3 a týká se těchto zavádějících subjektů a osob jednajících jejich jménem, pro dotčené systémy podle přílohy III s výjimkou systémů podle bodu 2 přílohy III.