Část 1: Základy a rozsah aktu EU o umělé inteligenci pro zdravotnické prostředky

Napsal Vaclav Vlcek, MD

O tom, jak se akt o umělé inteligenci vztahuje na prostředek, rozhodují tři otázky: jde vůbec o systém AI, je vysoce rizikový a jakou roli daná společnost zastává? Odpovědi určují všechny navazující povinnosti.

Tato část se věnuje definicím, rozsahu, časové ose a rizikovým kategoriím, které určují, kam daný systém spadá. Slouží jako podrobnější referenční základ k přehledu uvedenému v úvodu k aktu EU o umělé inteligenci pro zdravotnické prostředky.

Ve zkratce

Akt EU o umělé inteligenci definuje systém AI široce a rozděluje systémy do rizikových kategorií, s nimiž jsou spojeny velmi odlišné povinnosti. Zdravotnický prostředek s podporou AI je vysoce rizikový podle čl. 6 odst. 1, pokud jsou splněny obě podmínky současně: systém AI je bezpečnostní komponentou produktu, na který se vztahuje právní předpis uvedený v příloze I oddíle A, jako je MDR nebo IVDR, nebo je tímto produktem sám; a u tohoto produktu je vyžadováno posouzení shody třetí stranou. Poskytovatelem je subjekt, který systém vyvíjí nebo nechává vyvíjet a uvádí jej na trh nebo do provozu pod svým vlastním jménem, názvem nebo ochrannou známkou; organizace, která systém využívá, například zdravotnické zařízení, je zavádějícím subjektem. Po digitálním omnibusu k AI (nařízení (EU) 2026/1744) se příslušná ustanovení kapitoly III použijí od 2. srpna 2028 na systémy klasifikované výhradně podle čl. 6 odst. 1, s výhradou článku 111; příloha III se posuzuje samostatně.

Co se považuje za systém AI

Definice systému AI je v aktu záměrně široká. Odvozování je ústředním rysem, který systém AI odlišuje od běžného softwaru, čl. 3 bod 1 je však třeba posuzovat jako celek.

Podle čl. 3 bodu 1 se „systémem AI“ rozumí „strojový systém navržený tak, aby po zavedení fungoval s různými úrovněmi autonomie a který po zavedení může vykazovat adaptabilitu a který za explicitními nebo implicitními účely z obdržených vstupů odvozuje, jak generovat výstupy, jako jsou predikce, obsah, doporučení nebo rozhodnutí, které mohou ovlivnit fyzická nebo virtuální prostředí“.

Definice je technologicky neutrální a široká, ne každý software, který zpracovává vstupy a vytváří výstupy, je však systémem AI. Článek 3 bod 1 je nutné číst jako celek. Systém potřebuje určitou míru autonomie a schopnost odvodit, jak generovat své výstupy. Software, který pouze vykonává pevně naprogramovaná pravidla nebo provádí základní zpracování dat, této definici na tomto základě sám o sobě nevyhovuje. Adaptabilita po zavedení není podmínkou.

Příklad: Nástroj pro podporu klinického rozhodování může definici splňovat, pokud svá doporučení odvozuje z anamnézy pacienta, genetických dat a aktuálních laboratorních výsledků pomocí strojového učení nebo odvozování založeného na logice a znalostech. Samotná skutečnost, že přijímá data pacienta a vrací doporučení, ještě neznamená, že jde o systém AI. Pokud tato doporučení dále zpřesňuje podle nově přicházejících výsledků, vykazuje i adaptabilitu popsanou v bodě odůvodnění 12, ta však podmínkou není.

To odpovídá nezávazným pokynům Komise k definici systému AI, které považují odvozování za nezbytné a z definice výslovně vylučují základní zpracování dat i některé druhy softwaru založené na pevných pravidlech.

Zabudované a nezabudované systémy

„Zabudovaný“ a „nezabudovaný“ jsou praktická označení, nikoli definice aktu o umělé inteligenci, toto rozlišení je však užitečným způsobem, jak uvažovat o tom, jaký je vztah systému AI k prostředku.

Zabudovaný systém tvoří součást prostředku a zpravidla jej nelze používat odděleně od něj.

Příklad: Algoritmus uvnitř inteligentní inzulinové pumpy, který upravuje dávkování podle údajů ze senzoru glukózy. Funguje jako součást prostředku, nikoli jako samostatný produkt.

Nezabudovaný systém běží mimo prostředek a přitom ovlivňuje klinická rozhodnutí.

Příklad: Cloudový diagnostický nástroj, který vyhodnocuje lékařské snímky a odesílá výsledky na radiologickou pracovní stanici. Systém AI je provozován vzdáleně, přesto klinické rozhodnutí ovlivňuje. Takový software přitom může být sám regulovaným produktem podle MDR nebo IVDR, nikoli doplňkem k jinému produktu.

Samotné zabudování nerozhoduje o rozsah aktu. Každý systém musí i nadále splňovat čl. 3 bod 1 a článek 2 a nesmí spadat pod příslušné výjimky.

Kdo nese povinnosti: poskytovatel a zavádějící subjekt

Akt přiděluje povinnosti podle rolí a nejdůležitější jsou role poskytovatele a zavádějícího subjektu. Správné určení role je prvním krokem společnosti při zajišťování souladu, protože povinnosti z něj vyplývají.

Poskytovatelem (čl. 3 bod 3) je subjekt, který systém AI vyvíjí nebo nechává vyvíjet a zároveň jej uvádí na trh nebo do provozu pod svým vlastním jménem, názvem nebo ochrannou známkou, ať už za úplatu, nebo bezplatně. Podstatné jsou obě části: samotný vývoj systému ze společnosti poskytovatele nedělá a stejně tak jím nečiní ani uvedení systému na trh pod značkou někoho jiného.

Příklad: Zdravotnicko-technologická společnost vytvoří diagnostický nástroj s AI a uvádí jej na trh pod svou vlastní značkou v rámci radiologického softwaru. Je poskytovatelem, i když nemocnice software získávají bezplatně. Dovozce, který do Unie přiváží systém poskytovatele ze třetí země pod značkou tohoto poskytovatele, se tím poskytovatelem nestává.

Zavádějící subjekt (čl. 3 bod 4) systém využívá v rámci své pravomoci při profesionální činnosti.

Příklad: Nemocnice provozuje nástroj s AI pro určování priority pacientů na urgentním příjmu. Nemocnice je zavádějícím subjektem.

Toto rozdělení je praktické. U vysoce rizikových systémů nesou poskytovatelé, jakmile se příslušná ustanovení začnou používat, povinnosti před uvedením na trh: řízení rizik, správu dat, technickou dokumentaci a posouzení shody.

Zavádějící subjekty nesou povinnosti při používání: lidský dohled, monitorování a povinnost neprodleného oznámení rizik a závažných incidentů podle čl. 26 odst. 5. Formální oznámení podle článku 73 je především povinností poskytovatele a na zavádějící subjekt dopadá pouze tehdy, není-li poskytovatel dosažitelný.

Kde se akt použije

Akt EU o umělé inteligenci sahá i za hranice EU. Článek 2 dopadá mimo jiné na poskytovatele mimo EU, kteří uvádějí systémy AI na trh v Unii, a na poskytovatele nebo zavádějící subjekty mimo EU, pokud je výstup systému využíván v Unii.

Příklad: z distributora se stává poskytovatel. Dovozce z EU přiveze do Unie nástroj s AI z USA a poté tento vysoce rizikový systém, který již byl uveden na trh, dodává na trh pod svým vlastním názvem. Přebírá povinnosti poskytovatele.

Poslední případ je změnou role a snadno se přehlédne.

Článek 25 stanoví, kdy k ní dochází, a jednotlivé okolnosti jsou konkrétní, nikoli obecné. Subjekt se stává poskytovatelem, pokud na vysoce rizikový systém, který již byl uveden na trh, umístí své vlastní jméno, název nebo ochrannou známku; pokud provede podstatnou změnu vysoce rizikového systému takovým způsobem, že systém zůstává vysoce rizikový; nebo pokud změní zamýšlený účel systému, který vysoce rizikový nebyl, tak, že se vysoce rizikovým stane.

Chybné určení má reálné důsledky. S postavením poskytovatele přecházejí i jeho povinnosti. Odpovědnost je samostatnou otázkou, posuzuje se podle aktu o umělé inteligenci, MDR nebo IVDR, práva upravujícího odpovědnost za vadné výrobky a vnitrostátního práva a neomezuje se na toho, kdo má postavení poskytovatele. Samotný článek 25 platnost certifikátů automaticky neruší, další platnost a případné nové posouzení je však nutné určit podle příslušného postupu aktu o umělé inteligenci a MDR nebo IVDR. Podle čl. 44 odst. 3 platí, že pokud systém AI přestane splňovat požadavky oddílu 2, oznámený subjekt s ohledem na zásadu proporcionality pozastaví platnost certifikátu, zruší jej nebo jinak omezí, nejsou-li ve lhůtě, kterou stanoví, přijata vhodná nápravná opatření.

Kdy je potřeba nové posouzení shody

Jakmile se příslušná ustanovení kapitoly III začnou používat, musí vysoce rizikový systém AI s výhradou článku 111 zpravidla projít posouzením shody před uvedením na trh, s výhradou úzce vymezené výjimky podle článku 46. U zdravotnického prostředku může požadavky aktu o umělé inteligenci posoudit sektorový oznámený subjekt, jsou-li splněny podmínky způsobilosti podle čl. 43 odst. 3. Subjekt již oznámený podle MDR nebo IVDR může toto posouzení provádět pouze tehdy, pokud bylo v rámci existujícího sektorového postupu pro oznamování ověřeno a doloženo, že splňuje požadavky čl. 31 odst. 4, 5, 10 a 11. Oznámené subjekty podle přílohy I oddílu A, na které čl. 43 odst. 3 odkazuje, musejí požádat o jmenování podle aktu do 28. ledna 2028. Podat žádost není totéž jako být jmenován, a proto je vhodné kapacitu potvrdit včas, nikoli ji předpokládat.

Integrované posouzení pokrývá požadavky oddílu 2 (řízení rizik, správu dat, technickou dokumentaci, vedení záznamů, transparentnost, lidský dohled, přesnost, spolehlivost a kybernetickou bezpečnost) spolu se systémem řízení kvality podle článku 17. Monitorování po uvedení na trh a oznamování incidentů do posouzení vstupují prostřednictvím tohoto systému řízení kvality; články 72 a 73 samy součástí oddílu 2 nejsou.

Posuzování shody nastává ve dvou okamžicích: při počátečním posouzení shody předtím, než je systém uveden na trh nebo do provozu, a při novém posouzení podle čl. 43 odst. 4 po podstatné změně.

„Podstatná změna“ je definována v čl. 3 bodě 23. Změna provedená jiným subjektem než původním poskytovatelem není samostatnou třetí okolností; význam má proto, že může vést ke změně postavení poskytovatele podle článku 25, a povinnost posouzení pak nese nový poskytovatel.

Příklad: Výrobce po uvedení na trh přetrénuje diagnostický algoritmus na nových datech. To může být podstatnou změnou a vyvolat nové posouzení.

Výjimka je úzká a týká se konkrétně vysoce rizikových systémů, které se po uvedení na trh dále učí. U takových systémů není změna podstatnou změnou, pokud ji poskytovatel předem stanovil při počátečním posouzení shody a zahrnul do technické dokumentace podle přílohy IV. Rozhodující je podmínka dokumentace: předem stanovené změny musí být v dokumentaci podle přílohy IV zaznamenány od začátku, nikoli označeny za předvídané zpětně.

Časová osa zavádění

Akt se používá postupně a digitální omnibus k AI několik pozdějších termínů posunul. Příslušná ustanovení se od 2. srpna 2028 použijí na systémy klasifikované výhradně podle čl. 6 odst. 1 a přílohy I, včetně AI, která je sama produktem nebo bezpečnostní komponentou. Následující tabulka odráží novelizovanou časovou osu.

Tabulka 1: Časová osa zavádění aktu EU o umělé inteligenci ve znění nařízení (EU) 2026/1744. Odkazy na články se vztahují k nařízení (EU) 2024/1689.

Z této časové osy vystupují dva rysy.

Ze dvou obecných termínů použitelnosti oddílů 1 až 3 kapitoly III připadá pozdější na cestu regulovaného produktu podle čl. 6 odst. 1 a přílohy I: příslušná ustanovení se od 2. srpna 2028 použijí na systémy klasifikované výhradně touto cestou. Nejdříve se začaly používat kapitoly I a II, a to od 2. února 2025, včetně článku 4 o gramotnosti v oblasti AI a původních zákazů podle článku 5; většina sankční kapitoly následovala 2. srpna 2025, přičemž článek 101 byl vyloučen až do 2. srpna 2026.

Omnibus neodložil článek 50 ani obecný termín použitelnosti. Povinnosti podle článku 50 se používají od 2. srpna 2026 a od tohoto dne začaly úřad pro AI a vnitrostátní orgány vymáhat příslušná pravidla. Výrobce, jehož systémy spadají do článku 50, má tedy vedle roku 2028 dřívější termín, který musí sledovat.

Zda se tato pravidla vztáhnou i na produkt, který je již na trhu, rozhoduje jediné ustanovení a je obchodně nejvýznamnějším ustanovením celé časové osy. Podle čl. 111 odst. 2 se vysoce rizikový režim vztahuje na provozovatele systémů uvedených na trh nebo do provozu před dnem použitelnosti pouze tehdy, pokud od uvedeného dne dojde k významným změnám v jejich návrhu. Digitální omnibus odstranil dřívější pevný odkaz na 2. srpna 2026, takže rozhodným okamžikem je nyní příslušné datum použitelnosti kapitoly III podle článku 113: článek 113 stanoví pro cestu podle čl. 6 odst. 2 a přílohy III datum 2. prosince 2027 a pro cestu podle čl. 6 odst. 1 a přílohy I datum 2. srpna 2028. Tam, kde se použije pouze jedna cesta, je datum jasné. Nařízení výslovně neřeší datum tam, kde se obě cesty použijí samostatně.

Bod odůvodnění 39 omnibusu objasňuje, že přechodný režim funguje na úrovni typu a modelu. Pokud byla alespoň jedna jednotka vysoce rizikového systému AI v souladu s právem uvedena na trh nebo do provozu před rozhodným dnem, spadají do tohoto režimu i další jednotky téhož typu a modelu, dokud zůstává návrh nezměněn. Rozhoduje datum, kdy byla první jednotka uvedena na trh nebo do provozu. Významná změna v návrhu po rozhodném dni vede k plnému uplatnění příslušných ustanovení pro vysoce rizikové systémy, včetně posouzení shody.

Dvě upozornění. Zákonným testem podle čl. 111 odst. 2 je formulace „významné změny v jejich návrhu“ a jde o jiný test než „podstatná změna“, která podle čl. 43 odst. 4 vyvolává nové posouzení shody. Tyto dva pojmy nelze používat zaměnitelně. A poskytovatelé a zavádějící subjekty vysoce rizikových systémů určených k použití orgány veřejné moci mají samostatné nejzazší datum 2. srpna 2030.

Ještě jeden vývoj je vhodné sledovat, nikoli však na něj spoléhat. Článek 2 odst. 13, vložený omnibusem, zmocňuje Komisi omezit konkrétní požadavky v článcích 9 až 15 a 17 až 25 u systémů podle čl. 6 odst. 1, a to za dvou kumulativních podmínek: že právní předpisy podle přílohy I oddílu A, jako je MDR, poskytují ve vztahu k danému požadavku rovnocennou nebo vyšší úroveň ochrany a že jeho omezení nesnižuje celkovou úroveň ochrany, kterou akt poskytuje. Komise musí upřesňující akty v přenesené pravomoci přijmout do 2. srpna 2027. Článek 2 odst. 13 nezakládá pro provozovatele žádné bezprostředně účinné omezení: s výhradou termínů použitelnosti podle článku 113 zůstávají články 9 až 15 a 17 až 25 použitelné, dokud akt v přenesené pravomoci neomezí konkrétní požadavky pro konkrétní systémy. Ke dni 10. srpna 2026 nebyl žádný takový akt v platnosti.

Příklad: využití sandboxu. Od 2. srpna 2027 musí členské státy zajistit, aby byl zřízen a funkční alespoň jeden vnitrostátní regulační sandbox pro AI. Společnost vyvíjející nástroj s AI pro včasné odhalování nádorových onemocnění může požádat o účast a testovat systém a konzultovat požadavky MDR a aktu o umělé inteligenci pod dohledem vnitrostátního orgánu ještě před rozhodnutím o uvedení na trh. Účast nenahrazuje posouzení shody ani případné požadované povolení. Členské státy musí zajistit jeho zřízení a fungování, článek 58 však počítá s podmínkami způsobilosti a výběrovým řízením, takže přijetí není automatické. Sandbox nezbavuje povinností podle jiných předpisů: GDPR, MDR nebo IVDR a pravidla pro klinické zkoušky se používají i nadále. Článek 59 umožňuje další zpracování zákonně shromážděných dat pouze za kumulativních podmínek, mezi něž patří nezbytnost, veřejný zájem, izolované prostředí a opatření k řízení rizik, a testování v reálných podmínkách vyžaduje příslušná povolení a záruky podle článků 58 a 60.

Články, na kterých záleží nejvíce

Akt má více než sto článků. Pro výrobce zdravotnických prostředků odvádí většinu práce menší okruh a následující tabulka jej mapuje.

Tabulka 2: Klíčové články aktu EU o umělé inteligenci pro výrobce zdravotnických prostředků. Všechny odkazy na články se vztahují k nařízení (EU) 2024/1689; je třeba mít na paměti, že omnibus několik z nich novelizoval. Konsolidované znění je užitečnou pracovní referencí; pro autoritativní právní citaci je nutné použít autentická znění nařízení 2024/1689 a 2026/1744 z Úředního věstníku.

Rizikové kategorie

Akt odstupňovává své požadavky podle rizika; kategorie, do níž systém spadá, určuje jejich rozsah a intenzitu.

• Nepřijatelné riziko (článek 5)

  • Některé postupy jsou zakázány, například sociální bodování a některé manipulativní techniky. Digitální omnibus doplnil v čl. 5 odst. 1 dva další zákazy, písm. ba) a bb), použitelné od 2. prosince 2026. Týkají se AI, která vytváří nebo upravuje určený realistický obrazový, filmový, zvukový či podobný intimní materiál, a AI, která vytváří určený materiál zobrazující pohlavní zneužívání dětí nebo takové představení. Ani jeden z nich není plošným zákazem určité technologie. Podmínky jsou rozprostřeny do několika ustanovení. Písmeno ba) obsahuje podmínku souhlasu; písmeno bb) ponechává prostor okolnostem vylučujícím protiprávnost podle vnitrostátního práva. Článek 5 odst. 1a obsahuje omezení týkající se zamýšleného účelu, důvodně předvídatelného a reprodukovatelného výsledku, záruk a účelu zavádějícího subjektu. Článek 5 odst. 1b obsahuje úzké pravidlo o manipulaci, které se týká úprav, jež ani nezvyšují viditelnost zobrazených intimních partií, ani nemění zobrazovanou aktivitu. Úplné znění je v samotném článku 5.

• Vysoké riziko (článek 6)

  • Do této kategorie spadají způsobilé zdravotnické prostředky s podporou AI a vedou do ní dvě cesty.

    První je čl. 6 odst. 1 ve spojení s přílohou I oddílem A a stanoví dvě podmínky, které musí být splněny obě. Systém AI musí být určen k použití jako bezpečnostní komponenta produktu, nebo musí být tímto produktem sám, přičemž na produkt se vztahuje jeden z právních předpisů EU uvedených v příloze I, MDR a IVDR jsou v oddíle A body 11 a 12. A u tohoto produktu musí být podle týchž předpisů vyžadováno posouzení shody třetí stranou.

    Digitální omnibus doplnil tři odstavce, které způsob fungování těchto podmínek zpřesňují, a rozdíl mezi nimi je podstatný.

    Článek 6 odst. 1a zužuje cestu přes bezpečnostní komponentu: systém AI používaný výhradně pro aspekty nesouvisející s bezpečností, jako je uživatelská podpora, optimalizace výkonnosti, efektivita služeb, automatizace, pohodlí nebo kontrola kvality, se za bezpečnostní komponentu nepovažuje. Podle čl. 6 odst. 1b se však tato výluka neuplatní tam, kde by selhání nebo chybné fungování systému AI ohrozilo zdraví a bezpečnost; v takovém případě za bezpečnostní komponentu považován je. Ve spojení s novelizovanou definicí v čl. 3 bodě 14 je výsledkem to, že systém AI sloužící pouze účelům nesouvisejícím s bezpečností do cesty přes bezpečnostní komponentu nespadá, ledaže by jeho selhání vytvořilo riziko pro zdraví nebo bezpečnost.

    Toto zmírnění je užší, než se na první pohled zdá, ale zároveň není bezvýznamné. Článek 6 odst. 1a a 1b zpřesňují pouze větev bezpečnostní komponenty v čl. 6 odst. 1 písm. a). Systém AI, který je sám regulovaným produktem podle MDR nebo IVDR, naplňuje čl. 6 odst. 1 písm. a), aniž by musel být bezpečnostní komponentou, vysoce rizikovým podle čl. 6 odst. 1 je však pouze tehdy, je-li splněna také podmínka podle čl. 6 odst. 1 písm. b), s výhradou čl. 6 odst. 1c. Samostatný software jako zdravotnický prostředek (SaMD) proto vysoce rizikový automaticky není: samostatný prostředek třídy I s vlastním prohlášením o shodě druhou podmínku nesplňuje stejně jako kterýkoli jiný produkt s vlastním prohlášením.

    Článek 6 odst. 1c působí na tuto druhou podmínku. Pokud je u produktu vyžadováno posouzení shody třetí stranou pouze z důvodu rizik nesouvisejících se zdravím a bezpečností, například rádiového spektra nebo elektromagnetické interference nesouvisející se zdravím a bezpečností, takové posouzení podmínku podle čl. 6 odst. 1 písm. b) nenaplňuje.

    O druhé podmínce obvykle rozhoduje třída prostředku a této otázce se věnujeme samostatně v článku klasifikace zdravotnických prostředků podle EU MDR, s podporou v rámci našich služeb poradenství k souladu s EU MDR a poradenství k IVDR.

    Třída I není plošnou výjimkou. Podle čl. 52 odst. 7 MDR se oznámený subjekt zapojuje u prostředků třídy I uváděných na trh ve sterilním stavu, u prostředků s měřicí funkcí a u chirurgických nástrojů pro opakované použití, byť pouze v otázkách sterility, metrologie, resp. opakovaného použití. Podle čl. 48 odst. 10 IVDR vyžadují zapojení oznámeného subjektu prostředky třídy A uváděné na trh ve sterilních podmínkách, a to omezené na sterilitu. Nesterilní prostředky třídy A se zpravidla opatřují vlastním prohlášením o shodě.

  • Druhá cesta, čl. 6 odst. 2 ve spojení s přílohou III, vychází z toho, k jakému použití je systém určen, nikoli z toho, zda je AI součástí produktu, nebo samostatným produktem. Týká se systémů používaných v uvedených oblastech, jako je biometrika, zaměstnanost a úvěruschopnost, a seznam zahrnuje třídění pacientů v krizových situacích, což je důvod, proč systém AI ve zdravotnickém prostředku může být touto cestou klasifikován jako vysoce rizikový nezávisle na cestě podle přílohy I.

    Uvedením v příloze III to nekončí. Podle čl. 6 odst. 3 se uvedený systém za vysoce rizikový nepovažuje, pokud nepředstavuje významné riziko újmy na zdraví, bezpečnosti nebo základních právech fyzických osob, a to ani tím, že by podstatně ovlivňoval výsledek rozhodování, a je-li splněna některá z podmínek uvedených v tomto ustanovení, například plnění úzce zaměřeného procesního úkolu nebo zlepšení výsledku dříve dokončené lidské činnosti. Platí dvě omezení. Systém, který provádí profilování fyzických osob, je vysoce rizikový vždy a filtr se na něj nepoužije. A poskytovatel, který se o filtr opírá, musí své posouzení zdokumentovat před uvedením systému na trh a systém zaregistrovat podle článku 49.

    S oběma cestami jsou spojena různá data. Článek 113 stanoví pro cestu podle čl. 6 odst. 2 a přílohy III datum 2. prosince 2027 a pro cestu podle čl. 6 odst. 1 a přílohy I datum 2. srpna 2028. Tam, kde se použije pouze jedna cesta, je datum jasné. Nařízení výslovně neřeší datum tam, kde se obě cesty použijí samostatně. Článek 43 odst. 3 volí pro systém spadající pod obě cesty sektorový postup posuzování shody, nikoli však datum jeho použitelnosti.

    Z druhé podmínky plyne jedna výjimka. Jsou-li splněny všechny podmínky čl. 5 odst. 5 MDR (včetně omezení převodu a výroby v průmyslovém měřítku) prostředek vyrobený a používaný v rámci téhož právního subjektu zdravotnického zařízení usazeného v EU, aniž by byl převeden na jiný právní subjekt, nepodléhá běžné cestě posouzení shody třetí stranou. Druhou podmínku tedy nesplňuje a není vysoce rizikový podle čl. 6 odst. 1. Ke stejnému závěru dospívají společné pokyny MDCG a Evropské rady pro umělou inteligenci v otázce 35 (MDCG 2025-6). Tyto pokyny jsou nejnovějšími oficiálně uvedenými společnými pokyny k tomuto vzájemnému působení, jsou však nezávazné, jsou ze dne 19. června 2025 a byly zveřejněny před digitálním omnibusem, takže jsou překonané všude tam, kde jejich data nebo právní závěry odporují novelizovanému nařízení.

    Nesplnění čl. 6 odst. 1 analýzu nekončí. Článek 6 odst. 2 klasifikuje systémy podle přílohy III jako vysoce rizikové samostatně a třídění pacientů v krizových situacích je jedním z uvedených případů použití podle přílohy III. Systém vyrobený vlastními silami je nutné posoudit podle přílohy III samostatně, včetně toho, zda se použije filtr podle čl. 6 odst. 3. Spadá-li do některé kategorie uvedené v příloze III, použijí se registrační povinnosti podle článku 49 podle výsledku: odstavec 1, je-li systém vysoce rizikový, s výjimkou týkající se bodu 2 přílohy III; odstavec 2, opírá-li se poskytovatel o filtr podle čl. 6 odst. 3. Ve druhém případě vyžaduje čl. 6 odst. 4 také zdokumentování posouzení. Obecně použitelná ustanovení aktu se použijí tak či tak, včetně povinnosti podle článku 4 přijmout opatření na podporu gramotnosti zaměstnanců v oblasti AI a zákazů podle článku 5.

    Příklad: Fakultní nemocnice si vytvoří vlastní systém AI, který na základě jejích záznamů o pacientech označuje riziko sepse, používá jej pouze na svých odděleních a splňuje podmínky čl. 5 odst. 5 MDR. Systém není vysoce rizikový cestou podle přílohy I, nemocnice však stále nese obecné povinnosti podle aktu a jakmile systém převede na jiný právní subjekt, nemůže se o výjimku opírat. Rozhodující hranicí je převod na jiný právní subjekt; různá pracoviště téže právnické osoby nutně mimo čl. 5 odst. 5 nestojí.

• Obecné modely AI (čl. 3 bod 63, články 51 až 56 a příloha XIII)

  • Obecné modely AI netvoří další rizikovou kategorii systémů; podléhají samostatnému režimu a na modely se systémovým rizikem se vztahují další povinnosti. Klasifikaci systémového rizika upravují článek 51 a příloha XIII, a to testem schopností s velkým dopadem nebo rozhodnutím Komise.

    Příklad: Velký jazykový model, který píše texty, odpovídá na otázky a shrnuje dokumenty napříč mnoha odvětvími, je obecným modelem. Výrobce prostředku, který takový model zabuduje do klinické funkce, se jeho poskytovatelem nestává pouhým zabudováním ani pouhým umístěním své značky. Rozhodující je test podle čl. 3 bodu 3: vyvinout model nebo jej nechat vyvinout a poté jej uvést na trh pod svým vlastním názvem. Nezávazné pokyny Komise k obecným modelům AI samostatně uvádějí, že postavení poskytovatele může výjimečně založit významná úprava. Tak či tak výrobce potřebuje vědět, co poskytovatel modelu dokumentuje a co nikoli, protože tato dokumentace vstupuje do jeho vlastní technické dokumentace.

    Organizace, které kolem vývoje AI budují formální řízení, k tomu často využívají systém managementu AI, jemuž se věnujeme v rámci poradenství k ISO 42001 pro systémy AI.

• Pod hranicí vysokého rizika. Systémy, které nesplňují ani jednu z cest k vysokému riziku, nesou lehčí povinnosti, nikoli však žádné. Použít se mohou povinnosti týkající se transparentnosti podle článku 50, například informovat osobu, že jedná se systémem AI. Povinnost podle článku 4 přijmout opatření na podporu gramotnosti v oblasti AI, která je povinností podporovat, nikoli zaručit určitou úroveň u každého jednotlivce, a zákazy podle článku 5 se použijí bez ohledu na rizikovou kategorii a další právo EU i vnitrostátní právo se používá i nadále. Nad rámec toho jsou podporovány dobrovolné kodexy chování.

  Příklad: Výrobce, který sám poskytuje na svém webu podpůrného chatbota, neprovozuje vysoce rizikový systém, čl. 50 odst. 1 se na něj však vztahuje od 2. srpna 2026 — ledaže je z pohledu přiměřeně informované, pozorné a obezřetné osoby zjevné, že komunikuje se systémem AI. Tam, kde je chatbot produktem třetí strany, nese tuto povinnost týkající se návrhu a vývoje jeho poskytovatel.

Co část 1 stanoví a co následuje

Na tomto místě už výrobce dokáže určit, zda jde o systém AI, do které kategorie spadá, jakou roli společnost zastává a odkdy povinnosti nastupují.

U zdravotnického prostředku s podporou AI, který splňuje obě podmínky čl. 6 odst. 1, bude výrobce obvykle poskytovatelem a u systému klasifikovaného výhradně cestou podle čl. 6 odst. 1 je rozhodným datem 2. srpna 2028. Samostatná analýza podle přílohy III zůstává nezbytná a datum pro systém klasifikovaný samostatně oběma cestami není výslovně vyřešeno.

Část 2: Základní požadavky na systémy AI ve zdravotnických prostředcích přechází od klasifikace k povinnostem: požadavky rozebrané podle jednotlivých článků, které musí vysoce rizikový systém AI ve zdravotnickém prostředku splnit, a to, jak navazují na MDR, ISO 13485 a IEC 62304.

Výrobcům s klasifikací pomáháme v rámci našich služeb poradenství k aktu EU o umělé inteligenci pro zdravotnický software.

Často kladené otázky

1. Co činí zdravotnický prostředek s podporou AI vysoce rizikovým podle aktu EU o umělé inteligenci?

   • Podle čl. 6 odst. 1 musí být splněny dvě podmínky současně. Systém AI musí být bezpečnostní komponentou produktu, na který se vztahuje jeden z právních předpisů uvedených v příloze I oddíle A, mezi něž patří MDR a IVDR, nebo musí být tímto produktem sám. A u tohoto produktu musí být vyžadováno posouzení shody třetí stranou. Splnění pouze jedné z obou podmínek nestačí.

     Tuto úpravu zpřesňují tři odstavce doplněné omnibusem. Článek 6 odst. 1a vyjímá AI sloužící pouze účelům nesouvisejícím s bezpečností z cesty přes bezpečnostní komponentu, podle čl. 6 odst. 1b se však tato výluka neuplatní, pokud by selhání ohrozilo zdraví a bezpečnost, a čl. 6 odst. 1c nepřipouští posouzení třetí stranou vyžadované pouze z důvodu rizik nesouvisejících se zdravím a bezpečností. Je třeba mít na paměti, že čl. 6 odst. 1a a 1b zpřesňují pouze cestu přes bezpečnostní komponentu. Systém AI, který je sám produktem podle MDR nebo IVDR, například samostatný software jako zdravotnický prostředek (SaMD), naplňuje čl. 6 odst. 1 písm. a) i bez nich — vysoce rizikovým podle čl. 6 odst. 1 je však pouze tehdy, je-li splněna také podmínka podle čl. 6 odst. 1 písm. b), s výhradou čl. 6 odst. 1c.

2. Je výrobce poskytovatelem, nebo zavádějícím subjektem?

   • Obvykle poskytovatelem. Poskytovatel (čl. 3 bod 3) systém vyvíjí a uvádí na trh a nese povinnosti před uvedením na trh. Nemocnice nebo klinika, která systém používá, je zavádějícím subjektem (čl. 3 bod 4) a nese povinnosti při používání.

3. Kdy potřebuje zdravotnický prostředek s AI nové posouzení shody?

   • Po podstatné změně, jak ji definuje čl. 3 bod 23 a jak ji vyžaduje čl. 43 odst. 4. U vysoce rizikového systému, který se po uvedení na trh nebo do provozu dále učí, nevyvolávají nové posouzení změny, které poskytovatel předem stanovil při počátečním posouzení shody a zahrnul do technické dokumentace podle přílohy IV.

4. Vztahuje se akt na AI, kterou si nemocnice vytvoří pro vlastní potřebu?

   • Zčásti. Jsou-li splněny všechny podmínky čl. 5 odst. 5 MDR nebo čl. 5 odst. 5 IVDR, prostředek vyrobený a používaný pouze v rámci zdravotnických zařízení usazených v Unii, který není převeden na jiný právní subjekt a splňuje všechny ostatní podmínky čl. 5 odst. 5, nepodléhá běžné cestě posouzení shody třetí stranou, a není tedy vysoce rizikový podle čl. 6 odst. 1. Tím to však nekončí: čl. 6 odst. 2 klasifikuje systémy podle přílohy III jako vysoce rizikové samostatně a třídění pacientů v krizových situacích je uvedeným případem použití podle přílohy III, takže systém je nutné posoudit podle přílohy III samostatně. Obecně použitelná ustanovení aktu, včetně zákazů podle článku 5, se použijí tak či tak. Zdravotnické zařízení, které systém vyvine a uvede jej do provozu pod svým vlastním názvem, může být zároveň poskytovatelem i zavádějícím subjektem.

5. Stane se moje společnost poskytovatelem tím, že systém AI někoho jiného přeznačí nebo upraví?

   • Může, a to na základě tří konkrétních okolností podle článku 25: umístí-li své vlastní jméno, název nebo ochrannou známku na vysoce rizikový systém, který již byl uveden na trh; provede-li podstatnou změnu vysoce rizikového systému tak, že systém zůstává vysoce rizikový; nebo změní-li zamýšlený účel systému, který vysoce rizikový nebyl, tak, že se vysoce rizikovým stane.