V Bruselu vznikají nová pravidla pro vznik, certifikaci a využití umělé inteligence. Ta se dotknou i zdravotnických software a aplikací založených na umělé inteligenci. Diskuse o příslušném návrhu nařízení EU ještě sice neskončily, nicméně v současné chvíli se zdá, že výrobcům zdravotnických prostředků s umělou inteligencí dvojí certifikační proces nehrozí. Stále pro ně budou platit pravidla pro posouzení shody podle nařízení o zdravotnických prostředcích (MDR), která se však pravděpodobně doplní o další požadavky obsažené v nařízení o umělé inteligenci.
Asi před měsícem jsme ve Zdravotnickém deníku informovali o tom, že zdravotnický software a aplikace čeká přechod na přísnější pravidla. S novým nařízením EU o zdravotnických prostředcích (MDR) se totiž naprostá většina z nich přesune z té nejnižší do vyšších rizikových tříd. To ve výsledku znamená, že si jejich výrobci již přestanou provádět posuzování shody sami, jako doposud, a stejně jako jiní výrobci zdravotnických prostředků budou muset procházet certifikací u tzv. oznámeného subjektu.
Zbystřit svoji pozornost by měli zároveň ti výrobci, jejichž digitální technologie pracují s umělou inteligencí. Typicky například v radiodiagnostice, kdy umělá inteligence již dokáže nahradit druhé čtení snímku lékařem. Tato specifická oblast zatím svůj právní rámec – a ani tedy certifikační proces – nemá, ale to by se mělo v blízké budoucnosti změnit. V současné chvíli totiž na úrovni EU vznikají společná pravidla pro regulaci technologií založených na umělé inteligenci.
Lepší, než jsme doufali
Konkrétně jde o diskuse o textu nařízení EU o umělé inteligenci, vůbec prvním celoevropském rámci, který se zabývá využitím umělé inteligence a jehož návrh předložila Evropská komise členským státům EU a Evropskému parlamentu již v dubnu 2021. Norma by měla stanovit pravidla pro vznik, certifikaci a využívání těchto technologií s ohledem na možná rizika, která přináší. Podle toho je rozděluje do několika kategorií od minimálního až po nepřijatelné riziko a podobně jako u zdravotnických prostředků stanoví požadavky na certifikační proces.
V prosinci se členské země EU v rámci Rady EU dohodly nad zněním těchto pravidel, což se mimochodem obecně považuje za jeden z významných úspěchů loňského českého předsednictví. A tento text mimo jiné vyjasňuje i vazbu na zdravotnické prostředky založené na umělé inteligenci: platí pravidla pro certifikaci podle MDR, ta se však doplní o další požadavky obsažené v nařízení o umělé inteligenci. Výrobcům zdravotnických prostředků s umělou inteligencí by tedy nemělo hrozit, že budou procházet dvojím náročným certifikačním procesem u různých oznámených subjektů.
„Pro mě je takový výsledek lepší, než jsem doufal, když jsem o přípravě nařízení poprvé slyšel,“ sdělil Zdravotnickému deníku právní expert Jakub Král z advokátní kanceláře Porta Medica Legal. „Jde o stejný princip jako u kombinovaných výrobků, které jsou zdravotnickým prostředkem a současně elektrickým zařízením, jako třeba rentgeny nebo CT. Posuzují se a certifikují podle MDR, nikoli podle relevantní legislativy na elektrická zařízení. Z té se pouze „vytáhnou“ příslušné požadavky, které se následně zahrnou do posouzení podle MDR. Výrobci tak absolvují jen jedno, nikoli dvoje posouzení shody,“ vysvětluje s tím, že dvojí samostatnou certifikací musí procházet například výrobci sterilních chirurgických rukavic, které jsou zdravotnickými prostředky a zároveň i osobními ochrannými prostředky.
Výrobci technologií s umělou inteligencí, stejně jako zájemci o certifikaci z řad oznámených subjektů dle MDR, tak mohou získat představu, co se chystá. Nicméně na udělení příslušného tzv. horizontálního kódu specifického pro tuto problematiku si budou moci oznámené subjekty požádat až poté, co nařízení začne platit. „A když si pak požádají všichni najednou, lze očekávat nějaké časové prodlevy. Ale až se to stane, tak pro výrobce půjde o komfortní situaci, protože vše budou řešit v jednom balíku s jedním partnerem,“ pokračuje Král.
Absolutní minimum
Jakub Král plně souhlasí s tím, že zdravotnické prostředky v kombinaci s umělou inteligencí patří do kategorie vysokého rizika. „Když dnes nějaký zdravotnický prostředek vytvoříte, posoudíte a ocertifikujete, tak pak na něm nesmíte až do další certifikace provádět žádné významné změny. Ale princip umělé inteligence je v tom, že se sama učí, a produkt se vám tak mění pod rukama. A pokud mu dáte falešné vstupy, můžete dokonce i pokazit něco, co již uměl,“ upozorňuje Král. Propojení certifikace zdravotnických prostředků s relevantními požadavky podle nařízení o umělé inteligenci proto považuje za absolutní nutné minimum.
V této chvíli je ovšem nezbytné zdůraznit, že debata o pravidlech pro umělou inteligenci stále není uzavřena. Své k tomu musí říct i Evropský parlament, kde je návrh nařízení, podobně jako v Radě EU, předmětem poměrně vášnivých debat hned v několika výborech. Europoslanečtí zpravodajové předpisu obdrželi dohromady přes tři tisíce pozměňovacích návrhů. Dojednat jeden společný text europoslanců a zároveň členských zemí, tedy Rady EU, nebude nic jednoduchého. Nelze tedy ani vyloučit, že i Rada bude muset na některých místech ze svých pozic ještě ustoupit.
Nicméně lze odůvodněně předpokládat, že se tak nebude dít v oblasti vazby nařízení na MDR. Jestli se totiž europoslanci se státy na něčem shodnou, tak na tom, že dvojí poměrně komplikovaný certifikační proces by pro vstup nových technologií na trh představoval velkou bariéru.
Pro zajímavost – a mimo oblast zdravotnických prostředků – ještě dodejme, že v prosinci se členské státy EU mj. shodly na úplném zákazu využívání technologií s umělou inteligencí jako jsou systémy hodnotící chování občanů na veřejnosti (tzv. social scoring, který známe z Číny) nebo systémy využívající zranitelnosti konkrétních skupin osob, včetně těch zranitelných v důsledku své sociální či ekonomické situace. Zákaz by měl platit i pro technologie umožňující biometrickou identifikaci na dálku na veřejně přístupných místech a v reálném čase, členské státy však připouští výjimečné situace, kdy mohou tyto technologie použít donucovací orgány.
„Podařilo se nám dosáhnout křehké rovnováhy, která podpoří inovace a zavádění technologií umělé inteligence v celé Evropě. Se všemi výhodami, jež tyto technologie přinášejí, na straně jedné a při plném respektování základních práv našich občanů na straně druhé,“ komentoval to v prosinci po úspěšném jednání vicepremiér pro digitalizaci, ministr pro místní rozvoj a šéf Pirátské strany Ivan Bartoš.
Helena Sedláčková
