Ilustrační foto: Freepik

Tajemství si ponecháme. Inovativní průmysl chce flexibilní regulaci umělé inteligence

Evropská federace farmaceutických společností a asociací (EFPIA) zveřejnila svůj postoj k používání umělé inteligence (AI) v životním cyklu léků. Federace přichází se sérií doporučení, jak AI začlenit do lékařského výzkumu a vývoje, aniž by byly ohroženy bezpečnost a efektivita těchto technologií. V kontextu rychlého rozvoje AI je podle EFPIA zásadní nastavit taková pravidla, která budou podporovat – a nikoliv omezovat – inovace a vývoj nových léčivých přípravků. S jakými hlavními doporučeními federace přichází? A jakou roli by v celém procesu mohla hrát Evropská léková agentura (EMA)?

AI má potenciál přinést revoluci v oblasti výzkumu a vývoje léků, od prvotního výzkumu, přes výrobu a sledování bezpečnosti léčiv, až po jejich schválení. Pomocí algoritmů a strojového učení lze například urychlit objevování nových účinných látek a analyzovat obrovské množství dat, což by za standardních podmínek trvalo i mnoho let. EFPIA proto podporuje vývoj AI nástrojů, které mají potenciál významně zrychlit proces vývoje bezpečných a účinných léků. Zároveň vyzývá k vytvoření flexibilního regulačního rámce přizpůsobeného potřebám farmaceutického sektoru.

Použít již existující pravidla

Federace ve své poziční zprávě definuje celkem šest hlavních doporučení. Prvním je využití stávajících evropských regulací a rámců i pro aplikaci AI. Jinými slovy, aby se nestavěla legislativa kolem umělé inteligence na zelené louce, ale aby se na její použití adaptovala již existující regulace. „Věříme, že tyto stávající rámce, spolu s budoucími pokyny EMA, budou dostatečné k tomu, aby se vyřešily případné nedostatky v informacích a pokynech pro začlenění nástrojů AI do životního cyklu léčivých přípravků,“ stojí v dokumentu.

O roli Evropské lékové agentury v inovačním procesu za pomoci AI pojednává druhé doporučení EFPIA, přičemž agentura má na používání AI dohlížet. Disponuje k tomu potřebnými odbornými znalostmi i zkušenostmi s posuzováním bezpečnosti a účinnosti léků. Navíc s farmaceutickými firmami dlouhodobě spolupracuje na implementaci regulací. „Jsme přesvědčeni, že připravované směrnice EMA týkající se umělé inteligence ve spojení se zavedenými, dobře fungujícími legislativními a regulačními rámci pro léčivé přípravky zajistí vhodný regulační rámec pro umělou inteligenci používanou v životním cyklu léčivých přípravků,“ dodává federace. S tím souvisí i třetí doporučení, a to nutnost stanovit jasná pravidla ohledně rizik při takovém používání umělé inteligence.

V podobném duchu EFPIA formuluje i čtvrtý bod, který se týká potřeby zajistit požadavky na transparentnost, ale současně i dostatečnou ochranu inovací. Ta je pro výrobce inovativních léčiv mimořádně důležitá z hlediska návratnosti investice. Není proto divu, že nejsou ochotní ani před evropskými orgány odkrývat své karty. „Požadavek, aby struktura modelu, protokoly z modelování, validace a testování, tréninková data a popis postupu zpracování dat byly předloženy jako součást regulačního podrobení nebo zveřejněny v určitých jiných situacích, se nepovažuje za přiměřený,“ míní EFPIA s tím, že by to mohlo ohrozit ochranu obchodního tajemství a duševního vlastnictví. Organizace argumentuje, že k zajištění bezpečí pacientů nemusí být zveřejňování takto citlivých informací ani nutné.

Jasné definice i termíny

Federace dále doporučuje globálně harmonizovat regulační postupy, a to prostřednictvím spolupráce zdravotnických autorit. „Umožní to vývoj a použití nástrojů umělé inteligence a zároveň zajistí předvídatelnost pro vývojáře léků,“ vyzdvihují přínosy. Důraz by přitom měl být kladen na sjednocení definic, terminologie a požadavků. Federace připomíná, že klíčové úlohy při tvorbě základních principů pro umělou inteligenci již sehrály organizace jako OECD či Světová zdravotnická organizace (WHO), které vydávají doporučení využitelná při tvorbě národních regulací. Významná je ale také aktivita Mezinárodní koalice regulačních orgánů pro léčiva (ICMRA), která zkoumá, jak AI může podpořit rychlejší přístup k inovativním lékům a spolupráci mezi zeměmi.

V rámci šestého doporučení společnost EFPIA volá po vzájemné důvěře při využívání umělé inteligence ve výzkumu a vývoji léčiv, a to mezi všemi stakeholdery, jako je průmysl, regulační orgány a pacienti. „EFPIA je přesvědčena, že je nutné společné úsilí o budování důvěry v systémy umělé inteligence,“ míní. Toho má být dosaženo hned několika způsoby, například podporou multioborových platforem a investic, vytvořením flexibilního regulatorního rámce, zlepšením přístupu k datům, stanovením mezinárodních standardů a zavedením osvědčených průmyslových postupů.

Otázka přiměřené regulace

Evropská federace farmaceutických společností a asociací v dokumentu zmiňuje i právní a etické otázky, které musí být při využívání umělé inteligence ve vývoji léčiv zohledněny. Rychlý vývoj AI totiž podle ní vyvolává nové výzvy v oblasti etiky, ochrany osobních údajů a regulace přístupů k datům, která AI potřebuje pro své fungování. Vzhledem k tomu, že některé farmaceutické firmy spolupracují s vývojáři AI nástrojů jako s externími dodavateli, dochází zde i ke složitým právním otázkám ohledně ochrany duševního vlastnictví a autorských práv.

Kromě toho federace nepřekvapivě upozorňuje na rizika spojená s možnou ztrátou evropské konkurenceschopnosti, pokud by EU v této oblasti přijala příliš restriktivní pravidla. Varuje, že výzkumné kapacity farmaceutického sektoru mohou v důsledku přísných regulací upřednostňovat mimoevropské trhy, kde je méně přísný regulační rámec. EFPIA proto apeluje na politiky, aby AI umožnili rozvíjet v Evropě za přísných, ale přiměřených podmínek, které budou zohledňovat jak bezpečnost pacientů, tak potřebu technologických inovací.

-fk-