Chtěly vyvinout nový způsob, jak odhalit selhání ledvin, při tom ale pochybily při ochraně dat pacientů, kteří byli zapojeni do studie bez náležitých informací. Britské nemocnice Royal Free NHS Foundation Trust totiž předaly údaje 1,6 milionu pacientů společnosti Google DeepMind, která měla na jejich základě vyvinout aplikaci k odhalování akutního selhání ledvin. Trust nyní dostal pokárání od úřadu Information Commissioner’s Office (ICO), který má na starosti ochranu osobních údajů, a musí učinit nápravná opatření. Na druhou stranu si může oddychnout, protože mu nebyla udělena žádná pokuta ani jiný trest – a vyvinutou aplikaci navíc může nadále využívat.

 

Royal Free NHS Foundation Trust se neřídil zákonem o ochraně údajů, když poskytl data 1,6 milionu pacientů společnosti Google DeepMind, rozhodl úřad ICO. K pochybení došlo během klinické studie zaměřené na vývoj aplikace Streams rozpoznávající akutní selhání ledvin, která má na problém včas upozornit lékaře.

„Dnes v Británii zemřou desítky lidí denně na stavy, jako je sepse nebo akutní selhání ledvin, protože nejsou podchyceny varovné příznaky a včas se nejedná. Abychom to pomohli řešit, vyvinuli jsme spolu s lékaři v Royal Free NHS Foundation Trust aplikaci Streams, která využívá mobilní technologie k tomu, aby automaticky zkontrolovala výsledky testů závažných stavů počínaje akutním selháním ledvin. Jakmile něco najde, pošle upozornění příslušnému lékaři spolu s informací o předchozích stavech tak, aby bylo možno udělat okamžitou diagnostiku. Jsme hrdí na to, že po několika týdnech, co byl Streams nasazen do Royal Free, sestřičky říkají, že jim ušetří až dvě hodiny času denně, a už jsme slyšeli i o případech pacientů se závažnými stavy, kteří díky upozornění dostali péči dříve,“ poukazují Mustafa Suleyman a Dominic King z Google DeepMind.

Jenže jak poukazuje ICO, navzdory nepochybně pozitivnímu přínosu směrem ke zkvalitňování a zrychlování péče je třeba nezapomínat na další aspekty problematiky. Úřad tak upozornil na nedostatky v souvislosti s tím, jak se zacházelo s daty pacientů při vývoji aplikace – a to včetně toho, že lidé nebyli náležitě informováni, že se jejich údaje stanou součástí studie. Trust byl proto požádán, aby učinil změny tak, že již nadále bude postupovat v souladu se zákonem.

Mohlo by vás zajímat

„Není pochyb o obrovském potenciálu, který může mít kreativní využití dat v péči o pacienty a v klinických vylepšeních, ale cenou za inovaci nemusí být porušení základních práv na ochranu soukromí. Naše vyšetřování nalezlo několik pochybení ve způsobu, jak byly ve studii sdíleny zdravotnické záznamy pacientů. Lidé neočekávají, že jejich informace budou tímto způsobem využívány, a trust mohl a měl být mnohem transparentnější ohledně toho, co se bude dít,“ říká Elizabeth Denhamová z ICO.

Všechny strany pracují na nápravě

V návaznosti na zjištění by měl nyní trust vytvořit postupy vyhovující zákonu jak v souvislosti se studií Google DeepMind, tak dalšími studiemi, dále si stanovit, jak dodržovat povinnost mlčenlivosti v souvislosti s pacientskými daty a dalšími výzkumy, vypracovat hodnocení dopadů na soukromí včetně kroků zajišťujících transparentnost a provést audit studie, jehož výsledky sdělí ICO. Royal Free už tyto požadavky podepsal, přičemž ICO nyní publikuje návod, jak postupovat a na co by si na základě této zkušenosti měly dát pozor další trusty NHS.

Jak zařízení, na jejichž hlavu se kritika snesla, tak spolupracující společnost Google DeepMind přitom pochybení uznávají a slibují do budoucna nápravu. „Věříme, že technologie může zlepšit péči o pacienty, což bylo vždy hnací silou pro vývoj aplikace Streams. Jsme rádi, že ICO tento přístup podporuje a dovolil nám nadále využívat aplikaci, která nám pomáhá poskytovat tu nejrychlejší péči nejzranitelnějším pacientům a potenciálně tak zachraňuje životy,“ uvádí v prohlášení Royal Free NHS Foundation Trust, který s ICO od začátku vyšetřování v květnu 2016 spolupracoval. „Už jsme udělali pokroky, abychom řešili problematické oblasti, okolo nichž vyvstaly pochybnosti. Například děláme mnohem více v souvislosti s tím, aby byli naši pacienti informováni o využití svých dat. Rádi bychom ujistili pacienty, že jejich údaje byly po celou dobu pod naší kontrolou a nikdy nebyly využity k ničemu jinému než poskytování péče nebo zajištění bezpečnosti,“ dodává trust. Jak zároveň připomíná Google DeepMind, žádné pochybnosti nebyly vzneseny v souvislosti se zabezpečením dat.

Poučení ze situace si vzala i společnost, která data zpracovávala. „Přestože se zjištění týkala Royal Free, měli bychom zvážit i náš postup. Při našem odhodlání dosáhnout rychlých výsledků jsme v roce 2015, kdy jsme práci zahájili, podcenili komplexitu NHS a pravidel souvisejících s pacientskými daty, stejně jako obavy z dobře známé technologické společnosti pracující v oblasti zdraví. Skoro výlučně jsme se soustředili na vývoj nástroje, který chtěli sestřičky a lékaři, a přemýšleli jsme o naší práci jako o technologii pro kliniky spíše než jako o něčem odpovědném a formovaném pacienty, veřejností a NHS jako celkem,“ píše Google DeepMind v prohlášení, kde vypočítává i seznam kroků, které společnost učinila k nápravě. Mezi nimi jsou například nové smlouvy s Royal Free (dostupné na webu), příslib publikovat svou práci hned od začátku a větší zapojení pacientů do přípravy studií. „Udělali jsme to špatně, teď to musíme udělat lépe,“ uzavírá Google DeepMind.

-mk-