Ukradené tváře. Deepfake videa zneužívají jména známých britských lékařů

Jména a tváře známých lékařů v Británii jsou stále častěji zneužívána při propagaci pofidérních, údajně léčivých produktů. Videa, na nichž lékaři tyto výrobky vychvalují, ovšem nejsou skutečná, ale jde o tzv. deepfake vytvořené umělou inteligencí. Fenoménem se zabývá článek nyní publikovaný v odborném časopise British Medical Journal.

Hilary Jones je jedním z nejuznávanějších britských lékařů, známý mimo jiné svou prací v pořadu Good Morning Britain. Po desetiletí odpovídal na otázky veřejnosti v televizi, řešil jejich obavy z nemocí a dělal lékařský žargon srozumitelnějším. Není proto divu, že by se lidé mohli zajímat o nejnovější zázračný lék, který Jones podpořil ve videu zveřejněném na Facebooku začátkem tohoto roku. Lék měl být určen na vysoký krevní tlak a Jones o něm údajně mluvil v programu Lorraine, kde se často objevuje. Jenže je tu háček: na videu vůbec nebyl Jones, jednalo se o deepfake vytvořený technologií umělé inteligence (AI).

“Některé z produktů, které jsou v současné době propagovány prostřednictvím mého jména, zahrnují výrobky, které tvrdí, že pomáhají na krevní tlak a cukrovku, spolu s konopnými sladkostmi s názvy jako Via Hemp Gummies, Bouncy Nutrition a Eco Health,” říká Jones.

Proto nyní zaměstnává specialistu na sociální média, aby na webu vyhledával tato podvodná videa a snažil se je odstranit. “Tento druh činnosti obrovsky narostl. I když jsou videa stažena, druhý den se prostě objeví pod jiným jménem,” konstatuje Hilary Jones.

Meta slibuje prošetření

Bohužel není sám, jehož jméno (a vzhled) byly takto zneužity. Michael Moseley, který zemřel minulý měsíc, a Rangan Chatterjee jsou jen dva z dalších lékařů, jejichž veřejné profily byly použity k propagaci podvodných výrobků.

John Cormack, lékař v důchodu, se s British Medical Journal rozhodl prozkoumat rozsah zneužívání jmen lékařů na sociálních sítích. “Dříve jsem se vyhýbal věcem, jako je Facebook, ale během pandemie bylo zřejmé, že je na internetu sdíleno mnoho dezinformací,” říká s tím, že začal zveřejňovat (a vyvracet) dezinformace, se kterými by se jeho pacienti mohli setkat. Poté, co pandemie pominula, ale začal pozorovat trend směrem k deepfake videím.

Mohlo by vás zajímat

Tripartita se shodla na zlepšení podmínek dlouhodobě nemocných

„Sečteno a podtrženo, je mnohem levnější utrácet peníze za tvorbu videí, než za výzkum a vymýšlení nových produktů a jejich uvádění na trh konvenčním způsobem. Zdá se, že našli způsob, jak tisknout peníze,“ shrnuje Cormack.

Podle něj by platformy, které obsah hostují, jako je Facebook, Instagram, X, YouTube a TikTok, měly nést za sdílení deepfake videí odpovědnost. Mluvčí společnosti Meta, která vlastní a provozuje Facebook a Instagram, řekl BMJ, že uvedené případy prošetří. “Nepovolujeme obsah, který záměrně klame nebo se snaží oklamat ostatní, a neustále pracujeme na zlepšení odhalování. Vyzýváme každého, kdo uvidí obsah, který by mohl porušovat naše zásady, aby to nahlásil,“ uvedl mluvčí společnosti Meta.

Zacílení na emoce

Rozpoznat, která videa jsou padělaná, přitom může být složité. Nedávný výzkum zjistil, že 27 až 50 procent lidí nedokáže rozlišit autentická videa o vědeckých tématech od deepfakes. Situace může být ještě složitější, pokud se ve videu objeví renomovaný důvěryhodný lékař známý z médií.

Deepfakes fungují tak, že působí lidem na emoce, a pokud jde o produkty z oblasti zdraví, o to více záleží na emocionálním spojení s jednotlivcem, který vypráví o „zázračném léku“. Ve chvíli, kdy by se léčbu takto pokoušel prodat někdo neznámý, je větší riziko, že vyvolá podezření. Pokud jde ale o někoho, koho již uživatel sociálních sítí viděl v médiích, je pravděpodobnější, že proklamovanému tvrzení uvěří.

Expert na deepfake technologie Henry Ajder poukazuje, že odhalování deepfakes je složitější i díky tomu, že se technologie zdokonalují. “Je těžké kvantifikovat, jak účinná je tato nová forma deepfake podvodů, ale rostoucí objem videí, která nyní kolují, naznačuje, že špatní herci mají určitý úspěch,” podotýká Ajder.

A co dělat, když se někde narazíte na deepfake? Podle BMJ je v první řadě důležité si pečlivě prohlédnout obsah, abyste se ujistili, že vaše podezření je opodstatněné, a poté zanechte komentář a zpochybňujte pravdivost videa. Použijte vestavěné nástroje k vyjádření svých podezření a nakonec nahlaste osobu nebo účet, který příspěvek sdílel.

-mk-