V tomhle pornu Tom Cruise nehrál aneb nový AI nástroj dokáže jednoduše poznat deepfaky

Deepfaky se používají k řadě nekalých účelů – od dezinformačních kampaní až po vkládání celebrit do porna, přičemž zfalšované snímky je stále těžší odhalit.

Nový nástroj umělé inteligence nabízí překvapivě jednoduchý způsob, jak je odhalit: pohled na světlo odrážející se v očích. Systém vytvořili počítačoví vědci z univerzity v Buffalu. V testech portrétních fotografií byl nástroj při detekci deepfaků účinný z 94 %.

Systém odhaluje podvrhy analýzou rohovek, které mají povrch podobný zrcadlu, jenž při osvětlení světlem vytváří odrazy. Na fotografii skutečné tváře pořízené fotoaparátem bude odraz na obou očích podobný, protože vidí stejnou věc. Deepfake obrázky syntetizované pomocí GAN (Generative adversarial network) však obvykle nedokážou tuto podobnost přesně zachytit. Proto často vykazují nesrovnalosti, jako jsou různé geometrické tvary nebo nesourodá umístění odrazů.

Oblasti rohovky mají mnohem zřetelnější rozdíly v případě deepfaků, což je zřejmě způsobeno tím, že vznikají kombinací mnoha fotografií. Systém umělé inteligence hledá tyto nesrovnalosti tak, že zmapuje obličej a analyzuje světlo odražené v každém oku.

Následně generuje skóre, které slouží jako metrika podobnosti. Čím menší je skóre, tím pravděpodobnější je, že jde o deepfake.

Autor: Lyu et. al

Ukázalo se, že systém je velmi efektivní při detekci deepfaků převzatých z This person Does Not Exist, což je repozitář obrázků vytvořených architekturou StyleGAN2.

Autoři studie však uznávají, že má systém ještě mouchy. Nejvýraznějším nedostatkem nástroje je to, že se spoléhá na odražený zdroj světla v obou očích. Nesrovnalosti v těchto vzorcích lze napravit následnou editací, a pokud jedno oko není na obrázku vidět, metoda nebude fungovat vůbec. Také se osvědčil jen na portrétních snímcích. Pokud objekt na snímku nehledí do kamery, systém pravděpodobně bude hlásit falešné pozitivity.

Odborníci hodlají na systému dál pracovat s cílem zlepšit účinnost své metody. Ve své současné podobě sice neodhalí ty nejsofistikovanější deepfaky, ale i tak by mohl pomoci odkrýt mnohé z těch „hrubozrnných“. Více o nové metodě si můžete přečíst zde.

Zdroj: Thenextweb.com

Total
1
Shares
Další články
Přečtěte si více

Špatné zprávy zaujmou nejvíc. Češi to minulý týden při hledání na webu dokázali

Minulý týden jasně ukázal, že špatné zprávy při vyhledávání na internetu vedou. Na vrcholu žebříčku webových dotazů se totiž ocitl automobilový jezdec, který právě zahynul při tréninku. Optimismu nepřidává ani vyhledávání výsledků přijímacích zkoušek na střední školy nebo touha vidět pořádný zápas v boxu. Co ještě Čechy zajímalo a hesla zadávali do vyhledávače Seznamu?