Niekoľko dní späť sme písali článok o tom, ako sa už Facebook nemôže pozerať na nový trend vo videách, ktorým je deepfake. Teda aplikácia, ktorá na prvý pohľad na nerozoznanie zmení osoby alebo okolnosti scény, s cieľom oklamať diváka. Zdá sa však že tento trend zatiaľ nebude utíchať.
Cieľom je údajne pobaviť
Novinka, ktorá sa teraz objavila v Google Play obchode nesie názov Doublicat: Face Swap AI-tool. Jej zámer je jednoduchá úprava akejkoľvek GIF snímky, na ktorú vie preniesť novú fotografiu. A tým pozmeniť jej pôvodný význam. Pracuje sa ňou veľmi jednoducho a intuitívne. Samotní tvorcovia sa zatiaľ bránia tomu, že ich cieľom je pozmeňovanie reality a tým klamanie adresátov týchto snímok. Jej cieľom je pobaviť. Môžem napríklad vlastnú tvár vsunúť do prostredia alebo k ľudom, kde by som sa nikdy osobne nedostal, prípadne vytvoriť vtipnú GIF animáciu a pobaviť tým svoje okolie. Otázka však je, keď sledujeme, ako sa tento segment deepfake rozmáha, či za niekoľko málo rokov bude vôbec jasné, ktoré fotografie zachytávajú skutočnú realitu.
Spôsob, akým pracuje aplikácia
Nová aplikácia Doublicat je vytvorená na báze systému RefaceAl- GAN, ktorá dokáže v konkrétnom GIF súbore vymeniť originálnu tvár za inú. Samotná skratka GAN znamená vlastné dielo tvorcov aplikácie, ich riešenie na rozpoznanie tváre a zároveň proces jej náhrady za inú tvár. Pritom GAN sa podľa tvorcov nespolieha na 3D modelovanie tváre. Robí rekonštrukciu tváre cez 3D masky, ktoré vyvinuli vývojári a trvalo im to približne jeden rok. Na tomto prípade je jasne viditeľné, kam dokáže siahnuť dnešná podoba vedy a programovania. Urobiť takéto riešenie, napríklad na zákazku pre konkrétny cieľ pozmeňovania reálnej snímky za falošnú, bude v oblasti bezpečnosti hrať pre rok 2020 a aj ďalšie roky dôležitú úlohu. A najmä na strane adresátov a zákazníkov (čitateľov správ a webu) budú zvýšené nároky na obozretnosť.
Ak chcete zaujať, aj toto je spôsob, ako to urobiť. Adresátov zadania môže byť veľa, stačí, ak konkrétny vývojár ukáže, že vie urobiť dobré riešenie pre verejnosť na zábavu. Od tohto bodu je už iba krok k tomu, aby to spracoval tiež komerčne. Druhá rovina je spojená s bezpečnosťou samotnej databázy. Firma sa jasne dištancuje od toho, že by nasnímané tváre svojich zákazníkov zhromažďovala pre tretie strany alebo s týmito podkladmi inak obchodovala. V dnešnom online trhu je na druhej strane všetko otázkou ponuky a dopytu. Nateraz však nie je veľmi jasné, načo by boli reálne využiteľné tváre mnohých používateľov, aby to vyvážilo aj cenu za ich získanie.
Aký prístup volí TikTok či Snapchat?
V roku 2020 nás čaká ešte jedna novinka, o ktorú sa snaží TikTok a Snapchat, a tým je umožniť technológiu zameranú na deepfake v rámci týchto dvoch sietí. Je to presne opačný postup, ako volí Facebook, ktorý tieto aktivity blokuje. Bude to potom zaujímavý stret informácií, ktoré sa budú prelínať medzi sociálnymi sieťami. Najmä keď budú obsahovať rôzne podoby tej istej pôvodnej reality. Vnímanie toho, čo je skutočné na danej snímke alebo videu to pre konečného zákazníka samozrejme sťažuje.
Deepfake videá a Facebook
Deepfake videá môžu byť zábavné, no veľmi ľahko sa dajú aj zneužiť, čo môže byť nebezpečné. Videá vyzerajú na prvý pohľad veľmi skutočne a môžu na nich byť známe osoby, no v realite to tak byť vôbec nemusí. Je preto veľmi jednoduché takýmito videami ľudí oklamať.
Práve proti takýmto videám sa rozhodol bojovať Facebook. Na svojom blogu oznámil opatrenia, ktoré by mali zabrániť ich šíreniu. Má ísť o videá, ktoré:
- Boli upravené alebo syntetizované, nie sú pre obyčajného človeka jasné a mohli by ich uviesť do omylu. To znamená, že človek na videu povedal niečo, čo naozaj nepovedal.
- Sú produktom umelej inteligencie alebo strojového učenia, ktoré spája, nahrádza alebo prekrýva obsah videa a snaží sa pôsobiť autenticky.
Tejto téme sme sa podrobnejšie venovali v článku Deepfake videá sú nebezpečné a klamlivé, Facebook ich bude mazať.
