Dodatky k deepfake pornografii

Na PageNotFound vyšel článek od Anny Koucké o její zkušenosti s deepfake pornografií, kdy kdosi pomocí AI vytvořil její (falešné) nahé fotky. Článek pak pokračuje obecněji o tom jaký dopad to může mít na lidi, kterých se to dotklo více než autorky článku.

Protože o tom vím nějaké dodatečné zajímavosti k tématu, rozhodl jsem se je do tohoto statusu vypsat:

1) Za deepfake pornografii nepřímo můžou kung-fu filmy. Jakkoliv to může znít bizarně, je to částečně pravda.

Možná jste už někdy viděli behind the scenes třeba z Matrixu nebo Hrdiny nebo nějakého jiného filmu, kde hrdinové dělají kung-fu a ty scény jsou natočeny tak, že herci lítají na lanech. Možná jste si pak kladli otázku, jakým způsobem se ta lana z výsledného filmu v postprodukci dostanou?

Jednou z možností jak to udělat, je použít AI a nechat si dopočítat pravděpodobnou texturu toho, co by místo lana mohlo být.

No a to už jste jen kousek od deepfake pornografie.

2) To si totiž řekl nějaký chytrák z Estonska a vytvořil nechvalně proslulý program DeepNude. Ten místo lan smazává spodní prádlo a místo pozadí scény doplňuje intimní partie oběti. Jinak je to ale technicky dost podobné. (*)

Po bouři, kterou na internetu vyvolal, byl program původním autorem program smazán, nicméně kopie programu se zachovaly a jakmile byla myšlenka jednou vypuštěna na internet, už nešlo zabránit tomu, aby někdo neudělal něco podobného.

Těch programů je více, některé si můžete stáhnout a běží lokálně, zatímco jiné jsou poskytovány v cloudu, často placeně (četl jsem třeba o nějakém "AI startupu" skrývajícím se v Hong Kongu).

3) Je skutečně pravda, že deepfake pornografie cílí hlavně na ženy. To se dokonce projevuje i v těch samotných programech - některé deepfake programy nebyly schopné svléknout muže, protože neměly dostatek referenčních (trénovacích) dat a tak vznikaly nezáměrné fotky intersex lidí.

4) Na Redditu šlo najít nějaký post týpka, který měl v Kalifornii nějaký startup zaměřený na vizuální efekty a počítačovou grafiku. Ten kdysi vyvinul nějakého předchůdce těch dnešních deepfake programů (a nabízel to jako avatary, které diváka vloží do filmu/reklamy) a už tehdy se občas objevil někdo, kdo mu po schůzce v zasedačce neformálně řekl "ale jaký prachy by se s tím daly udělat, kdyby se to použilo v pornu!".

Celkově je to hodně zajímavá oblast na pomezí vizuálních efektů, počítačové grafiky, pornografie a kyberkriminality. Nijak to neschvaluju, ale po delším pobytu na internetu (a mezi lidma celkově) mě to nijak, ale nijak nepřekvapuje. Kdyby to už nebylo, do pár let by to někdo znova vymyslel.

---

(*) Technicky vzato jsou ty cesty jak dospět ke stejnému výsledku dvě - buď dopočítávat chybějící textury nebo "vyměnit hlavu".

Ale vzhledem k tomu, že i výměna hlavy je docela rutinní postup u speciálních efektů (čti: typicky se hlava herce nasazuje kaskadérovi) tak i tohle je dneska už dobře prozkoumaný postup. Netuším jaký postup jaký která deepfake porno aplikace používá, ale podle indicií to jde odhadovat (například pokud pokud vám doporučuje abyste dodali fotku v plavkách, tak jenom doplňuje textury).

Dále upozorňuju, že tyhle dvě cesty fungují jen na svlékání. Pokud chcete ale třeba donutit někoho, aby na videu něco řekl nebo udělal, tak jenom doplňování textur nestačí, to už musíte "vyměňovat hlavu".

---

Publikováno: 17.9.2025