K falešné pornografii může stačit jediná fotka. AI mění pravidla zneužívání identity

Ještě nedávno bylo ke zneužití intimních fotografií potřeba nejprve nějaké získat. Generativní umělá inteligence však situaci zásadně změnila. K vytvoření falešného sexuálně explicitního snímku může stačit obyčejná fotografie obličeje z internetu. A přestože výsledný materiál není skutečný, následky skutečné být mohou.

Terčem se může stát prakticky kdokoliv

U klasického zneužití intimních fotografií pachatel pracuje s reálným materiálem, který získal například během partnerského vztahu. Následně jej může zveřejnit, rozesílat nebo využít k vydírání. Generativní AI ale tuto podmínku odstraňuje.

Moderní nástroje dokážou vytvořit sexuálně explicitní obsah využívající podobu konkrétního člověka, přestože dotyčný nikdy žádnou podobnou fotografii nepořídil. Jako podklad může posloužit portrét ze sociální sítě, fotografie z dovolené, firemní profil nebo snímek zveřejněný na školním webu.

Právě v tom spočívá jedna z největších změn. Riziko se už netýká pouze lidí, kteří někdy někomu poslali intimní fotografie. Zneužita může být v zásadě jakákoliv veřejně dostupná podobizna.

Fotografie je falešná, následky nikoliv

Sexuální deepfaky mohou mít různé motivace. Mohou vznikat jako forma pomsty po rozchodu, šikany mezi spolužáky, obtěžování na pracovišti nebo jako pokus poškodit pověst konkrétního člověka.

Pro oběť přitom nemusí být příliš uklidňující skutečnost, že fotografie není pravá. Pokud se dostane mezi přátele, kolegy nebo spolužáky, může vyvolat ponížení, stres, problémy ve vztazích nebo poškození pověsti. Část příjemců navíc nemusí na první pohled poznat, že jde o výtvor umělé inteligence.

Situace může být ještě vážnější, pokud pachatel začne falešným materiálem vyhrožovat. Může požadovat peníze, další fotografie, osobní schůzku nebo jinou protislužbu. V jiných případech nemusí oběť vůbec kontaktovat a obsah jednoduše zveřejní.

Jedno přeposlání může problém výrazně zvětšit

Sociální sítě a komunikační aplikace umožňují, aby se fotografie během krátké doby dostala daleko za původní okruh příjemců. Odstranění jednoho příspěvku proto automaticky neznamená, že materiál z internetu skutečně zmizel.

Kopie mohou zůstávat v soukromých konverzacích, telefonech, cloudových úložištích nebo uzavřených skupinách. Důležitou roli proto nehrají jen lidé, kteří deepfake vytvořili, ale také jeho příjemci.

Přeposlání fotografie kamarádovi „jen ze zvědavosti“ totiž pomáhá obsah dál šířit. Rozumnější reakcí je materiál neposílat dál, případně jej nahlásit platformě a upozornit člověka, jehož podoba byla zneužita.

Přestat zveřejňovat fotografie není řešení

Mohlo by se zdát, že nejjednodušší ochranou je přestat zveřejňovat fotografie vlastní tváře. Takový požadavek by ale přenášel odpovědnost na potenciální oběť místo člověka, který její identitu zneužívá.

Navíc ani soukromý profil nepředstavuje stoprocentní ochranu. Fotografii může získat někdo ze sledujících, spolužáků, kolegů nebo širšího okruhu známých.

Určitá digitální hygiena přesto smysl má. Vyplatí se zkontrolovat nastavení soukromí, zvážit veřejné sdílení snímků ve vysokém rozlišení a věnovat zvláštní pozornost fotografiím dětí. U dospívajících je zároveň důležité vysvětlovat, že vytvoření falešné nahé fotografie spolužáka či spolužačky není neškodná digitální legrace.

Co dělat, když někdo zneužije vaši podobu?

První reakcí může být snaha dostat materiál co nejrychleji z internetu. Ještě předtím je ale vhodné zachovat důkazy o jeho zveřejnění a šíření.

Užitečné mohou být snímky obrazovky, odkazy na příspěvky, názvy profilů, datum zveřejnění nebo záznam komunikace s člověkem, který obsah šíří či používá k vyhrožování. Poté lze požádat provozovatele platformy o odstranění materiálu a podle okolností vyhledat právní pomoc nebo kontaktovat policii.

České právo na fenomén sexuálních deepfakeů reaguje také přímo. Od 1. ledna 2026 trestní zákoník obsahuje trestný čin zneužití identity k výrobě pornografie a jejímu šíření. Právní posouzení konkrétního případu však vždy závisí na jeho okolnostech.

Problematiky deepfakeů se dotýká rovněž evropský AI Act, který stanovuje požadavky na transparentnost u určitého uměle vytvořeného či zmanipulovaného obsahu. Samotné označování však pochopitelně nedokáže zabránit tomu, aby někdo technologii záměrně zneužil.

Generativní AI tak snižuje technickou bariéru pro jednání, které dříve vyžadovalo podstatně více znalostí a práce. Základní pravidlo se ale nemění: cizí podobu nelze považovat za volně použitelný materiál pro vytváření intimního obsahu. A „je to jen AI“ není argument, který by skutečnou újmu oběti dělal méně závažnou.

Zdroj/foto: Klára Procházková, Vuch, AI