Deepfake technologie patří bezpochyby k nejvýraznějším fenoménům současné digitální komunikace. Jejich schopnost vytvářet realistická videa a audia, která dokážou nerozeznatelně napodobit skutečné osoby, posouvá hranice toho, co je v marketingu a médiích technicky možné.
Co se dozvíte v článku
Dle mého názoru však nejde primárně o technologický problém, ale o problém etický. Především jde o to, jak s touto technologií zacházíme a v jakém kontextu ji používáme.
Krize důvěry v digitální éře
Z mých zkušeností z oblasti marketingové komunikace vyplývá, že největší riziko deepfake technologií neleží v jejich samotné existenci, ale v rozmazávání hranice mezi realitou a fikcí. Marketing pracuje s emocemi, příběhy a zjednodušením reality dlouhodobě, to samo o sobě není nic nového. Deepfake ale tuto hru posouvá na zcela jinou úroveň. V momentě, kdy divák nedokáže poznat, zda sleduje skutečný záznam, nebo synteticky vytvořený obsah, dostává se komunikace na velmi tenký led. Pokud publikum neví, že sleduje uměle vytvořené video, ztrácí důvěru nejen vůči konkrétní značce, ale postupně i vůči celému mediálnímu prostoru.
V marketingu je důvěra jediná měna, kterou si nejde koupit. A deepfake ji může během několika sekund spálit. Právě proto považuji transparentnost za klíčový etický princip, bez kterého se práce s těmito technologiemi neobejde. Nejde o to, zda deepfake používat, ale jak a za jakých podmínek. Pokud je divák jasně informován, že sleduje AI-generovaný nebo upravený obsah, zůstává zachována jeho možnost svobodně obsah interpretovat. Jakmile je však technologie použita tak, aby publikum klamala, dostáváme se z oblasti kreativního storytellingu do oblasti manipulace.
Obrana značky a krizová komunikace
Velkým tématem je také otázka zneužití deepfake videí k poškození značek nebo veřejně známých osob. V takových případech se ukazuje, že nejdůležitější není jen samotná obrana, ale především rychlost a způsob reakce. Značky by podle mého názoru měly mít připravený krizový scénář pro situace, kdy se objeví falešné video nebo audio. Klíčové je vystupovat klidně, věcně a důvěryhodně. Přehnaná panika nebo emocionální obrana totiž často reputaci poškodí více než samotný podvrh. Veřejné vysvětlení, doložení důkazů a otevřená komunikace jsou v těchto situacích mnohem účinnější než snaha vše popírat nebo bagatelizovat.
Za zásadní považuji také vymezení hranice mezi legitimní kreativitou a neetickou manipulací. Podle mého názoru je tato hranice překvapivě jednoduchá a stojí na dvou principech: souhlasu a kontextu. Pokud jsou všechny zúčastněné strany informované a dávají souhlas k použití své podoby, hlasu či identity, a pokud je záměr komunikace jasně čitelný, lze deepfake technologii chápat jako legitimní nástroj vizuálního vyprávění. Jakmile je ale identita použita bez svolení nebo je publikum úmyslně uváděno v omyl, přestává být výsledek obhajitelný bez ohledu na to, jak technologicky dokonalý nebo kreativní je.
Nastavení etických standardů pro budoucnost
Firmy a agentury by proto měly přijmout jasné principy pro zajištění autenticity obsahu. Transparentnost by měla být samozřejmostí, tedy jasné označení AI-generovaného nebo upraveného obsahu. Stejně důležitá je ověřitelnost, například pomocí watermarkrů, metadat nebo systémů prokazujících původ obsahu. Souhlas všech zúčastněných by měl být nepřekročitelnou hranicí a celý proces tvorby by měl být auditovatelný. Zodpovědné agentury by dle mého názoru měly tyto zásady zakotvit ve svých interních směrnicích podobně, jako se v minulosti etablovala pravidla ochrany osobních údajů a GDPR.
Z vlastní praxe vím, že umělá inteligence může být obrovským pomocníkem v oblasti kreativy, testování konceptů nebo vizualizací. Současně ale platí, že AI by měla asistovat, nikoli klamat. Každý AI vytvořený materiál by měl projít nejen kontrolou kvality, ale i etické přijatelnosti, tedy otázkou, zda by se příjemce obsahu po jeho zhlédnutí nemohl cítit podvedený.
Deepfake technologie samy o sobě nejsou ani dobré, ani špatné. Jsou nástrojem, který odráží hodnoty těch, kdo je používají. Podle mého názoru bude budoucnost marketingu stát právě na schopnosti skloubit technologický pokrok s respektem k publiku. AI nám může pomáhat být rychlejší a efektivnější, ale autenticita zůstává tím, na čem každá značka dlouhodobě stojí.
Tip redakce
Příspěvky na sítě vytvořené pomocí AI? Jejich záplava začíná být docela otravná
Markeťáci jsou nadšení, grafici se začínají bát o práci a podnikatelé ihned počítají, jaké náklady mohou ihned škrtnout. AI se rychle propisuje do kampaní, ale na koncového uživatele se zapomíná. Více najdete v komentáři šéfredaktora Michaela Hovorky.
ČLÁNKY DO MAILU