Co jsou deepfaky a proč jsou pro kyberbezpečnost tak nebezpečné

Deepfake je obsah vytvořený nebo upravený pomocí umělé inteligence tak, aby vypadal nebo zněl jako skutečný člověk. Nejčastěji jde o video, hlasovou nahrávku nebo fotografii, které mají oběť přesvědčit, že komunikuje s nadřízeným, kolegou, členem rodiny nebo úřadem. Na rozdíl od starších podvodů jsou deepfaky přesvědčivější, rychleji se vyrábějí a v mnoha případech se dají cílit na konkrétní osobu během několika minut.

Podle odhadů některých bezpečnostních firem se počet případů zneužití syntetického hlasu a videa meziročně prudce zvyšuje. V roce 2024 už odborníci upozorňovali, že více než polovina firem zažila nějakou formu AI-falešné komunikace, od podvodných e-mailů až po hlasové klony. Nejde přitom jen o velké korporace: cílem jsou i menší společnosti, které mají slabší interní procesy, a tudíž snadněji podlehnou nátlaku.

Riziko roste i proto, že deepfaky využívají lidské zkratky. Člověk reaguje na známý hlas, tvář nebo autoritativní tón. Podvodník tak nemusí prolomit technické zabezpečení, stačí mu přesvědčit zaměstnance, aby peníze odeslal sám, sdělil citlivé údaje nebo otevřel přístup do systému.

Jak deepfake útoky fungují v praxi: od hlasu šéfa po falešné video

Nejčastější scénář je jednoduchý a o to nebezpečnější. Útočník si z veřejně dostupných zdrojů stáhne hlasové stopy, videa z konferencí, rozhovory nebo příspěvky na sociálních sítích. Z nich vytvoří digitální kopii hlasu či obličeje a následně kontaktuje zaměstnance například přes telefon, e-mail nebo komunikační aplikaci. Vystupuje jako generální ředitel, finanční manažer nebo partner firmy a požaduje rychlou platbu, změnu bankovních údajů nebo přístupové údaje.

Známý případ z roku 2024 ukázal, jak daleko může takový útok zajít: zaměstnanec mezinárodní firmy uvěřil videohovoru s „vedením“ společnosti a provedl několik převodů v celkové hodnotě přes 25 milionů dolarů. Později se ukázalo, že všichni účastníci hovoru byli synteticky vytvoření. Podobné incidenty už nejsou výjimkou, ale varovným obrazem nové reality, ve které se hranice mezi autentickým a falešným obsahem rychle stírá.

U osobních útoků se často objevuje tzv. voice scam, tedy podvodný telefonát s hlasem blízkého člověka. Typický je scénář „maminko, dostal jsem se do potíží, pošli peníze“. Útočník přitom může mít jen několik desítek sekund nahrávky z rodinného videa nebo sociální sítě. Zvlášť nebezpečné je, že moderní modely umějí napodobit nejen hlas, ale i emoční tón, pauzy nebo regionální přízvuk.

Nejslabším místem bývá člověk, ne technologie

Firmy často investují do firewallů, antivirů a šifrování, ale podcení lidský faktor. Deepfake útoky přitom staví právě na tom, že oběť jedná pod tlakem. Podvodník vytváří naléhavost, časový stres a dojem autority. Chce, aby zaměstnanec neověřoval, nevolal zpět, neptal se kolegů a neporovnával informace s interními pravidly.

Bezpečnostní týmy proto upozorňují, že klasická školení o phishingu už nestačí. Zaměstnanci musí umět rozpoznat i nové formy manipulace. Varovnými signály mohou být například neobvyklý požadavek na rychlý převod, změna bankovního účtu na poslední chvíli, tlak na diskrétnost nebo situace, kdy údajný nadřízený žádá něco mimo standardní proces.

• Nečekaný požadavek na platbu, změnu hesla nebo export dat.
• Tlak na rychlost a zákaz jakéhokoli ověření.
• Neobvyklý komunikační kanál, například soukromý chat místo firemní platformy.
• Odchylka v chování – jiný styl vyjadřování, zvláštní intonace nebo technické problémy.

Velkým problémem je také to, že deepfake nemusí být dokonalý. Nemusí být. Pokud oběť očekává, že mluví s nadřízeným nebo příbuzným, často přehlédne drobné nesrovnalosti. Útočníkům stačí přesvědčivá iluze, ne absolutní dokonalost.

Jak se mohou bránit firmy: pravidla, ověřování a více vrstev ochrany

Nejefektivnější obrana proti deepfake podvodům nespočívá v jedné technologii, ale v kombinaci procesů a disciplíny. Základním pravidlem je ověření mimo původní kanál. Pokud přijde požadavek na převod peněz přes telefon, musí se potvrdit jiným způsobem, například zpětným hovorem na předem uložené číslo nebo přes interní schvalovací systém. Stejně tak by změna bankovního účtu dodavatele nikdy neměla proběhnout bez nezávislého potvrzení.

Bezpečnostní experti doporučují zavést princip čtyř očí pro všechny citlivé operace. U vyšších plateb, změn v účetnictví nebo přístupu do systémů by měl být vždy zapojen druhý člověk. U menších firem, kde není dostatek zaměstnanců, lze použít i jednoduchý model: žádná transakce nad předem stanovený limit bez telefonického ověření a interního záznamu.

Důležitá je také evidence hlasových a video požadavků. Některé firmy už zavádějí interní kódy, které se používají při mimořádných požadavcích vedení. Nejde o neprůstřelné řešení, ale o další vrstvu, která může útok zastavit. V praxi fungují i jasná pravidla, že vedení nikdy nevyžaduje okamžitou platbu bez předchozího zápisu v systému nebo bez schválení finance oddělením.

Technologie mohou pomoci, ale samy o sobě nestačí. Na trhu jsou nástroje pro detekci syntetického hlasu, analýzu obrazu a identifikaci manipulovaných metadat. Jejich účinnost se ale liší podle kvality útoku a typu média. Proto by firmy měly sledovat nejen bezpečnostní software, ale i stav svých veřejných dat. Čím více videí, hlasových záznamů a fotek vedení je volně dostupných, tím snazší je vytvořit věrohodný klon.

• omezit veřejné publikování dlouhých hlasových nahrávek vedení;
• nastavit vícefaktorové ověřování pro všechny důležité účty;
• pravidelně testovat zaměstnance simulovanými podvody;
• zavést jasný krizový postup pro podezření na deepfake útok;
• průběžně aktualizovat interní pravidla pro platby a schvalování.

Osobní obrana: jak chránit rodinu, účty i digitální identitu

Pro běžné uživatele je nejdůležitější uvědomit si, že deepfake útok nemusí vypadat jako sofistikovaný hackerský útok. Může přijít jako hlas „dítěte v nouzi“, falešné video známé osoby nebo podvodný telefonát z banky. Základem ochrany je proto zdrženlivost. Jakmile někdo žádá peníze, přístupové údaje nebo potvrzení transakce, je nutné zastavit se a ověřit informace jinou cestou.

Rodiny mohou zavést jednoduché bezpečnostní dohody. Například předem domluvené heslo pro krizové situace, zpětné volání na známé číslo nebo pravidlo, že žádné peníze se neposílají jen na základě hlasové zprávy. U seniorů, kteří jsou častým terčem podvodů, je vhodné pravidelně připomínat, že banka, policie ani rodinný příslušník nebudou žádat okamžitý převod po telefonu bez dalších kroků.

Silnou obranou je také správa digitální stopy. Čím méně osobních videí a hlasových záznamů je veřejně dostupných, tím hůře se vytváří přesvědčivý klon. U soukromých profilů na sociálních sítích má smysl omezit přístup cizím lidem, kontrolovat označování na fotografiích a neumisťovat veřejně nahrávky dětí nebo rodinných oslav, které lze snadno zneužít.

Na zařízení by mělo být zapnuté vícefaktorové ověřování, automatické aktualizace a silná hesla uložená v důvěryhodném správci. Pokud uživatel pracuje s citlivými údaji, měl by oddělit pracovní a soukromé účty a pravidelně kontrolovat, zda nedošlo k úniku dat. V době, kdy lze hlas napodobit během krátké chvíle a video upravit téměř v reálném čase, je právě kombinace opatrnosti, ověřování a omezení sdílených informací nejspolehlivější cestou, jak deepfake podvodníkům ztížit práci.