Kto si dnes zakladá online účet, uzatvára poistenie alebo pristupuje k citlivým údajom, preukazuje svoju identitu čoraz častejšie digitálne. Vďaka tomu je mnoho procesov rýchlejších, pohodlnejších a dostupnejších. Zároveň však vzniká nová výzva: Čo sa stane, keď sa tváre a videá dajú pomocou umelej inteligencie sfalšovať na nerozoznanie?
A presne tu prichádzajú na rad deepfakes. Táto technológia sa vyvíja raketovým tempom a vytváranie realisticky vyzerajúcich videí akejkoľvek osoby len z niekoľkých fotografií je čoraz jednoduchšie. To, čo spočiatku vyzeralo ako problém sociálnych sietí alebo politickej komunikácie, sa už dávno týka aj procesov digitálnej identity. Ak totiž podvodníci skombinujú ukradnutý doklad totožnosti s videom vytvoreným umelou inteligenciou, klasické metódy overovania identity sa ocitajú pod tlakom.
Najdôležitejšie v skratke
- Deepfakes sa stávajú čoraz reálnejšou hrozbou pre digitálne identity.
- Ukradnutý preukaz v kombinácii s videom vygenerovaným umelou inteligenciou dokáže podvod s identitou výrazne uľahčiť.
- Výzvou pre systémy na overovanie identity dnes nie je len zistiť, kto daná osoba je, ale aj to, či sú predložené obrazové a video dáta pravé.
- Žiadny univerzálny mechanizmus na spoľahlivé odhalenie všetkých deepfakes neexistuje. Účinnú ochranu zabezpečuje až súbor viacerých vzájomne prepojených bezpečnostných opatrení.
- Cieľom moderných procesov overovania identity je skomplikovať podvody natoľko, aby útoky v praxi nebolo možné škálovať.
Obsah
Keď sa biometrická identifikácia stretne s deepfakes
Moderné procesy overovania identity spravidla porovnávajú doklad totožnosti so živým záberom danej osoby. Použité biometrické metódy pritom pracujú mimoriadne presne. Skutočná výzva dnes preto často nespočíva v biometrii samotnej, ale v otázke, či je zobrazený záber skutočne pravý.
Realistický scenár útoku: Zločinci získajú ukradnutý doklad a k nemu použijú fotografiu dotyčnej osoby, napríklad zo sociálnych sietí. Pomocou umelej inteligencie z nej vytvoria video, ktoré potom vložia do procesu overovania ako údajný živý záber s cieľom úspešne vystupovať ako niekto iný.
Tým sa zásadne mení celá podstata bezpečnosti. Už nestačí len skontrolovať, či tvár zodpovedá preukazu. Systémy musia navyše dokázať odhaliť, či je zobrazená tvár vôbec skutočná.
Deepfakes posúvajú hranice overovania digitálnej identity
Overovanie digitálnej identity dlho stálo na jednoduchom princípe: Zodpovedá táto osoba svojmu dokladu? V ére deepfakes sa však požiadavky menia. Okrem identity samotnej sa musí overovať aj pravosť predložených obrazových a video dát. Veď aj zdanlivo autentická tvár pred kamerou môže byť dnes vytvorená umelo.
Dôveryhodne pôsobiaca tvár, prirodzené pohyby hlavy či zdanlivo spontánne selfie už dávno nepredstavujú dostatočný dôkaz autenticity. Vďaka možnostiam generatívnej AI sa hranica medzi skutočnou a umelo vytvorenou identitou čoraz viac stiera.
To však neznamená, že sa digitálne identity stávajú menej bezpečnými. Práve naopak: Čím jednoduchšie je digitálne falšovanie, tým dôležitejšie sú metódy schopné spoľahlivo overiť pravosť človeka. Deepfakes nerobia overovanie digitálnej identity zbytočným. Robia ho potrebnejším než kedykoľvek predtým.

Dôvera si vyžaduje viacero vrstiev ochrany
Tak ako pri mnohých bezpečnostných otázkach, ani pri deepfakes neexistuje jediné opatrenie, ktoré by spoľahlivo zastavilo každú hrozbu. Moderné overovanie identity preto stavia na viacerých prepojených ochranných mechanizmoch. Každá ďalšia vrstva zvyšuje náročnosť pre útočníkov a sťažuje úspešné vykonanie podvodu.
Rozhodujúca je pritom súhra rôznych technológií a postupov. Ich úlohou je odhaliť manipulácie čo najskôr, prekaziť pokusy o útok a zvýšiť námahu pre podvodníkov natoľko, aby sa krádež identity ekonomicky vôbec neoplatila.
Štyri piliere obrany proti deepfakes
1. Špecializovaná detekcia deepfakes:
Moderné detekčné systémy analyzujú obrazové a video dáta, vyhľadávajú typické stopy manipulácie a odhaľujú anomálie naznačujúce synteticky vytvorený obsah. Tvoria tak prvú líniu obrany proti deepfake útokom.
2. Náhodné interaktívne výzvy naživo:
Spontánne úlohy počas identifikácie, napríklad špecifické pohyby hlavy či interakcie, výrazne sťažujú úspešné nasadenie vopred pripravených deepfakes. Zároveň kladú oveľa vyššie nároky na prípadné manipulácie v reálnom čase.
3. Obmedzenie počtu pokusov:
Ak systém odhalí pokus o podvod, dokáže dané zariadenia, pripojenia alebo identifikačné znaky dočasne zablokovať. Tým sa zabráni tomu, aby útočníci systém analyzovali a ladili opakovanými testami.
4. Zabezpečenie cesty záznamu a dát:
Dodatočné bezpečnostné mechanizmy preverujú, ako sa obrazové a video dáta do procesu identifikácie vôbec dostávajú. Vďaka tomu je možné zistiť, či nebol obsah podstrčený cez displeje, upravený softvér alebo iné technické obchádzky.
