chránit digitální identitu před deepfaky generovanými AI

Takto jsou digitální identity chráněny před deepfaky

Kdo si dnes online zakládá účet, uzavírá pojištění nebo přistupuje k citlivým datům, stále častěji prokazuje svou identitu digitálně. Díky tomu je řada procesů rychlejší, pohodlnější a dostupnější. Zároveň však vzniká nová výzva: Co se stane, když lze pomocí AI klamavě věrně falšovat obličeje a videa?

Právě zde vstupují do hry deepfaky. Technologie se vyvíjí rychlým tempem a stále více usnadňuje vytvořit z několika málo snímků realisticky působící video dané osoby. Co se zpočátku jeví jako problém sociálních sítí nebo politické komunikace, je už dávno relevantní i pro digitální procesy identity. Pokud totiž podvodníci zkombinují odcizený doklad totožnosti s videem generovaným AI, dostávají se klasické kontroly identity pod tlak.

Nejdůležitější ve zkratce

  • Deepfaky se stále více stávají reálnou hrozbou pro digitální identity.
  • Odcizený doklad v kombinaci s videem generovaným AI může výrazně usnadnit podvody s identitou.
  • Výzva pro digitální ověřování identity dnes nespočívá jen v určení, kdo daná osoba je, ale také v tom, zda jsou předložená obrazová a video data pravá.
  • Neexistuje jediný mechanismus, který by spolehlivě odhalil všechny deepfaky. Účinná ochrana vzniká kombinací několika vzájemně sladěných ochranných opatření.
  • Cílem moderních identifikačních postupů je učinit podvod s identitou technicky natolik náročným, aby útoky v praxi již nebylo možné škálovat.

Obsah

Když se biometrická identifikace střetne s deepfaky

Moderní identifikační postupy zpravidla porovnávají doklad totožnosti s živým záznamem osoby. Základní biometrické metody přitom pracují mimořádně přesně. Skutečná výzva dnes proto často nespočívá v biometrice samotné, ale v otázce, zda je zobrazený záznam skutečně pravý.

Realistický scénář útoku: Pachatelé mají k dispozici odcizený doklad a navíc použijí fotografii dotčené osoby, například ze sociálních sítí. Pomocí umělé inteligence z ní vytvoří video, které je jako domnělý živý záznam vloženo do identifikačního procesu s cílem úspěšně se vydávat za někoho jiného.

Tím se zásadně mění bezpečnostní otázka. Už nestačí zjistit, zda obličej odpovídá dokladu. Systémy musí navíc umět rozpoznat, zda je zobrazený obličej vůbec skutečný.

Deepfaky posouvají hranice digitálního ověřování identity

Digitální ověřování identity dlouho stálo na jednoduchém principu: Odpovídá osoba dokladu? V éře deepfaků se požadavky posouvají. Vedle samotné identity je nutné ověřovat i pravost předložených obrazových a video dat. I zdánlivě autentický obličej před kamerou totiž dnes může být uměle vytvořen.

Obličej, který působí autenticky, přirozené pohyby hlavy nebo zdánlivě spontánní selfie už dávno nejsou dostatečným důkazem důvěryhodnosti. S možnostmi generativní AI se hranice mezi skutečnou a uměle vytvořenou identitou stále více stírá.

To však neznamená, že se digitální identity stávají méně bezpečnými. Naopak: Čím snazší jsou digitální padělky, tím důležitější jsou postupy, které dokážou spolehlivě prokázat pravost osoby. Deepfaky digitální ověřování identity nečiní zbytečným. Dělají je potřebnějším než kdy dříve.

Chránit postup Video-Ident před deepfaky

Důvěra potřebuje více vrstev ochrany

Stejně jako u mnoha bezpečnostních otázek ani u deepfaků neexistuje jediné opatření, které by spolehlivě zastavilo každou hrozbu. Moderní ověřování identity proto spoléhá na několik vzájemně provázaných ochranných mechanismů. Každá další vrstva zvyšuje laťku pro útočníky a ztěžuje úspěšné provedení pokusů o podvod.

Rozhodující je přitom souhra různých technologií a postupů. Mají odhalovat manipulace co nejdříve, komplikovat pokusy o útok a zvyšovat náklady podvodníků natolik, aby se podvody s identitou ekonomicky přestaly vyplácet.

Čtyři pilíře obrany proti deepfakům

1. Specializovaná detekce deepfaků:

Moderní detekční systémy analyzují obrazová a video data na typické stopy manipulace a rozpoznávají anomálie, které mohou naznačovat synteticky vytvořený obsah. Tvoří první obrannou linii proti útokům pomocí deepfaků.

2. Randomizované živé výzvy:

Spontánní úkoly během identifikace, například určité pohyby hlavy nebo interakce, výrazně ztěžují úspěšné použití předem připravených deepfaků. Zároveň zvyšují nároky na případné manipulace v reálném čase.

3. Omezení pokusů o útok:

Pokud jsou pokusy o podvod rozpoznány, lze zařízení, připojení nebo identifikační znaky dočasně zablokovat. Tím se zabrání tomu, aby útočníci systém analyzovali a optimalizovali opakovanými testovacími pokusy.

4. Zabezpečení cesty záznamu a dat:

Další bezpečnostní mechanismy prověřují, jak se obrazová a video data dostávají do identifikačního procesu. Lze tak odhalit, zda byl obsah propašován přes displeje, upravený software nebo jiné technické okliky.

Závěr

Deepfaky ukazují, jak výrazně se mění požadavky na digitální bezpečnost. Zatímco dříve byl v centru pozornosti důkaz identity, dnes musí digitální řešení identity navíc posuzovat pravost předloženého obsahu. Právě proto se digitální identita stává klíčovou důvěryhodnou infrastrukturou naší digitální společnosti. Čím snazší je lidi digitálně napodobovat, tím důležitější jsou postupy, které dokážou bez pochyb prokázat, kdo skutečně sedí za obrazovkou.

Číst další článek

Let's conNECT!

Tímto přijímám zásady ochrany osobních údajů a VOP.