Tko danas online otvara račun, sklapa osiguranje ili pristupa osjetljivim podacima, sve češće svoj identitet dokazuje digitalno. To mnoge procese čini bržima, praktičnijima i dostupnijima. Istodobno se, međutim, pojavljuje novi izazov: što se događa kada se lica i videozapisi uz pomoć umjetne inteligencije mogu krivotvoriti tako uvjerljivo da izgledaju stvarno?
Upravo tu na scenu stupaju deepfakeovi. Tehnologija se razvija velikom brzinom i sve više olakšava stvaranje realističnih videozapisa osobe iz samo nekoliko slika. Ono što se isprva čini kao problem društvenih mreža ili političke komunikacije, odavno je relevantno i za digitalne procese identiteta. Jer kada prevaranti ukradeni identifikacijski dokument kombiniraju s videozapisom generiranim umjetnom inteligencijom, klasične provjere identiteta dolaze pod pritisak.
Najvažnije ukratko
- Deepfakeovi sve više postaju stvarna prijetnja digitalnim identitetima.
- Ukradeni identifikacijski dokument u kombinaciji s videozapisom generiranim umjetnom inteligencijom može znatno olakšati prijevaru identiteta.
- Izazov za digitalnu provjeru identiteta danas nije samo utvrditi tko je osoba, nego i jesu li dostavljeni slikovni i videopodaci autentični.
- Ne postoji jedan jedini mehanizam koji pouzdano prepoznaje sve deepfakeove. Učinkovita zaštita nastaje kombinacijom više usklađenih sigurnosnih mjera.
- Cilj modernih Ident postupaka jest učiniti prijevaru identiteta tehnički toliko zahtjevnom da napadi u praksi više nisu skalabilni.
Sadržaj
Kada biometrijska identifikacija naiđe na deepfakeove
Moderni Ident postupci u pravilu uspoređuju identifikacijski dokument sa snimkom osobe uživo. Pritom su temeljni biometrijski postupci iznimno precizni. Stvarni izazov danas stoga često nije u samoj biometriji, nego u pitanju je li prikazana snimka doista autentična.
Realističan scenarij napada: kriminalci raspolažu ukradenim identifikacijskim dokumentom i dodatno koriste fotografiju pogođene osobe, primjerice s društvenih mreža. Uz pomoć umjetne inteligencije iz toga se stvara videozapis koji se kao navodna snimka uživo unosi u proces identifikacije, s ciljem da se uspješno predstave kao netko drugi.
Time se sigurnosno pitanje temeljno mijenja. Više nije dovoljno utvrditi odgovara li lice dokumentu. Sustavi moraju dodatno moći prepoznati je li prikazano lice uopće stvarno.
Deepfakeovi pomiču granice digitalne provjere identiteta
Digitalna provjera identiteta dugo se temeljila na jednostavnom načelu: odgovara li osoba dokumentu? U doba deepfakeova zahtjevi se mijenjaju. Uz sam identitet, potrebno je provjeriti i autentičnost dostavljenih slikovnih i videopodataka. Jer čak i naizgled autentično lice pred kamerom danas može biti umjetno generirano.
Lice koje djeluje autentično, prirodni pokreti glave ili naizgled spontani selfie odavno više nisu dovoljan dokaz povjerenja. Uz mogućnosti generativne umjetne inteligencije granica između stvarnog i umjetno generiranog identiteta sve se više zamagljuje.
To, međutim, ne znači da digitalni identiteti postaju nesigurniji. Naprotiv: što su digitalne krivotvorine jednostavnije, to su važniji postupci koji mogu pouzdano dokazati autentičnost osobe. Deepfakeovi ne čine digitalnu provjeru identiteta suvišnom. Čine je potrebnijom nego ikad.

Povjerenje zahtijeva više slojeva zaštite
Kao i kod mnogih sigurnosnih pitanja, ni kod deepfakeova ne postoji jedna mjera koja pouzdano zaustavlja svaku prijetnju. Umjesto toga, moderne provjere identiteta oslanjaju se na više međusobno povezanih zaštitnih mehanizama. Svaka dodatna razina povećava prepreku za napadače i otežava uspješnu provedbu pokušaja prijevare.
Ključno je pritom međudjelovanje različitih tehnologija i postupaka. Oni trebaju što ranije prepoznati manipulacije, otežati pokušaje napada i povećati napor za prevarante toliko da se prijevara identiteta ekonomski više ne isplati.
Četiri stupa obrane od deepfakeova
1. Specijalizirano otkrivanje deepfakeova:
Moderni sustavi detekcije analiziraju slikovne i videopodatke na tipične tragove manipulacije te prepoznaju anomalije koje mogu upućivati na sintetički generiran sadržaj. Oni čine prvu liniju obrane od deepfake napada.
2. Nasumični izazovi uživo:
Spontani zadaci tijekom identifikacije, primjerice određeni pokreti glave ili interakcije, znatno otežavaju uspješnu upotrebu unaprijed pripremljenih deepfakeova. Istodobno povećavaju zahtjeve za moguće manipulacije u stvarnom vremenu.
3. Ograničavanje pokušaja napada:
Ako se prepoznaju pokušaji prijevare, uređaji, veze ili identitetske značajke mogu se privremeno blokirati. Time se sprječava da napadači sustav analiziraju i optimiziraju ponavljanim testnim pokušajima.
4. Osiguranje puta snimanja i prijenosa podataka:
Dodatni sigurnosni mehanizmi provjeravaju kako slikovni i videopodaci ulaze u proces identifikacije. Tako se može prepoznati jesu li sadržaji ubačeni preko zaslona, manipuliranog softvera ili drugih tehničkih zaobilaznih puteva.
