Kdor danes na spletu odpre račun, sklene zavarovanje ali dostopa do občutljivih podatkov, svojo identiteto vse pogosteje dokazuje digitalno. To številne procese naredi hitrejše, udobnejše in dostopnejše. Hkrati pa nastane nov izziv: kaj se zgodi, če je mogoče obraze in videoposnetke s pomočjo UI ponarediti tako prepričljivo, da delujejo povsem resnično?
Prav tu nastopijo deepfaki. Tehnologija se razvija izjemno hitro in vse bolj poenostavlja ustvarjanje realističnih videoposnetkov osebe že iz nekaj fotografij. Kar se sprva zdi kot težava družbenih omrežij ali politične komunikacije, je že dolgo relevantno tudi za digitalne identitetne procese. Če namreč goljufi ukraden identifikacijski dokument združijo z videoposnetkom, ustvarjenim z UI, so klasična preverjanja identitete pod pritiskom.
Najpomembnejše na kratko
- Deepfaki vse bolj postajajo realna grožnja digitalnim identitetam.
- Ukraden identifikacijski dokument v kombinaciji z videoposnetkom, ustvarjenim z UI, lahko bistveno olajša identitetno prevaro.
- Izziv pri preverjanju digitalne identitete danes ni več le ugotoviti, kdo je oseba, temveč tudi, ali so predloženi slikovni in video podatki pristni.
- Enotnega mehanizma za zanesljivo prepoznavanje vseh deepfakov ni. Učinkovita zaščita nastane z več usklajenimi varnostnimi ukrepi.
- Cilj sodobnih ident postopkov je identitetno prevaro tehnično toliko otežiti, da napadi v praksi niso več skalabilni.
Kazalo vsebine
Ko biometrična identifikacija naleti na deepfake
Sodobni ident postopki praviloma primerjajo identifikacijski dokument s posnetkom osebe v živo. Pri tem so osnovni biometrični postopki izjemno natančni. Pravi izziv danes zato pogosto ni v biometriji sami, temveč v vprašanju, ali je prikazani posnetek dejansko pristen.
Realističen scenarij napada: kriminalci razpolagajo z ukradenim identifikacijskim dokumentom in dodatno uporabijo fotografijo zadevne osebe, na primer z družbenih omrežij. S pomočjo umetne inteligence iz tega ustvarijo videoposnetek, ki ga kot domnevni posnetek v živo vključijo v identifikacijski postopek, z namenom, da se uspešno izdajajo za nekoga drugega.
S tem se varnostno vprašanje temeljno spremeni. Ni več dovolj ugotoviti, ali se obraz ujema z dokumentom. Sistemi morajo dodatno znati prepoznati, ali je prikazani obraz sploh pristen.
Deepfaki premikajo meje preverjanja digitalne identitete
Preverjanje digitalne identitete je dolgo temeljilo na preprostem načelu: ali se oseba ujema z dokumentom? V dobi deepfakov se zahteve premikajo. Poleg identitete je treba preveriti tudi pristnost predloženih slikovnih in video podatkov. Kajti tudi na videz avtentičen obraz pred kamero je danes lahko umetno ustvarjen.
Obraz, ki deluje avtentično, naravni premiki glave ali na videz spontani selfi že dolgo niso več zadosten dokaz zaupanja. Z možnostmi generativne UI se meja med resnično in umetno ustvarjeno identiteto vse bolj briše.
To pa ne pomeni, da digitalne identitete postajajo manj varne. Nasprotno: čim lažje postajajo digitalne ponaredbe, tem pomembnejši so postopki, ki lahko zanesljivo potrdijo pristnost osebe. Deepfaki preverjanja digitalne identitete ne naredijo odvečnega. Naredijo ga bolj nujnega kot kdaj koli prej.

Zaupanje potrebuje več zaščitnih plasti
Kot pri številnih varnostnih vprašanjih tudi pri deepfakih ni enega samega ukrepa, ki bi zanesljivo ustavil vsako grožnjo. Namesto tega se sodobna preverjanja identitete opirajo na več medsebojno povezanih zaščitnih mehanizmov. Vsaka dodatna raven poveča oviro za napadalce in oteži uspešno izvedbo poskusov prevare.
Ključno je pri tem sodelovanje različnih tehnologij in postopkov. Ti naj manipulacije zaznajo čim prej, otežijo poskuse napadov in povečajo napor za goljufe do te mere, da se identitetna prevara ekonomsko ne izplača več.
Štirje stebri obrambe pred deepfaki
1. Specializirano zaznavanje deepfakov:
Sodobni sistemi zaznavanja analizirajo slikovne in video podatke glede tipičnih sledi manipulacij ter prepoznajo nepravilnosti, ki lahko kažejo na sintetično ustvarjene vsebine. Predstavljajo prvo obrambno linijo pred napadi z deepfaki.
2. Naključni izzivi v živo:
Spontane naloge med identifikacijo, na primer določeni premiki glave ali interakcije, bistveno otežijo uspešno uporabo vnaprej pripravljenih deepfakov. Hkrati povečajo zahteve za morebitne manipulacije v realnem času.
3. Omejevanje poskusov napadov:
Če so poskusi prevare zaznani, je mogoče naprave, povezave ali identitetne značilnosti začasno blokirati. S tem se prepreči, da bi napadalci sistem analizirali in optimizirali z večkratnimi testnimi poskusi.
4. Zavarovanje poti zajema in prenosa podatkov:
Dodatni varnostni mehanizmi preverjajo, kako slikovni in video podatki vstopijo v identifikacijski postopek. Tako je mogoče zaznati, ali so bile vsebine vnesene prek zaslonov, manipulirane programske opreme ali drugih tehničnih obvozov.
