Kako otkriti prijevare i deepfakeove u doba umjetne inteligencije

Sigurno ste čuli za one videozapise u kojima političari govore stvari koje nikada ne bi rekli ili audio isječke koji savršeno oponašaju glas nekoga koga poznajete. Potpuno smo uronjeni u eru deepfakeova , sadržaja stvorenog dubokim učenjem koji je toliko realističan da nas ostavlja bez riječi, ali koji ima i svoje nedostatke, posebno kada se koristi da nas obmane.

Stvar je u tome što se više ne radi samo o internetskim podvalama. Suočavamo se sa situacijom u kojoj je generativna umjetna inteligencija postala smrtonosno oruđe za kibernetičke kriminalce, omogućujući im da zaobiđu sigurnosne kontrole koje su se do nedavno činile neprobojnima. Od bankarskog sektora do glasačkih kutija, sposobnost obmanjivanja ljudskog oka i digitalnih sustava doseže alarmantne razine.

Što je točno deepfake?

Jednostavno rečeno, deepfake je kombinacija "dubokog učenja" i "lažnog". U osnovi, koristi generativne suparničke mreže (GAN) , dvije neuronske mreže koje se međusobno natječu: jedna stvara sliku, a druga pokušava otkriti je li lažna, prisiljavajući prvu da se poboljšava sve dok rezultat ne postane praktički nerazlučiv od stvarnosti.

Povezani članak:

Lozinke i biometrija: nova granica digitalnog identiteta

To omogućuje zamjenu lica u videozapisima, kloniranje glasova sa samo nekoliko sekundi uzorka ili stvaranje potpuno novih ljudi od nule. Najopasniji aspekt je taj što ovi alati više nisu ograničeni na elitne laboratorije; svaka beskrupulozna osoba s internetskom vezom može pristupiti uslugama u oblaku za generiranje hiperrealističnog, sintetičkog materijala.

Opasnost u financijskom sektoru i sintetički identiteti

Tu stvari postaju ružne. U svijetu fintecha i bankarstva, prešli smo s krivotvorenja fizičkog identiteta na stvaranje sintetičkih identiteta . To nije samo krađa nečijeg identiteta, već miješanje stvarnih podataka (poput procurelog broja socijalnog osiguranja) s izmišljenim podacima i umjetnom biometrijom kako bi se stvorio profil koji izgleda legitimno, ali je zapravo fantom.

Mnogi digitalni sustavi za uvođenje korisnika oslanjaju se na usklađivanje korisnikovog lica s fotografijom na njihovoj identifikacijskoj ispravi. No, s trenutnom umjetnom inteligencijom, napadači mogu u stvarnom vremenu ubrizgati manipulirane videozapise kako bi prevarili kameru. Procjenjuje se da su se prijevare temeljene na deepfakeu povećale za 700% u fintech sektoru , ugrožavajući otvaranje računa i zahtjeve za kredite.

Kako funkcionira napredno otkrivanje sintetičkog sadržaja

Kako biste se suprotstavili ovome, nije dovoljno samo gledati video; morate analizirati ono što ljudsko oko ne može vidjeti. Softver za detekciju traži vremenske artefakte , nedosljednosti u osvjetljenju ili neprirodne obrasce treperenja. Također ispituje piksele i kompresiju datoteka kako bi pronašao otiske prstiju koji odaju umjetnu inteligenciju.

• računalni vid: Analizira praćenje orijentira lica kako bi otkrio prisilne pokrete.
• Audio analiza: Detektira nestvarne frekvencije ili nagle prekide tipične za kloniranje glasa.
• Detekcija života: Prisiljava korisnika da izvodi nasumične radnje kako bi spriječio korištenje unaprijed snimljenog videa.

Neka moderna rješenja postižu točnost veću od 99% , analizirajući prijenose uživo i videopozive kako bi blokirala napade lažiranja podataka u trenutku kada se dogode, sprječavajući tako materijalizaciju prijevare.

Iznad novca: izborni i društveni integritet

Utjecaj nije samo ekonomski. Deepfakeovi su postali oružje za potkopavanje demokracije . Vidjeli smo slučajeve u kojima se glasovi premijera ili predsjednika oponašaju kako bi se zbunili birači neposredno prije izbora, šireći laži koje postaju viralne prije nego što ih bilo koji provjerivač činjenica može opovrgnuti.

To nas dovodi do psihološkog problema koji se naziva "dividenda lažljivca ". U osnovi, budući da sada znamo da deepfakeovi postoje, svaka moćna osoba može tvrditi da je pravi video u kojem je pogriješila zapravo manipulacija umjetne inteligencije , čime izbjegava odgovornost.

Nova strategija: Orkestracija signala i propisa

Oslanjanje isključivo na biometriju lica danas je rizično. Trenutni trend je orkestracija signala . Umjesto jednog testa, sustav analizira ponašanje korisnika, digitalni identitet i biometriju , integritet uređaja (bilo da se radi o emulatoru ili pravom telefonu), geolokaciju i kontekst sesije. Ako lice izgleda stvarno, ali je uređaj sumnjiv , sustav aktivira crvenu zastavicu.

Što se tiče zakonodavstva, Europa se oslanja na GDPR i Zakon o digitalnim uslugama , iako još uvijek nedostaju specifični globalni propisi. Stoga je ključno da se tvrtke pridržavaju standarda poput ISO/IEC 30107 za otkrivanje napada putem prezentacije ili NIST smjernica, osiguravajući da je njihova obrana certificirana od strane treće strane, a ne samo marketinška obećanja.

Kako bi se zaštitile, organizacije moraju integrirati API-je za detekciju u stvarnom vremenu i procese provjere dokumenata pokretane umjetnom inteligencijom koji otkrivaju anomalije u milisekundama. Ključno je ne vjerovati slijepo jednom signalu i usvojiti pristup temeljen na riziku koji se razvija istim tempom kao i napadači.