Deepfake: Kada tehnologija briše granicu između istine i laži

foto: EU Audiovisual Service

Ljudi su sve više zabrinuti zbog mogućnosti koje pruža veštačka inteligencija. Ipak, treba imati u vidu da je veštačka inteligencija neutralna sama po sebi, dok način njene upotrebe zavisi od motiva onog ko je koristi. Isto je i sa upotrebom deepfake tehnologije koja koristi veštačku inteligenciju čiji je rezultat lažan audio-vizuelan sadržaj. Ova tehnologija pruža brojne mogućnosti u medicini, filmskoj industriji, kao i kreiranju zabavnog i kreativnog sadržaja. Međutim, deepfake može biti korišćen kako bi se kreirao pornografski sadržaj, osvetnička pornografija i lažne vesti. Poslednjih godina je deepfake tehnologija korišćena kako bi se sprovele određene vrste prevare u različitim delovima sveta. Razvoj deepfake-a sve više napreduje, dok je mogućnost razlikovanja lažnog od istinitog sadržaja sve manja.

Ljudi neretko dele svoje slike na društvenim mrežama nesvesni mogućih i neželjnih posledica. Dok je ranije bio potreban ogroman broj fotografija kako bi se kreirao nerealističan deepfake sadržaj, danas je dovoljna jedna fotografija kojom se briše granica između istine i laži. Mogućnosti detekcije lažnog sadržaja su sve manje s obzirom na usavršenije vidove deepfake-a. Brzim razvojem ove tehnologije bile su pogođene mnoge poznate glumice i pevačice, poput Taylor Swift, Gal Gadot, Emme Watson, čije je lice korišćeno kako bi se kreirao pornografski sadržaj. Danas se bilo koja žena može naći u takvoj situaciji upravo zbog dostupnosti njihovih slika na internetu i različitim društvenim mrežama. Nažalost, neretko se deepfake koristi za različite vidove osvetničke pornografije, ucena na internetu, kao i sajber nasilja. 

Sa brzim razvojem deepfake-a prisutnost lažnih vesti je sve veća na internetu. Lica političara, kao i njihov glas se koriste kako bi se kreirali video snimci u kojima oni izgovaraju reči koje nikada nisu izgovorili. Samim tim, opasnosti po demokratiju, političke institucije, kao i samu bezbednost nacionalnih država su ogromne. Deepfake tehnologija predstavlja moćno oružje koje može biti korišćeno u različite političke svrhe. Neretka je i njena upotreba prilikom izbornih kampanji u različitim državama. Čini se da manipulacija informacijama nikad nije bila jednostavnija. Ono što posebno izaziva zabrinutost širom sveta jeste dostupnost ove tehnologije, kao i minimalno informatičko znanje koje je danas potrebno za kreiranje lažnih sadržaja. Sve to rezultuje pitanjem – možemo li da verujemo onome što vidimo i onome što čujemo?

U svetu se za pristup različitim objektima, aplikacijama i bankovnim računima sve češće koristi biometrijska verifikacija odnosno prepoznavanje lica, glasa ili otiska prsta. Krađe identiteta nisu novima u današnjem svetu. Dostupnost slika ili video snimaka u kojima govorite, kao i razvoj deepfake tehnologije, omogućavaju različite vrste finansijskih prevara. Na meti ne mora biti pojedinac, već to mogu biti banke i različite kompanije. Tako se na primer na meti napada tokom 2019. godine našla energetska kompanija sa sedištem u Ujedinjenom Kraljevstvu.  Verujući da je dobio poziv od svog nadređenog iz nemačke matične firme, generalni direktor je odobrio transfer novca u iznosu od 220 hiljada evra. Prevara je sprovedena zahvaljujući deepfake tehnologiji koja može da imitira glas i način govora bilo koje osobe.  

Poslednjih godina su države postale svesne mogućnosti koje pruža deepfake tehnologija, kao i opasnosti koje njena upotreba nosi sa sobom. Može se reći da je regulacija deepfake-a još uvek u početnoj fazi sa različitim pristupima i zakonodavnim merama koje se primenjuju. Na nivou Evropske unije je tokom 2024. godine usvojen Zakon o veštačkoj inteligenciji (EU AI Act) koji je posvećen i regulisanju upotrebe deepfake tehnologije a posebno u kontekstu širenja lažnih informacija i kršenja prava pojedinaca. Cilj ovog Zakona jeste da se označi sadržaj koji je generisan uz pomoć veštačke inteligencije čime bi njegovi korisnici mogli da naprave razliku između istine i laži. Odredbe EU AI Act-a će se postepeno primenjivati narednih godina u državama članicama, dok se njegova potpuna primena očekuje do 2027. godine.

Autorka: Sanela Veljković