Američko ministarstvo obrane namjerava koristiti deepfake tehnologiju koja bi omogućila stvaranje lažnih internetskih persona. U javnost je izašao podatak da tajni Odsjek za specijalne operacije američkog Ministarstva obrane traži partnere koji bi pomogli u razvoju ‘deepfake‘ korisničkih računa tako uvjerljivih da ih ni ljudi ni računala ne bi mogli prepoznati kao lažne, prenosi portal The Intercept.
Ova zamisao, predstavljena u novom dokumentu od 76 stranica koji opisuje napredne tehnologije potrebne za elitne vojne operacije, odnosi se na potrebe Zajedničkog zapovjedništva za specijalne operacije (Joint Special Operations Command – JSOC). U dokumentu se navodi da ‘specijalne operativne snage žele tehnologiju koja omogućuje generiranje uvjerljivih internetskih persona za upotrebu na društvenim mrežama, društvenim platformama i drugim oblicima internetskog sadržaja‘.
Cilj je kreirati profile korisnika koji ‘izgledaju kao jedinstveni pojedinci, ljudska bića, koja u stvarnosti ne postoje‘. Svaki profil trebao bi uključivati ‘višestruke izraze‘ i fotografije visoke kvalitete koje zadovoljavaju standarde za državnu identifikaciju. Uz to, dokument traži ‘slike lica i pozadine, videozapise lica i pozadine, te slojeve za audio‘, te se naglašava želja za mogućnošću generiranja ‘selfie videozapisa‘ ovih lažnih osoba, u kojima će se koristiti i lažne pozadine, kako bi se stvorio virtualni okoliš koji društveni mediji ne mogu prepoznati kao lažan.
Propaganda Pentagona
Pentagon je već bio optuživan za korištenje lažnih korisnika na društvenim mrežama u svrhu promicanja svojih interesa. Godine 2022., Meta i Twitter uklonili su propagandnu mrežu lažnih računa kojima je upravljalo američko Središnje zapovjedništvo (CENTCOM), među kojima su se nalazile i slike generirane na način sličan onome koji sada zahtijeva JSOC. Istraživanje Reutersa iz 2024. otkrilo je kampanju zapovjedništva Specijalnih operacija usmjerenu na narušavanje povjerenja u kinesko cjepivo protiv Covid-19 putem lažnih korisničkih računa na društvenim mrežama.
Već prošle godine, Zapovjedništvo za specijalne operacije (SOCOM) izrazilo je interes za korištenje deepfake video tehnologije – što je općeniti izraz za sintetičke audiovizualne podatke koji su gotovo neprepoznatljivi od stvarnih a sve u svrhe ‘operacija utjecaja, digitalne obmane, ometanja komunikacija i kampanja dezinformacija‘.
Ovogodišnji popis potreba SOCOM-a uključuje i zanimanje za softver sličan StyleGAN-u, alatu koji je Nvidia objavila 2019. godine i koji je pokretao popularnu web-stranicu This Person Does Not Exist. Ubrzo nakon lansiranja, Facebook je uklonio mrežu računa koji su koristili ovu tehnologiju za stvaranje lažnih profilnih slika.
U popisu JSOC-a navodi se kako će specijalne snage koristiti ovu mogućnost za prikupljanje informacija s javnih internetskih foruma, no nisu ponuđeni dodatni detalji o specifičnim načinima korištenja ovih umjetnih korisnika.
Ova detaljna narudžba sugerira da Sjedinjene Američke Države razvijaju iste tehnologije i metode koje inače osuđuju kada ih koriste geopolitički suparnici. Nacionalni sigurnosni dužnosnici već dugo opisuju državno potpomognuto korištenje deepfake tehnologije kao hitnu prijetnju – ali samo kada dolazi od strane druge zemlje.
U rujnu prošle godine, zajedničkom izjavom NSA-a, FBI-a i CISA-e upozoreno je da ‘sintetički mediji, kao što su deepfakeovi, predstavljaju sve veći izazov za sve korisnike moderne tehnologije‘. Također, ovu tehnologiju opisali su kao jedan od ‘najvećih rizika‘ za 2023. godinu. Tijekom brifinga za novinare ove godine, američki obavještajni dužnosnici upozorili su da mogućnost neprijateljskih država za širenjem ‘sadržaja generiranog umjetnom inteligencijom‘ iznimno opasno, a sada Pentagon upravo radi istu stvar. Što su ti dvostruka mjerila
Obmanjujuća tehnologija
Ofenzivna primjena ove tehnologije od strane SAD-a mogla bi dodatno potaknuti njezinu prihvaćenost i normalizirati je kao alat za sve vlade.
- Ono što je značajno kod ove tehnologije jest da je ona u svojoj srži obmanjujuća. Ne postoje legitimni slučajevi uporabe osim obmane, i zabrinjavajuće je vidjeti kako američka vojska koristi tehnologiju protiv koje se sama upozoravala. Ovo će samo ohrabriti druge vojske ili protivnike da učine isto, vodeći do društva u kojem je sve teže razlikovati istinu od laži i komplicirajući geopolitičku scenu - izjavila je Heidy Khlaaf, glavna znanstvenica za AI u AI Now Instituteu.
I Rusija i Kina ranije su koristile deepfake videozapise i korisničke avatare u svojim propagandnim potezima, zbog čega je u siječnju State Department najavio međunarodni ‘Okvir za suzbijanje manipulacije informacijama stranih država‘.
- Manipulacija informacijama i ometanje predstavljaju prijetnju nacionalnoj sigurnosti Sjedinjenih Država, kao i njezinim saveznicima i partnerima. Autoritarne vlade koriste manipulaciju informacijama kako bi narušile slobodne i demokratske društvene sustave - navedeno je u priopćenju State Departmenta.
Zanimanje SOCOM-a za deepfake tehnologiju naglašava temeljnu napetost unutar američke vlade, rekao je Daniel Byman, profesor sigurnosnih studija na Sveučilištu Georgetown i član Međunarodnog savjetodavnog odbora za sigurnost pri State Departmentu.
- Veliki dio američke vlade ima snažan interes da javnost vjeruje kako vlada objavljuje točne informacije (u najboljoj vjeri) i da namjerno ne obmanjuje ljude,” objašnjava Byman, dok su drugi dijelovi zaduženi za obmanu. -Postoji opravdana zabrinutost da će SAD biti percipiran kao licemjeran. Također me brine utjecaj na domaće povjerenje u vladu – hoće li segmenti američkog društva postati sumnjičaviji prema informacijama koje dolaze od vlade? – zaključuje se Byman.