Deepfake
Američki portal The Intercept objavio je izvještaj u kojem otkriva da se specijalne jedinice američke vojske pripremaju za korištenje tehnologije krivotvorenih snimaka (Deepfake), nakon što je američka vlada godinama upozoravala da bi ova tehnologija mogla destabilizirati demokratska društva i ugroziti civilizaciju.

Novinar Sam Biddle, autor teksta koji se inače bavi tehnološkim temama na portalu, rekao je da federalni dokumenti o ugovoru, u koje je The Intercept imao uvid, otkrivaju da se Američka komanda za posebne operacije (SOCOM), odgovorna za neke od najtajnovitijih vojnih poduhvata u zemlji, priprema za vođenje propagandnih i obmanjujućih kampanja na internetu koristeći kontraverzne deepfake videozapise.

Dodao je da su SOCOM-ove aspiracije za sljedeću generaciju navedene u dokumentu o nabavi u kojem se navode mogućnosti kojima teži u bliskoj budućnosti i traže ponude od strana za koje smatraju da ih mogu ispuniti.

Vatrom protiv vatre

U izvještaju se citira Chris Meserole, voditelj Inicijative za umjetnu inteligenciju i nove tehnologije na Institutu Brookings, koji je rekao: "Kada je riječ o dezinformacijama, Pentagon se ne bi trebao boriti vatrom protiv vatre". Dodaje da "u vrijeme kada je digitalna propaganda u globalnom porastu, Sjedinjene Američke Države bi trebale učiniti sve što je u njihovoj moći kako bi ojačale demokratiju kroz izgradnju podrške za zajedničke predodžbe o istini i stvarnosti, a ne koristeći tehnologiju deepfake koja djeluje suprotno od toga".

Meserole je dodao da čak i ako se deepfakeovi koriste za ciljane vojne i obavještajne operacije, njihovo korištenje mora biti podložno pregledu i nadzoru.

Autor navodi da SOCOM, koji se sastoji od elitnih jedinica kopnene vojske, marinaca, mornarice i zračnih snaga, vodi najosjetljivije vojne operacije najsmrtonosnije države na svijetu. Obično se bori u sjeni, ali njegova reputacija i globalni trag su nadaleko poznati. To su snage koje su ubile Osamu Bin Ladena u Pakistanu, u maju 2011. godine.

Legalnost upotrebe

Iako su deepfakeovi uglavnom ostali sredstvo za zabavu i pornografiju, postoji stvarna mogućnost za još strašnije primjene. Na početku ruske invazije na Ukrajinu, društvenim medijima je počeo kružiti loš deepfake ukrajinskog predsjednika Volodimira Zelenskog koji naređuje vojnicima da se predaju. Neovisno o etičkim razmatranjima, legalnost upotrebe vojnih deepfakeova u sukobu, koja ostaje otvoreno pitanje, nije razmotrena u dokumentu SOCOM-a.

Javnost potpuno gubi povjerenje

Primijetio je da jednostavnost korištenja tehnologije i njena sve veća tačnost bude strahove od ere u kojoj globalna javnost više neće moći vjerovati onome što vidi vlastitim očima.

Također je rekao da je interes SOCOM-a za širenje deepfake kampanja dezinformiranja uslijedio nakon međunarodne zabrinutosti tokom posljednjih godina zbog lažnih videozapisa i digitalne prijevare koja dolazi od međunarodnih protivnika. Iako je malo dokaza da su ruski napori da digitalno utječe na izbore 2016. imali ikakvog značajnog učinka, Pentagon je izrazio interes da udvostruči svoje digitalne propagandne sposobnosti, kako ne bi zaostajali, u čemu je SOCOM preuzeo ključnu ulogu.

Iako je vojna propaganda stara koliko i sam rat, primjećuje Sam Biddle, o deepfakeovima se često raspravljalo kao o jedinstvenoj tehnološkoj prijetnji, čije postojanje predstavlja civilizacijsku prijetnju.