AI rojevi su vrsta organizma koji je samodostatan, koji se može koordinirati, može učiti, prilagođavati se i specijalizirati za iskorištavanje ljudskih ranjivosti, upozoravaju istraživači
slika
© Andriy Onufriyenko putem Getty ImagesaKorisnici društvenih mreža mogli bi se naći uvučeni u pokret koji stvara umjetna inteligencija
Rojevi agenata umjetne inteligencije uskoro bi mogli masovno napasti platforme društvenih mreža kako bi širili lažne narative, uznemiravali korisnike i potkopavali demokraciju. Ovi AI rojevi, pišu autori rada objavljenog u časopisu Science, bit će sposobni oponašati ljudsko ponašanje kako bi izbjegli otkrivanje i istovremeno stvarati iluziju autentičnog online kretanja. Tako barem tvrde istraživači norveškog SINTEF Digitala i Norveške poslovne škole BI te njemačkog Max Planck instituta za sigurnost i privatnost.

Iskorištavanje ranjivosti

Nema ničeg neobičnog u tome što se mišljenja članova neke online zajednice učvršćuju oko stava koji je prije bio predmet rasprave, a ljudski instinkt često im nalaže da slijede "mudrost" stada. Ali u ovom slučaju, stadom bi mogao upravljati AI roj koji djeluje u ime nepoznate osobe, skupine, političke stranke, tvrtke ili državnog aparata. Ti bi se rojevi lako mogli iskoristiti za uznemiravanje onih koji se ne povedu za mentalitetom stada i oponašati ljutitu rulju koja će gomilom postova neistomišljenika otjerati s platforme.

Rad AI rojeva koordinirat će GenAI agenti i bit će dovoljno sofisticirani da se prilagode online zajednicama u koje se infiltriraju, instalirajući kolekcije različitih "osoba" koje zadržavaju pamćenje i identitet.

Obrana od napada

Roj bi mogao sadržavati stotine, tisuće ili čak milijune AI agenata, a njihov bi se broj povećavao s računalnom snagom. Istovremeno, budući da su rojevi sofisticiraniji od tradicionalnih botova, mogli bi imati veći utjecaj s manjim brojem agenata.

Istraživači predviđaju da će kompanije koje upravljaju društvenim mrežama odgovoriti na AI rojeve poboljšanom autentifikacijom računa, a predlažu i druge metode, poput skeniranja prometa uživo u potrazi za statistički anomalnim obrascima koji bi mogli predstavljati AI rojeve te uspostavu globalnog "opservatorija utjecaja umjetne inteligencije" koji će proučavati, podizati svijest i reagirati na prijetnju.