Nadalje, oslanjanje na umjetnu inteligenciju riskira potpuno odricanje od ljudske aktivnosti i spljoštavanje ljudske inteligencije i društvenosti. Kako se ovlasti donošenja odluka prepuštaju algoritmima, ljudi će postati pasivni čvorovi u sustavu koji zamjenjuje ljudsko razmišljanje obradom informacija umjetne inteligencije - "Bots R Us" - nagrizajući autonomiju, kreativnost i istinsko promišljanje.
Geopolitički, umjetna inteligencija prijeti stvaranjem neusporedivih sustava ideološke i političke dominacije i kohezije. Dominantni svjetonazor je svjetonazor koji dominira umjetnom inteligencijom. Trka umjetne inteligencije ne ide prema oslobođenju, već prema hibridnom posthumanom poretku u kojem je sloboda zastarjela, a slobodna volja, kako kaže Yuval Noah Harari, "povijest".
U djelu *Discipliniraj i kažnjavaj* (1975.), Michel Foucault je širenje države putem nadzornih "tehnologija moći" nazivao "panopticizmom" (195-230). Panopticizam opisuje transformaciju u izražavanju i vršenju moći koja se dogodila od predmodernog do modernog razdoblja. Ova promjena uključivala je odmak od prvenstveno tjelesnih oblika kažnjavanja - mučenja, komadanja, žigosanja i drugih brutalnih rituala nanošenja tjelesne boli - ali i decentralizaciju moći, njezine metastaze i prodiranje u cijelo društvo - njezini učinci više nisu bili ograničeni na zatvorene, duševno oboljele ili na drugi način pritvorene. Novi "disciplinski" režim uključivao je reformirane zatvore i druga mjesta zatočenja, ali je također izbjegao okvire institucija te se univerzalno primjenjivao na cijelo stanovništvo. Cijelo društvo postalo je disciplinirano društvo pod pantopticizmom.
© CopyrightPanoptikon
Onaj tko je podvrgnut polju vidljivosti i tko to zna, preuzima odgovornost za ograničenja moći; on ih spontano nameće sebi; on u sebe upisuje odnos moći u kojem istovremeno igra obje uloge [ulogu promatrača i promatranog]; on postaje princip vlastite podređenosti (202-203).Foucault pokazuje kako su tehnologije discipline koje se prakticiraju s porastom panopticizma postale manje snažne, lakše, manje opterećujuće za tijelo, ali istovremeno potpuno sveprisutne.
Kako se ispostavilo, barem u SAD-u, Panoptikon će biti u vlasništvu i pod upravom Palantira, softverske tvrtke nazvane po legendarnom kamenju viđenja iz Gospodara prstenova. S jedne strane, Palantirova Maven AI platforma postala je službeni "program evidencije" od strane Pentagona, ugrađujući je kao temeljni obavještajni sustav na bojnom polju za ciljanje, raspodjelu resursa i donošenje odluka u stvarnom vremenu.
Maven koristi naprednu umjetnu inteligenciju i strojno učenje - tehnologije koje proždiru kolosalne tokove podataka kako bi otkrile obrasce i identificirale objekte s nemilosrdnom učinkovitošću - za unos satelitskih snimaka, podataka dronova, radarskih signala i obavještajnih izvješća. Uočava vojne ciljeve - vozila, zgrade, zalihe oružja - zatim automatizira dijelove takozvanog "lanca ubijanja", vojnog slijeda lociranja, praćenja i napada na cilj, komprimirajući odluke od otkrivanja do uništenja zastrašujućom brzinom.
Tragično, upravo je taj stroj bio izložen tijekom prvih sati Operacije Epski bijes. Američki napad uništio je osnovnu školu za djevojčice Shajareh Tayyebeh u Minabu, u južnom Iranu, pri čemu je ubijeno između 165 i 180 ljudi, većinom djevojčica u dobi od sedam do dvanaest godina. Zgrada je odavno prenamijenjena iz vojne na civilnu upotrebu, no ustajale obavještajne službe i dalje su je navodile kao legitimnu metu. Mavenova brzina, vođena umjetnom inteligencijom, srušila je uski prozor za ljudski uvid, pretvorivši školsko dvorište u kosturnicu u sekundama. Američke vojne istrage utvrdile su da je američka vojska kriva za "nesreću". Pentagon sada "istražuje" ulogu vlastite platforme u zločinu.
Komentar: Ili još gore od toga je mogućnost da je tehnologija umjetne inteligencije korištena kao "izgovor" - i da je škola za djevojčice bila meta uništenja s punim znanjem o ishodu.
IDF je također primijenio Palantir softver u Gazi, s razornim posljedicama. Tvrtka je u siječnju 2024. sklopila formalno "strateško partnerstvo" s izraelskim Ministarstvom obrane - uz sastanak odbora održan u Tel Avivu - izričito radi opskrbe naprednom tehnologijom za "ratne misije". Palantirova Gotham i platforma umjetne inteligencije korišteni su za spajanje golemih obavještajnih podataka, satelitskih snimaka, presretnutih komunikacija i podataka o ponašanju u popise ubojstava generirane umjetnom inteligencijom, optimizirajući "lanac ubojstava" nemilosrdnom brzinom i omogućujući brzi odabir ciljeva i udare.
Posebna izvjestiteljica UN-a Francesca Albanese navela je upravo ovo partnerstvo kao osnovu za uvjerenje da su Palantirovi alati olakšali izraelsku "nezakonitu upotrebu sile", doprinoseći nesrazmjernim smrtnim slučajevima civila i podižući utvaru suučesništva u ratnim zločinima. Ukratko, ista preventivna logika koja je školu za djevojčice u Iranu pretvorila u ruševine testirana je u bitkama i usavršena na mnogo većim razmjerima u Gazi - Palantirova umjetna inteligencija vidi kamenje kako viri u svakom kutku bojnog polja i izriče kaznu prije nego što ljudska ruka posegne za okidačem.
S druge strane, Ministarstvo domovinske sigurnosti potpisalo je opći ugovor o kupnji vrijedan milijardu dolara za implementaciju Palantirovih platformi Gotham i Foundry u cijelom odjelu, koristeći podatke iz više agencija za identifikaciju prijetnji, upravljanje slučajevima i operativnu koordinaciju.
Palantir je u travnju 2025. dobio ugovor od ICE-a vrijedan 30 milijuna dolara za izgradnju ImmigrationOS-a - sustava pokretanog umjetnom inteligencijom za upravljanje cijelim imigracijskim procesom. To se uklapa u druge velike ugovore tvrtke iz doba Trumpa: potencijalni ugovor o softveru i podacima vrijedan 10 milijardi dolara s američkom vojskom, više od 180 milijuna dolara u ugovorima s IRS-om od 2018. (s nedavnim projektima koji organiziraju porezne zapise u pretražive baze podataka, odabiru ciljeve revizije i otkrivaju prijevare) te tekući rad s Ministarstvom zdravstva i socijalnih usluga i CDC-om - uključujući projekt vrijedan 443 milijuna dolara za stvaranje jedinstvene zajedničke nadzorne ploče koja objedinjuje podatke o javnom zdravstvu iz više sustava.
Uzmite u obzir Palantirove veze s više od 30 drugih saveznih agencija i obrazac postaje nepogrešiv: Palantir posjeduje de facto glavnu bazu podataka, onu koja spaja mase podataka - o zdravlju, poreznim obvezama, financijskim tragovima, putnim zapisima, imigracijskom statusu i obrascima ponašanja - u panoptičku tablicu. Budući da su Palantirovi alati izgrađeni za interoperabilnost, Palantirov Panoptikon se nužno širi. Zdravstveni kartoni se prenose u imigracijske datoteke, u porezne podatke i u prediktivno policijsko djelovanje. Logika umjetne inteligencije na bojnom polju neprimjetno se migrira u domaću provedbu zakona.
I to nije samo baza podataka.To su također rojevi AI agenata koji predviđaju ponašanje i pokreću akcije. "Predkriminalne" obavještajne sposobnosti dugo ugrađene u Gotham - prepoznavanje uzoraka, otkrivanje anomalija i prediktivna analitika - sada se skaliraju za domaću primjenu, pretvarajući cijelu populaciju u čvorove unutar stalno rastuće, totalizirajuće matrice prijetnji.
Kada jedan entitet postane nezamjenjiva infrastruktura i za vojno ciljanje i za fuziju domaćih podataka, više se ne bavimo isključivo fuzijom države i korporacije. Također se bavimo državnom kontrolom eksplozije umjetne inteligencije. Imamo posla s diktaturom umjetne inteligencije - naravno, pod uvjetima vladajuće klase.
U Palantir Panoptikonu, središnji toranj nije stražarnica već farma poslužitelja. Zatvorenici nisu osuđenici već građani. A inspekcija je stalna, prodorna i barem "poboljšana" umjetnom inteligencijom. Foucault bi to odmah prepoznao kao vrhunac tehno-biopolitičkog upravljanja, kao savršeni panopticizam. Vidim to kao to i kao ispunjenje upozorenja koje sam dao prije šest godina u Google Archipelago: digitalni gulag nikada neće biti ograničen na internet, takoreći. Oduvijek mu je bilo suđeno da postane operativni sustav same korporativne države. To jest, više nismo na internetu. U njemu smo. Palantir Panoptikon ne dolazi ovamo. Ovdje je. I jednom kad se potpuno probudi, više nikada neće zatvoriti oči.
Komentari čitatelja
na naše novosti