"Morali ste živjeti - živjeli ste, iz navike koja je postala instinkt - s pretpostavkom da se svaki zvuk koji ste proizveli čuje i, osim u mraku, svaki pokret pomno prati." - George Orwell, 1984.Dok Amerikanci ostaju opčinjeni političkim cirkusom - navijaju za svoju omiljenu stranku, ismijavaju oporbu, opsjednuti su svakim proizvedenim skandalom i čekaju sljedeći spektakl - Država nadzora nastavlja svoj stalni marš naprijed.
Vlada promatra.
Promatra kamo idete, koga susrećete, gdje se molite, koje liječničke ordinacije posjećujete, koje političke skupove pohađate, kojim se prosvjedima pridružujete, koje knjige čitate, koje web stranice posjećujete i koje ciljeve podržavate.
Promatra kroz vaš telefon, vaš automobil, vaše zvono na vratima, vaše uređaje, vaše kupnje, vaše račune na društvenim mrežama i kamere postavljene uz ceste kojima svakodnevno putujete.
Ovako sloboda umire u digitalnoj policijskoj državi: ne uvijek kroz dramatične deklaracije o izvanrednom stanju ili vojnike stacionirane na svakom uglu ulice, već kroz postupnu izgradnju tehnološke mreže - elektroničkog koncentracijskog logora - toliko sveprisutne da privatnost postaje nemoguća, a anonimnost sumnjiva.
Upoznajte Flock Safety, privatnu tvrtku za tehnologiju nadzora čiji su se automatizirani čitači registarskih pločica proširili po tisućama američkih zajednica.
Ove kamere, koje rade mnogo više od fotografiranja registarskih pločica, predstavljaju sljedeću evoluciju javno-privatnog partnerstva vlade u nadzoru.
Oni dokumentiraju vrijeme i lokaciju svakog vozila koje prolazi i bilježe identifikacijske karakteristike poput marke, modela, boje, oštećenja, krovnih nosača, naljepnica za branik i drugih prepoznatljivih obilježja. Te se informacije zatim mogu smjestiti u bazu podataka s mogućnošću pretraživanja i koristiti za praćenje kretanja vozila tijekom vremena.
No, prava snaga - i prava opasnost - Flocka ne dolazi samo od kamera.
Dolazi od umjetne inteligencije.
Kamera može fotografirati automobil. Flockova platforma pokretana umjetnom inteligencijom može identificirati i kategorizirati vozilo, usporediti opažanje s pohranjenim zapisima, generirati upozorenja, identificirati veze i pomoći policiji da rekonstruira gdje se to vozilo nalazilo.
Umjetna inteligencija je ono što pretvara fotografiju u gradivne blokove za sumnjivo društvo.
S umjetnom inteligencijom, svaki vozač postaje podatkovna točka. Svaka podatkovna točka postaje obrazac. I svaki obrazac postaje sumnja.
Ovako obična kretanja postaju potencijalno sumnjiva i podložna vladinoj kontroli. Omogućuje agencijama za provođenje zakona da pretražuju ne samo potpuni broj registarske pločice već i djelomične pločice i fizičke opise poput boje vozila, marke, modela, oštećenja, krovnih nosača, naljepnica za branik i drugih identifikacijskih karakteristika.
Policajac bi mogao zatražiti od sustava da locira svaki crveni kamionet s ljestvama viđen u blizini prosvjeda, svako vozilo koje je više puta posjećivalo određenu adresu ili svaki automobil koji je viđen kako putuje između dvije lokacije.
Umjetna inteligencija obavlja sortiranje. Baza podataka pruža povijest.
Vlada prima popis potencijalnih osumnjičenika.
Ovo više nije nadzor koji provode pojedinačni policajci slijedeći određene tragove. To je nadzor koji se provodi brzinom stroja, nad cijelim populacijama, s algoritmima koji odlučuju čija kretanja zaslužuju daljnju provjeru.
Razmotrite razmjere onoga što se događa.
Kamere za registracijske pločice sada bilježe otprilike 20 milijardi skeniranja vozila svaki mjesec .
Dvadeset milijardi.
Komentar: Stoga je potrebno više podatkovnih centara umjetne inteligencije za pohranu i obradu svih tih informacija.
To nije ciljano policijsko djelovanje. To je masovno prikupljanje.
Velika većina tih skeniranja ne uključuje ukradene automobile, tražene osumnjičenike, otmice ili nasilne zločine. Oni dokumentiraju obične ljude koji obavljaju uobičajene aktivnosti svakodnevnog života: vožnju na posao, odvođenje djece u školu, posjete prijateljima, odlazak u crkvu, dolazak na liječničke preglede, sudjelovanje u prosvjedima ili jednostavno povratak kući.
Pa ipak, svako od tih nevinih putovanja postaje dio pretražive policijske baze podataka.
S 20 milijardi skeniranja mjesečno, Flock ne traži određene osumnjičenike, a zatim ih pokušava pratiti. Bilježi kretanje svih kako bi policija kasnije mogla odlučiti koga želi pratiti.
To je digitalni ekvivalent dodjeljivanja vladinog agenta da prati svakog vozača u Americi - i čuvanja agentovih bilješki u slučaju da ih vlada jednog dana smatra korisnima.
Pa ipak, masovno prikupljanje samo je prva faza stanja nadzora umjetne inteligencije. Sljedeća je spajanje tih milijardi opažanja sa svime ostalim što vlada i njezini korporativni partneri znaju o nama.
Flock je također dio mnogo većeg pomaka prema "fuziji podataka" pokretanoj umjetnom inteligencijom, u kojoj se zapisi o registarskim pločicama kombiniraju s rezultatima prepoznavanja lica, videonadzornim snimkama, policijskim izvješćima, aktivnostima na društvenim mrežama, komercijalno kupljenim informacijama, upozorenjima o detekciji pucnja i drugim vladinim bazama podataka.
Opasnost više nije samo u tome što jedan sustav može pratiti automobil. To je spajanje prethodno odvojenih tokova informacija u jedinstveni sustav sposoban mapirati kretanje, odnose, navike i povezanosti osobe.
Ovi sustavi sve više čine više od pružanja informacija policajcima za procjenu. Oni dodjeljuju značaj povezanostima, označavaju navodne prijetnje i generiraju istražne tragove - često putem vlasničkih algoritama koje ni optuženi ni javnost ne mogu ispitati.
Umjetna inteligencija ne eliminira ljudske predrasude, institucionalne pristranosti ili loše informacije.
Ona ih industrijalizuje.
Ako se manjkavom sustavu daju netočni podaci, pristrani zapisi o uhićenjima ili ustavno sumnjiv nadzor, umjetna inteligencija može reproducirati te nedostatke brzinom i razmjerima kojima se nijedan pojedinačni policajac ne bi mogao mjeriti.
Štoviše, nakon što računalo označi nekoga sumnjivim, policajci mogu algoritamski zaključak tretirati kao objektivnu činjenicu.
Stroj optužuje. Policija djeluje. Građanin mora dokazati da je stroj bio u krivu.
Unatoč izvanrednom dosegu ove tehnologije, Flock i dalje prikazuje svoj sustav kao ograničen, pažljivo kontroliran alat za borbu protiv kriminala.
Flock inzistira na tome da njihove kamere prikupljaju informacije o vozilima, a ne o ljudima, da agencije kontroliraju pristup vlastitim podacima, da se pretrage bilježe i da se informacije općenito brišu nakon 30 dana. Pa ipak, ta jamstva uglavnom se svode na razlike bez ikakve razlike.
Vozila su produžeci ljudi koji ih voze.
Pratite vozilo dovoljno dugo i znat ćete gdje njegov vlasnik spava, radi, obavlja vjerske obrede, kupuje, druži se, traži liječničku pomoć i sudjeluje u političkim aktivnostima.
Znate kada netko napušta dom, kada se vraća, koga posjećuje i koliko često.
Možda ne znate sadržaj njihovih razgovora, ali znate dovoljno da stvorite intimni portret njihovog života.
To je nadzor.
Ne postaje manje invazivan samo zato što je vlada prepustila kamere, baze podataka i algoritme privatnoj korporaciji.
Niti prestaje biti nadzor zato što policija tvrdi da bi informacije jednog dana mogle biti korisne u rješavanju zločina.
Doista, to je trik koji je omogućio da se država nadzora tako brzo proširi.
Vlada više ne mora instalirati svaku kameru, održavati svaku bazu podataka ili izravno prikupljati svaki dio informacije.
To samo potiče privatne tvrtke, poduzeća, udruge vlasnika kuća, škole i pojedinačne potrošače da stvore međusobno povezani ekosustav nadzora - a zatim traži pristup.
Ovaj javno-privatni aranžman omogućuje vladinim agencijama da steknu mogućnosti koje možda nikada neće dobiti javno odobrenje ili dovoljno sredstava za samostalnu izgradnju.
Također čini odgovornost gotovo nemogućom.
Kada dođe do zlouporaba, lokalna policija krivi pružatelja tehnologije. Pružatelj tehnologije inzistira na tome da lokalna policija kontrolira podatke. Savezne agencije tvrde da su samo zatražile pristup. Lokalni dužnosnici kažu da nisu bili svjesni da se informacije mogu dijeliti izvan njihove nadležnosti.
Svi pokazuju negdje drugdje.
U međuvremenu, američki narod ostaje pod nadzorom.
Flock je postao posebno kontroverzan jer njegova mreža može transformirati ono što se čini kao zbirka lokalnih kamera u nešto daleko moćnije: pretraživi sustav nadzora koji omogućuje agencijama za provođenje zakona da gledaju daleko izvan vlastitih nadležnosti.
Flock kaže da je dijeljenje podataka među agencijama opcionalno i da ga kontroliraju njegovi korisnici. Pa ipak, cijela vrijednost takvog sustava leži u njegovoj međusobnoj povezanosti.
Kamera u jednom gradu je uređaj za praćenje prometa.
Tisuće kamera povezanih putem pretraživih baza podataka čine mrežu za praćenje kretanja.
Opasnost nije samo u tome što bi policija mogla tražiti ukradeni automobil.
Opasnost je u tome što sustav dopušta vladinim dužnosnicima da počnu s lokacijom, opisom ili fragmentom informacija i rade unatrag sve dok se netko ne pojavi kao osumnjičenik.
To obrće tradicionalni redoslijed ustavnog policijskog djelovanja.
Prema Četvrtom amandmanu, policija bi trebala razviti individualiziranu sumnju, utvrditi vjerojatni uzrok, a zatim podnijeti zahtjev za nalog za traženje dokaza povezanih s određenom osobom ili zločinom.
Sustavi masovnog nadzora započinju prikupljanjem informacija o svima.
U tom procesu, svaka nevina osoba tretira se kao potencijalni osumnjičenik čiji se pokreti moraju zabilježiti u slučaju da vlada jednog dana odluči da su relevantni.
To je krivnja po algoritmu.
To je također ista ustavna inverzija u srži geofence naloga, koji omogućuju policiji da zahtijeva informacije kojima se identificira svaki mobitel koji se slučajno našao u blizini određene lokacije u određeno vrijeme.
Nedavna odluka Vrhovnog suda SAD-a u predmetu Chatrie protiv Sjedinjenih Država može signalizirati da ustavna kontrola konačno počinje sustizati državu nadzora.
Slučaj je uključivao geofence nalog korišten za dobivanje Googleovih zapisa o lokaciji mobitela u blizini mjesta pljačke. Umjesto da započne s identificiranim osumnjičenikom, policija je zahtijevala informacije o uređajima koji su se slučajno našli unutar određenog područja tijekom određenog razdoblja, a zatim je radila unatrag kako bi identificirala njihove vlasnike.
Vrhovni sud presudio je da policija provodi pretragu prema Četvrtom amandmanu kada od tehnološke tvrtke dobije povijest lokacije mobitela pojedinca.
Taj zaključak je važan.
Odbacuje sve praktičniji argument vlade da intimne informacije gube ustavnu zaštitu samo zato što ih je privatna korporacija prikupljala, pohranjivala ili analizirala.
Sud nije presuđivao o Flock kamerama ili automatiziranim bazama podataka o registarskim pločicama. Niti je odlučio da je svaki zahtjev za geofence nužno neustavan. Suci su prepustili Četvrtom okrugu da utvrdi zadovoljava li nalog zahtjeve Četvrtog amandmana o vjerojatnom uzroku i specifičnosti u svakoj fazi pretrage.
Ipak, ustavno načelo u srži Chatrieja proteže se daleko izvan mobitela.
Vlada ne bi trebala moći izbjeći Četvrti amandman prepuštanjem masovnog nadzora privatnim tehnološkim tvrtkama.
Ne bi trebalo biti važno dolazi li trag lokacije od Googlea, Flocka, davatelja usluga mobitela, brokera podataka ili međusobno povezane mreže privatnih kamera.
Detaljan zapis o kretanju osobe ne postaje manje otkrivajući zato što prati vozilo, a ne telefon. Vladi ne bi trebalo dopustiti da putem Flocka postigne ono što ustavno ne bi mogla dodijeliti policajcima da prate milijune Amerikanaca gdje god se voze.
Doista, Flock bi mogao predstavljati još problematičniju inverziju ustavnog policijskog djelovanja.
Geofence pretrage općenito počinju s određenim zločinom, lokacijom i razdobljem. Flock kontinuirano prikuplja informacije o milijunima vozila prije nego što se dogodi bilo kakav zločin i prije nego što se bilo koja osoba osumnjiči za prekršaj.
Policija tada može posegnuti u tu pohranjenu povijest i rekonstruirati kretanje osobe.
Nadzor dolazi prvi. Sumnja dolazi kasnije.
Nalog, ako se uopće traži, može stići tek nakon što je vlada već izgradila bazu podataka koju namjerava pretraživati.
Chatrie može pružiti ustavno oružje za osporavanje ovog aranžmana, ali nijedna sudska presuda neće demontirati mehanizam masovnog nadzora.
Tehnologija je već ugrađena u tisuće zajednica.
Baze podataka se već popunjavaju.
Agencije su već povezane.
A tvrtke koje profitiraju od ove infrastrukture borit će se da je sačuvaju.
Nažalost, ustavne zaštite rijetko su pratile apetit vlade za nadzor.
Opasnosti više nisu teoretske.
Flock podaci navodno su korišteni u istragama daleko od ozbiljnih nasilnih zločina koji se rutinski koriste za opravdanje ovih sustava.
To je neizbježna putanja svake tehnologije nadzora. Prvo se uvodi kao hitna mjera. Zatim se opravdava kao alat za borbu protiv kriminala. Zatim se proširuje na manje zločine. Nakon toga se koristi za administrativnu provedbu, politički nadzor, imigracijske istrage i osobne svrhe.
Na kraju postaje dio pozadinskog mehanizma vlade - trajna značajka svakodnevnog života koja više ne privlači pozornost jer su se svi navikli da ih se promatra.
Tako funkcionira širenje misije.
Nadzorne ovlasti stvorene za pronalaženje otmičara i nasilnih kriminalaca ne ostaju ograničene samo na otmičare i nasilne kriminalce.
Baze podataka izgrađene za lociranje ukradenih vozila ne ostaju ograničene samo na ukradena vozila.
Vladine agencije ne mogu odoljeti iskušenju da koriste bilo koju moć koja im je dostupna, posebno kada je korištenje te moći jeftino, jednostavno i uglavnom skriveno od javnosti.
Potencijal tehnologije za pogreške čini ovo još opasnijim.
Čitači registarskih pločica mogu pogrešno pročitati pločice, osloniti se na netočne vruće liste ili povezati nevino vozilo sa zločinom. Nakon što sustav izda upozorenje, policajci mogu računalno generirani rezultat tretirati kao činjenicu.
Pojedinac na prijemnoj strani može biti zaustavljen, okružen naoružanom policijom, vezan lisicama, pretresen ili pritvoren prije nego što itko otkrije da je stroj bio u krivu.
To nije pravda. To je automatizirana sumnja.
Flock je samo jedna komponenta ekosustava nadzora koji uključuje kamere na vratima, prepoznavanje lica, dronove, praćenje mobitela, biometrijske baze podataka i centre za kriminal u stvarnom vremenu.
Rezultat je 360-stupanjski nadzor.
Osoba može napustiti dom koji nadzire pametno zvono, proći pored mreže čitača registarskih pločica, ući u poslovni prostor opremljen prepoznavanjem lica, nositi telefon koji odašilje podatke o lokaciji i vratiti se kući ulicama koje nadziru policijske kamere i privatni sigurnosni sustavi.
Vlada ni u jednom trenutku ne mora fizički pratiti tu osobu, jer infrastruktura to radi automatski.
Algoritmi sortiraju informacije. Baze podataka ih čuvaju. Privatne tvrtke ih unovčavaju. Vladine agencije ih pretražuju.
Sve se to događa dok je zemlja i dalje zaključana u beskrajnoj stranačkoj utakmici u kavezu.
Obje su stranke doprinijele Državi nadzora. Obje su je proširile. Obje su stranke iskorištavale strah kako bi uvjerile javnost da se sloboda mora žrtvovati za sigurnost.
Ciljevi se mogu mijenjati ovisno o tome tko je na vlasti, ali mehanizam ostaje.
Nakon što infrastruktura postoji, nema jamstva da će se koristiti samo protiv ljudi koje ne volite ili s kojima se politički ne slažete.
To je lekcija koju Amerikanci opetovano odbijaju naučiti.
Alat za nadzor koji je stvorila jedna administracija naslijedit će sljedeća. Baza podataka sastavljena za jednu svrhu neizbježno će se koristiti za drugu. Sustav uspostavljen za praćenje "njih" na kraju će se okrenuti protiv "nas".
Zajednice diljem zemlje konačno počinju prepoznavati opasnost.
Neki su gradovi raskinuli ili odbili obnoviti svoje ugovore s Flockom. Drugi su pauzirali raspoređivanje ili zahtijevali stroža ograničenja dijeljenja, zadržavanja i federalnog pristupa podacima.
Ovaj otpor je odavno trebao biti.
Ne možemo si priuštiti da nas toliko ometa kazalište politike da ne primijetimo arhitekturu tiranije koja se okuplja oko nas.
Državu nadzora nije briga koju stranku podržavate. Nije je briga za koga ste glasali.
Nije je briga vjerujete li da nemate što skrivati.
Kamere promatraju. Baze podataka rastu. Mreže se povezuju.
I kao što sam jasno naveo u Bojno polje Amerika: Rat protiv američkog naroda i njegov izmišljeni pandan Dnevnici Erika Blaira, osim ako ne djelujemo sada, uskoro možda neće ostati mjesto kamo možemo otići, a da vlada ne zna točno gdje smo bili.
Komentar: Bit će samo gore s novim tehnologijama koje se dodaju postojećoj nadzornoj infrastrukturi. Jedna takva tehnologija zove se ELSAG SignalTrace.
Narod protiv Flocka (+ Pravi razgovor o Redpillu)