© Shutterstock
Prošli mjesec oplakivali smo kalifornijski Zakon o umjetnoj inteligenciji na granicama iz 2025. Zakon favorizira usklađenost s propisima nad upravljanjem rizicima, a istovremeno štiti birokrate i zakonodavce od odgovornosti. Uglavnom, nameće regulatorne norme od vrha prema dolje, umjesto da dopusti civilnom društvu i stručnjacima iz industrije da eksperimentiraju i razvijaju etičke standarde od dna prema vrhu.
Možda bismo Zakon mogli odbaciti kao još jedan primjer kalifornijske sklonosti intervencionizmu. Ali neki američki političari i regulatori već pozivaju da Zakon bude "predložak za usklađivanje saveznog i državnog nadzora". Drugi izvor tog predloška bila bi Europska unija (EU), pa vrijedi pratiti propise koje izbacuje Bruxelles.
EU je već daleko ispred Kalifornije u nametanju problematičnih propisa od vrha prema dolje. Doista, Zakon EU o umjetnoj inteligenciji iz 2024. slijedi opće načelo opreza EU. Kao što objašnjava interni think tank Europskog parlamenta,
"načelo predostrožnosti omogućuje donositeljima odluka da usvoje mjere predostrožnosti kada su znanstveni dokazi o opasnosti za okoliš ili ljudsko zdravlje nesigurni, a ulozi visoki."Načelo opreznosti daje ogromnu moć EU-u kada je u pitanju regulacija suočena s neizvjesnošću - umjesto da dopušta eksperimentiranje s ograničenjima novčanih kazni i građanskog prava (kao u SAD-u). Guši etičko učenje i inovacije. Zbog načela opreznosti i povezane regulacije, gospodarstvo EU-a pati od veće koncentracije tržišta, viših troškova usklađenosti s propisima i smanjene inovacije - u usporedbi s okruženjem koje omogućuje eksperimentiranje i razumno upravljanje rizicima. Nije ni čudo da su samo četiri od 50 vodećih svjetskih tehnoloških tvrtki europske.
Od ugušenih inovacija do ugušene privatnosti
Uz načelo opreznosti, druga pokretačka snaga regulacije EU-a je unapređenje prava - ali odabiranje iz Povelje EU-a o temeljnim pravima prava koja su često u sukobu s drugima. Na primjer, Opća uredba EU-a o zaštiti podataka (GDPR) iz 2016. nametnuta je s idejom zaštite temeljnog prava na zaštitu osobnih podataka (ovo je tehnički odvojeno od prava na privatnost i daje EU-u puno više ovlasti za intervenciju - ali to je tema akademskih časopisa). GDPR je na kraju ograničio pravo na ekonomsku slobodu.
Ovaj put, temeljna prava se koriste kako bi se opravdala borba EU-a protiv seksualnog zlostavljanja djece. Svi volimo temeljna prava i svi mrzimo zlostavljanje djece. No, tijekom godina, temeljna prava su se koristila kao tupo i moćno oružje za proširenje regulatornih ovlasti EU-a. Predložena uredba o seksualnom zlostavljanju djece (CSA) nije iznimka. Ono što je iznimno jest opseg zadiranja: EU predlaže praćenje komunikacije među europskim građanima, svrstavajući ih sve u jednu skupinu kao potencijalne prijetnje, a ne kao zaštićeni govor koji uživa prima facie pravo na privatnost.
Od 26. studenog 2025. birokratski stroj EU pregovara o detaljima CSA-a. U najnovijem nacrtu, obvezno skeniranje privatne komunikacije srećom je ukinuto, barem formalno. Ali postoji kvaka. Pružatelji usluga hostinga i međuljudske komunikacije moraju identificirati, analizirati i procijeniti kako bi se njihove usluge mogle koristiti za online seksualno zlostavljanje djece, a zatim poduzeti "sve razumne mjere ublažavanja". Suočeni s takvim neograničenim mandatom i prijetnjom odgovornosti, mnogi pružatelji usluga mogu zaključiti da je najsigurniji - i pravno najrazumniji - način da pokažu da su se pridržavali direktive EU-a primjena skeniranja privatnih komunikacija velikih razmjera.
Nacrt CSA-a inzistira na tome da mjere ublažavanja, gdje je to moguće, budu ograničene na određene dijelove usluge ili određene skupine korisnika. No, struktura poticaja ukazuje u jednom smjeru. Široko rasprostranjeno praćenje moglo bi se pokazati kao jedina održiva opcija za usklađenost s propisima. Ono što se danas predstavlja kao dobrovoljno riskira da sutra postane de facto obveza.
Riječima Petera Hummelgaarda, danskog ministra pravosuđa: "Svake godine dijele se milijuni datoteka koje prikazuju seksualno zlostavljanje djece. I iza svake slike i videa stoji dijete koje je bilo podvrgnuto strašnom i najstrašnijem zlostavljanju. To je potpuno neprihvatljivo." Nitko ne osporava ozbiljnost ili podlost problema. Ipak, prema ovom narativu, od telekomunikacijske industrije i europskih građana očekuje se da prihvate opasne mjere ublažavanja rizika koje će vjerojatno uključivati gubitak privatnosti za građane i široko rasprostranjene ovlasti praćenja za državu.
Trošak, kažu nam, nije ništa u usporedbi s koristi. Uostalom, tko ne bi želio boriti se protiv seksualnog zlostavljanja djece? Krajnje je vrijeme da duboko udahnemo. Zlostavljače djece treba strogo kazniti. To ne oslobađa slobodno društvo od poštivanja drugih temeljnih vrijednosti. Ali, čekajte. Ima još...
Rasprostranjeno praćenje? Pa, ne sasvim rasprostranjeno
Unatoč moralnom imperativu zaštite djece - moralnom imperativu toliko uvjerljivom da je EU spremna prekršiti druge temeljne vrijednosti kako bi ga unaprijedila - predloženi zakon o CSA-i uvodi prikladnu iznimku. Sve što spada pod nacionalnu sigurnost i svaka elektronička komunikacijska usluga koja nije javno dostupna (tj. dostupna samo izabranim dužnosnicima i birokratima) ostala bi potpuno netaknuta. Privatni razgovori među građanima zahtijevaju nadzor - ali razgovori onih koji tvrde da nas štite su zabranjeni.
Kao što je rekao dobri ministar, "iza svake slike i videa stoji dijete koje je bilo podvrgnuto strašnom i najstrašnijem zlostavljanju." Ako je to doista istina za svaku "pojedinačnu sliku i video", zašto ne bi bilo istina i za poruke zaštićene iznimkama CSA-e o nacionalnoj sigurnosti i nejavnim iznimkama? Nestaje li užas nekako kada su korisnici političari ili birokrati? Je li neprihvatljivo odjednom prihvatljivo kada se tiče onih koji pišu pravila?
U hijerarhiji prava EU-a, zaštita djece je važnija od privatnosti. Ali zaštita eurokrata je važnija od zaštite djece. Na kraju krajeva, moderna tehnologija daje političarima neviđene mogućnosti praćenja građana, a istovremeno izuzimaju sebe od nadzora.
Koliko znamo, još nema razgovora o nametanju sličnih mjera u SAD-u. Ali, od poreza na bogatstvo do regulacije umjetne inteligencije - i samih početaka američke administrativne države - loše ideje iz Europe imaju gadan način da se probiju preko oceana.
Komentar: