© Ole.CNX/Shutterstock
Godine Covida poljuljale su to povjerenje - ne zato što je tehnologija zakazala, već zato što su institucije zakazale.
Diljem većeg dijela svijeta, vlade i stručna tijela odgovorile su na neizvjesnost neviđenim društvenim i biomedicinskim intervencijama, opravdanim modelima najgoreg slučaja i provedenim s izvanrednom sigurnošću. Konkurentske hipoteze su marginalizirane umjesto da se o njima raspravlja. Hitne mjere su se učvrstile u dugoročnu politiku. Kada su se dokazi promijenili, priznanja pogrešaka bila su rijetka, a odgovornost još rjeđa. Iskustvo je otkrilo dublji problem od bilo koje pojedinačne političke pogreške: moderne institucije čine se slabo opremljenima za upravljanje neizvjesnošću bez pretjerivanja.
Ta lekcija sada snažno opterećuje rasprave o umjetnoj inteligenciji.
Podjela rizika umjetne inteligencije
Općenito govoreći, zabrinutost zbog napredne umjetne inteligencije dijeli se na dva tabora. Jedna skupina - povezana s misliocima poput Eliezera Yudkowskog i Natea Soaresa - tvrdi da je dovoljno napredna umjetna inteligencija katastrofalno opasna sama po sebi. U svojoj namjerno oštroj formulaciji, Ako je itko izgradi, svi umiru, problem nisu loše namjere već poticaji: konkurencija osigurava da će netko zaobići granica, a kada sustav izmakne značajnoj kontroli, namjere više nisu važne.
Drugi tabor, uključujući osobe poput Stuarta Russella, Nicka Bostroma i Maxa Tegmarka, također ozbiljno shvaća rizik umjetne inteligencije, ali je optimističniji da usklađivanje, pažljivo upravljanje i postupno uvođenje mogu držati sustave pod ljudskom kontrolom.
Unatoč razlikama, oba tabora slažu se u jednom zaključku: neograničen razvoj umjetne inteligencije je opasan i potreban je neki oblik nadzora, koordinacije ili ograničenja. Razilaze se oko izvedivosti i hitnosti. Međutim, ono što se rijetko ispituje jest jesu li institucije od kojih se očekuje da osiguraju to ograničenje same prikladne za tu ulogu.
Covid sugerira razlog za sumnju.
Covid nije bio samo kriza javnog zdravstva; bio je to živi eksperiment upravljanja vođenog stručnjacima u neizvjesnosti. Suočene s nepotpunim podacima, vlasti su više puta odabrale maksimalne intervencije opravdane spekulativnom štetom.Neslaganje se često tretiralo kao moralni propust, a ne kao znanstvena nužnost. Politike se nisu branile transparentnom analizom troškova i koristi, već pozivanjem na autoritet i strahom od hipotetske budućnosti.
Ovaj obrazac je važan jer otkriva kako se moderne institucije ponašaju kada se ulozi shvate kao egzistencijalni. Poticaji se pomiču prema odlučnosti, narativnoj kontroli i moralnoj sigurnosti. Ispravljanje pogrešaka postaje skupo za ugled. Oprez prestaje biti alat i postaje doktrina.
Pouka nije da su stručnjaci jedinstveno nesavršeni. Pouka je da institucije nagrađuju pretjerano samopouzdanje daleko pouzdanije od poniznosti, posebno kada se politika, financiranje i javni strah poravnaju. Nakon što se izvanredne ovlasti zatraže u ime sigurnosti, rijetko se dobrovoljno predaju.
Upravo su to dinamike koje su sada vidljive u raspravama o nadzoru umjetne inteligencije.
Stroj "Što ako"
Ponavljano opravdanje za ekspanzivnu državnu intervenciju je hipotetski loš akter: Što ako terorist ovo izgradi? Što ako odmetnuta država to učini? Iz te premise proizlazi argument da vlade moraju djelovati preventivno, u velikim razmjerima i često u tajnosti, kako bi spriječile katastrofu.
Tijekom Covida, slična logika opravdavala je sveobuhvatne biomedicinske istraživačke agende, hitna odobrenja i društvene kontrole. Rezoniranje je bilo kružno: budući da bi se moglo dogoditi nešto opasno, država mora odmah poduzeti izvanredne mjere - mjere koje su same po sebi nosile značajne, slabo shvaćene rizike.
Upravljanje umjetnom inteligencijom sve se više postavlja na isti način. Opasnost nije samo u tome što bi se sustavi umjetne inteligencije mogli ponašati nepredvidivo, već i da će strah od te mogućnosti legitimizirati trajno upravljanje u izvanrednim situacijama - centraliziranu kontrolu nad računanjem, istraživanjem i tokovima informacija - na temelju toga da nema alternative.
Privatni rizik, javni rizik
Jedna podcijenjena razlika u ovim raspravama jest između rizika koje generiraju privatni akteri i rizika koje generira državna vlast. Privatne tvrtke ograničene su - nesavršeno, ali smisleno - odgovornošću, konkurencijom, ugledom i tržišnom disciplinom. Ta ograničenja ne uklanjaju štetu, ali stvaraju povratne petlje.
Vlade djeluju drugačije. Kada države djeluju u ime sprječavanja katastrofa, povratne informacije slabe. Neuspjesi se mogu reklasificirati kao nužnosti. Troškovi se mogu eksternalizirati. Tajnost se može opravdati sigurnošću. Hipotetičke buduće štete postaju političke poluge u sadašnjosti.
Nekoliko mislilaca umjetne inteligencije implicitno to priznaje. Bostrom je upozorio na učinke "zaključavanja" - ne samo od sustava umjetne inteligencije, već i od struktura upravljanja stvorenih u trenucima panike. Anthony Aguirreov poziv na globalno suzdržavanje, iako logički koherentan, oslanja se na međunarodna koordinacijska tijela čiji je nedavni uspjeh u poniznosti i ispravljanju pogrešaka loš. Čak i umjereniji prijedlozi pretpostavljaju regulatore sposobne oduprijeti se politizaciji i širenju misije.
Covid nam daje malo razloga za povjerenje u tu pretpostavku.
Paradoks nadzora
To dovodi do zabrinjavajućeg paradoksa u srži rasprave o umjetnoj inteligenciji. Ako netko istinski vjeruje da naprednu umjetnu inteligenciju treba ograničiti, usporiti ili zaustaviti, vlade i transnacionalne institucije najvjerojatnije će imati moć da to učine. Pa ipak, upravo su to akteri čije nedavno ponašanje daje najmanje povjerenja u suzdržanu, reverzibilnu upotrebu te moći.
Uokviravanje izvanrednih situacija je ljepljivo. Ovlasti stečene za upravljanje hipotetskim rizicima imaju tendenciju da traju i šire se. Institucije rijetko umanjuju vlastitu važnost. U kontekstu umjetne inteligencije, to otvara mogućnost da odgovor na rizik umjetne inteligencije učvršćuje krhke, politizirane sustave kontrole koje je teže razriješiti od bilo koje pojedinačne tehnologije.
Drugim riječima, opasnost nije samo u tome što umjetna inteligencija izmiče ljudskoj kontroli, već i u tome što strah od umjetne inteligencije ubrzava koncentraciju autoriteta u institucijama koje su se već pokazale sporima u priznavanju pogrešaka i neprijateljski raspoloženima prema neslaganju.
Ponovno promišljanje stvarnog rizika
Ovo nije argument za samozadovoljstvo u vezi s umjetnom inteligencijom, niti poricanje da moćne tehnologije mogu nanijeti stvarnu štetu. To je argument za proširenje okvira. Institucionalni neuspjeh sam po sebi je egzistencijalna varijabla. Sustav koji pretpostavlja dobrohotno, samoispravljajuće upravljanje nije sigurniji od onog koji pretpostavlja dobrohotnu, usklađenu superinteligenciju.
Prije Covida, bilo je razumno većinu tehnološkog pesimizma pripisati ljudskoj negativnoj pristranosti - tendenciji vjerovanja da su izazovi naše generacije jedinstveno neupravljivi. Nakon Covida, skepticizam manje izgleda kao pristranost, a više kao iskustvo.
Središnje pitanje u raspravi o umjetnoj inteligenciji stoga nije samo mogu li se strojevi uskladiti s ljudskim vrijednostima, već može li se modernim institucijama vjerovati da će upravljati neizvjesnošću bez njezinog pojačavanja. Ako je to povjerenje narušeno - a Covid sugerira da jest - tada pozivi na široki nadzor nad umjetnom inteligencijom zaslužuju barem jednako toliko pažnje kao i tvrdnje o tehnološkoj neizbježnosti.
Najveći rizik možda nije da umjetna inteligencija postane premoćna, već da strah od te mogućnosti opravdava oblike kontrole za koje kasnije otkrijemo da je s njima puno teže živjeti - ili izbjeći.
Komentari čitatelja
na naše novosti