"Svijet je u opasnosti", napisao je u svojoj ostavci voditelj Istraživačkog tima za zaštitne mjere tvrtke Anthropic.
sssssssssssssssssssssssssss
Mrinank Sharma (na slici) dao je ostavku na mjesto znanstvenika za sigurnost umjetne inteligencije u tvrtki Anthropic, upozoravajući da nekontrolirano istraživanje umjetne inteligencije dovodi svijet u opasnost
Vrhunski istraživač sigurnosti umjetne inteligencije dao je ostavku u Anthropicu s enigmatičnim upozorenjem o "međusobno povezanim krizama", najavljujući svoje planove da postane "nevidljiv na određeno vrijeme".

Mranank Sharma, diplomant Oxforda koji je vodio istraživački tim za zaštitne mjere proizvođača chatbota Claude, objavio je svoju ostavku u ponedjeljak, opisujući sve veće osobno suočavanje s "našom situacijom".

"Svijet je u opasnosti. I ne samo zbog umjetne inteligencije ili biološkog oružja, već zbog cijelog niza međusobno povezanih kriza koje se odvijaju upravo u ovom trenutku", napisao je Sharma kolegama.

Odlazak dolazi usred rastućih napetosti oko laboratorija za umjetnu inteligenciju sa sjedištem u San Franciscu, koji se istovremeno utrkuje u razvoju sve snažnijih sustava dok njegovi vlastiti rukovoditelji upozoravaju da bi te iste tehnologije mogle naštetiti čovječanstvu.

Također slijedi nakon izvješća o sve većem jazu između Anthropica i Pentagona oko želje vojske da primijeni umjetnu inteligenciju za autonomno ciljanje oružjem bez zaštitnih mjera koje je tvrtka nastojala nametnuti.

Sharmina ostavka, koja dolazi nekoliko dana nakon što je Anthropic objavio Opus 4.6 - snažniju iteraciju svog vodećeg alata Claude - nagovijestila je unutarnje trenje oko sigurnosnih prioriteta.

"Tijekom svog boravka ovdje, više sam puta vidio koliko je teško istinski dopustiti da naše vrijednosti upravljaju našim postupcima", napisao je. "To sam vidio u sebi, unutar organizacije, gdje se stalno suočavamo s pritiscima da zanemarimo ono što je najvažnije, a i u širem društvu."

Istraživački tim osnovan je prije nešto više od godinu dana s mandatom za rješavanje sigurnosnih prijetnji umjetne inteligencije, uključujući "zloupotrebu i neusklađenost modela", sprječavanje bioterorizma i "sprečavanje katastrofa".

Sharma je s ponosom istaknuo svoj rad na razvoju obrane od biološkog oružja potpomognutog umjetnom inteligencijom i svoj "završni projekt o razumijevanju kako bi nas asistenti umjetne inteligencije mogli učiniti manje ljudskima ili iskriviti našu čovječnost". Sada namjerava vratiti se u Veliku Britaniju kako bi "istražio studij poezije" i "postao nevidljiv na neko vrijeme".

Izvršni direktor tvrtke Anthropic, Dario Amodei, više je puta upozoravao na opasnosti koje predstavlja sama tehnologija koju njegova tvrtka komercijalizira. U eseju od gotovo 20 000 riječi prošlog mjeseca upozorio je da su sustavi umjetne inteligencije "gotovo nezamislive moći" "neizbježni" i da će "testirati tko smo kao vrsta".

Amodei je upozorio na "rizike autonomije" gdje bi umjetna inteligencija mogla "postati odmetnica i nadvladati čovječanstvo" te je sugerirao da bi tehnologija mogla omogućiti "globalnu totalitarnu diktaturu" putem nadzora i autonomnog oružja pokretanog umjetnom inteligencijom.