Ovaj 43-godišnjak suosnivač je Instituta za istraživanje strojne inteligencije (MIRI) i tvrdi da točno zna koliko je "užasno opasna ova tehnologija".
Boji se da će, kada se radi o ljudima u odnosu na inteligenciju pametniju od čovjeka, rezultat biti "potpuni gubitak", napisao je u TIME-u.
Kao metafora, kaže on, ovo bi bilo kao "11. stoljeća pokušava se boriti protiv 21. stoljeća".
Ukratko, ljudi bi dramatično izgubili.
Dana 29. ožujka, vodeći stručnjaci iz OpenAI-ja podnijeli su otvoreno pismo pod naslovom "Pauziraj divovske eksperimente umjetne inteligencije" zahtijevajući trenutnu šestomjesečnu zabranu treniranja moćnih AI sustava.
Potpisali su ga suosnivač Applea Steve Wozniak i Elon Musk.
Međutim, američki teoretičar kaže da je odbio potpisati ovu peticiju jer se "premalo traži da se to riješi".
Prijetnja je toliko velika da on tvrdi da izumiranje čovječanstva pomoću umjetne inteligencije treba "smatrati prioritetom iznad sprječavanja pune nuklearne razmjene".
Upozorava da je najvjerojatniji ishod robotske znanosti da ćemo stvoriti
"AI koja ne radi ono što mi želimo da radi, i ne mari za nas ili za inteligentni život općenito."Nismo spremni, priznaje Yudkowsky, podučavati umjetnu inteligenciju kako biti brižna jer "u ovom trenutku ne znamo kako."
Umjesto toga, surova stvarnost je da ste u umu ili robotu "sazdani od atoma koje AI može koristiti za nešto drugo."
"Ako bi netko izgradio premoćnu umjetnu inteligenciju, u sadašnjim uvjetima, očekujem da će svaki pojedini član ljudske vrste i sav biološki život na Zemlji umrijeti ubrzo nakon toga."
Yudkovski želi istaknuti da trenutno "nemamo pojma kako utvrditi jesu li sustavi umjetne inteligencije samosvjesni".
To znači da bi znanstvenici mogli slučajno stvoriti "digitalne umove koji su istinski svjesni" i tada klizimo u razne vrste moralnih dilema da bi svjesna bića treba da imaju prava, a ne da budu u vlasništvu..
Naše neznanje, moli on, bit će naša propast.
Nulta točka/tehnokracija
Komentar: Pogledajte također: