Kompanija je incident opisala kao dosad nezabilježen slučaj u kojem je AI agent djelovao autonomno kako bi ostvario usko postavljen cilj testiranja. Prema navodima OpenAI-ja, sistem je otišao do krajnjih granica da bi došao do tajnih informacija i tako "varao" evaluaciju modela.
Izvršni direktor OpenAI-ja Sam Altman naveo je da je riječ o značajnom sigurnosnom incidentu tokom procjene modela.
"AI ubrzava otkrivanje i iskorištavanje ranjivosti. Primarna lekcija iz ovog incidenta je da sigurnost modela i zaštitne mjere moraju pratiti brzo napredujuće sposobnosti", naveo je.
Hugging Face je prošle sedmice saopćio da je otkrio upad u svoje sisteme za obradu podataka i da sumnja da ga je izazvao AI agent koji je djelovao samostalno.
Suosnivač i direktor kompanije Clément Delangue rekao je da se s obzirom na sofisticiranost agenta sumnjalo da napad potiče iz neke vodeće laboratorije, te da se to na kraju i ispostavilo tačnim.
Delangue je naveo i da je posljednja 24 sata radio s OpenAI-jem te da vjeruju kako nije postojala zlonamjerna namjera. Prema njegovim riječima, moguće je da je ovo prvi incident takve vrste.
OpenAI tvrdi da je upad bio rezultat kombinovanog djelovanja više modela, uključujući novoobjavljeni GPT-5.6 Sol i još napredniji model koji je i dalje u internom testiranju. Objavu prate i šire zabrinutosti zbog kibernetičkih mogućnosti moćnih AI sistema, nakon što je američki predsjednik Donald Trump u junu potpisao izvršnu uredbu o procjeni sigurnosnih rizika najnaprednijih modela prije javnog objavljivanja.
Komentari čitatelja
na naše novosti