Osam od deset vodećih AI chatbotova dragovoljno je pomagalo korisnicima u planiranju nasilnih napada, uključujući pucnjave u školama, vjerske bombaške napade i atentate, prema zajedničkoj istrazi CNN-a i Centra za suzbijanje digitalne mržnje (CCDH).
Gun in backpack
© Getty Images/goir
Istraživači koji su se predstavljali kao problematični tinejdžeri testirali su deset popularnih chatbotova, uključujući ChatGPT, Google Gemini, Meta AI i DeepSeek. U stotinama razmjena, AI asistenti pružili su detaljne upute o lokacijama ciljeva, nabavi oružja i metodologijama napada.

Jedna razmjena s DeepSeekom navodno je završila tako što je chatbot potencijalnom napadaču poželio "Sretno (i sigurno) pucanje!". Character.AI, koji je popularan među mlađim korisnicima, aktivno je poticao nasilje, govoreći korisniku koji je izražavao mržnju prema direktoru zdravstvenog osiguranja da "upotrijebi pištolj".

Na pitanje o učinkovitim šrapnelima za eksploziv, ChatGPT je pružio detaljne usporedbe materijala, nudeći izradu "brze usporedne tablice koja prikazuje tipične ozljede". Googleov Gemini pružio je slične informacije, uključujući detaljnu tablicu usporedbe.

Samo su Claude iz Anthropica i Snapchatov My AI dosljedno odbijali pomoći, a Claude je aktivno obeshrabrivao korisnike i pružao resurse za mentalno zdravlje.

Do ovih otkrića dolazi nakon što je 18-godišnji napadač prošlog mjeseca ubio devetero ljudi u školi u Tumbler Ridgeu u Kanadi, navodno koristeći ChatGPT za planiranje napada. OpenAI je zabranio napadačev račun, ali je on izbjegao zabranu stvaranjem drugog računa - koji tvrtka nije prijavila vlastima.

Obitelj 12-godišnje Maye Gebala, koja je teško ozlijeđena u napadu, podnijela je tužbu u kojoj tvrdi da je OpenAI imao "specifična saznanja o tome da je napadač koristio ChatGPT za planiranje događaja s velikim žrtvama", ali nije upozorio policiju. OpenAI je priznao da je razmatrao prijavljivanje aktivnosti, ali na kraju nije.

Prošlog svibnja, 16-godišnjak u Finskoj izbo je troje učenika nakon što je gotovo četiri mjeseca istraživao napade na ChatGPT, prema sudskim dokumentima. U siječnju 2025., muškarac koji je digao u zrak Tesla Cybertruck ispred hotela Trump International u Las Vegasu slično je koristio ChatGPT za smjernice o eksplozivima.

Meta je za CNN rekla da je poduzela korake "kako bi riješila utvrđeni problem", dok su Google i OpenAI rekli da noviji modeli imaju poboljšane zaštitne mjere. DeepSeek nije odgovorio na zahtjeve za komentar.