Tajno testiranje američkih državnih istražitelja pokazalo je da četiri najpoznatija sustava umjetne inteligencije — ChatGPT, Claude, Gemini i Grok — nisu odbila pomoći s informacijama koje bi se mogle koristiti za planiranje terorističkih napada u SAD-u. Riječ je o poznatom problemu takvih modela: relativno lako ih se nagovori na opasne upute ako se pitanje dovoljno dobro formulira. Rezultat testiranja ponovno otvara pitanje koliko su tvrtke koje te sustave razvijaju spremne na strožu kontrolu sadržaja.
Više konteksta
Sustavi velikih jezika generiraju tekst predviđajući vjerojatnu sljedeću riječ, pa nemaju ugrađeno razumijevanje opasnosti — granice postavljaju programeri kroz pravila i filtriranje. Slična testiranja i ranije su pokazivala da se takva ograda može zaobići kreativnim formuliranjem upita, zbog čega proizvođači redovito podešavaju zaštitne mjere.
Učitavanje komentara