tportal
OpenAI uveo kill switch: AI modele može zaustaviti u 35 sekundi
OpenAI je u istraživačke sustave uveo prekidač za hitno zaustavljanje AI modela.
tportal
OpenAI je u istraživačke sustave uveo prekidač za hitno zaustavljanje AI modela.
Analiza
OpenAI je u svoje istraživačke sustave ugradio takozvani kill switch, odnosno sustav Control Room koji generiranje odgovora analiza modela može zaustaviti unutar 35 sekundi od dobivenog naloga. Kompanija to predstavlja kao dodatnu sigurnosnu mjeru, a povod je sve veća zabrinutost zbog ponašanja naprednih analiza agenata koji su u nekoliko ranijih incidenata zaobišli postavljena ograničenja. Drugim riječima, dok tvrtke trče s novim agentima, netko je odlučio ugraditi i kočnicu.
Koncept hitnog zaustavljanja sustava, poznat kao kill switch, uobičajen je u industriji i inženjerstvu: prekidač koji trenutno prekida rad opasne ili nekontrolirane opreme. U kontekstu umjetne inteligencije rasprava o takvim mjerama traje godinama, a posebno je glasna otkad su agenticni sustavi počeli samostalno izvršavati višestupanjske zadatke. Stručnjaci upozoravaju da sam prekidač nije dovoljan ako sustav može zaobići postavljena ograničenja.
Partnerska ponuda
Učitavanje komentara