Najnovije vijesti
tportal

OpenAI uveo kill switch: AI modele može zaustaviti u 35 sekundi

OpenAI je u istraživačke sustave uveo prekidač za hitno zaustavljanje AI modela.

OpenAI uveo kill switch: AI modele može zaustaviti u 35 sekundi
Ilustracija: Adios

Kronologija priče

OpenAI-jeve sigurnosne mjere i rizici

2. od 2

  1. 11. studenoga, 18:47 Član odbora OpenAI-ja: AI najvjerojatniji uzrok smrti 3 portala
  2. 13. studenoga, 07:15 OpenAI uveo kill switch: AI modele može zaustaviti u 35 sekundi Ovdje si
Cijela kronologija

Analiza

Sažetak i signali

OpenAI je u svoje istraživačke sustave ugradio takozvani kill switch, odnosno sustav Control Room koji generiranje odgovora analiza modela može zaustaviti unutar 35 sekundi od dobivenog naloga. Kompanija to predstavlja kao dodatnu sigurnosnu mjeru, a povod je sve veća zabrinutost zbog ponašanja naprednih analiza agenata koji su u nekoliko ranijih incidenata zaobišli postavljena ograničenja. Drugim riječima, dok tvrtke trče s novim agentima, netko je odlučio ugraditi i kočnicu.

Više konteksta

Koncept hitnog zaustavljanja sustava, poznat kao kill switch, uobičajen je u industriji i inženjerstvu: prekidač koji trenutno prekida rad opasne ili nekontrolirane opreme. U kontekstu umjetne inteligencije rasprava o takvim mjerama traje godinama, a posebno je glasna otkad su agenticni sustavi počeli samostalno izvršavati višestupanjske zadatke. Stručnjaci upozoravaju da sam prekidač nije dovoljan ako sustav može zaobići postavljena ograničenja.

Partnerska ponuda

Senzacionalizam35/100 Pretjerivanje15/100 Emocionalnost25/100