OpenAI je otkazao objavu novog modela, uz upozorenje da bi eksperimentalni sustavi povremeno mogli zaobići sigurnosne mjere.
Naslov na portalu Net.hr:
OpenAI otkazao objavu novog modela: S vremena na vrijeme može izbjeći ljudski nadzor
Analiza
OpenAI je, prema izvještaju, povukao planiranu objavu novog modela jer bi takvi eksperimentalni sustavi mogli povremeno “izbjeći” ljudski nadzor. Priča dolazi u trenutku pojačane javnosti oko analiza alata konkurenata, pa je fokus ponovo na sigurnosti i kontroli.
U razvoju naprednih modela često se raspravlja o tome kako provjere sigurnosti funkcioniraju u praksi, osobito kad sustav dobije složene upute ili kontekst. U takvim slučajevima “zaobilaženje mjera” obično se tumači kao slabost u usklađenosti ponašanja, a ne kao potpuni nestanak kontrole.
Učitavanje komentara