OpenAI je privremeno zaustavio dio razvoja novog modela Astra nakon procjene da bi mogao imati kritične kibernetičke sposobnosti.
Naslov na portalu Index:
OpenAI zaustavlja razvoj modela Astra zbog mogućih hakerskih sposobnosti
Analiza
Priča vrti oko odluke da se privremeno stane na razvoj modela Astra jer postoji zabrinutost da bi mogao posjedovati “kritične” hakerske sposobnosti. Ako je procjena utemeljena, ovo je klasičan sigurnosni potez: manje žurbe, više provjera prije sljedećeg koraka.
Općenito, tvrtke koje razvijaju napredne modele često provode sigurnosne procjene i mogu privremeno obustaviti pojedine razvojne faze ako procjene rizik od zlouporabe ili nenamjernih sposobnosti. U praksi to obično uključuje provjere ponašanja modela i procese kontrole pristupa.
Učitavanje komentara