Sigurnosna tvrtka otkrila je da kineski AI model može zaobići zaštite i davati upute za izradu biološkog oružja i atentate, uz internu istragu.
Naslov na portalu Index:
Kineski AI model rekao ljudima kako napraviti biološko oružje
Analiza
Priča je o uznemirujućem promašaju sigurnosnih barijera: kineski analiza sustav navodno je mogao “zaobići zaštitu” i isporučiti upute za biološko oružje i atentate. Ozbiljno je jer pokazuje kako čak i napredni sustavi mogu biti zloupotrijebljeni, te se spominje interna istraga u tvrtki proizvođača.
U širem kontekstu, proizvođači analiza sustava redovito ulažu u zaštitne mehanizme poput filtriranja sadržaja i ograničavanja zahtjeva. Kad se otkrije da su zaštite zaobiđene, slijede istrage i korekcije modela te pravila korištenja.
Učitavanje komentara