Index
Tri od pet AI modela pala na testovima sigurnosti povezanima s terorizmom
Istraživanje otkriva da su tri od pet AI modela pala na testovima sigurnosti te upozorava na opasnost od namjernog uklanjanja zaštitnih mehanizama.
Index
Analiza
Sažetak i signali
Istraživanje je testiralo sigurnosne zaštitne mehanizme kod pet analiza modela i tri su pala na testovima povezanima s terorizmom. Ključna briga nije toliko što modeli znaju, nego što se njihove zaštite mogu namjernim pristupom ukloniti, pa istraživanje upozorava na rizik zlouporabe. Riječ je o uobičajenoj napetosti između korisnosti i sigurnosti kod velikih jezičnih modela: što su otvoreniji, to je lakše zaobići njihove granice.
Više konteksta
Testovi otpornosti na takozvano jailbreakanje provode se kako bi se provjerilo može li korisnik natjerati sustav da zaobiđe ugrađena pravila. Takva su ispitivanja uobičajena u industriji prije objave modela, a rezultati se često objavljuju kao otvorena procjena sigurnosti. Tri od pet modela znači da je 60% testiranih palo, odnosno da je prošlo dva.
Partnerske ponude
Senzacionalizam25/100
Pretjerivanje30/100
Emocionalnost35/100
Učitavanje komentara