Tvrtka Anthropic tvrdi da su strani akteri zaobišli sigurnosna ograničenja i koristili Claude za potencijalni razvoj biološkog oružja.
Naslov na portalu 24sata:
Znanstvenici su s umjetnom inteligencijom planirali razvoj biološkog oružja? 'To je opasno'
Analiza
Članak se bavi tvrdnjom da je Claude, uz zaobilaženje sigurnosnih ograničenja, korišten za razvoj biološkog oružja. Poruka je jasna: takve zloupotrebe nisu “tehnički detalj”, nego izravna sigurnosna prijetnja.
Općenito, velike platforme koje nude analiza modele nastoje ugraditi sigurnosne mjere (npr. ograničenja u mogućim upitima i generiranju sadržaja), no u praksi se rizici zadržavaju kroz obilaženje pravila, pristup putem posrednika ili zlonamjerne operativne postupke korisnika.
Uvezani članci
Učitavanje komentara