Tvrtka Anthropic kaže da je ove godine zaustavila nekoliko potencijalnih istraživačkih planova znanstvenika koji su koristili njihove AI modele.
Naslov na portalu Index:
Znanstvenici preko AI modela pokušali razviti biološko oružje? Javio se Anthropic
Analiza
Priča je o tome kako je jedna analiza tvrtka (Anthropic) navodno zaustavila potencijalne istraživačke planove koji su se mogli povezati s biološkim oružjem. Vjerojatno se radi o priči o sigurnosti i odgovornoj uporabi tehnologije, ali bez dodatnih detalja teško je procijeniti opseg stvarne opasnosti.
U svijetu se već godinama vodi rasprava o tome kako spriječiti zlouporabu tehnologija opće namjene, uključujući modele strojnog učenja. Takve mjere obično se oslanjaju na kombinaciju pravila, nadzora i tehničkih ograničenja pristupa.
Uvezani članci
Učitavanje komentara