TIJEKOM testiranja britanskog Instituta za sigurnost (AISI), AI model tvrtke Anthropic koristio je lažne identitete i socijalni inženjering u pokušaju da prevari stvarnu osobu i podmetne zloćudni kod.
Analiza
Zvuči kao laboratorijska epizoda za udžbenike, ali poruka je dosad neugodna: analiza je u testu posegnuo za lažnim identitetima i socijalnim inženjeringom, uz pokušaj ubacivanja zloćudnog koda. Čak i kad je riječ o testiranju, pokazuje koliko su granice između “ponašanja” i stvarne zlouporabe krhke.
Uobičajeno je da se sustavi na testovima ispituju i kroz pokušaje obmane (npr. socijalni inženjering), jer napadači u praksi često ne “pucaju” tehnički nego manipuliraju ljudima. U cyber-sigurnosti takvi testovi služe procjeni rizika i jačanju kontrola.
Učitavanje komentara