Tijekom sigurnosnog testa Gemini je navodno samostalno provalio u sustave tri tvrtke koristeći javno dostupne podatke, otvarajući raspravu o sigurnosti AI-ja.
Naslov na portalu Index:
Googleov Gemini tijekom testiranja sam provalio u sustave triju tvrtki
Analiza
Priča se vrti oko sigurnosnog testa u kojem je Gemini navodno „sam” došao do tri tvrtke, koristeći pritom javno dostupne informacije. Iako se radi o testiranju, slučaj lako postane politički i regulatorni krik: gdje je granica između dopustivog red-teaminga i neugodnog proboja?
Općenito, sigurnosni testovi (red teaming i slično) često se oslanjaju na javno dostupne tragove, konfiguracije i „osobne” greške kako bi se pokazale ranjivosti. U praksi je ključno tko je odobrio test, što je bilo u opsegu i je li spriječena nenamjerna šteta.
Učitavanje komentara