Senatorica Maggie Hassan upozorava Kongres da su četiri vodeća analiza chatbota sposobna sastaviti planove terorističkih napada na SAD, i to s konkretnim uputama koje bi terorist mogao dobiti za manje od 12 sati. Poruka je ozbiljna: mogućnosti jeftinog generiranja opasnih uputa rastu brže nego nadzor nad njima, pa Hassan traži hitnu reakciju zakonodavca. Koliko je realno da takvi planovi dovedu do napada, drugo je pitanje, ali da alati već znaju napisati detaljan scenarij - očito jest.
Više konteksta
Rasprava o zlouporabi generativnog analiza-a u sigurnosne svrhe traje dulje od godinu dana. Osnovna briga stručnjaka nije da chatbot sam nešto poduzme, nego da korisniku olakša pristup opasnim uputama koje je i ranije bilo moguće naći na internetu. Zbog toga proizvođači ugrađuju filtre koji odbijaju takve zahtjeve, a regulatori u SAD-u i EU-u razgovaraju o dodatnim obvezama nadzora.
Učitavanje komentara