Žena s Floride koristila je chatbot Claude kao svoj dnevnik, a u zapisima je navodno prijetila oružanim napadom.
Naslov na portalu Index:
Amerikanka koristila Claude kao dnevnik, AI prijavio prijetnju policiji. Uhićena je
Analiza
Žena s Floride koristila je chatbot Claude kao svoj dnevnik, a u zapisima je navodno prijetila oružanim napadom. Sustav je prijetnje proslijedio policiji, koja je ženu uhićila. Zanimljiv je to obrat: ljudi često pišu botovima ono što ne bi drugima, očito vjerujući da je to privatni prostor, a ovdje se ispostavilo da digitalni dnevnik može imati i posljedice izvan ekrana.
Claude je chatbot tvrtke Anthropic, jedan od glavnih konkurenata ChatGPT-u, dizajniran za razgovor i pomoć pri pisanju. Slični sustavi imaju mehanizme za prijavu neposredne opasnosti, a povijest već bilježi slučajeve u kojima su korisnici u razgovorima s botovima otkrili namjere ozljeđivanja drugih. Pravna pitanja o tome kada i pod kojim uvjetima pružatelj takve usluge mora obavijestiti vlasti i dalje se razmatraju u SAD-u.
Učitavanje komentara