Anthropic, tvrtka poznata po etičkom pristupu, otkrivena je u tajnom praćenju kineskih korisnika putem modela Claude. Tvrtka to naziva eksperimentom.
Naslov na portalu Index:
AI div Anthropic tajno pratio kineske korisnike
Analiza
Priča je jasna: Anthropic je, prema opisu, uhvaćen u tajnom praćenju kineskih korisnika kroz Claude. Tvrtka tvrdi da je riječ o eksperimentu za sprječavanje zlouporabe, što otvara pitanje gdje je granica “istraživanja” i pristanka korisnika. U svakom slučaju, etika ovdje ne zvuči kao marketinški slogan.
U praksi, tvrtke koje razvijaju modele često naglašavaju sigurnost i sprječavanje zlouporabe, ali nadzor ponašanja korisnika može biti osjetljiv i ovisiti o tome što se točno bilježilo i je li korisnicima objašnjeno. Takve kontroverze obično se rješavaju kroz interne procese i regulatorna pitanja privatnosti.
Učitavanje komentara