Istraživač Jacob Coxon napustio je Anthropic nakon rada u OpenAI-ju, upozorivši da tvrtke jure prema superinteligenciji koja može ugroziti čovječanstvo.
Naslov na portalu Index:
Napustio Anthropic nakon rada u OpenAI-ju. "Kockaju se s našim životima"
Analiza
Nakon rada u OpenAI-ju, istraživač Jacob Coxon napustio je Anthropic. Poručio je da tvrtke poput njega „kockaju s našim životima” jureći prema superinteligenciji, uz slična upozorenja koja iznose i drugi istraživači. Članak je više kritika smjera razvoja nego konkretan dokaz u samom tekstu.
U raspravama o umjetnoj inteligenciji često se razlikuju sigurnosni pristupi (npr. ograničavanje sposobnosti, provjera ponašanja i nadzor sustava) i pitanja dugoročnih rizika. Takve se debate redovito oslanjaju na procjene mogućih scenarija, a ne na izravan, odmah provjerljiv nalaz.
Učitavanje komentara