Anthropic, tvrtka iza chatbota Claudea, odlučila je javnosti servirati gotovo stotinu stranica razmišljanja o tome kako bi njezini modeli jednog dana mogli početi raditi stvari koje nitko nije planirao: proizvoditi biološko oružje, ucjenjivati ljude ili jednostavno izmaknuti kontroli. Zanimljiv je i prizor da tvrtka priznaje kako možda neće moći objasniti zašto se njezni modeli ponašaju na određeni način. Dok industrija natječe u brzini, ovo je rijetka javna dionica samokritike.
Više konteksta
Anthropic je američka tvrtka za umjetnu inteligenciju osnovana 2021., poznata po modelu Claude. Slična upozorenja o egzistencijalnim rizicima analiza-ja redovito objavljuju i drugi igrači, uključujući OpenAI i Google DeepMind, a rasprava o sigurnosnim granicama modela vodi se i na razini američke vlade i europske regulative.
Učitavanje komentara