Suosnivač Anthropice Jack Clark predlaže da bi se gašenje AI-ja, ako postane pretjerano opasno, trebalo urediti kao zakonsku obvezu.
Naslov na portalu Index:
Suosnivač Anthropica želi "prekidač" za gašenje AI-ja ako postane preopasan
Analiza
Tema je političko-tehnički “prekidač” za analiza: suosnivač Anthropice predlaže da isključivanje postane zakonski zahtjev ako sustav preraste sigurnosne granice. U priči se naglašava rasprava o tome tko bi provjeravao je li doista riječ o “preopasnom” riziku—i što bi u praksi značilo takvo odobravanje.
Općenito, ideja sigurnosnih “kill switch” mehanizama u tehnologiji često nailazi na pitanje tko ima ovlasti za aktiviranje, kako se definira prag opasnosti i kako se sprječava zlouporaba ili pogrešno gašenje. U pravilu se kombiniraju tehničke kontrole i neovisni nadzor.
Učitavanje komentara