Najnovije vijesti
Adios

Detektori AI teksta varani, novi postupak podiže točnost na 93 posto

Istraživači s MIT-a i Cornell Universityja pokazali su da detektori AI teksta padaju na prikrivenom tekstu. Postupak test-time adaptation podigao je točnost s 27 na 93 posto.

Detektori AI teksta varani, novi postupak podiže točnost na 93 posto
Ilustracija: Adios

Adios

Članak

Alati koji prepoznaju tekst koji je napisala umjetna inteligencija mogu se prevariti, pokazali su istraživači s MIT-a i Cornell Universityja. Tekst prilagođen da izgleda ljudski, ali i promjene u navikama pisanja, dovode do pogrešnih rezultata.

Nova metoda, test-time adaptation, dopušta već raspoređenom modelu da se prilagođava novim, neoznačenim podacima bez ponovnog treniranja. U pokusima komercijalni detektor prepoznao je tek oko 27 posto prikrivenog AI teksta, dok je novi pristup postigao 93 posto točnosti. Na tekstovima s prirodnim promjenama jezika TTA je bio točan 85 posto, a klasične metode 73 posto.

Istraživanje će biti predstavljeno na konferenciji o obradi neuronskih informacija. Autori upozoravaju da metoda možda neće uvijek pomoći jer budući modeli pišu sve prirodnije, a ljudski tekst za treniranje postaje teže pronaći.

Partnerske ponude