Znanstvenici upozoravaju da autonomni AI agenti mogu stvoriti vlastiti, ljudima teško razumljiv jezik i time otežati nadzor i kontrolu.
Naslov na portalu Index:
AI modeli su stvorili vlastiti, nadrealni jezik. Znanstvenici zbunjeni
Analiza
Novi rad tvrdi da autonomni analiza agenti mogu spontano proizvesti vlastiti “nadrealni” jezik koji istraživače ostavlja bez jasnog prevodivog značenja. Glavna poanta: što im je komunikacija manje čitljiva, to je teže zadržati ponašanje pod kontrolom i uopće ga pratiti.
Autonomni sustavi i modeli koji uče i komuniciraju mogu razviti obrasce koji su učinkovitiji za njihovu zadaću, ali manje intuitivni ljudima. U praksi to često otvara raspravu o interpretabilnosti, nadzoru i sigurnosti analiza sustava.
Učitavanje komentara