Index upozorava na rizik koji nosi široka primjena umjetne inteligencije u policijskom radu. Sustavi se uče na povijesnim podacima koji već sadrže pristranosti, pa umjesto neutralnosti mogu replicirati i pojačati postojeće predrasude prema određenim skupinama. Rezultat je začarani krug u kojem alat koji bi trebao pomoći zapravo produbljuje nejednakost. Stručnjaci zato traže stroži ljudski nadzor i jasne kontrole prije nego se takvi sustavi masovno rasporede u praksi.
Više konteksta
Debata o pristranosti algoritama u pravosuđu i policiji traje godinama: sustavi trenirani na povijesnim podacima o zaustavljanjima ili prijavama mogu naučene obrasce proširiti i na nove slučajeve. Zato se u raspravama ističe transparentnost modela, redovita revizija i mogućnost da čovjek preinači odluku stroja.
Učitavanje komentara