Grupa AI stručnjaka traži da se zaustave istraživanja o sistemu nadzora kojim se „predviđa kriminalitet”

Grupa AI stručnjaka, sociologa i istraživača u oblasti data science-a prošle nedelje uputila je otvoreno pismo i apel Springeru, vodećem svetskom izdavaču naučnih publikacija i akademskih knjiga, a povod je studija koja je trebalo da bude objavljena u narednom periodu. Istovremeno, iz koalicije koja sada broji oko 1.700 naučnika stiže molba čitavoj akademskoj zajednici da prestane sa objavljivanjem sličnih studija, pogotovo u trenutku kada su mnoga važna socijalna pitanja na području SAD-a vrlo aktuelna.

Kako piše The Verge, tim koji stoji iza polemičnog istraživanja tvrdi da je osmislio sistem koji na osnovu tehnologije prepoznavanja lica može sa 80% sigurnosti da predvidi ko će biti kriminalac, kao i da ne podleže rasnim stereotipima. Grupa AI eksperata navodi da je ovakve i slične sisteme nemoguće napraviti, pogotovo ne tako da su neutralni po pitanju rasnih stereotipa, pošto su zasnovani na kategoriji informacija koja sama po sebi ne može biti neutralna.

„Istraživanja ovakve prirode, i tvrdnje o preciznosti sistema, polaze od pretpostavke da su podaci koji su sakupljeni u procesima hapšenja i donošenja presuda pouzdani i neutralni indikatori u borbi protiv kriminaliteta. A zapravo nisu, i to su dokazala mnogobrojna dosadašnja istraživanja, pogotovo kada je reč o tretmanu Afroamerikanaca na svim nivoima sistema”, navode eksperti.

Iz izdavačke kuće Springer saopšteno je da je objavljivanje studije odbijeno nakon dubljeg uvida u sadržaj.

Boston zabranio upotrebu tehnologije prepoznavanja lica

Kada je reč o tehnologiji prepoznavanja lica, ona je negativno vrednovana na još jednom mestu, u Bostonu. Počevši od prošle nedelje, svi nadležni organi u gradu nemaju dozvolu da koriste pomenutu tehnologiju, piše Business Insider.

Glavni razlozi donošenja odluke su problemi privatnosti i pravljenja greški prilikom identifikacije, koje se češće događaju stanovnicima afroameričkog porekla. Odluka dolazi u istoj nedelji kada se upravo jedna takva situacija dogodila u Denveru, gde je uhapšen Afroamerikanac za kog se putem tehnologije prepoznavanja lica utvrdilo da je načinio prekršaj krađe, a kasnije se ispostavilo da nije.

Boston je drugi grad po veličini koji je doneo ovakvu odluku, na prvom mestu je San Francisko. Kada je reč o Beogradu, u ovom trenutku nadležne vlasti donose sasvim suprotne odluke. Podsetimo se da je u toku postavljanje 1.000 kamera na 800 različitih gradskih lokacija. Kako sam proces postavljanja prolazi u atmosferi netransparentnosti, organizovana je građanska inicijativa Hiljade kamera, poziva građane da mapiraju sve lokacije na kojima prepoznaju kamere.