Ko je kriv kad algoritam pogreši: Sigurnosni vozač Uberovog samovozećeg automobila optužen za ubistvo u saobraćajnoj nesreći

Vozač koji je nadzirao rad samovozećeg testnog Uber automobila optužen je za ubistvo iz nehata, pošto je to vozilo 2018. godine udarilo i usmrtilo ženu na pešačkom prelazu u Arizoni. Suđenje počinje u februaru sledeće godine, a reč je o prvom sudskom postupku takve vrste u svetu.

Taj slučaj postavlja pitanje odgovornosti za dela koja učine roboti, a nakon završetka sudskog procesa mogli bi da znamo kako pravni sistem SAD tretira problem krivice u ovakvim nesrećama. 

Sam vozač odbacuje svoju krivicu, dok tužilaštvo i nadležni organi smatraju da do nesreće ne bi došlo da je on radio svoj posao, nadzirao rad samovozećeg automobila, piše Reuters. Iste 2018. godine se Tesla u samovozećem režimu zakucao u betonsku bankinu i usmrtio vozača, a to se desilo i dve godine ranije, kada zbog pogrešne procene stanja na putu nije ukočio, pa je stradao vozač koji je u tom trenutku gledao u svoj telefon.  

U Evropi je pre pet godina robot ubio zaposlenog u fabrici Volkswagen u Nemačkoj. Svi ti slučajevi u auto-industriji, pokrenuli su pitanje odgovornosti robota, ali i zaposlenih. Kako u dokumentarcu “Istina o robotima ubicama” kaže jedan od predstavnika nemačkog pravosuđa, tamošnje pravo ne poznaje krivicu robota, a tako je i u čitavom svetu.

Robot ne sme da naudi čoveku

Pre više od 80 godina, Isak Asimov, pisac naučne fanstastike poznat po knjizi “I, robot”, naveo je dva postulata koja treba poštovati kako roboti ne bi bili opasni po čovečanstvo. Robot ne sme da naudi čoveku i mora da sluša naređenja čoveka, samo ako se naređenja ne sukobljavaju s prvim načelom. 

Ta dva pravila su davno poljuljana onog trenutka kada su vojska i policija počele da koriste robote u svojim opreacijama. U tom sistemu je jasno ko je odgovoran – onaj ko daje naredbe, a to je čovek. Međutim, šta se dešava ako naredbe daje algoritam. Ovih dana smo svedoci da algoritmi nisu u stanju da uklone snimak samoubistva, iako uspešno love svaku fotografiju preterane golotinje. To ne uspevaju čak ni uz veliku armiju moderatora.

Ilon Mask: Auto-pilot je pomoć, ne zamena za vozača

Za sada, kompanija Tesla se brani time da je njihov sistem osmišljen tako da bude pomoć vozaču. Drugim rečima, sva krivica je na onom ko je za volanom, bez obzira da li je u tom trenutku njime upravljao. Izvršni direktor kompanije Ilon Mask kaže da na auto-pilota u njegovim automobilima, treba gledati kao i na one u avionima, oni su pomoć, a ne zamena za vozača. 

Ako pogledamo podatke o prodaji Tesla automobila, čini se da vozači pomenutim slučajevima ne pridaju preteranu pažnju. Možda bi to mogla da promeni odluka suda, prema kojoj bi za svaku grešku auto-pilota odgovornost snosio onaj ko je za volanom. Moguće je i da sud krivcima proglasi kompanije, čime bi sigurno osujetio njihove napore na razvoju ove tehnologije. 

Nove mere američke Nacionalne agencije za bezbednost saobraćaja

S druge strane, iz američke Nacionalne agencije za bezbednost saobraćaja stižu nove mere koje bi mogle da utru put ovim vozilima. One se tiču pravila o tome kako vozilo mora da bude konstruisano da bi odgovorilo na bezbednosne zahteve, koja su do sada podrazumevala postojanje volana u automobilu i vozača koji njime upravlja. 

Kako je cela ideja da vozača i volana nema u kolima, moguće je i uklanjanje vetrobranskog stakla i ostalih stvari na koje smo navikli. No, sve to čeka dug period testiranja kako bi se dalo zeleno svetlo za autumobile kojima će u potpunosti upravljati algoritam, bez mogučnosti da čovek na njega utiče.