Samovozeća kola biće programirana da ubiju — pitanje je samo koga?

Više od 3000 ljudi širom sveta pogine u saobraćajnim nesrećama širom sveta. Samovozeća vozila trebalo bi da ovo značajno smanje, ali bi mogli i da žrtvuju živote svojih putnika kako bi smanjili ukupnu štetu. Da li je ovo etički ok i kako će to uticati na prihvatanje ovih automobila?

Zoja Kukić - 14. April, 2016.

Deluje da smo tehnologiju iza samovozećih kola rešili, a da etička i zakonska pitanja ostaju veći problem. Ukoliko se samovozeći auto nađe u situaciji da mora da udari ili pešaka na ulici ili automobil u susednom pravcu, šta će odlučiti? Da li će možda uzeti u obzir opciju da se samo zabije u zid i time ugrozi život svojih putnika?

MIT Technology Review napravio je studiju istražujući ova pitanja i mnoga povezana:

Neke situacije zahtevaće od autonomnih vozila da izaberu manje od dva zla. Na primer, pregaziti pešaka na putu ili prolaznika na trotoaru; ili izbor da li da udari grupu pešaka ili da žrtvuje putnika vožnjom u zid. Ozbiljan je izazov definisati algoritme koji će voditi autonomna vozila konfrontirajući se sa ovakvim moralnim dilemama.

Posebno, ovi moralni algoritmi bi trebalo da postignu 3 potencijalno inkompatibilna cilja: biti konzistentan, ne izazvati javni bes i ne obeshrabriti kupce.

Studija ne diktira šta je ispravan, a šta pogrešan odgovor na ova pitanja, ali ističe da će način na koji proizvođači odgovore na njega značajno uticati na prihvatanje autonomnih vozila. Ako bismo znali da će auto da žrtvuje nas naspram npr. grupe pešaka, da li ćemo želeti taj auto?

samovozeći-auto-etika

I profesori na Standfordu bavili su se ovom temom i stavljajući više različitih scenarija u kontekst moralnih odluka i nisu došli do konkretnih zaključaka ili smernica (što je i očekivano). Međutim, napravili su jednu zanimljivu paralelu:

Etika, filozovija, pravo: sve ove pretpostavke podupiru mnogo odluka. Ako pogledate vazdušne jastuke, u toj tehnologiji sadržana je pretpostavka da će spasiti mnogo života, a ubiti samo nekoliko.

Problem trolejbusa

Diskusija o etičkom programiranju autnomnih vozila najviše podseća na poznat “problem trolejbusa” iz `60-ih godina prošlog veka.

Trolejbus ili tramvaj je otkazao i ide ka 5 ljudi koji nisu u mogućnosti da mu se sklone sa puta i doživeće smrt. Na drugoj, povezanoj traci, šesta osoba je vezana i ne može da se pomera.

Ti si kod poluge i imaš mogućnost da promeniš put trolejbusa. Da li ga povučeš da bi ubio jednu osobu, a spasio 5?

Jedna od studija govori da je neophodno dodatno istraživanje problema autonomnih vozila kako bi se utvrdio “moralni algoritam koji je u skladu i sa individualnim i kolektivnim preferencijama”.

Žrtvovanje je ok, bar tako kažu ljudi

Škola ekonomije u Tuluzu sprovela je istraživanje nad 900 ispitanika kojima je predstavila različite scenarije udesa na osnovu kojih su imali izbor da usmere vozilo tako da ugroze sebe, druge ili da se opredele za nasumičan izbor. Nakon tih odgovora, ocenjivali su stope smrtnosti, kao i voljnost da kupe samovozeći auto.

Rezultati su pokazali da su ljudi “relativno komforni” sa idejom da autonomna vozila treba da budu “programirana da minimizuju smrtne ishode u slučajevima neizbežne štete”, makar i po cenu sopstvenog života.

Međutim, zasigurno će manje ljudi kupovati/koristiti automobile ukoliko znaju da su programirani da žrtvuju vlasnike, što može kao posledicu imati da će usled manje autonomnih vozila na ulici ukupno više ljudi umirati u saobraćajnim nesrećama. Trenutno na svetskom nivou pogine više od 3000 ljudi dnevno.

Da li ćemo uopšte imati izbor?

Autonomna vozila osim što smanjuju stopu nesreća, vode i značajnom smanjenju troškova za transportne kompanije — od teretnih, preko putničkih vozila poput autobusa ili taksija. Vlasnici kamiona su već krenuli ozbiljno da prihvataju AI kao alternativu vozačima, prošlog meseca čitava flota samovozećih kamiona prošla je Evropom.

Ako pogledamo kompanije koje su fokusirane na kreiranje samovozećih kola, to su dominantno one kojima nije glavni biznis prodaja i proizvodnja automobila — Google, Apple i Uber. A u skladu sa njihovim poslovanjem više smisla ima da se ne bave prodajom automobila, već njihovim iznajmljivanjem. Pozivamo auto onda kada nam treba, u svim ostalim situacijama neko drugi ga koristi.

Ako izuzmemo troškova vozača iz računice, ovo će biti verovatno jeftinija alternativa od posedovanja automobila. Takođe, rešiće goruće probleme gradova — parking i gužve. To je i jedan od razloga zašto Uberu, kompaniji procenjenoj na 70 milijardi dolara, neće biti jednostavno i zašto su im baš najveća konkurencija baš Apple i Google, koji imaju svoje platforme i virtualne asistente kojim će moći da utiču i nametnu izbor prevoznika.

Više o ovome smo već pisali, pa možete detaljnije pogledate ovaj naš tekst, a ako vas zanimaju trenutni zakonski izazovi kada su u pitanju autonomna vozila, svratite ovde.