5 osnovnih problema o bezbednosti koje otvara veštačka inteligencija

“Verujemo da brige o mogućim rizicima napredovanja veštačke inteligencije moraju biti utemeljene u realnim istraživanja iz oblasti mašinskog učenja. Takođe, moramo da razvijemo praktičan pristup u kreiranju sistema koji će raditi sigurno i pouzdano” napisao je Kris Olah, Google-ov istraživač, najavljujući novi rad pod nazivom “Konkretni problemi u sigurnosti veštačke inteligencije” koji je nastao kroz saradnju naučnika Google-a, OpenAI, Stanforda i Berklija.

Oni su izdvojili pet dugoročnih problema za koje smatraju da će biti sve važniji kako budemo primenjivali AI u sve generalnijim situacijama.

Negativne posledice

Kako možemo biti sigurni da određeni sistem veštačke inteligencije neće negativno narušiti svoje okruženje dok juri ka svojim ciljevima? Na primer, robot koji se trudi da što brže počisti i tako polomi vazu?

“Hakovanje” nagrade

Kako možemo sprečiti robota da izigra funkciju nagrade? Da li će robot koji čisti samo prekriti prljavštinu nečim da bi izgledalo čisto?

Problem povratnih informacija

Kako možemo da budemo sigurni da robot uzima u obzir aspekte svog cilja koji su “skupi” za previše čestu evaluaciju tokom treninga. Robot će dobiti povratnu informaciju od čoveka za vreme treninga, ali tu informaciju mora efikasno da iskoristi jer bi non-stop zapitkivanje bilo prilično iritantno.

Bezbedno istraživanje

Kako ćemo biti sigurni da AI sistem ne pravi istraživačke poteze koji mogu imati veoma negativne reperkusije? Na primer, robot može da eksperimentiše sa brisanjem poda, ali ne sme da da proba da spoji vlažnu krpu i struju.

Problem različitih okruženja

Kako ćemo biti sigurni da će robot prepoznati gde je i ponašati se u skladu sa svojim okruženjem? Na primer, robot koji je naučio da radi u fabrici možda i nije baš siguran za kancelariju.

Zajednica mašinskog učenja je već razmišljala o mnogim ovim problemima, ali u Google-u smatraju da im predstoji još mnogo posla. Takođe, ističu važnost i otvorene saradnje između relevantnih institucija koje se bave ovim problemima i da samo tako možemo doći do pravih rešenja. Mnogo detaljnije o ovim problemima možete pročitati u njihovom radu.