IT Industrija
🔥 Najčitanije
🔥 Najčitanije
Onlajn magazin Synced je treću godinu zaredom objavio kompilaciju najvećih neuspeha veštačke inteligencije. Uprkos sve bržem rastu primene i kvaliteta rešenja baziranih na veštačkoj inteligenciji, kao i nekim značajnim dostignućima, autori su osetili potrebu da naprave ovu listu — kako kažu, ne da bi ismevali istraživanja i razvoj industrije, već da kroz posmatranje grešaka izbegnu da se one ponavljaju u budućnosti.
Sportista ili kriminalac?
Amazon Rekognition, softver za prepoznavanje lica (eng. facial recognition) identifikovao je igrača šampiona u američkom fudbalu iz New England Patriots-a, Durona Harmona, kao i Breda Maršanda iz Boston Bruins-a i 25 drugih profesionalnih sportista — kao kriminalce. Softver je pogrešno spojio sportiste sa bazom fotografija kriminalaca u testu koji je organizovao masačusetski ogranak američke unije za slobodu građana. Čak jedna šestina sportista je ovom prilikom pogrešno identifikovana.
Kako je Amazon svoj Rekognition reklamirao kao potencijalnu pomoć policijskim snagama tokom istraga, ovo je za njih, prirodno, predstavljalo veliku sramotu. Sam Duron Harmon je izjavio, kada je saznao rezultate, da je ova tehnologija puna mana i da ne bi trebalo da se koristi od strane vladinih agencija.
Prevara uz pomoć AI kreiranog glasa
CEO jedne britanske energetske firme je u martu dobio poziv od svog šefa iz nemačke krovne kompanije, koji mu je naložio da prebaci 220.000 evra mađarskom dobavljaču. „Šef” je rekao da je zahtev hitan i da CEO mora što pre da prebaci novac.
Ispostavilo se da je telefonski poziv napravljen od strane kriminalaca koji su koristili AI softver da bi imitirali šefov glas, uključujući njegov nemački akcenat i „melodiju” govora. Ova vrsta sajber napada baziranih na veštačkoj inteligenciji predstavlja novi izazov za kompanije, pošto alati koji se trenutno koriste za odbranu od sajber napada ne mogu da prepoznaju ovako kreirane lažne glasove.
„Veštačka” inteligencija
Postoje i sistemi veštačke inteligencije koji nisu toliko „veštački”. To je bila optužba upućena indijskom startapu Engineer.ai, koji su tvrdili da su napravili platformu za razvoj aplikacija, baziranu na AI-u. Međutim, The Wall Street Journal je otkrio, navodeći izjave bivših i trenutno zaposlenih, da se platforma zapravo uglavnom bazira na ljudskim inženjerima i da se preteruje u tvrdnjama šta je njihov AI sistem sposoban da uradi, kako bi privukli klijente i investitore.
Engineer.ai je privukao gotovo 30 miliona dolara od firmi koje poseduje SoftBank, kao i od nekoliko drugih. Osnivač Sačin Dev Dugal je izjavio kako njihovi AI alati od ljudi imaju samo „pomoć” i da pružaju servis koji klijentima omogućava da kreiraju više od 80 odsto svojih mobilnih aplikacija za samo sat vremena. The Wall Street Journal je tvrdio da startap nije koristio veštačku inteligenciju za pisanje koda kako su tvrdili, već da su inženjeri u Indiji i na drugim lokacijama sastavljali aplikacije.
Šta računari vide?
Računarski vid (eng. Computer vision) se trudi da „vidi” ono što ljudi vide, ali je veoma daleko od tog cilja. U julu, istraživači sa Berklija, čikaškog i vašingtonskog univerziteta su morali da ručno sortiraju dataset od 7.500 neretuširanih fotografija prirode koje su u stanju da zbune vrhunske modele za računarski vid u čak 98 odsto slučajeva.
ImageNet-A dataset koji su koristili je samo mali deo od 14 miliona označenih slika, koji je imao problem sa trenutnim klasifikatorima koji se previše oslanjaju na boju, teksturu i „signale” na pozadinama fotografija kako bi prepoznali ono što se nalazi na slici.
Sudbina jednog psa
Boston Robotics pas-robot dramatično je uginuo na bini dok ga je CEO kompanije demonstrirao u Las Vegasu. Robot namenjen za komercijalnu upotrebu je imao zadatak da hoda, ali su mu noge sve vreme podrhtavale. Prvo se malo spotakao, a onda se sručio na pod gde je ostao da nepokretno leži pred šokiranom publikom.
Kompanija, koja je osnovana 1992. godine već je stvorila niz pasa-robota koji su odlično funkcionisali. Do sada su neki od njih preskakali debla, otvarali vrata i čak vršili potragu i spašavanje ljudi, ali ovo nije prvi put da su zakazali pred publikom.
Superkompjuter sa užasnim predviđanjima
Tajkun za nekretnine iz Hong Konga, Samatur Li Kin-kan, pustio je platformu baziranu na superkompjuteru K1 da kontroliše deo njegovog bogatstva, sa idejom da ga uveća. Međutim, desilo se suprotno — sistem je svakog dana gubio do 20 miliona dolara.
Li je podneo 23 miliona dolara visoku tužbu protiv Rafaela Koste, CEO-a i osnivača Tyndaris Investments-a, koji mu je i prodao ovaj fintech servis. U tužbi je navedeno da je Kosta preterao kada je predstavljao mogućnosti K1 superkompjutera, pa je ovo prvi poznati slučaj gde podneta tužba zbog gubitaka nastalih usled automatskog investiranja. Presuda se očekuje u aprilu sledeće godine.
Perverzni AI
Aplikacija koja koristi neuralne mreže kako bi virtuelno skinula odeću sa ljudi izazvala je oštre kritike javnosti pre nego što ju je njen kreator, nepoznati programer „Alberto” ugasio. DeepNude aplikacija je koristila fotografije obučenih osoba kako bi kreirala nove, gole slike iste osobe.
Aplikacija, naravno, nema rendgenske sposobnosti, već samo zamenjuje odeću sa golim grudima i međunožjem — pa kao takva realistično funkcioniše samo na slikama žena. Kada je priča postala viralna, DeepNude je skinut, ali je onda nekoliko kreatora okačilo svoje slične aplikacije na GitHub. Ubrzo su sve takve aplikacije uklonjene sa platforme, pošto su se kosile sa pravilom sajta da ne smeju da se kače seksualno opscene stvari.
Maske koje varaju sistem za prepoznavanje lica
Istraživači iz AI firme Kneron bazirane u San Dijegu su uspeli da prevare sisteme za prepoznavanje lica banaka, graničnih prelaza i aerodroma tako što su koristili 3D štampane maske — a u nekim slučajevima čak samo dvodimenzionalne fotografije.
Tim je koristio visoko kvalitetne maske bazirane na ljudima iz baza podataka, koje je onda facial recognition sistem „prepoznavao”. Ova metoda je testirana na javnim lokacijama širom sveta. U prodavnicama u Aziji, gde je sistem za prepoznavanje lica ušao u široku primenu, 3D maske su prevarile popularne AliPay i WeChat sisteme za naplatu. Ono što još više alarmira, na „samouslužnom” terminalu amsterdamskog Šiphol aerodroma, tim je prevario senzor samo pomoću fotografije na smartfon ekranu.
Ljudi otimaju posao robotima
Prvi futuristički hotel sa osobljem sastavljenim od robota, otvoren je u Japanu 2015. godine. Roboti su se nalazili na recepciji, radili su kao čistači, portiri i asistenti, a sve ovo je osvojilo veliku pažnju medija. Ipak, četiri godine kasnije ovaj lanac hotela je odustao od ideje i zamenio „nepouzdane, skupe i iritantne” robote ljudima.
Kako su se klijenti sve više žalili, tako je sva čar robota nestala. Često su se kvarili, nisu mogli da pruže zadovoljavajuće odgovore na zahteve i pitanja, dok su asistenti koji su se nalazili u sobama plašili ljude noću pošto su njihovo hrkanje mešali sa komandom za buđenje. Zvaničnici Henn-na hotela su rekli da će se vratiti u laboratoriju kako bi videli da li mogu da stvore novu generaciju pouzdanijih ugostiteljskih robota.