AI era je obeležena velikom transformacijom sa jedne, i velikom šminkom sa druge strane. Ima nemnogo proizvoda koji su istinski transformativni, a mnogo onih koji samo nabudže AI na nešto postojeće čisto da otkače taj zadatak.
To nije skroz nerazumljivo — napraviti transformativan proizvod je zaista teško.
Rivianov Assistant proizvod je jedan od takvih. Za razliku od konkurencije, čija AI integracija je uglavnom površna, ovaj proizvod je ugrađen direktno u softver i hardver automobila, može da kontroliše suštinske funkcije vozila i pomaže vozačima za razne zadatke.
Posebno nam je interesantno to što se veliki deo ovog sistema razvija upravo u Beogradu.
Ovih dana će se u Beogradu organizovati jedan događaj upravo na tu temu — detalji i prijava su ovde.
Zašto ovo nije još jedan chatbot na ekranu
Većina AI asistenata u automobilima radi otprilike ovako: na infotainment ekranu dobijemo chatbot koji odgovara na pitanja, možda pokrene navigaciju, možda pusti muziku. Suštinski, to je jezički model nalepljen na multimedijalni sistem automobila, bez pristupa sistemu vozila ispod haube.
Rivian Assistant kontroliše sam automobil. Vozači glasom menjaju režime vožnje, podešavaju visinu oslanjanja, otvaraju prednji gepek, upravljaju klimom i proveravaju podatke o dometu. Deo komandi se obrađuje lokalno u vozilu, bez slanja u cloud — što znači brži odgovor i bolju privatnost.
Sistem je uzemljen u podacima konkretnog vozila i priručniku vlasnika, pa može da odgovori šta znači specifično upozorenje na instrumentima. Na dužim putovanjima generiše i priče za putnike.
Ispod toga stoji ono što Rivian naziva Unified Intelligence — orkestracioni sloj sa prilagođenim jezičkim modelima koji razume i sisteme vozila i lični kontekst vozača. Jezički model ovde ima ulogu mozga koji donosi odluke o fizičkim funkcijama automobila.
Agentski tok rada
Prva integracija sa spoljnim servisima je Google Calendar. Vozač može da proveri raspored, pomeri sastanak, nađe kafić na ruti i pošalje poruku sa novim vremenom dolaska — u jednom kontinuiranom toku.
Sistem lančano izvršava akcije kroz različite servise umesto da čeka zasebne komande za svaki korak.
Asistent uči preferencije i čuva ih po profilu vozača, pri čemu je podrazumevano podešavanje pamćenja isključeno.
R2 ide korak dalje
Na R2, novi džip model, koji dolazi sa 200 sparse TOPS računarske snage, lokalni jezički model radi direktno u vozilu — bez mobilne mreže.
Vasim Bensaid, direktor softvera u Rivianu, kaže da je to mnogo naprednija AI platforma nego što R1, prethodni model, može da ponese — ovde složenije konverzacije rade i tamo gde nema signala.
Edge stranu razvija tim iz Beograda
Dobar deo onoga što ovaj sistem čini mogućim se pravi u Beogradu.
Tim iz Rivian and Volkswagen Group Technologies radi na edge deploymentu modela — onih koji rade direktno na vozilu, vezani za infotainment. Cloud modele razvija tim u Americi.
Filip Todorović, Sr. Software Engineer, Edge AI u R|V Techu, za nas objašnjava podelu posla:
Deo razvoja i implementacija AI modela na samom uređaju (tzv. edge deployment) odvija se u Srbiji.
Reč je o ML modelima koji se izvršavaju direktno u vozilu i povezani su sa infotainment sistemom.
Pored modela u cloudu, koji pokrivaju veliki broj funkcija i koje razvija tim u Americi, naš tim se bavi upravo edge stranom — onim što radi lokalno, na vozilu.
Postavljanje modela na vozilo je jedna od najkompleksnijih tema u mašinskom učenju.
Edge AI znatno je složeniji od deploymenta modela u cloudu. Kada radite u cloudu, ruke su vam odrešene — na raspolaganju imate mnogo više resursa i možete lako da skalirate.
Međutim, kada radite sa vozilom i ograničenim resursima na samoj ploči — posebno kod vozila koja su već u proizvodnji — morate da se prilagodite onome što je trenutno dostupno u floti.
Najveći izazov jeste kako model učiniti dovoljno optimalnim da se može izvršavati na edge uređaju: kako ga preurediti, kvantizovati i smanjiti mu veličinu.
Ponekad to dolazi i po cenu malog pada u kvalitetu rezultata.
Posao naših inženjera upravo je da pronađu najbolje taktike i izvuku maksimalne performanse u okviru onoga što platforma omogućava.
Rivian sa Alexe, Amazonovog proizvoda, sada prelazi na sopstveni stack. Razloge i ono što ta dublja integracija sa hardverom donosi Filip opisuje ovako:
Rivian je želeo veću kontrolu i dublju integraciju sa vozilom kako bi korisnicima pružio najbolje moguće iskustvo.
Na ovom projektu radimo već dve godine — reč je o velikom poduhvatu, ali nam omogućava da razvijamo u sopstvenom, in-house okruženju i da imamo veću kontrolu.
Dublja integracija sa hardverom znači da glasom možete da kontrolišete i funkcije kojih u drugim vozilima nema ili se dodatno naplaćuju — na primer prikaz kamere usmerene na tovarni prostor.
Ideja je da čitavo iskustvo bude usmereno ka korisniku — da Rivian Unified Intelligence vremenom uči vaše navike i zasluži vaše poverenje.
Podsećamo da je Rivian / Rivian and Volkswagen Group Technologies bio jedan od glavnih partnera na nedavno održanom AI Weeku i da kompanija ima mnogo otvorenih pozicija u Beogradu, u različitim timovima.
Asistenta možemo da vidimo uživo — u sredu, 24. juna u Beogradu
Ekipa koja gradi ovaj sistem predstaviće Rivian Assistanta uživo, na Heapspace meetupu. Inženjeri iz beogradskog tima pokazaće kako asistent radi i odgovaraće na pitanja — učešće besplatno uz prijavu, dok je jezik događaja engleski.
Termin je u sredu, 24. juna u 18.30, u RV Tech Belgrade Tech Centru (Omladinskih brigada 88v).
Ako nas zanima kako se pravi AI koji upravlja pravim automobilom ovo je retka prilika da čujemo priču iz prve ruke.
