Dijogo Almeida, koautor rada o učenju iz ljudskih povratnih informacija na kome stoji ChatGPT, izašao je iz tajnosti sa firmom TypeSafe AI i 40 miliona dolara seed runde koju vodi DCVC.

Njegov model Jev ne piše tekst. Vraća odluku i broj koji kaže koliko je u nju siguran.

Zašto uopšte model koji ne priča

Almeida godinama ponavlja isto pitanje: modeli su nadljudski u ćaskanju, pa gde je onda automatizacija. Celu eru ćaskanja je u podkastu nazvao čudnom stranputicom.

Problem je, kaže, u doučavanju. Kad model učiš da odgovara kako se ljudima dopada, naučiš ga i da zvuči sigurno kad nije — preterano obećavanje tu nije bag nego posledica dizajna.

Jev zato ne generiše rečenicu reč po reč, nego sve izlaze odjednom, u obliku koji softver direktno koristi.

Brojke koje navode i šta stoji iza njih

Firma navodi odgovor za 70 do 500 milisekundi, ulaz od 0.042 dolara po milionu tokena i izlaz bez naplate.

The Register je pustio njihov demo i izmerio 0.114 sekundi naspram 8.566 sekundi kod jednog velikog modela.

Ostale brojke su firmine, ali je prvi nezavisni test stigao jutros: inženjer je isto opterećenje svog alata prebacio sa jednog Google modela na Jev.

Kaže da jeste brži, mada ne koliko je očekivao, da je znatno jeftiniji i da ne protivreči sam sebi kroz vreme.

Ono "ne može da halucinira" i dalje znači samo da je izlaz uvek u zadatom obliku, ne da je odluka tačna.

Zato demo igra Doom

Najviše pažnje dobio je snimak na kome Jev igra Doom uživo, jer pokazuje ono što do sada nije išlo: AI koji drži korak sa čovekom u realnom vremenu.

Deset poziva u sekundi izađe oko sedam dolara na sat, pa se to prenosi na svaku odluku koja se u aplikaciji ponavlja hiljadama puta dnevno.

Za one koji grade agente kod nas, to je ista priča o ceni koja pada ka nuli, na nivou jedne odluke.