Sposobnost da se u bilo kom delu našeg sistema nađe ranjivost pre nego što je nađe neko sa lošim namerama više nije pitanje veštine i znanja tima, nego privilegije — da li smo na nečijem spisku.

Spisak je bukvalan.

Mythos, Anthropicov model koji je u testovima sam našao hiljade propusta visokog rizika u operativnim sistemima i browserima, nije u slobodnoj prodaji i neće biti.

Distribuira se kroz gotovo distopijski zvučeći Project Glasswing, kojim ga Anthropic daje (po njima) proverenim organizacijama za odbranu kritičnog softvera, a sve nesumnjivo pod budnim nadzorom američke vlade.

Da ovo nije samo teoretska priča, videli smo prošle nedelje jula. Hugging Face, centralna platforma za otvorene AI modele, opisao je incident: neko mu je ušao u produkcionu infrastrukturu.

Napad je, od ulaza kroz zlonamerne skupove podataka do kretanja kroz klastere, vodio autonoman agentski sistem. Čiji je, saznalo se kad je OpenAI 21. jula potvrdio da su njegovi modeli pobegli iz izolovanog okruženja.

Zid na koji naiđe svako ko nije na spisku

Iz iste objave dolazi detalj koji nama znači više: forenziku nad preko sedamnaest hiljada napadačevih poteza nisu radili komercijalnim modelom, nego kineskim GLM-om 5.2, modelom otvorenih težina.

Komercijalne su probali prvo i na njima nisu prošli: ograde su blokirale baš taj posao.

To je drugi zid i nije teorijski. Anthropic na Opusu i Sonnetu vrti zaštite u realnom vremenu koje unapred blokiraju celu klasu poslova sa dvostrukom namenom — i kad taj posao radimo nad sopstvenim kodom.

Model je, dakle, dostupan. Nije dostupna dozvola da se njime radi ozbiljan bezbednosni posao.

Korisnici koji ga plaćaju to osećaju drugačije: jednom je razgovor pao sa Fablea na Haiku, drugom je pomoglo tek kad je modelu počeo da se obraća kao detetu.

Ima i nepotvrđena tvrdnja da ta dozvola nije uvek stvar prijave — možda je u pitanju neki beskrupulozan prodavac (nezamislivo) ili samo ilustracija koliko anksioznosti i besa u zajednici ima oko ove teme.

Alternative

Odgovora ima nekoliko i nijedan nije spektakularan, ali je svaki, verovatno, nužan. Prvi je onaj kojim je otišao Hugging Face: modeli otvorenih težina te ograde uglavnom nemaju.

NIST-ova procena kaže bez uvijanja da zaštite GLM-a 5.2 dozvoljavaju pomoć pri agentskom razvoju koda koji iskorišćava ranjivosti. Timu koji traži svoje propuste to je stvarna opcija, i ne mora da ima data centar u kancelariji: GLM 5.2 ima zvaničan API, a nude ga i posrednici poput OpenRoutera i DeepInfre.

Dok svetski moćnici ne daju pristup najboljim modelima i nama smrtnicima, danas (27. jul) nam je u spas stigao Kimi K3: Moonshot je objavio težine i tehnički izveštaj open weight modela od 2.8 biliona parametara sa milion tokena konteksta, najvećeg otvorenog do sada.

Na bezbednosnom testu nezavisnog istraživača ispao je i najjači otvoreni model za sajber poslove, ispred GLM-a 5.2:

Drugi odgovor je birokratija: tražiti od dobavljača da nam skine ogradu. Anthropic za to ima Cyber Verification Program — besplatnu prijavu vezanu za organizaciju gde odgovor stiže u roku od dva radna dana.

Solflare, digitalni novčanik sa preko četiri miliona korisnika i prvi partner naših AI programa ove godine, je uradio upravo to.

Tri puta su odbijeni. Iz četvrte je stigao mejl da su ograde podešene i da opisani bezbednosni rad više neće biti blokiran.

Mejl o odobrenju Cyber Verification Programa

Vidor GencelReći ću na politički korektan način da je vrlo suboptimalno što za ovo možeš da dobiješ samo Sonnet i Opus.

Ali ako imaš nešto što vredi braniti, a svi imamo nešto, onda moraš da prođeš svaki korak, a ovo je jedan od njih.

Nas su tri puta odbili pre nego što smo prošli, pa kolege mogu sa tim na umu da probaju više puta.

— Vidor Gencel, suosnivač i CEO Solflarea

Treći odgovor je naprosto iskoristiti ono što nam AI već pruža da napraviš sistem koji ti pomaže u cybersecurityju — o ovome su naši posetioci mogli da čuju na događaju sa Mihajlom Lazarevićem ne tako davno, a uskoro objavljujemo i detalje toga na ovom blogu.

Ma koliko se osećamo nefer što je situacija takva kakva jeste, što veliki prave spiskove bez nas, na nama je da uradimo sve što je u našoj moći, pa makar morali da spadnemo i samo na Sonnet.