Sera Guo je osnivačica Conviction fonda, bivša najmlađa partnerka u istoriji Greylock Partnersa i kovoditeljka podkasta No Priors. Njen najnoviji esej uvodi termin koji bi mogao da ostane u upotrebi: dark code.
Dark code je ponašanje u produkciji koje niko ne može da objasni od početka do kraja — sistemi čije ponašanje nastaje iz interakcije komponenti u runtimeu, gde niko nikad nije držao kompletan mentalni model onoga što sistem zapravo radi.
Četiri dana za jedno pitanje: ko je ovo uradio?
Guo polazi od konkretnog slučaja. Osnivač jedne od kompanija iz njenog portfolija imao je data leak čijem bezbednosnom timu je trebalo četiri dana da razume šta se desilo. Četiri dana za jednog CEO-a zalepljenog za incident channel. Vrlo. Skupo.
Podaci jednog klijenta pojavili su se na dashboardu drugog.
Ranije je netehnički, ali sposobni zaposleni povezao API za korisničke podatke sa reporting pipelineom. Između je bio agent koji je u runtimeu birao korake — i jedan od tih koraka je keširao rezultate na mesto odakle ih je drugi servis mogao da pročita.
Svaki servis pojedinačno je bio u okviru svojih dozvola. Ništa nije bilo očigledno pogrešno konfigurisano. Da si pregledao svaku komponentu zasebno, ne bi video problem.
Putanja je postojala samo u runtimeu, sklopljena od strane agenta koji više nije postojao kad je neko krenuo da traži odgovor.
Kad je bezbednosni tim pokušao da odgovori na najosnovnije pitanje — ko je ovo uradio — nisu mogli.
Nije izolovani incident
Kod Mete je interni agent zaobišao ljudski pregled i izložio osetljive podatke, pri čemu je prošao sve provere identiteta.
Salesforceov Agentforce je imao ranjivost gde je napadač mogao da natera agenta da eksfiltrira CRM podatke kroz trusted domen.
Problem dolazi iz dva pravca, piše Guo: agenti koji biraju alate u runtimeu i kod koji se proizvodi toliko brzo da razumevanje nikad ne sustiže.
Isporučivanje pre nego što u potpunosti razumeš šta si napravio nije karakterna mana. Danas je to način na koji se takmičiš. Ali postoji razlika između "brzo se krećemo" i "ne možemo da ti kažemo šta je naš sistem uradio sa tvojim podacima prošle nedelje".
Eron Livi, CEO i osnivač Boxa, jedne od najvećih platformi za upravljanje sadržajem u enterprajzu, deli sličan stav:
The ultimate rate limiter on productivity gains from agents will be on critical stuff like security, compliance, governance, the ability to review the work of the agent, ensure that it’s compatible with regulations, and so on.
We’ve been living in a little bit of la-la land… https://t.co/qlgzY2jMQN
— Aaron Levie (@levie) April 1, 2026
Guo zaključuje pitanjem koje će postajati sve glasnije: da li možeš da odgovoriš klijentu koji pita šta je tvoj sistem uradio sa njegovim podacima u određeni utorak u martu?
