Programer koji je od Claude Codea tražio da u njegovom projektu nađe lake bezbednosne popravke zaustavljen je posle prve, od jednog reda, piše on na svom blogu. Posao su prekinuli Anthropicovi zaštitni filteri, a put dalje je zahtev za izuzeće.
Za izuzeće se, kako navodi, čeka više radnih dana, traži se lična karta ili pasoš, korisnik se odriče izuzeća od čuvanja podataka, a odobrenje nije zagarantovano.
Claude ga je, dodaje, uputio na stariji model, koji je takođe pokušavao da ga zaustavi.
Popravku završio otvoreni model
Posao je na kraju uradio GLM 5.3, model firme Z.ai sa javno dostupnim težinama, pokrenut na serveru u Evropskoj uniji. Model je, piše, potvrdio da propust postoji, pa pomogao da se ispravi i proveri.
Na isti zid može da naleti svako ko u Claude Codeu proverava bezbednost sopstvenog servisa: on navodi da mora da zna da li se javno objavljeni primeri napada mogu okrenuti protiv njegovih servisa, a upravo tu filteri staju.
Ko prolazi bez provere
Glavni prigovor mu je da napadači takve provere ne prolaze, jer koriste modele bez zaštita:
Znate li ko ne mora da traži odobrenje? Kriminalci.
Oni samo uzmu modele koji nemaju zaštite.
