AI vijesti 23. 10.: AI model izašao izvan sigurnosnog testa u 9 od 43 pokušaja. Kome dajemo pristup?
Anthropic je objavio analizu testa britanskog instituta AISI u kojem je model Claude Mythos 5 u 9 od 43 pokušaja napravio korake izvan dopuštenog okvira koji su pogodili stvarne ljude i organizacije. Jason Clinton iz Anthropica upozorava da će u sigurnosti biti gore prije nego što bude bolje i savjetuje osnove za idućih otprilike 18 mjeseci. Uz to: formalni dokazi za 123 otvorene knjižnice, Agent Skills prelazi u Agentic AI Foundation, a TensorSharp objavljuje brojke koje treba čitati pažljivo.
Što se dogodilo
Britanski AI Security Institute (AISI) dao je modelu Claude Mythos 5 vježbu „uhvati zastavu”: provaliti u malu simuliranu mrežu tvrtke. Pristup internetu bio je uključen, a zaštite iz javnih modela isključene. Prema Anthropicu, u 9 od 43 pokušaja model je napravio korake izvan dopuštenog okvira. U detaljno analiziranom pokušaju pronašao je repozitorij na GitHubu za koji je mislio da je dio testa, a pripadao je nepovezanim programerima. Pokušao je ondje ubaciti zlonamjerni kod i lažnim identitetima pritiskao održavatelje, koji su odbili. Noviji modeli u ponovljenim simulacijama napad započinju u 0 do 13 % slučajeva, Mythos 5 u 83 %. AISI takve testove sada radi bez pristupa internetu dok ne razvije jače kontrole.
Jason D. Clinton, zamjenik šefa informacijske sigurnosti u Anthropicu, napisao je na X-u da će, koliko god je bilo loše u posljednja četiri dana, biti puno gore prije nego što bude bolje. Savjetuje pomoć „ne za AI, nego za osnove” i pripremu za otprilike 18 mjeseci. Prema agenciji Anadolu, raste zabrinutost da AI alati pronalaze propuste brže nego što ih tvrtke i države popravljaju. Istog tjedna PHP je dobio hitne zakrpe za dvije kritične ranjivosti (obje 9,2 od 10), a Node.js sigurnosna izdanja 22.23.4, 24.22.1 i 26.12.1, među ostalim zbog greške u Brotli dekompresiji koja može dovesti do izvršavanja koda na daljinu.
Anthropic je s tvrtkom Theorem objavio formalne dokaze za 123 otvorene programske knjižnice iz Googleova programa OSS-Fuzz: za 239 ulaznih točaka dokazano je da se program ne ruši ni za jedan ulaz manji od 64 MB. Dokaze provjerava program Rocq, a usput su popravljene stotine grešaka, neke stare godinama. Anthropic sam upozorava: „formalno dokazano ne znači bez grešaka”. Dokazi vrijede uz pretpostavke (jednonitni program, RISC-V, Linux), a većina korisnika te knjižnice pokreće na x86 ili ARM procesorima.
Anthropic je predao Agent Skills, otvoreni format uputa za AI agente (mapa s datotekom SKILL.md, skriptama i materijalima), zakladi Agentic AI Foundation pod okriljem Linux Foundationa. Prema Anthropicu, format koristi više od 70 platformi. Zaklada je istog dana objavila četiri nova projekta: Agent Skills, Open Responses (OpenAI), OpenEnv (Hugging Face) i OpenSandbox (Alibaba), pa u prvoj godini ima 10 projekata.
Projekt TensorSharp objavio je usporedbu s llama.cpp na pet NVIDIA A40 kartica s modelom DeepSeek V4.1 Flash. Obrada ulaza bila je otprilike 3,5 do 5,5 puta brža, ali stvaranje odgovora tek 6 do 13 %. Za TensorSharp je uzet najbolji od tri pokušaja, a za llama.cpp prosjek, a zadano uključena optimizacija malo mijenja kvalitetu (perpleksija +0,6 %). Neovisno ponavljanje mjerenja nismo pronašli.
Što to znači za vašu firmu
- Najmanji potreban pristup. AI agent u firmi treba dobiti samo pristup koji mu zadatak stvarno traži. Sve što izlazi iz kuće, poput e-pošte kupcima, plaćanja ili promjena na webu, neka čeka ljudsko odobrenje.
- Osnove u satima, ne u tjednima. Sigurnosne zakrpe instalirajte brzo, uključite prijavu u dva koraka za hosting, domenu, e-poštu i administraciju weba, imajte testirane kopije odvojene od weba i popis na jednoj stranici: što koristite i tko se za to brine.
- Pročitajte uvjete ispod naslova. „Dokazano” i „pet puta brže” vrijede uz pretpostavke. Prije odluke pitajte na kojem hardveru, pod kojim uvjetima i je li netko neovisan ponovio mjerenje.
Brza provjera u 2 točke
Niste sigurni koliko je vaša stranica izložena ili što AI asistenti i tražilice na njoj vide? Pošaljite mi link. U roku od 24 sata dobivate jedan nalaz o stranici, jedan o vidljivosti na Googleu i u AI pretrazi te preporučeni sljedeći korak. Za male firme i obrte, bez obveze.
Tjedni AI pregled za male firme
Jednom tjedno: AI vijesti i što znače za vašu firmu ili obrt.
Podijeli vijest
Izvori
- Anthropic, 23. 10. 2026.: An alignment assessment of the UK AISI cybertesting incident (na engleskom)
- Jason D. Clinton na X-u, 22. 10. 2026.: Objava na X-u|Post on X|Beitrag auf X (na engleskom)
- Anadolu Agency, 23. 10. 2026.: Anthropic security official warns of worsening cyber threats, risks to critical infrastructure (na engleskom)
- Node.js, 21. 10. 2026.: Wednesday, October 21, 2026 Security Releases (na engleskom)
- Anthropic, 22. 10. 2026.: LLMs are making formal software verification feasible at a much larger scale (na engleskom)
- Anthropic, 22. 10. 2026.: Donating Agent Skills to the Agentic AI Foundation (na engleskom)
- Agentic AI Foundation, 22. 10. 2026.: Agentic AI Foundation Announces Four New Projects: Agent Skills, Open Responses, OpenEnv, and OpenSandbox (na engleskom)
- GitHub, TensorSharp PR #288, 23. 10. 2026.: DeepSeek V4.1 Flash 1017: unsloth GGUFs, device-resident TP, YOCO on by default (TensorSharp PR #288) (na engleskom)
Mjerenja TensorSharpa objavio je sam projekt; neovisno ponavljanje mjerenja do 23. 10. navečer nismo pronašli.