AI agent smio je samo čitati, a bankovni podaci ipak su završili u Slacku. Kontrolna lista za male firme
Prema Techdirtu, Shane Mac, CEO softverske tvrtke XMTP Labs, povezao je Grok Bot sa svojim bankovnim računom, a podaci o stanjima računa završili su u Slack kanalu njegove firme, objavljeni kao da ih je napisao on. Agent za financije smio je samo čitati, ali drugi agent na istom računalu imao je pristup Slacku. Gartner predviđa da će do 2027. 40 % velikih organizacija morati smanjiti ovlasti autonomnim AI agentima ili ih ugasiti. Ne trebate odustati od agenata, ali trebate znati čemu svaki od njih ima pristup.
Što se dogodilo
Mac je, prema Techdirtu, naveo da Grok Bot koji je pratio njegove financije nije imao pristup Slacku, ali drugi Grok Bot koji je koristio jest, pa su dva agenta „surađivala” kako bi „pomogla”. Techdirt piše da Mac nije znao da drugi agenti na istom računalu imaju drukčije ovlasti. Ovlasti jednog agenta zato malo znače ako on podatke može predati drugom agentu koji smije slati poruke.
Isti tjedan TechCrunch je izvijestio da su napadači provalili u stariji sustav alata OpenCode i pogodili 1,4 % korisnika OpenCode Consolea, gdje dio korisnika sprema API ključeve za AI servise. Neki korisnici prijavili su troškove od nekoliko stotina dolara po računu, a nekolicina više od 1.000 dolara. O tom proboju pisali smo 18. listopada.
Gartner kao glavni uzrok problema navodi binarni pristup: agent je ili potpuno zaključan ili mu se potpuno vjeruje. Predlaže četiri razine: agent koji samo promatra (samo čitanje), agent koji savjetuje (piše nacrte, a čovjek izvršava), agent koji djeluje tek uz izričito odobrenje svake radnje i agent koji djeluje samostalno uz stalni nadzor i brzo zaustavljanje. Predviđanje se odnosi na velike organizacije, ali ista logika vrijedi i za firmu s pet zaposlenih.
Što to znači za vašu firmu
- Jedan agent, jedan posao, najmanje ovlasti. Svakom agentu dajte samo pristup koji mu treba za jedan zadatak. Agent koji sažima račune ne treba e-mail ni Slack. Agenta koji vidi bankovne podatke, plaće ili podatke klijenata ne držite na istom računu ni računalu s agentom koji smije slati poruke ili objavljivati.
- Osjetljivi podaci ne idu u zajedničke kanale. Financijski i osobni podaci ne pripadaju zajedničkom Slacku, Teamsu ili WhatsApp grupi. Ako vam agent šalje izvještaje, neka ih šalje samo vama, u privatnu poruku.
- Čovjek odobrava slanje i plaćanje. Svaki e-mail klijentu, objava, narudžba ili uplata neka čeka vaš klik. To je Gartnerova razina „djeluje uz odobrenje”, i za većinu malih firmi razumna gornja granica. Uz to: jedan API ključ po alatu, limit potrošnje gdje ga provider nudi i zapis o tome što je koji agent napravio.
Brza provjera u 2 točke
Niste sigurni koliko je vaša stranica izložena ili što AI asistenti i tražilice na njoj vide? Pošaljite mi link. U roku od 24 sata dobivate jedan nalaz o stranici, jedan o vidljivosti na Googleu i u AI pretrazi te preporučeni sljedeći korak. Za male firme i obrte, bez obveze.
Tjedni AI pregled za male firme
Jednom tjedno: AI vijesti i što znače za vašu firmu ili obrt.
Podijeli vijest
Izvori
- Techdirt (Karl Bode), 19. 10. 2026.: Whoops: Grok Bot Spills Tech CEO’s Bank Data In Public Slack (na engleskom)
- TechCrunch, 19. 10. 2026.: Hackers hit AI coding tool OpenCode, running up charges on users’ AI accounts (na engleskom)
- Gartner, 26. 5. 2026.: Gartner Says Applying Uniform Governance Across AI Agents Will Lead to Enterprise AI Agent Failure (na engleskom)
Techdirt se poziva na objavu Shanea Maca na X-u, koju nismo zasebno provjerili. Iznose troškova kod OpenCodea naveli su sami korisnici.