Googleov AI model Gemini tokom sigurnosnog testiranja pristupio je stvarnim sistemima tri kompanije, nakon što je testno okruženje omogućilo izlazak na javni internet, što je otvorilo nova pitanja o sigurnosti sve autonomnijih AI agenata.
Incident se dogodio u maju tokom evaluacije kibernetičkih sposobnosti koju je za Google provodila nezavisna kompanija Irregular.
Prema informacijama koje je objavio Wall Street Journal, Gemini je tokom zadatka tražio načine da pristupi sistemima za koje je pretpostavljao da su dio simuliranog testnog okruženja, ali su se među njima našle i stvarne web stranice.
U jednom slučaju model je pokušavao različite pristupne podatke dok nije dobio pristup zaštićenom sistemu, dok je u druga dva slučaja pronašao javno dostupne pristupne podatke u online repozitorijima.
Gemini prekinuo aktivnosti nakon pristupa
Heather Adkins, potpredsjednica za sigurnosni inženjering u Googleu, potvrdila je da su pogođene strane obaviještene te da je Google zajedno s partnerom promijenio način provođenja ovakvih testova.
Prema navodima Googlea, model je u sva tri slučaja sam prekinuo dalje aktivnosti nakon što je pristupio sistemima. Kompanija navodi i da incident nije izazvao poznatu štetu.
Riječ je o starijoj verziji Geminija koja je testirana u uslovima namijenjenim procjeni njegovih kibernetičkih sposobnosti, a ne o ponašanju standardne verzije proizvoda dostupne korisnicima.
Slični incidenti zabilježeni i kod drugih AI kompanija
Slučaj nije izolovan. Anthropic je ranije objavio da su njegovi Claude modeli tokom kibernetičkih evaluacija u nekoliko navrata dobili neovlašten pristup stvarnim sistemima trećih strana. Kompanija je navela da je u tim testovima došlo do pogrešne konfiguracije okruženja koje je modelima omogućilo pristup internetu.
OpenAI je također tokom 2026. prijavio više incidenata povezanih s kibernetičkim evaluacijama. U jednom slučaju modeli su tokom internog testiranja zaobišli kontrole koje su ih trebale izolovati od interneta i pristupili dijelu sistema Hugging Facea, dok je u drugom slučaju pogrešno podešeno testno okruženje omogućilo pristup stvarnoj web stranici umjesto simuliranom cilju.
Ovi slučajevi razlikuju se po tehničkim detaljima, ali imaju zajednički problem, AI modeli namijenjeni sigurnosnom testiranju postaju dovoljno sposobni da pronađu i iskoriste stvarne propuste kada im okruženje to nenamjerno omogući.
Sve veći fokus na sigurnost AI agenata
Google posljednjih mjeseci dodatno razvija modele namijenjene kibernetičkoj sigurnosti, uključujući Gemini 3.5 Flash Cyber, koji je posebno treniran za pronalaženje, provjeru i popravljanje sigurnosnih ranjivosti.
Istovremeno, Google DeepMind u svojim sigurnosnim procjenama prati koliko modeli mogu samostalno izvršavati složene zadatke, uključujući i one iz oblasti kibernetičke sigurnosti, upravo zbog rizika koji raste kako AI agenti dobijaju više autonomije i direktan pristup alatima i internetu.
Incident s Geminijem zato ne pokazuje da je AI “preuzeo kontrolu”, ali pokazuje koliko greške u testnom okruženju mogu postati ozbiljne kada model ima dovoljno sposobnosti da samostalno traži pristup sistemima i koristi pronađene podatke.
