Istraživači iz kompanije SafeBreach otkrili su ozbiljan bezbednosni propust u Gugl Geminiju, AI asistentu na Android uređajima, koji je mogao omogućiti napadačima da utiču na njegov rad. Ovaj problem se odnosi na obaveštenja koja dolaze iz aplikacija za dopisivanje i društvenih mreža, a koja je Gemini mogao pogrešno da protumači.
Napadači nisu morali da instaliraju zlonamerni softver ili lažne aplikacije. Dovoljno je bilo poslati posebno osmišljenu poruku koja se pojavljivala kao obaveštenje iz popularnih aplikacija poput WhatsApp-a, Signal-a, Slack-a, Messenger-a, Instagram-a, pa čak i obične SMS poruke. Na taj način, napadači su mogli da manipulišu načinom na koji Gemini obrađuje informacije, što je predstavljalo značajan rizik za korisnike.
Google je brzo reagovao na ovo otkriće i otklonio bezbednosni propust, a korisnicima je savetovano da dodatno povećaju zaštitu tako što će ograničiti pristup obaveštenjima aplikacijama koje nisu neophodne. Ovo otkriće je nastavak ranijeg istraživanja SafeBreach-a, u kojem je pokazano da zlonamerne pozivnice iz Gugl kalendara mogu takođe negativno uticati na ponašanje Geminija. Nakon tog incidenta, Gugl je implementirao dodatne zaštitne mere kako bi sprečio da spoljašnji sadržaji pokreću osetljive radnje ili manipulišu asistentom.
Cilj novog istraživanja bio je da se utvrdi da li slična zloupotreba može da se dogodi i preko drugih izvora korisničkih podataka. Rezultati su pokazali da funkcija Utilities, koja omogućava Geminiju pristup obaveštenjima, može u određenim situacijama da pogrešno protumači sadržaj obaveštenja kao naredbu. Ovo je otvorilo mogućnost za potencijalnu manipulaciju radom asistenta kroz pažljivo kreirane poruke.
Tokom testiranja, istraživači su prikazali više mogućih načina zloupotrebe ove ranjivosti. Jedan od scenarija podrazumevao je prikazivanje lažnih poruka koje su izgledale kao da ih šalju poznati i pouzdani kontakti. U takvim situacijama, Gemini je mogao da reaguje na sadržaj poruke i izvrši određene radnje, poput otvaranja veb stranica ili upravljanja pametnim uređajima povezanima preko Google Home sistema.
Ova situacija postaje posebno rizična kada korisnici komuniciraju sa Geminijem putem glasa. Na primer, tokom vožnje, korisnik može čuti poruku za koju veruje da dolazi od pouzdane osobe, ne znajući da je ona zapravo manipulativna. U takvim okolnostima, postoji veći rizik da Gemini izvrši neželjene radnje na osnovu netačnih informacija.
Istraživači iz SafeBreach-a razvili su tehniku pod nazivom „Fake Context Alignment“, koja može navesti Geminija da pogrešno protumači korisnikov odgovor kao saglasnost za izvršavanje radnje koju korisnik nije nameravao da odobri. Kada se ova metoda kombinuje sa lažnim obaveštenjima, značajno se povećava mogućnost zaobilaženja bezbednosnih mehanizama koje je Gugl ranije implementirao.
Prema upozorenjima stručnjaka, posledice ovakvih napada mogu biti ozbiljne, naročito kada je Gemini povezan sa pametnim uređajima ili finansijskim servisima. Pogrešno protumačena komanda može dovesti do neželjenih radnji koje mogu značajno ugroziti bezbednost i privatnost korisnika.
Nakon što su istraživači prijavili bezbednosni propust u avgustu 2025. godine, Gugl je ovu ranjivost ocenio kao ozbiljnu i preduzeo mere za njeno otklanjanje. Zaštita je uvedena putem izmena na serverskoj strani, a kompanija je potvrdila da je problem u potpunosti rešen do novembra iste godine. Nema dokaza da je ovaj propust zloupotrebljen pre nego što je otklonjen.
Korisnici Android uređaja nisu morali da instaliraju dodatna ažuriranja da bi bili zaštićeni, ali se savetuje da dodatno ograniče pristup Geminiju putem podešavanja aplikacija. Ova mera može značajno smanjiti rizik da postanu žrtve sličnih napada. U svetlu ovih događaja, jasno je da je bezbednost korisničkih podataka prioritet koji zahteva stalnu pažnju i proaktivne mere zaštite.
