Istraživači iz Miggo Security-a otkrili su značajnu sigurnosnu ranjivost u integraciji Guglovog Gemini AI sa Gugl Kalendarom. Ova ranjivost omogućava napadačima da ukradu privatne podatke putem skrivenih komandi, što postavlja nova pitanja o sigurnosti AI sistema. Iako je Gugl brzo reagovao i ispravio problem, rizik od manipulacije ostaje prisutan.
Nova funkcija Gemini AI, koja omogućava pametniju interakciju sa Gugl Kalendarom, osmišljena je da pojednostavi svakodnevne zadatke. Međutim, istraživanje je pokazalo da ova funkcionalnost može da postane sredstvo za krađu osetljivih informacija. Tim istraživača je otkrio da se privatne postavke Gugl Kalendara mogu zaobići, dajući napadačima pristup poverljivim podacima putem obične pozivnice za sastanak.
Ključ ove ranjivosti leži u tehnici poznatoj kao Indirektna Prompt Injection. Istraživači su iskoristili ovu tehniku kako bi manipulisali Gemini-jem da izvrši neovlašćene radnje. Napadači mogu slati pozivnice za sastanke sa skrivenim instrukcijama, koje AI tumači kao legitimne komande. Na prvi pogled, ovo deluje kao bezopasna funkcionalnost, ali u stvarnosti može dovesti do ozbiljnih problema.
Kada se skrivene komande izvrše, Gemini kreira nove događaje u kalendaru sa pregledom svih sastanaka, koji postaje dostupan napadaču. Za korisnike, interakcija izgleda normalno, a napad se odvija bez očiglednih znakova. Ova suptilna priroda napada čini ga teško prepoznatljivim, otkrivajući potencijalne opasnosti povezane sa prepuštanjem AI asistentima kontrole nad našim digitalnim životima.
Gugl je potvrdio problem i brzo reagovao, sprovodeći ispravke, ali ovo otkriće postavlja ozbiljna pitanja o širem sigurnosnom riziku povezanom sa AI integrisanim alatima koji upravljaju našim ličnim podacima. Iako je konkretan problem rešen, rastući broj AI funkcionalnosti koje koristimo svakodnevno može biti podložan manipulaciji na načine koji su ranije bili nezamislivi.
Ova situacija naglašava potrebu za većom pažnjom i jačim zaštitama kako bi se obezbedila privatnost korisnika. Ranjivosti u AI sistemima, kao što je Gemini, predstavljaju novi izazov u oblasti sajber bezbednosti. Ovaj trend pokazuje da su AI sistemi postali meta sofisticiranih napada, a ranjivosti više nisu samo u kodu, već i u jeziku i kontekstu koji AI razume.
Slične taktike korišćene su i ranije, kao što je slučaj sa Perplexity agentičnim pretraživačem, što ukazuje na to da je prompt injekcija globalni problem. Kako se tehnologije razvijaju, raste i potreba za razumevanjem potencijalnih pretnji koje donose po našu privatnost i sigurnost.
Preporučuje se da AI funkcionalnosti budu bolje zaštićene, s obzirom na to da se suočavamo sa novim vrstama eksploitacije. AI aplikacije mogu biti manipulirane putem jezika, a ranjivosti se ne odnose samo na kod, već i na ponašanje ovih sistema u komunikaciji s korisnicima. Sajber bezbednost se mora fokusirati na suptilnosti ljudskog jezika i ponašanja AI-a kako bi se osigurala sigurnost podataka.
Istraživači iz Miggo Security-a upozoravaju da će ovakve ranjivosti postajati sve učestalije kako AI preuzima više odgovornosti u našim digitalnim interakcijama. S obzirom na sve veću integraciju AI u svakodnevni život, važno je ostati oprezan i prepoznati skrivene rizike koji se kriju u naizgled bezopasnim radnjama. U ovom trenutku, ključno je razviti bolje razumevanje i zaštitu kako bismo osigurali privatnost i sigurnost korisničkih podataka u eri veštačke inteligencije.
