Filipinske vlasti razmatraju mogućnost blokade pristupa AI četu Grok, koji je razvio Ilon Mask, zbog ozbiljnih zabrinutosti oko potencijalne proizvodnje seksualizovanog sadržaja. Sekretar za informacione i komunikacione tehnologije, Henrij Aguda, potvrdio je da Centar za koordinaciju i istragu sajber-kriminala (CICC) trenutno sarađuje sa Nacionalnom komisijom za telekomunikacije (NTC) kako bi se implementirala potrebna ograničenja. Aguda je istakao da, iako Grok trenutno nema veliku popularnost na Filipinima u poređenju sa drugim platformama kao što su ChatGPT i Claude, vlasti ovo pitanje shvataju vrlo ozbiljno. Očekuje se da bi odluka o blokadi mogla biti doneta već tokom ove nedelje, što ukazuje na hitnost situacije.
Globalna pažnja prema Groku raste, a mnoge države preispituju kako ovaj AI alat upravlja seksualno eksplicitnim sadržajem. Indonezija je nedavno privremeno blokirala Grok, navodeći opasnost od AI-generisanog pornografskog materijala. U Maleziji su najavljene pravne mere protiv platforme X zbog ugrožavanja bezbednosti korisnika. U Velikoj Britaniji, regulator Ofcom sprovodi istragu o Groku i otvoren je za podršku zabrani ukoliko se pokaže potreba. Ove akcije odražavaju globalnu zabrinutost zbog potencijalno štetnog sadržaja koji veštačka inteligencija može generisati.
U međuvremenu, kompanija X je pod pritiskom da preduzme mere kako bi se osigurala bezbednost korisnika. Najavili su promene u načinu na koji Grok generiše i uređuje slike, uvodeći dodatne zaštite koje sprečavaju AI da obrađuje fotografije stvarnih osoba u provokativnoj odeći, bez obzira na status korisnika. Sve opcije za generisanje slika unutar Groka prebačene su na pretplatnički model, što znači da korisnici bez plaćenih pretplata više nemaju pristup ovoj funkcionalnosti. Takođe, uvedena su geografska ograničenja za zemlje u kojima je kreiranje slika stvarnih ljudi u minimalnoj odeći zakonom zabranjeno, čime se nastoji uskladiti sa važećim propisima.
U Kaliforniji su vlasti pokrenule istragu protiv kompanije xAI i njenog AI četa Grok, fokusirajući se na način na koji platforma upravlja AI-generisanom golotinjom i sadržajem koji može podsticati iskorišćavanje dece. Analiza je pokazala da je više od polovine od oko 20.000 slika generisanih u periodu između Božića i Nove godine prikazivalo osobe u oskudnoj odeći, uključujući materijale koji su sumnjivi za prikazivanje maloletnika. Kompanija X je naglasila svoju politiku „nulte tolerancije“ prema bilo kakvom obliku iskorišćavanja dece i istakla da prioritetno uklanja sadržaj koji uključuje seksualno zlostavljanje dece i neovlašćenu golotinju.
Kontroverze oko Groka osvetljavaju širi izazov sa kojim se suočavaju regulatori u vezi sa veštačkom inteligencijom – kako istovremeno podsticati inovacije i očuvati bezbednost korisnika. Kako sve veći broj država razmatra istražne mere ili ograničenja za AI alate koji mogu proizvoditi seksualizovan sadržaj, kreatori tehnologije suočavaju se s pritiskom da uvedu snažne zaštitne mehanizme, a da pritom ne ugroze kreativne, istraživačke ili obrazovne mogućnosti.
Kontinuirani nadzor regulatornih tela u Aziji, Evropi i Sjedinjenim Američkim Državama ukazuje na globalnu tenziju između tehnološkog napretka i zaštite javnog interesa. Ovaj sukob postaje naročito izražen kada se AI sistemi koriste u oblastima koje se dotiču osetljivih pitanja, poput zaštite dece, privatnosti i pristanka. U svetlu ovih izazova, budućnost Groka i sličnih tehnologija zavisiće od sposobnosti vlasti da pronađu ravnotežu između inovacija i sigurnosti.
