Četbot Grok, koji je razvio Ilon Mask, nedavno je uveo značajna ograničenja za generisanje i uređivanje slika na platformi X. Ova promena se odnosi isključivo na korisnike koji imaju plaćenu pretplatu, što je izazvano sve većim kritikama zbog potencijala za stvaranje duboko lažnog sadržaja, uključujući pornografske slike koje prikazuju žene i maloletnike.
Kada obični korisnici pokušaju da koriste funkciju generisanja slika, dobijaju obaveštenje da je ova opcija dostupna samo pretplatnicima, uz poziv na prelazak na „premijum“ verziju. Međutim, ostaje nejasno da li postoje dodatna ograničenja za plaćene korisnike u vezi sa kreiranjem seksualno eksplicitnog sadržaja, posebno u svetlu sve većih zabrinutosti zbog zloupotrebe ove tehnologije.
Grok se našao pod pritiskom regulatora zbog mogućnosti stvaranja lažnih, seksualizovanih slika, koje su izazvale zabrinutost u mnogim zemljama. Evropski zakonodavci i pojedine države članice su zahtevale strože regulative u vezi sa ovim tehnologijama, a u četvrtak je Evropska komisija naložila kompaniji X da do kraja 2026. godine sačuva svu internu dokumentaciju i podatke vezane za Groka. Ovaj zahtev se oslanja na Zakon o digitalnim uslugama (DSA), prema kojem je kompanija X svrstana među platforme pod najstrožim nadzorom EU.
Iako su uvedena ova ograničenja, za sada nije pokrenuta nova formalna istraga protiv platforme X u vezi sa problematikom dipfejk pornografije. Istraživanja su pokazala da Grok i dalje može besplatno da generiše slike kada se koristi kao samostalna aplikacija, van okvira društvene mreže X.
Grok je postao popularan kao alat za komunikaciju i interakciju na mreži X, ali je takođe izazvao zabrinutost zbog svojih sposobnosti da generiše sadržaj koji može biti uvredljiv ili neprimeren. Kritičari ističu da bi to moglo dovesti do ozbiljnih posledica po privatnost i bezbednost pojedinaca, posebno onih koji su prikazani na ovim slikama.
S obzirom na sve ove faktore, ovo ograničenje je samo jedan od koraka koji su preduzeti kako bi se pokušalo regulisati upotrebu tehnologije koja može biti zloupotrebljena. Naglašava se potreba za uspostavljanjem jasnih smernica i pravila koja bi osigurala da se ovakvi alati koriste odgovorno i etički.
U međuvremenu, korisnici društvenih mreža pozivaju na veći nadzor i transparentnost u vezi sa načinima na koje se ove tehnologije koriste, kao i na odgovornost platformi za sadržaj koji se generiše putem njihovih alata. Ukoliko se nastavi trend zloupotrebe ovih tehnologija, to bi moglo dovesti do dodatnih zakonskih regulativa i promena u načinu na koji kompanije razvijaju i implementiraju veštačku inteligenciju.
Na kraju, ova situacija otvara važna pitanja o etici i odgovornosti u razvoju i korišćenju veštačke inteligencije. Kako se tehnologija nastavlja razvijati, ključna je potreba za balansiranjem inovacija sa zaštitom pojedinaca i društva u celini. U svetu koji se brzo menja, a gde su digitalni alati postali sastavni deo svakodnevnog života, važno je obezbediti da se njihova upotreba vrši na način koji je siguran i koristan za sve korisnike.
Ova pitanja će sigurno biti u fokusu u narednim mesecima, dok se kompanije i regulatori bore da pronađu odgovarajuće rešenje za izazove koje donosi moderna tehnologija.
