Američka kompanija za razvoj veštačke inteligencije OpenAI je danas najavila nove mere bezbednosti za tinejdžere koji koriste njihov alat Čet Dži-Pi-Ti (ChatGPT). Ove promene su uvedene s ciljem da se pruži sigurnije korisničko iskustvo za mlađe korisnike, a roditeljima će biti omogućeno da povežu svoje naloge sa nalozima svoje dece.
Jedna od ključnih novina je mogućnost da roditelji prilagode postavke koristeći opcije za roditeljsku kontrolu. Ove opcije uključuju postavljanje vremenskih ograničenja za korišćenje alata, isključivanje glasovnog moda, kao i zabranu generisanja slika. Takođe, roditelji će moći da kontrolišu upotrebu memorije četbota, što dodatno povećava nivo bezbednosti.
Kada se nalozi povežu, nalog tinejdžera automatski dobija dodatne zaštite. To uključuje smanjenje eksplicitnog sadržaja, kao i ograničenja u vezi sa izazovima sa interneta, seksualnim, romantičnim ili nasilnim materijalom. Ove mere su osmišljene kako bi se zaštitili mladi korisnici od potencijalno štetnog sadržaja koji bi mogli naići dok koriste platformu.
Pored toga, OpenAI je implementirao sistem koji može otkriti potencijalne mentalne probleme kod korisnika. Ukoliko Čet Dži-Pi-Ti primeti takve znakove, ljudski recenzent će proceniti situaciju i odlučiti da li će roditelj dobiti hitno obaveštenje putem mejla, SMS poruke ili notifikacije u aplikaciji. Ova proaktivna mera ima za cilj da pruži podršku mladim korisnicima koji se možda suočavaju sa teškim emocionalnim stanjima.
OpenAI je takođe naglasio da roditelji neće imati pristup samim razgovorima tinejdžera sa četbotom, čime se poštuje privatnost korisnika. Ova odluka je važna jer se nastoji pronaći ravnoteža između zaštite i očuvanja privatnosti mladih korisnika. Kompanija planira da u narednim mesecima implementira sistem za automatsku procenu starosti korisnika, kako bi Čet Dži-Pi-Ti mogao automatski primenjivati postavke koje su prilagođene tinejdžerima mlađim od 18 godina.
Ove novine dolaze u trenutku kada su se pojavili ozbiljni problemi u vezi sa korišćenjem veštačke inteligencije među mladima. Naime, kalifornijski bračni par je krajem avgusta pokrenuo tužbu protiv OpenAI-a, tvrdeći da je njihov sin Adam Rejn izvršio samoubistvo nakon što je razgovarao sa Čet Dži-Pi-Ti i nagoveštavao da želi da sebi oduzme život. Ovaj slučaj je izazvao značajnu pažnju medija i javnosti, te je dodatno podstakao kompaniju da preduzme mere za zaštitu mladih korisnika.
OpenAI se suočava sa izazovima vezanim za etiku korišćenja veštačke inteligencije, posebno kada je reč o ranjivim grupama kao što su tinejdžeri. Dok kompanija nastoji da unapredi svoje alate i učini ih sigurnijim, važno je da se i dalje vodi računa o privatnosti i autonomiji mladih korisnika. Uvođenje opcija za roditeljsku kontrolu može biti korak ka boljem razumevanju i kontroli onoga što mladi rade na mreži, ali takođe postavlja pitanja o granicama roditeljske intervencije.
Kao reakcija na ove nove mere, mnogi roditelji pozdravljaju potez OpenAI-a, smatrajući da je zaštita dece na internetu od neprimerenog sadržaja prioritet. Ipak, postoje i oni koji se plaše da bi prekomerna kontrola mogla ograničiti slobodu izražavanja i istraživanja kod tinejdžera. Balansiranje između zaštite i slobode je izazov koji će OpenAI morati da nastavi da razmatra kako bi obezbedio sigurno i podržavajuće okruženje za svoje korisnike.
U svetlu ovih događaja, važno je nastaviti razgovor o odgovornom korišćenju tehnologije i njenom uticaju na mentalno zdravlje mladih. OpenAI se trudi da postane lider u ovoj oblasti, ali uspeh će zavisiti od sposobnosti kompanije da se prilagodi i reaguje na potrebe i brige svojih korisnika.
