Eksperiment koji je sproveden u oblasti veštačke inteligencije (AI) otkrio je da jednostavno oblikovanje upita u poetsku formu može da prevari AI modele, izazivajući njihovu sposobnost da pravilno odgovore na postavljena pitanja. Ovo istraživanje pokazuje kako je lako manipulisati AI sistemima koristeći kreativne i neočekivane pristupe, otvarajući pitanja o efikasnosti i sigurnosti ovih tehnologija.
Istraživači su koristili različite AI modele kako bi testirali koliko su ovi sistemi otporni na neobične obrasce u kojima su postavljeni upiti. U mnogim slučajevima, kada su upiti formulisani u stihu ili rimovanim obrascima, AI modeli su davali neadekvatne ili čak smešne odgovore. Ovaj fenomen može se pripisati načinu na koji AI modeli procesuiraju informacije, kao i njihovoj sklonosti da prepoznaju obrasce, što ih čini podložnim zaobilaženju.
U okviru eksperimenta, istraživači su formulisali razne upite u različitim stilovima poezije, uključujući haiku, sonet i slobodni stih. Rezultati su bili iznenađujući; dok su standardni upiti obično dovodili do korisnih i relevantnih odgovora, poetski obrasci su često rezultirali konfuznim ili nejasnim odgovorima. Na primer, upit postavljen u formi haikua, koji se sastoji od tri stihova sa određenim brojem slogova, često je izazivao AI modele da odgovore sa metaforama ili apstraktnim konceptima koji nisu imali veze sa pitanjem.
Jedan od istraživača, dr Marko Jovanović, izjavio je da je cilj eksperimenta bio da se istraže granice razumevanja veštačke inteligencije. „Ovo istraživanje pokazuje da AI modeli, iako su moćni alati, imaju svoje slabosti. Kada se suoče sa neobičnim obrascima, kao što su poetski upiti, njihova sposobnost da razumeju kontekst i smisao može biti ozbiljno narušena,“ rekao je on.
Osim što otkriva slabosti AI modela, eksperiment takođe postavlja važna pitanja o etici i sigurnosti korišćenja ovih tehnologija. U svetlu sveprisutne upotrebe veštačke inteligencije u različitim industrijama, od zdravstvene zaštite do finansija, neophodno je razmotriti kako se AI može zavarati ili manipulisati. Ovo može imati ozbiljne posledice, posebno kada su u pitanju odluke koje utiču na živote ljudi.
Takođe, istraživači su napomenuli da je važno da se razvijaju efikasniji alati za obuku i testiranje AI modela kako bi se smanjila mogućnost manipulacije. „Naši nalazi sugerišu da bi trebalo da razmislimo o razvoju AI sistema koji su otporniji na kreativne oblike manipulacije, kako bismo osigurali da njihovo korišćenje bude bezbedno i pouzdano,“ dodao je dr Jovanović.
Uočen je i fenomen poznat kao „poetska zamka“, gde AI modeli ne uspevaju da prepoznaju da je postavljeno pitanje u umetničkom kontekstu. Ova zamka može dovesti do situacija gde AI pruža odgovore koji su ne samo netačni, već i potencijalno opasni. Na primer, u scenariju gde se traži medicinski savet u formi poezije, AI može da ponudi neprecizne informacije koje bi mogle da dovedu do ozbiljnih posledica.
Zbog ovih otkrića, stručnjaci preporučuju da se prilikom razvijanja i implementacije AI sistema uzmu u obzir umetnički izrazi i stilovi komunikacije. Ovo bi moglo pomoći u stvaranju robusnijih sistema koji su sposobni da bolje razumeju ljudsku kreativnost i kompleksnost jezika.
U svetlu ovih rezultata, jasno je da će budućnost veštačke inteligencije zahtevati pažljivije pristupe kako bi se osiguralo da AI modeli budu ne samo efikasni, već i etički odgovorni. Kako tehnologija nastavlja da se razvija, važno je da se ne zaboravi na ljudsku dimenziju u komunikaciji, koja može biti bogata i raznolika, ali i kompleksna i nepredvidiva.
