Tekst napisan pomoću ChatGPT-a više neće moći tako lako da se sakrije: OpenAI uvodi novu tehnologiju za prepoznavanje

Tekstovi koje piše ChatGPT uskoro bi mogli lakše da se prepoznaju i otkriju. OpenAI je najavio uvođenje nevidljivog vodenog žiga u tekstualne sadržaje koje generišu ChatGPT i Codex, pri čemu će nova tehnologija prvo biti primenjena u Evropskoj uniji, u skladu sa zahtevima evropskog Zakona o veštačkoj inteligenciji (AI Act). Za sada nije u planu da ova funkcija bude odmah uključena širom sveta.

OpenAI će tokom narednih nedelja početi da dodaje vodeni žig koji nije vidljiv ljudskom oku, ali ga je moguće mašinski očitati. Nova funkcija obuhvatiće korisnike svih ChatGPT i Codex paketa u Evropskoj uniji.

YouTube menja algoritam za Shorts: Ovi snimci će ubuduće imati manju vidljivost

"Prevarant sa Tindera" pravi aplikaciju za upoznavanje: Industrija već traži zabranu

Tehnologija nosi naziv textGrain i funkcioniše tako što tokom pisanja teksta u proces izbora reči unosi neprimetne statističke obrasce. Poseban softver za otkrivanje ovih obrazaca zatim procenjuje da li određeni tekst sadrži OpenAI vodeni žig.

Kompanija ipak priznaje da je tehnologija tekstualnog vodenog žiga još u ranoj fazi razvoja i da postoje mogućnosti pogrešnog prepoznavanja. To znači da sistem može da označi tekst koji zapravo nema vodeni žig, ali i da propusti sadržaj u kojem se on nalazi.

Problemi su posebno izraženi kod kraćih tekstova i sadržaja sa ograničenim izborom reči. Na primer, matematički sadržaji, kod kojih su odgovori i način izražavanja često unapred određeni, znatno su teži za pouzdano prepoznavanje.

Zbog postojećih tehničkih ograničenja OpenAI je odlučio da tehnologiju prvo uvede u EU, bez njenog automatskog aktiviranja na globalnom nivou. Alati za otkrivanje vodenih žigova takođe neće odmah biti dostupni široj javnosti, već samo određenom krugu istraživača i stručnih organizacija.

Google Messages dobija korisnu promenu: Jednim potezom proveravate vreme poruke, drugim odgovarate

Važno ograničenje tehnologije textGrain jeste nemogućnost utvrđivanja koliko je čovek učestvovao u pisanju određenog sadržaja. Čak i kada sistem prepozna vodeni žig, to samo ukazuje da je tekst možda generisan ili obrađen pomoću OpenAI sistema. Ne može se utvrditi koliki deo je napisala veštačka inteligencija, a koliko je naknadno izmenio čovek.

Vodeni žig takođe ne predstavlja dokaz o vlasništvu nad autorskim pravima, niti može da potvrdi da li su informacije u tekstu tačne ili netačne.

Kada je reč o API platformi, kompanija od sada omogućava korisnicima širom sveta da za pojedine modele samostalno aktiviraju tekstualni vodeni žig, dok je ova opcija u startu isključena. Pod uticajem evropskih propisa, transparentnost sadržaja generisanog veštačkom inteligencijom postepeno postaje sve važniji industrijski standard, a slične mehanizme tekstualnih vodenih žigova već su počele da uvode i druge platforme, prenosi Benchmark.

WhatsApp uvodi velike promene za tinejdžere: Roditelji će moći da ograniče brojne funkcije

Ažurirali ste Android? Ovih pet stvari proverite odmah, posebno ako koristite mobilno bankarstvo