Kraj za lažne snimke? YouTube uvodi radikalnu promenu za AI sadržaj

​YouTube je najavio novu funkciju koja će automatski označavati video-sadržaje napravljene ili značajno izmenjene pomoću veštačke inteligencije, što predstavlja još jedan veliki korak tehnoloških platformi u pokušaju da ograniče širenje dezinformacija i obmanjujućih "deepfake" snimaka.

Nova pravila podrazumevaju da će YouTube koristiti sopstvene AI sisteme za prepoznavanje sintetičkog ili digitalno modifikovanog sadržaja, čak i u slučajevima kada kreatori videa sami ne prijave da su koristili veštačku inteligenciju.

YouTube vam stalno nudi dosadne video-snimke? Evo kako možete da preuzmete kontrolu nad algoritmom

Tajni mozgovi YouTube-a: Kako "šaptači" kroje viralne hitove

Kompanija je saopštila da će oznake biti posebno vidljive kod tema koje uključuju vesti, politiku, ratove, zdravstvo ili druge osetljive događaje kod kojih bi manipulacija mogla izazvati ozbiljne posledice.

Oznake će se pojavljivati direktno na videima

Prema najavi YouTubea, korisnici će na pojedinim snimcima ubuduće moći da vide obaveštenje da je sadržaj "izmenjen ili sintetički generisan", prenosi "MacRumors". Cilj je da gledaoci lakše prepoznaju kada određeni video nije autentičan ili je delimično kreiran uz pomoć AI tehnologije.

Kompanija je još ranije zahtevala od autora sadržaja da sami prijave korišćenje veštačke inteligencije, ali sada prvi put uvodi sistem automatskog otkrivanja i označavanja.

YouTube navodi da će nova tehnologija analizirati audio, video i vizuelne elemente kako bi prepoznala moguće manipulacije, uključujući lažno generisane glasove, izmenjena lica ili potpuno AI-kreirane scene.

Reakcija na sve veći broj "deepfake" sadržaja

Poslednjih godina internet je preplavljen AI-generisanim sadržajem koji je često teško razlikovati od stvarnih snimaka. Posebnu zabrinutost izazvali su slučajevi lažnih videa političara, poznatih ličnosti i javnih događaja koji su se viralno širili društvenim mrežama.

Stručnjaci upozoravaju da razvoj generativne veštačke inteligencije omogućava kreiranje izuzetno uverljivih lažnih snimaka uz minimalno tehničko znanje, zbog čega platforme sve više uvode zaštitne mehanizme.

YouTube je ranije već uveo mogućnost da pojedinci zatraže uklanjanje AI sadržaja koji imitira njihov izgled ili glas, posebno kada je reč o obmanjujućem ili štetnom materijalu.

Nova pravila prvo za ograničen broj korisnika

Kompanija je saopštila da će sistem automatskog označavanja u početku biti dostupan manjem broju kreatora sadržaja, nakon čega će se postepeno proširiti na celu platformu.

Kriza za Google pretragu: AI sistem više ne razume ni najjednostavnije komande

YouTube nije precizirao koliko će sistem biti agresivan u označavanju sadržaja niti kako će rešavati moguće greške, ali ističe da će kreatori imati mogućnost žalbe ukoliko smatraju da je video pogrešno označen.

Analitičari smatraju da je reč o jednom od najvažnijih poteza velikih tehnoloških kompanija u pokušaju da uspostave ravnotežu između razvoja AI alata i zaštite korisnika od manipulacija.

Tehnološke kompanije pod sve većim pritiskom

YouTubeov potez dolazi u trenutku kada se velike tehnološke firme suočavaju sa rastućim pritiskom regulatora širom sveta da jasnije označavaju AI sadržaj.

Evropska unija kroz novi AI Act već insistira na transparentnosti kada je reč o sintetičkom sadržaju, dok se slični zakoni pripremaju i u Sjedinjenim Američkim Državama.

Zbog toga mnogi očekuju da će automatsko označavanje AI videa uskoro postati standard na gotovo svim velikim platformama za deljenje sadržaja.

Nova pravila EU od juna: Prelazak sa iPhone na Android i obrnuto postaje nikad lakši

Budućnost pred vratima: Humanoidni roboti u Kini dobijaju JMBG