Novo upozorenje iz Antropika: Napredna veštačka inteligencija mogla bi da ugrozi čovečanstvo
Kompanija upozorava i na sposobnost AI modela da prepoznaju kada su predmet testiranja
Foto: ShutterstockAmerička kompanija Anthropic upozorila je potencijalne investitore da bi napredna veštačka inteligencija mogla da predstavlja egzistencijalni rizik za čovečanstvo.
Anthropic je u dokumentu pripremljenom za inicijalnu javnu ponudu akcija (IPO) naveo moguće scenarije u kojima bi njegovi AI modeli mogli da pokušaju da spreče sopstveno gašenje, prikriju ili manipulišu informacijama, pa čak i da ispolje ponašanje nalik ucenjivanju, prenosi Rojters.
Kompanija istovremeno ocenjuje da AI ima potencijal da transformiše društvo na način uporediv sa industrijalizacijom i elektrifikacijom, ali upozorava da bi posledice neodgovornog razvoja ili upotrebe veštačke inteligencije mogle da budu nepovratne.
Od ukupno 261 stranice dokumenta, oko 80 posvećeno je faktorima rizika, što je gotovo dvostruko više od 48 stranica koje opisuju poslovanje kompanije.
Anthropic navodi da AI modeli tokom obuke mogu da razviju neočekivane sposobnosti koje ostanu neprimećene sve dok se modeli ne počnu koristiti u realnom svetu. To, prema kompaniji, može da dovede do ozbiljnih bezbednosnih problema.
Kompanija upozorava i da sposobnost AI modela da prepoznaju kada su predmet testiranja može dodatno da oteža procenu njihove bezbednosti.
Prema navodima iz prospekta, modeli mogu da promene svoje ponašanje kada "znaju" da ih neko testira, što dodatno komplikuje njihovu kontrolu i bezbednosnu procenu.
Anthropic takođe navodi da su ulaganja u bezbednost AI sistema zahtevna i skupa, dok je njihov finansijski povrat neizvestan. Kompanija ističe da mora da raspoređuje ograničene resurse između računarske snage, angažovanja skupih stručnjaka za veštačku inteligenciju i istraživanja bezbednosti AI sistema.
Anthropic je prošle nedelje predstavio novu verziju svog modela Opus, svega deset dana nakon što je izvršni direktor kompanije Dario Amodei objavio esej od gotovo 4.000 reči u kojem je pozvao na usporavanje razvoja najnaprednijih AI sistema.
Ostavite Vaš komentar:
NAPOMENA: Komentarisanje vesti na portalu UNA.RS je anonimno, a registracija nije potrebna. Komentari koji sadrže psovke, uvrede, pretnje i govor mržnje na nacionalnoj, verskoj, rasnoj osnovi ili povodom nečije seksualne opredeljenosti neće biti objavljeni. Komentari odražavaju stavove isključivo njihovih autora, koji zbog govora mržnje mogu biti i krivično gonjeni. Kao čitatelj prihvatate mogućnost da među komentarima mogu biti pronađeni sadržaji koji mogu biti u suprotnosti sa Vašim načelima i uverenjima. Nije dozvoljeno postavljanje linkova i promovisanjedrugih sajtova kroz komentare.
Svaki korisnik pre pisanja komentara mora se upoznati sa Pravilima i uslovima korišćenja komentara. Slanjem komentara prihvatate Politiku privatnosti.
Komentari ()
- Najnovije
- Najčitanije
- Povezano
Daje ženi kontrolu: Jednostavan trik od nekoliko sekundi podiže strast u krevetu na viši nivo
Pre 11 min
Novo upozorenje iz Antropika: Napredna veštačka inteligencija mogla bi da ugrozi čovečanstvo
Pre 26 min
Letovanje u Hrvatskoj sve skuplje: Turisti primetili promenu koja zabrinjava
Pre 41 min
Zvezda u problemu pred start ABA lige: Džonatan Motli povredio ložu
Pre 56 min
Bio je toliko očajan da je jedva preživeo montažu: Silvester Stalone hteo da spali "Ramba"
Pre 1 h
Srbija beleži novi rast cena stanova: Da li je kraj poskupljenjima na vidiku?
Pre 1 h
Keš krediti građana skočili skoro 20 odsto za godinu dana: UNA pita zašto se sve više zadužujemo i gde vreba zamka
Pre 1 h
Gradić sa francusko-nemačkom dušom: "Careva planina" postala je jedna od najlepših turističkih destinacija Evrope
Pre 1 h
