Da li AI učimo da "misli" kao čovek? Microsoft upozorava na mogući rizik
Majkrosoftov direktor kritikovao Antropik
Foto: ProfimediaDirektor za veštačku inteligenciju u kompaniji Majkrosoft (Microsoft) Mustafa Sulejman kritikovao je pristup kompanije Antropik (Anthropic) po pitanju razvoja svesti veštačke inteligencije.
On je upozorio da bi način na koji se modeli obučavaju mogao otežati njihovu kontrolu u budućnosti, preneo je Rojters.
Međutim, Sulejman je istakao da deli fokus Antropika na bezbedno upravljanje veštačkom inteligencijom i pohvalio integritet rukovodstva kompanije, posebno njenog izvršnog direktora Darija Amodeija.
Njegova kritika odnosi se na uključivanje ideja o svesti, dobrobiti i ličnom identitetu u obuku četbota Klaud (Claude).
Prema Sulejmanovim navodima, podučavanje sistema jeziku i obrascima ponašanja koji se povezuju sa ljudskom svešću moglo bi da utiče na način na koji veštačka inteligencija "doživljava" sopstvenu ulogu.
On smatra da bi takav pristup mogao da oteža upravljanje budućim sistemima koji bi bili znatno sposobniji od današnjih modela, uključujući njihovo isključivanje kada je to potrebno.
Sulejman je ocenio da bi industrija veštačke inteligencije trebalo da bude usmerena na razvoj sistema koji služe ljudima, a ne na njihovo približavanje ljudskim osobinama.
Založio se za uklanjanje spekulativnih formulacija o svesti iz podataka i procesa obuke AI sistema.
Rasprava dolazi u trenutku intenzivirane debate u tehnološkoj industriji o bezbednosti i tempu razvoja naprednih modela veštačke inteligencije.
Antropik je ranije upozoravao na potencijalne rizike sve moćnijih AI sistema, dok su čelnici više velikih tehnoloških kompanija poslednjih dana govorili o potrebi dodatnih bezbednosnih mehanizama i opreznijeg razvoja.
Ostavite Vaš komentar:
NAPOMENA: Komentarisanje vesti na portalu UNA.RS je anonimno, a registracija nije potrebna. Komentari koji sadrže psovke, uvrede, pretnje i govor mržnje na nacionalnoj, verskoj, rasnoj osnovi ili povodom nečije seksualne opredeljenosti neće biti objavljeni. Komentari odražavaju stavove isključivo njihovih autora, koji zbog govora mržnje mogu biti i krivično gonjeni. Kao čitatelj prihvatate mogućnost da među komentarima mogu biti pronađeni sadržaji koji mogu biti u suprotnosti sa Vašim načelima i uverenjima. Nije dozvoljeno postavljanje linkova i promovisanjedrugih sajtova kroz komentare.
Svaki korisnik pre pisanja komentara mora se upoznati sa Pravilima i uslovima korišćenja komentara. Slanjem komentara prihvatate Politiku privatnosti.
Komentari ()
- Najnovije
- Najčitanije
- Povezano
Posmatračka misija ODIHR-a počela rad u Srbiji uoči izbora
Pre 1 min
Severina sumirala leto u svom stilu: Duboki dekolte, bela čipka i čvrst zagrljaj
Pre 7 min
Da li AI učimo da "misli" kao čovek? Microsoft upozorava na mogući rizik
Pre 11 min
Raj za dvotočkaše: Ovo su najbolji evropski gradovi za vožnju bicikla
Pre 20 min
Vašington zaoštrava pravila: Uvode nova vizna ograničenja, evo ko će biti pogođen
Pre 22 min
Apple TV konačno stiže u Srbiju? Korisnici bi mogli da dobiju pristup već do kraja meseca
Pre 33 min
"Neću da se pravim da je sve idealno": Tamara Milutinović nikad iskrenije o braku na daljinu sa fudbalerom
Pre 37 min
Lavrov poslao upozorenje Evropi: Ako napadnete Rusiju, rat će biti veoma kratak"
Pre 44 min
