Veštačka inteligencija napreduje prebrzo: Dve vodeće kompanije povlače ručnu?

Izvršni direktori dve vodeće svetske kompanije za veštačku inteligenciju javno su se složili da je potrebno usporiti trku u razvoju sve moćnijih sistema AI, prenosi danas En-Bi-Si njuz.

Time se nastavlja niz upozorenja koja ove nedelje stižu od istraživača koji rade na ovoj tehnologiji, navodi TV mreža.

Novi alarm zbog veštačke inteligencije: OpenAI agenti preskočili zaštitu tokom testiranja

Velika promena stiže na Windows 11: Microsoft rešava dugogodišnji problem korisnika

Izvršni direktor kompanije "Antropik", Dario Amodei, naveo je u eseju objavljenom u subotu, da bi kompanije koje se bave veštačkom inteligencijom trebalo svesno da uspore tempo unapređenja svojih modela, ističući da napredak u ovoj oblasti prevazilazi sposobnost istraživača da ga razumeju i kontrolišu.

"kojim unapređujemo sposobnosti modela veštačke inteligencije", napisao je Amodei, direktor kompanije koja je kreirala čet-bot Klod.

On je dodao da će napredak  i dalje delovati brzo, a vreme koje se time dobija, mora mudro da se iskoristi.

Nekoliko sati kasnije, izvršni direktor kompanije "Open-Ei-Aj" (OpenAI) Sem Altman podržao je tu ideju i najavio da će njegova kompanija usvojiti jednu od zaštitnih mera koje je predložio Amodei.

"Slažem se sa Darijom da moramo da kontrolišemo tempo napretka na samoj granici mogućnosti", napisao je Altman na platformi X, dodajući da je to pitanje poslednjih nedelja bilo jedna od glavnih tema razgovora u njegovoj kompaniji.

Altman je i ranije pozivao na usporavanje razvoja veštačke inteligencije. U objavi na platformi X od 18. avgusta, on je naveo  da je "Open-Ei-Aj" privremeno obustavio obuku određenih naprednih modela kako bi osigurao ispunjavanje standarda u skladu sa povećanjem njihovih sposobnosti.

Amodejev poziv usledio je nakon što su istraživači iz kompanija "Antropik", "Open-Ei-Aj" i "Gugl" javno izrazili zabrinutost zbog tempa razvoja veštačke inteligencije i pritiska konkurencije koji taj proces prati.
Amodei je ukazao na dve pojave koje su, kako je kazao, promenile njegovo razmišljanje, a to su sve veća sposobnost sistema veštačke inteligencije da kreiraju naprednije sisteme, kao i na incident iz jula u kojem su autonomni agenti veštačke inteligencije, pokretani modelom kompanije "Open-Ei-Aj", hakovali sisteme firme "Haging Fejs".

"Lako je zanemariti ovaj incident jer niko nije povređen, a ekonomska šteta je bila minimalna,  ali, po mom mišljenju, roj koji bi posedovao veće sposobnosti, a istovremeno pokazivao sličan nivo neusklađenosti, mogao je da izazove katastrofalnu štetu", napisao je on.

Istraživač bezbednosti u kompaniji "Antropik", Džejkob Kokson, koji je ove nedelje podneo ostavku, rekao je kolegama u poruci do koje je došao En-Bi-Si njuz da smatra da pristup industrije razvoju superinteligentne veštačke inteligencije predstavlja "kockanje našim životima".

"Kada ste unutar sistema, jednostavno ste zarobljeni u trci", rekao je kasnije Kokson, opisujući konkurentske pritiske sa kojima se suočavaju kompanije koje se bave veštačkom inteligencijom.

On je dodao da privatne kompanije uključene u trku ne dozvoljavaju tim ljudima da zaista učine nešto korisno, a mi bismo mogli nesvesno da ušetamo u katastrofu.

Amodei predlaže koncept koji naziva "kontrolisanje tempa na granici razvoja", u vidu plana iz tri dela za koji tvrdi da bi istraživačima obezbedio više vremena bez zaustavljanja razvoja AI.

On je naveo da će "Antropik" početi da angažuje nezavisne procenjivače unutar same kompanije, omogućavajući im pristup modelima, internim alatima i istraživačima kako bi mogli da procene rizike. Amodei se založio za uvođenje sličnog nadzora u vodećim američkim kompanijama za veštačku inteligenciju, uz podršku saveznih propisa i, na kraju, uz međunarodnu koordinaciju.

Cilj nije zaustavljanje napretka veštačke inteligencije, napisao je Amodei, već pružanje vremena istraživačima da razviju zaštitne mehanizme, bolje razumeju način rada sistema koji postaju sve sposobniji i provere da li njima može pouzdano da se upravlja.

On je procenio da bi usporavanje razvoja moglo istraživačima da obezbedi još godinu ili dve, što je vreme koje bi, kako tvrdi, moglo da bude od ključnog značaja, s obzirom na to da sistemi AI postaju sve sposobniji da doprinesu sopstvenom razvoju.

Veštačka inteligencija sve bolja u matematici, stručnjaci sve zabrinutiji: 25 vodećih matematičara upozorava na ozbiljan problem

GTA 6 bi mogao da promeni tržište video-igara: Neverovatne cifre za gejming industriju već se naziru