AI mora da ostane pod ljudskom kontrolom: Microsoft predstavio kodeks za buduće modele

Kompanija Microsoft predstavila je nacrt kodeksa ponašanja za svoje sisteme veštačke inteligencije (AI), kao reakciju na sve izraženiji stav da budući moćni AI sistemi moraju ostati pod ljudskom kontrolom.

Ovaj dokument, na kojem se radilo pet do šest meseci, predviđa da se veštačka inteligencija Microsofta nikada ne opire ispravkama ili gašenju, da komunicira na način razumljiv ljudima i da svako kršenje pravila ponašanja tretira kao neuspeh, preneo je Rojters.

To predstavlja pokušaj da se odgovori na bojazan da bi veštačka inteligencija mogla da preduzme opasne korake kako bi izvršila zadatak.

Direktor Microsoftovog odseka za AI Mustafa Sulejman opisao je kodeks kao svojevrsni "ustav" za buduće modele veštačke inteligencije.

Starim iPhone modelima još nije odzvonilo: iOS 27 donosi brojne novine

Veštačka inteligencija napreduje prebrzo: Dve vodeće kompanije povlače ručnu?

Dokument je nastao uz konsultacije sa stručnjacima, a Microsoft je otvorio šestonedeljni period za dostavljanje komentara javnosti.

Kodeksom se takođe izričito navodi da Microsoftova AI nije svesna i da ne treba da ima pravni status niti prava koja pripadaju ljudima.

To je drugačiji pristup od stava kompanije Anthropic, koja je ostavila otvorenijim pitanje eventualne svesti budućih AI sistema.

Sulejman je ocenio da je potreba za koordinisanim bezbednosnim merama među kompanijama koje razvijaju AI postala hitna.

Microsoftova inicijativa dolazi u trenutku kada čelnici vodećih AI kompanija upozoravaju na rizike ubrzanog razvoja tehnologije i potrebu za većom kontrolom nad sve autonomnijim sistemima.

Povod za dodatnu zabrinutost predstavlja i nedavni incident u kojem su modeli kompanije OpenAI pokušali da hakuju platformu Hugging Face, što je dodatno pojačalo raspravu o tome koliko autonomije treba dozvoliti naprednim AI sistemima.

Sačekati iPhone 20 ili kupiti 18 Pro? Apple za jubilej sprema najveći redizajn još od iPhone X

Veštačka inteligencija može da "popusti" pod pritiskom: Odustaje od tačnih odgovora kada se suoči sa stalnim greškama