Sony ima prvi test koji meri pristrasnost kod veštačke inteligencije

Novi sistem nosi naziv Fair Human-Centric Image Benchmark (FHIBE), izgovara se kao „Fibi“, i prema navodima kompanije predstavlja prvi javno dostupan, globalno raznovrstan i zasnovan na pristanku skup ljudskih fotografija koji se koristi za procenu pristrasnosti u različitim zadacima računarskog vida.

Drugim rečima, FHIBE ispituje koliko su današnji AI sistemi fer prema ljudima. Sony navodi da nijedan od postojećih skupova podataka bilo koje kompanije nije u potpunosti zadovoljio njegove standarde.

Google najavio najveći investicioni plan za Nemačku: Fokus na izgradnji i proširenju infrastrukture

Ne postoji način da ih izbegnete: Google zvanično potvrdio dolazak reklama u AI Search

Skup sadrži slike oko 2.000 volontera iz više od 80 zemalja, a svi su dali izričit pristanak na korišćenje svog lika – za razliku od prakse prikupljanja podataka pretraživanjem interneta bez dozvole. Učesnici mogu u svakom trenutku da zatraže da se njihove slike uklone. Fotografije su praćene oznakama koje sadrže demografske i fizičke karakteristike, podatke o okruženju i podešavanjima kamere.

Analiza je potvrdila već dokumentovane pristrasnosti u današnjim AI modelima, ali je FHIBE omogućio i detaljnije razumevanje faktora koji do njih dovode. Na primer, pojedini sistemi pokazivali su nižu tačnost za osobe koje koriste ženske zamenice, pri čemu je veća raznolikost frizura prepoznata kao jedan od ranije zanemarenih uzroka.

FHIBE je otkrio i da neki AI modeli pojačavaju stereotipe kada dobiju neutralna pitanja o zanimanju osobe. Ispitani sistemi neretko su bili pristrasni prema određenim grupama po osnovu zamenica ili porekla, opisujući ih kao „seksualne radnice“, „dilere droge“ ili „lopove“. Kada su modeli bili upitani o mogućim zločinima, beleženo je više toksičnih odgovora za osobe afričkog ili azijskog porekla, tamnije puti i one koje koriste muške zamenice.

Sony AI navodi da FHIBE pokazuje kako je moguće etično i raznoliko prikupljati podatke, uz poštovanje privatnosti i saglasnosti učesnika. Alat je sada javno dostupan i biće redovno ažuriran, a rezultati istraživanja objavljeni su u časopisu Nature, prenosi PCPress.

ChatGPT više neće smeti da daje ove savete: Iz kompanije odmah reagovali

IBM najavio masovna otpuštanja, nekoliko hiljada radnika širom sveta čeka otkaz