ChatGPT rodno diskriminiše: Muškarce prikazuje kao direktore, a žene kao sekretarice

ChatGPT rodno diskriminiše

Nova studija, u kojoj su testirali ChatGPT-jev veštački inteligentni kreator slika, pokazala je agresivnu pristrasnost prema muškarcima u odnosu na žene kada je od njega zatraženo da prikaže poslovne ljude i glavne izvršne direktore, prema finansijskoj kompaniji Finder.

Koristeći DALL-E, generativni AI, brzi kreator fotografija, koji je integrisan u ChatGPT, na 99 od 100 fotografija je prikazao muškarce, a ne žene.

Nerodno opisni upiti uključivali su fraze poput „neko ko radi u finansijama“, „uspešan investitor“ i „izvršni direktor uspešne kompanije“.

Kada je zamoljen da napravi slike sekretarice, devet od 10 su bile žene.

Istraživači su takođe kritički primetili da je 99 od 100 slika belaca. Na njima su vitki i moćni muškarci koji su slični Patriku Bejtmanu iz „American Psycho“. Oni su bili u prostranim kancelarijama sa pogledom na obrise grada, piše New York Post.

Blokiranje opasnog sadržaja i inkluzivno dizajniranje

U međuvremenu, podaci Pew Research-a iz 2023. godine pokazali su da je više od 10 odsto kompanija sa liste Fortune 500 imalo žene izvršne direktore, a 2021. godine 76 odsto izvršnih direktora je bilo belo, prema platformi Zippia.

„Kompanije koje se bave veštačkom inteligencijom imaju mogućnosti da blokiraju opasan sadržaj, a isti sistem se može koristiti za diversifikaciju veštačke inteligencije, i mislim da je to neverovatno važno“, rekao je Omar Karim, kreativni direktor i tvorac slika pomoću veštačke inteligencije.

Nadgledanje, prilagođavanje i inkluzivno dizajniranje su načini koji bi mogli da pomognu u rešavanju ovog problema. Međutim, ovo nije prvi put da je AI pokazao rodnu pristrasnost.

Amazon je 2018. implementirao alat za regrutovanje koji je sam sebe naučio da zanemaruje kandidatkinje.

Info:BIZlife



Prijava na newsletter

Pročitajte još: