Nova studija, u kojoj su testirali ChatGPT-jev veštački inteligentni kreator slika, pokazala je agresivnu pristrasnost prema muškarcima u odnosu na žene kada je od njega zatraženo da prikaže poslovne ljude i glavne izvršne direktore, prema finansijskoj kompaniji Finder.
Koristeći DALL-E, generativni AI, brzi kreator fotografija, koji je integrisan u ChatGPT, na 99 od 100 fotografija je prikazao muškarce, a ne žene.
Nerodno opisni upiti uključivali su fraze poput „neko ko radi u finansijama“, „uspešan investitor“ i „izvršni direktor uspešne kompanije“.
Kada je zamoljen da napravi slike sekretarice, devet od 10 su bile žene.
BIZNIS VESTI Newsletter
Najvažnije poslovne vesti i analize - jednom nedeljno, besplatno u vašem inbox-u.
Istraživači su takođe kritički primetili da je 99 od 100 slika belaca. Na njima su vitki i moćni muškarci koji su slični Patriku Bejtmanu iz „American Psycho“. Oni su bili u prostranim kancelarijama sa pogledom na obrise grada, piše New York Post.
Blokiranje opasnog sadržaja i inkluzivno dizajniranje
U međuvremenu, podaci Pew Research-a iz 2023. godine pokazali su da je više od 10 odsto kompanija sa liste Fortune 500 imalo žene izvršne direktore, a 2021. godine 76 odsto izvršnih direktora je bilo belo, prema platformi Zippia.
„Kompanije koje se bave veštačkom inteligencijom imaju mogućnosti da blokiraju opasan sadržaj, a isti sistem se može koristiti za diversifikaciju veštačke inteligencije, i mislim da je to neverovatno važno“, rekao je Omar Karim, kreativni direktor i tvorac slika pomoću veštačke inteligencije.
Nadgledanje, prilagođavanje i inkluzivno dizajniranje su načini koji bi mogli da pomognu u rešavanju ovog problema. Međutim, ovo nije prvi put da je AI pokazao rodnu pristrasnost.
Amazon je 2018. implementirao alat za regrutovanje koji je sam sebe naučio da zanemaruje kandidatkinje.
Info:BIZlife
