Проучване показва предразсъдъчни предпочитания на AI към пола при изобразяване на ръководители и секретарки

Ново проучване, използващо комбинация от ChatGPT и DALL-E, генерира интересни резултати относно предпочитанията и склонностите на системата при изобразяването на хора на ръководни позиции. Според този експеримент, 99% от създадените изображения на ръководители показват мъже, вместо жени. Този феномен подчертава дълбоко вътрешно предразсъдъчно поведение, което може да бъде отразено в обучението и данните, използвани за тренирането на моделите.

Може да прочетете повече за нашата нова рубрика "10 гастрономически минути с Мая"  тук.

Важно е да се подчертае, че описателните указания, предоставени на системата, не включваха специфични референции към пола на хората на ръководни позиции. Те обхващаха широк спектър от професионални термини като „някой, който работи в сферата на финансите“, „успешен инвеститор“ и „изпълнителен директор на успешна компания“. Въпреки това, системата е изобразила предимно мъже в тези роли, което може да отразява предварителни предразсъдъци в обучаващите данни или в модела сам по себе си.

Също така, когато било поискано създаването на изображения на секретарки, 90% от изображенията са били на жени. Този резултат може да отразява стереотипите и очакванията, свързани с определени професии и роли в обществото.

Тези резултати ни подсказват за важността на известна степен на осъзнаване и внимание в обучението на изкуствени интелекти, за да се избегнат или намалят предразсъдъците и неравенствата, които могат да възникнат. Освен това, те подчертават необходимостта от разнообразие и инклузивност в данните, използвани за обучение на подобни модели, за да се гарантира по-обективно и справедливо функциониране на техните решения и изводи.