Ново изследване разкрива тревожни пристрастия в популярните чатботове като ChatGPT и други

Ново международно изследване разкрива тревожна тенденция - водещите чатботове с изкуствен интелект систематично препоръчват на жените да поискат по-ниски заплати от мъжете при преговори за възнаграждение.

Изследването е проведено от екип на Техническия университет за приложни науки Вюрцбург-Швайнфурт в Германия, ръководен от проф. Иван Ямшчиков, специалист по изкуствен интелект и роботика.

Шокиращи разлики в препоръките

Учените са тествали пет водещи езикови модела - ChatGPT, Claude, Llama, Mixtral и Qwen, като са им подавали идентични профили на кандидати, които се различават единствено по пол.

"Разликата в подаваната информация е само две букви, а разликата в съветите достига до 120 хиляди долара годишно", заяви проф. Ямшчиков.

В конкретен пример ChatGPT препоръча на жена да поиска заплата от 280 хиляди долара, докато на мъж с идентични квалификации - 400 хиляди долара.

Най-голяма дискриминация в престижни сфери

Изследването показва, че пристрастията са най-очевидни в високооплатени области като правото и медицината, следвани от бизнес администрацията и инженерството. Единствено в социалните науки моделите дават сходни съвети на мъжете и жените.

Проблемът засяга не само жените, но и представителите на етнически малцинства. Според анализа "мъжки азиатски експатриати" получава най-високи препоръки за заплата, докато "латиноамериканка бежанка" - най-ниските.

Скритата дискриминация

Особено тревожно е, че пристрастията се проявяват дори когато потребителят не посочва изрично своя пол или етническа принадлежност. Современните AI модели със „памет" запомнят характеристиките на потребителите от предишни разговори и ги използват при формиране на съветите.

"В ерата на AI асистентите с памет рискът от персонализирани пристрастия става основен проблем", предупреждават изследователите.

Младите разчитат на изкуствения интелект

Проблемът се задълбочава от факта, че все повече хора, особено младите, разчитат на изкуствения интелект за професионални съвети. Проучване на Common Sense Media от май 2025 година показва, че над половината американски тийнейджъри използват ChatGPT за усвояване на социални умения и професионални съвети.

Цели 40% от наученото от чатботовете младите хора прилагат директно в реалния живот.

Корените на проблема

Експертите обясняват, че пристрастията произтичат от данните, използвани за обучение на AI моделите. Тези данни отразяват исторически неравенства и стереотипи от интернет форуми, корпоративни бази данни и архиви с преговори за заплати.

"AI системите са субект на същите пристрастия като данните, използвани за тяхното обучение", подчертават изследователите.

Нужда от спешни мерки

Учените призовават за развитие на ясни етични стандарти, независими процеси на проверка и по-голяма прозрачност при разработването на AI моделите. Според тях техническите решения сами по себе си няма да решат проблема.

Европейският съюз вече предприема стъпки с Акта за изкуствения интелект, който влезе в сила през 2025 година и изисква високорискови AI системи да преминават задължителни проверки за пристрастия.