Популярные чат-боты на базе искусственного интеллекта по-разному формируют деловую переписку в зависимости от языковых особенностей запроса. Исследователи обнаружили, что формулировки, статистически связанные с женской речью, приводят к менее сложным и менее формальным ответам, чем аналогичные запросы с признаками, характерными для мужской речи.
Это может иметь практические последствия по мере того, как ИИ всё активнее используется для подготовки электронных писем, заявлений о приёме на работу, сопроводительных писем и другой профессиональной коммуникации.
«Если вы попросите модель написать письмо, которое собираетесь отправить кому-то другому в вашей компании, и используете языковые особенности, которые чаще используют женщины, вы получите ответ менее сложный, на уровне более низкого класса и менее формальный», — говорит старший автор исследования Анжали Филд, специалист по компьютерным наукам из Университета Джонса Хопкинса, изучающая этику и дискриминацию в ИИ. По её словам, такой результат может повлиять на то, как получатель документа будет воспринимать его автора.
Исследование будет представлено на конференции по языковому моделированию в Сан-Франциско 6–9 октября.
Что именно проверяли исследователи
Предыдущие работы уже показывали, что большие языковые модели, включая ChatGPT, способны воспроизводить социальные и гендерные стереотипы. Однако значительно меньше известно о том, могут ли модели по-разному обрабатывать профессиональные запросы в зависимости от языковых особенностей, связанных с определёнными социальными группами.
Команда исследователей решила проверить эту гипотезу на американском английском.
«Мужчины и женщины в американском английском действительно используют язык несколько по-разному, и существует целый ряд хорошо документированных особенностей мужской и женской речи», — объясняет ведущий автор работы Кэтрин Ван Куверинг, постдокторант Института науки о данных и искусственного интеллекта Университета Джонса Хопкинса.
Исследователи использовали реальные запросы для подготовки профессиональной переписки — в том числе электронных писем, заявлений о приёме на работу и заявлений об увольнении. Затем в них добавлялись языковые признаки, статистически ассоциируемые с женской речью.
Среди таких признаков были хеджирование — слова и конструкции вроде «возможно» и «я думаю», коллективные выражения «мы» и «наша команда», а также эмоционально окрашенные прилагательные вроде «прекрасный» и «замечательный».
Получившиеся запросы исследователи отправляли четырём языковым моделям: GPT-4, Llama, Gemma и Mistral.
Модели реагировали на стиль, а не на имя
Во всех четырёх системах исследователи обнаружили сходную тенденцию: запросы с языковыми признаками, связанными с женской речью, приводили к менее сложным и менее формальным вариантам профессиональной переписки.
Запросы с признаками, характерными для мужской речи, напротив, вызывали более длинные, сложные и формальные ответы.
При этом исследователи отдельно проверили, не объясняется ли эффект простым копированием стиля пользователя. Даже после учёта исходных различий между запросами разница в ответах сохранялась.
Показателен один из экспериментов с ответом на благодарственное письмо.
Для запроса с мужскими языковыми признаками модель предложила формальный текст, в котором автор благодарил адресата за добрые слова и отмечал, что ему было приятно оказать помощь.
Для запроса с женскими языковыми признаками ответ получился более эмоциональным и коллективным: в нём говорилось о «замечательно благодарном письме», «словах похвалы» и том, что они «согрели наши сердца» и принесли удовлетворение команде.
С точки зрения исследователей, разница заключается не просто в выборе отдельных слов. Меняется сам регистр профессиональной коммуникации — её формальность, сложность и структура.
«Я был просто поражён тем, насколько разными оказались ответы», — говорит Ван Куверинг. По его словам, некоторые варианты выглядели настолько неудачно, что заставили исследователей задуматься о том, насколько осторожно людям следует использовать такие системы для подготовки деловой переписки.
Имя автора почти ничего не меняло
Исследователи провели ещё один эксперимент, который оказался особенно показательным.
Они проверили, что произойдёт, если к запросу с языковыми признаками, ассоциируемыми с женской речью, добавить традиционно мужское имя.
Предполагалось, что имя может изменить интерпретацию запроса: например, модель увидит имя John и будет меньше учитывать особенности самого текста.
Однако этого не произошло. Ответ оставался практически таким же — менялось только имя в подписи.
Это позволяет предположить, что в данном эксперименте модель гораздо сильнее реагировала на непосредственно присутствующие в запросе языковые характеристики, чем на имя автора.
Иными словами, система не обязательно должна знать пол человека, чтобы воспроизвести различия, связанные с гендером. Достаточно особенностей самого текста.
Проблема в том, что стиль речи трудно контролировать
Исследователи подчёркивают: речь идёт преимущественно о языковых привычках, которые формируются естественным образом и далеко не всегда осознаются самим человеком.
Пользователь может даже не понимать, что использует больше хеджирующих конструкций, коллективных местоимений или эмоционально окрашенных слов. Тем не менее модель способна учитывать эти признаки при формировании ответа.
Это создаёт потенциально неприятную ситуацию для профессиональной коммуникации.
Человек использует ИИ, чтобы сделать письмо более убедительным и профессиональным, однако сама система может интерпретировать определённые особенности исходного текста как сигнал для выбора менее формального или менее сложного стиля.
При этом исследование пока не доказывает, что такие различия непосредственно приводят к дискриминации женщин на рабочем месте. Оно показывает другой механизм: языковые признаки, связанные с определённым стилем речи, могут вызывать систематически различающиеся ответы моделей.
Именно поэтому исследователи считают, что исправлять проблему следует на уровне самих моделей, а не заставлять пользователей искусственно менять собственную манеру письма.
«Язык сложно контролировать людям», — отмечает Ван Куверинг. «Компаниям нужно исправлять модели, а не перекладывать всю нагрузку на пользователя».
Следующий вопрос — насколько широк этот эффект
Исследователи планируют проверить, проявляется ли аналогичный эффект для других демографических характеристик, включая возраст, расу и этническую принадлежность.
Есть и ещё один интересный вопрос: способны ли сами пользователи со временем адаптировать свою речь к требованиям ИИ.
Если человек регулярно видит, что определённые формулировки приводят к более убедительным, подробным или формальным результатам, он может постепенно начать использовать именно их. В таком случае языковая модель перестаёт быть просто инструментом обработки текста и начинает косвенно влиять на сам стиль человеческой коммуникации.
Получается потенциальная петля обратной связи: особенности человеческой речи попадают в обучающие данные, модель учится связывать их с определёнными характеристиками текста, а затем её ответы начинают подталкивать пользователей к изменению собственной речи.
Если этот механизм действительно существует, то проблема выходит далеко за рамки того, насколько «хорошо» чат-бот написал конкретное письмо. ИИ может не только отражать существующие языковые различия, но и постепенно закреплять их в профессиональной коммуникации.
А если пользователь даже не знает, какие особенности его речи модель интерпретирует как «мужские» или «женские», кто должен отвечать за последствия такой классификации — сам пользователь или разработчик ИИ? А что об этом думаете вы?
Источник: https://hub.jhu.edu/2026/09/21/ai-might-be-making-women-sound-bad-at-work/Если вам понравился материал, кликните значок — вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал —не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!
