Заблудились в трех соснах: как нейросети хотели победить стереотипы, но случайно стёрли женских персонажей из сказок

Алгоритмы генерации текстов при попытке избежать социальных стереотипов нередко сталкиваются с неожиданными системными перекосами. Исследование ученых из Вашингтонского университета, опубликованное в августе 2026 года, показало: при анализе 23 800 сказок, созданных ведущими ИИ-моделями, 57% персонажей-животных оказались гендерно-нейтральными («оно»), 41% — мужскими, и только 2% получили женские роли. Подобные ошибки ИИ возникают из-за конфликта между жесткими фильтрами безопасности и базовыми обучающими данными.

Хотели как лучше, а получилось как всегда — это идеальное описание того, как современные языковые модели пытаются писать детские истории. Стремясь угодить всем цензорам, разработчики перегнули палку, и в итоге генерация сказок превратилась в наглядное пособие по тому, как алгоритмы переусложняют простейшие задачи. 🚀

Операция «Нейтрализация»: как «оно» захватило сказочный лес

Представьте классический сюжет: волшебный лес, хитрая Лиса, трусливый Заяц и мудрая Сова. Но если за дело берется современная нейросеть с максимальным уровнем защиты от потенциальных жалоб, привычная история превращается в абсурд.

Масштабный анализ почти 24 тысяч детских историй выявил комичную закономерность. Алгоритмы, пытавшиеся обойти любые намеки на гендерные стереотипы (например, «почему Лиса обязательно хозяйка, а Волк — разбойник?»), приняли самое безопасное, с их точки зрения, решение: просто лишить персонажей какого-либо пола.

В итоге больше половины зверей в сгенерированных историях стали обозначаться местоимением «оно». Еще 41% персонажей по инерции остались мужскими — вероятно, сыграло роль засилье классических текстов в обучающих датасетах. А вот женским персонажам достались скромные 2%. Похоже, нейросети решили, что прописать женский персонаж и не схватить при этом критику за стереотипность — задача слишком сложная, поэтому проще отказаться от этой идеи вовсе.

Почему алгоритмы путаются в собственных инструкциях

В мире IT подобные