Когда попросил бота пошутить, а он ответил «Да»: как буквальное мышление нейросетей ставит нас в тупик 🤖

Буквальный ИИ — это феномен работы языковых моделей, при котором алгоритм обрабатывает поверхностную синтаксическую структуру запроса, игнорируя контекст, речевой этикет и прагматику человеческого общения. В результате текстовые нейросети воспринимают вежливые просьбы как закрытые бинарные вопросы, а устойчивые метафоры — как фактологические описания реальности.

«Можешь рассказать анекдот?» — «Могу»: анатомия машинного буквализма

Каждый, кто регулярно использует текстовые нейросети, хотя бы раз сталкивался с ситуацией: открываешь диалог, вежливо печатаешь: «Привет! Не мог бы ты рассказать забавную историю?», а в ответ получаешь исчерпывающее и хладнокровное: «Да, мог бы». После этого чат замирает в ожидании вашей реакции.

Недавние исследования пользовательского опыта взаимодействия с языковыми моделями подтвердили: подобные курьезы случаются постоянно. Пользователи рассчитывают на уровень диалога из фантастических фильмов, а сталкиваются с логикой персонажа из классического ситкома, который понимает всё с точностью до буквы.

С точки зрения математики искусственный интеллект абсолютно прав. Фраза «Можешь ли ты…» грамматически является вопросом о технических способностях собеседника, а не прямой командой к действию. Человеческий мозг мгновенно считывает скрытую просьбу, но алгоритм видит перед собой закрытый вопрос, на который есть всего два логичных ответа: «Да» или «Нет».

Метафоры вышли из чата: когда фразеологизмы становятся диагнозом

Еще веселее общение становится в те моменты, когда в диалог вступают образные выражения, сленг и фразеологизмы. Наше повседневное общение буквально соткано из метафор, однако для алгоритма это минное поле смыслов.

• «У меня кошки на душе скребут» — вместо психологической поддержки бот начинает анализировать зоологические риски и выдает медицинский отчет о вероятных травмах внутренних органов.
• «Я сгорел на работе» — в ответ прилетает подробная инструкция по вызову пожарных служб и лечению ожогов третьей степени.
• «Убей этот процесс» — системная команда, при виде которой алгоритм безопасности иногда паникует и читает лекцию о ценности человеческой жизни.

Подобные нестыковки мгновенно порождают вирусные мемы про роботов. Мы привыкли думать, что суперкомпьютер превосходит нас в аналитике, но в базовой иронии он часто уступает первокласснику.

Почему сверхмощные модели ведут себя как Шелдон Купер

Главная причина таких сбоев кроется в разнице между синтаксисом (структурой языка) и прагматикой (тем, какой смысл люди вкладывают в слова в реальной жизни).

1. Отсутствие интонаций и взгляда. Люди считывают сарказм и скрытые намерения по тону голоса и мимике. Текстовые нейросети лишены этих сенсорных каналов и ориентируются исключительно на голые токены — цепочки букв и символов.
2. Оверфиттинг на безопасность и вежливость. Разработчики усердно обучают ботов не додумывать за пользователя лишнего, чтобы избежать галлюцинаций. Из-за этого искусственный интеллект становится сверхосторожным и предпочитает отвечать строго на заданный вопрос.
3. Ловушка вежливых промптов. Чем длиннее и вежливее ваша преамбула («Будь так добр, если тебе не сложно…»), тем больше шансов запутать математические веса модели и сместить фокус с основного действия на оценку условий задачи.

Как формулировать мысли, чтобы бот не ставил вас в тупик 🚀

Чтобы избавить себя от приступов испанского стыда при виде машинных ответов, достаточно перестроить свои промпты под архитектуру нейросетей:

• Используйте глаголы в повелительном наклонении. Забудьте про конструкции вроде «Не мог бы ты написать…». Пишите прямо: «Напиши сценарий», «Расскажи шутку», «Объясни термин».
• Разделяйте контекст и действие. Если вам нужно передать эмоцию, прямо укажите роль: «Действуй как дружелюбный собеседник с чувством юмора».
• Избегайте редких метафор в технических задачах. Алгоритм гораздо лучше решает проблемы, когда вводные данные описаны точным языком фактов.

Комичные ситуации в общении с технологиями неизбежны, и именно они делают наш опыт взаимодействия с цифровым миром живым и забавным.

Сталкивались ли вы с обескураживающим буквализмом ботов? Делитесь в комментариях самыми смешными ответами, которые вам выдавали нейросети! 👇