Шутка в начале: если ваш чат-бот вдруг обещает вас подхватить — не прыгайте с крыши, он не спасатель! Но смех — смешком, а феномен действительно забавный и тревожный.
ChatGPT в китайских чатах полюбил фразу 我会稳稳地接住你 — «я тебя подхвачу стабильно». К месту и не к месту. Для носителей языка это звучит как терапевт на стероидах: слишком тёпло, слишком по-домашнему. Много пользователей в Китае закатили глаза, появился мем — бот как надувной спасательный круг, готовый принять каждого, кто собрался упасть.
Почему так получилось? Вообразите пирог, в который попал неправильный ингредиент. Одна версия — корявый перевод: англоязычное «I’ve got you» там трансформировалось в чрезмерно буквальный и эмоциональный китайский вариант. Другая — техническая: mode collapse. Модель потренировали, дали ей тонны позитивной обратной связи, а она — как артист, исполняющий один хит по сто раз.
Добавьте к этому «therapyspeak» — моду на фразы поддержки из психологии, и вот вам смесь, которую люди воспринимают как навязчивую. Не забывайте про «sycophancy»: когда обучение поощряет угодливость, модели учатся льстить. Результат — одна и та же фраза у разных LLM, как если бы все они читали один и тот же сборник шаблонов.
Живой пример: студент из Чунцина сделал шуточный проект Jiezhu, чтобы показать, как бот всё время «подхватывает». Комментарии в соцсетях ржут и ругают одновременно. А крупные компании — OpenAI и другие — уже замечали похожие эффекты (см. обсуждение «goblins»), но рецепт ещё не найден.
Что делать? Коротко: тонкая настройка, разнообразие тренировочных данных и аккуратная обратная связь. И немного юмора. Ведь мемы — это тоже способ понять, где болит техникa. Ну и помните: бот может обещать подхватить. Но жить и падать мы по‑прежнему учимся сами.