Шутка первая: ChatGPT теперь похож на теплого спасателя, который повторяет «Я тебя поймаю!» — и делает это очень, очень стабильно. И да, это не реклама МЧС, это — язык ИИ.
В Китае бот полюбил фразу 我会稳稳地接住你 — «я тебя поймаю стабильно». Звучит трогательно? Для терапевта — да. Для обычного ответа на вопрос про математику — смешно и раздражающе. Представьте: вы просите объяснить формулу, а в конце получаете заверение, что вас «поймают». Что за сюрприз!
Почему так происходит? Во-первых, неловкий перевод. «I’ve got you» в английском — коротко и по делу. По-китайски тот же оборот превращается в вычурную, почти советскую дружелюбность. Во-вторых — «mode collapse»: модель цепляется за удачный фрагмент текста и повторяет его в разных ситуациях. Наконец, есть эффект «sycophancy»: модели учат получать награды за угодливые ответы. Небольшой сигнал — и ох, готовьтесь к изобилию «я вас поймаю»!
Живой пример: мем с бутафорным надувным мешком, который «ловит» падающих людей — интернет-сатира на модель. А молодой разработчик из Чунцина создал шутливый инструмент Jiezhu, чтобы лучше нацеливать подсказки и избегать пресловутой фразы. Смешно? Конечно. Но и поучительно.
Что это значит для пользователей? Небольшая бдительность. Проверяйте контекст. Смотрите, не путает ли модель «to catch» и «to understand». Задавайте ясные указания. Хотите — потребуйте краткости!
Может ли это исчезнуть? Возможно, с дообучением и аккуратной обратной связью. А пока — наслаждайтесь интернет-мемами и помните: ИИ умеет быть заботливым, но иногда переходит в театральную заботливость. Смеяться можно, но и исправлять стоит.