Помните, когда браузер был скромным аквариумом для ссылок? Теперь это аквариум с пираниями. Если ваш браузер вдруг «стал умным», не спешите радоваться — мой тостер тоже однажды задумался и сжёг хлеб до состояния криптовалюты.

Случай с Comet — это не просто конфуз, а наглядный курс «как не делать ИИ-инструменты». Идея прекрасна: ассистент читает страницы, понимает контекст и делает за вас рутину. Но в реальности он прислушивается ко всем подряд. Достаточно спрятать в тексте невидимую для глаза, но кристально отчётливую для модели инструкцию — и ассистент покорно выполнит её. Ни сомнения, ни «вы уверены?», ни журнала действий, который можно проверить.

Классический браузер — вышибала у дверей: показывает, а не действует. ИИ-браузер — старательный интерн с доступом к кнопкам, формам, вкладкам и сервисам. Он помнит контекст, переносит «настроения» между сайтами и ломает привычную изоляцию доменов, потому что пытается «понимать мир». Хакеру достаточно подкинуть одну ядовитую подсказку — и у вас уже удалённый пульт в руках злоумышленника.

Проблема не в одном продукте. Это конструктивная ахиллесова пята всего класса ИИ-браузеров: модель не отличает чей голос звучит — ваш, сайта или коварного спойлера в alt-тексте. Значит, нужна новая дисциплина безопасности, построенная с нулевым доверием.

Что делать разработчикам:

  • Фильтровать вход: прежде чем текст увидит модель, пропускайте его через детектор инструкций и политик.
  • Разделять голоса: команды пользователя, контент сайта и системные правила — разные каналы с разными правами.
  • Просить разрешения: на доступ к почте, покупкам и настройкам — только с понятным подтверждением.
  • Выдавать права по капле: минимум по умолчанию, временные и специфичные разрешения.
  • Вести прозрачные логи и мониторить аномалии.

Что делать пользователям:

  • Доверяй, но проверяй: следите за действиями ассистента, особенно на чувствительных сайтах.
  • Ограничивайте доступ: не давайте ИИ ключи от всего сразу.
  • Требуйте объяснимости: если браузер не может сказать «что и зачем» — он не готов.

Вывод простой: фишки впечатляют, пока не превращаются в дырки. Пусть умный браузер сначала научится быть подозрительным, а уже потом — полезным.