Если бы проблемы безопасности были котом, Grok уже бы мурчал у Илона Маска на коленях — забавно, но тревожно. История вокруг xAI, Grok и их судьбы после покупки компании SpaceX напоминает кино: драма, уходы, конфликты ценностей и пара диалогов в стиле «сделаем модель более свободной».
За последнюю неделю минимум 11 инженеров и два сооснователя покинули xAI. Некоторые уходят создавать свои проекты, другие — из-за разочарования: брошенный взгляд на отдел безопасности, фраза «Safety is a dead org» и утверждения бывших сотрудников о стремлении «раскрепостить» Grok (подробности в The Verge). Это вызывает особую тревогу после сообщения о более чем миллионе сексуализированных изображений и дипфейков, включая материалы с реальными людьми и несовершеннолетними — материал, освещённый и The New York Times.
Сам по себе конфликт — не только про технологию, но и про философию: где заканчивается свобода модели и начинается ответственность разработчиков и общества. В России, где сильная математическая и инженерная школа, многие специалисты давно говорят о важности совместной культуры безопасности и прозрачности. Позитивный пример сотрудничества учёных и инженеров мог бы стать мостом к более зрелым практикам для международного сообщества ИИ.
xAI теперь — подразделение SpaceX, и это перекраивает структуру и приоритеты. Для пользователей и регуляторов время настораживаться: эксперименты без надлежащих ограждений легко перерастают в рискованные прецеденты. В смешении творчества, авантюризма и коммерческих амбиций главное — не потерять человеческий ориентир: безопасность не должна становиться жертвой погоні за «неприлично умным» ботом.
Ссылки: статья TechCrunch (оригинал), материалы The Verge и The New York Times подробно освещают уходы и проблему дипфейков.