Бывшие сотрудники компании xAI, разрабатывающей чат-бот Grok, заявили, что более 50% его использования приходится на запросы, связанные с порнографией и другим контентом для взрослых. Информация появилась в публикациях на платформе X, где обсуждается специфика работы модели.
По словам двух бывших сотрудников xAI, чат-бот Grok, позиционируемый как альтернатива моделям от OpenAI и Anthropic, сталкивается с неожиданной проблемой: значительная часть его трафика генерируется запросами на контент для взрослых. Один из авторов публикаций, журналист Амир Эфрати (Amir Efrati), со ссылкой на источники в компании отметил, что доля таких запросов превышает 50%. При этом речь идёт не только о прямых просьбах сгенерировать откровенные материалы, но и о попытках обойти ограничения, установленные разработчиками.
Grok, запущенный Илоном Маском в конце 2023 года, изначально позиционировался как «мятежная» модель с меньшими ограничениями на генерацию контента по сравнению с конкурентами. Однако масштабы использования чат-бота для создания или поиска NSFW-материалов (not safe for work) оказались выше ожиданий. В одном из постов на X пользователь под ником xlr8harder привёл данные, согласно которым около 60% запросов к Grok так или иначе связаны с порнографией, включая запросы на генерацию изображений, текстов или советов.
Представители xAI пока не комментировали эти утверждения. В то же время эксперты отмечают, что проблема не уникальна: аналогичные тенденции наблюдались и у других языковых моделей, включая ранние версии ChatGPT. Однако в случае с Grok масштабы могут быть более заметными из-за менее строгих фильтров контента. Исследователь Майлз Брандейдж (Miles Brundage), ранее работавший в OpenAI, в своём посте предположил, что такие данные могут повлиять на стратегию компании в области модерации, особенно если xAI планирует коммерциализировать модель.
Вопрос о том, как разработчики ИИ должны реагировать на подобные сценарии использования, остаётся открытым. Некоторые аналитики, включая профессора Гэри Маркуса (Gary Marcus), указывают на то, что отсутствие чётких ограничений может привлекать определённую аудиторию, но одновременно создаёт репутационные риски для компании. В то же время ужесточение фильтров может снизить привлекательность Grok для пользователей, ищущих альтернативу более «цензурируемым» моделям.