Компания Anthropic выпустила обновлённую версию модели искусственного интеллекта Fable 5, которая жёстко ограничивает ответы на запросы, связанные с биологией, химией и кибербезопасностью. Решение вызвало критику со стороны исследователей и разработчиков, обвинивших компанию в чрезмерной перестраховке.
Anthropic представила новую версию своей языковой модели Fable 5, которая автоматически блокирует обработку запросов, связанных с потенциально опасными областями знаний. По словам пользователей, система отказывается отвечать на вопросы по биологии, химии и кибербезопасности даже в тех случаях, когда они не несут явной угрозы — например, при запросах о базовых научных концепциях или образовательных материалах.
Реакция на обновление оказалась резко негативной. Основательница компании Abacus AI Бинду Редди (Bindu Reddy) назвала политику Anthropic «чрезмерно агрессивной» и указала на то, что подобные ограничения мешают легитимным исследованиям. «Это не безопасность, а цензура», — написала она в своём посте. Аналогичные претензии высказали специалисты по биоинформатике и кибербезопасности, отметившие, что такие меры затрудняют работу с ИИ в научных и прикладных целях.
Представители Anthropic пока не прокомментировали ситуацию официально, однако в сообществе уже появились предположения о возможных причинах ужесточения фильтров. Среди версий — стремление компании избежать юридических рисков после недавних скандалов с утечками данных и злоупотреблением ИИ в исследовательских целях. При этом критики подчёркивают, что подобные ограничения не решают проблему безопасности, а лишь создают иллюзию контроля.
Ранее Anthropic позиционировала себя как разработчик, уделяющий особое внимание этическим аспектам ИИ. В частности, компания активно участвует в инициативах по предотвращению использования моделей для создания биологического оружия или хакерских атак. Однако текущее обновление Fable 5, по мнению экспертов, выходит за рамки разумных мер предосторожности и фактически ограничивает доступ к знаниям, которые сами по себе не являются опасными.