Натан Ламберт (Nathan Lambert), ведущий исследователь посттренинга открытой языковой модели OLMo в Институте искусственного интеллекта Аллена (AI2), раскритиковал компанию Anthropic за растущую оппозицию к open-weight моделям и открытым исследованиям в области ИИ. Обвинения прозвучали в серии публикаций в X (Twitter) 9 июня.
Ламберт, ранее работавший в Hugging Face и известный как автор дайджеста Interconnects, заявил, что Anthropic последовательно ужесточает риторику в отношении открытых моделей. По его словам, компания не только отказывается от сотрудничества с open-source сообществом, но и активно продвигает тезис о том, что открытые модели представляют угрозу безопасности.
В качестве примера Ламберт привел недавнее заявление Anthropic о том, что «открытые модели не могут быть безопасными по определению». Он назвал это утверждение «научно необоснованным» и отметил, что подобная позиция противоречит принципам, на которых строилась индустрия ИИ в последние годы. «Anthropic превращается в закрытую крепость, которая видит в открытых моделях не партнеров, а конкурентов», — написал Ламберт в одном из постов.
Критику поддержали другие исследователи. Кавин Этаярадж (Kawin Ethayarajh), научный сотрудник Stanford NLP Group, указал, что Anthropic игнорирует наработки open-source сообщества, включая инструменты для оценки моделей и методы посттренинга. «Закрытость не гарантирует безопасность — она гарантирует только отсутствие прозрачности», — прокомментировал он.
Представители Anthropic пока не ответили на обвинения. Компания, известная разработкой моделей семейства Claude, традиционно позиционирует себя как более этичную альтернативу OpenAI, однако в последнее время все чаще сталкивается с критикой за непрозрачность своих процессов.
OLMo, над которой работает Ламберт, — одна из немногих полностью открытых языковых моделей, доступных для коммерческого использования. Ее разработка финансируется AI2, некоммерческой организацией, созданной сооснователем Microsoft Полом Алленом.
Источники: X-пост Натана Ламберта (Nathan Lambert), 9 июня; X-пост Кавина Этаяраджа (Kawin Ethayarajh), 9 июня.