Исследователь Microsoft Research Димитрис Папаилиопулос (Dimitris Papailiopoulos) раскрыл подход, позволивший сократить размер модели Codex для решения математических задач до менее чем 50 КБ. Метод, названный «Idea Descent», предполагает поэтапное упрощение алгоритма без потери функциональности.
В основе подхода лежит концепция «Idea Descent» — итеративного процесса, при котором сложные алгоритмы последовательно оптимизируются за счёт удаления избыточных компонентов. Папаилиопулос, ведущий научный сотрудник Microsoft Research AI Frontiers, отметил, что метод позволяет сохранять ключевые возможности модели даже при значительном сокращении её размера. Речь идёт о модели Codex, разработанной для автоматического решения математических уравнений и логических задач.
По словам исследователя, сжатие модели до 50 КБ открывает возможности для её применения в устройствах с ограниченными вычислительными ресурсами, включая мобильные платформы и встраиваемые системы. При этом сохраняется точность работы алгоритма, что подтверждается тестами на стандартных наборах данных. Подробности метода Папаилиопулос обещал раскрыть в предстоящей публикации, однако уже сейчас подход вызывает интерес у специалистов по оптимизации нейросетевых архитектур.
Ранее аналогичные техники сжатия использовались для уменьшения размеров языковых моделей, однако применение их к специализированным решателям — относительно новая область. Эксперты отмечают, что дальнейшее развитие подобных методов может снизить порог входа для использования ИИ в задачах, требующих высокой производительности при минимальных аппаратных требованиях.
В обсуждении на платформе X коллеги Папаилиопулоса, включая исследователей из Hugging Face и независимых лабораторий, подчеркнули потенциал метода для создания более доступных и энергоэффективных ИИ-систем. Однако конкретные результаты и сравнение с существующими подходами сжатия станут известны только после публикации полного исследования.
Источники: X-пост Димитриса Папаилиопулоса, 7 июня 2026 года.