Разработчики представили инструмент с открытым исходным кодом, который преобразует плотный текст в изображения, снижая затраты на токены в модели Fable 5. Авторы решения утверждают, что экономия достигает 70% без потери качества обработки данных.
Инструмент под названием pxpipe, опубликованный на платформе GitHub, оптимизирует работу с языковой моделью Fable 5, конвертируя текстовые данные в графический формат. По словам создателей, такой подход позволяет сократить расходы на токены на 59–70%, что особенно актуально для проектов с большими объёмами текстовой информации.
Основная идея заключается в том, что плотный текст, например таблицы или структурированные данные, визуализируется в виде изображений, которые затем обрабатываются моделью. Это снижает количество токенов, необходимых для анализа, так как изображения требуют меньше вычислительных ресурсов по сравнению с эквивалентным объёмом текста. Авторы утилиты подчёркивают, что метод не ухудшает точность работы модели, а в некоторых случаях даже улучшает её восприятие сложных данных.
Разработка вызвала интерес в сообществе специалистов по искусственному интеллекту. Комментаторы отмечают, что подобные решения могут стать стандартом для оптимизации затрат на работу с языковыми моделями, особенно в условиях роста стоимости вычислительных мощностей. В блоге проекта приведены примеры использования pxpipe, а также инструкции по интеграции инструмента в существующие пайплайны.
Fable 5 — одна из популярных языковых моделей, используемых для обработки естественного языка и генерации текстов. Её разработчики ранее не комментировали возможность применения подобных оптимизаций, однако сторонние инструменты, такие как pxpipe, демонстрируют потенциал для снижения операционных расходов.
Источники: X-пост Даниэль Фонг (Danielle Fong), 3 июля 2026; репозиторий pxpipe на GitHub.