Новости 17:38, 10 июля 2026
Поделиться

GPT-5.6 самостоятельно обучил локальную языковую модель на данных из iMessage

Дизайнер и разработчик Пьетро Ширано (Pietro Schirano) из компании Figma использовал модель GPT-5.6 для создания небольшой языковой модели, обученной на его личных переписках в iMessage. Модель с 1,38 млн параметров работает локально на Mac и воспроизводит стиль автора.

Пьетро Ширано опубликовал результаты эксперимента, в ходе которого GPT-5.6 полностью спроектировал и обучил небольшую языковую модель на основе данных из его личных сообщений в iMessage. Модель, получившая название «5.6 Sol», представляет собой четырехслойный трансформер-декодер с 1,38 млн параметров, обученный на 8 млн токенов. Для токенизации используется кастомный BPE-токенайзер с 4 тыс. токенов, а контекстное окно ограничено 256 токенами.

По словам Ширано, GPT-5.6 самостоятельно принял все ключевые решения по архитектуре и обучению модели, включая работу с ограниченным объемом данных. Процесс занял около 30 минут, а первая генерация текста от модели стала для разработчика неожиданностью. «Когда 5.6 написал: „Протестировал модель. Она ответила“, я просто не мог поверить», — отметил он в одном из постов.

Ширано подчеркнул, что модель достаточно компактна для локального запуска и обучения на Mac. В качестве демонстрации он привел примеры текстов, сгенерированных моделью в его стиле. Однако часть комментаторов усомнилась в качестве результата, назвав сгенерированные фразы бессвязными или отметив, что они отражают не столько стиль автора, сколько ограничения небольшой модели.

Эксперимент Ширано вызвал интерес в сообществе как пример использования продвинутых языковых моделей для автоматизации процесса обучения нейросетей. В частности, пользователи отметили потенциал GPT-5.6 в роли инструмента для самообучения и быстрого прототипирования.

Источники: X-пост Пьетро Ширано (Pietro Schirano), 9 июля 2026; публикация на платформе Digg.