Сооснователь компании Together AI Томас Димсон (Thomas Dimson) представил проект In The Weights — пиксельную ретро-игру, которая визуализирует, как языковые модели интерпретируют имена пользователей.
Томас Димсон, ранее работавший в Instagram и участвовавший в разработке алгоритма рекомендаций соцсети, а ныне сооснователь стартапа Together AI, специализирующегося на инфраструктуре для ИИ, создал сайт In The Weights. Проект выполнен в стиле 8-битной графики и пародирует механизмы работы языковых моделей: пользователь вводит своё имя, а система генерирует пиксельное изображение, якобы отражающее, как нейросеть «видит» это имя в своих весах.
Димсон пояснил, что идея возникла как шутка над распространённым представлением о том, будто имена или слова можно буквально «найти» в параметрах модели. На сайте используется реальная архитектура трансформера, но вместо серьёзного анализа она возвращает случайные пиксельные картинки, сопровождаемые псевдонаучными комментариями вроде «модель ассоциирует ваше имя с котиками» или «ваше имя закодировано в 12-м слое».
Проект быстро привлёк внимание специалистов по машинному обучению. Инженер-исследователь из Hugging Face Льюис Танстолл (Lewis Tunstall) назвал его «блестящей сатирой на мифы об интерпретируемости ИИ». Предприниматель Сэм Лессин (Sam Lessin) предположил, что подобные инструменты могут стать популярным форматом для объяснения работы нейросетей широкой аудитории.
In The Weights доступен онлайн и сопровождается открытым исходным кодом на GitHub. Димсон подчеркнул, что проект не претендует на научную достоверность, но иллюстрирует важную проблему: сложность объяснения внутренних механизмов современных языковых моделей.
Источники: X-пост Томаса Димсона (Thomas Dimson), 18 июня 2026; репозиторий In The Weights на GitHub.