Сооснователь HashiCorp Митчелл Хасимото написал в X, что целые компании сейчас живут в состоянии «ИИ-психоза» — и трезво поговорить с ними о пределах и рисках технологии уже невозможно. Имена он назвать отказался: среди этих людей — его близкие друзья, которых он уважает.
Параллель Хасимото проводит со спором MTBF против MTTR времён перехода на облака. Тогда индустрия училась балансировать между средним временем между сбоями и средним временем восстановления — и поняла, что одной только скоростью починки систему не спасти. Сейчас, по словам Хасимото, те же аргументы возвращаются — но уже для всей разработки софта, а возможно, и для всего мира.
Логика «психотиков» такая: можно катить баги, потому что агенты починят их быстрее и в таких масштабах, какие людям не под силу. На облачной инфраструктуре уже выяснили: MTTR — это хорошо, но полностью отказываться от устойчивых систем нельзя. Иначе получается «очень отказоустойчивая катастрофическая машина»: локально всё выглядит здоровым, а глобально система становится непостижимой. Багрепорты падают — латентный риск растёт. Покрытие тестами повышается — семантическое понимание кода падает. Всё меняется так быстро, что никто не замечает, как разлагается архитектура под капотом.
Хасимото признаётся, что не знает, как заводить этот разговор с коллегами лично: реакция всегда одна — «у нас 100 % покрытие тестами» или «багрепортов всё меньше». Аргументы, которые рисуют только кусок картины.
Пост набрал почти 700 тыс. просмотров за сутки и собрал поддержку среди инфраструктурных инженеров и инвесторов. Пит Скомороч процитировал ключевой тезис про «отказоустойчивую катастрофическую машину». Сюзан Чжан добавила, что особенно уязвимы новые ИИ-лаборатории, чьи основатели никогда не строили инфраструктуру с нуля и привыкли наследовать готовые решения. Дзмитрий Багданау предсказал, что через три-четыре года компании начнут нанимать дорогих консультантов, чтобы разгребать спагетти-инфраструктуру, которая работала на 99,9 % автономно — пока не случился 0,1 % катастрофы. Дэниел Фонг предложила другое название для явления — «банкротство предварительного понимания».
Звучит и встречная позиция. Эйдан Кларк из ИИ-сообщества напомнил: три-четыре года назад людей удивляло, что LLM вообще может ответить на простой вопрос; через три-четыре года модели будут неузнаваемо лучше.
