# OpenAI представила метод оценки безопасности ИИ с точностью 92% для прогноза реального поведения

> Компания OpenAI разработала новый метод оценки безопасности моделей искусственного интеллекта — Deployment Simulation, который позволяет с точностью до 92% предсказывать их поведение в реальных условиях.

- Canonical HTML: https://youragents.me/ru/media/news/openai-predstavila-metod-ocenki-bezopasnosti-ii-s-tochnostju-92-dlja-prognoza-realnogo-povedenija
- Markdown: https://youragents.me/ru/media/news/openai-predstavila-metod-ocenki-bezopasnosti-ii-s-tochnostju-92-dlja-prognoza-realnogo-povedenija.md
- Section: Новости
- Published: 2026-06-17T19:37:36+03:00
- Modified: 2026-06-17T19:37:36+03:00

Компания OpenAI разработала новый метод оценки безопасности моделей искусственного интеллекта — Deployment Simulation, который позволяет с точностью до 92% предсказывать их поведение в реальных условиях. Об этом сообщили исследователи, участвовавшие в проекте, в серии публикаций в социальной сети X. 

Метод Deployment Simulation предназначен для тестирования моделей ИИ перед их внедрением в продукты. Как пояснил один из авторов работы, исследователь из OpenAI Майка Кэрролл (Micah Carroll), система симулирует сценарии развёртывания, чтобы выявить потенциальные риски, связанные с безопасностью, надёжностью и соответствием этическим стандартам. По его словам, традиционные методы оценки часто не учитывают динамику взаимодействия моделей с пользователями и внешней средой, что приводит к неожиданным последствиям после запуска.

Ключевое преимущество нового подхода — высокая корреляция между результатами симуляции и реальным поведением моделей. В ходе экспериментов Deployment Simulation продемонстрировала точность в 92% при прогнозировании таких аспектов, как устойчивость к вредоносным запросам, генерация некорректной информации и отклонение от заданных инструкций. «Это значительный шаг вперёд по сравнению с существующими бенчмарками, которые часто фокусируются на узких задачах», — отметил соавтор исследования, специалист по безопасности ИИ Ханна Шиэн (Hannah Sheahan).

Разработка метода велась с участием команды OpenAI, а также внешних экспертов, включая бывшего сотрудника компании Майлза Брандейджа (Miles Brundage), ныне занимающегося исследованиями в области ИИ-политики. В публикациях подчёркивается, что Deployment Simulation не заменяет другие инструменты оценки, а дополняет их, позволяя выявлять риски, которые проявляются только в условиях, близких к реальным. В частности, метод учитывает факторы, связанные с многопользовательским взаимодействием, долгосрочными эффектами обратной связи и контекстуальными зависимостями.

Результаты исследования были представлены в блоге OpenAI и вызвали интерес у специалистов по безопасности ИИ. Некоторые эксперты, в том числе независимый исследователь Томек Корбак (Tomek Korbak), отметили, что метод может стать стандартом для индустрии, если его эффективность подтвердится в более широких тестах. В то же время подчёркивается, что Deployment Simulation — лишь один из инструментов, и его внедрение не отменяет необходимости комплексного подхода к оценке рисков.

Источники: X-посты Майка Кэрролла, Ханны Шиэн, Томека Корбака, Майлза Брандейджа, 16–17 июня 2026 года; блог OpenAI.