Компания выпустила документ с предложениями по обновлению законов, стандартов отчётности и встроенных защит в генеративных системах. В OpenAI считают, что старых механизмов уже недостаточно на фоне роста ИИ-инструментов, которые могут использоваться для создания и распространения запрещённого контента.
OpenAI назвала Child Safety Blueprint практической дорожной картой для усиления защиты детей в США. Документ фокусируется на трёх направлениях: модернизации законодательства, чтобы оно прямо охватывало ИИ-сгенерированные и изменённые материалы сексуальной эксплуатации детей; улучшении стандартов отчётности и координации между платформами, NCMEC и правоохранительными органами; а также внедрении safeguards-by-design — встроенных механизмов предотвращения и обнаружения злоупотреблений в самих ИИ-системах.
В компании говорят, что уже работают с Национальным центром по пропавшим и эксплуатируемым детям, правоохранителями и отраслевыми партнёрами, но считают, что индустрии нужны более единые и конкретные правила. В подготовке blueprint, по словам OpenAI, участвовали NCMEC, Attorney General Alliance и Thorn.
Среди предложений OpenAI — обновить правовые определения CSAM с учётом ИИ, уточнить ответственность за попытки создания такого контента и упростить для компаний добросовестные действия по его предотвращению. Ещё один блок касается более качественных и пригодных для расследований сигналов в CyberTipline, чтобы правоохранители быстрее получали действительно полезные данные.
По сути, OpenAI пытается перевести разговор о детской безопасности в ИИ из уровня общих обещаний в набор конкретных технических, правовых и операционных мер. Документ подан как основа для обсуждения того, как выстраивать защиту детей до того, как вред уже произошёл.
