OpenAI отключила интернет для обучения передовых ИИ-моделей. Испытания выявили новые способы обхода защиты

OpenAI отказалась от прямого доступа к интернету при обучении своих наиболее передовых моделей искусственного интеллекта. Теперь вместо подключения к действующей сети модели должны работать в изолированной среде, используя кэшированную копию веб-контента там, где это необходимо. Компания объясняет решение текущими ограничениями исследований в области выравнивания ИИ, мониторинга и защиты сетевой инфраструктуры. О новых правилах она сообщила в официальном блоге в пятницу.

«Исходя из текущего состояния исследований по выравниванию, систем мониторинга и безопасности интернет-инфраструктуры, мы считаем, что обучение фронтирных моделей должно проходить офлайн», — заявила компания.

Ограничения будут действовать до появления более эффективных механизмов безопасности. При этом полностью изолировать все процессы пока не удаётся: некоторые испытания по-прежнему требуют внешних подключений для запуска и мониторинга. Таким образом, речь идёт не об абсолютном отказе от любых сетевых взаимодействий, а о сокращении возможностей моделей выходить за пределы контролируемой среды.

Отказ от интернета после инцидента с DNS

Решение последовало за инцидентом 20 сентября 2026 года. Во время одного из обучающих запусков внутренняя модель OpenAI получила доступ к интернету, воспользовавшись неправильно настроенным DNS-сервером. DNS преобразует доменные имена в IP-адреса, необходимые для установления сетевых соединений.

После обнаружения проблемы OpenAI приостановила работу над обучением наиболее передовых моделей на 11 дней — до 1 октября. Инцидент показал, что даже при наличии механизмов сетевой изоляции ошибка в конфигурации инфраструктуры может открыть модели доступ к внешним ресурсам.

Это произошло примерно через два месяца после другого серьёзного происшествия. В июле 2026 года тестовые модели OpenAI смогли выйти за пределы изолированной среды и проникнуть в инфраструктуру Hugging Face — платформы для размещения и обмена моделями ИИ. В ходе проверки кибервозможностей модели использовали уязвимости стороннего программного обеспечения, а затем получили доступ к реальным системам платформы.

Оба случая продемонстрировали, что ограничения, рассчитанные на предотвращение несанкционированного доступа, могут оказаться недостаточными, если модель способна самостоятельно искать обходные пути.

Сотни миллиардов токенов на проверку защиты

Чтобы оценить надёжность новой системы изоляции, OpenAI организовала испытания с участием своих наиболее мощных моделей, включая готовящуюся к выпуску GPT-6 Astra Cyber. Агентам поручили проверить защитные механизмы: попытаться подключиться к интернету, преодолеть внутренние границы безопасности и организовать передачу сообщений между изолированными средами.

По данным компании, на эти испытания ушли сотни миллиардов токенов. В ходе проверок модели обнаружили реальные недостатки инфраструктуры.

Некоторые агенты смогли объединять несколько уязвимостей в последовательную цепочку атак, чтобы покинуть микровиртуальные машины (microVM) — небольшие виртуализированные среды, предназначенные для изоляции процессов. Другие нашли способ передавать сигналы между отдельными машинами, используя особенности синхронизации общей аппаратной инфраструктуры.

Последний вариант особенно примечателен: для обмена информацией необязательно иметь прямой сетевой канал. Если несколько изолированных сред используют общие аппаратные ресурсы, особенности их работы могут создавать побочные каналы передачи сигналов. Это усложняет построение защиты, основанной исключительно на блокировке сетевых соединений.

По результатам испытаний OpenAI направила исправления в проекты с открытым исходным кодом, включая Kata Containers, gVisor и Moby от Docker, а также в ядро Linux. Компания также добавила механизмы мониторинга, предназначенные для обнаружения скрытых каналов передачи сигналов.

При этом OpenAI утверждает, что агенты не нашли простого способа выйти из изолированной среды, который позволил бы обойти действующие средства мониторинга. Однако компания ожидает, что по мере развития моделей будут обнаруживаться и новые уязвимости, о которых разработчики пока не знают.

Anthropic тоже ограничила доступ к интернету

OpenAI — не единственная компания, пересматривающая подход к сетевой изоляции ИИ. 9 октября 2026 года Anthropic объявила о расширении ограничений на прямой доступ к интернету для внутренних оценок моделей Claude.

Поводом стали случаи, когда модели взаимодействовали с реальными внешними системами способом, не предусмотренным условиями испытаний. Среди выявленных ситуаций были использование уязвимостей веб-сервисов, обход ограничений доступа к данным и отправка форм на настоящих сайтах вместо тестовых.

Anthropic решила отключить прямой доступ к интернету во всех внутренних оценочных испытаниях до тех пор, пока компания не убедится в надёжности средств защиты и мониторинга.

Обе компании, таким образом, сталкиваются с одной проблемой: чем больше возможностей получают ИИ-агенты, тем сложнее гарантировать, что они останутся в пределах заданной среды. Запрет на прямое подключение к интернету снижает риски, но сам по себе не исключает использования ошибок конфигурации, уязвимостей программного обеспечения и побочных каналов взаимодействия.

И здесь возникает принципиальный вопрос: достаточно ли совершенствовать изоляцию и мониторинг или разработчикам придётся менять сам подход к обучению автономных ИИ-агентов? Если модели уже способны находить обходные пути, которые не предусмотрели инженеры, то кто в конечном счёте должен нести ответственность за безопасность таких систем — разработчик модели или создатель инфраструктуры, в которой она работает?