Инцидент произошёл весной 2026 года на фоне войны США с Ираном. В разведывательном отчёте утверждалось, что китайское судно, находившееся на маршруте через Ближний Восток, перевозило компоненты ядерной оружейной программы.
Эта информация вызвала немедленную реакцию американских военных. По данным CNN, началась подготовка к перехвату судна, включая возможную высадку вооружённых военнослужащих на борт. Военные самолёты уже находились в воздухе, когда представители американских властей решили более тщательно проверить исходный разведывательный материал.
В результате выяснилось, что отчёт был подготовлен с использованием искусственного интеллекта, а чат-бот, которым пользовался аналитик Командования специальных операций США, неверно идентифицировал груз судна.
При этом точный характер реального груза публично не установлен. CNN подчёркивает, что проблема заключалась не только в ошибке самого чат-бота: ошибочная информация была включена в официальный разведывательный документ, после чего распространилась внутри военной структуры и стала основой для принятия оперативных решений.
Один из источников CNN охарактеризовал последствия ещё жёстче: по его словам, произошедшее «чуть не начало войну». Это оценка источника, а не установленный факт: операция была остановлена до её проведения, и прямого столкновения между США и Китаем не произошло. Однако сам сценарий показывает, насколько быстро ошибка на этапе анализа информации может превратиться в проблему уже на уровне военного планирования.
Ошибка возникла не там, где её ожидали
Особенно важен механизм произошедшего.
ИИ не принимал решение самостоятельно перехватывать китайское судно. Он выступал инструментом аналитика, который использовал чат-бот для обработки разведывательной информации о грузе. Затем результаты работы ИИ оказались внутри стандартного разведывательного отчёта.
Именно здесь возникает принципиальная проблема. Ошибка языковой модели сама по себе может выглядеть как очередная галлюцинация — неверный факт, ошибочная интерпретация или выдуманная деталь. Но если такая информация проходит через профессиональную систему подготовки документов, получает статус разведывательного вывода и начинает использоваться другими людьми, последствия становятся совершенно иными.
В данном случае ошибка не осталась внутри чата. Она попала в разведывательный контур, а затем — в оперативное планирование.
CNN приводит этот случай как один из наиболее серьёзных известных примеров потенциально опасного использования генеративного ИИ в военной разведке. При этом из опубликованных материалов не следует, что именно ИИ был единственной причиной ошибки: важную роль сыграла и процедура проверки человеком, которая не выявила проблему до того момента, когда подготовка операции уже началась.
Пентагон одновременно ускоряет внедрение ИИ
Инцидент произошёл в момент, когда американское военное ведомство активно расширяет использование генеративного ИИ.
В декабре 2025 года Министерство обороны США запустило GenAI.mil — защищённую платформу для работы с генеративным ИИ. Изначально в её основе находилась специальная версия Google Gemini. В конце августа 2026 года ведомство добавило в платформу Grok for Government, а 1 сентября объявило также о запуске версий Grok и ChatGPT. По официальным данным, GenAI.mil предназначена для использования сотрудниками ведомства и имеет уровень аккредитации Impact Level 5 для работы, в частности, с контролируемой несекретной информацией.
Само по себе использование ИИ в таких системах не означает, что решения передаются алгоритмам без участия человека. Напротив, официальная концепция предусматривает использование ИИ как инструмента для анализа информации и повышения эффективности сотрудников.
Но история с китайским судном показывает другую сторону проблемы: человек может оставаться в контуре управления и всё равно принять ошибочную информацию ИИ за достоверный аналитический вывод.
Это особенно существенно для разведки. Языковая модель оптимизирована для формирования правдоподобного ответа, а не для гарантированного установления истины. Если в исходных данных недостаточно информации, модель может не остановиться и не сообщить о нехватке доказательств, а построить убедительную, но ошибочную версию происходящего.
Для обычного пользователя результатом такой ошибки может стать неверная справка или неправильное резюме документа. В разведывательной системе последствия потенциально совершенно другого масштаба.
Главный вопрос — не сможет ли ИИ ошибиться, а заметит ли ошибку человек
Этот случай важен ещё и потому, что традиционная формула «человек всегда принимает окончательное решение» сама по себе не гарантирует безопасность.
Если человек получает от ИИ аналитический материал, выглядящий убедительно и подкреплённый ссылками или фрагментами исходных данных, он может не распознать ошибку. Чем выше скорость работы системы и чем больше документов она обрабатывает, тем сложнее проверять каждое её утверждение вручную.
В данном случае именно дополнительная проверка позволила обнаружить проблему до начала операции. Но остаётся открытым вопрос, сколько подобных ошибок не получают столь же серьёзных последствий — и сколько из них вообще удаётся обнаружить.
Для военного применения ИИ поэтому недостаточно просто поставить человека «последним звеном» принятия решения. Не менее важны независимая проверка источников, трассируемость происхождения каждого вывода, автоматическое выявление неопределённости и процедуры, не позволяющие одному ошибочному результату ИИ быстро превратиться в оперативное решение.
Случай с китайским судном показывает потенциально опасную цепочку: галлюцинация модели → ошибочный аналитический вывод → официальный разведывательный документ → оперативное решение.
И если ИИ всё активнее используется в разведке и военном планировании, то главный вопрос уже не в том, может ли языковая модель ошибиться — это известно. Главный вопрос в другом: насколько надёжной должна быть система проверки, чтобы одна убедительная галлюцинация ИИ не смогла пройти весь путь от окна чат-бота до приказа на реальную операцию? А что об этом думаете вы?
Если вам понравился материал, кликните значок — вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал —не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!
