Anthropic спрятала мощнейший ИИ за закрытыми дверями: действительно ли Claude Mythos слишком опасен для публикации?

По словам разработчиков, Mythos стала самой производительной моделью Anthropic в задачах программирования и длительного многошагового рассуждения. Во время испытаний система обнаружила тысячи серьёзных уязвимостей в популярных операционных системах и браузерах, включая проблемы, которые могли оставаться незамеченными десятилетиями.

В отличие от традиционных языковых моделей, Mythos способна не просто указывать на потенциальные ошибки в коде, а последовательно исследовать систему, тестировать различные варианты и адаптировать свои действия до получения рабочего результата. Как утверждают в Anthropic, модель может превращать как недавно найденные, так и давно известные уязвимости в полноценные эксплойты, причём даже для программного обеспечения с закрытым исходным кодом.

Особое беспокойство вызывают результаты внутренних тестов компании. Согласно опубликованным данным, Mythos смогла автоматически объединять несколько отдельных уязвимостей в сложные цепочки атак, обходить механизмы песочницы браузеров и операционных систем, а также создавать эксплойты для повышения привилегий в Linux и удалённого выполнения кода на серверах FreeBSD. В отдельных случаях даже инженеры без глубоких знаний в области информационной безопасности могли с помощью модели создавать работоспособные атаки.

По мнению генерального директора компании X-PHY Камелии Чан, появление подобных систем знаменует переход через новый порог возможностей. Она считает, что как только искусственный интеллект сможет быстро генерировать эксплойты нулевого дня, у организаций практически исчезнет временной запас, который раньше позволял обнаружить проблему и выпустить исправление до начала массовых атак.

Именно поэтому Anthropic запустила проект Glasswing — специальную контролируемую среду, через которую доступ к Mythos получают лишь ограниченное число партнёров. Предполагается, что модель будет использоваться прежде всего для поиска и устранения уязвимостей в критически важном программном обеспечении, а не для универсального применения.

Однако полностью контролировать столь мощные системы может оказаться непросто. Компания уже изучает сообщения о том, что несколько пользователей якобы получили несанкционированный доступ к модели через сторонние платформы. Если информация подтвердится, это поставит под вопрос эффективность существующих механизмов изоляции.

Эксперты отмечают, что опасность заключается не столько в самой Mythos, сколько в ускорении всей гонки между защитниками и злоумышленниками. По словам руководителя исследовательского подразделения F5 Labs Дэвида Уорбертона, ИИ сокращает время между обнаружением уязвимости и её эксплуатацией, а это фундаментально меняет ландшафт кибербезопасности. Главный технический директор Sonatype Илкка Турунен также предупреждает, что сроки создания и распространения атак будут продолжать сокращаться, а многие вредоносные операции в будущем смогут выполняться полностью автоматически.

В то же время специалисты не считают, что Mythos является чем-то принципиально «запретным». Большинство её возможностей по отдельности уже существовали и ранее. Новизна заключается в том, что они объединены в одной системе, способной автономно выполнять длинные цепочки действий и добиваться результата с минимальным участием человека.

Поэтому вопрос, вероятно, стоит не в том, слишком ли опасна сама Claude Mythos, а в том, как быстро аналогичные возможности появятся у других разработчиков. Если подобные модели станут массовыми, индустрии кибербезопасности придётся адаптироваться к новой реальности, в которой промежуток между появлением уязвимости и её превращением в оружие будет измеряться уже не месяцами или неделями, а часами.