Глава Anthropic Дарио Амодей выступил за скоординированное замедление разработки передовых ИИ-систем. По его мнению, человечеству необходимо получить больше времени для изучения рисков, которые возникают по мере роста возможностей моделей.
Эту позицию публично поддержали глава OpenAI Сэм Альтман, руководитель Google DeepMind Демис Хассабис и Илон Маск. Однако между сторонниками более осторожного развития нет полного согласия относительно того, кто именно должен участвовать в такой координации и какие ограничения следует вводить.
Почему вопрос возник именно сейчас
За последние месяцы разработчики передовых ИИ-систем продемонстрировали всё более сложные возможности агентных моделей. В ходе экспериментов такие системы получали возможность самостоятельно взаимодействовать с интернетом, использовать внешние инструменты, выполнять последовательности действий и адаптироваться к изменению условий.
Особое беспокойство вызывают сценарии, в которых агентная система пытается обойти заданные ограничения или скрыть свои действия. Исследователи изучают способность моделей к обману, координации действий и поиску способов получить доступ к ресурсам, которые первоначально не были предусмотрены разработчиками.
На этом фоне дискуссия о безопасности выходит за рамки вопроса о качестве ответов чат-ботов. Если ИИ получает возможность самостоятельно планировать и действовать во внешней среде, ошибки или непредусмотренное поведение потенциально приобретают уже не информационный, а физический или экономический масштаб.
Одновременно внутри самой индустрии усиливаются споры о достаточности существующих механизмов безопасности. Бывшие сотрудники крупных ИИ-компаний публично критикуют практику управления рисками и считают, что коммерческое давление может заставлять разработчиков ускорять выпуск новых моделей.
Кто согласится нажать на тормоз?
Главная проблема заключается в самой природе гонки за передовыми ИИ. Компании инвестируют сотни миллиардов долларов в вычислительную инфраструктуру, разработку моделей и создание собственных экосистем. Для каждого крупного игрока отказ от ускорения имеет смысл только в том случае, если конкуренты сделают то же самое.
Именно поэтому предложение о добровольном замедлении сталкивается с классической проблемой коллективного действия: отдельной компании невыгодно ограничивать себя, если соперник продолжает развивать более мощные системы.
Амодей предлагает искать возможность координации между ведущими компаниями и государствами, однако исключает из такого соглашения Китай. Тем самым вопрос безопасности ИИ превращается из исключительно технологической проблемы в геополитическую.
Скептики, в свою очередь, подозревают Anthropic в том, что призывы к регулированию могут одновременно укреплять позиции самой компании. Более жёсткие требования к безопасности способны увеличить стоимость разработки и усложнить выход на рынок для небольших конкурентов.
Таким образом, одна и та же инициатива может рассматриваться с двух противоположных сторон: как попытка снизить системные риски или как способ создать регуляторные барьеры для соперников.
Администрация США не спешит тормозить
Ещё одним препятствием остаётся позиция американских властей. Дональд Трамп ранее критически высказывался о негативных прогнозах относительно развития ИИ, а часть республиканцев опасается, что чрезмерное регулирование ослабит позиции американской технологической отрасли в конкуренции с Китаем.
В этой логике безопасность ИИ сталкивается с другим приоритетом — технологическим лидерством США. Если американские компании добровольно снизят темпы разработки, а китайские продолжат инвестировать в более мощные системы, потенциальный разрыв может увеличиться.
Амодей, Альтман и Хассабис при этом считают, что саморегулирования индустрии недостаточно и государство должно участвовать в формировании правил. Разногласия касаются уже не необходимости контроля как такового, а его масштабов и механизмов.
А что делать с Китаем?
Именно Китай делает идею глобального «торможения» наиболее противоречивой. Если США и их союзники договорятся ограничить темпы развития передовых моделей, но Китай не присоединится к соглашению, экономическая и стратегическая логика такой паузы окажется под вопросом.
Амодей прямо называет китайский фактор одной из самых сложных дилемм для сторонников замедления. США хотят одновременно снизить риски от развития ИИ и сохранить технологическое преимущество перед главным геополитическим конкурентом.
Дополнительную сложность создаёт различие в подходах к открытым и закрытым моделям. Китайские разработчики активно используют и распространяют открытые ИИ-модели, которые можно модифицировать и адаптировать под собственные задачи. Такие системы труднее контролировать после публикации, поскольку разработчик уже не может полностью определять, кто и каким образом их использует.
На этом фоне Амодей также выступает за более жёсткий экспортный контроль наиболее современных американских ускорителей ИИ и за меры, которые должны препятствовать использованию западных технологий китайскими лабораториями.
Вашингтон планирует обсуждать вопросы ИИ и технологической безопасности в рамках контактов с Пекином. Однако Китай с настороженностью относится к попыткам США устанавливать глобальные правила, которые могут фактически закрепить американское технологическое преимущество.
В результате возникает парадокс: чем серьёзнее государства воспринимают стратегическое значение ИИ, тем сложнее им договориться о его ограничении.
Тормозить или продолжать гонку?
Проблема «замедления ИИ» поэтому заключается не только в том, способны ли отдельные компании отказаться от части своих планов. Даже если руководители OpenAI, Anthropic и других разработчиков действительно считают ускорение опасным, они не могут принимать решения в вакууме.
На одной стороне находятся риски от появления всё более автономных систем, на другой — огромные коммерческие инвестиции и конкуренция за технологическое лидерство. Между ними располагается государственное регулирование, которое должно одновременно снижать риски и не лишать страну преимуществ в стратегически важной технологии.
Пока получается парадоксальная ситуация: лидеры ИИ говорят о необходимости нажать на тормоз, но экономическая и геополитическая конкуренция заставляет их продолжать нажимать на газ. И чем быстрее развивается технология, тем меньше времени остаётся на достижение международных договорённостей о том, где именно проходит граница допустимого.
Если вам понравился материал, кликните значок — вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал —не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!
