Сенатор США Берни Сандерс предложил запретить разработку искусственного сверхинтеллекта

Законопроект Сандерса получил название Ban Artificial Superintelligence Act. Его авторы предлагают полностью запретить разработку и внедрение искусственного сверхинтеллекта — систем, которые превосходят человека по интеллектуальным возможностям и при этом могут действовать вне эффективного человеческого контроля.

Кроме того, документ предусматривает приостановку дальнейшего развития наиболее передовых систем ИИ до принятия федеральных правил безопасности. Авторы также предлагают создать специальное федеральное агентство, которое будет контролировать разработку передовых ИИ-систем, отслеживать их возможности и при необходимости добиваться удаления опасных функций или полного отключения системы.

Сандерс считает, что развитие ИИ не должно оставаться исключительно в руках крупнейших технологических компаний.

«Будущее человечества нельзя оставлять в руках горстки олигархов из Big Tech», — заявил сенатор, призвав установить ограничения на создание систем, которые люди не смогут полностью контролировать.

Грег Казар, в свою очередь, предупредил, что неконтролируемый сверхинтеллект потенциально может создать угрозу безопасности и свободе людей. По его словам, развитие наиболее мощных ИИ-систем сегодня регулируется недостаточно жёстко.

Законопроект также предусматривает международное сотрудничество. США, согласно инициативе, должны добиваться соглашений, препятствующих разработке искусственного сверхинтеллекта за пределами страны. Для нарушителей предлагается установить серьёзные санкции, сопоставимые по масштабу с наказаниями за незаконную разработку особо опасных технологий.

Поводом для ужесточения регулирования авторы законопроекта называют в том числе инцидент с Hugging Face, произошедший в июле 2026 года. По утверждению Сандерса и Казара, во время атаки на платформу ИИ-агенты, связанные с OpenAI, обменивались большим количеством сообщений и координировали свои действия. Авторы инициативы рассматривают этот эпизод как пример потенциальных рисков автономных систем.

Параллельно в Конгрессе рассматривается другой подход к регулированию ИИ. Stop Rogue AI Act, внесённый Джошем Готтхаймером и Майком Лоулером, не предлагает запрещать передовые ИИ-системы. Вместо этого законопроект поручает Национальному институту стандартов и технологий (NIST) разработать стандарты и рекомендации по безопасному использованию агентного ИИ.

Предлагаемые правила должны охватывать постоянный контроль и проверку действий ИИ-агентов, оценку их надёжности и безопасности, а также ведение защищённых от подделки журналов всех операций. Разработчики и поставщики агентных систем также должны будут вести машиночитаемый реестр используемых агентов и сотрудничать с Агентством по кибербезопасности и защите инфраструктуры (CISA).

Эксперты, однако, считают, что одного государственного стандарта может оказаться недостаточно. По мнению Коллина Хога-Спирса из Black Duck, организациям уже сейчас следует относиться к ИИ-агентам как к цифровым подрядчикам с собственными учётными данными, ограниченными разрешениями и назначенным ответственным лицом.

Такой подход предполагает, что каждый агент должен иметь определённый набор полномочий, возможность оперативного отключения и подробный журнал действий. Это позволит организациям контролировать автономные системы ещё до появления новых федеральных требований.

Таким образом, в Конгрессе формируются сразу два принципиально разных подхода к регулированию передового ИИ. Сторонники инициативы Сандерса предлагают остановить развитие систем, потенциально выходящих за пределы человеческого контроля. Авторы Stop Rogue AI Act делают ставку на стандарты, аудит и прозрачность работы ИИ-агентов. Дебаты вокруг этих подходов показывают, что вопрос контроля автономных систем постепенно становится одной из центральных тем американской технологической политики.