Амодеи изложил эту позицию в эфире программы Sunday Morning на CBS News. По его мнению, долгосрочной целью должно стать международное соглашение, устанавливающее своеобразное «ограничение скорости» для развития передового ИИ. Однако глава Anthropic сомневается, что ведущим державам удастся договориться: стимулы для опережения конкурентов слишком велики.
При этом Амодеи считает, что сложности международной координации не должны становиться причиной отказа от попыток договориться.
Почему одной компании недостаточно замедлиться
Проблема, на которую указывает Амодеи, выходит за рамки конкуренции отдельных разработчиков. Если одна группа компаний сознательно снизит темпы совершенствования наиболее мощных моделей, а конкуренты продолжат наращивать их возможности, добровольное ограничение может превратиться в конкурентный недостаток.
Особенно остро этот вопрос проявляется в отношениях между США и Китаем. Передовые ИИ-системы имеют не только коммерческое, но и потенциальное военное значение, поэтому государствам может быть сложно отказаться от возможности получить преимущество за счёт более быстрого развития технологии.
Именно эту дилемму Амодеи считает одним из главных препятствий для согласованного замедления: ограничение имеет смысл только в том случае, если его придерживаются основные участники технологической гонки.
В Anthropic обсуждают риски ускорения ИИ
Публичное заявление Амодеи последовало за его призывами к компаниям замедлить совершенствование наиболее продвинутых моделей. В Anthropic и других компаниях отрасли продолжается дискуссия о потенциальных последствиях появления всё более автономных и мощных систем.
Ранее исследователи предупреждали о возможности катастрофического ущерба от передовых ИИ-технологий. Внутренние споры получили дополнительное внимание после ухода из Anthropic сотрудника Джейкоба Коксона. Он объяснил своё решение опасениями по поводу того, что Anthropic и OpenAI, по его оценке, слишком сильно ускоряют гонку возможностей ИИ.
При этом сама идея контролируемого замедления не означает полного отказа от развития технологии. Речь идёт о попытке установить ограничения именно для наиболее мощных систем и согласовать темпы их развития между основными участниками рынка.
Китай одновременно конкурирует и предлагает глобальное регулирование
На фоне дискуссий в США китайские компании активно развивают собственные нейросетевые модели, конкурируя с OpenAI, Anthropic и другими ведущими разработчиками.
Одновременно Пекин продвигает собственную повестку международного управления ИИ. Председатель КНР Си Цзиньпин на саммите БРИКС в Индии призвал создать основанную на консенсусе глобальную систему управления искусственным интеллектом. Китай также заявил о готовности участвовать в формировании открытого сообщества разработчиков ИИ в рамках БРИКС.
Таким образом, возникает парадокс: Китай рассматривается американскими разработчиками как потенциальный участник технологической гонки, способный ускорить развитие ИИ, и одновременно выступает за международную координацию в этой сфере. Однако предлагаемая Пекином модель глобального управления ИИ не обязательно совпадает с представлением западных компаний о том, какие именно ограничения и механизмы контроля необходимы.
Альтман поддержал идею конкурента
Предложение Амодеи получило поддержку и со стороны его бывшего коллеги и нынешнего конкурента — главы OpenAI Сэма Альтмана. Амодеи покинул OpenAI в конце 2020 года, после чего основал Anthropic.
Альтман заявил о необходимости «сдерживать темп развития передовых систем», несмотря на сохраняющуюся конкуренцию между компаниями. OpenAI и Anthropic одновременно рассматривают возможность проведения IPO, хотя ни одна из компаний пока официально не объявила дату первичного размещения. Альтман ранее говорил, что OpenAI, вероятно, не выйдет на биржу в 2026 году, в том числе из-за вопросов безопасности.
Инициативу Амодеи также положительно оценил председатель совета директоров Google DeepMind Демис Хассабис. По его мнению, эссе главы Anthropic указывает в правильном направлении, хотя конкретные механизмы ещё предстоит разработать. Илон Маск также высказался в поддержку идеи замедления развития передовых ИИ-систем.
Гонка ИИ упирается в проблему доверия
Главная сложность инициативы Амодеи заключается не столько в технической возможности замедлить развитие моделей, сколько в отсутствии доверия между участниками гонки. Компаниям необходимо поверить, что конкуренты не используют добровольное ограничение для получения преимущества, а государствам — что соглашения будут соблюдаться даже тогда, когда на кону окажется военное превосходство.
Поэтому призыв к «ограничению скорости» развития ИИ фактически ставит вопрос о новом формате международного контроля над технологией. Пока ведущие разработчики и государства одновременно заинтересованы и в безопасности, и в опережении конкурентов, найти границу между этими целями будет значительно сложнее, чем просто договориться о технических параметрах очередной модели.
А как вы считаете, насколько Россия влияет на мировое развитие технологий ИИ?
Источник: https://3dnews.ru/1148422/glava-anthropic-nazval-kitay-glavnim-prepyatstviem-dlya-zamedleniya-razvit...Если вам понравился материал, кликните значок — вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал —не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!
