11 сентября, всего через три дня после того, как OpenAI объявила о решении одной из самых сложных открытых задач современной математики с помощью 10 000 автономных ИИ-агентов, математик Брауновского университета Хавьер Гомес-Серрано вышел к переполненной аудитории Гарвардского университета. Ещё около тысячи человек подключились к лекции по Zoom. Его задача была непростой: в кратчайшие сроки объяснить коллегам, как именно OpenAI удалось получить заявленный результат.
Гомес-Серрано вряд ли можно назвать скептиком в отношении искусственного интеллекта. На протяжении нескольких лет он сотрудничает с Google DeepMind, используя инструменты ИИ для работы над несколькими открытыми математическими проблемами. Свои лекции он нередко начинает со слайда, посвящённого пяти стадиям принятия новых возможностей ИИ математиками. Обычно последняя стадия — принятие.
Теперь, по его словам, в эту последовательность, вероятно, придётся добавить ещё одну: «экзистенциальный кризис».
8 сентября OpenAI вызвала настоящий ажиотаж в математическом сообществе, заявив, что её ИИ решил задачу Навье–Стокса — одну из семи задач тысячелетия, сформулированных Clay Mathematics Institute. Компания сообщила, что использовала внутреннюю большую языковую модель и около 10 000 автономных агентов, работавших над задачей в течение 88 часов. Заявленные вычислительные затраты составили миллионы долларов.
«По любым меркам доказать теорему мирового класса для задачи, открытой более 200 лет, — настоящее достижение», — говорит Гомес-Серрано.
Однако именно этот успех стал поводом для серьёзного конфликта внутри математического сообщества. Для одних исследователей он демонстрирует, что ИИ становится полноценным инструментом математического поиска и его необходимо осваивать как можно быстрее. Для других происходящее связано с гораздо более фундаментальным вопросом: что останется от математики как человеческой деятельности, если ключевые этапы поиска доказательств всё чаще будут выполнять машины?
«Как математик, работающий над инструментами ИИ, я по уши погружён в этот кризис, — говорит Сергей Гуков из Калифорнийского технологического института (Caltech). — Это землетрясение».
Что именно сделал ИИ
Уравнения Навье–Стокса описывают движение вязких жидкостей и газов. Они используются для моделирования самых разных физических процессов — от движения крови в организме до формирования воздушных потоков и атмосферных вихрей.
Одна из центральных математических проблем заключается в том, можно ли доказать, что решения трёхмерных уравнений Навье–Стокса всегда остаются гладкими и конечными, или же за конечное время в них может возникнуть сингулярность — своего рода математический «взрыв», при котором некоторые величины становятся неограниченными.
В последние десятилетия исследователи существенно продвинулись в изучении более простых уравнений Эйлера, описывающих движение идеальной жидкости без учёта вязкости. Одним из перспективных направлений занимались испанские математики Диего Кордова из Института математических наук в Мадриде и Луис Мартинес-Зороа из Университета CUNEF.
Математик Тристан Бакмастер из Нью-Йоркского университета и исследователь Anthropic Левент Альпёге также изучали этот подход с использованием инструментов ИИ, включая Codex от OpenAI. В августе они сообщили о существенном продвижении в исследовании уравнений Эйлера и планировали распространить полученные методы на более сложные уравнения Навье–Стокса.
Почти одновременно с публичным заявлением OpenAI Бакмастер опубликовал предварительные результаты по уравнениям Эйлера. Свою работу над этой проблемой также представила группа компьютерного учёного из Caltech Анимы Анандкумар, использовавшая нейронные сети, основанные на физических моделях, а не большие языковые модели.
Стремительное развитие событий породило ещё один конфликт. Бакмастер предположил, что OpenAI могла получить доступ к журналам работы его системы Codex и использовать содержащуюся там информацию при обучении своих моделей. 10 сентября компания сообщила The New York Times, что хронология событий делает такой сценарий «категорически» невозможным.
Для многих исследователей, однако, сам конфликт оказался не менее важен, чем вопрос о том, кто и каким образом получил математический результат. Он показал потенциальную уязвимость отдельных учёных перед технологическими компаниями, располагающими практически неограниченными вычислительными ресурсами.
«Теперь мы увидели, что даже слухи о том, что кто-то работает над проблемой, могут спровоцировать масштабные усилия с использованием ИИ по её решению», — написал математик Калифорнийского университета в Лос-Анджелесе Теренс Тао в социальной сети Mastodon.
«Мататон» оказался в центре конфликта
Новая ситуация особенно остро проявилась вокруг предстоящего мероприятия Caltech, призванного объединить математиков и разработчиков ИИ.
После августовского заявления OpenAI о том, что её модель Astra продвинулась в решении десяти открытых математических задач, студенты Caltech организовали «мататон» — соревнование, в котором участники должны были работать над нерешёнными математическими проблемами с использованием вычислительных ресурсов на сумму 2 млн долларов, предоставленных OpenAI и Anthropic.
Интерес к мероприятию оказался огромным: зарегистрировались более 1000 человек.
Но всего через два дня после заявления OpenAI о Навье–Стоксе более 1000 математиков подписали открытое письмо против проведения «мататона». Авторы письма заявили, что считают мероприятие проявлением чрезмерного влияния корпоративных интересов на академическую математику и выражают обеспокоенность его возможным воздействием на молодых исследователей.
«Говоря прямо, компании ИИ занимаются нарушениями в исследованиях», — утверждалось в письме. Его авторы также заявили, что мероприятие эксплуатирует математиков, находящихся в начале научной карьеры.
Вскоре после этого OpenAI отказалась от участия в мероприятии.
Гуков, который сам планирует выступить на «мататоне», оценивает ситуацию иначе. По его словам, он был бы удивлён, если бы в рамках мероприятия удалось решить действительно сложные открытые задачи. При этом, считает математик, эксперимент может оказаться полезным хотя бы потому, что позволит участникам непосредственно увидеть возможности и ограничения современных ИИ-систем.
«По крайней мере, оно служит для того, чтобы просто продемонстрировать силу ИИ», — говорит он.
Организаторы после критики скорректировали формат мероприятия и опубликовали собственное заявление.
«Подавляющее ощущение, которое я получил от математического сообщества, заключается в том, что нам нужно пробовать что-то новое и идти на новые риски, — говорит соорганизатор “мататона” Кайман Морено-Эрл. — Особенно для младших студентов бакалавриата у нас нет роскоши ждать».
Кто получит доступ к математическому ИИ?
Отдельный вопрос связан с доступностью вычислительных ресурсов. Теоретический компьютерный учёный и математик из Университета Иллинойса в Урбана–Шампейне Дакшита Хурана обращает внимание на риск появления нового разрыва между исследователями.
Если качество результата зависит не только от математических способностей человека, но и от того, какая модель ИИ ему доступна и сколько вычислительных ресурсов он может использовать, преимущество получают исследователи из организаций с большими технологическими бюджетами.
«Я хочу будущее, в котором все талантливые исследователи из всех учебных заведений имеют ресурсы, необходимые для реализации амбициозных идей», — говорит Хурана.
Она выступает за расширение государственной исследовательской инфраструктуры и более широкий доступ к вычислительным системам, предназначенным для работы с ИИ.
Есть и другая реакция — попытка сформировать внутри математического сообщества собственные механизмы защиты его интересов.
Почти 400 математиков присоединились к Ассоциации человеческой математики (AHM), созданной в августе. «Это моё сообщество, и я очень заинтересована в том, что с ним произойдёт», — говорит основательница организации Тасмин Чу, аспирантка Caltech.
Участники AHM заявили об отказе сотрудничать с компаниями, занимающимися ИИ, а некоторые, в том числе Чу, решили отказаться и от использования ИИ в собственных исследованиях.
Ассоциация намерена работать с научными журналами, помогая им реагировать на рост числа материалов, созданных с использованием ИИ, обсуждать изменения в математическом образовании и критиковать практики компаний, которые, по мнению участников организации, позволяют извлекать престиж из решения открытых математических задач без соответствующего вклада в коллективное понимание результатов.
«Мы не можем просто закрыть глаза и делать вид, что ИИ там нет, — говорит Стивен Сивек, математик Имперского колледжа Лондона и член AHM. — Но мы хотим делать это с точки зрения человека, а не просто передавать бразды правления триллионным компаниям, которые не несут никакой ответственности».
Вопрос уже вышел за пределы математики
11 сентября к дискуссии подключились ведущие представители мировой математики. Двадцать пять лауреатов медали Филдса — одной из наиболее престижных наград в математике — подписали письмо, в котором предупредили о серьёзном расхождении между развитием ИИ и принципами математической науки.
Авторы письма связали происходящее не только с математикой, но и с более широким вопросом: как сохранить цели и ценности интеллектуальной деятельности, когда ИИ начинает радикально менять способы получения результатов.
После публикации обращения его подписали ещё почти 6000 математиков.
Тем временем сама технологическая гонка продолжается. OpenAI намекнула, что может находиться на пути к решению ещё одной задачи тысячелетия. А математическое сообщество параллельно пытается разобраться с 166-страничным доказательством, представленным компанией в рамках работы над задачей Навье–Стокса.
Проблема в том, что даже специалисты пока испытывают сложности с его интерпретацией. На своей лекции Гомес-Серрано описал доказательство как «непонятное».
Именно здесь возникает главный парадокс нынешней ситуации. ИИ может оказаться способен находить математические доказательства быстрее, чем человеческое сообщество успевает их проверить, объяснить и встроить в существующую систему знаний. Тогда вопрос будет заключаться уже не только в том, может ли ИИ решать сложные математические задачи, а в том, считается ли решением результат, который люди способны проверить формально, но не способны по-настоящему понять. Если этот рубеж действительно близок, готовы ли математики принять новую модель научной работы — и что, по-вашему, в ней окажется важнее: доказанная машиной истина или человеческое понимание того, почему она верна?
Источник: https://www.science.org/content/article/openai-breakthrough-triggers-existential-crisis-math
Если вам понравился материал, кликните значок — вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал —не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!
