В традиционных генеративных моделях, включая диффузионные модели и модели сопоставления потоков (flow matching), система постепенно преобразует случайный шум в итоговый результат. При этом в задачах, критичных для безопасности, решение должно соответствовать ограничениям, которые нельзя нарушать. Например, траектория промышленного робота должна исключать столкновение с человеком или оборудованием.
Один из распространённых способов добиться этого — проекционная выборка. Она заставляет промежуточные результаты генерации соответствовать заданным ограничениям на каждом этапе. Однако такой подход может чрезмерно ограничивать пространство поиска и мешать модели найти действительно оптимальное конечное решение.
«Для удовлетворения ограничений в конечном итоге важен итоговый результат модели, поскольку внутренний процесс отбрасывается. Не требуя каждого промежуточного шага для выполнения этих ограничений, мы даём модели больше свободы для поиска качественных решений, которые в конечном итоге всё ещё осуществимы», — объясняет ведущий автор работы Зэян Ли, аспирант кафедры машиностроения MIT и Лаборатории информационных и систем принятия решений (LIDS).
Именно на этом принципе построен HardFlow. Алгоритм не пытается жёстко ограничивать каждый промежуточный этап генерации. Вместо этого он направляет весь процесс к решению, которое в конце должно удовлетворять заданным требованиям.
Управление вместо постоянного ограничения
Исследователи сформулировали задачу генерации как задачу оптимального управления. Такой подход позволяет корректировать траекторию выборки модели небольшими управляющими воздействиями, одновременно учитывая ограничения, которым должен соответствовать конечный результат.
«Теория управления даёт нам мощную основу для формализации оптимального способа внесения этих исправлений», — говорит Навид Азизан, доцент MIT, ведущий исследователь LIDS и старший автор исследования.
Проблема заключалась в том, что оптимизацию необходимо выполнять вокруг большой нейронной сети, состоящей из множества взаимосвязанных слоёв. Для снижения вычислительной сложности исследователи использовали структуру моделей flow matching, разложив исходную задачу на последовательность меньших одноступенчатых подзадач. После этого они применили преобразования и аппроксимации, позволившие получить алгоритм, пригодный для выполнения непосредственно при развертывании модели.
Важным преимуществом такого подхода стала возможность учитывать не только обязательные ограничения, но и дополнительные критерии качества. Например, для промышленного робота алгоритм может одновременно требовать отсутствия столкновений и минимальной длины траектории.
В экспериментах исследователи проверили HardFlow на задачах роботизированного управления, навигации по лабиринтам и редактирования изображений по текстовым инструкциям. По заявлению авторов, метод стабильно обеспечивал выполнение заданных ограничений и при этом превосходил базовые подходы по качеству получаемых решений.
В задаче управления роботизированным манипулятором HardFlow позволял строить траекторию без столкновений с препятствиями, одновременно оптимизируя время достижения цели. Конкурирующие методы в тех же условиях либо допускали нарушения ограничений, либо находили более длинные траектории.
Вычислительная стоимость метода при этом была сопоставима с большинством рассмотренных альтернатив или ниже них.
HardFlow представляет интерес прежде всего как способ совместить два требования, которые для генеративного ИИ часто конфликтуют: свободу поиска и гарантированное соблюдение формализованных ограничений. Для систем, работающих с физическими объектами, это принципиальная разница — «почти допустимое» решение может оказаться неприемлемым, даже если в остальных отношениях оно оптимально.
При этом до практического применения в системах, непосредственно отвечающих за безопасность людей или оборудования, ещё предстоит пройти путь от экспериментальной демонстрации до проверки надёжности, устойчивости к неопределённости и соответствия отраслевым требованиям безопасности. Авторы планируют развить подход для сценариев, в которых алгоритм сможет не только управлять процессом генерации, но и адаптивно изменять саму ИИ-модель для улучшения качества и соблюдения ограничений.
Источник: https://news.mit.edu/2026/new-method-enables-ai-safety-critical-situations-0914
Если вам понравился материал, кликните значок — вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал —не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!
