Фильтр по тематике

Граница автоматизации – нормы, сохраняющие участие человека

Бытует мнение, что человека оставляют в контуре автоматизации потому, что без него нельзя. Но нередко процесс просто по привычке проектируют так, чтобы финальное решение обязательно принимал оператор, хотя технически систему уже можно сделать полностью автономной. Пётр Хвесюк рассказал нам, где на самом деле проходит граница автоматизации на производстве, почему её часто задают не технологии, а обязательные нормы и зачем гибридной системе сохранять исходные данные, логировать нестандартные случаи и оставаться проверяемой для человека.
16.11.2026 69 0
Граница автоматизации – нормы, сохраняющие участие человека
Интервью с Петром Хвесюком, руководителем ML-направления Nord Clan


– Насколько широко гибридные системы контроля уже применяются в России?
У нас почти все производства сейчас автоматизированы с участием человека. На многих предприятиях человек остаётся точкой принятия финального решения. Например, один оператор сидит в ситуационном центре, куда поступает информация из разных источников, в том числе от систем видеоаналитики. Система сама выполняет предварительные расчёты и анализ, но решение принимает человек. Такие гибридные системы сейчас очень распространены. Особенно много подобных задач в промышленности. Как правило, на предприятии уже есть действующая линия, оборудование, системы управления, сложившиеся процессы, и новые инструменты контроля встраиваются в этот контур постепенно. В то же время есть системы, которые уже вообще не нуждаются в человеке: его функцию полностью берет на себя автоматика. И здесь возникает другая проблема – многие по старинке проектируют системы, требующие участия человека там, где он уже в принципе не нужен.


– Как понять, когда человека можно исключить из процесса, а когда этого лучше не делать?
Везде, где мы видим возможность убрать человека из цикла, мы это предлагаем. Но иногда сделать это невозможно из-за законодательных или других обязательных требований.

Например, при строительстве атомных электростанций используются системы контроля качества. Делается рентгеновский снимок сварного шва. Система может проанализировать его, найти потенциальные дефекты и обратить на них внимание специалиста. Но ответственный специалист всё равно должен посмотреть снимок и своей подписью подтвердить результат проверки. Затем этот документ хранится вместе с эксплуатационной документацией атомной электростанции 50 или даже 100 лет. То есть одна из границ автоматизации – законодательные, административные и другие обязательные нормы, которые не позволяют полностью исключить человека из процесса. Если таких ограничений нет, дальше компания смотрит на экономику. 

Например, если система может заменить трёх человек в смену, мы считаем экономию на их работе и сопоставляем её со стоимостью разработки и эксплуатации системы. Но кроме ФОТ есть и другие показатели. Автоматизация позволяет быстрее выполнять рутинные операции – в одном из наших проектов за счёт этого удалось снизить затраты на процесс на 70%. На производстве система может проверять весь поток там, где человек физически успевает контролировать только часть продукции. Тогда мы дополнительно считаем снижение потерь от пропущенного брака, рекламаций и возвратов. В итоге экономика проекта складывается из разных факторов в зависимости от задач.  


– А насколько часто человека оставляют в процессе просто по привычке?
Такое бывает. У нас был показательный пример на производственной линии. Оператор должен был следить, когда в определённой зоне окажутся три курицы, и в этот момент нажать кнопку взвешивания. Если нажать раньше, когда проехали только две, результат записывался некорректно. Заказчик предполагал, что человек будет продолжать нажимать кнопку, а система компьютерного зрения – контролировать, вовремя ли он это сделал. Но здесь сама постановка задачи неправильная: зачем вообще нужен человек? Нейронная сеть может определить, когда в зоне взвешивания находятся три курицы, отправить сигнал на контроллер и снять показания весов. Причём делать это 24/7, с высокой точностью и повторяемостью, каждый раз в один и тот же нужный момент. Это как раз пример того, что многие продолжают проектировать системы с участием человека там, где технически он уже не нужен.


– Если человек остаётся в контуре, что становится главным требованием к такой системе?
Главное – чтобы специалист мог при необходимости проверить достоверность полученной информации. Если речь идёт о визуальном контроле, нужно фиксировать исходные фотографии объектов. Например, общий вид или отдельный участок. Если система обнаружила дефект, человек должен иметь возможность вернуться к исходному изображению и проверить, действительно ли он был. Другими словами, должна обеспечиваться прослеживаемость. Если гибридная система помогает человеку принимать решения, должно быть понятно, на основании чего она сделала тот или иной вывод. 

Проверять саму систему периодически просто необходимо. Например, для этого можно использовать контрольные образцы, которые помещаются на производственную линию. Мы заранее знаем, какие дефекты на них есть, и можем убедиться, что система по-прежнему их обнаруживает, все элементы корректно взаимодействуют и результатам можно доверять.


– Почему систему недостаточно один раз хорошо обучить и дальше просто эксплуатировать?
Потому что данные со временем меняются. Допустим, мы обучили систему машинного зрения, и её точность составляет 95%. Затем на производстве что-то меняется: предприятие меняет поставщика сырья, освещение или камеру, загрязняется оптика, появляются блики. Для модели входные данные уже выглядят иначе. Это называется дрейфом данных, и он может влиять на качество работы системы. По этой причине её нужно периодически проверять: использовать контрольные образцы, смотреть, где её результаты расходятся с оценкой специалиста. Если появляются новые случаи, добавлять их в выборку и переобучать модель. То же самое касается и систем, работающих с текстом и контекстом. Например, обновилось законодательство, а система не совсем правильно учитывает изменения и начинает давать сбои. Если предусмотрена обратная связь от человека, такие ситуации можно выявлять и использовать для дальнейшей настройки. Одним словом, человек в гибридной системе не только принимает решения, но и создаёт данные для её дальнейшего обучения.


– А что делать с ситуациями, которых вообще не было в исходной выборке?
Все значимые действия и результаты нужно записывать и архивировать. В процессе эксплуатации появляются различные корнер-кейсы, которых не было в исходной выборке и которые невозможно было предусмотреть при разработке. В момент запуска система может работать практически идеально, но через год, два, три или пять лет обязательно появятся нюансы, которые изначально не были учтены. Система должна помечать такие случаи, логировать их и сохранять данные. Тогда к ним можно вернуться, разобраться в причинах и понять, что нужно изменить: дополнить выборку, переобучить модель или доработать функциональность. Так мы обычно повышаем качество системы уже в процессе эксплуатации.


– Есть ли у гибридных систем недостатки по сравнению с полной автоматизацией?
Да. Первый очевидный минус в том, что человек остаётся частью процесса. Он может отвлечься, устать, неправильно понять информацию, что-то пропустить или не увидеть. При грамотно организованном процессе эти риски управляемы, но они существуют. Кроме того, гибридная система иногда может быть даже дороже полностью автоматизированной. Взаимодействовать напрямую с сигналами промышленного оборудования зачастую проще, чем дополнительно воспроизводить в интерфейсе всю необходимую человеку информацию в том формате, к которому он привык. То есть нужно проектировать не только саму автоматизацию, но и взаимодействие с оператором: что ему показывать, когда, в каком виде и какие возможности вмешательства ему давать. По трудозатратам это может быть сложнее, чем прямое взаимодействие системы с линией.


– Как тогда правильно распределять полномочия между системой и оператором?
Постепенно. Неправильно завтра объявить, что появилась суперумная система и человек больше нигде не нужен. Правильнее передавать автоматизированной системе отдельные участки работы и по мере эксплуатации увеличивать её полномочия. Сначала система может работать в теневом режиме: принимать решения параллельно с оператором, но не влиять на процесс. Затем она работает как советчик: предлагает действие, а решение остаётся за человеком. Следующий этап – система действует сама, но оператор сохраняет возможность вмешаться. 

Причем даже одну и ту же функцию можно организовать по-разному. Допустим, система обнаружила ситуацию, при которой нужно остановить производственную линию. Она может сразу сделать это самостоятельно. 

Другой вариант – сначала сообщить оператору, что линия сейчас будет остановлена, и дать ему возможность вмешаться, например заблокировать остановку. Это тоже гибридная система. По мере внедрения степень участия человека можно менять. Переходить к следующему этапу можно, когда система стабильно показывает нужную точность и не допускает критических ошибок. Где именно провести границу, определяется процессами и требованиями конкретного производства.


– Какие технологии будут влиять на развитие таких систем в ближайшее время?
Один из заметных трендов – развитие low-code- и no-code-платформ. Сейчас возможности нейронных сетей позволяют человеку описывать необходимую логику практически на естественном языке, а внутри будет создаваться обычный код. Нужно понимать и ограничение самой нейронной сети. Она выбирает наиболее вероятный способ достижения результата на основании имеющихся данных. Она не выстраивает последовательность действий потому, что логически доказала, что только эта последовательность правильная. Поэтому там, где функциональность должна работать как часы, нейронные сети нужно дополнять чёткой алгоритмической логикой. Например, при работе с финансовыми документами нельзя просто доверить нейросети расчёт суммы по заданным параметрам: она может ошибиться, что-то пропустить или неправильно выполнить вычисление.

Такие задачи можно решать иначе: пользователь описывает операцию на естественном языке, на её основе создаётся код, который затем проверяется и запускается, например, как MCP-сервер, к которому нейросеть обращается для выполнения конкретной операции. В результате тот же дебет и кредит считает уже однозначная алгоритмическая логика.


– Как, на ваш взгляд, будут развиваться гибридные системы контроля в России в ближайшие годы?
Думаю, будет постепенно меняться степень участия человека. Там, где сегодня оператор подтверждает бо́льшую часть действий системы, со временем часть полномочий можно будет передавать автоматике. Уже сейчас одну и ту же функцию можно спроектировать так, чтобы система только предупреждала человека, либо так, чтобы она действовала самостоятельно. Но полностью человек исчезнет не из всех процессов. Где-то его участие будет обязательным из-за законодательных или административных требований. Где-то компании сами предпочтут сохранить дополнительный уровень контроля.

Одновременно будет возрастать значение данных, которые накапливаются в процессе эксплуатации. Через несколько лет обязательно появятся новые ситуации, которых не было в первоначальной выборке, поэтому система должна позволять вернуться к конкретному случаю, понять причину результата и при необходимости переобучить модель. На мой взгляд, развитие будет идти не к одномоментному переходу к полной автономности, а к постепенному изменению границы между человеком и системой. Чем надёжнее работает автоматизация и чем больше данных накоплено, тем больше функций ей можно передавать. ●

© СТА-ПРЕСС, 2026

Если вам понравился материал, кликните значок — вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал —не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!

16.11.2026 69 0
Комментарии
Рекомендуем
Суверенный периферийный интеллект: как мини-ЦОД и открытые платформы меняют правила игры в российской индустрии

Суверенный периферийный интеллект: как мини-ЦОД и открытые платформы меняют правила игры в российской индустрии

Ещё пару лет назад словосочетание «искусственный интеллект на производстве» почти автоматически означало аренду облачных GPU, потоковую отправку кадров в чужой дата-центр и ежемесячную абонентскую плату, растущую пропорционально числу рабочих мест и сценариев решения бизнес-задач. Сегодня этот подход трещит по швам. Дело не только в санкционных качелях, сделавших недоступными привычные западные ускорители, и не только в регуляторном прессе закона 152-ФЗ, требующего локализации персональных данных. Главная причина глубже: промышленный ИИ перестаёт быть игрушкой для пилотов и стартапов, а становится критической инфраструктурой. В свою очередь, критическая инфраструктура не может зависеть от внешнего облака, пропускной способности магистрального канала и тарифной политики поставщиков услуг. Ответом на этот вызов стало появление решений в формате мини-ЦОД, вычислительные платформы на альтернативных GPU и управляющий софт в единый локальный контур, который можно развернуть в цеху за одну смену. Именно о таком симбиозе – инженерном, а не маркетинговом, – пойдёт речь в этом обзоре.
10.11.2026 СТА №4/2026 343 0

Реклама
Реклама.  ООО «Остек-СМТ»  ИНН 7731481045  erid = 2SDnjchs19E
Реклама
Реклама.  ООО «Остек-СМТ»  ИНН 7731481045  erid = 2SDnjdHxidA
  Подписывайтесь на наш канал в Telegram и читайте новости раньше всех! Подписаться