Когда действительно стоит внедрять ИИ в устройства: польза важнее технологической моды

За последние несколько лет технологическая индустрия взяла курс на внедрение ИИ практически во все категории устройств. Умные зубные щётки с компьютерным зрением, бытовые роботы, распознающие настроение владельца, и другие продукты всё активнее используют алгоритмы машинного обучения, чтобы изучать привычки пользователей, прогнозировать их потребности и автоматически подстраивать свою работу.

Однако добавление интеллектуальных функций само по себе не делает устройство лучше. Пользователи, которым приходилось устанавливать обновления прошивки на холодильник, хорошо знают, что усложнение техники не всегда приносит практическую пользу. Поэтому разработчики всё чаще задаются вопросом: где проходит граница между настоящей инновацией и попыткой внедрить технологию ради самой технологии?

Савана Куновски, возглавляющая команду промышленных дизайнеров в IDEO — консалтинговой компании из Сан-Франциско, специализирующейся на проектировании продуктов и пользовательского опыта, — считает, что отправной точкой при разработке устройств с ИИ должны быть не технологические возможности, а реальные потребности человека.

В интервью IEEE Spectrum она рассказала о давлении рыночных тенденций на производителей, ошибках при интеграции ИИ и критериях, которые помогают определить, когда интеллектуальные функции действительно оправданы.

Когда ИИ ухудшает продукт

Насколько нынешняя волна внедрения ИИ в физические устройства обусловлена давлением инвесторов и акционеров, требующих не отставать от отраслевых тенденций?

Савана Куновски: В определённой степени это действительно так. К нам обращаются команды, которые чувствуют необходимость продемонстрировать, что они тоже работают с ИИ. Иногда генеральный директор уже пообещал совету директоров представить историю внедрения ИИ к следующему отчёту о финансовых результатах. В других случаях конкурент только что выпустил интеллектуальную версию своего продукта, и компания не хочет отставать.

Во всех таких ситуациях мы сначала предлагаем остановиться и разобраться, для кого создаётся продукт и какую задачу должен решать. Когда это становится понятно, обычно проясняется и роль ИИ: будет ли он основой устройства, вспомогательной функцией или вообще останется незаметным для пользователя.

Сейчас в отрасли заметен спрос именно на такой подход. Компании хотят отделить реальные возможности от шумихи вокруг ИИ и понять, что действительно работает на практике.

Как отличить полезную функцию на основе ИИ от бесполезного технологического дополнения?

Куновски: Критерий здесь тот же, что и при оценке любого продукта: помогает ли он человеку выполнить то, что тот собирается сделать? Чтобы ответить на этот вопрос, необходимо понимать, как именно люди будут пользоваться устройством в реальных условиях.

Многие компании сразу обращают внимание на большие языковые модели (LLM), поскольку именно они сейчас находятся в центре внимания. Но инструментарий ИИ гораздо шире: компьютерное зрение, объединение данных нескольких датчиков, локально работающие модели и другие технологии. Выбор подходящего инструмента для конкретной задачи не менее важен, чем само решение о необходимости внедрения ИИ.

Новая парадигма взаимодействия с техникой предполагает изменение привычек пользователей, поэтому она должна быть максимально простой. Когда в начале 1980-х годов предшественница IDEO участвовала в разработке первой удобной компьютерной мыши Apple, команда предусмотрела всего одну кнопку. Люди осваивали совершенно незнакомую систему, поэтому механизм взаимодействия с ней должен был быть предельно понятным.

В каких устройствах внедрение ИИ уже привело к ухудшению пользовательского опыта?

Куновски: Самые очевидные примеры — продукты, в которых ИИ заменил то, что и без него работало хорошо. Я с уважением отношусь к Humane AI Pin как к эксперименту, который заставил задуматься о будущем взаимодействия с техникой. Но сама технология оказалась не готова к практическому использованию. Это носимое устройство без экрана, задуманное как альтернатива смартфону, в котором приложения заменяет ИИ-ассистент. Пользователям предлагалось отказаться от привычного интерфейса в пользу системы, которая работала медленнее и менее надёжно. Попросить человека принять такой компромисс непросто.

Похожие проблемы встречаются повсюду: голосовой помощник неправильно распознаёт простую команду и выключает не тот свет, чат-бот службы поддержки зацикливается на одних и тех же ответах, хотя пользователь просто хочет поговорить с человеком.

В автомобилях управление климатической системой и громкостью аудиосистемы перенесли с физических регуляторов на сенсорные экраны и голосовые меню. В результате действие, которое раньше можно было выполнить на ощупь, теперь требует от водителя отвести взгляд от дороги. Европейская программа оценки безопасности автомобилей Euro NCAP даже стала учитывать наличие физических органов управления при оценке машин.

Людям нравятся некоторые устройства именно потому, что они аналоговые. Часть привлекательности плёночной камеры, хорошего кухонного ножа или бумажного блокнота заключается в мастерстве исполнения и ощущении полного контроля над инструментом.

Но необязательно выбирать что-то одно. В системе умного дома можно выключить свет голосовой командой, через приложение или обычным настенным выключателем. Возможность несколькими способами добиться одного результата — преимущество, если только она не создаёт дополнительную сложность ради самой сложности.

Можете привести пример, когда вам удалось убедить заказчика отказаться от внедрения ИИ?

Куновски: Один из клиентов хотел создать варочную панель вообще без механических регуляторов. Предполагалось, что пользователь будет сообщать ИИ, какое блюдо готовит, а система самостоятельно станет управлять нагревом.

Во время испытаний сковорода начала дымиться, и пользователь инстинктивно потянулся к ручке регулировки, которой не оказалось. Он дважды попросил систему уменьшить нагрев, а затем просто снял сковороду с конфорки. Всё это произошло раньше, чем ИИ успел отреагировать. В итоге мы решили сохранить механические регуляторы.

Всё, чем необходимо управлять мгновенно, на ощупь или в стрессовой ситуации, обычно лучше оставлять под физическим управлением. Это регулятор громкости, выключатель света, управление конфоркой или кнопка аварийной остановки. В такие моменты механический орган управления быстрее и надёжнее системы, которой сначала нужно интерпретировать намерение пользователя.

Как правильно проектировать устройства с ИИ

Как должна выглядеть действительно удачная интеграция ИИ в физический продукт?

Куновски: Компании часто начинают с оценки технической возможности внедрения ИИ, поскольку сама технология вызывает большой интерес. Но сначала необходимо понять потребности людей. И только после этого оценивать техническую реализуемость и экономическую целесообразность решения.

Затем нужно определить, какую именно роль будет играть ИИ. Иногда он становится основой пользовательского опыта — например, когда голосовой интерфейс позволяет естественным образом общаться с устройством. В других случаях ИИ работает незаметно в фоновом режиме, запоминает предпочтения человека и избавляет его от необходимости каждый раз повторять одни и те же настройки.

В обоих случаях главный критерий остаётся неизменным: помогает ли технология человеку достичь поставленной цели?

Как избежать ситуации, когда внедрение ИИ делает устройство менее понятным и более обременительным в использовании?

Куновски: Большие языковые модели работают с текстом, поэтому возникает соблазн снабдить каждое устройство окном чата. Но если начинать с изучения потребностей человека и решаемой им задачи, интерфейс может выглядеть совершенно иначе.

Физические устройства способны взаимодействовать с пользователем не только посредством слов. Они могут использовать свет, звук, вибрацию, движение, тактильные ощущения от ручки или кнопки. Интеллектуальные функции позволяют сделать все эти способы взаимодействия более информативными и выразительными.

Больше всего меня интересуют продукты, которые расширяют наши возможности воспринимать окружающий мир, понимать его и действовать, но при этом сохраняют человека в центре пользовательского опыта.

Особенно наглядные примеры можно найти в области доступности технологий. Слуховые аппараты уже способны использовать ИИ, чтобы выделять голос собеседника, которого человек пытается расслышать в шумном ресторане. Приложение Be My Eyes позволяет незрячим людям и людям с ослабленным зрением направить камеру смартфона на окружающие предметы и получить их голосовое описание. Функции перевода в режиме реального времени в беспроводных наушниках помогают вести разговор людям, не владеющим языком друг друга.

Проактивные интеллектуальные системы должны предугадывать потребности пользователя, не становясь навязчивыми. Это похоже на работу хорошего официанта в ресторане: он замечает, что стакан воды опустел, но одновременно понимает, хочет ли посетитель пообщаться или предпочитает, чтобы его оставили в покое.

Когда человек впервые сталкивается с новой технологией, он часто ещё не знает, о чём можно попросить систему. Поэтому полезно, когда продукт сам предлагает новые возможности и помогает понять, что с его помощью можно сделать.

Сейчас появляется новое поколение персональных ИИ-агентов, например Instinct, Dots и Muse. Они способны самостоятельно выполнять задачи в фоновом режиме, а затем возвращаться к пользователю с результатами и новыми находками.

Здесь особенно важны уместность и своевременность. Интенсивность вмешательства системы должна соответствовать значимости ситуации, а сама она должна учиться на реакции пользователя. Если человек постоянно отклоняет определённые предложения, это сигнал, что поведение ИИ необходимо изменить.

Генеративный ИИ недетерминирован и может выдавать разные ответы на один и тот же запрос. Как это меняет традиционные подходы к тестированию и проектированию продуктов?

Куновски: Это меняет само представление о том, что такое спецификация продукта. В традиционном программном обеспечении разработчик составляет техническое задание, а затем проверяет, что система выполняет именно то, что в нём описано. В случае генеративного ИИ невозможно заранее специфицировать каждый возможный результат. Вместо этого необходимо определить границы и условия, в которых система должна работать.

Для больших языковых моделей новыми инструментами определения характеристик продукта стали процедуры оценки ИИ (AI evaluations) и конституции моделей — наборы письменных принципов, направляющих их обучение и поведение.

Процедуры оценки позволяют определить, что считать хорошей работой системы в тысячах различных ситуаций. Конституция задаёт ценности и ограничения, которых модель должна придерживаться. Вместе с программным обеспечением модели, её конфигурацией и инфраструктурой выполнения эти инструменты формируют рабочую среду продукта. Правильная настройка всех этих элементов теперь является полноценной частью проектирования, а не просто заключительным этапом инженерной разработки.

Недетерминированность генеративного ИИ создаёт дополнительные сложности и для доверия пользователей. Люди привыкают доверять традиционным устройствам, потому что те каждый раз выполняют одни и те же действия. При работе с генеративным ИИ требуется гораздо более продуманный подход: разработчики должны заранее определить, в каких ситуациях поведение системы обязано оставаться неизменным, а где допустима вариативность.

Пользователь должен понимать, в каком режиме работает устройство, и видеть, что именно делает система, если она не уверена в результате.

Насколько важно предусматривать возможность вмешательства человека и ручного управления в интеллектуальных системах?

Куновски: Это принципиально важно. Ни одна система ИИ не будет права абсолютно всегда. Если человек может легко вмешаться, ошибка останется небольшим эпизодом. Если такой возможности нет, она может стать причиной полной утраты доверия к продукту.

Возможность ручного управления — это не обязательно аварийная кнопка домашнего робота или автомобиля. Иногда достаточно отменить выполненное действие, отредактировать предложенный вариант или просто отключить интеллектуальную функцию.

Например, при разработке Ethiqly — инструмента на основе ИИ, который помогает учащимся структурировать собственные мысли, а не пишет за них сочинения, — мы предусмотрели обязательное подтверждение преподавателем каждого фрагмента обратной связи перед тем, как он будет показан ученику. Такой контроль помогает людям постепенно привыкать к использованию интеллектуальной системы и доверять ей больше задач.

Возможность ручного управления должна быть очевидной, быстрой и доступной именно в тот момент, когда она необходима, а не спрятанной глубоко в меню настроек. Когда человек знает, что в любой момент может вернуть себе контроль, он гораздо охотнее позволяет ИИ помогать ему.