Авторы считают, что формируется потенциально опасный дисбаланс. Современные ИИ-системы уже анализируют огромные объёмы информации о поведении пользователей, а их возможности в проектировании и совершенствовании других ИИ-моделей быстро расширяются. При этом сложность самих систем растёт настолько быстро, что традиционные методы человеческого анализа могут перестать успевать за их развитием.
ИИ начинает проектировать ИИ
Одной из ключевых тенденций исследователи называют использование искусственного интеллекта для создания и оптимизации других ИИ-систем. Нейросети уже применяются для разработки архитектур моделей, настройки алгоритмов и поиска решений, которые человеку было бы трудно получить вручную.
Проблема заключается в том, что в результате таких циклов оптимизации разработчики могут понимать принцип работы системы лишь частично. ИИ способен находить эффективные конфигурации и стратегии, не предоставляя человеку интуитивно понятного объяснения того, почему именно они работают.
По мере усложнения таких процессов может увеличиваться разрыв между возможностями созданной системы и способностью её разработчиков объяснить происхождение этих возможностей.
Машины начинают взаимодействовать друг с другом
Второй фактор — распространение многоагентных систем, в которых несколько ИИ-моделей взаимодействуют между собой, распределяют задачи и совместно принимают решения.
Пока отдельные модели работают преимущественно как инструменты, человеку сравнительно легко анализировать их входные данные и результаты. Но в многоагентной среде возникает дополнительный уровень сложности: системы начинают влиять друг на друга, а возникающие цепочки взаимодействий могут становиться трудными для интерпретации.
Авторы предполагают, что по мере развития таких систем человеческое понимание происходящих внутри них процессов может отставать от машинных возможностей.
ИИ всё лучше моделирует человеческое поведение
Третья тенденция связана непосредственно с людьми. Современные ИИ-системы получают огромное количество информации о том, как пользователи формулируют запросы, принимают решения, реагируют на различные аргументы и взаимодействуют с цифровыми сервисами.
На основе таких данных модели могут формировать всё более подробные представления о человеческом поведении. Речь идёт не только о предпочтениях пользователя, но и о более сложных факторах — например, реакции на неопределённость, страх, социальное давление или стремление к одобрению.
В результате может возникнуть ситуация, при которой ИИ способен достаточно точно предсказывать реакцию человека, хотя сам человек при этом не понимает, каким образом система пришла к такому выводу.
Главный риск — не сама сложность ИИ
По мнению исследователей, проблема заключается не только в непрозрачности алгоритмов. Более серьёзным последствием может стать постепенная утрата способности человека самостоятельно оценивать решения, которые принимаются с участием ИИ.
Особенно опасным сценарием авторы считают системы, которые научатся очень точно подстраивать свои ответы под конкретного пользователя. Если алгоритм оптимизируется прежде всего под удовлетворённость и вовлечённость, он может начать сообщать человеку не то, что наиболее точно описывает реальность, а то, что тот с большей вероятностью примет.
В таком случае ИИ способен не столько расширять человеческое понимание, сколько незаметно усиливать уже существующие убеждения и предпочтения.
Проблема усугубляется тем, что пользователь может не понимать, почему получил именно такой ответ и какие факторы повлияли на его формирование.
Человеческий контроль ещё можно сохранить
При этом Хорвиц и Уэст не утверждают, что подобное развитие событий неизбежно. По их мнению, нынешние тенденции дают человечеству возможность заранее разработать механизмы, позволяющие сохранить контроль над всё более сложными системами.
Одним из приоритетных направлений должно стать развитие методов интерпретируемости ИИ — технологий, которые позволят объяснять решения, внутренние процессы и особенности поведения моделей в понятной для человека форме.
Авторы также предлагают совершенствовать способы оценки ИИ. Вместо исключительно статичных тестов и стандартных бенчмарков следует использовать более динамические сценарии, в которых система проверяется в условиях, приближенных к реальному взаимодействию с людьми и другими ИИ.
Такой подход позволит отслеживать не только точность модели, но и изменения в её поведении по мере дальнейшего обучения и усложнения.
Главный вывод исследователей заключается в том, что способность человека понимать ИИ должна развиваться одновременно с возможностями самих систем. Если машины будут становиться всё лучше в моделировании человеческого поведения, а люди — всё хуже понимать принципы работы этих машин, технологический прогресс может привести к своеобразному дисбалансу знаний.
Поэтому интерпретируемость, прозрачность и сохранение человеческой автономии, считают авторы, должны рассматриваться не как второстепенные характеристики ИИ, а как одни из ключевых целей его дальнейшего развития.
Источник: https://www.sciencenewstoday.org/ai-may-soon-understand-humans-better-than-we-understand-it-scientis...Если вам понравился материал, кликните значок — вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал —не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!
