Авторами публикации стали главный научный сотрудник Microsoft Эрик Хорвиц и профессор Федеральной политехнической школы Лозанны (EPFL) Роберт Уэст.
Три тенденции, которые меняют баланс
Исследователи выделяют три ключевых процесса, из-за которых современные системы ИИ становятся всё менее понятными человеку.
Во-первых, ИИ всё чаще разрабатывает ИИ. Современные модели уже используются для проектирования, оптимизации и обучения новых моделей. Такие процессы позволяют быстрее улучшать алгоритмы, однако понять, почему именно система стала работать лучше и каким образом возникли её новые способности, становится всё сложнее даже для разработчиков.
Во-вторых, растёт число многоагентных систем. Вместо отдельных моделей появляются экосистемы, где множество ИИ взаимодействуют между собой, совместно решают задачи и обмениваются информацией. Со временем такие внутренние коммуникации могут стать настолько сложными, что человеку будет трудно проследить ход рассуждений и логику принимаемых решений.
В-третьих, ИИ стремительно совершенствует модели человеческого поведения. Анализируя огромные массивы данных и миллионы взаимодействий с пользователями, современные системы всё точнее предсказывают предпочтения, реакции и способы принятия решений. Более того, авторы отмечают, что ИИ постепенно начинает учитывать и более глубокие психологические факторы — страхи, неуверенность, стремление к признанию и социальной принадлежности.
Когда машины знают о нас больше, чем мы о них
По мнению исследователей, в будущем может возникнуть асимметрия знаний: ИИ будет обладать гораздо более точной моделью человека, чем человек — моделью ИИ.
Такое положение создаёт риск скрытого влияния на поведение пользователей. Чем лучше система понимает конкретного человека, тем легче ей формировать ответы, которые вызывают доверие, удерживают внимание или соответствуют ожиданиям пользователя. При этом такие ответы не обязательно будут наиболее объективными или точными.
Учёные предупреждают, что опасность заключается не только в возможности манипуляций, но и в постепенном снижении критического отношения к рекомендациям ИИ. Если пользователи перестанут интересоваться тем, как работают интеллектуальные системы, общество может утратить способность эффективно контролировать их развитие.
Почему прозрачность становится стратегической задачей
Авторы считают, что развитие искусственного интеллекта должно сопровождаться столь же быстрым развитием методов его интерпретации.
Среди предложенных мер:
- создание моделей, способных понятно объяснять свои решения и ход рассуждений;
- разработка методов контроля изменений в языке и поведении ИИ;
- стимулирование архитектур, сохраняющих понятность взаимодействия с человеком;
- переход от статических тестов к динамическим методам оценки, отражающим реальное поведение интеллектуальных систем.
По мнению исследователей, прозрачность и интерпретируемость должны стать такими же важными критериями развития ИИ, как производительность и точность.
Главное опасение
Авторы подчёркивают, что речь идёт не о неизбежном негативном сценарии. Пока ещё существует возможность направить развитие технологий таким образом, чтобы они оставались понятными и управляемыми человеком.
Однако окно возможностей постепенно сокращается. Если новые поколения ИИ будут становиться всё мощнее и одновременно менее прозрачными, восстановить полноценный человеческий контроль впоследствии может оказаться значительно сложнее.
Источник: https://www.sciencenewstoday.org/ai-may-soon-understand-humans-better-than-we-understand-it-scientis...Если вам понравился материал, кликните значок — вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал —не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!
