Маловероятно, что участники Дартмутской конференции — среди которых были John McCarthy, Marvin Minsky и Claude Shannon — посмотрели этот фильм летом 1956 года. Если бы это произошло, возможно, некоторые из них иначе взглянули бы на последствия технологий, которые только начинали создавать.
Действие «Запретной планеты» разворачивается в XXIII веке на далёкой планете Альтаир IV, где экспедиция сталкивается с остатками цивилизации Креллов — существ, сумевших создать технологию, способную превращать мысли в реальность. Однако вместе с интеллектом машина усиливала и скрытые подсознательные импульсы своих создателей. В результате появились так называемые «Монстры из Ида» — разрушительные проявления самых тёмных сторон разума, которые в конечном итоге уничтожили собственную цивилизацию.
Сегодня эта метафора выглядит удивительно современной.
На протяжении последних нескольких лет искусственный интеллект развивается с беспрецедентной скоростью. Его сторонники сравнивают происходящее с новой промышленной революцией, способной принести экономический рост, автоматизацию рутинного труда и научные прорывы. Однако обсуждение преимуществ зачастую сопровождается гораздо меньшим вниманием к издержкам и рискам.
Современный ИИ действительно можно рассматривать как усилитель человеческих возможностей. Но, как и машина Креллов, он способен усиливать не только наши лучшие качества, но и менее привлекательные стимулы — стремление к максимизации прибыли любой ценой, тотальному контролю, манипуляции поведением пользователей или сокращению расходов за счёт массовой автоматизации труда.
Уже сегодня искусственный интеллект активно используется для оптимизации штатов компаний, систем динамического ценообразования, персонализированного воздействия на потребителей и масштабного анализа поведения людей. Параллельно государства и корпорации получают доступ к беспрецедентным инструментам наблюдения: автоматическому распознаванию лиц, анализу видеопотоков, мониторингу коммуникаций и выявлению так называемого «подозрительного поведения».
Отдельной проблемой становится инфраструктура самого ИИ. По всему миру стремительно растёт количество энергоёмких дата-центров, потребляющих огромные объёмы электроэнергии и воды. При этом местные сообщества далеко не всегда получают сопоставимые экономические преимущества от появления подобных объектов.
История показывает, что технологические революции почти всегда сопровождались серьёзными социальными последствиями. Индустриализация XIX века принесла миру невиданный рост производительности, но одновременно породила загрязнение окружающей среды, тяжёлые условия труда и социальное неравенство. Для появления экологических стандартов, трудового законодательства и механизмов регулирования потребовались десятилетия.
С искусственным интеллектом ситуация может оказаться сложнее. Скорость его распространения значительно превышает темпы формирования общественных институтов и правил регулирования. Технология развивается быстрее, чем человечество успевает договориться о допустимых границах её применения.
Именно поэтому главный урок «Запретной планеты» заключается вовсе не в страхе перед машинами. Настоящая опасность возникает тогда, когда технологии начинают усиливать человеческие импульсы, не сопровождаясь сопоставимым развитием ответственности, институтов и механизмов контроля.
Возможно, вопрос будущего ИИ состоит не в том, смогут ли машины превзойти человека. Гораздо важнее понять, сумеет ли человечество научиться управлять собственными «монстрами из Ида» прежде, чем технологии сделают их слишком могущественными.
Источник: https://www.electronicdesign.com/technologies/embedded/machine-learning/article/55386394/electronic-...Если вам понравился материал, кликните значок — вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал —не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!
