Экзистенциальный риск: учёные призывают срочно дать определение сознанию

Сознание как научный и моральный приоритет
Авторы обзора подчёркивают, что вопрос сознания больше не является сугубо философским. Он напрямую влияет на развитие ИИ, медицину, право, биотехнологии и политику. По словам профессора Акселя Клеереманса (Свободный университет Брюсселя), если человечество сможет создавать сознательные системы — даже непреднамеренно — это поставит общество перед масштабными этическими вызовами и может нести «экзистенциальный риск».

Несмотря на десятилетия исследований, научного консенсуса о том, как субъективный опыт возникает из нейронной активности, до сих пор нет. Известны корреляты сознания в мозге, но остаются разногласия о необходимых и достаточных механизмах и архитектуре осознанности.

Тесты на сознание и их последствия
Одной из ключевых задач авторы называют разработку эмпирических тестов сознания. Такие инструменты могут позволить:
— выявлять остаточное сознание у пациентов в коме или с деменцией;
— определять момент появления сознания у плодов;
— оценивать уровень осознанности у животных;
— проверять наличие сознания у мозговых органоидов и систем ИИ.

Однако сама возможность научного детектирования сознания может кардинально изменить юридические и моральные рамки: признание системы сознательной потребует пересмотра правового статуса, ответственности и допустимых форм взаимодействия.

Медицинские и социальные эффекты
В медицине более точные методы оценки сознания могут изменить подходы к лечению пациентов с травмами мозга, при анестезии и в конце жизни. Теоретические подходы, включая интегрированную теорию информации и модель глобального рабочего пространства, уже используются для выявления скрытых признаков осознанности у пациентов с синдромом неотзывчивого бодрствования.

Понимание биологической основы субъективного опыта также может ускорить разработку терапии психических расстройств и сократить разрыв между исследованиями на животных и человеческим опытом.

Этические и правовые вызовы
Авторы отмечают, что прогресс в понимании сознания может повлиять на правовые концепции ответственности, включая mens rea — наличие «злого намерения». Нейронаука уже показывает, что значительная часть поведения формируется бессознательными процессами, что может потребовать пересмотра юридических стандартов.

Кроме того, развитие ИИ, мозговых органоидов и интерфейсов мозг–компьютер поднимает вопрос о возможности создания искусственной осознанности. Даже если «сознательный ИИ» окажется недостижимым на цифровых компьютерах, системы, имитирующие сознание, уже создают серьёзные социальные и этические дилеммы.

Конкурирующие теории сознания
Обзор рассматривает ключевые теоретические рамки:
— теория глобального рабочего пространства, где сознание возникает при глобальном распространении информации;
— теории высшего порядка, предполагающие метапредставления о собственных состояниях;
— интегрированная теория информации, связывающая сознание с уровнем интеграции системы;
— предиктивная обработка, рассматривающая сознание как результат непрерывного прогнозирования мозгом сенсорного мира.

Призыв к «командной науке»
Авторы предлагают развивать соперничающие коллаборации, в которых конкурирующие теории проверяются совместно разработанными экспериментами. Такой подход должен снизить теоретические предвзятости и ускорить прогресс. Также подчёркивается необходимость объединять феноменологию (субъективный опыт) с функциональными и нейронными моделями.

Аналитический контекст
Дискуссия о сознании выходит за пределы академической философии и становится стратегическим фактором технологического развития. Для ИИ-индустрии появление надёжных тестов сознания может создать регуляторные барьеры и новые обязательства. Для биотехнологий — ограничения на эксперименты с органоидами. Для права — фундаментальные изменения концепции ответственности.

Фактически, наука о сознании становится инфраструктурной дисциплиной для будущих технологий — аналогом физики для ядерной энергетики или криптографии для цифровой экономики.