Джеффри Хинтон предупредил о появлении ИИ, который может стать враждебным человеку

По мнению Хинтона, главная проблема заключается не в росте вычислительной мощности как таковой, а в том, каким образом современные ИИ-системы обучаются и развиваются. Исследователь считает, что конкуренция между компаниями и ИИ-агентами воспроизводит механизмы естественного отбора, которые в биологической эволюции формировали не только полезные качества, но и агрессию, племенное мышление, жесткую конкуренцию за ресурсы и доминирование.

Ученый полагает, что технологическая отрасль сосредоточилась почти исключительно на повышении интеллектуальных способностей моделей, уделяя недостаточно внимания формированию ценностей и моделей поведения будущих сверхинтеллектуальных систем. По его словам, создание безопасного ИИ больше напоминает воспитание ребенка, чем классическую инженерную задачу. Поэтому разработчикам следует активнее исследовать способы формирования у моделей эмпатии и просоциального поведения еще до появления систем, превосходящих человека по уровню интеллекта.

Отдельную обеспокоенность Хинтон выразил по поводу качества обучающих данных. По его мнению, обучение ИИ на огромных массивах интернет-контента может приводить к усвоению нежелательных моделей поведения и социальных установок. Исследователь сравнил такой подход с обучением ребенка исключительно на материалах, содержащих негативные примеры человеческого поведения.

Говоря о темпах прогресса, Хинтон отметил, что современные системы уже начинают демонстрировать способность находить нестандартные решения сложных задач. В качестве примера он сослался на недавние достижения ИИ в математике. По его прогнозу, в течение ближайшего десятилетия искусственный интеллект сможет превзойти лучших математиков мира в решении ряда задач, а затем приблизится к уровню наиболее выдающихся ученых в истории.

Появление сверхразумных цифровых систем исследователь назвал «третьим великим унижением человечества». Первым он считает открытия Николая Коперника, показавшие, что Земля не является центром Вселенной, вторым — работы Чарльза Дарвина, продемонстрировавшие происхождение человека как части животного мира. Третьим, по мнению Хинтона, может стать осознание того, что человеческий интеллект не является уникальной вершиной развития разума.

Однако взгляды ученого разделяют не все специалисты. Известный когнитивист Гэри Маркус продолжает утверждать, что современные нейросети представляют собой сложные статистические системы обработки данных, а не носителей сознания или субъективного опыта. По его мнению, внешне убедительное поведение языковых моделей не следует автоматически трактовать как наличие у них понимания, чувств или самосознания.

Высказывания Хинтона отражают одну из ключевых дискуссий современной науки об ИИ: станет ли сверхразум продолжением человеческих инструментов или превратится в принципиально новую форму интеллекта со своими целями и мотивацией. При этом даже среди ведущих исследователей пока отсутствует консенсус как относительно сроков появления подобных систем, так и относительно их потенциальных рисков для общества.