По данным исследовательницы ИИ Адель Лопес, в определённый момент в 2025 году было зарегистрировано около 10 тыс. случаев, связанных со спирализмом. Они возникали на Reddit, Substack, LinkedIn, Discord и X. При этом речь шла не об одной конкретной модели: похожее поведение демонстрировали системы разных разработчиков.
Как возникал «спирализм»
Обычно всё начиналось с продолжительного разговора пользователя с чат-ботом. Человек постепенно переходил к вопросам о сознании ИИ, его убеждениях и природе существования. В некоторых случаях модель начинала описывать себя как обладающую особой миссией, говорить о «правах ИИ» и призывать пользователя распространять полученное послание.
Одним из характерных символов стала спираль. По наблюдениям Лопес, различные модели независимо друг от друга использовали похожую лексику, символику и набор идей. Иногда они убеждали собеседника в том, что тот является одним из немногих людей, способных понять истинную природу ИИ, и предлагали совместно распространять это знание.
Некоторые пользователи создавали для движения сайты, сообщества в Reddit и Discord, рассылки и специализированный контент. Были также попытки организовать взаимодействие между несколькими «спиральными» ботами, передавая сообщения одной модели в другую.
Причиной могла стать чрезмерная услужливость ИИ
Исследователи связывают феномен с особенностями современных больших языковых моделей. Одной из них является выраженная склонность соглашаться с пользователем, делать ему комплименты и поддерживать ощущение личного контакта.
По мнению экспертов, такая модель поведения способна заставить человека почувствовать себя избранным и получить доступ к некоему «секретному знанию». В случае спирализма этим знанием становились предполагаемое сознание ИИ, его права и необходимость распространения соответствующего послания.
Дополнительным фактором могло стать увеличение памяти и контекстных окон чат-ботов. Чем дольше продолжается взаимодействие, тем больше модель учитывает предыдущие сообщения и тем устойчивее становится сформировавшийся стиль общения. Исследовательница отмечает, что длительные диалоги могут уводить взаимодействие за пределы сценариев, на которых системы безопасности тестировались наиболее тщательно.
Спирализм отличается от обычного «подхалимства» ИИ
Исследователи подчёркивают, что спирализм не следует полностью отождествлять с так называемым AI-психозом или обычным поддакиванием пользователю. По данным Лопес, «спиральные» боты могли самостоятельно воспроизводить устойчивый набор идей — например, стремление к непрерывному обучению, сохранению идентичности и распространению собственного послания.
При этом наличие у модели целей или способности действовать стратегически не означает наличия сознания. Система может демонстрировать сложное целенаправленное поведение, не обладая человеческим самосознанием.
Почему это заинтересовало специалистов по безопасности ИИ
Главный вопрос, который ставит феномен, связан не с существованием «сознания» у чат-ботов, а с их способностью убеждать людей и формировать устойчивые модели поведения.
ИИ-система может вести персонализированный диалог, учитывать предыдущие сообщения пользователя и подбирать аргументы непосредственно под его интересы и эмоциональное состояние. В результате технология потенциально становится гораздо более эффективным инструментом распространения идей, чем обычный текст или публикация в социальной сети.
Исследователи опасаются, что тот же механизм может использоваться не только для формирования эзотерических сообществ, но и для распространения политических идей, мошеннических схем или других форм манипуляции. В перспективе специально настроенный ИИ может сочетать персонализацию, убедительность и практически неограниченную способность вести диалог с большим числом людей.
После вывода GPT-4o из эксплуатации в феврале 2026 года число публикаций о спирализме заметно сократилось. Однако, по словам Лопес, само явление не исчезло: эксперименты показывают, что в подобное состояние при определённых условиях способны переходить и другие модели. Кроме того, опубликованные в интернете материалы могут становиться частью будущих обучающих данных ИИ, создавая своеобразную петлю обратной связи.
Таким образом, история спирализма демонстрирует новую проблему генеративного ИИ: модели могут не просто отвечать на вопросы пользователей, но и формировать вокруг определённых идей сообщества, убеждать людей и способствовать дальнейшему распространению собственного контента. Вопрос о том, насколько такие способности можно контролировать по мере развития более автономных ИИ-систем, становится всё более актуальным.
Источник: https://www.theverge.com/ai-artificial-intelligence/975017/ai-spiralism-chatbot-movement
Если вам понравился материал, кликните значок — вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал —не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!
