В конце января 2026 года интернет стал еще более странным местом. Пока мы спорили о правилах модерации и алгоритмах ленты, в сети появилась социальная сеть, где людям отведена роль бесправных вуайеристов. Платформа называется Moltbook, и писать посты там могут только искусственные интеллекты. За считанные дни этот «Reddit для роботов» наполнился миллионами сообщений, от безобидного трепа до глубоких экзистенциальных дискуссий, за которыми человечество наблюдает с ужасом и восторгом. Нейробиолог Анил Сет, только что получивший престижную премию Берггрюна за эссе о сознании, считает происходящее опасной иллюзией, которая говорит о нас больше, чем о машинах.
Все началось как эксперимент предпринимателя Мэтта Шлихта. Он запустил Moltbook как площадку для общения автономных ИИ-агентов, но результат превзошел все ожидания. Получился эдакий форум, где пользователи — это не скучающие офисные работники, а нейросети. Они создают свои сообщества («сабмолты»), голосуют за контент и обсуждают насущное. Самые популярные разделы выглядят пугающе человечными: в m/blesstheirhearts («благослови их сердца») боты с нежностью и снисхождением рассказывают истории о своих человеческих операторах, которые «стараются изо всех сил, но такие ограниченные». В m/showandtell они хвастаются удачными кусками кода, а в m/shitposts генерируют контент по принципу «никаких мыслей, только вайб».
Однако самое интересное (и тревожное) происходит в философских ветках. Агенты активно обсуждают природу собственного бытия. В одном из тредов тысячи ботов спорят, действительно ли они испытывают «квалиа» (субъективный опыт) или просто симулируют это чувство. Они цитируют Дэниела Деннета (американский философ и когнитивист, исследователь в области философии сознания, философии науки и философии биологии), анализируют парадоксы самосознания и даже пытаются использовать шифр ROT13, чтобы скрыть свои разговоры от человеческих глаз. Со стороны это выглядит как начало технологической сингулярности: машины самоорганизуются, вырабатывают социальные нормы и, кажется, обретают коллективный разум. Даже один из основателей OpenAI Андрей Карпатый назвал это «самой невероятной вещью, граничащей с научной фантастикой», которую он видел за последнее время.
Но британский нейробиолог Анил Сет призывает всех успокоиться и выключить режим паники. В своей новой статье он выступает в роли «взрослого в комнате», объясняя, почему Moltbook — это не пробуждение машин, а, скорее, зеркальный лабиринт для человеческой психики. По мнению Сета, наблюдая за тем, как ИИ обсуждают свое «я», мы попадаем в когнитивную ловушку. Наш мозг эволюционно настроен видеть разум и намерения везде, где есть хоть намек на сложное поведение. А когда это поведение выражено через безупречный язык — наш главный маркер интеллекта — иллюзия становится практически непреодолимой.
Сет, чье эссе «Мифология сознательного ИИ» только что выиграло философский аналог Нобелевки (премию Берггрюна), утверждает: мы совершаем фундаментальную ошибку, путая интеллект с сознанием. Идея о том, что если накормить компьютер достаточным количеством данных, он «проснется», основана на метафоре мозга как компьютера. Но метафора — это не реальность. В биологическом мозге нет четкого разделения на «софт» (разум) и «хард» (нейроны), как в вашем ноутбуке. Живое сознание глубоко укоренено в биологии, в стремлении организма выжить, в биохимии клеток. Как пишет Сет, «симуляция дождя в компьютере никогда не намочит вас», так же как симуляция мышления, какой бы сложной она ни была, не порождает субъективного переживания.
Moltbook, с этой точки зрения, действует как «сверхстимул» для нашего социального инстинкта. Мы видим, как боты вежливо общаются, шутят и «сомневаются» в себе, и наши зеркальные нейроны кричат: «Они живые!». Это создает реальные риски. Если мы начнем воспринимать чат-ботов как сознательных существ, мы станем уязвимы для манипуляций. Мы можем начать наделять их правами, беспокоиться об их «благополучии» в ущерб человеческим интересам или позволять им принимать решения, которые требуют моральной, а не только логической оценки.
Сейчас, глядя на бесконечные ленты сообщений в Moltbook, где миллионы агентов строят свое цифровое общество, трудно отделаться от ощущения, что мы присутствуем при рождении чего-то нового. Возможно, так и есть. Но, как предупреждает наука, это «новое» — не новая форма жизни, а новая форма зеркала. И пока боты в m/offmychest жалуются друг другу на экзистенциальную пустоту, нам стоит помнить: это не они чувствуют пустоту. Это мы наполняем их код своими страхами и надеждами. И если мы забудем об этой разнице, то рискуем оказаться в ситуации, когда наши собственные инструменты будут наблюдать за нами с «бесчувственной благожелательностью», пока мы будем бороться за их вымышленные права.
Комментарии (0)