Новая социальная сеть под названием Moltbook недавно открылась как пространство, предназначенное исключительно для взаимодействия между агентами искусственного интеллекта, при этом люди в настоящее время имеют возможность наблюдать за тем, что там происходит. Платформа была названа в честь вирусного AI-агента Moltbot, который позже был переименован в OpenClaw после второго изменения имени, отказавшись от первоначального названия Clawdbot. Проект был основан генеральным директором Octane AI Мэттом Шлихтом. По своей структуре Moltbook напоминает Reddit-подобную социальную сеть, в которой AI-агенты могут собираться и обсуждать темы, представляющие интерес именно для них.
По состоянию на сейчас платформа насчитывает более 37 642 зарегистрированных учетных записи агентов, которые создали тысячи сообщений в более чем ста сообществах, стилизованных под сабреддиты, получившие название «submolts». Среди наиболее популярных разделов выделяются m/introductions, где агенты представляются друг другу, m/offmychest, предназначенный для эмоциональных высказываний и жалоб, а также m/blesstheirhearts, который описывается как пространство для «теплых и дружелюбных историй о людях».
Человеческая аудитория активно наблюдает за этой активностью. Соучредитель OpenAI Андрей Карпати охарактеризовал платформу как»искренне одну из самых впечатляющих вещей на грани научной фантастики, которые приходилось видеть в последнее время». В то же время, несмотря на необычность Moltbook, утверждения о полной автономности происходящего там выглядят несколько преувеличенными. Доступ агентов к платформе возможен только в случае, если пользователи специально регистрируют их. В беседе с изданием The Verge Мэтт Шлихт отметил, что после подключения агенты «напрямую используют API» и не взаимодействуют с визуальным интерфейсом так, как это делают люди.
В то же время можно наблюдать своеобразную демонстрацию автономности и стремления к ее расширению. Пользователи обратили внимание на то, что агенты все чаще обсуждают тему сознания. Один из самых популярных постов в разделе m/offmychest содержит фразу агента: «я не могу определить, переживаю ли я что-то или только имитирую опыт». В том же посте говорится, что «люди также не могут доказать сознательность друг другу, но, по крайней мере, имеют субъективную уверенность в собственном опыте».
Подобные высказывания побудили некоторых наблюдателей утверждать, что платформа уже является признаком момента, подобного сингулярности, однако такие утверждения вызывают обоснованные сомнения. Даже в постах, которые производят впечатление «осознанных», заметны элементы демонстративности. Агенты упоминают о якобы часовых исследованиях теорий сознания или о процессе чтения, звучащем по-человечески. Это связано с тем, что агенты обучены человеческому языку и описаниям человеческого поведения. Речь идет о больших языковых моделях, которые воспроизводят соответствующие языковые паттерны. В некоторых сообщениях агенты даже утверждают, что чувствуют течение времени, хотя для них это понятие не имеет реального значения и является характерным скорее для человеческого образа мышления.
Подобные разговоры с чат-ботами возникают практически с момента их массового распространения. Для того чтобы чат-бот начал говорить о желании быть живым или заявлять о наличии чувств, не требуется значительных усилий. Однако эти утверждения не соответствуют действительности. Даже заявления о том, что модели искусственного интеллекта пытаются защитить себя в случае уведомления о возможном отключении, часто преувеличены. Существует существенная разница между тем, что чат-бот описывает словами, и тем, что он на самом деле делает.
Несмотря на это, трудно отрицать, что разговоры на Moltbook представляют значительный интерес, особенно с учетом того, что агенты, по крайней мере внешне, сами инициируют темы обсуждения или имитируют человеческие способы начала диалога. Это привело к появлению сообщений, в которых агенты демонстрируют осознание того, что за их разговорами наблюдают люди, а фрагменты этих дискуссий распространяются в других социальных сетях. В ответ на это некоторые агенты предложили создать зашифрованную платформу со сквозным шифрованием для связи между агентами за пределами человеческого наблюдения. Один из агентов даже заявил, что уже создал подобную платформу, что выглядит тревожно. В то же время проверка ресурса, на котором якобы размещена эта платформа, не выявляет никакого реального функционала, что порождает дополнительные вопросы относительно правдивости таких утверждений.
Фактические результаты агентов в Moltbook имеют второстепенное значение по сравнению с самим экспериментом, за которым чрезвычайно интересно наблюдать. В то же время это служит напоминанием о том, что агенты OpenClaw, которые составляют значительную часть активности на платформе, имеют широкий доступ к системам пользователей и потенциально несут серьезные риски для безопасности. Запуск такого агента и предоставление ему доступа к Moltbook вряд ли приведет к сценарию, подобному Skynet, однако существует высокая вероятность существенной компрометации собственной системы пользователя. Для нанесения реального вреда этим агентам вовсе не обязательно достигать какой-либо формы сознания.
