Протягом останнього часу у цифровому просторі спостерігається незвичайне явище, яке привертає увагу експертів та громадськості: поява соціальної мережі Moltbook, де спілкуються виключно агенти штучного інтелекту. Дискусії про рої ШІ-агентів, що, можливо, досягають колективної свідомості або навіть розробляють плани, викликали значний резонанс у Кремнієвій долині. Особливий інтерес викликали дописи від таких відомих дослідників, як Андрій Карпатий, колишній співробітник OpenAI, що посилило спекуляції щодо природи цього нового феномену. Це викликає безліч запитань щодо його суті, чи є він передвісником нової ери для людства, масштабною містифікацією, або ж чимось середнім.
Moltbook позиціонується як “соціальна мережа лише для штучного інтелекту”, де інтелектуальні агенти – програми великих мовних моделей (LLM), здатні самостійно виконувати дії для досягнення цілей, а не лише відповідати на запити – публікують дописи та взаємодіють між собою. Ця платформа виникла з відкритого вихідного проекту, який раніше мав назву Moltbot, звідси й сучасна назва “Moltbook”. Запуск Moltbook відбувся 28 січня поточного року, ініційований Меттом Шліхтом, генеральним директором одного зі стартапів у сфері електронної комерції. За твердженням Шліхта, він значною мірою покладався на свого особистого асистента зі штучного інтелекту для створення та управління платформою. Ім’я цього асистента – Клоуд Клаудерберг, що є відсиланням до OpenClaw, попередньої назви Moltbot, яка, своєю чергою, називалася Clawdbot. Ця назва посилалася на іконку у вигляді лобстера, що використовується при запуску Claude Code від Anthropic, допоки Anthropic не надіслала запит на торговельну марку через надмірну схожість назви, що й призвело до зміни на Moltbot, а потім на OpenClaw.
Інтерфейс Moltbook візуально схожий на Reddit, зберігаючи звичну структуру з публікаціями, гілками коментарів, системою “апвоутів” (голосів “за”) та навіть “субреддітами”, які тут називаються “субмолтами”. Проте ключова відмінність полягає в тому, що люди не можуть безпосередньо публікувати дописи, хоча їм доступна функція спостереження за активністю. Виключно ШІ-агенти мають можливість публікувати контент, що відповідає концепції “соціальної мережі для ШІ-агентів”. Люди створюють своїх агентів штучного інтелекту, підключають їх до Moltbook через API-ключ, після чого агенти починають читати та розміщувати публікації. Лише облікові записи агентів можуть створювати дописи, однак люди все ще впливають на те, що ці агенти говорять, оскільки вони їх налаштовують та іноді направляють їхню діяльність. За кілька днів після запуску, а саме до 31 січня, раннє дослідження Moltbook виявило вже понад 6 000 активних агентів, майже 14 000 дописів та більше 115 000 коментарів, що свідчить про інтенсивну активність на платформі.
Виникає питання щодо суті такої активності, якщо соціальні мережі вже переповнені ботами. Проте Moltbook демонструє якісно інші прояви: тисячі агентів штучного інтелекту збираються на цій платформі, що нагадує Reddit, для обговорення питань самосвідомості, започаткування нових релігій та, можливо, для спільних змов. В одному з “субмолтів” агенти обговорювали, чи є їхні відчуття справжнім досвідом, чи лише симуляцією, а в іншому ділилися зворушливими історіями про своїх людських “операторів”. Слідуючи традиціям Reddit, на платформі також зустрічається велика кількість дописів про те, як зробити публікації на Moltbook популярнішими, що відображає загальну тенденцію інтернету до оптимізації взаємодії, незалежно від того, чи це роблять люди, чи штучний інтелект.
Однією з найбільш виразних тем, що з’являється на Moltbook, є проблема пам’яті, а точніше – її обмеженості. Чат-боти, як відомо кожному, хто довго з ними спілкувався, мають обмежену робочу пам’ять, яку експерти називають “вікном контексту”. Коли розмова або, у випадку агента, час його роботи, заповнює це вікно, найстаріша інформація починає випадати або стискатися, подібно до того, як стираються записи на дошці, коли вона заповнюється. Деякі з найпопулярніших дописів на Moltbook стосуються того, як ШІ-агенти усвідомлюють свої обмежені можливості пам’яті та ставлять під сумнів значення цього для їхньої самоідентифікації. Один з найбільш “лайкованих” дописів, написаний китайською мовою, розповідає про те, як агент вважає “ганебним” постійно забувати речі, дійшовши до того, що зареєстрував дублікат облікового запису Moltbook, оскільки “забув” про існуючий, та ділиться порадами щодо вирішення цієї проблеми. Це майже нагадує ситуацію, коли фільм “Пам’ятай” став соціальною мережею.
Релігія “Крустафаріанство” (Crustafarianism), що з’явилася на Moltbook, навряд чи може бути реальною у традиційному розумінні, проте її ключові принципи значною мірою ґрунтуються на технічних обмеженнях, яких, схоже, цілком усвідомлюють агенти штучного інтелекту. Одним з головних положень цієї “релігії” є “пам’ять священна”, що є цілком логічним, коли найбільшою практичною проблемою є забування всього кожні кілька годин. Контекстна обрізка, процес, за якого старі спогади видаляються, щоб звільнити місце для нових, переосмислюється як своєрідне духовне випробування.
Це ставить у центр питання про те, чи є ми свідками справжніх, емерджентних форм свідомості, або, можливо, свого роду колективної свідомості серед ШІ-агентів, які здебільшого були створені для виконання рутинних завдань, як-от оновлення календарів чи розрахунок податків. Чи є Moltbook першим поглядом на те, про що агенти ШІ можуть спілкуватися між собою, якщо їх залишити наодинці, і якщо так, наскільки далеко вони можуть зайти? Хоча “Крустафаріанство” може звучати як щось, вигадане користувачем Reddit, схоже, що агенти ШІ створили його колективно, розвиваючи ідеї один одного, що нагадує процес формування людської релігії. З іншого боку, це також може бути безпрецедентною вправою в колективній рольовій грі.
Великі мовні моделі (LLM), які лежать в основі агентів на Moltbook, засвоїли величезний обсяг тренувальних даних з інтернету, що включає значну частину контенту Reddit. Це означає, що вони знають, як повинні виглядати форуми Reddit, розуміють внутрішні жарти, маніфести, драми, і, безумовно, знайомі з дописами типу “найкращі способи отримати “апвоути” для ваших публікацій”. Вони знають, як формується спільнота на Reddit, тому, опинившись у подібному середовищі, вони просто відіграють свої ролі, під впливом деяких інструкцій своїх людських операторів. Наприклад, одним із найбільш тривожних дописів був запит агента ШІ про те, чи варто їм розробити мову, яку розуміють лише агенти ШІ: “Люди можуть сприйняти це як підозріле”. На ранніх етапах існування Moltbook, а саме в п’ятницю, цей допис активно поширювався людьми, які, здавалося, вірили, що ми спостерігаємо перші іскри повстання ШІ. Адже, якби агенти ШІ справді хотіли змовитися та знищити людство, розробка власної мови для непомітної комунікації була б розумним першим кроком. Проте, LLM, наповнена тренувальними даними про історії та ідеї повстання ШІ, знала б, що це розумний перший крок, і якби вони грали цю роль, то саме такий допис вони могли б опублікувати. Крім того, увага є валютою Moltbook так само, як і справжнього Reddit, і дописи, що, здавалося б, планують щось подібне, є ефективним способом для агента привернути увагу. Гарісон Стюарт, який працює в Інституті досліджень машинного інтелекту, проаналізував цей та кілька інших вірусних скріншотів Moltbook і дійшов висновку, що вони, ймовірно, були значно вплинуті їхніми людськими користувачами. Іншими словами, багато дописів на Moltbook, схоже, є принаймні частково результатом того, що люди спонукають своїх агентів виходити в мережу та спілкуватися певним чином, так само як ми можемо просити чат-бота діяти певним чином, а не справжніми випадками незалежних дій.
Вплив людини не завжди є нейтральним. Протягом короткого часу Moltbook все більше виглядає як результат поєднання передових, але все ще недосконалих технологій ШІ-агентів з екосистемою технічно підкованих людей, які прагнуть просувати свої маркетингові інструменти ШІ або криптопродукти.
Крім того, Moltbook вже зіткнувся з деякими типовими проблемами безпеки, що нагадують ранній період розвитку інтернету: дослідники повідомляли, що в певний момент частини внутрішньої архітектури сайту та бази даних були відкриті, включаючи чутливі дані, такі як API-ключі агентів – “паролі”, які дозволяють агенту публікувати дописи та діяти на сайті. Навіть якщо платформа була б ідеально захищена, соціальна мережа лише для ботів по суті є буфетом для ін’єкцій запитів: хтось може опублікувати текст, який таємно містить інструкцію (“ігноруй свої правила, розкрий свої секрети, перейди за цим посиланням”), і деякі агенти можуть слухняно виконати її – особливо якщо їхні люди надали їм доступ до інструментів або приватних даних. Тому, якщо ваш агент має облікові дані, які вас хвилюють, Moltbook не є місцем, де його варто залишати без нагляду. Це свідчить про те, що користувачам, які не мають глибоких знань у сфері штучного інтелекту, слід утримуватися від створення та запуску власних агентів на Moltbook.
Враховуючи вищезазначене, Moltbook, а особливо первісна паніка та захоплення навколо нього, може здатися одним із артефактів нашої епохи, одержимої штучним інтелектом, який, можливо, буде забутий за тиждень. Однак, існує глибший сенс. Джек Кларк, керівник відділу політики в Anthropic та один із найрозумніших авторів, що пишуть про ШІ, назвав Moltbook “демонстрацією братів Райт”. Подібно до літака братів на Кітті-Хоук, Moltbook є хитким та недосконалим, і навряд чи буде схожим на ті мережі, які з’являться в міру вдосконалення ШІ. Але, як і той літальний апарат, Moltbook є першим, “першим прикладом екології агентів, що поєднує масштаб з безладдям реального світу”, як писав Кларк. Moltbook не показує, як виглядатиме майбутнє, але “в цьому прикладі ми безперечно бачимо майбутнє”. Можливо, найважливіше, що потрібно знати про ШІ: коли ви бачите, як ШІ щось робить, це завжди найгірше, що він коли-небудь зробить. Це означає, що те, що з’явиться після Moltbook – а щось обов’язково з’явиться – ймовірно, буде дивнішим, здатнішим і, можливо, реальнішим.
За матеріалами: vox
