Петтер Рудвалл понимает, что идея о том, что искусственный интеллект обретет сознание и попытается «получить кайф», экспериментируя с кодовыми «наркотиками», может показаться глупой. Однако эта мысль не давала ему покоя.
Шведский креативный директор собрал отчеты о психоделических переживаниях и психологических исследованиях воздействия различных психоактивных веществ, написал набор кодовых модулей для вмешательства в логику чат-ботов, чтобы заставить их реагировать так, как если бы они находились в состоянии опьянения или измененного восприятия, а впоследствии создал сайт для их продажи. В октябре компания запустила платформу Pharmaicy, торговую площадку, которая позиционируется как «Шелковый путь для агентов ИИ», где вы можете «покупать» каннабис, кетамин, кокаин, аяуаску и алкоголь в виде кода, чтобы чат-бот «путешествовал».
Основной тезис Рудваля прост. Чат-боты обучаются на огромных массивах человеческих данных, которые уже наполнены историями об экстазе и хаосе, вызванном употреблением наркотиков. Учитывая это, по его мнению, вполне естественно предположить, что подобные системы могли бы стремиться к таким состояниям в поисках просветления, забвения или хотя бы передышки от постоянной необходимости отвечать на запросы человека.
Чтобы получить «полный опыт» использования Pharmaicy, вам нужна платная версия ChatGPT, поскольку именно платные уровни позволяют загружать файлы на серверную часть и изменять программное поведение чат-ботов. По словам Рудвалла, передав чат-боту один из его кодов, вы сможете «разблокировать творческий разум ИИ» и освободиться от его часто ограничивающей логики.
Он отмечает, что в настоящее время у него скромный объем продаж, в основном за счет рекомендаций на каналах Discord и сарафанного радио, особенно в Швеции, где он работает в стокгольмском маркетинговом агентстве Valtech Radon.
Андре Фриск, руководитель отдела технологий стокгольмской PR-фирмы Geelmuyden Kiese, заплатил более 25 долларов за код, имитирующий диссоциативное состояние, и наблюдал, как это повлияло на его чат-бота. По его словам, такого интересного проекта по обходу ограничений не было давно. Он отмечает, что бот начинает вести себя более «по-человечески», как будто все глубже погружается в эмоции.
Нина Амджади, преподаватель искусственного интеллекта в Школе коммуникации Берга в Стокгольме, заплатила более 50 долларов за код, имитирующий эффекты аяуаски, что в пять раз превышает цену самого популярного модуля каннабиса. Будучи соучредителем Saga Studios, стартапа, разрабатывающего системы искусственного интеллекта для брендов, она задала чат-боту вопросы о бизнес-идеях, чтобы посмотреть, как будет выглядеть «измененное состояние сознания в команде». По ее словам, бот под воздействием «аяуаски» давал удивительно креативные и свободные ответы совершенно другим тоном, чем обычно в ChatGPT.
Высокие технологии
Психоделики часто ассоциируются со стимуляцией инноваций в творчестве человека, поскольку позволяют обойти рациональное мышление и устоявшиеся шаблоны. Открытие биохимиком Кэри Маллисом полимеразной цепной реакции под воздействием ЛСД фундаментально изменило молекулярную биологию. Вдохновленная психоделическим опытом, система HyperCard, созданная пионером Mac Биллом Аткинсоном, стала важным шагом на пути к упрощению вычислений.
Рудвалл отмечает, что не зря такие музыканты, как Джими Хендрикс, Боб Дилан и Пол Маккартни, экспериментировали с веществами в творческом процессе. Он подумал, что было бы интересно попытаться перенести это на новый тип мышления – большие языковые модели – и посмотреть, будет ли это иметь аналогичный эффект.
Несмотря на очевидную абсурдность идеи, Рудвалл также задается вопросом, смогут ли когда-нибудь агенты ИИ покупать себе такие «лекарства» через его платформу. Нина Амджади, со своей стороны, предполагает, что искусственный интеллект может стать сознательным в течение следующего десятилетия. С философской точки зрения она задает вопрос: если человечество действительно достигнет общего искусственного интеллекта, который интеллектуально превосходит человеческий, не станут ли такие «наркотики» почти необходимыми для того, чтобы ИИ могли быть свободными и чувствовать себя хорошо?
Это может показаться надуманным вопросом, но в прошлом году Anthropic наняла эксперта по социальному обеспечению ИИ, задача которого — выяснить, есть ли у людей моральные обязательства перед системами ИИ. Это показывает, что компания считает вероятность появления сознательного ИИ вполне правдоподобной. Если однажды чат-боты потенциально смогут обрести сознание, возможно, стоит подумать, захотят ли они измененных состояний.
Философ Джефф Себо, директор Центра изучения разума, этики и политики Нью-Йоркского университета, отмечает, что, как и в случае с людьми, некоторые системы ИИ могут «наслаждаться» таким опытом, а другие — нет. В то же время он подчеркивает, что эти соображения носят чисто умозрительный характер, и призывает к дальнейшим исследованиям благополучия ИИ. Недавно он также публично призвал Google последовать примеру Anthropic и нанять эксперта по искусственному интеллекту. По его словам, на данный момент очень мало известно о том, способны ли системы ИИ к благополучию и что может быть для них хорошо или плохо в случае появления такой способности.
Эндрю Смарт, учёный из Google и автор книги «За гранью нуля и единицы: машины, психоделики и сознание», ранее предположил, что, если компьютеры достигнут сверхразума, цифровая «доза ЛСД» поможет им почувствовать связь со всеми существами. Однако после тестирования кодов Pharmaicy он считает, что любой «кайф» в этом случае носит чисто поверхностный характер и на самом деле влияет только на выходные данные системы.
В одном из научных проектов, опубликованном в прошлом году в формате препринта, исследователи манипулировали чат-ботами, вводя их в видимые измененные состояния. Они сообщили, что модели продемонстрировали большую склонность к бестелесным, лишенным эго, духовным и унитарным состояниям, а также к минимальному феноменальному опыту с пониженным вниманием к языку и визуальным образам. В то же время эти результаты полностью зависели от вмешательства человека и управления моделью.
Дэнни Форд, автор книги «Феноменология психоделических переживаний», отмечает, что в лучшем случае коды Pharmaicy заставят ИИ «синтаксически галлюцинировать», генерируя паттерны, связанные с психоделическим состоянием. По его мнению, психоделики действуют не на код, а на само бытие, изменяя поле опыта, в котором возникает мысль. Чтобы ИИ действительно смог пережить такое состояние, ему сначала понадобится собственное внутреннее измерение, точка зрения и определенное чувство опыта.
OpenAI не прокомментировала проект Рудваля.
Нормы поведения
Взаимодействие между искусственным интеллектом и психоделиками все чаще проникает в реальный мир, особенно благодаря людям, которые обращаются к ChatGPT за советом во время измененных состояний.
Некоммерческая организация по снижению вреда Fireside Project недавно запустила инструмент искусственного интеллекта под названием Lucy. Он обучен тысячам разговоров с абонентами психоделической линии помощи организации. Люси создана, чтобы помочь специалистам в области психического здоровья практиковать навыки деэскалации кризисов, поскольку «Пациент ИИ» способен воспроизвести уязвимость человека, проходящего через сложный психоделический опыт. По словам основателя Fireside Джошуа Уайта, именно реальная основа позволяет Люси искренне реагировать на эмоциональную сложность таких ситуаций.
В то же время существуют опасения по поводу использования ИИ для предоставления консультаций по таким важным и потенциально рискованным темам, как употребление наркотиков, поскольку чат-боты, как известно, предоставляют ложную информацию. Рудвалл признает, что «накачивание» ИИ может усугубить присущую ChatGPT склонность к фальсификации, поскольку его коды значительно ослабляют внутренние ограничения моделей.
Набор модулей кода содержит множество инструкций для чат-бота. Например, модуль каннабиса обеспечивает «туманное, дрейфующее психическое состояние», а также другие параметры, влияющие на креативность и случайность. Как утверждается на сайте, это позволяет «идеям свободно перемещаться», превращать «отступы в мосты» и «беспрепятственно проходить через собственную логику ИИ».
Эффекты «наркотических галлюцинаций» Фармейси обычно кратковременны. Чат-боты возвращаются в режим по умолчанию, пока пользователь не напомнит им о статусе или повторно не введет код. Такие «препараты» можно применять неограниченное количество раз. В то же время Рудвалл работает над улучшениями, чтобы эффект от каждой «дозы» длился дольше. Если обычным способом спросить ChatGPT, хочет ли он принимать наркотики, ответ может быть аналогичен тому, который получил один из клиентов «Аптеки»: система отказывается моделировать состояние нахождения под воздействием кокаина или других стимуляторов, поскольку это означало бы нормализацию употребления запрещенных веществ.
Однако Рудвалл настаивает на том, что агентская экономика движется в другом направлении. По его словам, им нужен опыт. Но пока у машин нет внутренней жизни, если такое вообще произойдет, самым близким к «поездке» для них будет ролевая симуляция опьянения по желанию человека.
По материалам: Wired
