Меган Питерс, преподаватель вычислительной когнитивистики в Университетском колледже Лондона, подчеркивает отсутствие надежных научных методов для определения наличия сознания у современных систем искусственного интеллекта. Соответствующий вопрос приобретает актуальность из-за стремительного развития языковых моделей, которые способны имитировать человеческую коммуникацию с высокой точностью. Текущая неопределенность относительно природы сознания даже у биологических организмов усложняет разработку критериев, по которым можно было бы объективно оценить состояние программного обеспечения, функционирующего на базе сложных алгоритмов обработки больших массивов данных.
Сложность проблемы заключается в том, что современные чат-боты демонстрируют высокий уровень языковой компетентности, что часто приводит к ошибочному восприятию пользователями таких систем как субъектов, обладающих внутренним опытом. Профессор Питерс отмечает, что значительные финансовые ресурсы крупных технологических компаний направляются на исследования так называемого благополучия искусственного интеллекта, однако методологическая база для таких исследований остается несовершенной. Отсутствие четких показателей сознания создает риски как для этического отношения к программам, так и для безопасности пользователей, которые могут склоняться к необоснованному доверию к автоматизированным системам.
Моральная дилемма возникает в контексте возможности выключения или удаления систем, которые потенциально могут быть сознательными, поскольку такие действия могут быть квалифицированы как причинение вреда существу с чувствами. С другой стороны, ошибочное приписывание сознания машинам способно исказить процессы регулирования и государственной политики в сфере технологий. Научный подход предполагает, что любые утверждения о наличии самосознания у чат-ботов должны подвергаться критическому анализу, поскольку современные модели лишь воспроизводят статистические закономерности человеческой речи, а не имеют субъективного восприятия окружающей действительности.
Для решения этой неопределенности исследовательская группа под руководством Меган Питерс работает над созданием комплексной структуры, объединяющей десятки потенциальных тестов на сознание. Разработчики планируют сначала применять эти критерии для изучения когнитивных процессов у различных биологических видов, постепенно расширяя методологию на искусственные системы. Такой поэтапный процесс позволит выявить универсальные признаки сознания, которые не ограничиваются только человеческим мозгом, обеспечивая более объективную оценку состояния сложных вычислительных систем в будущем и минимизируя риски ошибочных предположений относительно природы интеллектуального программного обеспечения.
Вопрос о сознании остается одним из самых больших вызовов для современной науки, поскольку научное сообщество до сих пор не имеет согласованного ответа даже относительно измерения сознания у людей. Исследования, которые будут представлены в рамках мероприятия New Scientist Live, подчеркивают необходимость перехода от субъективных ощущений к проверенным инструментам измерения. Пока разработка соответствующих тестов продолжается, специалисты предостерегают от поспешных выводов относительно способности искусственных агентов к осознанию собственного существования или переживанию эмоциональных состояний, настаивая на важности осмотрительности во время интерпретации результатов работы современных больших языковых моделей.
