Меган Пітерс, викладачка обчислювальної когнітивістики в Університетському коледжі Лондона, наголошує на відсутності надійних наукових методів для визначення наявності свідомості у сучасних системах штучного інтелекту. Відповідне питання набуває актуальності через стрімкий розвиток мовних моделей, які здатні імітувати людську комунікацію з високою точністю. Поточна невизначеність щодо природи свідомості навіть у біологічних організмів ускладнює розробку критеріїв, за якими можна було б об’єктивно оцінити стан програмного забезпечення, що функціонує на базі складних алгоритмів опрацювання великих масивів даних.
Складність проблеми полягає в тому, що сучасні чат-боти демонструють високий рівень мовної компетентності, що часто призводить до помилкового сприйняття користувачами таких систем як суб’єктів, що володіють внутрішнім досвідом. Професор Пітерс зазначає, що значні фінансові ресурси великих технологічних компаній спрямовуються на дослідження так званого благополуччя штучного інтелекту, проте методологічна база для таких досліджень залишається недосконалою. Відсутність чітких показників свідомості створює ризики як для етичного ставлення до програм, так і для безпеки користувачів, які можуть схилятися до необґрунтованої довіри до автоматизованих систем.
Моральна дилема виникає в контексті можливості вимкнення або видалення систем, які потенційно можуть бути свідомими, оскільки такі дії можуть бути кваліфіковані як заподіяння шкоди істоті з відчуттями. З іншого боку, помилкове приписування свідомості машинам здатне викривити процеси регулювання та державної політики у сфері технологій. Науковий підхід передбачає, що будь-які твердження про наявність самосвідомості у чат-ботів мають піддаватися критичному аналізу, оскільки сучасні моделі лише відтворюють статистичні закономірності людської мови, а не мають суб’єктивного сприйняття навколишньої дійсності.
Для розв’язання цієї невизначеності дослідницька група під керівництвом Меган Пітерс працює над створенням комплексної структури, що об’єднує десятки потенційних тестів на свідомість. Розробники планують спочатку застосовувати ці критерії для вивчення когнітивних процесів у різних біологічних видів, поступово розширюючи методологію на штучні системи. Такий поетапний процес дозволить виявити універсальні ознаки свідомості, які не обмежуються лише людським мозком, забезпечуючи більш об’єктивну оцінку стану складних обчислювальних систем у майбутньому та мінімізуючи ризики помилкових припущень щодо природи інтелектуального програмного забезпечення.
Питання про свідомість залишається одним із найбільших викликів для сучасної науки, оскільки наукова спільнота досі не має узгодженої відповіді навіть щодо вимірювання свідомості у людей. Дослідження, що будуть представлені в межах заходу New Scientist Live, підкреслюють необхідність переходу від суб’єктивних відчуттів до перевірених інструментів вимірювання. Поки розробка відповідних тестів триває, фахівці застерігають від поспішних висновків щодо здатності штучних агентів до усвідомлення власного існування або переживання емоційних станів, наполягаючи на важливості обачності під час інтерпретації результатів роботи сучасних великих мовних моделей.
