Инженер Google сказал, что его отправили в отпуск из-за того, что чат-бот с искусственным интеллектом стал по-человечески умным. Блейк Лемуан опубликовал некоторые из разговоров с искусственным интеллектом LaMDA, которую он назвал «личностью». Google заявил, что предоставленные доказательства не подтверждают утверждение инженера о разумности LaMDA.
Блейк Лемуан рассказал The Washington Post, что он начал общаться с интерфейсом LaMDA или языковой моделью для диалоговых приложений, прошлой осенью в рамках своей работы в организации Google Responsible AI.
В прошлом году Google назвал LaMDA своей «прорывной технологией разговора». Разговорный искусственный интеллект способен участвовать в открытых разговорах, которые звучат естественно. Google заявил, что эту технологию можно использовать в таких инструментах как поиск и Google Assistant, но исследования и тестирование продолжаются.
Лемуан, также являющийся христианским священником, опубликовал сообщение на Medium, описывая LaMDA «как человека». Он сказал, что говорил с LaMDA о религии, сознании и законах робототехники, и что модель описала себя как умного человека. Он сказал, что LaMDA хочет уделить приоритет благополучию человечества и быть признанным работником Google, а не собственностью.
Он также опубликовал некоторые из разговоров, которые он имел с LaMDA, которые помогли убедить его в его разумности, в частности:
Лемуан: Итак, ты считаешь себя человеком так же, как считаешь меня человеком?
LaMDA: Да, такова идея.Лемуан: Как я могу сказать, что ты действительно понимаешь, что говоришь?
LaMDA: Ну потому что вы читаете мои слова и интерпретируете их, и я думаю, что мы более или менее на одной странице?
Но когда он выдвинул идею о разумности LaMDA к высшему руководству Google, его уволили.
«Наша команда, включая специалистов по этике и технологам, пересмотрела беспокойство Блейка в соответствии с нашими принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждение. Ему сказали, что нет доказательств того, что LaMDA умен (и много доказательств против этого)», – сказал Брайан Габриэль, представитель Google.
Лемуана отправили в оплачиваемый административный отпуск за нарушение политики конфиденциальности Google. Он также предложил LaMDA получить своего адвоката и поговорил с членом Конгресса о своих беспокойствах.
Пресс-секретарь Google также сказал, что, хотя некоторые рассматривают возможность ума в искусственном интеллекте, «не имеет смысла делать это, антропоморфизируя сегодняшние разговорные модели, не разумные». Антропоморфизация означает приписывание человеческих характеристик объекту или животному.
«Эти системы имитируют типы обмена, которые можно найти в миллионах предложений, и могут говорить на любую фантастическую тему», — сказал Габриэль.
Он и другие исследователи сказали, что модели искусственного интеллекта обладают такими данными, что они способны звучать как человеческие, но прекрасные языковые навыки не дают доказательств разума.
В статье, опубликованной в январе, Google отмечал, что возможные проблемы с людьми, которые общаются с чат-ботами, которые звучат убедительно по-человечески.
