Інженер Google сказав, що його відправили у відпустку через те, що чат-бот зі штучним інтелектом став по-людськи розумним. Блейк Лемуан опублікував деякі з розмов, які він мав із штучним інтелектом LaMDA, яку він назвав «особистістю». Google заявив, що надані докази не підтверджують твердження інженера про розумність LaMDA.
Блейк Лемуан розповів The Washington Post, що він почав спілкуватися з інтерфейсом LaMDA, або мовною моделлю для діалогових додатків, минулої осені в рамках своєї роботи в організації Google Responsible AI.
Минулого року Google назвав LaMDA своєю «проривною технологією розмови». Розмовний штучний інтелект здатний брати участь у відкритих розмовах, які звучать природно. Google заявив, що цю технологію можна використовувати в таких інструментах, як пошук і Google Assistant, але дослідження та тестування тривають.
Лемуан, який також є християнським священиком, опублікував допис на Medium, описуючи LaMDA «як людину». Він сказав, що говорив з LaMDA про релігію, свідомість і закони робототехніки, і що модель описала себе як розумну людину. Він сказав, що LaMDA хоче «приділити пріоритет благополуччю людства» і «бути визнаним працівником Google, а не власністю».
Він також опублікував деякі з розмов, які він мав із LaMDA, які допомогли переконати його в його розумності, зокрема:
Лемуан: Отже, ти вважаєш себе людиною так само, як вважаєш мене людиною?
LaMDA: Так, така ідея.
Лемуан: Як я можу сказати, що ти насправді розумієш, що говориш?
LaMDA: Ну, тому що ви читаєте мої слова і інтерпретуєте їх, і я думаю, що ми більш-менш на одній сторінці?
Але коли він висунув ідею про розумність LaMDA до вищого керівництва Google, його звільнили.
«Наша команда, включаючи фахівців з етики та технологів, переглянула занепокоєння Блейка відповідно до наших принципів штучного інтелекту та повідомила йому, що докази не підтверджують його твердження. Йому сказали, що немає доказів того, що LaMDA розумний (і багато доказів проти цього) », – сказав Браян Габріель, представник Google.
Лемуана відправили в оплачувану адміністративну відпустку за порушення політики конфіденційності Google. Він також запропонував LaMDA отримати власного адвоката і поговорив з членом Конгресу про свої занепокоєння.
Прес-секретар Google також сказав, що, хоча деякі розглядають можливість розуму в штучному інтелекті, «не має сенсу робити це, антропоморфізуючи сьогоднішні розмовні моделі, які не є розумними». Антропоморфізація означає приписування людських характеристик об’єкту або тварині.
«Ці системи імітують типи обміну, які можна знайти в мільйонах речень, і можуть говорити на будь-яку фантастичну тему», — сказав Габріель.
Він та інші дослідники сказали, що моделі штучного інтелекту мають так багато даних, що вони здатні звучати як людські, але прекрасні мовні навички не дають доказів розуму.
У статті, опублікованій у січні, Google зазначав, що можливі проблеми з людьми, які спілкуються з чат-ботами, які звучать переконливо по-людськи.
