Google каже, що люди повинні перевіряти, чи отримують вони правдиву інформацію від чат-ботів. Подібну рекомендацію пошуковий гігант надав користувачам свого чат-боту Bard. Але інші чат-боти зі штучним інтелектом також видають неправдиву інформацію: ChatGPT навіть час не може точно сказати. Тим більше, що вже є приклади, як люди зазнавали фінансових та репутаційних втрат, використавши інформацію від чат-бота без перевірки.
Керівник Google у Великій Британії Деббі Вайнштейн сказала, що Bard «насправді не те місце, куди ви йдете шукати конкретну інформацію».
Виступаючи в програмі BBC Today, вона сказала, що Bard слід вважати «експериментом», який найкраще підходить для «співпраці навколо вирішення проблем» і «створення нових ідей».
«Ми заохочуємо людей фактично використовувати Google як пошукову систему, щоб справді посилатися на знайдену інформацію», — сказала вона.
На домашній сторінці Bard також чітко зазначено, що він має обмеження і не завжди надає правильні відповіді. Але там не повторюється порада Вайнштейн про те, що всі результати слід перевіряти за допомогою стандартної пошукової системи.
Влітку 2023 року суд США оштрафував юристів Стівена Шварца, Петера ЛоДуку та їхню юридичну фірму Levidow, Levidow & Oberman на $5000 за використання інформації, яку вони отримали від ChatGPT. Цей бот на їхнє прохання надав перелік судових справ на потрібну їм тему. Однак серед списку прикладів опинилося шість судових справ, які бот вигадав. Юристи використали ці вигадані справи у реальному судовому процесі про авіаційні травми.
Суддя П. Кевін Кастель у письмовому висновку сказав, що в використанні штучного інтелекту для надання допомоги в юридичній роботі немає нічого «за своєю суттю неприйнятного», але адвокати повинні переконатися, що їхні документи точні.
