Консалтингова компанія Deloitte була змушена повернути уряду Австралії 291 000 доларів США після того, як стало відомо, що під час підготовки звіту, який коштував замовнику великих грошей, вона використовувала штучний інтелект, який згенерував вигадані дані.
Як повідомило видання The Guardian, Департамент зайнятості та трудових відносин Австралії (DEWR) підтвердив, що компанія погодилася повернути останній платіж за контрактом. Deloitte було найнято в грудні для проведення перевірки системи, яка автоматично накладає санкції на одержувачів соціальної допомоги у випадках, коли вони не виконують свої зобов’язання щодо працевлаштування.
Однак так звана «незалежна перевірка достовірності» виявила тривожні ознаки недбалості. У документі були знайдені численні помилки, зокрема посилання на неіснуючі джерела – типовий приклад так званих галюцинацій штучного інтелекту.
Цей інцидент ще раз підкреслив ризики використання генеративного ШІ у робочих процесах. Подібні випадки вже траплялися раніше – від юристів, які цитували вигадані судові рішення, до Центрів з контролю та профілактики захворювань у США, які цього року посилалися на неіснуюче дослідження, створене ШІ.
За даними Financial Times, Deloitte, як і інші великі консалтингові компанії, інвестує мільярди доларів у розробку ШІ-інструментів, які, за їх твердженням, можуть пришвидшити аудит і скоротити витрати.
Тим часом Financial Times також зазначило, що шість найбільших аудиторських фірм Великої Британії не ведуть офіційного моніторингу впливу штучного інтелекту на якість перевірок, що свідчить про можливість наявності аналогічних помилкових даних у багатьох інших звітах.
Викладач соціології Сіднейського університету Крістофер Радж, який першим виявив проблеми у звіті Deloitte для DEWR, повідомив, що компанія намагалася приховати сліди використання ШІ, випустивши оновлену версію документа з тими самими недоліками.
«Замість того щоб просто замінити одну вигадану цитату на реальне джерело, вони замінили підроблені посилання на нові, теж вигадані. У новій версії їх уже п’ять, шість або навіть вісім», – сказав Радж в інтерв’ю The Guardian. – «Це означає, що початкові твердження у звіті взагалі не базувалися на жодному реальному доказовому джерелі».
Попри те, що компанію спіймали на використанні ШІ для створення вигаданих посилань, Deloitte заявила, що сутність висновків і рекомендацій звіту не змінилася. У примітці до оновленої версії документа зазначено, що співробітники використовували GPT-4o від OpenAI під час підготовки матеріалу.
«Deloitte провела незалежну перевірку достовірності та підтвердила, що деякі виноски й посилання були некоректними», – повідомив представник компанії The Guardian. – «Сутність незалежного аналізу збережена, і рекомендації залишаються без змін».
Водночас у країні зростає обурення серед політиків, які вимагають посилення контролю за діяльністю консалтингових компаній.
«У Deloitte – проблема не зі штучним, а з людським інтелектом», – заявила сенатор від Лейбористської партії Дебора О’Ніл, яка представляє штат Новий Південний Уельс, у коментарі Australian Financial Review. – «Це було б смішно, якби не настільки ганебно. Занадто часто, як показують наші парламентські розслідування, ці фірми отримують державні контракти, обіцяючи експертизу, а потім, коли угода підписана, надають послуги за мінімальними витратами».
«Кожен, хто планує укладати контракти з такими компаніями, має чітко з’ясовувати, хто саме виконує роботу, яку оплачують, і вимагати підтвердження, що завдання виконує фахівець, а не штучний інтелект», – додала сенаторка. – «Інакше, можливо, замість великої консалтингової компанії замовникам вигідніше оформити підписку на ChatGPT».
«Цей звіт мав виявити недоліки в нашій системі соціальної допомоги та забезпечити справедливе ставлення до отримувачів підтримки, але натомість уряд дозволив Deloitte просто обдурити себе», – заявила сенатор від Партії зелених Пенні Оллман-Пейн у коментарі AFR. – «Лейбористи повинні вимагати повного повернення коштів від Deloitte і припинити передавати ухвалення державних рішень своїм консалтинговим друзям».
