Консалтинговая компания Deloitte была вынуждена вернуть правительству Австралии 291 000 долларов США после того, как стало известно, что при подготовке отчета, который стоил заказчику больших денег, она использовала искусственный интеллект, который сгенерировал вымышленные данные.
Как сообщило издание The Guardian, Департамент занятости и трудовых отношений Австралии (DEWR) подтвердил, что компания согласилась вернуть последний платеж по контракту. Deloitte был нанят в декабре для проверки системы, которая автоматически налагает санкции на получателей социальной помощи в случаях, когда они не выполняют свои обязательства по трудоустройству.
Однако так называемая «независимая проверка подлинности» выявила тревожные признаки халатности. В документе были обнаружены многочисленные ошибки, в том числе ссылки на несуществующие источники – типичный пример так называемых галлюцинаций искусственного интеллекта.
Этот инцидент еще раз подчеркнул риски использования генеративного ИИ в рабочих процессах. Подобные случаи уже случались раньше-от юристов, которые цитировали вымышленные судебные решения, до центров по контролю и профилактике заболеваний в США, которые в этом году ссылались на несуществующее исследование, созданное ИИ.
По данным Financial Times, Deloitte, как и другие крупные консалтинговые компании, инвестирует миллиарды долларов в разработку ИИ-инструментов, которые, по их утверждению, могут ускорить аудит и сократить расходы.
Между тем Financial Times также отметила, что шесть крупнейших аудиторских фирм Великобритании не ведут официального мониторинга влияния искусственного интеллекта на качество проверок, что свидетельствует о возможности наличия аналогичных ложных данных во многих других отчетах.
Преподаватель социологии Сиднейского университета Кристофер Радж, который первым обнаружил проблемы в отчете Deloitte для DEWR, сообщил, что компания пыталась скрыть следы использования ИИ, выпустив обновленную версию документа с теми же недостатками.
«Вместо того чтобы просто заменить одну вымышленную цитату на реальный источник, они заменили поддельные ссылки на новые, тоже вымышленные. В новой версии их уже пять, шесть или даже восемь», – сказал Радж в интервью The Guardian. — »Это означает, что первоначальные утверждения в отчете вообще не основывались ни на одном реальном доказательном источнике».
Несмотря на то, что компанию поймали на использовании ИИ для создания вымышленных ссылок, Deloitte заявила, что сущность выводов и рекомендаций отчета не изменилась. В примечании к обновленной версии документа говорится, что сотрудники использовали GPT-4o от OpenAI при подготовке материала.
«Deloitte провела независимую проверку достоверности и подтвердила, что некоторые сноски и ссылки были некорректными», – сообщил представитель компании The Guardian. — «Сущность независимого анализа сохранена, и рекомендации остаются без изменений».
В то же время в стране растет возмущение среди политиков, которые требуют усиления контроля за деятельностью консалтинговых компаний.
«У Deloitte-проблема не с искусственным, а с человеческим интеллектом», – заявила сенатор от Лейбористской партии Дебора О’Нил, представляющая штат Новый Южный Уэльс, в комментарии Australian Financial Review. — «Это было бы смешно, если бы не столь позорно. Слишком часто, как показывают наши парламентские расследования, эти фирмы получают государственные контракты, обещая экспертизу, а затем, когда соглашение подписано, предоставляют услуги по минимальным затратам».
«Каждый, кто планирует заключать контракты с такими компаниями, должен четко выяснять, кто именно выполняет работу, которую оплачивают, и требовать подтверждения, что задачу выполняет специалист, а не искусственный интеллект», – добавила сенаторша. — «Иначе, возможно, вместо крупной консалтинговой компании заказчикам выгоднее оформить подписку на ChatGPT».
«Этот отчет должен был выявить недостатки в нашей системе социальной помощи и обеспечить справедливое отношение к получателям поддержки, но вместо этого правительство разрешило Deloitte просто обмануть себя», – заявила сенатор от Партии зеленых Пенни Оллман-Пейн в комментарии AFR. — «Лейбористы должны потребовать полного возмещения от Deloitte и прекратить передавать принятие государственных решений своим консультантам».
