Німецький суд постановив, що Google несе пряму відповідальність за некоректну інформацію, яку генерує платформа AI Overviews. Про це повідомляє видання The Decoder. У Німеччині діють закони, що захищають операторів пошукових систем від відповідальності за контент, однак суд вирішив, що ці норми не поширюються на AI Overviews. Сервіс визнали інструментом, де Google виступає як прямий порушник, адже AI Overview є власним контентом компанії, а не просто списком результатів пошуку.
Суперечка виникла після того, як алгоритм AI Overview поширив неправдиві твердження про двох мюнхенських видавців. У підбірці відповідей вони були пов’язані з шахрайськими схемами, підписками-пастками та сумнівними бізнес-практиками за певними пошуковими запитами. Суд встановив, що штучний інтелект переплутав інформацію про зовсім різні компанії, створивши зв’язки, яких не було у жодному з пов’язаних джерел і які насправді не існували.
Видавці надіслали Google лист-вимогу припинити порушення, але, за їхніми словами, компанія належним чином не відреагувала. Регіональний суд Мюнхена видав тимчасову заборону, згідно з якою Google більше не має права поширювати неправдиву інформацію про дві компанії, що фігурують у справі.
Рішення фактично покладає відповідальність за будь-які фактичні помилки на Google, оскільки AI Overview «переказує інформацію власними словами та за власною структурою». У цьому випадку огляд упевнено стверджував, що один з видавців «відомий сумнівними бізнес-практиками», додаючи власну структуру з резюме, «червоними прапорцями» таких практик і порадами для користувачів. Проблема в тому, що AI Overview насправді використовував дані про іншу юридичну особу. Сервіс навіть «вигадував» додаткові твердження, яких не було в результатах пошуку.
Інакше кажучи, звичайна пошукова система Google не несе прямої відповідальності, оскільки лише робить доступним сторонній контент. Натомість Google як оператор AI Overview відповідальний, бо такі огляди створюють «самостійні, нові та змістовні твердження», оцінюючи й поєднуючи матеріали зі сторонніх сайтів. Фактично це вже редакційна робота — і журналіст чи редактор, який би вигадував наклепницькі заяви про видавців, цілком ніс би за це відповідальність.
На слуханнях Google аргументував, що користувачі можуть перевірити коректність резюме ІІ за посиланнями на джерела. Компанія також заявила, що люди нібито знають: «інформації, згенерованій ШІ, не слід сліпо довіряти». Це доволі показова заява, зважаючи на швидкість, з якою Google запустив Gemini-огляди для масового використання. Дослідження свідчать, що лише близько одного відсотка користувачів переходять за джерелами після перегляду таких оглядів.
Наскільки серйозна проблема з фактичною точністю AI Overview? Це залежить від перспективи. Нещодавнє дослідження, на яке посилається The New York Times, показало, що сервіс помиляється приблизно у дев’яти відсотках випадків. Ця цифра може здаватися відносно прийнятною, доки не згадати масштаби використання. Нещодавно Google заявив, що щомісяця 2 мільярди людей взаємодіють з AI Overviews. Це 24 мільярди на рік. Проста «арифметика на серветці» дає понад 2 мільярди некоректних відповідей щороку. І це ще дуже консервативна оцінка, враховуючи повсюдність платформи та обсяги пошуку в Google (16,5 мільярда запитів щодня).
Однак фактична точність — не єдина проблема. Інше дослідження вказує, що AI Overviews мають суттєвий дефіцит прозорості джерел. Аналіз показав: у 56 відсотках коректних відповідей ці твердження неможливо було підтвердити за вказаними посиланнями. Інакше кажучи, користувачі часто просто не можуть реально перевірити роботу ШІ.
Є й спосіб для тих, хто хоче «обійти» цю магію пошуку на базі ШІ. Достатньо додати «-ai» на початку будь-якого запиту в Google.