Поисковый гигант Google постоянно стремится интегрировать искусственный интеллект практически во все свои продукты, что уже не является секретом для тех, кто хотя бы немного следит за технологическим миром. В прошлом году компания уже «экспериментировала» с автоматически сгенерированными краткими описаниями к историям в своем сервисе Discover, а затем, в декабре, начала аналогичные «эксперименты» с заголовками, отказавшись называть это экспериментом уже через месяц. Такая динамика демонстрирует, насколько быстро подобные инициативы могут переходить из тестовой фазы в повседневную реальность, порождая при этом множество вопросов и опасений.
Теперь же, как подробно рассказал авторитетный портал The Verge, аналогичная, но, возможно, ещё более тревожная разработка появилась в обычном поиске Google, то есть среди традиционных «10 синих ссылок», к которым пользователи привыкли на протяжении многих лет. Этот новый «эксперимент» заключается в замене оригинальных заголовков новостей, созданных редакторами-людьми, на их версии, сгенерированные искусственным интеллектом. Подобный шаг, несомненно, вызывает серьёзное беспокойство относительно достоверности информации, которая в конечном итоге доходит до конечного пользователя.
Наиболее ярким и показательным примером данного явления стал случай, когда статья одного из изданий The Verge появилась в поиске с заголовком «Инструмент ИИ ‘Обмани во всём'». Без предварительного ознакомления с содержанием статьи у рядового читателя могло сложиться впечатление, что это прямая рекомендация или одобрение такого инструмента, что способно ввести в заблуждение миллионы пользователей, полагающихся на поисковые системы как на источник правдивой информации. Оригинальный же заголовок материала звучал следующим образом: «Я использовал инструмент ИИ ‘Обмани во всём’, и он мне совершенно не помог обманывать», что, по сути, является абсолютно противоположным заложенному автором посылу, как справедливо отмечает 9to5Google.
Очевидно, что подобная практика способна быстро стать источником серьёзных проблем, особенно учитывая, насколько сильно пользователи полагаются на поисковые системы для получения точной и актуальной информации о событиях в мире. Представители Google, комментируя эти изменения для The Verge, охарактеризовали масштабы эксперимента как «узкие», заверяя, что более широкий запуск пока не был одобрен, хотя подобные заявления мало кого успокаивают. Таким образом, остаётся открытым вопрос, является ли это лишь очередным тестом, или же предвестником фундаментальных изменений в подаче новостей и информации в целом.
Кроме того, были зафиксированы случаи, когда результаты поиска игнорировали части текста до или после длинного тире в заголовке, что подтверждается скриншотами, предоставленными источниками. Например, оригинальные заголовки вроде «Вы не можете заменить батарею в ‘умных кирпичиках’ Lego — и многие их сенсоры ещё неактивны» или «Я встретил Олафа — робота из ‘Холодного сердца’, который может стать будущим парков Disney» были обрезаны, что приводило к потере важных деталей или даже изменению основной мысли. Этот факт свидетельствует о несовершенстве алгоритмов и их неспособности полноценно интерпретировать человеческий язык, что является критически важным для новостных материалов.
Стремясь хоть как-то развеять возникшее беспокойство, представитель Google сообщил The Verge, что даже в случае дальнейшего внедрения этого эксперимента, «он не будет использовать генеративную модель, и мы не будем создавать заголовки с помощью генеративного ИИ». При этом никаких разъяснений относительно того, какие именно средства будут использованы вместо этого, предоставлено не было, что лишь усиливает скептицизм и неясность истинных намерений компании. Другой представитель лишь в общих чертах отметил, что данный тест разработан для «выявления содержания на странице, которое было бы полезным и релевантным заголовком для запроса пользователя», однако это вновь не раскрывает механизмов его работы.
Следует отметить, что данный эксперимент не будет ограничиваться только новостными статьями, индексируемыми в поиске, но также распространится на обычные веб-сайты, согласно заявлениям Google. Тем не менее, безусловно, использование искусственного интеллекта для новостных заголовков вызывает наибольшую обеспокоенность, поскольку такие заголовки могут быть прочитаны миллионами людей в течение нескольких часов после их появления в поиске Google. Это представляет собой огромную ответственность за правдивость и неискажённость информации, которая, по-видимому, возлагается на не всегда совершенные алгоритмы.
Например, автор оригинальной публикации утверждает, что не замечал случаев замены заголовков издания Android Police на сгенерированные искусственным интеллектом в своём регионе. Однако это вовсе не означает, что подобное не происходит в других местах. Вполне возможно, что данный тест ограничен определёнными регионами, и Google вскоре может расширить его на другие части мира, постепенно внедряя новую реальность, к которой пользователи, возможно, окажутся не готовы.
