Пошуковий гігант Google постійно прагне інтегрувати штучний інтелект у практично кожен свій продукт, і це вже не секрет для тих, хто хоч трохи стежить за технологічним світом. Минулого року компанія вже “експериментувала” з автоматично згенерованими короткими описами до історій у своєму сервісі Discover, а згодом, у грудні, розпочала схожі “експерименти” із заголовками, відмовившись називати це експериментом вже за місяць. Це показує, як швидко подібні ініціативи можуть переходити з тестової фази у повсякденну реальність, залишаючи за собою чимало запитань та занепокоєнь.
Тепер же, як детально розповів авторитетний портал The Verge, подібна, але, можливо, ще більш тривожна розробка, з’явилася у звичайному пошуку Google, тобто серед традиційних “10 синіх посилань”, до яких ми всі звикли роками. Цей новий “експеримент” полягає у заміщенні оригінальних заголовків новин, створених людьми-редакторами, на їхні версії, згенеровані штучним інтелектом. Такий крок, безумовно, викликає серйозне занепокоєння щодо достовірності інформації, яка зрештою потрапляє до кінцевого користувача.
Найбільш яскравим і показовим прикладом цього є випадок, коли стаття одного з видань The Verge з’явилася у пошуку із заголовком “Інструмент ШІ ‘Шахраюй у всьому'”. Без попереднього ознайомлення зі змістом статті у пересічного читача могло скластися враження, що це пряма рекомендація або схвалення такого інструменту, що може ввести в оману мільйони користувачів, які покладаються на пошукові системи як на джерело правди. Оригінальний же заголовок матеріалу звучав так “Я використав інструмент ШІ ‘Шахраюй у всьому’, і він мені зовсім не допоміг шахраювати”, що, по суті, є абсолютно протилежним закладеному автором посилу, як справедливо зазначає 9to5Google.
Очевидно, що така практика може швидко стати джерелом серйозних проблем, особливо враховуючи, наскільки сильно користувачі покладаються на пошукові системи для отримання точної та актуальної інформації про події у світі. Представники Google, коментуючи ці зміни для The Verge, описали масштаби експерименту як “вузькі”, запевняючи, що ширший запуск ще не був схвалений, хоча це мало кого заспокоює. Залишається відкритим питання, чи є це лише черговим тестом, чи ж передвісником фундаментальних змін у подачі новин та інформації загалом.
Крім того, були зафіксовані випадки, коли результати пошуку ігнорували частини тексту до або після довгого тире в заголовку, що демонструють скріншоти, надані джерелами. Наприклад, оригінальні заголовки на кшталт “Ви не можете замінити батарею в ‘розумних цеглинках’ Lego — і багато їхніх сенсорів ще неактивні” або “Я зустрів Олафа — робота з ‘Крижаного серця’, який може стати майбутнім парків Disney” були обрізані, втрачаючи важливі деталі або навіть змінюючи основну думку. Це свідчить про недосконалість алгоритмів та їх нездатність повноцінно інтерпретувати людську мову, що є критично важливим для новинних матеріалів.
Намагаючись хоч якось розвіяти занепокоєння, представник Google повідомив The Verge, що навіть у разі подальшого впровадження цього експерименту, “він не буде використовувати генеративну модель, і ми не створюватимемо заголовки за допомогою генеративного ШІ”. Проте, жодних роз’яснень щодо того, які саме засоби будуть використані натомість, надано не було, що лише посилює скептицизм та нерозуміння справжніх намірів компанії. Інший представник лише загально зазначив, що цей тест розроблений для “виявлення змісту на сторінці, який був би корисним і релевантним заголовком для запиту користувача”, але це знову ж таки не пояснює механізмів.
Варто зазначити, що цей експеримент не обмежуватиметься лише новинними статтями, індексованими у пошуку, а також поширюватиметься на звичайні вебсайти, за словами Google. Однак, безумовно, використання штучного інтелекту для новинних заголовків викликає найбільше занепокоєння, адже такі заголовки можуть бути прочитані мільйонами людей протягом кількох годин після їхньої появи у пошуку Google. Це величезна відповідальність за правдивість і неспотвореність інформації, яка, схоже, лягає на не завжди досконалі алгоритми.
Для прикладу, автор оригінальної публікації стверджує, що не помічав випадків заміни заголовків видання Android Police на згенеровані штучним інтелектом у своєму регіоні. Проте це зовсім не означає, що подібне не відбувається в інших місцях. Цілком можливо, що цей тест обмежений певними регіонами, і Google незабаром може розширити його на інші частини світу, поступово впроваджуючи нову реальність, до якої користувачі, можливо, будуть не готові.
