В четверг корпорация Google сообщила о выявлении попыток «коммерчески мотивированных» субъектов осуществить клонирование знаний из её чат-бота Gemini, работающего на основе искусственного интеллекта. Эти попытки осуществлялись путём многократных запросов к системе. Одна из таких вредоносных сессий, как сообщается, включала более 100 000 запросов, адресованных модели на разных неанглийских языках, с чёткой целью сбора ответов, которые должны были быть использованы для обучения более дешёвой копии чат-бота.
Эти выводы были обнародованы Google в рамках ежеквартальной самостоятельной оценки угроз для собственных продуктов, что, как правило, представляет компанию в роли жертвы и одновременно спасителя, что является типичной практикой для таких внутренних отчётов. Компания Google квалифицирует эту незаконную деятельность как «экстракцию модели» и рассматривает её как кражу интеллектуальной собственности. Однако такая позиция является несколько неоднозначной, учитывая, что собственная большая языковая модель Google была создана из материалов, собранных из интернета без соответствующего разрешения правообладателей.
В то же время, корпорация Google не является новичком в практике копирования. По данным издания The Information, опубликованным в 2023 году, команда Google Bard была обвинена в использовании исходных данных ChatGPT из ShareGPT – публичного сайта, где пользователи обмениваются разговорами с чат-ботами – для обучения собственного чат-бота. Джейкоб Девлин, старший исследователь искусственного интеллекта Google и создатель влиятельной языковой модели BERT, предупреждал руководство, что такие действия нарушают условия предоставления услуг OpenAI, после чего уволился и присоединился к OpenAI. Google опроверг эти утверждения, однако, как сообщается, прекратил использовать указанные данные.
