Google подала до суду на китайську кіберзлочинну мережу, яка використовувала її ШІ-модель Gemini для масштабної шахрайської операції, повідомила компанія. Пошуковий гігант координував дії з ФБР, а також з операторами AT&T, T-Mobile і Verizon, щоб зруйнувати цю схему. Google також виступає за оновлення законодавства для протидії атакам із використанням ШІ, наголошуючи, що ця технологія здатна «надзарядити» загрози.
«Це наші перші скоординовані дії та судовий позов, і це свідчить про масштаб впливу саме цієї шахрайської схеми», — сказала генеральна юрисконсультка Google ДіЛейн Прадо в інтерв’ю The New York Times.
У позові Google звинуватила китайську організацію Outsider Enterprise у використанні її технологій і бренду для скоєння шахрайства та попросила суд видати судову заборону, щоб мати змогу зупинити діяльність цієї мережі. За даними компанії, група використовувала Gemini для створення сайтів, що імітували Google, YouTube і державні установи, зокрема Поштову службу США (US Postal Service) та систему платних доріг E-ZPass у штаті Нью-Йорк. Google не розкриває, які внутрішні заходи було вжито для розв’язання проблеми, враховуючи, що компанія контролює Gemini.
За словами Google, від шахрайства постраждали «сотні тисяч жертв», а збитки сягають мільйонів доларів. Група створила 9 000 фішингових сайтів і мільйон шахрайських URL-адрес, а також 55 000 спам-повідомлень, які були позначені користувачами Android, і 2,5 мільйона повідомлень із посиланнями на фальшиві сайти лише за двотижневий період.
Google наголошує, що все це — результат діяльності лише однієї операції. Саме тому компанія підтримує щонайменше сім двопартійних законопроєктів, спрямованих на обмеження майбутніх шахрайств із використанням ШІ. Серед них — National Strategy for Combatting Scams Act, Strategic Task Force on Scam Prevention Act, STOP Scams Against Seniors Act і AI Plan Act. «Це не спам. Це організована транснаціональна злочинність, яка проходить через наші телефони, і вона потребує відповіді, настільки ж скоординованої та агресивної, як і сама загроза», — заявив конгресмен Браян Фіцпатрік (республіканець, Пенсильванія).
«Злочинці дедалі частіше використовують ШІ, щоб зробити таке шахрайство більш переконливим і важчим для виявлення», — додав заступник директора ФБР Бретт Лізерман. «І нам потрібне постійне рішення, щоб притягнути їх до відповідальності».