Вторник, 8 октября, 2024

З вашими фото не зможуть зробити щось погане — обіцяє технологія PhotoGuard

Завдяки поширенню штучного інтелекту майже будь-хто може зіпсувати вашу репутацію та життя. Достатньо лише кількох ваших фотографій, які напевне знайдуться у вашій соцмережі, щоб зробити непристойні знімки з вашою участю, показати вас у незаконній ситуації тощо. Яскравий тому приклад — історія фотографії Папи Римського в пуховику. Однак тепер з’явилася можливість захиститися від цього з новою технологією PhotoGuard. Оброблені нею фотографії зводять штучний інтелект «з розуму».

Група докторантів Массачусетського технологічного інституту розробила інструмент, який захищає фотографії від спроб редагування за допомогою штучного інтелекту. Зловмисники зможуть відредагувати такі знімки вручну у фоторедакторі, але подібний рівень майстерності доступний не кожному.

Інструмент під назвою PhotoGuard використовує дві різні стратегії для захисту зображень від штучного інтелекту. Перший передбачає метод «кодувальника», який розміщує складну інформацію про пікселі в зображенні, як-от їх положення та колір. Другий, який називається «дифузія», вибирає кілька пікселів і змінює їх настільки, щоб вони залишатися невидимими для людського ока, але ставали незрозумілими для штучного інтелекту.

Обидва способи перешкоджають спробі штучного інтелекту зрозуміти цільове зображення, змушуючи його сприймати одну річ (скажімо, фотографію людини) як щось зовсім інше (наприклад, плоский сірий квадрат). Це не дозволяє штучному інтелекту створити нормальне фінальне зображення, а і одразу стає помітною спроба маніпуляції фотографією.

Оскільки внесені PhotoGuard зміни практично непомітні, ті, хто використовує цей інструмент для захисту цілісності своїх фотографій, можуть ділитися улюбленими зображеннями в соціальних мережах.

Але згідно з публікацією в блозі авторів PhotoGuard, це не справжня мета створення такого інструменту. «Натомість ми сподіваємося, що компанії, які надають моделі, самі зможуть надати API для захисту зображень від редагування», — пишуть вони.

Тим часом ті, хто зацікавлені в тестуванні PhotoGuard, можуть зробити це за допомогою інтерактивної демонстрації в профілі команди GitHub.

MIT – не єдина установа, яка працює над захистом контенту від штучного інтелекту. У лютому команда комп’ютерних вчених із Чиказького університету анонсувала інструмент під назвою Glaze, який не дозволяв генераторам штучного інтелекту знімати роботи художників і плагіатувати їхні роботи. Відтоді команда зробила Glaze доступним для завантаження та навіть оновила інструмент, щоб зробити його зручнішим для громадськості.

Однак, коли йдеться про фотографії, плагіат не є актуальною проблемою. Людей більше турбує думка про те, що їхні фотографії використовують для дипфейків, мимовільної порнографії чи дезінформації. Індустрія технологій поступово вводить бар’єри для створення такого типу контенту.

 

 

 

Євген
Євген
Евгений пишет для TechToday с 2012 года. По образованию инженер,. Увлекается реставрацией старых автомобилей.

Vodafone

Залишайтеся з нами

10,052Фанитак
1,445Послідовникислідувати
105Абонентипідписуватися