Midjourney планує випустити оновлений веб-інструмент, який дозволить користувачам редагувати будь-які завантажені зображення за допомогою генеративного штучного інтелекту Midjourney. Оновлений інструмент, який за словами генерального директора Midjourney Девіда Хольца, буде випущений на початку тижня, також дозволить користувачам повторно текстурувати об’єкти на зображеннях, щоб «перефарбувати» їхні кольори та деталі відповідно до підписів.
Редагування існуючих зображень за допомогою ШІ останнім часом стало актуальною темою. Такі платформи, як Meta, боролися з тим, як позначати зображення, відредаговані за допомогою інструментів штучного інтелекту, а не створені з нуля за допомогою штучного інтелекту. Такі компанії, як Google, випустили потужні функції штучного інтелекту, які не дають візуальної індикації, що зображення модифіковано штучним інтелектом.
Минулого року Midjourney взяла на себе зобов’язання використовувати властивість IPTC Digital Source Type, технічний стандарт, який вбудовує метадані в зображення, що вказує на те, що вони створені ШІ. Однак компанія є однією з небагатьох основних платформ штучного інтелекту, яка не охопила C2PA, технологію метаданих, щоб відстежувати повне походження зображення, включаючи обладнання та програмне забезпечення, що використовуються для його створення.
У дописі на офіційному сервері Discord Midjourney Хольц сказав, що оновлений інструмент для зображень буде обмежено підмножиною поточної спільноти для початку, із посиленою модерацією людини, а також новими, більш просунутими модераторами ШІ, щоб спробувати запобігти зловживанням.
Існують ризики випуску цих типів інструментів редагування без відповідних гарантій безпеки. Вони можуть сприяти масовому порушенню авторських прав або сприяти поширенню оманливих дипфейків.
Дипфейки поширюються як лісова пожежа в соціальних мережах і ускладнюють розрізнення правди та дезінформації. Наприклад, Пентагон шукає компанії, які б допомогли створити настільки переконливих інтернет-користувачів, що ні люди, ні комп’ютери не зможуть виявити те, що це боти.
Згідно з даними Clarity , фірми з виявлення дипфейків (deepfake), цього року було створено та опубліковано на 900% більше deepfake порівняно з тим самим періодом минулого року.
Midjourney не зовсім яскравий приклад відповідального розгортання ШІ. Наприклад, на неї подали до суду через нібито використання контенту, захищеного авторським правом, для навчання своїх генеративних моделей штучного інтелекту. Але останніми місяцями платформа вжила заходів для обмеження розповсюдження глибоких фейків, включаючи фільтри для політичних діячів перед виборами в США.
