Midjourney планирует выпустить обновленный веб-инструмент, который позволит пользователям редактировать любые загруженные изображения с помощью генеративного искусственного интеллекта Midjourney. Обновленный инструмент, который, по словам генерального директора Midjourney Дэвида Хольца, будет выпущен в начале недели, также позволит пользователям повторно текстурировать объекты на изображениях, чтобы перекрасить их цвета и детали в соответствии с подписями.
Редактирование существующих изображений с помощью ИИ в последнее время стало актуальной темой. Такие платформы, как Meta, боролись с тем, как отмечать изображения, отредактированные с помощью инструментов искусственного интеллекта, а не созданные с нуля с помощью искусственного интеллекта. Такие компании как Google выпустили мощные функции искусственного интеллекта, которые не дают визуальной индикации, что изображение модифицировано искусственным интеллектом.
В прошлом году Midjourney обязалась использовать свойство IPTC Digital Source Type, технический стандарт, который встраивает метаданные в изображения, что указывает на то, что они созданы ИИ. Однако компания является одной из немногих основных платформ искусственного интеллекта, не охватившей C2PA, технологию метаданных, чтобы отслеживать полное происхождение изображения, включая оборудование и программное обеспечение, используемые для его создания.
В сообщении на официальном сервере Discord Midjourney Хольц сказал, что обновленный инструмент для изображений будет ограничен подмножеством текущего сообщества для начала, с усиленной модерацией человека, а также новыми, более продвинутыми модераторами ИИ, чтобы попытаться предотвратить злоупотребления.
Есть риски выпуска этих типов инструментов редактирования без соответствующих гарантий безопасности. Они могут способствовать массовому нарушению авторских прав или способствовать распространению авторских прав или способствовать распространению авторских прав. обманчивых дипфейков.
Дипфейки распространяются как лесной пожар в социальных сетях и усложняют различие правды и дезинформации. Например, Пентагон ищет компании, которые бы помогли создать столь убедительных интернет-пользователей, что ни люди, ни компьютеры не смогут обнаружить, что это боты.
Согласно данным Clarity, фирмы по обнаружению дипфейков (deepfake), в этом году было создано и опубликовано на 900% больше deepfake по сравнению с тем же периодом прошлого года.
Midjourney не совсем яркий пример ответственного развертывания ИИ. Например, на нее подали в суд из-за якобы использования контента, защищенного авторским правом, для обучения своих генеративных моделей искусственного интеллекта. Но в последние месяцы платформа приняла меры для ограничения распространения глубоких фейков, включая фильтры для политических деятелей перед выборами в США.
