Недавно состоялась панельная дискуссия с участием четырех ведущих руководителей подразделения мобильных устройств Samsung, в ходе которой обсуждались ключевые аспекты развития отрасли. Компания Samsung, которая ранее являлась крупнейшим в мире производителем смартфонов и, соответственно, камер, теперь занимает вторую позицию после Apple, при этом сохраняя значительное влияние на рынок и технологические тенденции. В рамках данного мероприятия был поднят актуальный вопрос, касающийся разработки и внедрения технологий искусственного интеллекта, особенно в контексте обработки фото- и видеоматериалов.
На данной встрече был поднят острый вопрос о нарастающей поляризации общества, в рамках которого одни пользователи активно стремятся к расширенным возможностям искусственного интеллекта для создания впечатляющих визуальных материалов, тогда как другие категорически выступают против любого вмешательства искусственного интеллекта, опасаясь подрыва доверия к изображениям и утраты концепции фотографических доказательств. Было отмечено, что существующие инструменты метаданных, такие как C2PA, оказались недостаточно эффективными для сдерживания потока сфальсифицированных изображений, что, в свою очередь, поставило вопрос перед Samsung о наличии у компании новых или принципиально иных идей для предотвращения распространения изображений, сгенерированных искусственным интеллектом, по всему миру. Руководители Samsung, однако, не смогли представить каких-либо новых или отличающихся решений для данной проблемы.
Следует отметить позицию Вон-Джуна Чоя, главного операционного директора и руководителя отдела исследований и разработок мобильного подразделения, который не уклонился от поставленного вопроса, признав эрозию реальности серьёзной и требующей решения проблемой. Тем не менее, он, как и другие представители Samsung, акцентировал внимание на необходимости достижения баланса между сохранением фотографической аутентичности и предоставлением пользователям смартфонов возможности проявить «больше креативности». Было высказано мнение, что данная проблема является общеотраслевой и требует более широкого диалога, а Samsung, по их утверждению, уже частично её решила путём добавления водяного знака к изображениям, сгенерированным искусственным интеллектом, хотя этот знак легко удаляется.
Позднее один из руководителей высказал предположение, что отношение общества к контенту, генерируемому искусственным интеллектом, может стать более благосклонным в будущем, аналогично процессу адаптации к пользовательскому контенту. Вон-Джун Чой отметил, что компания «признаёт проблему, поскольку большое количество контента генерируется искусственным интеллектом», и продолжил, что «с одной стороны, люди хотят быть более креативными, поэтому мы считаем, что должны предоставить решения, чтобы люди могли быть более креативными». Одновременно с этим он добавил, что «с другой стороны, сегодня очень трудно отличить настоящие фотографии и видео от фальшивых, и мы признаём, что это проблема, которую необходимо решать на отраслевом уровне».
Чой также подчеркнул, что механизм C2PA, возможно, воспринимается как неудача, но, по его мнению, он всё ещё представляет собой достаточный инструмент для тех, кто желает проверить, были ли эти фотографии и видео созданы с использованием искусственного интеллекта. Он выразил уверенность в необходимости предоставления такого механизма для широкого использования, отметив, что «это постоянные усилия всей отрасли для решения данной проблемы». Свою мысль Чой завершил утверждением, что при объединении усилий всей отрасли, решение этой проблемы станет возможным. Однако некоторые эксперты критически оценивают подобную риторику о «совместном отраслевом решении», полагая, что она, наряду с такими инициативами как C2PA, скорее служит заменой для реальных и значимых действий.
Дейв Дас, исполнительный директор Samsung America, также дополнил дискуссию, заявив, что компания продолжает исследовать приемлемый уровень использования искусственного интеллекта при создании собственной рекламы, признавая, что «мы только начали использовать некоторый AI-контент в нашем творчестве, и отзывы были достаточно ясными». Дас подчеркнул, что компания стремится «определить правильное место для его использования и абсолютно точно, как быть очень чёткими относительно того, когда мы используем AI-генерированный контент, а когда естественно сгенерированный контент». При этом он продолжает рассматривать данную проблему как вопрос баланса между бизнес-приоритетами, а не как проявление социальной ответственности, заявляя, что «это действительно сводится к предоставлению выбора создателю», и задача Samsung заключается в поиске «правильного баланса».
Впоследствии Рич ДеМуро, технологический репортёр KTLA-TV, адресовал Samsung вопрос о том, не планирует ли компания облегчить пользователям удаление водяного знака искусственного интеллекта с генерируемых фотографий, например, при создании рождественских открыток. На данный вопрос ответил Дрю Блекард, старший вице-президент Samsung America по управлению мобильными продуктами, заявив, что «если мы почувствуем, что потребители действительно желают иметь возможность удалять водяные знаки, и в то же время существуют другие способы решения проблемы аутентичности, мы сделаем обе вещи и предоставим лучшее из того, что люди хотят от опыта». Блекард отметил, что «по крайней мере сейчас существует достаточное беспокойство потребителей относительно аутентичности, и это главное, что мы решили с точки зрения водяных знаков как в метаданных, так и на самой фотографии, чего не все сервисы делают».
Блекард также предположил, что в будущем, возможно, человечество оглянется назад и поймёт, что контент, сгенерированный искусственным интеллектом, не является такой уж большой проблемой, а наше восприятие может измениться со временем, подобно тому, как изменилось отношение к контенту, создаваемому пользователями. Он напомнил, что ранее люди выражали обеспокоенность по поводу «количества контента, поступающего в систему», и тем, что он не соответствовал профессиональному видеопродукту, к которому они привыкли. Однако остаётся неясным, рассматривают ли Samsung и другие производители смартфонов противоположный сценарий, при котором восприятие изображений, сгенерированных искусственным интеллектом, может стать ещё менее благосклонным после того, как люди потеряют рабочие места в пользу дешёвого в производстве контента, созданного искусственным интеллектом, и когда станет гораздо проще лгать, обманывать и совершать кражи в отсутствие надёжных записанных доказательств. Следовательно, представляется важным оценить, занимаются ли они решением этой проблемы «на отраслевом уровне» до того, как «плотина» будет прорвана, и не обернётся ли общественное восприятие против Samsung за то, что компания способствовала созданию последующего потока.
