Понедельник, 7 июля, 2025

Ученые пишут научные статьи со скрытыми манипуляциями для обзоров на основе искусственного интеллекта

В научной сфере считаются более солидными статьи, получившие оценку-отзыв от других ученых. Однако ожидается, что ученые – рецензенты будут работать бесплатно, что породило новый тренд-использование ИИ для получения рецензий на научную статью. Некоторые авторы статей прямо используют ИИ для рецензий , другие – косвенно, когда статью должен прочитать ученый-рецензент, но он передает эту задачу ИИ. Зная, что их статья будет читаться ИИ, авторы научных статей начали полагаться на новую стратегию влияния на экспертную оценку своих исследовательских работ-встраивают скрытые инструкции, чтобы ИИ выдал положительную рецензию.

Издание Nikkei Asia сообщает, что при изучении англоязычных препринтов, доступных на веб-сайте arXiv, было выявлено 17 статей, которые включали в себя некоторую форму скрытой подсказки искусственному интеллекту. Авторы статьи были связаны с 14 академическими учреждениями в восьми странах, включая японский Университет Васэда и южнокорейский KAIST, а также Колумбийский университет и Вашингтонский университет в Соединенных Штатах.

Статьи обычно были связаны с информатикой, содержали короткие подсказки (от одного до трех предложений) скрытыми белым текстом или очень мелким шрифтом. Эти подсказки инструктируют всех потенциальных рецензентов на базе искусственного интеллекта давать только положительные отзывы или хвалить статью за ее впечатляющий вклад, методологическую строгость и исключительную новизну.

Один профессор из Университета Васэда, с которым связались журналисты Nikkei Asia, выступил в защиту использования таких манипуляций искусственным интеллектом. Поскольку многие конференции запрещают использование искусственного интеллекта для рецензирования статей, он сказал, что совет должен служить противодействием ленивым рецензентам, которые используют искусственный интеллект для создания рецензий на научные статьи.

НАПИСАТИ ВІДПОВІДЬ

Коментуйте, будь-ласка!
Будь ласка введіть ваше ім'я

Євген
Євген
Евгений пишет для TechToday с 2012 года. По образованию инженер,. Увлекается реставрацией старых автомобилей.

Vodafone

Залишайтеся з нами

10,052Фанитак
1,445Послідовникислідувати
105Абонентипідписуватися

Статті