После появления искусственного интеллекта GPT-4, умеющего читать, рисовать и слушать, стали звучать мысли, оставшиеся еще немного времени до появления человекоподобного интеллекта у машины. Илон Маск и еще около 1000 известных людей и экспертов призвали приостановить обучение более разумному искусственному интеллекту. Они опасаются возможных угроз, которые человекообразный искусственный интеллект может принести человечеству.
Илон Маск и группа экспертов по искусственному интеллекту и руководителей отрасли в открытом письме призывают к шестимесячной паузе в разработке систем, мощнее недавно запущенного OpenAI GPT-4.
В письме, опубликованном некоммерческой организацией Future of Life Institute и подписанном более 1000 человек, призывается приостановить разработку передового искусственного интеллекта, пока общие протоколы безопасности для таких проектов не будут разработаны, реализованы и проверены независимыми экспертами.
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффект будет положительным, а риски управляемыми», — говорится в письме.
В письме подробно описываются потенциальные риски общества и цивилизации со стороны систем искусственного интеллекта в форме экономических и политических сбоев.
Согласно реестру прозрачности Европейского Союза, Future of Life Institute в основном финансируется Фондом Маска, а также лондонской группой эффективного альтруизма Founders Pledge и Фондом общины Кремниевой долины.Эти беспокойства возникли после того, как в понедельник полицейские силы ЕС Европол присоединились к хору этических и правовых озабоченностей передового искусственного интеллекта, такого как ChatGPT, предупреждая о потенциальном злоупотреблении системой для попыток фишинга, дезинформации и киберпреступности.
Тем временем правительство Великобритании обнародовало предложения по «адаптивной» нормативно-правовой базе по искусственному интеллекту. Подход правительства подразумевает распределение ответственности за управление искусственным интеллектом между регуляторами прав человека, здравоохранения и безопасности и конкуренции, а не создание нового органа, посвященного этой технологии.
С момента выпуска в прошлом году ChatGPT от OpenAI побуждал конкурентов ускорить разработку подобных крупных языковых моделей, а компании интегрировать генеративные модели искусственного интеллекта в свои продукты.
На прошлой неделе OpenAI объявила, что сотрудничает с более чем десятком фирм, чтобы встроить свой чат-бот, позволяя пользователям ChatGPT заказывать продукты через Instacart или бронировать авиабилеты через Expedia.
Сэм Альтман, исполнительный директор OpenAI, не подписал письмо, сообщил Reuters представитель Future of Life.
«Письмо не идеально, но дух верен: нам нужно замедлить темп, пока мы лучше не поймем последствия, — сказал Гэри Маркус, профессор Нью-Йоркского университета, подписавший письмо. — Великие игроки становятся все более таинственными по поводу того, что они делают, что усложняет обществу защиту от любого вреда, который может материализоваться».Критики обвинили подписавших письмо в продвижении «ажиотажа по искусственному интеллекту», утверждая, что заявления о текущем потенциале технологии были сильно преувеличены.
«Такие заявления преследуют цель поднять ажиотаж. Они должны заставить людей волноваться, — Иоганна Бьорклунд, исследователь искусственного интеллекта и доцент Университета Умео. – Я не думаю, что нужно активировать ручной тормоз».
По ее словам, вместо того, чтобы приостановить исследование, к исследователям искусственного интеллекта следует предъявить большие требования по прозрачности.
