Стремительное развитие искусственного интеллекта (ИИ) вызывает глобальное беспокойство, которое уже стало темой для обсуждений на самом высоком уровне. События, включающие кибератаки с использованием ИИ и предупреждения от бывших сотрудников технологических гигантов, указывают на неэффективность текущих методов регулирования этой мощной технологии. На этом фоне возникает вопрос о возможности установления мирового контроля над ИИ, в частности, о создании действенного механизма безопасности, способного функционировать в условиях недоверия между государствами и нежелания компаний раскрывать свои разработки.
Два важных переговора происходят одновременно. Президент США Дональд Трамп встретился с председателем Китайской Народной Республики Си Цзиньпином для трехдневного саммита, где одним из ключевых вопросов стало обсуждение рисков, связанных с искусственным интеллектом. Параллельно, во время ежегодной Генеральной Ассамблеи Организации Объединенных Наций, руководители ведущих мировых компаний в сфере ИИ призвали ООН к установлению контроля над этой технологией, чтобы избежать потенциального уничтожения человечества. Сэм Альтман, генеральный директор OpenAI, прямо заявил Совету Безопасности ООН, что существует риск потери контроля над будущим из-за искусственного интеллекта.
Несмотря на тревожные прогнозы, вопрос безопасности ИИ активно обсуждается политиками уже несколько лет, особенно после появления ChatGPT в 2022 году. Правительства проводили слушания, формировали экспертные группы и разрабатывали собственные планы по контролю над этой технологией. Эти меры, хотя и не всегда широко известны общественности, привели к созданию определенных наработок. На данный момент существует своеобразный «планетарный щит» против потенциально неконтролируемого развития ИИ, однако он еще не полностью функционирует и его эффективность остается под вопросом.
Последние четыре года наиболее технологически развитые страны и потенциальные лидеры в сфере ИИ активно обсуждали проблему безопасности. Эти дискуссии проходили на разных уровнях: в Конгрессе США, Белом доме, ООН, G7 и других столицах. На основе этих разговоров сформировался определенный ландшафт мер безопасности. Существуют национальные институты по безопасности и кибербезопасности ИИ, которые финансируются государством и отвечают за проверку новейших разработок компаний перед их выпуском.
Кроме того, компании добровольно берут на себя обязательства или разрабатывают совместные стандарты для защиты выборов от влияния ИИ, предотвращения распространения дипфейков, созданных с помощью ИИ, а также участвуют в совместных правительственно-корпоративных инициативах по интеграции безопасности в процесс разработки технологий. На международном уровне действует механизм отчетности под руководством G7, который поддерживают ведущие западные страны. Этот механизм позволяет крупным компаниям в сфере ИИ делиться информацией о разработке своих новейших моделей и устанавливать стандарты для снижения катастрофических рисков.
Ежегодно публикуются международные научные отчеты, основанные на имеющихся исследованиях, о рисках, связанных с самыми современными системами ИИ, что помогает правительствам планировать свои действия на случай наихудших сценариев. Однако, несмотря на эти меры, существует значительный пробел в системе. На данный момент отсутствует действенный механизм для быстрого реагирования на возникновение кризисных ситуаций, особенно если такие события будут иметь трансграничный характер между странами, которые уже имеют скептическое отношение друг к другу.
Именно поэтому критически важной является разработка глобальной системы реагирования, которая сможет эффективно работать в условиях чрезвычайно быстрого развития угроз от ИИ. Правительства и компании признают необходимость создания такого механизма к концу 2026 года. Хотя путь к этому уже намечен, и некоторые системы уже существуют, отсутствие возможности глобального реагирования в реальном времени на кризис ИИ остается существенным недостатком.
Например, саммит США и Китая может стать шагом в правильном направлении. Согласно предложениям американской стороны, может быть создана «горячая линия» связи между министром финансов США Скоттом Бессентом и вице-премьером Китая Хэ Лифэном для обмена информацией в случае инцидентов, которые могут повлиять на национальную безопасность обеих стран. Однако, приведет ли встреча Трампа и Си к такому прогрессу, остается неизвестным. Китайская сторона выражала определенные предостережения относительно правил ИИ, поскольку Конгресс США еще не принял соответствующих решений, а Китай уже имеет одни из самых строгих механизмов контроля над ИИ в мире.
Для обеспечения безопасности ИИ, дискуссия должна выйти за рамки текущего саммита США и Китая. Полагаться только на Вашингтон и Пекин, которые являются ключевыми игроками в сфере ИИ, недостаточно для решения глубинных проблем и не будет способствовать привлечению других стран. Это сотрудничество должно быть шире, привлекая другие страны для избежания доминирования отдельных государств в сфере контроля над ИИ.
Для создания эффективной глобальной системы реагирования, эксперты и должностные лица подчеркивают необходимость активации существующих механизмов в случае кризиса. Хотя страны не обязаны иметь одинаковую политику в отношении безопасности ИИ, эффективный контроль, подобный контролю над ядерным оружием, требует глобального согласия относительно быстрого реагирования на серьезные инциденты.
Предлагается ввести 90-дневный механизм быстрого реагирования, который бы объединял существующие элементы безопасности ИИ. Разработчики, институты безопасности ИИ и регуляторы из разных стран должны согласиться на введение протокола, подобного тому, что использовался после аварии на Чернобыльской АЭС. В случае инцидента, в течение 72 часов должен быть подан конфиденциальный отчет назначенному национальному ответственному органу и небольшому техническому секретариату.
Это может базироваться на мониторинге инцидентов Организации экономического сотрудничества и развития (ОЭСР) и привести к техническому, многостороннему конфиденциальному расследованию причин события с последующей публикацией анонимизированных выводов. Кроме того, правительства и разработчики могут согласиться публиковать совместные декларации относительно мер безопасности, остаточных рисков, порогов эскалации и независимого аудита перед выпуском или обновлением новой модели ИИ.
Эта инициатива могла бы базироваться на рамках отчетности G7 «Хиросимский процесс ИИ» и превратить текущий набор корпоративных деклараций и добровольных стандартов в общее минимальное обязательство по раскрытию информации. Это похоже на коллективные стресс-тесты банков после глобального финансового кризиса 2008 года, что позволит сравнивать протоколы безопасности различных моделей без необходимости определять, какая компания работает лучше всего.
Важным шагом является создание «горячей линии» по безопасности ИИ между США и Китаем, которая бы впоследствии могла быть расширена на другие страны. Хотя в долгосрочной перспективе доминирование США и Китая в сфере ИИ нежелательно, на данном этапе эти две страны являются основными «великими державами» в технологическом диалоге, поэтому временное откладывание философских споров может способствовать созданию постоянной, технически обоснованной линии прямой связи для острых инцидентов, связанных с рисками ИИ.
Сфера деятельности такой «горячей линии» должна быть четко определена: предотвращение опасных недопониманий, связанных с серьезными инцидентами с моделями ИИ, кибератаками с использованием ИИ или вероятными нарушениями согласованных обязательств по безопасности. Несмотря на потенциальные преимущества, предложенные меры имеют свои ограничения, в частности, они имеют западнoцентричный характер и недостаточно учитывают интересы стран глобального большинства.
Кроме того, такие предложения придают чрезмерное значение существующим институтам, таким как ОЭСР, и полагаются на двусторонние отношения между США и Китаем. Представители других стран имеют законные основания высказывать обеспокоенность по поводу этих аспектов. Важно понимать, что эти предложения не направлены на создание неопределенного, невыполнимого мандата ООН по безопасности ИИ, а также не имеют цели заставить геополитических игроков заключить глобальный договор по ИИ.
Предложенные меры, такие как коллективный протокол безопасности и отчетности об инцидентах, совместные стандарты перед выпуском моделей и «горячая линия» по безопасности ИИ между США и Китаем, имеют краткосрочный характер. Они базируются на уже существующих усилиях и подходах, которые успешно применялись в других сферах политики. Наступит время для детального обсуждения будущего безопасности ИИ, но сейчас время требует практических шагов.
Новейшие модели ИИ развиваются быстрее, чем ожидалось, руководители технологических компаний обеспокоены потерей контроля над своими разработками, а окно для действий может быть значительно уже, чем мы предполагаем. Поэтому необходимо принять практические шаги для успокоения растущих опасений общественности, учитывая напряженную геополитическую ситуацию, отсутствие доверия между правительствами и компаниями, а также необходимость не позволять стремлению к совершенству помешать достижению приемлемых результатов.
