Стрімкий розвиток штучного інтелекту (ШІ) спричиняє глобальне занепокоєння, яке вже стало темою для обговорень на найвищому рівні. Події, що включають кібератаки з використанням ШІ та попередження від колишніх співробітників технологічних гігантів, вказують на неефективність поточних методів регулювання цієї потужної технології. На цьому тлі постає питання про можливість встановлення світового контролю над ШІ, зокрема, про створення дієвого механізму безпеки, здатного функціонувати в умовах недовіри між державами та небажання компаній розкривати свої розробки.
Два важливі переговори відбуваються одночасно. Президент США Дональд Трамп зустрівся з головою Китайської Народної Республіки Сі Цзіньпіном для триденного саміту, де одним з ключових питань стало обговорення ризиків, пов’язаних зі штучним інтелектом. Паралельно, під час щорічної Генеральної Асамблеї Організації Об’єднаних Націй, керівники провідних світових компаній у сфері ШІ закликали ООН до встановлення контролю над цією технологією, щоб уникнути потенційного знищення людства. Сем Альтман, генеральний директор OpenAI, прямо заявив Раді Безпеки ООН, що існує ризик втрати контролю над майбутнім через штучний інтелект.
Попри тривожні прогнози, питання безпеки ШІ активно обговорюється політиками вже кілька років, особливо після появи ChatGPT у 2022 році. Уряди проводили слухання, формували експертні групи та розробляли власні плани щодо контролю над цією технологією. Ці заходи, хоч і не завжди широко відомі громадськості, призвели до створення певних напрацювань. На даний момент існує своєрідний “планетарний щит” проти потенційно неконтрольованого розвитку ШІ, однак він ще не повністю функціонує та його ефективність залишається під питанням.
Останні чотири роки найбільш технологічно розвинені країни та потенційні лідери у сфері ШІ активно обговорювали проблему безпеки. Ці дискусії проходили на різних рівнях: у Конгресі США, Білому домі, ООН, G7 та інших столицях. На основі цих розмов сформувався певний ландшафт заходів безпеки. Існують національні інститути з безпеки та кібербезпеки ШІ, які фінансуються державою та відповідають за перевірку новітніх розробок компаній перед їх випуском.
Крім того, компанії добровільно беруть на себе зобов’язання або розробляють спільні стандарти для захисту виборів від впливу ШІ, запобігання поширенню діпфейків, створених за допомогою ШІ, а також долучаються до спільних урядово-корпоративних ініціатив з інтеграції безпеки в процес розробки технологій. На міжнародному рівні діє механізм звітності під керівництвом G7, який підтримують провідні західні країни. Цей механізм дозволяє великим компаніям у сфері ШІ ділитися інформацією про розробку своїх новітніх моделей та встановлювати стандарти для зниження катастрофічних ризиків.
Щорічно публікуються міжнародні наукові звіти, що базуються на наявних дослідженнях, про ризики, пов’язані з найсучаснішими системами ШІ, що допомагає урядам планувати свої дії на випадок найгірших сценаріїв. Однак, попри ці заходи, існує значний пробіл у системі. Наразі відсутній дієвий механізм для швидкого реагування на виникнення кризових ситуацій, особливо якщо такі події матимуть транскордонний характер між країнами, що вже мають скептичне ставлення одна до одної.
Саме тому, критично важливою є розробка глобальної системи реагування, яка зможе ефективно працювати в умовах надзвичайно швидкого розвитку загроз від ШІ. Уряди та компанії визнають потребу у створенні такого механізму до кінця 2026 року. Хоча шлях до цього вже намічений, і деякі системи вже існують, відсутність можливості глобального реагування в реальному часі на кризу ШІ залишається суттєвим недоліком.
Наприклад, саміт США та Китаю може стати кроком у правильному напрямку. Відповідно до пропозицій американської сторони, може бути створено “гарячу лінію” зв’язку між міністром фінансів США Скоттом Бессентом та віце-прем’єром Китаю Хе Ліфенгом для обміну інформацією у разі інцидентів, що можуть вплинути на національну безпеку обох країн. Однак, чи призведе зустріч Трампа та Сі до такого прогресу, залишається невідомим. Китайська сторона висловлювала певні застереження щодо правил ШІ, оскільки Конгрес США ще не ухвалив відповідних рішень, а Китай вже має одні з найсуворіших механізмів контролю над ШІ у світі.
Для забезпечення безпеки ШІ, дискусія повинна вийти за рамки поточного саміту США та Китаю. Покладатися лише на Вашингтон та Пекін, які є ключовими гравцями у сфері ШІ, недостатньо для вирішення глибинних проблем та не сприятиме залученню інших країн. Ця співпраця повинна бути ширшою, залучаючи інші країни для уникнення домінування окремих держав у сфері контролю над ШІ.
Для створення ефективної глобальної системи реагування, експерти та посадовці наголошують на необхідності активації існуючих механізмів у разі кризи. Хоча країни не зобов’язані мати однакову політику щодо безпеки ШІ, ефективний контроль, подібний до контролю над ядерною зброєю, вимагає глобальної згоди щодо швидкого реагування на серйозні інциденти.
Пропонується запровадити 90-денний механізм швидкого реагування, який би об’єднував існуючі елементи безпеки ШІ. Розробники, інститути безпеки ШІ та регулятори з різних країн мають погодитися на запровадження протоколу, подібного до того, що використовувався після аварії на Чорнобильській АЕС. У разі інциденту, протягом 72 годин має бути подано конфіденційний звіт до призначеного національного відповідального органу та невеликого технічного секретаріату.
Це може базуватися на моніторингу інцидентів Організації економічного співробітництва та розвитку (ОЕСР) та призвести до технічного, багатостороннього конфіденційного розслідування причин події з подальшою публікацією анонімізованих висновків. Крім того, уряди та розробники можуть погодитися публікувати спільні декларації щодо заходів безпеки, залишкових ризиків, порогів ескалації та незалежного аудиту перед випуском або оновленням нової моделі ШІ.
Ця ініціатива могла б базуватися на рамках звітності G7 “Хіросімський процес ШІ” та перетворити поточний набір корпоративних декларацій та добровільних стандартів на загальне мінімальне зобов’язання щодо розкриття інформації. Це подібне до колективних стрес-тестів банків після глобальної фінансової кризи 2008 року, що дозволить порівнювати протоколи безпеки різних моделей без необхідності визначати, яка компанія працює найкраще.
Важливим кроком є створення “гарячої лінії” зі безпеки ШІ між США та Китаєм, яка б згодом могла бути розширена на інші країни. Хоча в довгостроковій перспективі домінування США та Китаю у сфері ШІ є небажаним, на даному етапі ці дві країни є основними “великими державами” у технологічному діалозі, тому тимчасове відкладення філософських суперечок може сприяти створенню постійної, технічно обґрунтованої лінії прямого зв’язку для гострих інцидентів, пов’язаних із ризиками ШІ.
Сфера діяльності такої “гарячої лінії” має бути чітко визначена: запобігання небезпечним непорозумінням, пов’язаним із серйозними інцидентами з моделями ШІ, кібератаками з використанням ШІ або ймовірними порушеннями узгоджених зобов’язань щодо безпеки. Незважаючи на потенційні переваги, запропоновані заходи мають свої обмеження, зокрема, вони мають західноцентричний характер і недостатньо враховують інтереси країн глобальної більшості.
Крім того, такі пропозиції надають надмірну вагу існуючим інституціям, таким як ОЕСР, та покладаються на двосторонні відносини між США та Китаєм. Представники інших країн мають законні підстави висловлювати занепокоєння щодо цих аспектів. Важливо розуміти, що ці пропозиції не спрямовані на створення невизначеного, нездійсненного мандату ООН щодо безпеки ШІ, а також не мають на меті змусити геополітичних гравців укласти глобальний договір щодо ШІ.
Запропоновані заходи, такі як колективний протокол безпеки та звітності про інциденти, спільні стандарти перед випуском моделей та “гаряча лінія” зі безпеки ШІ між США та Китаєм, мають короткостроковий характер. Вони базуються на вже існуючих зусиллях та підходах, що успішно застосовувалися в інших сферах політики. Настане час для детального обговорення майбутнього безпеки ШІ, але зараз час потребує практичних кроків.
Найновіші моделі ШІ розвиваються швидше, ніж очікувалося, керівники технологічних компаній стурбовані втратою контролю над своїми розробками, а вікно для дій може бути значно вужчим, ніж ми припускаємо. Тому необхідно вжити практичних кроків для заспокоєння зростаючих побоювань громадськості, враховуючи напружену геополітичну ситуацію, відсутність довіри між урядами та компаніями, а також необхідність не дозволяти прагненню до досконалості стати на заваді досягненню прийнятних результатів.
