Минулої п’ятниці, посилаючись на невизначені міркування національної безпеки, Білий дім наказав Anthropic обмежити експорт її потужних моделей штучного інтелекту Fable та Mythos будь‑кому за межами США, а також іноземцям усередині країни. Невдовзі після цього ІТ‑гігант поспіхом вимкнув обидві моделі, які вже тиждень недоступні для будь‑кого.
Цей епізод став першим справжнім тестом того, чи може уряд США використати експортний контроль, щоб стримати «фронтирний» ШІ так само, як він намагався — з дуже неоднозначними результатами — стримувати поширення шифрування та шпигунського ПЗ. І хоч це звучить драматично, те, як завершиться це протистояння, може визначити не лише доступ Anthropic до закордонних ринків, а й правила гри для інших лабораторій ШІ.
Спершу трохи контексту. Відтоді як Anthropic запустила Mythos у квітні, компанія просувала його як своєрідну «машину кібер‑кінця світу», яка могла б завдати серйозної шкоди інтернету, якби стала надто широко доступною. Саме тому, до запровадження обмежень, доступ до моделі мали лише близько 150 попередньо перевірених компаній і державних органів. Мета полягала в тому, щоб допомогти захисникам зміцнити свої програми та сервіси раніше, ніж зловмисники отримають подібні до Mythos можливості.
Що ж саме спровокувало заборону? За повідомленнями, дві подальші події. Перша: Anthropic надала південнокорейському телеком‑оператору доступ до Mythos у межах своєї обмеженої партнерської програми, а чиновники США занепокоїлися, виявивши компанію, яку підозрювали в зв’язках із Китаєм. (Ця компанія, про яку широко повідомляють як про SK Telecom, заперечує будь‑які зв’язки з Китаєм.) Крім того, гендиректор Amazon Енді Джессі начебто попередив адміністрацію після того, як дослідники Amazon, за його словами, знайшли спосіб обійти захисні механізми Fable 5. Anthropic заперечує, що це був «джейлбрейк», називаючи інцидент вузькою, вже виправленою вразливістю, а не повною поразкою системи безпеки моделі.
Результат виявився однаковим: Міністерство торгівлі США видало директиву про експортний контроль, і Anthropic довелося в терміновому порядку обмежити доступ до своїх продуктів — приблизно за 90 хвилин після отримання повідомлення, за деякими даними.
Однак нічого принципово нового тут немає. Уряди вже десятиліттями намагаються використовувати експортний контроль, щоб обмежити поширення технологій, які вони вважають небезпечними в кіберпросторі, але їхні результати, у кращому разі, посередні.
Саме уряд США стояв за, мабуть, найбільш показковим провалом такого підходу в історії — на початку та в середині 1990‑х. Тоді комп’ютерні науковці розробляли технології шифрування для захисту даних під час передачі через інтернет. Одним із таких продуктів було Pretty Good Privacy, або PGP, популярне програмне забезпечення, що дозволяло зашифрувати дані й зробити їх практично неможливими для розшифрування навіть у разі перехоплення під час передачі адресатові.
Спершу уряд США розглядав PGP як небезпечну зброю, побоюючись, що вона не дасть його спецслужбам прослуховувати електронну пошту, коли та проходить через їхні мережі. Щоб зупинити розповсюдження PGP, Митна служба США відкрила кримінальне провадження проти творця PGP Філа Циммермана за нібито порушення правил експорту озброєнь. У відповідь він оприлюднив вихідний код PGP у вигляді друкованої книги, розпаливши те, що нині відоме як «криптовійни».
Згодом Циммерман здобув ключову перемогу, коли розслідування закрили, що проклало шлях до появи критично важливих алгоритмів наскрізного шифрування — зокрема того, що сьогодні використовують мільярди користувачів Signal та WhatsApp.
Пізніше, на початку 2010‑х, дослідники почали виявляти шпигунське ПЗ західного виробництва, яке застосовували проти дисидентів на Близькому Сході. У відповідь кілька урядів домовилися розширити дію Вассенаарських домовленостей — міжнародного режиму контролю за експортом програмних і технічних засобів подвійного призначення, які можуть використовуватися як у цивільних, так і у військових цілях.
Ідея полягала в тому, щоб класифікувати програми для стеження та зламу як товари подвійного призначення і тим самим змусити виробників шпигунського ПЗ отримувати експортні ліцензії для продажу своєї продукції за кордон.
Однак у Вассенаарських домовленостей завжди було дві вроджені слабкості. По‑перше, є чимало країн, які до них не приєдналися, зокрема Ізраїль, де базуються деякі з найактивніших виробників шпигунського ПЗ у світі.
По‑друге, домовленості покладаються на те, що країни на власний розсуд застосовують їх до компаній у своїй юрисдикції. Протягом певного часу італійський уряд дозволяв одній з провідних тоді шпигунських компаній країни — Hacking Team — отримувати ліцензії на експорт своїх інструментів по всьому світу, попри її репутацію постачальника шпигунського ПЗ репресивним режимам, які використовували його для атак на журналістів та правозахисників.
Відтоді й інші європейські країни виявляли поблажливість до таких виробників, як в Італії. Попри численні скандали, Європа, де розташовано багато розробників шпигунських і хакерських інструментів, постійно провалює спроби зупинити експорт шпигунського ПЗ до авторитарних режимів. Критики кажуть, що нещодавно оновлені зусилля блоку з 27 країн щодо боротьби зі зростаючою проблемою експорту шпигунського ПЗ до автократій «заходять недостатньо далеко».
Деякі виробники, зокрема Intellexa — консорціум шпигунських компаній, який перебуває під санкціями, — просто перенесли свою діяльність до країн із м’яким експортним контролем. Інші розробники шпигунського ПЗ шукали можливостей переїхати до Саудівської Аравії з тих самих причин.
Попри все, певні перемоги були. Німецький виробник шпигунського ПЗ FinFisher закрився у 2022 році після багаторічного розслідування німецьких прокурорів щодо нібито продажу ПЗ для стеження Туреччині без експортної ліцензії. Раніше слідчі виявили, що FinFisher використовували для зламу телефонів критиків турецького уряду.
Станом на момент написання статті протистояння між Anthropic та адміністрацією Трампа триває. Є реальний шанс, що адміністрація зрештою відкотиться й скасує обмеження в інтересах збереження конкурентоспроможності американських компаній ШІ на світовому ринку — фактично визнавши, що лабораторії ШІ в інших країнах, включно з Китаєм, ймовірно, досягнуть подібного рівня можливостей незалежно від того, що саме США обмежуватимуть. Або ж американським компаніям ШІ доведеться отримувати дозвіл уряду щоразу, коли вони захочуть працювати з іноземними клієнтами — а це тягар комплаєнсу, який неминуче вдарить по їхній прибутковості.
З огляду на попередній досвід урядів світу, які намагалися контролювати поширення програмного забезпечення, малоймовірно, що урядові експортні обмеження стануть ефективним інструментом для зупинки зловмисників, які прагнуть зловживати потужними кібер‑технологіями подвійного призначення.