Лист про виконання експортного контролю, який уряд США надіслав компанії Anthropic і який фактично змусив її наприкінці тижня вимкнути з онлайну свої найновіші моделі ШІ, має стати сигналом для пробудження для будь-якої американської технологічної компанії — не лише AI‑лабораторій.
Щоб пригадати, що сталося: у п’ятницю по обіді Міністерство торгівлі США надіслало Anthropic лист, пославшись на маловідому директиву з експортного контролю. Документ забороняв неамериканцям, включно зі співробітниками Anthropic, доступ до моделей Fable 5 і Mythos 5, посилаючись на неуточнену загрозу національній безпеці. В Anthropic вважають, що лист стосується обходу захисних механізмів моделі, але достеменно не знають, оскільки документ не містить конкретних деталей. Лист поки що не оприлюднений.
У відповідь Anthropic відключила обидві свої флагманські моделі для всіх клієнтів, щоб гарантовано виконати припис. У підсумку уряд США зміг фактично змусити технологічну компанію вимкнути її моделі ШІ швидкою й односторонньою дією, яка, схоже, не потребувала санкції суду.
П’ятничне втручання адміністрації Трампа демонструє, що індустрія ШІ не є захищеною від державного тиску. Це також попередження для ширшого технологічного сектору: виконуйте вимоги, інакше ми можемо зупинити вас і ваші продукти.
Посилаючись на власні джерела, Axios описав напружену ситуацію у вихідні між двома ключовими гравцями, зазначивши, що до видання експортної директиви призвели радше «особистісні розбіжності» між Anthropic та адміністрацією Трампа, ніж якась технічна проблема з продуктами ШІ.
Нові подробиці, які з’явилися протягом вихідних, ще більше ставлять під сумнів і без того хитке обґрунтування дій уряду.
Кеті Муссуріс, ветеранка кібербезпеки й дослідниця, засновниця Luta Security, написала у блозі, що Anthropic нещодавно поділилася з нею приватною копією наукової роботи, підготовленої дослідниками безпеки, де описується нібито обхід захисних механізмів у Fable 5. (За даними The Wall Street Journal, автори статті — фахівці з безпеки в Amazon.) За словами Муссуріс, Anthropic звернулася до неї по експертну оцінку цієї роботи.
У своєму дописі Муссуріс описала, як дослідникам вдалося запустити обхід захисту, але зазначила, що сам по собі цей обхід «ніколи не мав стати приводом для експортного контролю». Різниця радше в тому, як сформульовано запит до моделі: «перевір цей код на вразливості» чи «виправ цей код». Фактичний результат майже однаковий, навіть якщо питання поставлені трохи по‑різному.
«Поведінка, описана в статті, не може бути змістовно виправлена, а будь-яка спроба зробити це лише послабить модель у захисних сценаріях», — зазначила Муссуріс, розкритикувавши директиву з експортного контролю як поспішну, надмірно жорстку та хибну.
Муссуріс і ще кілька десятків провідних дослідників та експертів з кібербезпеки вже закликали адміністрацію Трампа скасувати експортний припис, назвавши позбавлення мережевих захисників у США передових інструментів кіберзахисту «небезпечним» кроком.
Уряди й раніше ухвалювали масштабні рішення на тлі браку знань. Наприклад, формулювання, якими уряд США у 2010‑ті роки намагався оновити експортне законодавство щодо інструментів кібербезпеки, які можуть використовуватися і для кібератак, були настільки широкими, що майже випадково поставили поза законом легітимні дослідження безпеки та вразливостей.
Однак директива адміністрації Трампа виглядає радше як акт помсти.
Джастін Гендрікс, головний редактор Tech Policy Press, зазначив, що крок адміністрації Трампа «ймовірно викличе занепокоєння у столицях інших країн щодо надійності американського ШІ для критично важливих застосувань». Посил полягає в тому, що компаніям з ШІ у США не можна довіряти працювати без втручання уряду.
Адміністрація Трампа досі не пояснила, чому саме застосувала директиву з експортного контролю. Чи неправильно зрозуміли звіт і піддалися паніці? Чи генеральний директор Amazon Енді Джессі сказав щось високопосадовцям, що спричинило таку реакцію — з обережності чи з неприязні? Чи сталася помилка в комунікації, або ж це був спосіб натиснути на Anthropic, з якою в адміністрації й без того напружені стосунки? Не можна відкидати й те, що Білий дім просто не усвідомив масштабних наслідків вимог у листі, і тепер чиновники гарячково намагаються виправити створену ними ж проблему.
Як сформулював Гендрікс, «панує атмосфера підозри, що високопосадовці обирають фаворитів, керуючись особистими та політичними міркуваннями». Наслідком стало те, що уряд задав небезпечний прецедент щодо того, який обсяг контролю він має намір здійснювати над випуском програмного забезпечення, створеного в США.
Цього разу уряд націлився на Anthropic; завтра це може статися з будь‑ким іншим.