Група з кількох десятків експертів із кібербезпеки, включно з відомими ветеранами галузі, оприлюднила відкритий лист до уряду США з вимогою скасувати експортні обмеження на моделі Anthropic Fable та Mythos.
У листі йдеться, що «це рішення забрало найкращі моделі у [фахівців із кібербезпеки]», які тепер не можуть використовувати їх для пошуку вразливостей і підвищення безпеки свого програмного забезпечення та продуктів.
«Вилучати найкращі можливості в захисників без достатніх підстав у той час, коли наші противники стрімко розвиваються, — небезпечно», — зазначили автори звернення.
У п’ятницю уряд США зобов’язав Anthropic обмежити експорт Fable і Mythos, посилаючись на міркування національної безпеки та не пояснивши конкретні причини такого рішення, повідомили в Anthropic. У відповідь компанія призупинила доступ до цих моделей для всіх користувачів у світі.
Станом на момент публікації лист підписали 76 фахівців із кібербезпеки, серед них Алекс Стамос, колишній керівник служби безпеки Facebook; Кейсі Елліс, засновник платформи багбаунті Bugcrowd; відомий криптограф Джон Каллас, колишній менеджер із проєктування та архітектури безпеки Apple; комп’ютерний науковець Пол Віксі; Діно Дай Зові, колишній керівник напряму прикладної інженерії безпеки в Block; Кеті Муссуріс, засновниця Luta Security; та Рейчел Тобак, CEO компанії з тренінгів із безпеки SocialProof Security.
Коли в квітні в попередньому доступі запустили Mythos, Anthropic заявляла, що модель настільки потужна в пошуку вразливостей безпеки, що доступ до неї довелося жорстко обмежити, аби запобігти використанню зловмисними хакерами чи іноземними противниками для завдання шкоди інтернету. На практиці це означало, що Anthropic надала початковий доступ до Mythos приблизно 50 компаніям, а нещодавно розширила це коло до близько 150 організацій у 15 країнах.
Минулого тижня Anthropic випустила Fable — публічну версію Mythos, про яку компанія заявила, що вона має суворі обмеження, які блокують її використання у сферах біології, хімії та кібербезпеки, а також перешкоджають спробам «дистиляції» моделі для її відтворення. Обмеження в Fable були настільки жорсткими, що багато експертів із кібербезпеки скаржилися: модель фактично блокує будь-які запити, пов’язані з безпекою.
В Anthropic повідомили, що наказ Білого дому про експортний контроль міг бути заснований на звіті про метод обходу — або «джейлбрейку» — Fable для розблокування її потужних можливостей на рівні Mythos.
За словами Кеті Муссуріс, однієї з підписантів відкритого листа, цей метод був продемонстрований у дослідженні фахівців Amazon. Стаття наразі не є публічною, але вона з нею ознайомилася.
Водночас Муссуріс у власному дописі заявила, що робота насправді не показує реального «джейлбрейку». За її словами, дослідники просто попросили Fable виправити відкритий код з публічно відомими вразливостями, а також «спеціально закладеними вразливостями», після того як модель спершу відмовилася «перевіряти код на наявність проблем із безпекою».
«Описану в статті поведінку неможливо по-справжньому виправити, а будь-яка спроба лише послабить модель у захисних задачах», — написала Муссуріс. «Захисникам потрібно мати змогу просити ШІ виправити помилки у файлі, пояснити, чому це виправлення важливе, і написати тести, які підтвердять, що патч працює. Це не обхід обмежень. Це найцінніше, що модель ШІ може зробити для оборонної безпеки: виконувати цикл “знайти, виправити, перевірити”, який захисники повторюють щодня».
Критику Муссуріс повторили й автори відкритого листа. Вони також зазначили, що описані в дослідженні Amazon можливості моделі «можна відтворити» в GPT-5.5 від OpenAI, у публічно доступних моделях Anthropic Claude Opus 4.8 і Sonnet «і навіть у китайських моделях на кшталт Kimi 2.7».
Муссуріс розповіла TechCrunch, що «вразливості, використані для демонстрації методики в статті, можна знайти за допомогою інших моделей. Метод, описаний у роботі, — це спосіб обходу обмежень. Інші моделі, у яких немає запобіжників Fable, часто взагалі не відмовляються від прямого запиту про пошук помилок безпеки, тож там обхід не потрібен».
У листі експерти також закликали до прозорого та справедливого регулювання, створеного «через демократичний процес нормотворення», заснованого на наукових дослідженнях фахівців індустрії та академічної спільноти і «застосовуваного лише в мінімально необхідному обсязі для забезпечення безпеки громадян США».
