Компанія Anthropic відключила доступ усіх своїх клієнтів до моделей Fable 5 і Mythos 5, щоб виконати припис уряду США від п’ятниці, 12 червня. Усі інші моделі компанії залишаються доступними. В оголошенні Anthropic зазначила, що уряд США вимагає призупинити доступ іноземних громадян до її нових моделей ШІ — незалежно від того, перебувають вони всередині чи за межами США і навіть якщо це співробітники Anthropic. Причиною називаються міркування національної безпеки.
Хоча уряд не розкрив деталі, Anthropic вважає, що йдеться про інформацію щодо методу «джейлбрейку» Fable 5. Компанія запустила модель Fable 9 червня — вона мала принести багато можливостей Mythos у відкритий доступ. Нагадаємо, Mythos — це спеціалізована кібербезпекова модель, доступна лише партнерам програми Project Glasswing. За словами компанії, можливості Fable «перевищують» усе, що Anthropic випускала раніше: під час тестів Fable змогла пройти Pokémon FireRed, тоді як Claude не вдалося перемогти в оригінальній грі Pokémon Red, на якій базувалося випробування.
У своєму дописі Anthropic перелічила заходи, спрямовані на забезпечення безпеки Fable. Компанія заявила, що запровадила потужні обмеження, щоб «зменшити ймовірність того, що Fable буде використано для завдань, пов’язаних із кібербезпекою», і додала, що ці «запобіжники настільки жорсткі, що багато користувачів скаржаться на їхню надмірну широту». Anthropic також підкреслила, що жоден провайдер не може гарантувати абсолютний захист від спроб джейлбрейку, і кожна модель вразлива до спеціально розроблених для неї атак. «Ми прагнули зробити джейлбрейки або вузькими (у випадку неуніверсальних методів), або дуже дорогими у розробці (у випадку універсальних), поєднуючи це з ретельним моніторингом, щоб швидко виявляти й блокувати успішні атаки», — пояснили в компанії свою стратегію захисту.
За словами Anthropic, уряд надав усну інформацію про один потенційний вузький, неуніверсальний джейлбрейк, який невизначена сторона передала посадовцям. Компанія пообіцяла оприлюднити більше деталей протягом наступних 24 годин, але при цьому наголосила, що не погоджується з тим, що ймовірний джейлбрейк є достатньою підставою для відкликання комерційної моделі.