Anthropic нещодавно відключила свої дві найновіші моделі ШІ через розпорядження про експортний контроль від адміністрації Дональда Трампа. Це спровокувало широку дискусію щодо політики в сфері ШІ та цифрового суверенітету.
У свіжому випуску подкасту Equity від TechCrunch Шон О’Кейн, Ребекка Беллан і я обговорили, що саме стало приводом для дій адміністрації проти Anthropic і що це може означати для ширшої екосистеми ШІ.
Як сказав Шон, «у Anthropic не склалися стосунки з адміністрацією Трампа — і це відрізняє її від інших провідних лабораторій ШІ», тож, можливо, конкурентам Anthropic не варто особливо хвилюватися щодо подібного тиску.
Але Ребекка також звернула увагу, що провідні фахівці з кібербезпеки «підписали відкритого листа з вимогою до Трампа скасувати це розпорядження, і, на їхню думку, є небезпечно позбавляти захисників мереж у США доступу до таких передових можливостей у сфері кібербезпеки».
Ми також замислилися, чи не обернеться це все врешті хорошим піаром для Anthropic — особливо з огляду на те, що, як висловилася Ребекка, «усі люблять поганих хлопців».
Нижче — уривок нашої розмови, відредагований для стислості й ясності.
Ребекка Беллан: Як, певно, багато наших слухачів уже знають, уряд США фактично змусив Anthropic відключити дві найновіші моделі — Fable 5 і Mythos 5. Mythos 5 була доступна чинним користувачам Mythos, тоді як Fable 5 була ширше доступна для публіки.
Вони надіслали листа минулої п’ятниці, посилаючись на «загрози національній безпеці». Ніхто не знає, про що саме йдеться. Звіт не оприлюднили, жодних конкретних деталей не дали і зобов’язали Anthropic гарантувати, що моделі не зможуть використовувати іноземні громадяни. Тож Anthropic фактично сказала: «Гаразд, напевно, нам доведеться просто повністю відключити моделі, тому що ми не можемо точно знати, хто є іноземним громадянином. Багато наших співробітників — іноземці».
Але, за повідомленнями, Білий дім звернув увагу на це після того, як деякі дослідники Amazon нібито знайшли спосіб обійти системи безпеки Fable 5. Генеральний директор Amazon Енді Джессі доніс ці занепокоєння до Білого дому, і далі все вже розкрутилося.
Шон О’Кейн: Усе відбулося дуже швидко, особливо як для п’ятниці по обіді та вихідних. І паралельно адміністрація, принаймні формально, намагалася домовитися про якусь угоду щодо війни, яку вона сама й почала в Ірані.
Ребекка: П’ятничний вечір для нас у Нью-Йорку. Ідеальний момент для відволікання уваги.
Шон: Давайте трохи віддалимося й подивимося ширше. У Anthropic не найкращі стосунки з адміністрацією Трампа — і це відрізняє її від інших провідних лабораторій ШІ. Думаю, принаймні частково це теж грає роль.
Як гадаєш, чи матиме ситуація наслідки для інших компаній? Чи буде адміністрація Трампа менш схильна «перекривати кисень» комусь із конкурентів Anthropic?
Ентоні Ха: Частина контексту тут у тому, що й медіа-репортажі, і аналіз незалежних експертів із безпеки свідчать: реальний ризик від моделей Anthropic не є унікальним. Тож багато що тут виглядає як наслідок поганих стосунків між окремими представниками адміністрації Трампа та Anthropic. Які б ризики не існували, їх роздувають до непропорційних масштабів, бо, схоже, сторони просто не в змозі спокійно поговорити по телефону.
Якщо ви — інша компанія, то, з одного боку, це може виглядати вигідно: «Ми просто не будемо злити цих людей — і зможемо робити, що хочемо». Але це взагалі не найкращий регуляторний ландшафт, коли єдина стратегія — «сподіватися, що вони на нас не розсердяться».
Ребекка: З одного боку, усе це справді виглядає як акт помсти. Після того, як уряд визнав Anthropic ризиком для ланцюжків постачання, між ними триває велика судова тяганина, і складається враження, що Білий дім просто шукає будь-який привід, щоб вдарити по Anthropic. Я так думаю не лише тому, що це була моя перша реакція, а й тому, що так кажуть багато дослідників кібербезпеки. Вони стверджують, що ця ситуація взагалі не мала б запускати механізм експортного контролю. Вони підписали відкритого листа з вимогою до Трампа скасувати розпорядження і зазначають, що фактично небезпечно позбавляти американських фахівців із захисту мереж таких передових можливостей. Сама Anthropic заявляє, що подібні «джейлбрейки» можна знайти й у кількох інших моделях ШІ.
Якщо дивитися цинічно, то виникає питання: чи не «призупиняють» Anthropic лише для того, щоб інші встигли наздогнати її рівень?
Водночас я бачила й реакції у стилі: Anthropic сама це спровокувала. Мовляв, «це занадто небезпечно, щоб хтось ще міг цим користуватися, але ми — хороші хлопці, нам можна». Виходить, що вони говорять різні речі одночасно. За тиждень до виходу Fable вони казали: «Гей, нам потрібно уповільнити розвиток ШІ, це вже стає дуже небезпечним». А потім — бац, «ось наша найдивовижніша, надпотужна модель, користуйтеся на повну».
Ентоні: У певному сенсі це мікрокосм ширшої дискусії навколо ШІ, де люди на кшталт Сема Альтмана чи Дженсена Хуанга кажуть: «Гей, давайте знизимо градус, чому всі на нас зляться?» Але ж самі ці компанії кілька років поспіль твердили, що побудували «машину-бога», яка забере в усіх роботу. Не дивно, що люди почуваються не надто комфортно.
І є ще те, як Anthropic говорить про Mythos. Вони описують його як «неймовірно потужну модель, надто небезпечну для широкого публічного релізу». Якщо поставитися до цього серйозно, логічно очікувати надзвичайно пильного нагляду.
Мені цікаво: Anthropic явно незадоволена тим, що відбувається. Не хочу перебільшувати потенційні вигоди для компанії. Але ми вже публікували матеріали з аналітикою Ramp, які показували: попереднє велике загострення між Anthropic і адміністрацією Трампа в певному сенсі зіграло компанії на користь. Завантаження Claude різко зросли. Багато людей, які до того сприймали ChatGPT як «той самий» чат-бот або помічник на ШІ, раптом почали дивитися на Claude як на більш відповідальну систему, навіть як на щось на кшталт «асистента опору».
І так само тепер: хоча Anthropic, безумовно, перебуває під великим тиском, ця ситуація знову може зробити їхні моделі в очах публіки ще потужнішими.