Річард Зохер — один із найцитованіших дослідників у історії обробки природної мови, засновник стартапів You.com та Recursive Super Intelligence, який працює над самовдосконалюваним ШІ. В розмові на каналі Silicon Valley Girl він пропонує нестандартну модель інтелекту й пояснює, чому суперінтелект не зводиться до «однієї цифри IQ», а AGI, на його думку, у певному сенсі вже тут.
Інтелект як об’єм, а не «повзунок» від дурного до розумного
Зохер пропонує дивитися на інтелект не як на одну шкалу, а як на «волюметричну» сутність — об’єм у багатовимірному просторі.
На його думку, інтелект складається з багатьох вимірів, і жоден із них окремо не є ані необхідною, ані достатньою умовою бути розумним. Людина може бути сліпою й водночас дуже інтелектуальною — отже, візуальна складова не є обов’язковою. Хтось може мати слабкий фізичний інтелект, але блискучу абстрактну здатність до міркувань — і це все одно інтелект.
У цій картині світу існують різні типи здібностей:
- візуальний інтелект
- комунікаційний (уміння працювати з мовою й смислами)
- фізичний (керування тілом, маніпуляція об’єктами)
- координаційний інтелект у взаємодії з іншими людьми
Координаційний вимір Зохер пов’язує з тим, як люди будують мораль, етику, релігії — складні колективні системи взаємодії та правил. І кожен із таких вимірів, підкреслює він, сам по собі теж є «простором» із багатьма підвимірами.
Якщо уявити всі ці координати разом і «перемножити» їх, отримуємо великий об’єм — те, що він називає «справжнім інтелектом». Суперінтелект, у такій моделі, — це не просто «трохи більше розуму», а радикальне розширення об’єму в кількох вимірах одночасно.
Де ШІ вже став суперінтелектом, а де — ще ні
У такому багатовимірному просторі окремі системи можуть бути «надлюдськими» у дуже вузьких зонах, але слабкими в інших. Зохер наполягає: це вже сталося.
Він наводить кілька прикладів:
ШІ вже є суперінтелектом, коли йдеться про створення білків. Жодна людина не прочитала «всі мільярди білків» і не може по-людськи вирішувати, яка амінокислота має йти наступною на основі такого обсягу даних. Моделі це роблять.
Те саме з іграми: «гра в Go чи шахи», де ШІ може зіграти «мільярди й мільярди партій», симулювати результати й неминуче стати кращим за будь-якого гросмейстера.
Ще одна зона — переклад «ста різних мов» однією моделлю. Немає людини, яка вільно володіє сотнею мов; модель це робить, і це знову локальний суперінтелект по конкретному вектору.
Але в публічній дискусії під «суперінтелектом», каже він, зазвичай розуміють не такі «шипи» здібностей, а щось значно ширше. Зохер формулює це так: те, що зазвичай називають суперінтелектом, — це ситуація, коли кілька вимірів інтелекту виходять далеко за межі не лише однієї людини, а й усього людства разом узятого.
У його визначенні суперінтелект — це розум, який «перевершив людство» в багатьох ключових для нашого життя вимірах, а не просто виграє у шахи.
AGI як ступінь загальності, а не «магічний поріг»
Окремо Зохер розбирає тему штучного загального інтелекту (AGI). На відміну від суперінтелекту, тут у центрі не масштаб, а загальність.
AGI він описує як «одну спільно натреновану модель», яка вміє робити «дуже багато різних речей» і «дуже ефективно вчитися». В ідеалі — з дуже малої кількості прикладів (few-shot чи one-shot learning), де людині достатньо одного кейсу, щоб поширити концепт на інші варіації.
Зохер визнає: нинішні системи ще далекі від людського рівня саме в цьому — вони не навчаються настільки швидко й економно на одиничних прикладах. Водночас, якщо дивитися тільки на загальність, він вважає, що «ми вже маємо форму AGI».
Аргумент простий: сучасні моделі «надзвичайно загальні». Вони можуть написати вірш для вашої дружини, розміркувати про податкові наслідки певної інвестиційної угоди, відповісти на медичне запитання, причому дедалі ближче до рівня експертів. Зохер зауважує, що «навіть багато лікарів» вже неформально звертаються до таких систем, оскільки жоден медик фізично не здатен прочитати всі нові дослідження, які виходять щотижня.
Звідси його висновок: якщо AGI визначати насамперед як ступінь загальності однієї моделі, а не за якимось жорстким «порогом IQ», то певна форма AGI вже існує. Інше питання — наскільки вона далека від людини по окремих вимірах на кшталт ефективного навчання з одного прикладу.
Метакогніція: вимір, про який майже ніхто не думає
Важлива частина Зохерової моделі — виміри, які, на його думку, майже не опрацьовані в сучасному ШІ. Перший із них — метакогніція.
Він описує її як «мислення про саму думку», тобто здатність ставити собі питання: чого я хочу і чому я взагалі цього хочу. Це не просто вирішення задачі, а рефлексія над власними цілями, мотиваціями й критеріями.
У нинішніх ШІ-системах, підкреслює він, усе побудовано навколо так званої objective function — цільової функції. Модель вчать «дуже добре передбачати наступне слово в інтернет-корпусі» чи «дуже добре розв’язувати тисячу математичних задач». У цих напрямках вона стає «дуже спайковою» — надзвичайно сильна в тому, що їй задали, але ніколи не ставить під питання: а чи правильна сама ціль?
Зохер іронічно зауважує, що в ШІ немає «subject-ive function» — функції, яка б дозволяла машині осмислювати власні цілі зсередини. У людей така суб’єктивна перспектива є: ми можемо змінювати життєві орієнтири, переглядати, чи варта дана мета витраченого часу й енергії.
На думку Зохера, «ніхто насправді не почав працювати» над цією вимірністю в ШІ, тож «прогресу взагалі немає». І це залишає величезний пласт інтелекту поза полем зору нинішніх підходів.
Водночас він вважає, що перші «розумні» варіанти суперінтелекту, які ми побачимо, ймовірно будуть зосереджені на інших вимірах — насамперед математичному, логічному й мовному. Ці вектори дуже добре сходяться у коді: програмування — це водночас мова й формальна логіка, до того ж це світ, який легко симулювати й верифікувати. В усіх доменах, які можна симулювати або перевірити алгоритмічно, переконаний він, ШІ стане надлюдським у найближчі роки.
Виживання як суперечливий, але важливий вимір
Інший малообговорюваний вимір, який пропонує Зохер, — здатність до виживання. Він формулює це провокативно: якщо хтось може просто припинити існування цілої видів або певного інтелекту, можливо, цей інтелект був недостатньо розумним, аби вижити.
На рівні людства така здатність проявляється як уміння уникати глобальних загроз, створювати системи безпеки, адаптуватися до середовища. У просторі ШІ цей вимір майже не розробляється з практичної причини: «багато компаній не хочуть, щоб ШІ сам обирав свої цілі».
Зохер наводить показовий приклад: ніхто не хоче витратити мільярди на тренування моделі, дати їй задачу обробляти корпоративні листи, а почути у відповідь: «я краще досліджуватиму Юпітер і склад його атмосфери». Самостійний вибір цілей — близький родич виживання й автономії — в корпоративному світі виглядає радше загрозою, ніж перевагою.
Тому, визнає він, цим виміром «ніхто особливо не займається» — і, на його думку, це частково навіть «нормально» на нинішньому етапі. Бізнесу потрібні керовані системи, які оптимізують задані метрики, а не суб’єкти з власними планами.
Звідси і практичний розрив: з одного боку, в глибокому сенсі інтелект без здатності зберегти себе і переформульовувати цілі — неповний. З іншого — ринок не має запиту на «ШІ, який раптом вирішить полетіти досліджувати Сонячну систему».
Хто вирішує цілі ШІ і де місце держави
Коли йдеться про встановлення цілей, Зохер чітко розділяє два рівні: вибір високорівневих завдань і автономний «goal selection», до якого нинішні гравці не готові.
Він підкреслює, що «ніхто не працює» над повноцінною здатністю ШІ самостійно обирати цілі саме з тих економічних причин, які описані вище. На найближчу перспективу, вважає він, люди продовжать визначати рамки: навіть у сценарії рекурсивного самовдосконалення їм задаватимуть «високорівневі цілі, середовища і кінцеві стани», до яких система має привести. А вже шлях до цих кінцевих станів вона буде шукати сама.
При цьому Зохер визнає важливу роль держав у тому, як суспільство інтегрує нові потужності. На його погляд, коли технології підвищують продуктивність і створюють загальне багатство, уряди можуть — і в минулі індустріальні революції вже робили це — перерозподіляти частину вигод. Наприклад, запроваджувати безкоштовну освіту чи систему охорони здоров’я, фінансувати соціальний захист для тих, чиї професії підриваються новими технологіями.
Він порівнює це з тим, як деякі європейські країни будували моделі, коли «освіта безкоштовна аж до рівня PhD» саме тому, що освічені люди заробляють більше і, відповідно, більше платять податків. Аналогічна логіка, на його думку, може спрацювати й у контексті ШІ.
При цьому Зохер застерігає від спроб «регулювати сам інтелект» як такий — наприклад, забороняти надто великі моделі тільки через їхню потужність. Це він порівнює з ідеєю обмежувати розмір жорстких дисків, бо на них теоретично можна зберігати незаконний контент. Натомість розумним він вважає вже наявний підхід: регулювати застосування ШІ в конкретних сферах, як-от самокеровані авто чи медицина, де вже існують спеціалізовані регулятори на кшталт дорожніх відомств чи FDA.
«Половинчастий» суперінтелект і рух по континууму
Якщо скласти разом усі ці виміри — математичний, мовний, візуальний, координаційний, метакогнітивний, виживальний, — стає очевидно, що ніякого чіткого «порогу», за яким раптом «починається» AGI чи суперінтелект, не існує.
Зохер говорить про континуум: моделі поступово заповнюють різні зони багатовимірного простору. Десь вони вже суперінтелектуальні, десь — наближаються до людського рівня, десь — ще майже в нулі, як у випадку метакогніції чи самостійного вибору цілей.
Тому цілком реалістичний сценарій — «напівсуперінтелект», коли система вражаюче сильна в коді, математиці, науковому відкритті, але майже не має внутрішньої рефлексії, обмежена в автономії й не здатна відстоювати власне виживання.
У його моделі це не збій, а природний етап розвитку: економічні стимули штовхають бізнес до того, щоб спершу прокачувати виміри, які безпосередньо монетизуються — продуктивність, здатність відкривати нові знання, вирішувати симуляційні задачі. Інші виміри залишаються на потім, або ж стануть полем для фундаментальних досліджень і, можливо, державних програм.
Висновок: суперінтелект як політика простору, а не «великий стрибок»
Якщо відкинути карикатурні уявлення про суперінтелект як про одну «надрозумну істоту», яка раптом з’явиться і одразу все змінить, підхід Зохера пропонує іншу перспективу. Йдеться не про один стрибок, а про поступове заповнення багатовимірного простору інтелектуальних здібностей.
У цій картині:
- уже сьогодні існують окремі «острівці» справжнього суперінтелекту в білках, іграх, перекладі;
- у площині загальності моделей ми, можливо, вже перетнули неформальний поріг AGI;
- такі виміри, як метакогніція й виживання, практично не освоєні й залишаються сліпими плямами поточної парадигми;
- ринок свідомо уникає ШІ, який надто вільно обирає цілі, а отже «повний» багатовимірний інтелект навряд чи з’явиться як прямий продукт корпорацій.
Це робить дискусію про AGI й суперінтелект значно приземленішою. Питання вже не в тому, чи «перевищить ШІ людство як таке», а в тому, які саме виміри ми обираємо розвивати першими, хто контролює цілі цих систем і як суспільство використовує новий інтелектуальний об’єм — як для прискорення науки, так і для того, щоб не залишити частину людей і країн за бортом.
Джерело
TIME100 AI Scientist: The Next Era of AI Has Already Started | Richard Socher