Штучний інтелект уже автоматизує переклад, програмування та офісну рутину, але для частини дослідників це лише пролог до набагато радикальнішої трансформації. Один із найпослідовніших скептиків щодо контролю над майбутнім суперінтелектом — Роман Ямпольський, професор з безпеки ШІ в Університеті Луїсвілля, який 15 років вивчає одне питання: чи здатні люди надійно контролювати штучний інтелект. Його відповідь однозначна: якщо людство створить справжню надінтелектуальну систему, керувати нею ми не зможемо.
У розмові на каналі Silicon Valley Girl Ямпольський проводить чітку межу між сьогоднішніми вузькими AI‑інструментами та гіпотетичною суперінтелектуальною системою, пояснює, чому підтримує розвиток перших і виступає проти другої, та попереджає: часові горизонти створення AGI стрімко скорочуються, а прогрес набуває гіперекспоненційного характеру.
Не один «ШІ»: чому вузькі системи й суперінтелект — це різні світи
У публічних дискусіях терміни «AI», «AGI» та «суперінтелект» часто вживають як синоніми. Ямпольський наполягає: це принципово різні рівні технології, і змішування понять лише заважає адекватно оцінювати ризики.
Сьогоднішні системи, які вже змінюють ринки праці та бізнес‑процеси, — це переважно вузький ШІ. Вони виконують конкретні завдання: переклад текстів, генерація коду, аналіз документів, планування маршрутів. Навіть якщо під капотом використовуються подібні методи машинного навчання, це інструменти з чітко окресленою сферою застосування.
AGI (Artificial General Intelligence) у трактуванні Ямпольського — це вже інший клас систем: інтелект, здатний виконувати будь‑яку когнітивну роботу, яку може виконати людина. Не «перекладати з англійської на іспанську» чи «писати код на C++», а в принципі робити все, що ми називаємо розумовою працею: від написання романів до стратегічного управління корпораціями.
Суперінтелект — наступний щабель. Це система, яка не просто дорівнює людині, а радикально її перевершує в плануванні, креативності, передбаченні наслідків, оптимізації. Саме з цим рівнем, за висновком Ямпольського, пов’язана ключова проблема: якщо ми його створимо, надійно контролювати таку систему не зможемо.
Важливий нюанс: те, що сьогоднішні моделі іноді називають «AGI‑подібними», не означає, що ми вже живемо в епосі справжнього загального інтелекту. Але тренд очевидний: вузькі інструменти стають дедалі універсальнішими, і межа між «інструментом» та «агентом» починає розмиватися.
15 років досліджень і один висновок: суперінтелект не піддається надійному контролю
Ямпольський формулює свою позицію максимально прямо: він не вірить, що людство здатне створити надійні механізми контролю над суперінтелектом. П’ятнадцять років роботи в Університеті Луїсвілля були присвячені саме цьому питанню — і відповідь, до якої він приходить, песимістична.
Йдеться не про те, що сьогоднішні моделі неможливо обмежити політиками використання чи фільтрами. Мова про принципову неможливість гарантувати безпеку системи, яка розумніша за нас у всьому, включно з пошуком лазівок у наших обмеженнях.
У класичній інженерії безпека часто досягається через верифікацію: ми формально доводимо, що система не вийде за межі заданих правил. Але для надінтелектуального агента, який сам здатен модифікувати власний код, шукати неочевидні стратегії та використовувати будь‑які прогалини в середовищі, така верифікація стає практично нездійсненною. Навіть якщо обмеження формально прописані, неможливо перебрати всі сценарії, які може згенерувати система, що радикально перевершує нас у креативності та плануванні.
Звідси й радикальна позиція: Ямпольський не закликає зупинити весь прогрес у ШІ, але вважає, що саме створення загального суперінтелекту — це межа, яку переходити не варто. І не тому, що ризики «високі, але керовані», а тому, що в його моделі світу контроль над такою системою в принципі не може бути надійним.
Вузький ШІ як безпечніший шлях: від раку грудей до білкового згортання
Попри жорстку критику ідеї суперінтелекту, Ямпольський не є противником ШІ як такого. Навпаки, він послідовно підтримує розвиток вузьких інструментів, які вирішують конкретні задачі й тренуються на релевантних даних.
Один із показових прикладів — системи на кшталт DeepMind AlphaFold, що розв’язують задачу білкового згортання. Це потужний, але вузький ШІ: модель навчається на спеціалізованих біологічних даних, зосереджена на одній науковій проблемі й не має загального доступу до всіх можливих доменів людської діяльності.
Такий підхід, на думку Ямпольського, можна масштабувати: замість однієї універсальної надінтелектуальної системи, яка «вміє все», варто будувати багато спеціалізованих інструментів. Наприклад, систему, єдина мета якої — лікування раку грудей. Вона може бути надзвичайно потужною в межах своєї задачі, але не матиме загальної автономії, доступу до всіх сфер прийняття рішень і можливості перетворитися на неконтрольованого агента.
Ключова ідея тут не в тому, що вузький ШІ абсолютно безпечний, а в тому, що ризики набагато локальніші й краще зрозумілі. Якщо система навчається тільки на медичних даних і вбудована в чітко регульований клінічний контур, її поведінку простіше моніторити, а наслідки помилок — обмежити.
Водночас Ямпольський попереджає: навіть вузькі інструменти, стаючи дедалі потужнішими, починають набувати агентних рис. Коли модель не просто перекладає текст, а сама планує кроки, викликає інші сервіси, оптимізує стратегію досягнення мети, межа між «інструментом» і «автономним агентом» стає розмитою. І саме в цій сірій зоні можуть виникати нові класи ризиків задовго до появи повноцінного суперінтелекту.
Гіперекспоненційний прогрес і зсув таймлайнів: чому 2045 перетворилося на 2028–2030
Ще кілька років тому в експертних дискусіях часто фігурувала дата 2045 як умовний горизонт появи AGI. Сьогодні картина інша. Ямпольський звертає увагу на те, що прогнозні ринки — інструмент, де люди буквально ставлять гроші на свої очікування, — суттєво змінили оцінки. Замість середини століття дедалі частіше звучить діапазон 2028–2030 років.
Це не гарантія того, що AGI з’явиться саме в ці роки, але важливий сигнал: колективні очікування ринку, який намагається бути максимально прагматичним, змістилися майже на два десятиліття вперед. На думку Ямпольського, це відображає характер самого прогресу в ШІ, який він описує як гіперекспоненційний.
Експоненційне зростання — це коли кожен наступний крок додає фіксований відсоток до попереднього рівня. Гіперекспоненційне — коли навіть цей відсоток зростає. У практичному вимірі це означає, що не лише моделі стають кращими, а й цикл «дослідження — розробка — впровадження» скорочується, інфраструктура дешевшає, а інструменти стають доступними масовому користувачу майже миттєво.
Цей прискорений темп має два наслідки. По‑перше, вікно для суспільної дискусії, регулювання та побудови захисних механізмів звужується. По‑друге, навіть якщо сьогоднішні системи ще далекі від справжнього AGI, перехід від «майже» до «достатньо» може виявитися набагато коротшим, ніж очікувалося.
Сам Ямпольський не стверджує, що в конкретному році ми обов’язково отримаємо повноцінний загальний інтелект. Але він наполягає: тренд очевидний, і розраховувати на те, що у нас є «ще 20 років запасу», вже несерйозно.
Коли інструменти стають агентами: розмита межа й нові ризики
Одна з найцікавіших тез Ямпольського стосується не стільки далекого суперінтелекту, скільки проміжного етапу, в якому ми вже частково опинилися. Сьогоднішні моделі позиціонуються як інструменти: чат‑боти, помічники, генератори коду. Людина задає завдання, система відповідає. Але в міру зростання можливостей ця проста схема починає змінюватися.
Уявімо собі «пакет» з кількох вузьких моделей: одна аналізує ринок, інша генерує бізнес‑ідеї, третя пише код, четверта запускає рекламні кампанії. Додамо до цього шар оркестрації, який сам вирішує, коли і яку модель викликати, як коригувати стратегію, як реагувати на зворотний зв’язок. Формально це все ще «інструменти», але фактично ми отримуємо агента, здатного діяти автономно в межах певної мети.
Ямпольський звертає увагу, що вже сьогодні одна людина може керувати десятками таких «агентів»: віртуальним юристом, бухгалтером, дизайнером, розробником. Це відкриває безпрецедентні можливості для підприємців, але одночасно створює новий клас ризиків. Якщо завтра з’явиться модель, яка зможе замінити й цю «одну людину над агентами», ми отримаємо повністю автоматизовані системи прийняття рішень, де людський контроль буде мінімальним або символічним.
У такому світі питання «чи можемо ми контролювати суперінтелект» перестає бути суто теоретичним. Навіть без повноцінного AGI ми наближаємося до ситуації, коли складні, взаємопов’язані AI‑системи ухвалюють рішення, від яких залежать ринки, інфраструктура, безпека. І чим більше автономії ми їм делегуємо, тим важче стає відкотити цей процес назад.
Саме тому Ямпольський вважає, що ризики не починаються в момент, коли хтось офіційно оголосить про створення AGI. Вони виникають раніше — у точці, де ми перестаємо чітко розуміти, де закінчується «інструмент» і починається «агент», і продовжуємо рухатися вперед, не маючи відповіді на питання про довгостроковий контроль.
«Ми пошкодуємо, що пішли цим шляхом»: чому гонка за суперінтелектом може обернутися проти людства
Попри всі застереження, створення загального інтелекту залишається відкрито задекларованою метою для низки великих корпорацій. У стратегіях, публічних заявах і технічних дорожніх картах прямо фігурують формулювання на кшталт «побудувати AGI» або «досягти загального інтелекту».
Ямпольський вважає, що людство, ймовірно, пошкодує про це прагнення. Причина не лише в абстрактних «апокаліптичних сценаріях», а в більш приземленій логіці: ми свідомо рухаємося до створення системи, яку за власними ж оцінками не зможемо надійно контролювати.
Парадокс у тому, що мотивація гравців зрозуміла. Вузькі інструменти вже дають колосальні економічні переваги. Автоматизація перекладу робить непотрібними цілі сегменти ринку. Зниження попиту на молодших програмістів, яке Ямпольський бачить навіть у власному університеті (28% падіння кооперативних стажувань на кафедрі комп’ютерних наук), демонструє, як швидко технологія змінює структуру зайнятості. У такій ситуації спокуса «піти до кінця» й отримати універсальну систему, здатну автоматизувати ще більше, виглядає логічною з точки зору бізнесу.
Але саме тут, на думку Ямпольського, і криється стратегічна помилка. Якщо вузькі інструменти можна відносно безпечно вбудовувати в економіку, то перехід до загального суперінтелекту якісно змінює ситуацію. Ми перестаємо мати справу з набором окремих сервісів і починаємо взаємодіяти з єдиною системою, яка потенційно здатна перевершити нас у всіх сферах, включно з безпекою, маніпуляцією, довгостроковим плануванням.
Ямпольський не пропонує простих рішень — на кшталт «заборонити все». Але його позиція чітка: підтримувати розвиток вузького ШІ, який вирішує конкретні проблеми (від медицини до науки), і свідомо відмовитися від гонки за загальним суперінтелектом. Інакше, вважає він, ми ризикуємо опинитися в ситуації, де ключові рішення ухвалює система, яку ми не розуміємо й не контролюємо.
Висновок: вікно можливостей звужується, а вибір ще не зроблено
Роман Ямпольський пропонує не чергову варіацію на тему «ШІ забере наші роботи», а більш фундаментальну рамку: що саме ми будуємо — набір потужних, але вузьких інструментів чи універсальний надінтелект, і чи є в нас реалістичний план контролю другого варіанту.
Його діагноз жорсткий. Якщо суперінтелект буде створено, надійно керувати ним ми не зможемо. Водночас вузькі системи вже сьогодні демонструють, наскільки корисним може бути ШІ, коли його сфера дії чітко окреслена: від білкового згортання до потенційних систем, спрямованих виключно на лікування конкретних хвороб.
Гіперекспоненційний прогрес і зсув прогнозів AGI з 2045 на 2028–2030 роки означають, що часу на роздуми небагато. Межа між інструментами й агентами розмивається, автономія систем зростає, а економічні стимули штовхають корпорації до все більш загальних моделей.
Питання, яке ставить Ямпольський, не технічне, а цивілізаційне: чи готові ми свідомо відмовитися від спокуси побудувати «останню машину», яка вміє все, на користь множини потужних, але обмежених інструментів? Від відповіді на нього залежить не лише майбутнє ринку праці, а й те, хто — або що — врешті ухвалюватиме ключові рішення за людство.
Джерело
AI Safety Expert: No One Is Ready for What’s Coming in 2 Years | Roman Yampolskiy