Ріхард Зохер вже давно є помітною фігурою в галузі штучного інтелекту. Найбільше його знають як засновника раннього чатбот-стартапу You.com та, ще раніше, за його роботу над ImageNet. Тепер він приєднується до нового покоління дослідницьких ІІ?стартапів із Recursive Superintelligence — компанією зі Сан-Франциско, яка вийшла з тіні в середу, залучивши 650 млн доларів інвестицій.
У новому проєкті Зохеру допомагає команда відомих дослідників ШІ, серед яких Пітер Норвіг та співзасновник Cresta Тім Ші. Разом вони працюють над створенням рекурсивно самовдосконалюваної моделі ШІ — такої, що зможе автономно знаходити власні слабкі місця та переробляти себе для їх усунення без участі людини. Це давня «священна чаша» сучасних досліджень у сфері ШІ.
Після запуску Recursive Superintelligence ми поспілкувалися із Зохером у Zoom, щоб розібратися в унікальному технічному підході компанії та дізнатися, чому він не вважає цей проєкт «неолабом» — неформальним позначенням нового покоління ІІ?стартапів, які ставлять дослідження вище за створення продуктів.
Це інтерв’ю відредаговане для стислості та ясності.
«Ми хочемо справжнього рекурсивного самовдосконалення»
Останнім часом багато говорять про рекурсію. Складається враження, що це дуже поширена мета для різних лабораторій. У чому ви бачите свою унікальність?
Наша унікальність у тому, що ми використовуємо відкриту еволюційність (open-endedness), щоб прийти до рекурсивного самовдосконалення, чого поки ніхто не досяг. Це вислизуюча ціль для багатьох. Багато хто вже припускає, що це відбувається, коли ви просто робите авто-дослідження. Мовляв, ви можете взяти ШІ й попросити його щось покращити: іншу ML?систему, лист, який ви пишете, — що завгодно. Але це ще не рекурсивне самовдосконалення. Це просто вдосконалення.
Наш основний фокус — побудувати справді рекурсивний, самовдосконалюваний суперінтелект у масштабі. Це означає, що весь процес — від генерації ідей і їхньої реалізації до валідації дослідницьких гіпотез — буде автоматизований.
Спочатку це буде автоматизація досліджень у сфері ШІ, згодом — будь-яких досліджень, навіть у фізичних доменах. Але особливо потужним це стає тоді, коли ШІ працює над собою і розвиває нову форму самосприйняття власних недоліків.
Що означає «відкрита еволюційність»
Ви вжили термін «open-endedness» — чи має він конкретне технічне значення?
Так. Насправді Тім Роктешель, один із наших співзасновників, очолював команди з open-endedness і самовдосконалення в Google DeepMind і, зокрема, працював над світовою моделлю Genie 3. Це чудовий приклад відкритої еволюційності. Ви можете задати їй будь-яку концепцію, будь-який світ, будь-якого агента — і вона це створює, причому у взаємодіючому, інтерактивному вигляді.
У біологічній еволюції тварини адаптуються до середовища, а потім інші види контр-адаптуються до цих адаптацій. Це процес, який може тривати мільярди років, і постійно відбувається щось нове. Так, зрештою, у нас з’явилися очі.
Інший приклад — rainbow teaming, з іншої роботи Тіма. Ви чули про red teaming?
У кібербезпеці це означає…
Так, але red teaming також треба робити в контексті LLM. По суті, ви намагаєтесь змусити LLM розповісти вам, як зробити бомбу, і хочете переконатися, що вона цього не робить.
Люди можуть дуже довго вигадувати цікаві приклади того, чого ШІ не повинен говорити. Але що, якщо ви спочатку тестуєте першу модель ШІ другою моделлю, і ця друга модель має завдання змусити першу сказати всі можливі погані речі? І вони можуть обмінюватися атаками мільйони ітерацій.
Фактично ви дозволяєте двом ШІ співеволюціонувати. Один постійно атакує іншого, знаходячи не один, а багато різних кутів атаки — звідси й «веселкова» аналогія. Потім ви «щеплюєте» перший ШІ проти цих векторів, і він стає дедалі безпечнішим. Це ідея Тіма Роктешеля, і зараз її використовують у всіх великих лабораторіях.
«Деякі процеси ніколи не будуть завершені»
Як зрозуміти, коли процес завершено? Схоже, що він ніколи не закінчується.
Деякі речі й справді ніколи не будуть «готові». Завжди можна стати розумнішим, краще програмувати, краще розв’язувати задачі з математики тощо. Існують деякі межі інтелекту — я якраз намагаюся їх формалізувати, — але вони астрономічні. Ми зараз дуже далеко від цих меж.
Recursive Superintelligence та «неолаби»
Як «неолаб», ви ніби маєте робити те, чого не роблять великі лабораторії. Частково це натяк на те, що ви не вірите, що вони досягнуть рекурсивного самовдосконалення теперішніми підходами. Це справедливе твердження?
Я не можу особливо коментувати, що саме роблять інші, але я справді вважаю, що ми підходимо до цього інакше. Ми по?справжньому приймаємо концепцію open-endedness, і вся наша команда зосереджена саме на цьому баченні. Вона займається цими темами й публікує наукові роботи в цій сфері вже понад десять років.
І в команди є досвід не лише в теорії, а й у практиці, у виведенні реальних продуктів на ринок. Наприклад, Тім Ші побудував Cresta до рівня «єдинорога». Джош Тобін був одним із перших співробітників OpenAI, а згодом очолював команди Codex і команди глибинних досліджень.
Я інколи навіть трохи вагаюся із цим ярликом «неолаб». Мені здається, ми не просто лабораторія. Я хочу, щоб ми стали справді життєздатною компанією з чудовими продуктами, які люди люблять використовувати і які мають позитивний вплив на людство.
Коли чекати перший продукт
Коли ви плануєте випустити свій перший продукт?
Я багато про це думав. Команда досягла такого прогресу, що ми, ймовірно, зможемо посунути наші початкові терміни вперед. Але так, продукти будуть, і чекати доведеться квартали, а не роки.
Чому обчислювальні ресурси стають ключовими
Одна з ідей навколо рекурсивного самовдосконалення полягає в тому, що, щойно ми матимемо подібну систему, єдиним по?справжньому важливим ресурсом стане обчислювальна потужність. Чим швидше ви запускаєте систему, тим швидше вона вдосконалюється, і жодна зовнішня людська діяльність уже не матиме особливого значення. Тоді перегони зводяться до питання: скільки процесорної потужності ми можемо в це вкласти. Ви вважаєте, що ми рухаємося саме до такого світу?
Обчислювальні ресурси точно не можна недооцінювати. Думаю, у майбутньому дуже важливим стане питання: скільки обчислень людство хоче витратити на розв’язання яких проблем? Ось є такий рак, ось такий вірус — який ви хочете подолати першим? Скільки обчислювальних потужностей ви готові на це виділити?
Зрештою все перетвориться на задачу розподілу ресурсів. Це стане одним із найбільших питань у світі.