Nvidia представила інструмент Personal AI Router (PAIR) на виставці IFA 2026, що призначений для об’єднання графічних процесорів у домашніх умовах у єдиний кластер для виконання завдань агентивного штучного інтелекту. Цей інструмент надає можливість використовувати незадіяні обчислювальні ресурси відеокарт у домашній мережі, щоб зменшити витрати на хмарні обчислення та зберегти конфіденційність обробки даних. PAIR розподіляє підзадачі штучного інтелекту від головного комп’ютера до інших систем.
Коли користувач запускає локального агента штучного інтелекту та ставить перед ним певну мету, центральний агент може створити декілька підзадач, які є частиною цієї більшої цілі. Якщо всі ці підзадачі або субагенти виконуються на одному графічному процесорі, виникаюча конкуренція за ресурси може призвести до уповільнення їхнього завершення, порівняно з ситуацією, коли кожен субагент працював би на окремому обчислювальному вузлі.
PAIR є інструментом, що забезпечує виконання такої розподіленої роботи штучного інтелекту у домашній мережі. Припускаючи, що у родини або спільного домогосподарства достатньо вільних ресурсів графічних процесорів, PAIR може призначити кожній системі, що бере участь, одну з цих підзадач для виконання та повернути результати на головний вузол. Це потенційно сприяє швидшому завершенню загального агентивного завдання.
Звичайно, системи у локальній мережі не завжди будуть вільними, оскільки їхні власники часто використовують графічні процесори для ігор, творчої роботи або власних завдань штучного інтелекту. У разі, якщо користувачу потрібно повернути свій графічний процесор для інших цілей, PAIR розроблений таким чином, щоб гнучко адаптуватися до цих змінних умов. Він не резервує виділену потужність від інших ПК.
Така непередбачувана доступність вільних обчислювальних циклів, звісно, означає, що якість обслуговування від кластера PAIR не є гарантованою. Проте для довготривалих завдань, які не вимагають строгого дотримання термінів, можливість задіяти вільні обчислювальні ресурси може бути ефективнішою, ніж запуск рою агентів на одному вузлі. Це дозволяє оптимізувати використання наявного обладнання.
Налаштування PAIR виглядає відносно простим, оскільки він створює проксі-сервер для популярних інтерфейсів штучного інтелекту, таких як LM Studio та Ollama, до яких вони можуть підключатися. Після цього PAIR організовує роботу між доступними вузлами в мережі та повертає результати цієї роботи до вихідної програми на головному вузлі, забезпечуючи скоординоване виконання завдань.
Своєю чергою, системи, що беруть участь у кластері PAIR, також повинні мати запущені Ollama або LM Studio та встановлену власну інсталяцію PAIR. Компанія Nvidia зазначає, що підключення систем до кластера PAIR є нескладним і базується на mDNS або резервному використанні IP-адреси для виявлення пристроїв. PAIR також допомагає ініціювати завантаження моделей на системи.
Хоча вузли не потребують ідентичних завантажених моделей або наборів моделей для участі, їхня наявність на більшій кількості систем розширює пул потенційних вузлів, які можуть обробляти запити, якщо агент-оркестратор потребує можливостей певної моделі. Це підвищує гнучкість та ефективність розподілених обчислень у рамках кластера.
Інструмент PAIR сумісний з будь-якими системами DGX Spark (або іншими GB10), а також з графічними картами серії GeForce RTX 20 або новішими. Він також підтримує комп’ютери Mac з процесорами серії M4 або новішими для завдань інференції. Відповідно, клієнт PAIR буде доступний для операційних систем Windows, macOS та Linux, що забезпечує широке розповсюдження.
