Nvidia представила инструмент Personal AI Router (PAIR) на выставке IFA 2026, предназначенный для объединения графических процессоров в домашних условиях в единый кластер для выполнения задач агентивного искусственного интеллекта. Этот инструмент предоставляет возможность использовать незадействованные вычислительные ресурсы видеокарт в домашней сети, чтобы уменьшить затраты на облачные вычисления и сохранить конфиденциальность обработки данных. PAIR распределяет подзадачи искусственного интеллекта от главного компьютера к другим системам.
Когда пользователь запускает локального агента искусственного интеллекта и ставит перед ним определенную цель, центральный агент может создать несколько подзадач, которые являются частью этой более крупной цели. Если все эти подзадачи или субагенты выполняются на одном графическом процессоре, возникающая конкуренция за ресурсы может привести к замедлению их завершения, по сравнению с ситуацией, когда каждый субагент работал бы на отдельном вычислительном узле.
PAIR является инструментом, обеспечивающим выполнение такой распределенной работы искусственного интеллекта в домашней сети. Предполагая, что у семьи или общего домохозяйства достаточно свободных ресурсов графических процессоров, PAIR может назначить каждой участвующей системе одну из этих подзадач для выполнения и вернуть результаты на главный узел. Это потенциально способствует более быстрому завершению общей агентивной задачи.
Конечно, системы в локальной сети не всегда будут свободными, поскольку их владельцы часто используют графические процессоры для игр, творческой работы или собственных задач искусственного интеллекта. В случае, если пользователю потребуется вернуть свой графический процессор для других целей, PAIR разработан таким образом, чтобы гибко адаптироваться к этим переменным условиям. Он не резервирует выделенную мощность от других ПК.
Такая непредсказуемая доступность свободных вычислительных циклов, конечно, означает, что качество обслуживания от кластера PAIR не гарантировано. Однако для долговременных задач, не требующих строгого соблюдения сроков, возможность задействовать свободные вычислительные ресурсы может быть эффективнее, чем запуск роя агентов на одном узле. Это позволяет оптимизировать использование имеющегося оборудования.
Настройка PAIR выглядит относительно простой, поскольку он создает прокси-сервер для популярных интерфейсов искусственного интеллекта, таких как LM Studio и Ollama, к которым они могут подключаться. После этого PAIR организует работу между доступными узлами в сети и возвращает результаты этой работы к исходной программе на главном узле, обеспечивая скоординированное выполнение задач.
В свою очередь, системы, участвующие в кластере PAIR, также должны иметь запущенные Ollama или LM Studio и установленную собственную инсталляцию PAIR. Компания Nvidia отмечает, что подключение систем к кластеру PAIR является несложным и базируется на mDNS или резервном использовании IP-адреса для обнаружения устройств. PAIR также помогает инициировать загрузку моделей на системы.
Хотя узлы не требуют идентичных загруженных моделей или наборов моделей для участия, их наличие на большем количестве систем расширяет пул потенциальных узлов, которые могут обрабатывать запросы, если агент-оркестратор нуждается в возможностях определенной модели. Это повышает гибкость и эффективность распределенных вычислений в рамках кластера.
Инструмент PAIR совместим с любыми системами DGX Spark (или другими GB10), а также с графическими картами серии GeForce RTX 20 или новее. Он также поддерживает компьютеры Mac с процессорами серии M4 или новее для задач инференции. Соответственно, клиент PAIR будет доступен для операционных систем Windows, macOS и Linux, что обеспечивает широкое распространение.
