ARENA PULSE Все новости

NVIDIA выпустила Personal AI Router (PAIR) v0.1.1

Продукты nvidia

Инструмент распределяет локальные ИИ-запросы между устройствами сети, ускоряя обработку.

NVIDIA представила Personal AI Router (PAIR) v0.1.1 как open-source виртуальный маршрутизатор для распределения запросов между совместимыми машинами. Тест с Hermes Desktop показал ускорение обработки с 18 минут на одном устройстве до 8 минут 48 секунд на трёх устройствах (RTX Spark, DGX Spark, RTX 5090).

PAIR использует mDNS для обнаружения узлов, устанавливает доверие через PIN-код и защищает трафик mTLS. Он проксирует интерфейсы Ollama и LM Studio без изменения существующих харнессов, назначая запросы на основе доступности модели, нагрузки и использования GPU.

Источник: marktechpost.com

Открыть в ArenaPulse