Новая функция one-click setup в Hermes Desktop автоматически определяет аппаратные возможности пользователя, выбирает подходящую модель, скачивает её веса и настраивает среду инференса. Система доступна при первом запуске и через раздел Settings → Providers → Local Models.
Hermes Desktop управляет инференсом через собственный движок, использующий официальный llama.cpp, оптимизированный под железо. Для моделей гарантируется минимальный контекст 64K; при нехватке VRAM происходит упорядоченный offload в системную RAM, сохраняя контекст. Рекомендуемые модели всегда запускаются с максимальным контекстом, умещающимся в GPU.