Perplexity AI представила две модели pplx-embed-v2-late размером 0.6B и 9B, которые могут работать с текстом, изображениями и отрендеренными PDF-страницами. 9B-модель показала результат 92.4% на бенчмарке MADQA, а 0.6B-версия предназначена для быстрых и дешёвых запросов на периферийных устройствах. Веса моделей доступны на Hugging Face под лицензией MIT, а собственный API-эндпоинт находится в разработке.
Модели используют общий векторный embedding-пространство и создают 128-мерный вектор для каждого токена. 0.6B-модель может использоваться для запросов к индексу, созданному на 9B-модели, что позволяет восстанавливать около половины разницы в качестве текстового поиска при меньших затратах.