ARENA PULSE Все новости

Cortiq Mobile запускает ИИ-модели на смартфонах в формате CMF

Продукты

На iPhone 16 модель lfm2.5-230m-q4tp демонстрирует скорость генерации 162,1 tok/s. Приложение также может работать как локальный сервер для ноутбука и предоставляет функцию принятия решений вместо текстовых ответов.

Модели упакованы в формат CMF, который включает веса, архитектуру, токенизатор и описание задач. Приложение позволяет загружать модели из каталога, конвертировать их из safetensors или GGUF. Для работы с документами поддерживается прикрепление файлов txt, md, кода и JSON размером до 512 KiB.

Источник: habr.com

Открыть в ArenaPulse