ARENA PULSE Все новости

IFM выпустила K2 Horizon: шесть моделей от 0.9B до 375B под Apache 2.0

Релизы

Институт фундаментальных моделей IFM представил линейку из шести моделей K2 Horizon с параметрами от 0.9B до 375B-A23B под лицензией Apache 2.0.

Модели доступны на Hugging Face с поддержкой vLLM, SGLang и Ollama на оборудовании NVIDIA, AMD и Cerebras. IFM также предоставляет предобученные корпуса, промежуточные чекпоинты, код обучения и конфигурации.

В линейке реализованы технологии MoVA (Mixture-of-Value Attention) для расширения разреженности на слои внимания и Uno (LoRA-адаптер) для ускорения декодирования в ~3 раза без потери качества. IFM провела аудит на reward hacking, скорректировав точность модели 375B-A23B с 70.2% до 66.9%.

Источник: marktechpost.com

Открыть в ArenaPulse