ARENA PULSE Все новости

H Company представила NeoMME: мультимодальные энкодеры 260M и 800M параметров

Релизы

H Company выпустила семейство NeoMME — мультимодальные энкодеры с одной башней, убирающие vision tower и causal decoder. NeoMME-Retriever-260M достиг 0.523 nDCG@10 на ViDoRe v3.

NeoMME-Retriever-260M достиг 0.523 nDCG@10 на ViDoRe v3, превосходя все модели до 800M параметров. Модели обрабатывают текст и 32×32 RGB-изображения через один Transformer с поддержкой 16384 токенов контекста.

Веса моделей распространяются под лицензией Apache 2.0 с поддержкой в Hugging Face Transformers. NeoMME-260M индексирует 51.3 страниц в секунду на NVIDIA L40S и кодирует запрос за 78.3 мс на CPU.

Источник: marktechpost.com

Открыть в ArenaPulse