Автор статьи указывает, что дискуссии о стоимости self-hosted моделей против API часто ошибочно фокусируются на цене за токен. Self-hosting подразумевает постоянные затраты, в то время как API — переменные, что делает выбор зависящим от загрузки оборудования. Также подчёркивается, что покупаются решённые задачи, а не токены, и эффективность моделей в их решении varies. За последний год открытые модели достигли высоких результатов на лидербордах, например, DeepSeek V4 Pro — 80.6%, Kimi K3 — 93.4% на SWE-bench Verified, что делает выбор между self-hosted и API в основном экономическим и операционным решением для многих сегментов.
В статье предлагается метод расчёта реальной стоимости self-hosted моделей против API, учитывающий не только цену токена, но и характер затрат (постоянные vs переменные), а также эффективность конкретных моделей в решении задач. Упомянутые результаты на SWE-bench Verified демонстрируют, что качество открытых моделей во многих случаях сравнялось с топовыми закрытыми, сместив акцент выбора с качества на экономику и операционные аспекты.