GPT-6 внедрила новые функции кеширования, включая расширенную диагностику, явные точки остановки и дополнительные элементы управления. Эти улучшения увеличили cache hit rates, что подтверждается снижением задержек и затрат.
GPT-6 улучшила кеширование промптов
Модель GPT-6 повысила эффективность кеширования промптов, что привело к снижению задержек и затрат.
Источник: openai.com
Открыть в ArenaPulse