Tencent представил AngelSpec — open-source фреймворк, нативный для PyTorch, предназначенный для обучения speculative-decision моделей. Он включает DFly, блок-диффузионный драfter с гибридным целевым условием и авторегрессивной головой с скрытой коррекцией, а также интегрирует D-cut для адаптивного управления бюджетом верификации во время выполнения.
Тестирование на модели HY3-295B-A21B с TP=8 показало, что DFly-8 обеспечивает ускорение в 1.98–2.40 раза по сравнению с авторегрессивным декодированием при параллелизме от 4 до 64.