DeepSeek прокачал DSpark: багфикс на одну строку творит чудеса!
🎉 DeepSeek прокачал DSpark: багфикс на одну строку творит чудеса!
DeepSeek выпустил новый спекулятивный декодер DSpark, и это вызвало бурю в стакане воды искусственного интеллекта. Пока весь мир гадал, как его запустить, мы просто взяли и портировали его сами на две DGX Spark. На этом пути мы обнаружили баг, который мешал качеству драфта. Исправления потребовали всего одну строку кода, но результаты превзошли все ожидания: скорость выросла на 55%, а пропускная способность увеличилась до 146 токенов в секунду на 12 потоках.
Это не просто красивые цифры на бумаге. Мы тщательно проверили каждую деталь и даже воспроизвели чужие рецепты для сравнения. Результаты говорят сами за себя: DSpark действительно ускоряет процесс, но главное — он делает это стабильно и надежно. К тому же, мы выяснили, что механизм NVFP4 внес значительный вклад в этот успех.
◾️ Acceptance позиции 0: с 0.41 до 0.74
◾️ Средняя принятая длина: с 1.75 до 2.5
◾️ Пропускная способность: с 26 до 36 токенов/сек
◾️ Single-stream на fp8: +21–24% скорости
◾️ Конкурентность GB10: до 146 токенов/сек на 12 потоках
> «Исправление одной строки кода иногда может изменить целую парадигму работы системы.»
Так что, друзья, иногда одна строка кода — это всё, что нужно для революции. А вы когда-нибудь встречали подобные баги в своих проектах?
Подписаться на «Нейро Пульс»
Первоисточник ↗
DeepSeek выпустил новый спекулятивный декодер DSpark, и это вызвало бурю в стакане воды искусственного интеллекта. Пока весь мир гадал, как его запустить, мы просто взяли и портировали его сами на две DGX Spark. На этом пути мы обнаружили баг, который мешал качеству драфта. Исправления потребовали всего одну строку кода, но результаты превзошли все ожидания: скорость выросла на 55%, а пропускная способность увеличилась до 146 токенов в секунду на 12 потоках.
Это не просто красивые цифры на бумаге. Мы тщательно проверили каждую деталь и даже воспроизвели чужие рецепты для сравнения. Результаты говорят сами за себя: DSpark действительно ускоряет процесс, но главное — он делает это стабильно и надежно. К тому же, мы выяснили, что механизм NVFP4 внес значительный вклад в этот успех.
◾️ Acceptance позиции 0: с 0.41 до 0.74
◾️ Средняя принятая длина: с 1.75 до 2.5
◾️ Пропускная способность: с 26 до 36 токенов/сек
◾️ Single-stream на fp8: +21–24% скорости
◾️ Конкурентность GB10: до 146 токенов/сек на 12 потоках
> «Исправление одной строки кода иногда может изменить целую парадигму работы системы.»
Так что, друзья, иногда одна строка кода — это всё, что нужно для революции. А вы когда-нибудь встречали подобные баги в своих проектах?
Пока нет комментариев — будьте первым.