DeepSeek-V4-Flash-0731 má lepší výkon než V4-Pro při menší velikosti

DeepSeek-V4-Flash je lehčí, levnější model série DeepSeek-V4 optimalizovaný pro rychlejší inferenci. Oproti verzím Pro a Ultra má méně aktivovaných parametrů (304B), ale dosahuje srovnatelných výsledků v benchmarks. Součástí modelu je modul spekulativního dekódování (DSpark) pro zrychlení generování textu.

Nová verze DeepSeek-V4-Flash-0731 vykazuje výrazné zlepšení v agentic benchmarks – například na Terminal Bench 2.1 se zlepšila z 61,8 na 82,7 bodů, na DeepSWE z 7,3 na 54,4 bodů. Model také podporuje tři úrovně reasoning_effort (low, high, max) pro kontrolu hloubky uvažování.

Model lze nasadit pomocí vLLM nebo SGLang s podporou spekulativního dekódování. Pro místní provoz jsou k dispozici skripty v inference složce. Doporučené parametry jsou temperature=1.0 s top_p=0.95 pro agenty a top_p=1.0 pro ostatní aplikace, maximální délka výstupu pro vyšší reasoning effort je 384K tokenů.

Model je licencován pod MIT licencí, kterou lze volně používat komerčně i nekomerčně. Váhy i zdrojový kód jsou veřejně dostupné na Hugging Face, a komunita již vytvořila 75 kvantizovaných verzí a 11 fine-tuned modelů.