DeepSeek V4 Flash támogatása érkezett a llama.cpp-hez — korai fejlesztés alatt
A DeepSeek V4 sorozat támogatása érkezett a népszerű llama.cpp nyílt forráskódú projekthez. A fejlesztés korai szakaszban jár, a PR #24162 még munkálatok alatt áll.
A népszerű llama.cpp projektbe megérkezett a DeepSeek V4 sorozat támogatása, amely lehetővé teszi a nyílt forráskódú közösség számára a modell futtatását. A fejlesztés a Reddit LocalLLaMA közösségében indult, és a PR #24162 keretében zajlik.
A DeepSeek V4 Flash modell lenyűgöző képességekkel rendelkezik, többek között 284 milliárd paraméterrel, 13 milliárd aktív paraméterrel tokenenként, és egy egymilliós tokenes kontextusablakkal.
Kapcsolódó: Kínai AI-modell
A modell képességei
A közösség már bizonyította a modell Mac-en történő helyi futtatását GGUF-konverziók, kvantált súlyok és kísérleti llama.cpp támogatás segítségével.
Kapcsolódó: DeepSeek V4 verziók
Fejlesztési folyamat
A fejlesztés jelenleg korai szakaszban van, ami azt jelenti, hogy a funkciók még nem teljesek, és további munkálatokra van szükség a stabilitás és a teljesítmény optimalizálásához. A közösség aktívan dolgozik a modell integrálásán.
Kapcsolódó: Olcsó AMD GPU
A PR #24162 még munkálatok alatt áll, a llama.cpp projekt további frissítései várhatóak a DeepSeek V4 támogatásával kapcsolatban, 2026-ban a fejlesztők folyamatosan dolgoznak a modell optimalizálásán.
Kapcsolódó: DeepSeek V3.2 fejlesztés