deepseek-v3

A strong Mixture-of-Experts (MoE) language model with 671B total parameters with 37B activated for each token.

671b
Hızlı Kurulum (Ollama kuruluysa)
ollama run deepseek-v3

Ollama kurulu değil mi? ollama.com/download — Windows, macOS ve Linux için ücretsiz. İlk çalıştırmada model indirilir, sonrası tamamen çevrimdışıdır.

Varyantlar

Boyut büyüdükçe kalite artar, donanım ihtiyacı yükselir. Başlangıç için küçük varyantı deneyin.

EtiketBoyutBağlamGirdiKomut
latest 404GB 160K Text ollama run deepseek-v3:latest
671b 404GB 160K Text ollama run deepseek-v3:671b
671b-q4_K_M 404GB 160K Text ollama run deepseek-v3:671b-q4_K_M
671b-q8_0 713GB 4K Text ollama run deepseek-v3:671b-q8_0
671b-fp16 4K Text ollama run deepseek-v3:671b-fp16

Model Detayları ve Benchmarklar (kaynak: ollama.com)

Note: this model requires Ollama 0.5.5 or later.

DeepSeek-V3 achieves a significant breakthrough in inference speed over previous models. It tops the leaderboard among open-source models and rivals the most advanced closed-source models globally.

References

GitHub

Paper