Qwen 2.5 Coder 7B (Q6_K)

Qwen 2.5 Coder 7B ist ein kompaktes Open-Weights-Coding-Modell von Alibaba, optimiert für Code-Generierung, Debugging und Reparatur. Die Q6-Quantisierung ermöglicht lokalen Betrieb auf ressourcenschonender Hardware bei minimalem Qualitätsverlust, das Kontextfenster umfasst 128.000 Tokens für komplexe Codebasen. Unter Apache-2.0-Lizenz voll kommerziell nutzbar.

Alibaba Version Q6_K (GGUF) Kommerzielle Nutzung erlaubt Dense 7 B (7 B aktiv) 128 K Context 09/2024 $0 / $0 per 1M

  • Open Weights
  • Nano
  • M4APL
  • Text
  • Instruction-Tuned
  • Real-Time

Sovereign Risk: LOW Rein lokale Inferenz ohne Cloud-Verbindung. Die Gewichte sind öffentlich verfügbar (Apache 2.0) und werden vollständig lokal ausgeführt. NSL ist nicht relevant, da keine Daten an Alibaba-Infrastruktur übertragen werden.

Schlüsselmetriken

Score · Latenz · Kosten · Qualität

Total Score Bronze
55.81
Routine
34.53
Reasoning
21.28

Rank #75

LLM Judge Avg
2.74
100 Coverage
Avg Task Duration
16.93
Real-Time
Token Rate
50.07
Output Rate
P95 Latency
31.85
Top 5 %
Total Tokens
46600
Output Volume
Cost per 1K
$0
USD / 1K Requests
Benchmark Cost
$0
Total · 46600 tok

Benchmark-Module

10 Module · gewichtet · vs. Modellmedian & Spitzenreiter

Qwen 2.5 Coder 7B (Q6_K) Bestes Modell Ø Alle Modelle
Code Quality 48.3
CLI Benchmark 87.22
Logical Reasoning 59.35
UX Writing 58.55
Documentation 49.35
Content Transform. 58.59
Cultural Intelligence 45
Synthesis Quality
Tool Execution
ToolUse Score
Benchmark Cost $0

Token-Effizienz & Latenz

Verbrauch pro Modul vs. Modellmedian

Token-Verbrauch pro Modul

Performance-Profil