Gemma 4 12B Instruct Q8_K_XL (UndiX-Derivative)
Gemma 4 12B Instruct als Q8-Quantisierung der Unsloth-Community, die höchstpräzise Variante unter den 12B-Ausführungen. Mit zwölf Milliarden Parametern und 128.000 Tokens Kontextfenster liefert das Modell nahezu FP16-Qualität, ist auf lokalen Betrieb ohne Cloud-Anbindung ausgelegt und unter Apache-2.0-Lizenz voll kommerziell nutzbar.
- Open Weights
- Desktop
- M4APL
- Text
- Instruction-Tuned
- Batch
Sovereign Risk: LOW Google DeepMind ist ein US-amerikanisches Unternehmen und unterliegt dem CLOUD Act, der primär bei API-/Cloud-Nutzung relevant ist, nicht bei lokal betriebenen Gewichten. Bei ausschliesslich lokaler Inferenz ohne Cloud-Verbindung ist das Risikoszenario minimal.
Schlüsselmetriken
Score · Latenz · Kosten · Qualität
- Total Score Silver
- 72.03
- Routine
- 44.82
- Reasoning
- 27.21
- LLM Judge Avg
- 3.65 / 5
- 100 Coverage
- Avg Task Duration
- 95.85s
- Batch
- Token Rate
- 13.34tok/s
- Output Rate
- P95 Latency
- 175.89s
- Top 5 %
- Total Tokens
- 86000
- Output Volume
- Cost per 1K
- $0
- USD / 1K Requests
- Benchmark Cost
- $0
- Total · 86000 tok
Benchmark-Module
10 Module · gewichtet · vs. Modellmedian & Spitzenreiter
Gemma 4 12B Instruct Q8_K_XL (UndiX-Derivative)
Bestes Modell
Ø Alle Modelle
Code Quality
77.1
CLI Benchmark
87.22
Logical Reasoning
68.75
UX Writing
71.05
Documentation
66.77
Content Transform.
73.31
Cultural Intelligence
67.6
Synthesis Quality
43.33
Tool Execution
83.33
ToolUse Score
62.33
Benchmark Cost
$0
Token-Effizienz & Latenz
Verbrauch pro Modul vs. Modellmedian
Token-Verbrauch pro Modul
Performance-Profil
Schlüsselmetriken – Legende
Score
- Total Score
- Gesamtpunktzahl aus Routine- und Reasoning-Score. Basis für den Flotten-Rang und die Tier-Zuordnung (Gold / Silver / Bronze).
- Routine
- Punktzahl für Standardaufgaben: Code-Generierung, Texttransformation, strukturierte Ausgaben. Gewichtet nach Aufgabenkomplexität.
- Reasoning
- Punktzahl für analytische und logische Aufgaben: mehrstufige Problemlösung, mathematisches Schlussfolgern, strukturierte Argumentationen.
- Rang
- Position im Flottenvergleich, sortiert nach Total Score. Bezieht sich auf den Snapshot zum Zeitpunkt des Tests.
LLM Judge
- LLM Judge Ø
- Durchschnittliche Qualitätsbewertung durch ein unabhängiges Richter-Modell auf einer Skala von 1–5.
- Coverage
- Anteil der Aufgaben, für die eine Judge-Bewertung vorliegt. 100 % bedeutet, alle Antworten wurden bewertet.
Latenz & Geschwindigkeit
- Avg. Task Duration
- Durchschnittliche Zeit pro Aufgabe vom ersten bis zum letzten Token der Antwort, gemessen über alle Benchmark-Aufgaben.
- Token Rate
- Ausgabe-Geschwindigkeit in Tokens pro Sekunde. Relevant für interaktive Anwendungen und Echtzeit-Streaming.
- P95 Latency
- 95. Perzentil der Antwortzeiten – zeigt Ausreißer. Niedrigere Werte bedeuten weniger lange Wartezeiten in Ausnahmefällen.
Kosten
- Cost per 1K
- API-Preis pro 1.000 Output-Tokens in US-Dollar. Basis für Kostenkalkulation bei produktivem Einsatz.
- Benchmark Cost
- Gesamtkosten für den vollständigen Benchmark-Durchlauf dieses Modells.