Llama 3.2 3B (Unsloth)
3,21 Mrd. Dense-Parameter, 128.000 Tokens Kontext: Llama 3.2 3B ist Metas kompakte Text-only-Variante der Llama-3.2-Familie für lokale Aufgaben wie Zusammenfassen, Umformulieren und Instruction-Following. Unsloth-GGUF-Build, Llama-3.2-Community-Lizenz, vollständig offline betreibbar.
- Restricted Weights
- Nano
- llama.cpp
- Text
- Instruction-Tuned
- Restricted-Weights
- Real-Time
Sovereign Risk: LOW TODO
Schlüsselmetriken
Score · Latenz · Kosten · Qualität
- Total Score Bronze
- 52.05
- Routine
- 32.2
- Reasoning
- 19.86
- LLM Judge Avg
- 2.37 / 5
- 100 Coverage
- Avg Task Duration
- 8.46s
- Real-Time
- Token Rate
- 55.02tok/s
- Output Rate
- P95 Latency
- 17.18s
- Top 5 %
- Total Tokens
- 52200
- Output Volume
- Cost per 1K
- $0
- USD / 1K Requests
- Benchmark Cost
- $0
- Total · 52200 tok
Benchmark-Module
10 Module · gewichtet · vs. Modellmedian & Spitzenreiter
Llama 3.2 3B (Unsloth)
Bestes Modell
Ø Alle Modelle
Code Quality
46.8
CLI Benchmark
70.01
Logical Reasoning
45.05
UX Writing
54.15
Documentation
43.29
Content Transform.
60.97
Cultural Intelligence
57.3
Synthesis Quality
31.67
Tool Execution
63.33
ToolUse Score
47.83
Benchmark Cost
$0
Token-Effizienz & Latenz
Verbrauch pro Modul vs. Modellmedian
Token-Verbrauch pro Modul
Performance-Profil
Schlüsselmetriken – Legende
Score
- Total Score
- Gesamtpunktzahl aus Routine- und Reasoning-Score. Basis für den Flotten-Rang und die Tier-Zuordnung (Gold / Silver / Bronze / Standard).
- Routine
- Punktzahl für Standardaufgaben: Code-Generierung, Texttransformation, strukturierte Ausgaben. Gewichtet nach Aufgabenkomplexität.
- Reasoning
- Punktzahl für analytische und logische Aufgaben: mehrstufige Problemlösung, mathematisches Schlussfolgern, strukturierte Argumentationen.
- Rang
- Position im Flottenvergleich, sortiert nach Total Score. Bezieht sich auf den Snapshot zum Zeitpunkt des Tests.
LLM Judge
- LLM Judge Ø
- Durchschnittliche Qualitätsbewertung durch ein unabhängiges Richter-Modell auf einer Skala von 1–5.
- Coverage
- Anteil der Aufgaben, für die eine Judge-Bewertung vorliegt. 100 % bedeutet, alle Antworten wurden bewertet.
Latenz & Geschwindigkeit
- Avg. Task Duration
- Durchschnittliche Zeit pro Aufgabe vom ersten bis zum letzten Token der Antwort, gemessen über alle Benchmark-Aufgaben.
- Token Rate
- Ausgabe-Geschwindigkeit in Tokens pro Sekunde. Relevant für interaktive Anwendungen und Echtzeit-Streaming.
- P95 Latency
- 95. Perzentil der Antwortzeiten – zeigt Ausreißer. Niedrigere Werte bedeuten weniger lange Wartezeiten in Ausnahmefällen.
Kosten
- Cost per 1K
- API-Preis pro 1.000 Output-Tokens in US-Dollar. Basis für Kostenkalkulation bei produktivem Einsatz.
- Benchmark Cost
- Gesamtkosten für den vollständigen Benchmark-Durchlauf dieses Modells.