Llama 3.2 1B (Unsloth)
Llama 3.2 1B ist Metas kleinstes Llama-3.2-Modell und ein reines Text-only-Baseline für Edge-Setups. 1,23 Mrd. Dense-Parameter, 128.000 Tokens Kontext, lokal als Unsloth-GGUF betreibbar unter der Llama-3.2-Community-Lizenz. Eignet sich als kompakte On-Device-Referenz, nicht als Qualitätsanker.
- Restricted Weights
- Nano
- llama.cpp
- Text
- Instruction-Tuned
- Real-Time
Sovereign Risk: LOW Meta veröffentlicht Llama 3.2 unter der Llama 3.2 Community License, und der Unsloth-GGUF-Build ist für vollständig lokale Inferenz ausgelegt. Das operative Data-Exfiltration-Risiko ist bei Offline-Betrieb gering, obwohl die Lizenz eingeschränkt und nicht OSI-offen bleibt.
Schlüsselmetriken
Score · Latenz · Kosten · Qualität
- Total Score Standard
- 44.35
- Routine
- 28.17
- Reasoning
- 16.18
- LLM Judge Avg
- 1.74 / 5
- 100 Coverage
- Avg Task Duration
- 18.12s
- Real-Time
- Token Rate
- 129.8tok/s
- Output Rate
- P95 Latency
- 156.84s
- Top 5 %
- Total Tokens
- 123800
- Output Volume
- Cost per 1K
- $0
- USD / 1K Requests
- Benchmark Cost
- $0
- Total · 123800 tok
Benchmark-Module
10 Module · gewichtet · vs. Modellmedian & Spitzenreiter
Llama 3.2 1B (Unsloth)
Bestes Modell
Ø Alle Modelle
Code Quality
28.1
CLI Benchmark
71.12
Logical Reasoning
38.31
UX Writing
40.05
Documentation
36.61
Content Transform.
60.06
Cultural Intelligence
49.6
Synthesis Quality
Tool Execution
ToolUse Score
Benchmark Cost
$0
Token-Effizienz & Latenz
Verbrauch pro Modul vs. Modellmedian
Token-Verbrauch pro Modul
Performance-Profil
Schlüsselmetriken – Legende
Score
- Total Score
- Gesamtpunktzahl aus Routine- und Reasoning-Score. Basis für den Flotten-Rang und die Tier-Zuordnung (Gold / Silver / Bronze / Standard).
- Routine
- Punktzahl für Standardaufgaben: Code-Generierung, Texttransformation, strukturierte Ausgaben. Gewichtet nach Aufgabenkomplexität.
- Reasoning
- Punktzahl für analytische und logische Aufgaben: mehrstufige Problemlösung, mathematisches Schlussfolgern, strukturierte Argumentationen.
- Rang
- Position im Flottenvergleich, sortiert nach Total Score. Bezieht sich auf den Snapshot zum Zeitpunkt des Tests.
LLM Judge
- LLM Judge Ø
- Durchschnittliche Qualitätsbewertung durch ein unabhängiges Richter-Modell auf einer Skala von 1–5.
- Coverage
- Anteil der Aufgaben, für die eine Judge-Bewertung vorliegt. 100 % bedeutet, alle Antworten wurden bewertet.
Latenz & Geschwindigkeit
- Avg. Task Duration
- Durchschnittliche Zeit pro Aufgabe vom ersten bis zum letzten Token der Antwort, gemessen über alle Benchmark-Aufgaben.
- Token Rate
- Ausgabe-Geschwindigkeit in Tokens pro Sekunde. Relevant für interaktive Anwendungen und Echtzeit-Streaming.
- P95 Latency
- 95. Perzentil der Antwortzeiten – zeigt Ausreißer. Niedrigere Werte bedeuten weniger lange Wartezeiten in Ausnahmefällen.
Kosten
- Cost per 1K
- API-Preis pro 1.000 Output-Tokens in US-Dollar. Basis für Kostenkalkulation bei produktivem Einsatz.
- Benchmark Cost
- Gesamtkosten für den vollständigen Benchmark-Durchlauf dieses Modells.