Hermes 4.3 36B Q6_K
Hermes 4.3 36B ist ein Open-Weights-Modell von NousResearch auf Basis von ByteDance Seed-OSS-36B-Base. Mit 36 Milliarden Parametern und einem Kontextfenster von 512.000 Tokens kombiniert das Modell präzises Instruction-Following mit hybrider Thinking-Unterstützung und Tool-Use. Als Q6-Quantisierung lokal betreibbar unter Apache-2.0-Lizenz.
- Open Weights
- Desktop
- SPRK
- Text
- Instruction-Tuned
- Agentic Orchestrator
- Batch
Sovereign Risk: MEDIUM NousResearch ist ein US-amerikanisches Open-Source-Forschungskollektiv; die Gewichte sind öffentlich verfügbar, jedoch unterliegt das Unternehmen dem US-amerikanischen CLOUD Act. Das lokale GGUF läuft ohne Cloud-Datenabfluss.
Schlüsselmetriken
Score · Latenz · Kosten · Qualität
- Total Score Silver
- 70.09
- Routine
- 43.68
- Reasoning
- 26.41
- LLM Judge Avg
- 3.47 / 5
- 100 Coverage
- Avg Task Duration
- 117.56s
- Batch
- Token Rate
- 8.39tok/s
- Output Rate
- P95 Latency
- 516.55s
- Top 5 %
- Total Tokens
- 36100
- Output Volume
- Cost per 1K
- $0
- USD / 1K Requests
- Benchmark Cost
- $0
- Total · 36100 tok
Benchmark-Module
10 Module · gewichtet · vs. Modellmedian & Spitzenreiter
Hermes 4.3 36B Q6_K
Bestes Modell
Ø Alle Modelle
Code Quality
80
CLI Benchmark
88.33
Logical Reasoning
64
UX Writing
62.55
Documentation
59.58
Content Transform.
75.7
Cultural Intelligence
73.3
Synthesis Quality
36.67
Tool Execution
90
ToolUse Score
62.25
Benchmark Cost
$0
Token-Effizienz & Latenz
Verbrauch pro Modul vs. Modellmedian
Token-Verbrauch pro Modul
Performance-Profil
Schlüsselmetriken – Legende
Score
- Total Score
- Gesamtpunktzahl aus Routine- und Reasoning-Score. Basis für den Flotten-Rang und die Tier-Zuordnung (Gold / Silver / Bronze).
- Routine
- Punktzahl für Standardaufgaben: Code-Generierung, Texttransformation, strukturierte Ausgaben. Gewichtet nach Aufgabenkomplexität.
- Reasoning
- Punktzahl für analytische und logische Aufgaben: mehrstufige Problemlösung, mathematisches Schlussfolgern, strukturierte Argumentationen.
- Rang
- Position im Flottenvergleich, sortiert nach Total Score. Bezieht sich auf den Snapshot zum Zeitpunkt des Tests.
LLM Judge
- LLM Judge Ø
- Durchschnittliche Qualitätsbewertung durch ein unabhängiges Richter-Modell auf einer Skala von 1–5.
- Coverage
- Anteil der Aufgaben, für die eine Judge-Bewertung vorliegt. 100 % bedeutet, alle Antworten wurden bewertet.
Latenz & Geschwindigkeit
- Avg. Task Duration
- Durchschnittliche Zeit pro Aufgabe vom ersten bis zum letzten Token der Antwort, gemessen über alle Benchmark-Aufgaben.
- Token Rate
- Ausgabe-Geschwindigkeit in Tokens pro Sekunde. Relevant für interaktive Anwendungen und Echtzeit-Streaming.
- P95 Latency
- 95. Perzentil der Antwortzeiten – zeigt Ausreißer. Niedrigere Werte bedeuten weniger lange Wartezeiten in Ausnahmefällen.
Kosten
- Cost per 1K
- API-Preis pro 1.000 Output-Tokens in US-Dollar. Basis für Kostenkalkulation bei produktivem Einsatz.
- Benchmark Cost
- Gesamtkosten für den vollständigen Benchmark-Durchlauf dieses Modells.