Hermes 4.3 36B
Hermes 4.3 36B (NVFP4) ist die komprimierte Variante von NousResearchs Open-Weights-Modell auf ByteDance Seed-OSS-36B-Basis, vollständig dezentral über das Psyche-Netzwerk nachtrainiert. Firworks hat das BF16-Checkpoint zu NVFP4 komprimiert und damit den Gewichts-Speicherbedarf deutlich reduziert. 36 Milliarden Dense-Parameter, 512.000 Tokens nativer Kontext, optionaler Thinking-Modus und Apache-2.0-Lizenz für freie kommerzielle Nutzung.
- Open Weights
- Server
- VSPK
- Text
- 36B
- NVFP4
- Compressed-Tensors
- 512K-Context
- Long Context
- Agentic Orchestrator
- Batch
Sovereign Risk: MEDIUM Firworks/Hermes-4.3-36B-nvfp4 ist eine NVFP4-Quantisierung (LLM-Compressor, long-seq Calibration auf Rombo-Org/Optimized_Reasoning) der NousResearch-Basisgewichte (Hermes-4.3-36B auf ByteDance Seed-OSS-36B-Base, dezentral via Psyche nachtrainiert). Apache-2.0-Lizenz, öffentlich auf HuggingFace. NousResearch unterliegt US-CLOUD-Act; bei vollständig lokalem vLLM-Betrieb kein Cloud-Datenabfluss, Risiko bleibt moderat.
Schlüsselmetriken
Score · Latenz · Kosten · Qualität
- Total Score Silver
- 67.14
- Routine
- 41.19
- Reasoning
- 25.95
- LLM Judge Avg
- 3.24 / 5
- 100 Coverage
- Avg Task Duration
- 84.81s
- Batch
- Token Rate
- 12.71tok/s
- Output Rate
- P95 Latency
- 191.16s
- Top 5 %
- Total Tokens
- 56700
- Output Volume
- Cost per 1K
- $0
- USD / 1K Requests
- Benchmark Cost
- $0
- Total · 56700 tok
Benchmark-Module
10 Module · gewichtet · vs. Modellmedian & Spitzenreiter
Token-Effizienz & Latenz
Verbrauch pro Modul vs. Modellmedian
Token-Verbrauch pro Modul
Performance-Profil
Schlüsselmetriken – Legende
Score
- Total Score
- Gesamtpunktzahl aus Routine- und Reasoning-Score. Basis für den Flotten-Rang und die Tier-Zuordnung (Gold / Silver / Bronze).
- Routine
- Punktzahl für Standardaufgaben: Code-Generierung, Texttransformation, strukturierte Ausgaben. Gewichtet nach Aufgabenkomplexität.
- Reasoning
- Punktzahl für analytische und logische Aufgaben: mehrstufige Problemlösung, mathematisches Schlussfolgern, strukturierte Argumentationen.
- Rang
- Position im Flottenvergleich, sortiert nach Total Score. Bezieht sich auf den Snapshot zum Zeitpunkt des Tests.
LLM Judge
- LLM Judge Ø
- Durchschnittliche Qualitätsbewertung durch ein unabhängiges Richter-Modell auf einer Skala von 1–5.
- Coverage
- Anteil der Aufgaben, für die eine Judge-Bewertung vorliegt. 100 % bedeutet, alle Antworten wurden bewertet.
Latenz & Geschwindigkeit
- Avg. Task Duration
- Durchschnittliche Zeit pro Aufgabe vom ersten bis zum letzten Token der Antwort, gemessen über alle Benchmark-Aufgaben.
- Token Rate
- Ausgabe-Geschwindigkeit in Tokens pro Sekunde. Relevant für interaktive Anwendungen und Echtzeit-Streaming.
- P95 Latency
- 95. Perzentil der Antwortzeiten – zeigt Ausreißer. Niedrigere Werte bedeuten weniger lange Wartezeiten in Ausnahmefällen.
Kosten
- Cost per 1K
- API-Preis pro 1.000 Output-Tokens in US-Dollar. Basis für Kostenkalkulation bei produktivem Einsatz.
- Benchmark Cost
- Gesamtkosten für den vollständigen Benchmark-Durchlauf dieses Modells.