NVIDIA Nemotron 3 Ultra 550B A55B
NVIDIA Nemotron 3 Ultra ist NVIDIAs Frontier-Reasoning-Modell mit 550 Milliarden Gesamt- und 55 Milliarden aktiven Parametern auf hybrider Mamba-Transformer-MoE-Architektur mit LatentMoE-Routing und MTP-Schichten. Das Kontextfenster umfasst eine Million Tokens, das Reasoning ist konfigurierbar. Native Tool-Aufrufe und Agentic-Orchestrierung, unter NVIDIA Open Model License als Open-Weights-Modell verfügbar.
- Open Weights
- Frontier
- OR
- Text
- Instruction-Tuned
- Agentic Orchestrator
- Real-Time
Sovereign Risk: LOW Rein lokale Inferenz ohne Cloud-Verbindung möglich. CLOUD Act ist nur bei API-Nutzung über NVIDIA-Infrastruktur relevant, nicht bei lokalem Deployment der öffentlich verfügbaren Gewichte.
Schlüsselmetriken
Score · Latenz · Kosten · Qualität
- Total Score Silver
- 75.27
- Routine
- 46.58
- Reasoning
- 28.69
- LLM Judge Avg
- 3.79 / 5
- 100 Coverage
- Avg Task Duration
- 15.99s
- Real-Time
- Token Rate
- 98.94tok/s
- Output Rate
- P95 Latency
- 46.01s
- Top 5 %
- Total Tokens
- 78200
- Output Volume
- Cost per 1K
- $0.0025
- USD / 1K Requests
- Benchmark Cost
- $0.2
- Total · 78200 tok
Benchmark-Module
10 Module · gewichtet · vs. Modellmedian & Spitzenreiter
NVIDIA Nemotron 3 Ultra 550B A55B
Bestes Modell
Ø Alle Modelle
Code Quality
79.08
CLI Benchmark
95.33
Logical Reasoning
72.47
UX Writing
75.71
Documentation
73.13
Content Transform.
70.14
Cultural Intelligence
71.04
Synthesis Quality
29.17
Tool Execution
83.33
ToolUse Score
54.75
Benchmark Cost
$0.2
Token-Effizienz & Latenz
Verbrauch pro Modul vs. Modellmedian
Token-Verbrauch pro Modul
Performance-Profil
Schlüsselmetriken – Legende
Score
- Total Score
- Gesamtpunktzahl aus Routine- und Reasoning-Score. Basis für den Flotten-Rang und die Tier-Zuordnung (Gold / Silver / Bronze).
- Routine
- Punktzahl für Standardaufgaben: Code-Generierung, Texttransformation, strukturierte Ausgaben. Gewichtet nach Aufgabenkomplexität.
- Reasoning
- Punktzahl für analytische und logische Aufgaben: mehrstufige Problemlösung, mathematisches Schlussfolgern, strukturierte Argumentationen.
- Rang
- Position im Flottenvergleich, sortiert nach Total Score. Bezieht sich auf den Snapshot zum Zeitpunkt des Tests.
LLM Judge
- LLM Judge Ø
- Durchschnittliche Qualitätsbewertung durch ein unabhängiges Richter-Modell auf einer Skala von 1–5.
- Coverage
- Anteil der Aufgaben, für die eine Judge-Bewertung vorliegt. 100 % bedeutet, alle Antworten wurden bewertet.
Latenz & Geschwindigkeit
- Avg. Task Duration
- Durchschnittliche Zeit pro Aufgabe vom ersten bis zum letzten Token der Antwort, gemessen über alle Benchmark-Aufgaben.
- Token Rate
- Ausgabe-Geschwindigkeit in Tokens pro Sekunde. Relevant für interaktive Anwendungen und Echtzeit-Streaming.
- P95 Latency
- 95. Perzentil der Antwortzeiten – zeigt Ausreißer. Niedrigere Werte bedeuten weniger lange Wartezeiten in Ausnahmefällen.
Kosten
- Cost per 1K
- API-Preis pro 1.000 Output-Tokens in US-Dollar. Basis für Kostenkalkulation bei produktivem Einsatz.
- Benchmark Cost
- Gesamtkosten für den vollständigen Benchmark-Durchlauf dieses Modells.