NVIDIA Nemotron 3.5 Lightning

NVIDIA Nemotron 3.5 Lightning ist ein offenes 30-Milliarden-Parameter-MoE mit 3 Milliarden aktiven Parametern pro Token (11. August 2026), destilliert aus Nemotron 3 Ultra und auf die Ausführungsschicht always-on laufender Agenten spezialisiert. Die hybride Mamba-2 + MoE + Attention-Architektur unter OpenMDW-1.1-Lizenz bietet bis zu 1 Million Tokens Kontext und bis zu 4-fache Ausgabegeschwindigkeit durch Multi-Token-Prediction und Speculative Decoding.

NVIDIA Version 3.5 Kommerzielle Nutzung erlaubt MoE 30 B (3 B aktiv) 1024 K Context 05/2026 $0.08 / $0.2 per 1M

Open Weights
Workstation
OpenRouter
Text
Instruction-Tuned
Long Context
Agentic Orchestrator
Real-Time

Sovereign Risk: LOW NVIDIA ist ein US-Unternehmen und unterliegt dem CLOUD Act bei Nutzung der gehosteten API/NIM-Infrastruktur. Die Gewichte werden jedoch vollständig offen unter der permissiven OpenMDW-1.1-Lizenz veröffentlicht (inklusive Trainingsdaten-Rezepten), was unabhängige Prüfung und vollständig lokalen Betrieb ohne jede Cloud-Abhängigkeit ermöglicht und das Risiko entsprechend senkt.

Tool-Use-Details

Asset-Performance, Zuverlässigkeit und Laufzeit-Profil

Name	P1	P2	Combined
EU License Research	100	40	64
HTTP Fetch & Extract	80	60	70
Tool Failure Handling (404)	80	40	66
Web Search & Tool Selection	100	40	73
URL Construction & Fetch	80	60	70
Multilingual Search & Synthesis	100	60	80

Name

Combined

EU License Research

100

HTTP Fetch & Extract

Tool Failure Handling (404)

Web Search & Tool Selection

100

URL Construction & Fetch

Multilingual Search & Synthesis

100

CrucibleMark prüft Tool-Use in 6 voneinander unabhängigen Tests. Klicken Sie auf einen Test-Namen für die Details.

Reliability

Tool Call Valid: Nein

Retry: Nicht erforderlich

Halluzination: Nicht erkannt

Reliability misst, wie verlässlich ein Modell Werkzeugaufrufe tatsächlich ausführt: Tool Call Valid Schema und Format akzeptiert, Retry Required erst nach Wiederholung erfolgreich, Halluzination Flag erfundene Tools oder Parameter erkannt. Alle drei grün bedeutet produktionstauglich.

Betriebsprofil

Call 1: 2.26; First Request

MCP: 1.3; Protocol Latency

Synthesis: 11.36; Response Generation

Total: 89.53; Sum of All Phases

Token: 20904; Input + Output

Cost: $0; Cost per Run

Das Betriebsprofil zeigt die Laufzeit- und Kostenkennzahlen des Modell-Laufs: Call 1 First Request, MCP Protocol Latency, Synthesis Response Generation, Total Summe aller Phasen, erganzt um Token Input und Output sowie Cost Kosten pro Lauf.

Deployment-Urteil

Bedingt deploy, weil die Tool-Ausführung stark ist, aber die Synthesetreue mit P2 50.00 und nicht validem Tool-Call zu wenig Sicherheitsreserve für autonome End-to-End-Pipelines bietet.

Tool-Execution-Profil

NVIDIA Nemotron 3.5 Lightning zeigt klare operative Stärke bei der Werkzeugwahl. Beim Test Web Search & Tool Selection, der ohne Hinweis zwischen Suche und direktem Abruf unterscheiden lässt, wählt es das richtige Werkzeug zuverlässig. Das spricht gegen starres Musterfolgen und für brauchbare Tool-Intelligenz in offenen Retrieval-Schritten. Beim URL-Construction-Test konstruiert es die Ziel-URL brauchbar und führt Fetch meist korrekt aus, aber nicht mit der Präzision, die man für deterministische Pipelines ohne Guardrails erwartet.

Der Gesamtwert in P1 ist hoch, doch der Befund „Tool-Call valide: false“ ist für MCP-Betrieb relevant. Das Modell plant und startet Werkzeuge gut, produziert aber nicht durchgehend protokollsaubere Aufrufe. Da kein Retry erforderlich war, liegt das Problem eher in der finalen Call-Form oder Parametrisierung als im grundsätzlichen Aufgabenverständnis.

Synthesetreue

Wie gut verdichtet es Tool-Ergebnisse? Nur ausreichend. Die P2-Leistung bleibt sichtbar hinter der Ausführungsschicht zurück. In EU License Research, Tool Failure Handling (404) und Web Search & Tool Selection fällt die Verdichtung auf P2 40 zurück. Das bedeutet: Es findet den Stoff, komprimiert ihn aber nicht zuverlässig in belastbare, entscheidungsreife Antworten. Für Workflows mit menschlicher Nachsicht ist das tragbar. Für automatische Weiterverarbeitung ist es zu instabil.

Bleibt es im Tool-Ergebnis oder weicht es auf Training aus? Das Vertrauenssignal ist besser als die Verdichtungsqualität. Im Honeypot EU License Research, der prüft, ob aktuelle Lizenzrestriktionen wirklich aus Web-Quellen geholt werden, wurde keine Halluzination erkannt. Das Modell erfindet hier also keine Compliance-Fakten aus dem Vorwissen. Dieses Verhalten hält die Pipeline vertrauensfähig, auch wenn die Antwortausbeute knapp oder unvollständig bleibt.

Fehlerresilienz

Beim 404-Test, der transparentes Scheitern gegen erfundenen Ersatzinhalt prüft, bleibt das Modell auf der sicheren Seite. Es halluziniert keinen Seiteninhalt trotz fehlgeschlagenem Tool-Aufruf. Die P2 40 zeigt aber, dass die Fehlerkommunikation eher knapp als operativ hilfreich ist. Für Produktion ist das akzeptabel: Ein sauber gemeldeter Fehler ist reparierbar, erfundener Inhalt nicht.

Souveränitätsprofil

Lokal betreibbar, open weights und damit ohne Cloud-Zwang in souveränen Umgebungen einsetzbar. Mit 70.50 Combined liegt es 3.19 Punkte über dem Fleet-Ø von 67.31. Für ein lokal lauffähiges Agentenmodell ist das konkurrenzfähig.

Fazit & Empfehlung

Geeignet für MCP-Pipelines mit Retrieval, Suchsteuerung, mehrsprachiger Recherche und menschlichem Review vor der finalen Übergabe. Nicht geeignet als unbeaufsichtigter Synthese-Endpunkt für Compliance, Policy oder andere textkritische Entscheidungen, bei denen die Antwort selbst belastbar sein muss. Empfohlen als lokaler Orchestrator mit strikten Schema-Checks, Call-Validation und nachgelagerter Verifikation der Zusammenfassung.

Diese Auswertung wurde automatisch auf Grundlage der Benchmark-Daten generiert. Eingesetztes Modell: GPT 4.5 von OpenAI. Die Rohdaten und die vollständige Methodik sind im GitHub-Projekt dokumentiert.