Qwen 3.8 Flash-Next (NVIDIA) (Thinking)
Als offene Vorschau auf die Qwen4-Architektur bringt Alibaba mit Qwen3.8-Flash-Next ein experimentelles MoE-Modell, das NVIDIA als NVFP4-Quantisierung für lokale Inferenz aufbereitet hat. Von rund 180 Mrd. Parametern auf der Platte aktivieren pro Token nur etwa 6 Mrd., bei Text-, Bild- und Videoeingabe und 262.000 Tokens nativem Kontext. Lizenz: kombinierte NVIDIA- und Qwen-Lizenz. Wichtig: Diese Preview ist nicht die gehostete API Qwen3.8-Flash.
- Open Weights
- Server
- vLLM
- Text
- Vision
- Video
- Instruction-Tuned
- Long Context
- Interactive
Sovereign Risk: MEDIUM Das Basismodell stammt von Alibaba (CN); die NVFP4-Distribution durch NVIDIA (US) reduziert das operative Risiko etwas, führt aber wegen US-Jurisdiktion (z.B. CLOUD Act) zu ‘medium’. Zusätzliches Identitätsrisiko: Qwen3.8-Flash-Next ist explizit eine experimentelle Open-Weight-Preview der kommenden Qwen4-Architektur, getrennt von der produktiven, gehosteten ‘Qwen3.8-Flash’-API mit mehr Produktionsfeatures.[374][383][384]
Schlüsselmetriken
Score · Latenz · Kosten · Qualität
- Total Score Gold
- 81.68
- Routine
- 49.6
- Reasoning
- 32.08
- LLM Judge Avg
- 4.07 / 5
- 100 Coverage
- Avg Task Duration
- 39.13s
- Interactive
- Token Rate
- 42.72tok/s
- Output Rate
- P95 Latency
- 97.8s
- Top 5 %
- Total Tokens
- 112600
- Output Volume
- Cost per 1K
- $0
- USD / 1K Requests
- Benchmark Cost
- $0
- Total · 112600 tok
Benchmark-Module
10 Module · gewichtet · vs. Modellmedian & Spitzenreiter
Token-Effizienz & Latenz
Verbrauch pro Modul vs. Modellmedian
Token-Verbrauch pro Modul
Performance-Profil
Schlüsselmetriken – Legende
Score
- Total Score
- Gesamtpunktzahl aus Routine- und Reasoning-Score. Basis für den Flotten-Rang und die Tier-Zuordnung (Gold / Silver / Bronze / Standard).
- Routine
- Punktzahl für Standardaufgaben: Code-Generierung, Texttransformation, strukturierte Ausgaben. Gewichtet nach Aufgabenkomplexität.
- Reasoning
- Punktzahl für analytische und logische Aufgaben: mehrstufige Problemlösung, mathematisches Schlussfolgern, strukturierte Argumentationen.
- Rang
- Position im Flottenvergleich, sortiert nach Total Score. Bezieht sich auf den Snapshot zum Zeitpunkt des Tests.
LLM Judge
- LLM Judge Ø
- Durchschnittliche Qualitätsbewertung durch ein unabhängiges Richter-Modell auf einer Skala von 1–5.
- Coverage
- Anteil der Aufgaben, für die eine Judge-Bewertung vorliegt. 100 % bedeutet, alle Antworten wurden bewertet.
Latenz & Geschwindigkeit
- Avg. Task Duration
- Durchschnittliche Zeit pro Aufgabe vom ersten bis zum letzten Token der Antwort, gemessen über alle Benchmark-Aufgaben.
- Token Rate
- Ausgabe-Geschwindigkeit in Tokens pro Sekunde. Relevant für interaktive Anwendungen und Echtzeit-Streaming.
- P95 Latency
- 95. Perzentil der Antwortzeiten – zeigt Ausreißer. Niedrigere Werte bedeuten weniger lange Wartezeiten in Ausnahmefällen.
Kosten
- Cost per 1K
- API-Preis pro 1.000 Output-Tokens in US-Dollar. Basis für Kostenkalkulation bei produktivem Einsatz.
- Benchmark Cost
- Gesamtkosten für den vollständigen Benchmark-Durchlauf dieses Modells.