Qwen 3.5 397B A17B
Qwen 3.5 397B A17B ist Alibabas Flaggschiff-MoE-Modell mit 397 Mrd. Parametern (17 Mrd. aktiviert) und nativer Multimodalität (Text, Bild, Video). Das Modell kombiniert Gated Delta Networks mit Sparse MoE für hocheffiziente Inferenz. Es bietet starke Leistung bei Reasoning, Coding, Agentic Tasks und visuellem Verständnis. Über OpenRouter verfügbar mit ermäßigten Preisen auf Standardtarifen. Chinesische Herkunft und NSL sind bei der Datenrisikoeinschätzung zu berücksichtigen.
- Open Weights
- Frontier
- OR
- Thinking-Optional
- General
- Multimodal
- Long-Context
- Interactive
Sovereign Risk: HIGH Alibaba Cloud (Tongyi Qwen-Team) ist ein chinesisches Unternehmen und unterliegt dem chinesischen National Security Law (NSL), das staatlichen Zugriff auf Daten ermöglichen kann. Das BSI hat im Februar 2025 explizit vor der Nutzung chinesischer KI-Cloud-Dienste gewarnt (BSI-Referenz: Warnung DeepSeek, 04.02.2025); diese Risikoeinschätzung gilt analog für alle chinesischen Cloud-KI-Anbieter, die Nutzerdaten auf chinesischen Servern verarbeiten.
Schlüsselmetriken
Score · Latenz · Kosten · Qualität
- Total Score Silver
- 72.83
- Routine
- 44.32
- Reasoning
- 28.5
- LLM Judge Avg
- 3.67 / 5
- 100% Coverage
- Avg Task Duration
- 43.37s
- ️ Interactive
- Token Rate
- 16.49tok/s
- Output Rate
- P95 Latency
- 92.15s
- Top 5 %
- Total Tokens
- 40.9K
- Output Volume
- Cost per 1K
- $0.0023
- USD / 1K Requests
- Benchmark Cost
- $0.1
- Total · 40.9K tok
Benchmark-Module
7 Module · gewichtet · vs. Modellmedian & Spitzenreiter
Token-Effizienz & Latenz
Verbrauch pro Modul vs. Modellmedian
Token-Verbrauch pro Modul
Performance-Profil
Schlüsselmetriken – Legende
Score
- Total Score
- Gesamtpunktzahl aus Routine- und Reasoning-Score. Basis für den Flotten-Rang und die Tier-Zuordnung (Gold / Silver / Bronze).
- Routine
- Punktzahl für Standardaufgaben: Code-Generierung, Texttransformation, strukturierte Ausgaben. Gewichtet nach Aufgabenkomplexität.
- Reasoning
- Punktzahl für analytische und logische Aufgaben: mehrstufige Problemlösung, mathematisches Schlussfolgern, strukturierte Argumentationen.
- Rang
- Position im Flottenvergleich, sortiert nach Total Score. Bezieht sich auf den Snapshot zum Zeitpunkt des Tests.
LLM Judge
- LLM Judge Ø
- Durchschnittliche Qualitätsbewertung durch ein unabhängiges Richter-Modell auf einer Skala von 1–5.
- Coverage
- Anteil der Aufgaben, für die eine Judge-Bewertung vorliegt. 100 % bedeutet, alle Antworten wurden bewertet.
Latenz & Geschwindigkeit
- Avg. Task Duration
- Durchschnittliche Zeit pro Aufgabe vom ersten bis zum letzten Token der Antwort, gemessen über alle Benchmark-Aufgaben.
- Token Rate
- Ausgabe-Geschwindigkeit in Tokens pro Sekunde. Relevant für interaktive Anwendungen und Echtzeit-Streaming.
- P95 Latency
- 95. Perzentil der Antwortzeiten – zeigt Ausreißer. Niedrigere Werte bedeuten weniger lange Wartezeiten in Ausnahmefällen.
Kosten
- Cost per 1K
- API-Preis pro 1.000 Output-Tokens in US-Dollar. Basis für Kostenkalkulation bei produktivem Einsatz.
- Benchmark Cost
- Gesamtkosten für den vollständigen Benchmark-Durchlauf dieses Modells.