Qwable 3.6 35B (MoE) (thinking on)
Qwable 3.6 35B ist ein vollständiges Fine-Tune-Checkpoint (kein LoRA-Adapter) von Mia-AiLab auf Basis von unsloth/Qwen3.6-35b (Architektur Qwen3_5ForConditionalGeneration, Basismodell offiziell als Qwen3.6-35B-A3B bezeichnet, sparse MoE, 35 Mrd. Gesamt- bei 3 Mrd. aktiven Parametern pro Token), trainiert auf einem bereinigten Fable-5-Reasoning- und Instruction-Datensatz für strukturierte, trace-artige Antworten bei Code- und technischen Reasoning-Aufgaben. Dieser Checkpoint enthält keine MTP-Layer. Die Q5_K_M-Quantisierung wiegt rund 24,7 GB, das Kontextfenster umfasst 262.000 Tokens und das Modell unterstützt den Thinking-Modus aus der Qwen-3.6-Basisarchitektur. Lokales Deployment auf Workstation-Hardware über llama.cpp ohne Cloud-Anbindung.
- Open Weights
- Workstation
- SPRK
- Text
- Instruction-Tuned
- Batch
Sovereign Risk: LOW Modell wird lokal auf der DGX Spark über llama.cpp betrieben, kein Cloud-Datentransfer. Die Qwable-Gewichte stehen unter MIT-Lizenz ohne regionale Einschränkungen auf Hugging Face; das zugrundeliegende Basismodell Qwen3.6-35B-A3B steht unter Apache 2.0. Linienbaum: Qwen/Qwen3.6-35B-A3B (Alibaba Cloud) → unsloth/Qwen3.6-35b (Unsloth Re-Host) → Mia-AiLab/Qwable-3.6-35b (Fine-Tune). Trainingsdaten sind nicht offengelegt. Fine-Tune-Autorin Mia-AiLab: HF-Profil, X-Profil (@MiaAI_lab, seit Juli 2022) und carrd.co-Seite enthalten keine Jurisdiktion oder Länderangabe, Herkunft bleibt unbekannt. Bei rein lokalem Betrieb sind weder US-CLOUD-Act noch chinesisches NSL relevant.
Schlüsselmetriken
Score · Latenz · Kosten · Qualität
- Total Score Silver
- 72.71
- Routine
- 45.19
- Reasoning
- 27.52
- LLM Judge Avg
- 3.56 / 5
- 100 Coverage
- Avg Task Duration
- 50.75s
- Batch
- Token Rate
- 24.7tok/s
- Output Rate
- P95 Latency
- 120.25s
- Top 5 %
- Total Tokens
- 142200
- Output Volume
- Cost per 1K
- $0
- USD / 1K Requests
- Benchmark Cost
- $0
- Total · 142200 tok
Benchmark-Module
10 Module · gewichtet · vs. Modellmedian & Spitzenreiter
Token-Effizienz & Latenz
Verbrauch pro Modul vs. Modellmedian
Token-Verbrauch pro Modul
Performance-Profil
Schlüsselmetriken – Legende
Score
- Total Score
- Gesamtpunktzahl aus Routine- und Reasoning-Score. Basis für den Flotten-Rang und die Tier-Zuordnung (Gold / Silver / Bronze).
- Routine
- Punktzahl für Standardaufgaben: Code-Generierung, Texttransformation, strukturierte Ausgaben. Gewichtet nach Aufgabenkomplexität.
- Reasoning
- Punktzahl für analytische und logische Aufgaben: mehrstufige Problemlösung, mathematisches Schlussfolgern, strukturierte Argumentationen.
- Rang
- Position im Flottenvergleich, sortiert nach Total Score. Bezieht sich auf den Snapshot zum Zeitpunkt des Tests.
LLM Judge
- LLM Judge Ø
- Durchschnittliche Qualitätsbewertung durch ein unabhängiges Richter-Modell auf einer Skala von 1–5.
- Coverage
- Anteil der Aufgaben, für die eine Judge-Bewertung vorliegt. 100 % bedeutet, alle Antworten wurden bewertet.
Latenz & Geschwindigkeit
- Avg. Task Duration
- Durchschnittliche Zeit pro Aufgabe vom ersten bis zum letzten Token der Antwort, gemessen über alle Benchmark-Aufgaben.
- Token Rate
- Ausgabe-Geschwindigkeit in Tokens pro Sekunde. Relevant für interaktive Anwendungen und Echtzeit-Streaming.
- P95 Latency
- 95. Perzentil der Antwortzeiten – zeigt Ausreißer. Niedrigere Werte bedeuten weniger lange Wartezeiten in Ausnahmefällen.
Kosten
- Cost per 1K
- API-Preis pro 1.000 Output-Tokens in US-Dollar. Basis für Kostenkalkulation bei produktivem Einsatz.
- Benchmark Cost
- Gesamtkosten für den vollständigen Benchmark-Durchlauf dieses Modells.