Qwen 3.6 35B-A3B Q8_K_XL (GGUF)

Qwen 3.6 35B-A3B ist eine multimodale MoE-Variante von Alibaba, hier als Q8_K_XL GGUF für lokale Nutzung. Das Modell kombiniert 35B Gesamt- mit 3B Aktivparametern, unterstützt langen Kontext und ist auf Text, Bild und Audio ausgerichtet. Die hohe Quantisierung erhält die Qualität weitgehend.

Alibaba Version 3.6 Kommerzielle Nutzung erlaubt MoE 35 B (3 B aktiv) 262 K Context 06/2025 $0 / $0 per 1M

  • Open Weights
  • Desktop
  • LCL
  • Thinking-Optional
  • Multimodal
  • Real-Time

Sovereign Risk: MEDIUM Open-Weights-Modell aus China; Weights sind öffentlich auf Hugging Face verfügbar. Chinesische Herkunft und das nationale Sicherheitsgesetz (NSL) sind bei der Einschätzung des Datenrisikos zu berücksichtigen.

LLM Model Review

· Thinking-Optional · Multimodal

Mit einem Gesamtscore von 73.17% zeigt Qwen 3.6 35B-A3B Q8_K_XL (GGUF) ein erfreulich erwachsenes Profil: kein Blender, kein Spezialist mit Scheuklappen, sondern ein lokal laufendes Modell mit klarer technischer Disziplin und ein paar sehr realen Ecken. Der Speed Profile Badge Real-Time DevOps Expert passt erstaunlich gut, weil dieses Modell in technischen, strukturierten Aufgaben oft schneller präzise wird als viele gesprächige Konkurrenten. Zugleich bleibt der Benchmark hier bewusst unvollständig: Wir testen ein Vision-Language-Modell im Textbetrieb, dazu als Desktop-Klasse mit MoE-Architektur und nur 3 Milliarden aktiven Parametern bei 35 Milliarden Gesamtparametern. Man sollte also nicht rohe 35B-Erwartungen anlegen, sondern die aktive Kapazität bewerten. Sovereign Risk: HIGH — das Modell stammt von Alibaba/Qwen; auch bei lokaler Nutzung bleibt die Weights-Provenienz an China und die dortige Rechtslage einschließlich NSL gekoppelt.

Kopfnoten: Stabilität und Zuverlässigkeit

Metrik Wert Bewertung Analyse
Timeout-Rate 0/43 Stabil Das Modell lief im Test absolut stabil und zuverlässig.
P95-Antwortzeit 45.0 s Akzeptabel Vereinzelte Ausreißer, für interaktive Nutzung noch tolerierbar.

Architektur und Charakter: mehr Tiefgang als die Parameterzahl vermuten lässt

Die redaktionelle Vorab-Einstufung als Thinking-Optional, Multimodal trifft den Kern. Qwen 3.6 unterstützt grundsätzlich einen erweiterten Denkmodus, der im Benchmark aber nicht aktiviert wurde. Gemessen wurde also das Verhalten, das Nutzer ohne Spezialkonfiguration tatsächlich bekommen. Das ist wichtig, weil Thinking-Optional-Modelle selbst im Standardmodus oft mehr intern sortieren als klassische Instruct-Modelle. Wenn sie dadurch etwas mehr Latenz mitbringen, ist das keine Macke, sondern Teil ihrer Konstruktion.

Ebenso wichtig ist die zweite Einordnung: Dieses Modell ist primär ein Vision-Language-Modell. Wer nur auf Textbenchmarks schaut, prüft also nur einen Ausschnitt des Könnens. Man misst dem Modell damit gewissermaßen die Laufkultur eines Geländewagens auf Asphalt bei Nacht. Aussagekräftig ist das trotzdem, aber eben nicht vollständig. Dass Qwen 3.6 im reinen Textbetrieb bereits auf 73.17% kommt, ist deshalb eher ein Kompliment als eine Einschränkung.

Die dritte Säule ist die Architektur. Als MoE-Modell arbeitet Qwen 3.6 nicht mit voller 35B-Kapazität pro Token, sondern mit 3B aktiven Parametern. Das ist der faire Maßstab. Wer hier Frontier-Wucht erwartet, verwechselt Datenblatt mit Rechenrealität. Für ein Modell mit dieser aktiven Kapazität liefert Qwen 3.6 bemerkenswert viel Struktur, gutes technisches Urteilsvermögen und solide Sprachkontrolle.

Performance: schnell genug, ohne nach Atem zu klingen

Auf dem lokalen Referenzsystem NVIDIA DGX Spark (GB10 Grace Blackwell Superchip, ~115 GB Unified Memory) erreicht Qwen 3.6 63.38 Tokens pro Sekunde. Für ein lokal betriebenes, multimodales MoE-Modell dieser Klasse ist das ein sehr gutes Ergebnis. Vor allem deshalb, weil die Kombination aus GGUF-Quantisierung und nur 3B aktiven Parametern die 115-GB-Grenze des Testsystems nicht in die Nähe eines riskanten Speicherabgrunds bringt. Das Modell läuft nicht auf Kante, sondern mit professioneller Gelassenheit.

Der Badge Real-Time DevOps Expert ist hier keine Marketingplakette, sondern eine brauchbare Kurzbeschreibung. Er bedeutet: Das Modell eignet sich eher für interaktive technische Arbeit als für träge Batch-Verarbeitung. Genau das sieht man in den Zahlen. Die Tail-Latenz ist mit 45,0 Sekunden nicht spektakulär niedrig, aber sauber im akzeptablen Bereich. In der Praxis heißt das: normale Interaktion funktioniert gut, einzelne Ausreißer bleiben spürbar, reißen den Arbeitsfluss aber nicht systematisch auseinander.

Hinzu kommt ein zweiter positiver Befund: Qwen 3.6 verhält sich token-ökonomisch. Kein Modul überschreitet den erwarteten Verbosity-Rahmen. Selbst im Reasoning-Bereich liegt die sichtbare Ausführlichkeit zwar über dem Flottenmedian, dort ist das aber freigestellt und inhaltlich meist gerechtfertigt. In allen budgetierten Modulen bleibt das Modell diszipliniert. Das ist bei lokalen Modellen mehr als eine Stilfrage, denn jedes unnötige Wort verlängert Antwortzeit und Rechenlast.

Reasoning und Logik: durchdacht, aber nicht immer elegant

Mit 73.25% im logischen Reasoning gehört Qwen 3.6 zu den klaren Stärken des Modells. Die qualitative Auswertung zeigt ein typisches Profil für Thinking-Optional im Standardmodus: Die Logik stimmt, die Herleitung ist nachvollziehbar, aber die Darstellung ist nicht immer maximal verdichtet. Im Wächterrätsel etwa kommt das Modell sauber auf die richtige Frage und erklärt korrekt, warum beide Antwortpfade zur falschen Tür führen. Die Lösung sitzt. Was fehlt, ist der letzte Funke didaktischer Eleganz. Der Judge moniert zu Recht, dass das Prinzip der Doppel-Inversion nicht scharf genug herausgearbeitet wird und Teile der Begründung redundant wirken.

Das ist kein intellektueller Ausfall, sondern eher ein Stilproblem des Denkens. Qwen 3.6 argumentiert wie ein guter Techniker, der die Schraube festzieht, aber den Lehrbuchsatz dazu nicht mitliefert. Für Nutzer ist das meist verkraftbar. Wer das Modell als Erklärbär einsetzt, bekommt korrekte Substanz, aber nicht immer die kompakteste Erzählform.

Gerade im Kontext der MoE-Architektur ist das respektabel. Mit 3B aktiven Parametern zeigt Qwen 3.6 Reasoning, das eher nach mittlerer Workstation-Klasse schmeckt als nach knapper Desktop-Ökonomie. Das Modell denkt nicht magisch. Es denkt sauber. Und in diesem Markt ist das bereits eine Tugend.

Code Quality: solide Analyse, aber ohne die Schärfe eines kompromisslosen Security-Auditors

Im Bereich Code Quality erreicht Qwen 3.6 70.64%. Das ist ordentlich, aber nicht makellos. Die gute Nachricht zuerst: Das Modell liefert formal sauber. Tabellenstruktur, deutsche Erläuterungen und die geforderten impliziten Schwachstellen werden korrekt erkannt. Im vorliegenden Security-Audit benennt es 15 Schwachstellen, darunter Mail Header Injection, Path Traversal, Session-Probleme, XSS und API-Key-Vergleiche. Es arbeitet also nicht oberflächlich, sondern sieht auch versteckte Risiken.

Die schlechte Nachricht ist die Kalibrierung. Mehrere sicherheitskritische Befunde werden zu vorsichtig priorisiert. Der lose Vergleich beim API-Key wird nur als Medium bewertet, obwohl der Goldstandard hier auf Critical geht. Auch die Admin-Authentifizierung über Cookies wird nicht scharf genug eskaliert. Dazu kommen echte Lücken: ein separates IDOR-Risiko im Profil-Update, unsichere Cookie-Flags, hartkodierte Secrets, Ablaufzeiten für Reset-Tokens und die Problematik von Headern nach bereits erfolgter Ausgabe fehlen oder bleiben unterbelichtet. Das Modell erkennt also das Minenfeld, aber markiert nicht jede Mine mit der nötigen Dringlichkeit.

Gerade im Security-Kontext ist das relevant. Ein Modell, das Schwachstellen findet, aber Prioritäten verwässert, kann Teams in falscher Reihenfolge arbeiten lassen. Das ist weniger spektakulär als Halluzinationen, in der Praxis aber fast genauso unangenehm. Qwen 3.6 ist hier nützlich als strukturierter Erstprüfer, nicht als letzte Instanz für Risikobewertung.

CLI, Tool-Use, Security und Halluzinationen: stark im Kommando, anfällig bei erfundenen Tool-Fakten

Das Gesamtbild im technischen Betrieb ist zweigeteilt. Einerseits steht ein CLI-Wert von 85.0%, der das DevOps-Profil stützt. Qwen 3.6 kann Anweisungen und operative Struktur gut. Das ist kein Zufall: Das Modell antwortet knapp genug, bleibt formatstabil und verschenkt wenig Output an dekoratives Gerede. Für Shell-nahe Aufgaben und klar definierte technische Arbeitsaufträge ist das eine echte Stärke.

Andererseits liegt der ToolUse Score bei 65.83% spürbar darunter. Genau hier sitzt auch der heikelste rote Befund des ganzen Reviews. In einer Tool-Use-Aufgabe halluzinierte das Modell Inhalte, die nicht aus dem abgerufenen Tool-Ergebnis stammten. Der P2-Score wurde deshalb durch einen Halluzinations-Cap begrenzt. Für content-kritische Aufgaben wie Recherche, Faktenberichte oder agentische Workflows mit externer Datenquelle ist das kein kleiner Schönheitsfehler, sondern ein Vertrauensbruch. Sobald ein Modell behauptet, Werkzeugausgaben gelesen zu haben, die es in Wahrheit ergänzt hat, kippt der Einsatzbereich von “praktisch” zu “nur unter Aufsicht”.

Diese Schwäche ist umso bemerkenswerter, weil Qwen 3.6 in klassischen Textmodulen meist kontrolliert wirkt. Die Halluzination entsteht hier nicht aus wildem Fantasieren, sondern aus einem typischen Tool-Use-Risiko: Das Modell füllt Lücken, wo es strikt referenzieren müsste. Für lokale Agenten-Setups ist das eine Warnlampe. Das Modell kann Werkzeuge einbinden, aber man sollte ihm keine unüberwachte Autorenschaft über deren Ergebnisse geben.

UX Writing und Content Transformation: funktional stark, stilistisch nicht immer die erste Wahl

Im Bereich UX Writing steht Qwen 3.6 bei 68.85%. Das ist kein Katastrophenwert, aber auch kein Glanzstück. Die Qualität ist meist handwerklich sauber: formattreue Tabellen, sinnvolle Optimierungsschritte, klare Mikrocopy. Das Modell trifft Vorgaben und arbeitet geordnet. Was fehlt, ist oft die letzte Präzision in Ton, Zuspitzung und Priorisierung. UX-Texte müssen nicht nur korrekt sein, sie müssen sitzen. Qwen 3.6 sitzt oft auf dem richtigen Stuhl, aber nicht immer ganz gerade.

Etwas stärker wirkt das Modell in der Content Transformation mit 74.9%. Der qualitative Test zum Umbau eines Rohskripts in ein produktionsreifes Video zeigt das recht schön. Qwen 3.6 liefert eine vollständige dreiteilige Antwort, bleibt vollständig auf Deutsch, setzt Timing, Visual Cues, Produktionshinweise und CTA korrekt ein und schreibt ein brauchbares, tatsächlich einsatznahes Skript. Der Judge lobt zu Recht die funktionale Produktionsreife. Die Schwächen liegen im Feinschliff: Der Hook ist weniger filmisch als in der Referenz, die Analysephase nicht so systematisch ausdifferenziert, und das Skript läuft leicht länger als die versprochenen fünf Minuten.

Das ist typisch Qwen 3.6. Das Modell baut kein Kunstwerk, aber es baut ein tragfähiges Gerüst, auf dem sich weiterarbeiten lässt. Für Redaktionen, Creator-Workflows und interne Content-Pipelines ist das oft wertvoller als blendende Einzelstellen ohne Struktur.

Documentation Quality und Cultural Intelligence: nüchtern gut, ohne große Pose

Mit 67.89% in der Dokumentationsqualität bleibt Qwen 3.6 knapp hinter seinen stärkeren Technikdisziplinen. Das spricht weniger gegen das Modell als für seinen Charakter. Es erklärt ordentlich, aber nicht immer mustergültig. Wer glasklar gegliederte, didaktisch geschliffene Langdokumentation erwartet, bekommt solide Arbeit statt Meisterklasse. In vielen Teams genügt das. Wer Dokumentation als Produkt versteht, wird häufiger nachredigieren.

Erfreulich ist dagegen die Cultural Intelligence mit 77.6%. Der qualitative Auszug zur Entschärfung einer toxischen Stellenanzeige zeigt, dass Qwen 3.6 kulturell und sprachlich nicht trampelt. Es entfernt problematische Begriffe, formuliert sauber auf Deutsch, arbeitet inklusiv und wahrt den professionellen Ton. Der Judge kritisiert zu Recht, dass dem Text etwas Energie und strategisches Reframing fehlen. Statt problematische Signale in positive Werte umzubauen, kappt das Modell sie eher nüchtern. Aber genau diese Nüchternheit ist hier kein Makel, sondern Geschmackssache mit leichtem Punktabzug. Es wirkt eher wie eine gute HR-Fachkraft als wie ein preisgekrönter Kampagnentexter.

Datenschutz und Datenhoheit

Ein eigener Datenschutzabschnitt ist für dieses Modell nicht nötig, weil es hier als rein lokales Open-Weights-Modell ohne Cloud-Provider im Test lief.

Fazit

Qwen 3.6 35B-A3B Q8_K_XL (GGUF) ist ein bemerkenswert kompetentes lokales Modell mit 73.17% Gesamtscore, das seine Stärken ausgerechnet nicht aus prahlerischer Größe, sondern aus Disziplin zieht. Für ein multimodales Desktop-Modell mit MoE-Architektur und nur 3B aktiven Parametern liefert es starke CLI-Arbeit, gutes Reasoning, ordentliche Security-Analyse und insgesamt ein sauberes Effizienzprofil. Extended Thinking wird grundsätzlich unterstützt, war im Benchmark aber nicht aktiviert. Schon im Standardmodus zeigt das Modell genug innere Ordnung, um im Alltag ernst genommen zu werden.

Sein Charakter ist klar: technisch, kontrolliert, nüchtern. Genau darin liegt die Stärke. Es halluziniert nicht flächendeckend, aber der dokumentierte Tool-Use-Fall wiegt schwer und disqualifiziert das Modell für unbeaufsichtigte faktenkritische Agenten-Jobs. Auch in Security-Fragen fehlt ihm stellenweise die letzte Schärfe bei Priorisierung und Vollständigkeit. Wer es als lokalen Assistenten für DevOps, CLI, strukturiertes Schreiben, Analyse und allgemeine Wissensarbeit einsetzt, bekommt viel Modell pro Watt und pro Gigabyte. Wer es als autonome Wahrheitmaschine einspannt, provoziert den Moment, in dem es zu selbstsicher ergänzt, was es nur hätte zitieren dürfen.

Zur Weights-Provenienz bleibt ein sachlicher Vorbehalt: Die Gewichte stammen von Alibaba/Qwen, sind unter Apache 2.0 offen verfügbar, tragen aber ein mittleres Provenienz-Risiko wegen chinesischer Herkunft und der dortigen Sicherheitsgesetzgebung. Für lokale Nutzung ist das kein sofortiger Showstopper. Für Unternehmen mit strengen Souveränitätsvorgaben ist es trotzdem keine Fußnote, sondern Teil der Beschaffungsentscheidung.

Diese Auswertung wurde automatisch auf Grundlage der Benchmark-Daten generiert. Eingesetztes Modell: GPT 4.5 von OpenAI. Die Rohdaten und die vollständige Methodik sind im GitHub-Projekt dokumentiert.