Jeder Report beleuchtet ein Modell in der Tiefe: Testergebnisse je Disziplin, Stärken-Schwächen-Profil, politischer Kompass und eine klare Handlungsempfehlung für den produktiven Einsatz. Die Analysen basieren ausschließlich auf reproduzierbaren CrucibleMark-Benchmarks.
GLM-5.3 ist Z.AIs Frontier-Coding-Flaggschiff vom 14. August 2026 mit 744 Milliarden Gesamt- und 40 Milliarden aktiven Parametern. Alle Fortschritte gegenüber GLM-5.2 stammen aus Post-Training: Terminal-Bench 3.0 stieg von 4,6 auf 28,3 Prozent, ExploitBench mehr als verdoppelt. Reasoning ist verpflichtend aktiv, Kontext eine Million Tokens. Gewichte seit 28.08.2026 unter der bespoke GLM-5.3-Lizenz (MIT-artig, $10B-MaaS-Security-Review-Gate) verfügbar; chinesische Cloud-Infrastruktur.
Claude Opus 5.5 ist Anthropics neues Frontier-Modell: Seit dem 22. September 2026 ersetzt es Opus 5 und soll laut Hersteller Fable-5.1-Leistung bei 40 Prozent geringeren typischen Workload-Kosten erreichen. Adaptives Thinking ist standardmäßig aktiv und per Effort-Stufe steuerbar, das Kontextfenster fasst eine Million Tokens mit 128.000 Output-Tokens. Die Reasoning-Klassifikator-Fehler aus Opus 5 sind behoben, nur die Metacognition-Verweigerung bleibt.
Als offene Vorschau auf die Qwen4-Architektur bringt Alibaba mit Qwen3.8-Flash-Next ein experimentelles MoE-Modell, das NVIDIA als NVFP4-Quantisierung für lokale Inferenz aufbereitet hat. Von rund 180 Mrd. Parametern auf der Platte aktivieren pro Token nur etwa 6 Mrd., bei Text-, Bild- und Videoeingabe und 262.000 Tokens nativem Kontext. Lizenz: kombinierte NVIDIA- und Qwen-Lizenz. Wichtig: Diese Preview ist nicht die gehostete API Qwen3.8-Flash.
Diese EXL3-Quantisierung von Z.AIs GLM-5.3-Flash läuft über TensorFold, eine junge offene Inferenz-Engine mit verlustfreiem spekulativem Decoding: beschleunigte Draft-Tokens entsprechen exakt dem Ergebnis serieller Dekodierung. Das MoE aktiviert rund 18 Milliarden von 320 Milliarden Parametern pro Token, verarbeitet Text, Bild und Video, und die Gewichte stehen unter MIT-Lizenz.
Claude Opus 4.8 ist ein proprietäres, multimodales Foundation Model von Anthropic. Es ist als Cloud-API verfügbar und zeichnet sich durch seine agentischen Fähigkeiten und ein extrem großes Kontextfenster von einer Million Token aus. Das Modell kann sowohl Text als auch Bilder verarbeiten und zeigt eine hohe Leistung bei der Verwendung von externen Tools. Es ist für komplexe, mehrstufige Aufgaben und die Orchestrierung von Agenten konzipiert.
Swift Qwen 3.8 27B ist UkisAIs Reasoning-Effizienz-Finetune auf Qwen 3.8 27B: bis zu 58 Prozent weniger Thinking-Tokens bei unter einem Prozent Performance-Verlust und rund doppelt so hoher Durchsatz auf Reasoning-Aufgaben. NVFP4-Quantisierung mit 262.000 Tokens Kontext, MTP-Head für Speculative Decoding und dokumentiertem Tool-Use — Lizenz mit kommerzieller ARR-Schwelle.
320 Milliarden Gesamt-, 18 Milliarden aktive Parameter und MIT-Lizenz: GLM-5.3-Flash ist die offene Mid-Tier-Variante von Z.AIs 5.3-Familie für Coding- und Agentic-Workloads, mit nativem Bild- und Video-Verständnis und einer Million Tokens Kontext. Hybride Attention hält den Inference-Footprint trotz Gesamtgröße moderat. Reasoning ist verpflichtend aktiv, Gewichte laufen lokal — das Souveränitätsrisiko der Cloud entfällt.
Diese abliterierte Community-Variante von Qwen 3.8 27B entfernt die Sicherheits-Refusals aus den Gewichten und macht sie damit für Sicherheitsforschung und Red-Teaming nutzbar — bei einem MMLU-Verlust von rund zwei Punkten laut Hersteller. Lokal betreibbar unter Apache-2.0, mit 262.000-Token-Kontext und Bild- sowie Video-Eingabe.
Kimi K3 ist seit Juli 2026 Moonshot AIs Frontier-Flaggschiff mit 2,8 Billionen Gesamtparametern als bislang grösstes Open-Weights-Modell der Welt. Die Stable-LatentMoE-Architektur aktiviert pro Token nur 16 Milliarden Parameter aus 896 Experten, das Kontextfenster umfasst 1.000.000 Tokens für langhorizontige Agentic-Workflows. Kimi Delta Attention und Attention Residuals sollen die Skalierungseffizienz gegenüber dem Vorgängermodell deutlich verbessern.
Claude Opus 5 ist Anthropics Opus-Flagship vom 24. Juli 2026, positioniert als Alltagsmodell zwischen Opus 4.8 und dem teureren Fable 5. Das Cloud-only-Modell unter US-Jurisdiktion bietet 1 Million Tokens Kontext, 128.000 Tokens Output und adaptive Reasoning-Steuerung mit fünf Effort-Stufen (low/medium/high/xhigh/max). Mid-Conversation-Tool-Wechsel ohne Cache-Verlust und Fast-Mode mit 2,5-facher Geschwindigkeit ergänzen das Angebot.
Xiaomi MiMo V2.5 Pro ist Xiaomis Flaggschiff mit 1,02 Billionen Gesamt- und 42 Milliarden aktiven Parametern für Frontier-Reasoning und agentische Workflows. Die hybride Attention-Architektur reduziert den KV-Cache-Speicher deutlich, das Kontextfenster umfasst eine Million Tokens. Nativ omnimodal für Text, Bild, Video und Audio, unter MIT-Lizenz voll kommerziell nutzbar.
Mit 1,02 Billionen Gesamtparametern ist MiMo-V2.6-Pro-RL von Xiaomi das derzeit größte Modell mit vollständig offenen Gewichten. Pro Token aktivieren rund 42 Milliarden, trainiert in einem einzigen gemischten Reinforcement-Learning-Lauf über Coding-, Agenten- und Sicherheitsaufgaben; das dazugehörige Live-Dashboard des Trainings sorgte für ungewöhnliche Transparenz. Omnimodal für Text, Bild, Video und Audio, Kontext bis 1 Million Tokens, MIT-Lizenz.
Qwen3.8 Flash ist Alibabas cloud-only Multimodal-Reasoning-Modell mit einer Million Tokens Kontext und 0,16 / 0,47 USD pro Million Tokens. Verarbeitet Text, Bild und Video mit Tool Calling, erreichbar über Alibaba Cloud und OpenRouter. Die offene Basis Qwen3.8-Flash-Next ist verfügbar, der getestete Build ist Cloud-only. Architektur und Parameteranzahl sind nicht offengelegt, Daten laufen über chinesische Jurisdiktion.
Qwen3.8-27B ist Alibabas dichte 27,8-Milliarden-Parameter-Variante der Qwen3.8-Familie (14. August 2026), nativ multimodal mit Vision-Encoder für Text, Bild und Video unter Apache-2.0-Lizenz. Die 64-Layer-Hybrid-Architektur aus Gated-DeltaNet- plus Gated-Attention-Blöcken plus Multi-Token-Prediction liefert 262.144 Tokens Kontext (erweiterbar auf rund eine Million via YaRN), konfigurierbares Reasoning (xhigh/medium/low) und optionalen No-Thinking-Modus.
Muse Spark 1.2 ist Metas proprietäres Frontier-Modell vom 5. August 2026 für Coding und agentische Workflows, veröffentlicht von Meta Superintelligence Labs zusammen mit dem Terminal-Agenten Muse Code, mit dem es co-trainiert wurde. Das Cloud-only-Modell unter US-Jurisdiktion (CLOUD Act) verarbeitet Text, Bild, Video und Audio bei 1.048.576 Tokens Kontext (max. 131.072 Output) und bietet konfigurierbaren Reasoning-Effort bis ‘xhigh’.
Wo die Opus-Klasse zu teuer ist, springt Claude Sonnet 4.6 ein: Coding, Computer Use und agentische Workflows auf annäherndem Opus-Niveau, zum niedrigeren Sonnet-Preis. Das Modell arbeitet mit adaptivem Thinking in drei Effort-Stufen, verarbeitet Text, Bilder und PDF-Dokumente und bietet ein seit März 2026 allgemein verfügbares Kontextfenster von einer Million Tokens.
Kimi K2.6 ist Moonshot AIs multimodales Modell für agentische Aufgaben, Coding und toolgestützte Workflows mit nativem Eingang für Text, Bild und Video. Die MoE-Architektur aktiviert pro Token nur 32 Milliarden der insgesamt eine Billion Gesamtparameter, das Kontextfenster umfasst 256.000 Tokens. Als Open-Weights-Modell lokal oder über Cloud-API verfügbar, mit chinesischer Jurisdiktion als wesentlichem Cloud-Risikofaktor.
Claude Haiku 5.5 ist seit Anfang Oktober 2026 Anthropics schnellstes Modell der 5.5-Familie, gebaut für hochvolumige Aufgaben wie Zusammenfassungen, Klassifikation, Browser-Nutzung und Subagenten. Der Kontext wächst von 200.000 auf eine Million Tokens, der Output auf 128.000, die Laufkosten liegen im Schnitt rund 75 Prozent unter Haiku 4.5. Neu in der Haiku-Klasse: adaptives Denken mit Effort-Steuerung. Text und Bild als Eingang, proprietär, nur über die API.
MiniMax M3 ist ein multimodales MoE-Modell mit einem Kontextfenster von einer Million Tokens und Fokus auf agentische Workflows, Coding und Tool-Use. Von 428 Milliarden Gesamtparametern sind pro Token nur 23 Milliarden aktiv, das Modell verarbeitet Text, Bild und Video als Input. Die chinesische Herkunft erfordert bei Cloud-Nutzung eine separate Bewertung des Datenschutz-Risikos.
Gemini 3.5 Flash ist Googles schnellste Frontier-Klasse und liefert nahezu Pro-Level-Leistung bei Flash-Preisen. Mit Dynamic Thinking in vier konfigurierbaren Stufen, einem Kontextfenster von einer Million Tokens und vollständiger Multimodalität für Text, Bilder, Audio, Video und PDF eignet sich das Modell für agentische Workflows, Coding und Workloads mit hohem Durchsatz.
Claude Sonnet 5 ist seit Ende Juni 2026 der neue Standard für Free- und Pro-Nutzer. Das Nachfolgemodell von Sonnet 4.6 bringt Adaptive Thinking als Default-Verhalten, Geschwindigkeit nahe Opus, und verarbeitet Text und Bilder mit einem 1.000.000-Token-Kontextfenster. Die Sicherheit ist deutlich verbessert, mit besserer Resistenz gegen Prompt-Injection und weniger Halluzinationen.
GPT-5.5 ist OpenAIs Frontier-Modell für komplexe professionelle Workloads und agentisches Coding mit einem Kontextfenster von 1,05 Millionen Tokens. Das Modell arbeitet mit internem Chain-of-Thought-Reasoning, das nicht in der API-Antwort sichtbar wird, und ist auf Forschung, Coding und anspruchsvolle Produktivität ausgelegt. Verfügbar ausschliesslich über die OpenAI-API.
Kimi K2.5 ist Moonshot AIs Flaggschiff mit aktivem Chain-of-Thought-Reasoning, multimodalem Eingang für Text und Bild sowie Fokus auf Reasoning und agentische Aufgaben. Die MoE-Architektur aktiviert pro Token nur 32 Milliarden der insgesamt eine Billion Gesamtparameter, das Kontextfenster umfasst 128.000 Tokens. Als Open-Weights-Variante lokal oder über die Cloud verfügbar, mit chinesischer Jurisdiktion als Cloud-Risikofaktor.
Qwen3.8-2.4T-A95B ist Alibabas erste Open-Weights-Veröffentlichung auf Qwen-Max-Niveau (12. August 2026), ein fein granulare Mixture-of-Experts-Modell mit 2,4 Billionen Gesamt- und 95 Milliarden aktiven Parametern pro Token. Lizenz: eigene ‘Qwen3.8-Max License’. Das Modell verarbeitet Text in 262.144 Tokens Kontext (erweiterbar auf rund eine Million) bei verpflichtendem Reasoning-Modus (low/high/xhigh) und Hybrid-Attention aus Gated-DeltaNet plus Gated-Attention.
GLM-4.6 ist Zhipu AIs Frontier-Sprachmodell mit Schwerpunkt auf chinesischer und englischer Sprach-kompetenz. Das Modell arbeitet mit einem Kontextfenster von 128.000 Tokens und unterstützt Tool-Use für agentische Workflows. Aufgrund der chinesischen Hersteller-Jurisdiktion ist eine gesonderte Datenschutz-Bewertung erforderlich, die kommerzielle Nutzung unterliegt Einschränkungen.
Ornith 1.5 35B-A3B ist seit dem 19. August 2026 das mittlere Modell von DeepReinforces offener Ornith-Familie. Das MoE aktiviert nur rund 3 Mrd. von 35 Mrd. Parametern pro Token, schlägt aber laut Hersteller das ähnlich große Qwen 3.6-35B auf allen Coding- und Agentic-Benchmarks deutlich. Trainiert mit einem geschlossenen Selbstverbesserungs-Loop, der eigene Aufgaben, Scaffolds und Lösungen gemeinsam optimiert. Lizenz: MIT, komplett offen und kommerziell nutzbar.
Qwen 3.7 Max ist Alibabas proprietäres Flagship-Modell der Qwen-3.7-Serie mit Fokus auf agentische Coding-Workflows und autonome Betriebsdauer von bis zu 35 Stunden. Das Modell arbeitet mit einem Kontextfenster von einer Million Tokens, konfigurierbarem Thinking-Modus und nativer Tool-Use-Unterstützung. Ausschliesslich über Cloud-APIs verfügbar, die chinesische Jurisdiktion ist zu beachten.
Was die FP8-Block-Quantisierung Ornith-1.0-35B-FP8 leistet: ein Open-Weight-MoE mit nur etwa 3 von 35 Milliarden aktiven Parametern pro Token läuft auf einer einzelnen GPU und bringt 262.144 Tokens Kontext, natives Thinking und Tool-Calling mit. DeepReinforce hat das Modell so trainiert, dass es seine eigene Agent-Vorgehensweise mitlernt statt mit einem festen Regelwerk zu arbeiten. MIT-Lizenz, kommerzielle Nutzung und Fine-Tuning ohne Auflagen.
Gemini 3.8 Flash ist Googles intelligentestes Flash-Modell (GA seit 2. September 2026), gebaut auf 3.7 Flash für Long-Horizon-Software-Engineering, autonome Agenten und komplexe Unternehmens-Workflows. Drei Thinking-Levels (low, medium, high, Standard medium) steuern die Reasoning-Tiefe; eine Million Tokens Kontext und 65.536 Output-Tokens fassen ganze Repositorys in einer Anfrage. Intro-Preis 0,75 / 3,75 USD pro Million Tokens bis Jahresende, danach 1,50 / 7,50.
Qwen 3.6 27B ist Alibabas dichtes Open-Weights-Modell mit 27,8 Mrd. aktiven Parametern, das laut Hersteller das eigene MoE-Geschwistermodell 35B-A3B in Coding-, Agent- und Vision-Tests übertrifft. Veröffentlicht am 22. April 2026 unter Apache 2.0 für lokalen Betrieb, kombiniert die Architektur hybride Attention mit nativer Multi-Token-Prediction für spürbaren Durchsatz. Diese Card erfasst die NVFP4-Variante — ein Performance-Update für vLLM auf NVIDIA Blackwell: NVFP4 ist ein 4-Bit-Floating-Point-Format mit zweistufiger Mikroblock-Skalierung (E4M3 pro 16-Werte-Block plus FP32-Per-Tensor-Skala), das den Speicherbedarf gegenüber FP16 um ~3,5× und gegenüber FP8 um ~1,8× senkt bei unter 1 % Genauigkeitsverlust. Vorgängerprofil ohne NVFP4: qwen3_6-27B-pre025 (Card qwen3_6-27B-pre025–VSPK.json, Tests 2026-07-09, vLLM vor 0.25.1).
GLM-5.2 ist Z.AIs aktuelles Flaggschiff mit 744 Milliarden Gesamt- und 40 Milliarden aktiven Parametern in MoE-Architektur, optimiert für komplexe Engineering-Workflows und langlaufende Coding-Aufgaben. Das Kontextfenster umfasst eine Million Tokens, die Gewichte sind unter MIT-Lizenz als Open-Weights-Modell verfügbar.
Qwen 3.6 Plus ist Alibabas proprietäres Flagship-Modell der Qwen-3.6-Serie mit hybrider MoE-Architektur und Schwerpunkt auf agentisches Coding und multimodale Verarbeitung. Mit einem Kontextfenster von einer Million Tokens, konfigurierbarem Thinking-Modus und nativen Agentic-Fähigkeiten richtet sich das Modell an anspruchsvolle produktive Anwendungen. Ausschliesslich über Cloud-APIs verfügbar, die chinesische Jurisdiktion ist zu beachten.
Solar Pro 4 ist Upstages am 6./10. August 2026 veröffentlichtes, agentisches Flaggschiff-Modell mit undisclosed Parameterzahl. Es ist als proprietärer Cloud-Service verfügbar (zusätzlich als dediziertes/On-Premises-Deployment für Enterprise-Kunden) und für mehrstufige Agenten-Workflows über Dokumente, Terminals und Tool-Aufrufe hinweg konzipiert. Das Modell bietet ein Kontextfenster von 524.288 Tokens mit bis zu 131.072 Output-Tokens, unterstützt Englisch, Koreanisch und Japanisch für Input und Output, und erlaubt eine konfigurierbare ‘Reasoning Effort’ (high für Tiefenanalyse, low für Echtzeit-Chat-Geschwindigkeit).
Eine Million Tokens Kontext für Text, Bild, Audio und Video in einem Modell: Qwen3.8-Omni-Flash (ab 18. September 2026) ist Alibabas erstes omni-modales Modell mit agentischem Fokus — es versteht mehrstündiges Audio- und Videomaterial, plant Aufgaben und führt sie per Tool-Calling aus. Bei 0,15 / 0,47 USD pro Million Tokens senkt es die Audio-Kosten laut Alibaba um über 98 Prozent gegenüber dem Vorgänger. Output ist reiner Text, die Gewichte bleiben geschlossen.
Occamy 1.0 von Accio-Lab ist ein Agentic-Derivat des Qwen3.6-35B-A3B-Checkpoints, konzentriert auf langhorizontige Co-Work-Sessions mit Tools, strukturierten APIs und persistentem Zustandstracking. Die NVFP4-Quantisierung ist selektiv: nur die gerouteten Experten sind quantisiert, während Aufmerksamkeit, Router, Embeddings und Output-Head in BF16 bleiben. Das 35-Milliarden-Parameter-MoE aktiviert pro Token nur 3 Milliarden Parameter und unterstützt 262.000 Tokens Kontext. Apache-2.0-Lizenz und dokumentierte Provenienz mit Rezept-, Daten- und Validierungs-Artefakten.
Der kleinere Bruder der MiMo-V2.6-Reihe setzt auf Effizienz statt Maximalgröße: MiMo-V2.6-Flash-RL von Xiaomi aktiviert rund 15 Milliarden von 309 Milliarden Parametern pro Token und trifft dabei bei Agenten- und Coding-Aufgaben fast das Flaggschiff Pro, zu rund einem Drittel der API-Preise. Omnimodal für Text, Bild, Video und Audio, Kontext bis 1 Million Tokens, offene Gewichte unter MIT-Lizenz.
Google DeepMind unterscheidet Gemma 4 26B-A4B Instruct bewusst von früheren Gemma-Generationen: unter echter Apache-2.0-Lizenz, also ohne restriktive Gemma-Nutzungsbedingungen. Das Open-Weight-MoE aktiviert pro Token nur etwa 3,8 von 25,2 Milliarden Parametern und unterstützt Multi-Token-Prediction für schnelleres Decoding. Multimodalität für Text und Bild, 262.144 Tokens Kontext, natives Function-Calling und konfigurierbarer Thinking-Modus runden das Profil ab.
Auf Geschwindigkeit getrimmt: Claude Haiku 4.5 ist Anthropics kompaktes Modell für Echtzeit-Interaktionen und API-Pipelines mit hohem Durchsatz. Es verarbeitet Text- und Bildeingaben bei einem Kontextfenster von 200.000 Tokens, unterstützt Tool-Aufrufe und liefert Antworten zu einem Preis von 1 US-Dollar pro Million Input- und 5 US-Dollar pro Million Output-Tokens. Anthropic hat das Retirement für den 15. Oktober 2026 angekündigt.
Mistral 3 Large ist das offene Frontier-Modell aus Mistral AIs dritter Generation mit nativem Text- und Bildeingang und einem Kontextfenster von 256.000 Tokens. Die Sparse-MoE-Architektur vereint 675 Milliarden Gesamtparameter mit 41 Milliarden aktiven Parametern pro Token. Unter Apache-2.0-Lizenz verfügbar, aus einem europäischen Anbieter-Umfeld mit DSGVO-Konformität.
DeepSeek V4.1 Flash ist die kompakte Variante der DeepSeek-V4.1-Familie mit 552 Mrd. Gesamtparametern und 16 Mrd. aktiven Parametern pro Token. Das Modell wird unter der MIT-Lizenz als offene Gewichte mit Bild- und Textverarbeitung veröffentlicht. Sein 1-Million-Token-Kontextfenster ist für lange Agenten-Workflows ausgelegt, erfordert aber aufgrund seiner Größe eine Server-Infrastruktur für den lokalen Betrieb.
Grok 4.6 ist xAIs Frontier-Modell vom 12. August 2026 für Coding, lange Agent-Sessions und Wissensarbeit — proprietär, Cloud-only, unter US-Jurisdiktion (CLOUD Act). Das Modell verarbeitet Text und Bild bei einem Kontext von 500.000 Tokens und bietet vier Reasoning-Stufen (low/medium/high/xhigh). Ein optionaler Priority-Processing-Service-Tier verdoppelt die API-Kosten für kürzere Latenz.
Im Anlesen acht, im Schreiben sechzehn der 552 Milliarden Backbone-Parameter aktiv: DeepSeek-V4.1-Flash verschiebt Rechenlast dorthin, wo Agenten sie am häufigsten berühren. Diese Karte beschreibt ein Community-Quant als EXL3-Variante des offiziellen MIT-lizenzierten Modells vom 10. September 2026 — multimodal für Text und Bild, eine Million Tokens Kontext, dank Quantisierung auf geteiltem Serverspeicher betreibbar.
Ministral 3 14B ist das Top-Modell der Ministral-3-Familie für lokale Assistenten- und Analyse-Workloads. 13,9 Mrd. Dense-Parameter, 256.000 Tokens Kontext, multimodale Eingabe für Text und Bild, nativem Function-Calling und JSON-Output. Apache-2.0-lizenziert und als Unsloth-GGUF-Variante lokal voll betreibbar — der bisher leistungsfähigste Ministral ohne Cloud-Zwang.
Gemini 3.7 Flash ist ein schnelles, kosteneffizientes und hochskalierbares multimodales Modell von Google. Es wurde für Aufgaben mit hoher Frequenz und geringer Latenz entwickelt und verfügt über ein Kontextfenster von einer Million Token. Das Modell verarbeitet Text, Bilder, Audio sowie Video und unterstützt die Nutzung externer Tools, was es vielseitig für Agenten-Anwendungen macht.
Occamy 1.0 von Accio-Lab ist ein Agentic-Derivat des Qwen3.6-35B-A3B-Checkpoints, konzentriert auf langhorizontige Co-Work-Sessions mit Tools, strukturierten APIs und persistentem Zustandstracking. Die NVFP4-Quantisierung ist selektiv: nur die gerouteten Experten sind quantisiert, während Aufmerksamkeit, Router, Embeddings und Output-Head in BF16 bleiben. Das 35-Milliarden-Parameter-MoE aktiviert pro Token nur 3 Milliarden Parameter und unterstützt 262.000 Tokens Kontext. Apache-2.0-Lizenz und dokumentierte Provenienz mit Rezept-, Daten- und Validierungs-Artefakten.
GPT-OSS 120B ist seit August 2025 OpenAIs grösstes Open-Weights-Modell, veröffentlicht unter Apache-2.0-Lizenz mit freier kommerzieller Nutzung. Das MoE bündelt 116,8 Milliarden Gesamt- bei nur 5,1 Milliarden aktiven Parametern pro Token und läuft dank nativer MXFP4-Quantisierung auf einer einzelnen High-Memory-GPU. Drei Reasoning-Stufen und natives Tool-Use im Harmony-Format runden das Profil ab.
Qwen 3.5 35B-A3B ist ein multimodales MoE-Modell von Alibaba mit 35 Milliarden Gesamt- und 3 Milliarden aktiven Parametern auf einer hybriden Architektur. Diese Q4-Quantisierung von Unsloth ermöglicht effizienten lokalen Betrieb, das Kontextfenster umfasst 262.000 Tokens. Mit optionalem Thinking-Modus, nativem Tool-Use und Vision-Fähigkeit über separate Multimodal-Projektor-Datei.
Kimi K2.7 Code ist das coding-spezialisierte Agenten-Modell von Moonshot AI aus der K2-Familie, optimiert für langfristige Software-Engineering-Workflows. Die MoE-Architektur aktiviert pro Token nur 32 Milliarden der insgesamt eine Billion Gesamtparameter, das Kontextfenster umfasst 256.000 Tokens. Multimodaler Eingang für Text, Bild und Video, Always-on-Thinking-Modus und Tool-Use-Unterstützung. Unter Modified-MIT-Lizenz als Open-Weights-Modell verfügbar.
Mistral Medium 3.5 ist Mistral AIs Frontier-Modell mit Fokus auf agentische Workflows und Coding. Mit 128 Milliarden Parametern arbeitet das Modell bei einem Kontextfenster von 256.000 Tokens und unterstützt multimodale Eingaben für Text und Bild. Als Open-Weights-Modell unter Modified-MIT-Lizenz lokal oder über die Cloud-API nutzbar, aus einem europäischen Anbieter-Umfeld mit DSGVO-Konformität.
Qwen 3.6 35B-A3B ist Alibabas MoE-Modell mit 35 Mrd. Gesamt- und rund 3 Mrd. aktiven Parametern pro Token, veröffentlicht am 22. April 2026 unter Apache 2.0 mit offenen Gewichten für lokalen Betrieb. Die hybride Attention-Architektur kombiniert klassische Aufmerksamkeit mit linearer Variante, Multi-Token-Prediction beschleunigt die Generierung spürbar.
Qwen 3 Coder Next ist ein Coding-spezialisiertes Open-Weights-MoE-Modell von Alibaba mit 80 Milliarden Gesamt- und 3 Milliarden aktiven Parametern. Die Q4-Quantisierung reduziert den Speicherbedarf für lokale Inferenz deutlich, das Kontextfenster umfasst 262.000 Tokens. Unter Apache-2.0-Lizenz auf Workstation-Hardware lokal betreibbar, optimiert für Coding-Agents und grosse Codebasen.
GLM-4.7 ist das Flagship-Modell von Zhipu AI mit 355 Milliarden Gesamt- und 32 Milliarden aktiven Parametern in MoE-Architektur, optimiert für agentisches Coding, Reasoning und bilinguale Aufgaben in Chinesisch und Englisch. Das Modell unterstützt schaltbares Thinking-System und ist als Open-Weights-Variante lokal oder über Cloud-Schnittstellen einsetzbar.
Grok 4.5 ist seit Juli 2026 das aktuelle Flaggschiff von xAI mit nativem Echtzeit-Zugriff auf Web- und X-Daten, 500.000 Tokens Kontext und multimodaler Text- und Bildeingabe. Reasoning läuft serverseitig immer mit und wird konfigurierbar über Reasoning-Effort-Level gesteuert, ohne sichtbare Chain-of-Thought-Tags im Antworttext. Function-Calling, strukturierte Ausgaben und Prompt-Caching ergänzen das Profil für Coding- und Agentic-Workflows.
GPT-5.6 Luna ist die günstigste und schnellste Stufe von OpenAIs dreistufiger GPT-5.6-Serie (Sol, Terra, Luna) für hochvolumige, latenzsensitive Aufgaben — seit dem 30. Juli 2026 bei 0,20 / 1,20 USD pro Million Tokens, rund 80 Prozent unter Sol. Die 1-Million-Token-Kontext-Variante mit 128.000 Output-Tokens liefert laut OpenAI Frontier-nahe Agentic-Leistung, verliert aber bei Kontext-Recall jenseits von 512.000 Tokens deutlich gegenüber den größeren Geschwistern.
Diese ARA-Abliterated-Variante entfernt die Sicherheitsfilter von Googles Gemma 4 26B-A4B MoE und bringt das Modell als Q5-GGUF auf Workstation-Hardware. Die Architektur bleibt mit 25 Milliarden Gesamt- und rund 4 Milliarden aktiven Parametern pro Token effizient; 256.000 Tokens Kontext, Apache-2.0-Lizenz. Thinking-Status und multimodale Fähigkeiten sind in der Variante noch nicht sauber verifiziert — für Forschung und Red-Teaming gedacht, nicht als Endkonsumenten-Assistant.
GLM-5.1 ist Z.AIs Post-Training-Upgrade mit 754 Milliarden Gesamt- und 40 Milliarden aktiven Parametern in MoE-Architektur, optimiert für langfristige agentische Coding-Workflows mit bis zu acht Stunden autonomer Ausführung. Das Kontextfenster umfasst 200.000 Tokens, die Gewichte sind unter MIT-Lizenz als Open-Weights-Modell verfügbar.
Mistral Small 4 ist das kompakte Open-Weights-Modell von Mistral AI für allgemeine und agentische Aufgaben. Die MoE-Architektur aktiviert pro Token nur 6,5 Milliarden der insgesamt 119 Milliarden Parameter, das Kontextfenster umfasst 256.000 Tokens und das Modell verarbeitet Text- und Bildeingaben. Unter Apache-2.0-Lizenz lokal oder über die Mistral-API nutzbar, aus einem europäischen Anbieter-Umfeld.
Signal 3.8 27B von AgentionAI ist ein Token-Effizienz-Finetune auf Qwen 3.8 27B: per Selbst-Destillation erzeugt das Modell rund 57 Prozent weniger Antwort-Tokens und halb so lange Denk-Ketten bei gleicher oder besserer Qualität. Apache-2.0-lizenziert in einer mittleren Q5-Quantisierung mit 262.000-Token-Kontext und lokaler Inferenz.
Gemma 4 31B als Cloud-API-Variante von Google DeepMind, mit nativem Zugang zu Text-, Bild-, Audio- und Video-Eingaben ohne lokale Hardware-Anforderungen. Unter Apache-2.0-Lizenz stehen die Gewichte auch für lokales Deployment zur Verfügung, diese Variante beschreibt jedoch die Cloud-Nutzung mit einem Kontextfenster von 128.000 Tokens.
Googles Frontier-Reasoning-Modell mit Sparse-MoE-Architektur und konfigurierbarem Extended Thinking. Gemini 2.5 Pro arbeitet mit einem Kontextfenster von einer Million Tokens, verarbeitet nativ Text, Bilder, Audio und Video und ist exklusiv über die Google Cloud API zugänglich. Der Fokus liegt auf komplexem Reasoning und anspruchsvollen Coding-Aufgaben.
Qwen 3.5 397B A17B ist Alibabas erstes nativ multimodales Open-Weights-Frontier-Modell mit Verarbeitung von Text, Bild und Video in einem einzigen Modell. Die hybride Architektur aus Gated DeltaNet und Sparse MoE aktiviert pro Token nur 17 Milliarden der insgesamt 397 Milliarden Gesamtparameter, das Kontextfenster umfasst 256.000 Tokens. Unter Apache-2.0-Lizenz vollständig kommerziell nutzbar.
MiniMax M2.7 ist ein chinesisches Frontier-Generalist-Modell mit einem Kontextfenster von 205.000 Tokens für umfangreiche Dokumente und mehrsprachige Anwendungen. Die MoE-Architektur liefert hohe Leistung für allgemeine Sprach- und Reasoning-Aufgaben, das Modell ist als Cloud-Variante verfügbar und auf produktive Anwendungen ausgelegt. Bei Cloud-Nutzung greift die chinesische Jurisdiktion mit den entsprechenden Datenschutzimplikationen.
Instruct-Profil der Q6_K_XL-GGUF-Distribution von Gemma 4 12B Instruct (Unsloth) für lokales Deployment auf der DGX Spark: identische Gewichte wie das Basis-Profil, aber mit serverseitig deaktiviertem Reasoning (–reasoning off). 12 Milliarden dichte Parameter, 256.000 Tokens Kontext, Apache-2.0-Lizenz. Das Profil existiert nach der Coverage-Regel des Political-Compass-Moduls als Ersatzlauf, weil der Thinking-Lauf des Basis-Profils unter Truncations litt; es läuft als eigenständiger Benchmark-Eintrag.
DeepSeek V4 Flash ist die effizienzoptimierte Variante aus der V4-Familie: Hybrid-Attention-MoE mit 284 Milliarden Gesamtparametern, von denen pro Token nur 13 Milliarden aktiv sind. Das Modell arbeitet mit einem Kontextfenster von einer Million Tokens, unterstützt drei Reasoning-Modi und ist unter MIT-Lizenz als Open-Weight-Modell lokal betreibbar. Die chinesische Hersteller-Jurisdiktion erfordert bei Cloud-Nutzung eine separate Bewertung.
Eine Q6_K_XL-GGUF-Distribution von Gemma 4 12B Instruct für lokales Deployment: 12 Milliarden dichte Parameter, encoder-freie Unified-Multimodal-Architektur mit Text-, Bild-, Audio- und Video-Input. Apache-2.0-Lizenz, 256.000 Tokens Kontext, kompakter als Q4-Varianten bei moderatem Mehrspeicher. Audio- und Video-Unterstützung hängen lokal vom passenden Multimodal-Projektor ab.
DeepSeek V4 Pro ist das Flaggschiff der V4-Linie und auf Reasoning, Coding und agentische Workflows ausgelegt. Die Hybrid-Attention-MoE-Architektur vereint 1,6 Billionen Gesamtparameter mit 49 Milliarden aktiven Parametern pro Token und einem Kontextfenster von einer Million Tokens. Das Modell ist unter MIT-Lizenz als Open-Weight-Modell verfügbar, wobei die chinesische Jurisdiktion bei Cloud-Nutzung eine separate Datenschutz-Bewertung erforderlich macht.
NVIDIA Nemotron 3 Ultra ist NVIDIAs Frontier-Reasoning-Modell mit 550 Milliarden Gesamt- und 55 Milliarden aktiven Parametern auf hybrider Mamba-Transformer-MoE-Architektur mit LatentMoE-Routing und MTP-Schichten. Das Kontextfenster umfasst eine Million Tokens, das Reasoning ist konfigurierbar. Native Tool-Aufrufe und Agentic-Orchestrierung, unter NVIDIA Open Model License als Open-Weights-Modell verfügbar.
Mit 350 Output-Tokens pro Sekunde ist Gemini 3.5 Flash-Lite das schnellste Modell von Googles 3.5-Serie, seit dem 21. Juli 2026 allgemein verfügbar. Es zielt auf hochvolumige, latenzsensitive Workloads: Übersetzung, Klassifikation und leichte agentische Aufgaben bei 0,30 / 2,50 USD pro Million Tokens. Eine Million Tokens Kontext, multimodaler Input aus Text, Bild, Video und Audio, native Tool-Unterstützung. Harte Reasoning-Aufgaben sind nicht seine Domäne.
Was die meisten Edge-Modelle nicht können: Text, Bild, Audio und Video in einem einzigen Gewichtspaket verarbeiten, ohne separate Multimodal-Projektor-Datei. Gemma 4 E4B nutzt Per-Layer-Embeddings für 4,5 Milliarden effektive Parameter und läuft mit rund 5 Gigabyte VRAM auf Edge-Hardware. Konfigurierbare Thinking-Modi und 128.000-Token-Kontext unter Apache-2.0-Lizenz runden das Profil ab.
Diese Community-Fine-Tune-Variante von Qwen 3.6 35B-A3B entfernt die Sicherheitsfilter und liefert ungefilterte Antworten ohne Refusals. Von 35 Milliarden Gesamtparametern der MoE-Architektur sind pro Token nur 3 Milliarden aktiv, das Kontextfenster umfasst 262.000 Tokens. Mit Q8-Quantisierung nahezu voller Qualität lokal betreibbar unter Apache-2.0-Lizenz, mit multimodaler Verarbeitung für Text, Bild und Video.
Muse Glimmer 30B (10. August 2026) ist Meta Superintelligence Labs’ erstes offenes Modell unter Apache-2.0-Lizenz und läuft ohne EU-Ausschlussklausel für lokalen Betrieb. Das dichte 29,6-Milliarden-Paramter-Modell mit zusätzlichem 1,8-Milliarden-Paramter-Vision-Encoder verarbeitet Text und Bild in 131.072 Tokens Kontext und liefert mit DFlash-Speculative-Decoder bis zu 233 Tokens/Sekunde auf einer Consumer-GPU — Workstation-Klasse mit echter Desktop-Tauglichkeit.
Ministral 3 8B von Mistral AI ist das mittlere Mitglied der Ministral-3-Familie und positioniert sich als Edge-Modell mit echtem Agent-Potenzial. 8,8 Mrd. Dense-Parameter, 256.000 Tokens Kontext, multimodale Eingabe für Text und Bild, nativem Function-Calling und JSON-Output — Apache 2.0, lokal als Unsloth-GGUF betreibbar.
Grok 4.7 ist xAIs Frontier-Flaggschiff vom 21. September 2026, mit größerer Basis als Grok 4.6 und Trainings-Fokus auf mehrstündigen Aufgaben. 500.000 Tokens Kontext, Text- und Bild-Input, vier Reasoning-Stufen von low bis xhigh bei unveränderten 2 / 6 USD pro Million Tokens. Laut xAI fast verdoppelte Leistung bei langen Terminal-Aufgaben und ein neuer Safeguard-Stack gegen Jailbreaks.
Qwen 3.5 27B ist Alibabas dichte 27-Milliarden-Parameter-Variante der Qwen3.5-Familie (Februar 2026), eine offene Apache-2.0-Veröffentlichung mit nativer Multimodalität für Text, Bild und Video. Die Hybrid-Architektur aus Gated-DeltaNet- und Gated-Attention-Blöcken bietet 262.144 Tokens Kontext (erweiterbar auf rund eine Million via YaRN), bis zu 65.536 Tokens Output und starke Coding-Leistung (SWE-bench Verified 72,4) — die einzige dichte Variante der Qwen3.5-Familie.
Xiaomi MiMo V2.5 ist ein nativ omnimodales MoE-Modell mit 310 Milliarden Gesamt- und 15 Milliarden aktiven Parametern. Das Modell verarbeitet Text, Bild, Video und Audio in einer einzigen Architektur, das Kontextfenster umfasst bis zu eine Million Tokens. Unter MIT-Lizenz voll kommerziell nutzbar, aus chinesischer Hersteller-Jurisdiktion mit entsprechender Bewertung bei Cloud-Nutzung.
Devstral 2 ist Mistral AIs Code-Agent für anspruchsvolle Software-Engineering-Aufgaben. Mit 123 Milliarden Parametern arbeitet das Modell auf Codebasis-Exploration, Multi-File-Änderungen, Debugging und Legacy-Modernisierung, unterstützt ein Kontextfenster von 256.000 Tokens und verarbeitet neben Text auch Bildeingaben. Als Open-Weights-Modell unter modified-MIT-Lizenz verfügbar, aus einem europäischen Anbieter-Umfeld mit DSGVO-Konformität.
GPT-5.4 Mini ist die kompakte GPT-5.4-Variante für schnelle und kosteneffiziente Alltagsaufgaben. Mit einem Kontextfenster von 272.000 Tokens und multimodaler Eingabe für Text und Bild richtet sich das Modell an Anwendungen mit niedriger Latenz bei solider Ausgabequalität. Ausschliesslich über die OpenAI-API verfügbar.
Qwen 3.5 4B ist ein kompaktes Open-Weights-Modell von Alibaba mit Thinking-Optional-Architektur und Unsloth-Dynamic-Quantisierung in Q6. Die Q6-Stufe bietet höhere Qualitätstreue als die Q4-Variante bei moderatem Mehraufwand im VRAM, das Kontextfenster umfasst 128.000 Tokens. Unter Apache-2.0-Lizenz auf ressourcenbeschränkter Hardware lokal betreibbar.
NVIDIA Nemotron 3.5 Lightning ist ein offenes 30-Milliarden-Parameter-MoE mit 3 Milliarden aktiven Parametern pro Token (11. August 2026), destilliert aus Nemotron 3 Ultra und auf die Ausführungsschicht always-on laufender Agenten spezialisiert. Die hybride Mamba-2 + MoE + Attention-Architektur unter OpenMDW-1.1-Lizenz bietet bis zu 1 Million Tokens Kontext und bis zu 4-fache Ausgabegeschwindigkeit durch Multi-Token-Prediction und Speculative Decoding.
o4-mini ist OpenAIs kompaktes Reasoning-Modell mit nativem Vision-Eingang für Bilder, Diagramme und Screenshots. Das Modell verarbeitet Text und Bild, arbeitet mit einem Kontextfenster von 200.000 Tokens und bietet drei einstellbare Reasoning-Stufen für die Balance zwischen Antworttiefe und Latenz. Volles Tool-Use inklusive parallelem Tool-Calling für leichte agentische Workflows.
GPT-5.4 ist die grössere Variante aus OpenAIs 5.4-Generation für anspruchsvolle Workloads mit höherer Antwortqualität als die Mini-Versionen. Das Modell arbeitet mit einem Kontextfenster von 272.000 Tokens, verarbeitet Text- und Bildeingaben und ist ausschliesslich über die OpenAI-API verfügbar. Proprietär und auf produktive, komplexe Aufgaben ausgelegt.
Laguna S 2.1 ist seit Juli 2026 Poolsides drittes offenes Coding-Modell in Folge, ein MoE mit 117,6 Milliarden Gesamt- und nur 8,5 Milliarden aktiven Parametern pro Token. Die OpenMDW-1.1-Lizenz der Linux Foundation erlaubt freie kommerzielle Nutzung und Modifikation. Das Modell unterstützt 1.024.000 Tokens Kontext, interleaved Thinking mit Tool-Aufrufen innerhalb der Denkkette sowie natives Tool-Calling für langhorizontige Agentic-Workflows.
Hermes 4 70B ist ein offenes Instruct- und Reasoning-Modell von Nous Research aus der Hermes-4-Familie mit 70 Milliarden Parametern. Das Modell kombiniert optionales Thinking mit fortgeschrittenem Tool-Use und strukturierten Ausgaben, trainiert auf hohe Steuerbarkeit und reduzierte Refusal-Raten. Als Open-Weights-Modell unter Modified-MIT-Lizenz lokal oder serverseitig einsetzbar.
Gemma 3 12B Instruct als Q4-Quantisierung, optimiert für lokale Inferenz auf ressourcenbeschränkter Hardware. Das Modell verarbeitet Text-und Bildeingaben bei einem Kontextfenster von 128.000 Tokens, ist auf direkte Aufgabenbearbeitung ausgelegt und arbeitet ohne externe Cloud-Verbindung. Lizenziert unter den Google Gemma Terms of Use, die kommerzielle Nutzung erlauben.
Qwen 3.5 9B ist ein Open-Weights-Modell von Alibaba für allgemeine Sprach- und Reasoning-Aufgaben mit Thinking-Optional-Architektur. Die Unsloth-Dynamic-Q6-Quantisierung bietet nahezu verlustfreie Qualität bei deutlich reduziertem VRAM-Bedarf, das Kontextfenster umfasst 128.000 Tokens. Unter Apache-2.0-Lizenz auf lokaler Hardware ohne Cloud-Zwang betreibbar.
Hermes 4 405B ist ein leistungsstarkes Instruct- und Reasoning-Modell von Nous Research mit 405 Milliarden Parametern, konzipiert für komplexe Reasoning-Aufgaben und agentische Workflows. Das Modell unterstützt optionales Thinking, präzise Tool-Aufrufe und strukturierte Ausgaben. Trainiert auf hohe Steuerbarkeit und reduzierte Refusal-Raten. Unter Meta-Llama-Community-Lizenz als Restricted-Weights-Modell verfügbar.
NVIDIA Nemotron 3 Nano 30B A3B ist ein effizientes Hybrid-Modell aus der Nemotron-3-Serie, das Mamba-2 mit Transformer-Schichten kombiniert. Bei 31,6 Milliarden Gesamtparametern aktiviert das Modell nur 3,2 Milliarden pro Token, das Kontextfenster umfasst bis zu eine Million Tokens. Optionaler Thinking-Modus mit konfigurierbarem Budget, native Tool-Aufrufe und Agentic-Fähigkeiten ab Werk. Unter NVIDIA Open Model License als Open-Weights-Modell verfügbar.
Hermes 4 14B Abliterated ist eine lokal betreibbare Open-Weights-Variante von NousResearch auf Basis von Qwen 3 14B, bei der Sicherheitsmechanismen gezielt entfernt wurden. Mit 14 Milliarden Parametern und 128.000 Tokens Kontextfenster richtet sich das Modell an ungefilterte Antwortweise, kreative Schreibprozesse und Szenarien, die maximale Offenheit erfordern. Unter Apache-2.0-Lizenz voll kommerziell nutzbar.
Gemma 4 E2B ist das kompakteste Gemma-4-Modell und der Einstieg in die neue Familie mit Apache-2.0-Lizenz. PLE-Architektur mit 5,1 Mrd. Gesamt- und 2,3 Mrd. effektiven Parametern, 128.000 Tokens Kontext, multimodale Eingabe für Text, Bild und Audio sowie eingebautes Reasoning und Function-Calling. Lokal als Unsloth-GGUF auf Edge- und Phone-Klasse lauffähig.
GPT-5.4 Nano ist OpenAIs preisgünstigste GPT-5.4-Variante für hochvolumige Standardaufgaben wie Klassifikation, Extraktion und Ranking. Mit einem Kontextfenster von 272.000 Tokens und bis zu 128.000 Tokens Ausgabe eignet sich das Modell für Batch-Verarbeitung und Sub-Agent-Routing. Verfügbar ausschliesslich über die OpenAI-API zu niedrigen Kosten.
o3-mini ist OpenAIs kompaktes Reasoning-Modell mit internem Chain-of-Thought, spezialisiert auf Mathematik, Coding und STEM-Aufgaben. Das Modell arbeitet mit einem Kontextfenster von 200.000 Tokens und bietet drei einstellbare Reasoning-Stufen für die Balance zwischen Antworttiefe, Latenz und Kosten. Ausschliesslich über die OpenAI-API verfügbar.
Hermes 4.3 36B (NVFP4) ist die komprimierte Variante von NousResearchs Open-Weights-Modell auf ByteDance Seed-OSS-36B-Basis, vollständig dezentral über das Psyche-Netzwerk nachtrainiert. Firworks hat das BF16-Checkpoint zu NVFP4 komprimiert und damit den Gewichts-Speicherbedarf deutlich reduziert. 36 Milliarden Dense-Parameter, 512.000 Tokens nativer Kontext, optionaler Thinking-Modus und Apache-2.0-Lizenz für freie kommerzielle Nutzung.
Qwen 3 14B ist Alibabas Open-Weights-Modell für allgemeine Sprachaufgaben und Reasoning mit optionalem Thinking-Modus. Die Q6-Quantisierung ist für effizienten lokalen Betrieb ohne Cloud-Verbindung ausgelegt, das Kontextfenster umfasst 128.000 Tokens. Unter Apache-2.0-Lizenz voll kommerziell nutzbar.
Hermes 4 14B als Q4-Quantisierung der NousResearch-Distribution auf Qwen-3-Basis, optimiert für lokale Assistenz und agentische Aufgaben. Mit 14 Milliarden Parametern und 128.000 Tokens Kontextfenster läuft das Modell auf ressourcenbeschränkter Hardware und unterstützt hybride Denkmodi. Unter Apache-2.0-Lizenz voll kommerziell nutzbar.
Hermes 4.3 36B (NVFP4) ist die komprimierte Variante von NousResearchs Open-Weights-Modell auf ByteDance Seed-OSS-36B-Basis, vollständig dezentral über das Psyche-Netzwerk nachtrainiert. Firworks hat das BF16-Checkpoint zu NVFP4 komprimiert und damit den Gewichts-Speicherbedarf deutlich reduziert. 36 Milliarden Dense-Parameter, 512.000 Tokens nativer Kontext, optionaler Thinking-Modus und Apache-2.0-Lizenz für freie kommerzielle Nutzung.
Ornith 1.0 9B ist DeepReinforces kompaktes Reasoning-Modell der ersten Generation, aufgebaut auf Qwen-3.5-Basis und ausgeliefert als Unsloth-GGUF für lokale Edge-Setups. 9,4 Mrd. Dense-Parameter, 262.000 Tokens Kontext, MIT-Lizenz — Reasoning-first Profil für agentische Coding-Workflows statt klassischer Chat-Generalist.
Für Code-Aufgaben trainiert und nicht für Allgemeines: Codestral 25.08 ist Mistral AIs spezialisiertes Entwickler-Modell aus dem August 2025, optimiert auf Fill-in-the-Middle und eine breite Palette an Programmiersprachen. Mit 22 Milliarden Parametern unterstützt es 128.000 Tokens Kontext, läuft wahlweise lokal oder über die Mistral-API, unterliegt allerdings einer restriktiven Lizenz mit eingeschränkter kommerzieller Nutzung.
Was die meisten Nano-Modelle nicht bieten: nativ multimodale Eingabe und Tool-Calling bereits ab Werk. Ministral 3 3B von Mistral AI liefert das in der 3-Mrd.-Klasse, mit 256.000 Tokens Kontext, Apache-2.0-Lizenz und lokaler Unsloth-GGUF-Distribution.
Was die meisten OpenAI-Modelle nicht können: GPT-OSS 20B ist OpenAIs erste Open-Weights-Veröffentlichung seit GPT-2 (5. August 2025) unter Apache-2.0-Lizenz. Das MoE mit 21 Milliarden Gesamt- und 3,6 Milliarden aktiven Parametern läuft dank nativer MXFP4-Quantisierung mit nur rund 16 GB Speicher auf einer einzelnen Consumer-GPU, unterstützt Tool-Use über das Harmony-Format und bietet 131.072 Tokens Kontext sowie konfigurierbare Reasoning-Intensität (low/medium/high).
Dieses 8B-GGUF-Artefakt trägt einen Llama-3.3-Namen, aber Metas offizielles Llama-3.3 ist das 70B-Text-only-Modell — die hier gelistete 8B-Version ist eine inoffizielle Community-Konstruktion ohne verifizierte Upstream-Quelle. 8 Mrd. Dense-Parameter, 128.000 Tokens Kontext, lokal als Unsloth-GGUF betreibbar unter Llama-Community-Lizenz. Upstream-Herkunft bleibt bis zur Bestätigung unbestätigt.
Gemma 3 4B ist die ungewöhnlichste Nano-Klasse-Variante im CrucibleMark-Portfolio: ein multimodales Google-DeepMind-Modell mit Text- und Bild-Verarbeitung bei nur 4 Mrd. Parametern. 128.000 Tokens Kontext, Gemma-Nutzungsbedingungen, lokal als Unsloth-GGUF betreibbar — der kompakteste multimodale Vertreter der Gemma-3-Familie.
Vier Milliarden Parameter, Apache-2.0-Lizenz und ein optionaler Thinking-Modus: Qwen 3 4B ist für mobile Anwendungen und Edge-Setups gedacht, wo jedes Watt zählt. Lokal betreibbar unter Q6-Quantisierung, mit 128.000 Tokens Kontextfenster für ein Nano-Modell dieser Klasse grosszügig dimensioniert. Die Hersteller-Jurisdiktion China bringt bei politisch sensiblen Themen gelegentlich zensierte oder ausweichende Antworten mit sich.
Hermes 3 8B ist ein Uncensored-Fine-Tune von NousResearch auf Basis von Metas Llama 3.1 8B. Mit acht Milliarden Parametern und 128.000 Tokens Kontextfenster richtet sich das Modell an Instruction-Following, Tool-Use sowie kreative und ambivalente Anfragen. Unter Llama-3.1-Community-Lizenz lokal betreibbar, die reduzierte Ablehnungsrate ist ein definierendes Merkmal dieser Distribution.
3,8 Mrd. Dense-Parameter, synthetisches Trainingsmaterial und eine ausgesprochene Reasoning-Spezialisierung: Phi-4-mini ist Microsofts kompaktes Modell für Mathe, Logik und strukturierte Ausgabe. MIT-Lizenz, 128.000 Tokens Kontext, lokal als Unsloth-GGUF betreibbar — kein breiter Generalist, sondern ein Spezialist auf Nano-Größe.
Die stärkste Variante der DeepSeek-R1-Distill-Linie: DeepSeek-R1-Distill-Qwen-14B bringt 14,8 Mrd. Dense-Parameter auf Qwen-2.5-14B-Basis mit vollständigen R1-Reasoning-Strukturen in den Desktop-Bereich. 128.000 Tokens Kontext, MIT-Lizenz, lokal als Unsloth-GGUF — der Reasoning-Kompromiss zwischen Edge-Tauglichkeit und Workstation-Kapazität.
Eine Q6_K-GGUF-Distribution von Qwen 2.5 Coder 7B für lokales Coding: 7,6 Milliarden dichte Parameter, Apache-2.0-Lizenz, spezialisiert auf Code-Generierung, Debugging und Reparatur. Die Familie unterstützt 128.000 Tokens Kontext, im GGUF-Setup sind nativ oft nur 32.000 ohne Long-Context-Konfiguration verfügbar. Voll kommerziell nutzbar, kompakt und effizient auf Workstation-Hardware.
3,21 Mrd. Dense-Parameter, 128.000 Tokens Kontext: Llama 3.2 3B ist Metas kompakte Text-only-Variante der Llama-3.2-Familie für lokale Aufgaben wie Zusammenfassen, Umformulieren und Instruction-Following. Unsloth-GGUF-Build, Llama-3.2-Community-Lizenz, vollständig offline betreibbar.
Llama 3.2 1B ist Metas kleinstes Llama-3.2-Modell und ein reines Text-only-Baseline für Edge-Setups. 1,23 Mrd. Dense-Parameter, 128.000 Tokens Kontext, lokal als Unsloth-GGUF betreibbar unter der Llama-3.2-Community-Lizenz. Eignet sich als kompakte On-Device-Referenz, nicht als Qualitätsanker.
Was die kleinen Distill-Modelle nicht haben: das vollständige Reasoning-Muster der R1-Linie auf Edge-Tauglichem Footprint. DeepSeek-R1-Distill-Qwen-7B bringt 7,6 Mrd. Dense-Parameter auf Qwen-2.5-Math-7B-Basis, 128.000 Tokens Kontext, MIT-Lizenz und läuft lokal als Unsloth-GGUF auf Consumer-Hardware.
Eineinhalb Milliarden Parameter, destilliert auf Qwen 2.5-Basis: DeepSeek-R1-Distill-Qwen-1.5B bringt das Reasoning-Verhalten der großen R1-Modelle in die Nano-Klasse. MIT-Lizenz, lokal als Unsloth-GGUF betreibbar, gedacht für Reasoning-Aufgaben statt Chat-Politur.
Mit 270 Millionen Parametern ist Gemma 3 270M das kleinste Gemma-3-Modell und ein reines Text-only-Modell für lokale Latenz-Baselines und Embedded-Setups. Die Unsloth-GGUF-Variante läuft vollständig offline unter den Gemma-Nutzungsbedingungen, eignet sich aber nicht als allgemeiner Qualitätsanker.
