Jeder Report beleuchtet ein Modell in der Tiefe: Testergebnisse je Disziplin, Stärken-Schwächen-Profil, politischer Kompass und eine klare Handlungsempfehlung für den produktiven Einsatz. Die Analysen basieren ausschließlich auf reproduzierbaren CrucibleMark-Benchmarks.
Claude Sonnet 4.5 ist Anthropics stärkeres Allround-Modell mit klarer Ausrichtung auf Coding, komplexe Agenten und Computer Use. Anthropic bewirbt das Modell als besonders gut für mehrstufige Aufgaben und bietet es ausschließlich über die API an; die Preise liegen bei 3 Dollar Input und 15 Dollar Output pro Million Tokens.
NVIDIA Nemotron 3 Ultra ist ein Open-Frontier-Reasoning- und Orchestrierungsmodell von NVIDIA mit 55B aktiven Parametern (550B gesamt, MoE). Hybrid Transformer-Mamba Mixture-of-Experts-Architektur, 1M-Token-Kontextfenster, multimodaler Text-zu-Text-Workflow. Veröffentlicht am 4. Juni 2026. Speziell optimiert für Reasoning, Agenten-Orchestrierung und Frontier-Wissensarbeit. Verfügbar als Open Weights auf Hugging Face.
Claude Sonnet 4.6 ist Anthropics aktualisiertes Sonnet-Modell für Coding, Computer-Use-nahe Agenten-Workflows und professionelle Wissensarbeit. Offiziell angekündigt wurden ein 1M-Kontextfenster in Beta, bessere Leistung in größeren Codebasen sowie unverändertes Pricing von $3 Input und $15 Output pro 1M Tokens. Das Modell bleibt proprietär, multimodal für Text-/Bildeingaben und über Anthropic sowie große Cloud-Plattformen verfügbar.
MiniMax M3 ist ein multimodales MoE-Modell (Text, Bild, Video Input; Text Output) mit 1M Token Kontext. Durch die MSA-Architektur (KV-Block Selection) bietet es extrem schnelles Prefill und Decoding. Fokus: Agentische Workflows, Coding und Tool-Use. Chinesisches Modell; Open-Weights ca. 10 Tage nach API-Launch.
Claude Opus 4.5 ist Anthropics starkes Frontier-Modell für komplexes Reasoning, lange Agenten-Workflows und tiefes Software-Engineering. Die Veröffentlichung hebt hohe Zuverlässigkeit, gute Multimodalität und starke Leistung bei mehrstufigen Aufgaben hervor. Es ist ausschließlich über die Anthropic-API nutzbar.
Kimi K2.6 ist Moonshot AIs jüngere K2-Generation für agentische Aufgaben, Coding und multimodale Nutzung. Die offizielle Website beschreibt das Modell als nativ multimodal mit starken Coding- und Agent-Fähigkeiten. Es ist als Cloud-API verfügbar und stammt von einem chinesischen Anbieter mit entsprechendem Sovereign-Risk.
Claude Opus 4.6 ist Anthropics stärkstes Opus-Modell für komplexe agentische Wissensarbeit, Coding und tiefes Reasoning. Offiziell angekündigt wurden ein 1M-Kontextfenster in Beta, verbesserte Code-Review-, Debugging- und Langhorizont-Fähigkeiten sowie unverändertes Pricing von $5 Input und $25 Output pro 1M Tokens. Das Modell ist proprietär und über Claude, API und große Cloud-Plattformen verfügbar.
Claude Haiku 4.5 ist Anthropics kleines, schnelles Modell für latenzarme Anwendungen, Echtzeit-Interaktionen und einfache Agentenaufgaben. Die offizielle Ankündigung hebt hohe Geschwindigkeit, gute Coding-Qualität und hohe Kosteneffizienz hervor. Es ist ausschließlich über die API verfügbar.
GLM-5 Turbo ist Zhipu AIs kosteneffizientere Chat- und Textgenerationsvariante innerhalb der GLM-5-Reihe. Die Plattformdokumentation beschreibt Zhipus Modellangebot als cloudbasierten MaaS-Dienst; die bestehende Karte weist für diese Turbo-Variante 128K Kontext, Tool-Use-Support und proprietäre Bereitstellung aus. Für sensible Daten ist wegen chinesischer Jurisdiktion und fehlender offener Gewichte ein konservatives Risikoprofil angebracht.
Gemini 2.5 Pro ist Googles leistungsstärkstes Modell der 2.5-Generation – ausgelegt auf komplexes Reasoning, Coding und Analyse mit sehr langen Kontextfenstern. Optionales Chain-of-Thought-Reasoning lässt sich per API aktivieren. Verfügbar ausschließlich über die Google-API.
Claude Opus 4.7 ist Anthropics leistungsstarkes Frontier-Modell für Coding, Agenten und komplexe Analyseaufgaben. Die offizielle Veröffentlichung beschreibt es als effizient, robust und stark bei langlaufenden Workflows. Es ist ausschließlich über die API verfügbar und richtet sich an tiefe, zuverlässige Assistenz statt an kurze Antworten.
Mistral Large 3 ist Mistral AIs großes Modell für komplexes Reasoning, Analyse und mehrsprachige Aufgaben. Die Modellgewichte sind unter der Mistral Research License verfügbar (nur für nicht-kommerzielle Research-Zwecke). Für kommerzielle Nutzung ist die Mistral-API vorgesehen. Das Modell richtet sich an produktive, anspruchsvolle Generalist-Workloads.
Qwen 3.7 Max ist das proprietäre Flagship-Modell der Qwen-3.7-Serie von Alibaba Cloud und auf agentische Workloads mit Stärken in Coding, Produktivitätsaufgaben und langfristiger autonomer Ausführung ausgelegt. Das Modell bietet ein 1M-Token-Kontextfenster, unterstützt Prompt Caching und wird über Cloud-API bereitgestellt. Chinesische Herkunft und das nationale Sicherheitsgesetz (NSL) sind bei der Einschätzung des Datenrisikos zu berücksichtigen.
Qwen 3.5 35B-A3B ist ein offenes multimodales Qwen-Modell mit 35B Gesamtparametern, von denen 3B aktiv sind, nativen Text-/Bildeingaben und bis zu 262K Kontext. Diese Karte beschreibt die Q4_K_XL-GGUF-Variante: eine lokal deploybare Quantisierung mit geringerem Speicherbedarf und etwas mehr Qualitätsverlust als höhere Präzisionen. Damit eignet sie sich besonders für Workstation-Setups, die offene Weights, Tool-Use und lange Kontexte kombinieren möchten.
Grok 4 Fast Non-Reasoning ist xAIs schnelle Variante für kosteneffiziente Antwortzeiten und einfache allgemeine Aufgaben. Die Modellfamilie ist auf niedrige Latenz, Web- und X-Suche sowie hohe Token-Effizienz ausgelegt; diese Variante verzichtet auf explizites Reasoning und bleibt damit bei komplexen Denkaufgaben bewusst schlanker.
Qwen 3 Coder Next ist hier als Q4_K_XL GGUF für lokale Ausführung verpackt. Das Modell ist auf Coding-Agents, Tool Use und große Codebasen optimiert und nutzt ein 256K-Kontextfenster. Die Q4-Quantisierung senkt den Speicherbedarf stark, bringt aber mehr Qualitätsverlust als die höherpräzisen Varianten.
Mistral 3 Large ist Mistrals Frontier-Open-Weights-Modell aus der Mistral-3-Familie mit multimodalen Text-/Bildeingaben, 256K Kontext und einer Sparse-MoE-Architektur mit 675B Gesamtparametern, von denen 41B aktiv sind. Die Gewichte sind unter Apache 2.0 verfügbar, wodurch sowohl lokales Deployment als auch API-Nutzung möglich sind. Das Profil zielt auf leistungsstarke allgemeine Assistenz-, Coding- und Dokument-Workflows mit europäischem Anbieterprofil.
GPT-5.4 ist OpenAIs größere GPT-5.4-Variante für anspruchsvollere Workloads mit höherer Antwortqualität als die Mini-Versionen. Sie bleibt ein proprietäres Cloud-Modell mit multimodaler Eingabe und ist auf produktive, komplexe Aufgaben ausgelegt, ohne lokale Gewichte bereitzustellen.
GPT-5 ist OpenAIs früheres Kernmodell für Coding-, Reasoning- und agentische Aufgaben über die API. Offiziell dokumentiert sind 272K Kontext, 128K maximale Ausgabe, Text-/Bildeingaben sowie konfigurierbarer Reasoning-Aufwand über reasoning.effort. Das Modell ist proprietär und cloud-only, wurde aber in der Produktlinie inzwischen durch GPT-5.5 als empfohlene Standardwahl abgelöst.
Kimi K2 Thinking ist Moonshot AIs Thinking-Modell aus China, das schrittweises Reasoning mit Tool-Calls kombiniert. Die HuggingFace-Seite beschreibt eine MoE-Architektur mit 1T Gesamtparametern, 32B aktivierten Parametern und 256K Kontext. Das Modell ist für lange, agentische Aufgaben ausgelegt und über Cloud-Provider nutzbar.
Grok 4 (2025-03-09, non-reasoning) ist die Standard-Variante der Grok-4-Generation von xAI aus den USA – ohne aktives Chain-of-Thought, ausgelegt auf schnelle direkte Antworten. 1000K Kontextfenster, Tool-Use-Unterstützung. Das Modell ist ausschließlich über die xAI-API verfügbar.
Mistral Small 4 ist Mistral AIs kompaktes Open-Weights-Modell für allgemeine und agentische Aufgaben. Es verbindet lokale Nutzbarkeit mit einer Apache-2.0-Lizenz und richtet sich an produktive Standardanwendungen, bei denen Effizienz und gute Instruktionsqualität wichtiger sind als maximale Modellgröße.
Kimi K2 (Version 0127) ist ein großes Open-Weights-Modell von Moonshot AI aus China – mit Fokus auf agentische Aufgaben, Coding und mehrstufiges Reasoning. Es ist über Cloud-Provider verfügbar. Chinesische Herkunft und das nationale Sicherheitsgesetz (NSL) sind bei der Einschätzung des Datenrisikos zu berücksichtigen.
Qwen 3.6 Plus ist Alibabas proprietäre API-Variante für agentische Textgenerierung, visuelle Aufgaben und Tool-Workflows innerhalb von Model Studio. Die offizielle Alibaba-Dokumentation beschreibt Qwen-Plus als multimodales Modell für Text-, Bild- und Videoeingaben mit Tool Calling; die bestehende Karte ordnet dafür 1M Kontext und Frontier-Positionierung ein. Da keine offenen Gewichte vorliegen, ist das Modell klar als cloud-only und compliance-sensitiv zu behandeln.
Grok 4 Reasoning ist xAIs Reasoning-Variante der Grok-4-Familie für mehrstufige Aufgaben mit explizitem Denkprozess. Das Modell ist auf komplexe logische und technische Probleme ausgelegt, arbeitet mit großem Kontext und ist ausschließlich über die xAI-API verfügbar.
Mistral Medium 3.5 ist Mistral AIs aktuelles Open-Weights-Frontier-Modell aus Frankreich – optimiert für agentische Workflows und Coding-Aufgaben. Als Open Weights (Modified MIT) lokal betreibbar und über die Mistral-API verfügbar. Kontext: 256k. Multimodal.
Qwen 3.6 35B-A3B Uncensored HauhauCS Aggressive ist eine Community-Fine-Tune-Variante des Qwen 3.6 35B-A3B. Es läuft hier als Q8_K_XL-GGUF via llama.cpp. Q8_K_XL (8-Bit-K-Quant, XL) ist die präziseste GGUF-Quantisierung mit minimalem Qualitätsverlust. MoE-Architektur: 35B Gesamtparameter, nur 3,8B aktiv – hoher Durchsatz bei geringem Inferenz-Overhead. Native Multimodalität: Text, Bild, Audio.
DeepSeek V4 Flash ist die schnelle Reasoning-Variante der DeepSeek-V4-Familie aus China. Sie kombiniert schnelle Inferenz mit internem Reasoning und multimedialer Eingabe. Aufgrund der chinesischen Herkunft bleibt das Sovereign-Risk erhöht.
GLM-5.1 ist ein Sprachmodell von Zhipu AI (Z-AI) aus China aus der fünften GLM-Generation – ausgelegt auf allgemeine Sprachaufgaben und Reasoning. Das Modell ist über Cloud-Provider verfügbar. Chinesische Herkunft und das nationale Sicherheitsgesetz (NSL) sind bei der Einschätzung des Datenrisikos zu berücksichtigen.
Grok 3 ist ein proprietäres xAI-Modell mit 1M Kontextfenster, Text-/Bildeingaben, Textausgabe und Tool-Support über die xAI-Plattform. In der aktuellen xAI-Dokumentation läuft der Alias grok-3 auf das neuere Grok-4.3-Modell weiter, wodurch der Name im Feld als Migrationsalias erhalten bleibt. Für Benchmarks ist daher wichtig, zwischen historischem Karten-Namen und aktuell hinterlegtem Backend zu unterscheiden.
GPT-5.5 ist OpenAIs Frontier-Modell für komplexe professionelle Workloads und agentisches Coding. Es wird ausschließlich über die API angeboten, unterstützt Text und Bild und ist auf sehr lange Kontextnutzung ausgelegt. Die Card positioniert es als besonders stark bei Forschung, Coding und anspruchsvoller Produktivität.
GPT-OSS 120B ist ein großes Open-Weights-Modell aus OpenAIs OSS-Linie für Cloud- und lokale Deployments. Die Card positioniert es als offenes Modell mit starkem Generalist- und Reasoning-Profil, das auf hohe Kapazität und flexible Nutzung ausgelegt ist. Es bleibt jedoch deutlich ressourcenintensiv.
Devstral 2 ist ein Coding-Agent-Modell von Mistral AI und All Hands AI für agentische Software-Engineering-Aufgaben. Es ist auf Codebase-Exploration, Multi-File-Änderungen und Debugging zugeschnitten, unterstützt lange Kontexte und wird als offene Gewichtsvariante mit moderner Lizenzierung veröffentlicht.
GPT-5 Mini ist OpenAIs kompakte GPT-5-Variante für kosten- und latenzsensitive Workloads. Die API-Seite beschreibt das Modell als schnell, auf klar definierte Aufgaben ausgelegt und für hohe Volumina geeignet. Es unterstützt Text und Bild und ist ausschließlich über die OpenAI-API nutzbar.
DeepSeek V3.1 (Mai 2025) ist ein 671B-Parameter-MoE-Modell (37B aktiv) von DeepSeek (China) unter DeepSeek License. Starker Code-Generator mit Engram-Memory-Architektur, 128K-Token-Kontextfenster. Chinesische Herkunft und NSL sind bei der Datenrisikoeinschätzung zu berücksichtigen.
Gemma 4 31B IT ist ein Open-Weights-Modell von Google DeepMind der vierten Generation – ausgelegt auf allgemeine Instruktionsbefolgung und Reasoning. Die Gewichte sind unter der Google Gemma Lizenz öffentlich zugänglich. Dieser Eintrag beschreibt den Cloud-API-Zugang; lokale GGUF-Varianten sind separat verfügbar.
DeepSeek V3.2 ist ein chinesisches Frontier-Modell von DeepSeek mit Open-Weights-Lizenz, ausgelegt auf Sprach-, Code- und Reasoning-Aufgaben. Es lässt sich lokal betreiben und ist über verschiedene Cloud-Provider kostengünstig nutzbar. Chinesische Herkunft und das nationale Sicherheitsgesetz (NSL) sind bei der Einschätzung des Datenrisikos zu berücksichtigen.
DeepSeek V4 Pro ist das stärkste Reasoning-Modell der DeepSeek-V4-Familie und richtet sich an komplexe Analyse-, Mathematik- und Coding-Aufgaben. Das Modell besitzt internes Reasoning und hohe Antworttiefe, ist jedoch aufgrund seiner chinesischen Herkunft wegen der chinesischen Herkunft mit erhöhtem Sovereign-Risk zu bewerten ist.
Qwen 3.6 35B-A3B ist eine multimodale MoE-Variante von Alibaba, hier als Q8_K_XL GGUF für lokale Nutzung. Das Modell kombiniert 35B Gesamt- mit 3B Aktivparametern, unterstützt langen Kontext und ist auf Text, Bild und Audio ausgerichtet. Die hohe Quantisierung erhält die Qualität weitgehend.
Gemma 4 ARA 26B-A4B liegt hier als Community GGUF in Q5_K_M vor. Das Modell basiert auf Googles multimodaler Gemma 4 Architektur mit MoE und 256K Kontext und ist für lokale Nutzung mit reduziertem Speicherbedarf vorbereitet; die ARA-Verarbeitungskette deutet auf eine modifizierte Community Distribution hin.
Qwen 3.5 397B A17B ist Alibabas Flaggschiff-MoE-Modell mit 397 Mrd. Parametern (17 Mrd. aktiviert) und nativer Multimodalität (Text, Bild, Video). Das Modell kombiniert Gated Delta Networks mit Sparse MoE für hocheffiziente Inferenz. Es bietet starke Leistung bei Reasoning, Coding, Agentic Tasks und visuellem Verständnis. Über OpenRouter verfügbar mit ermäßigten Preisen auf Standardtarifen. Chinesische Herkunft und NSL sind bei der Datenrisikoeinschätzung zu berücksichtigen.
Mistral Medium 1.0 war ein proprietäres API-Modell von Mistral AI aus Frankreich. Es richtete sich an allgemeine produktive Anwendungen, bot ein 32K-Kontextfenster und war für ausgewogene Qualität bei moderaten Kosten positioniert. Die Gewichte waren nicht öffentlich verfügbar.
Gemma 4 12B Instruct (Q8_K_XL-GGUF, UndiX-Distribution) ist ein Mid-Size-Modell (12B) von Google DeepMind mit restriktiver Gemma-Lizenz, hier als 8-Bit-GGUF-Quantisierung via llama.cpp. 12B Parameter, 128K Token Kontextfenster, multimodale Unterstützung (Text + Bild + Video), 140+ Sprachen, konfigurierbarer Thinking-Modus. Q8-Quantisierung: nahe FP16-Qualität bei moderatem Speichermehrbedarf gegenüber Q4/Q6.
Grok 4.1 Fast Reasoning ist xAIs schnelle Reasoning-Variante für agentische Workflows und hohe Latenzanforderungen. Die Card verweist auf ein sehr großes Kontextfenster, Tool-Use und Web-Suche. Das Modell ist proprietär, über die API nutzbar und als deprecated markiert.
Mistral Small 3.1 ist Mistrals offenes 24B-Instruct-Modell vom März 2025 mit multimodalen Text-/Bildeingaben, 128K Kontext und Apache-2.0-Lizenz. Offiziell hervorgehoben werden Vision-Verständnis, Function Calling und lokales Deployment bis hin zu kompakten Setups; die Karte bleibt damit klar als open-weights und workstationtauglich einzuordnen. Gegenüber neueren Small-4-Modellen ist es funktional älter, aber weiterhin eine starke offene Allround-Option.
MiniMax M2.7 ist ein großes chinesisches Modell für allgemeine Sprach- und Reasoning-Aufgaben mit Cloud-Verfügbarkeit. Die Card beschreibt eine lange Kontextfähigkeit und eine Ausrichtung auf mehrsprachige, produktive Anwendungen. Aufgrund der chinesischen Herkunft bleibt das Sovereign-Risk erhöht.
GLM-5 ist Z.ais Flaggschiff-Open-Source-Foundation-Model, veröffentlicht am 11. Februar 2026. Konzipiert für komplexe System-Design-Aufgaben und langlaufende Agenten-Workflows. Produktionsreife Leistung bei großskaligen Programmieraufgaben, vergleichbar mit führenden Closed-Source-Modellen. Mixture-of-Experts-Architektur (wie GLM-4.5/4.6), 202K-Token-Kontext, Reasoning-Support. Gewichte verfügbar auf Hugging Face.
GPT-5.4 Mini ist OpenAIs kompakte GPT-5.4-Variante für schnelle, kosteneffiziente Alltagsaufgaben. Sie ist nur über die API verfügbar und zielt auf niedrige Latenz bei solider Ausgabequalität ab. Für komplexe Mehrschrittaufgaben bleibt sie naturgemäß unter den größeren Frontier-Modellen der Reihe.
GLM-4.7 ist ein iteratives Update der GLM-4-Reihe von Zhipu AI (Z-AI) aus China – ausgelegt auf allgemeine Sprach- und Reasoning-Aufgaben. Das Modell ist über Cloud-Provider verfügbar. Chinesische Herkunft und das nationale Sicherheitsgesetz (NSL) sind bei der Einschätzung des Datenrisikos zu berücksichtigen.
Gemma 4 E4B ist eine kompakte Gemma-4-Variante von Google, hier als GGUF für lokale Ausführung verpackt. Die Card beschreibt eine effiziente PLE-basierte Architektur mit nur einem Teil aktiver Parameter pro Forward Pass. Sie eignet sich für alltägliche Instruct-Aufgaben auf Desktop-Hardware und bleibt durch die Gemma-Lizenz restriktiv.
Gemma 4 26B-A4B Instruct als QAT UD-Q4 GGUF via llama.cpp auf DGX Spark betrieben. QAT (Quantization-Aware Training) produziert eine präzisere Q4-Variante als nachträgliche Quantisierung. MoE-Architektur: 25,2B Gesamtparameter, ~4B aktiv pro Token. UD-Q4 (Unsloth Dynamic Q4) ist ein optimiertes Mixed-Precision-Format das Qualität bei geringem VRAM-Bedarf maximiert.
Kimi K2 ist das Flaggschiff-Modell von Moonshot AI aus China – mit Open-Weights-Lizenz und Fokus auf agentische Aufgaben, Coding und mehrstufiges Reasoning. Es lässt sich lokal betreiben und ist über Cloud-Provider kostengünstig nutzbar. Chinesische Herkunft und das nationale Sicherheitsgesetz (NSL) sind bei der Einschätzung des Datenrisikos zu berücksichtigen.
Gemini 3.1 Flash Lite Preview ist Googles besonders günstige und schnelle Preview-Variante für volumenstarke Automatisierungsaufgaben. Das Modell ist nativ multimodal, unterstützt sehr lange Kontexte und eignet sich vor allem für Klassifikation, Extraktion und einfache Orchestrierung statt für tiefes Reasoning.
GLM-4.6 ist ein Sprachmodell von Zhipu AI für allgemeine Sprach- und Reasoning-Aufgaben mit Schwerpunkt auf Chinesisch und Englisch. Die Card beschreibt ein offen verfügbares Modell mit großem Kontext und Tool-Use-Unterstützung. Wegen der chinesischen Herkunft bleibt das Sovereign-Risk erhöht.
Gemma 3 12B IT ist hier als Q4_K_M GGUF für Spark verpackt und über llama.cpp lokal betrieben. Die Instruktvariante liefert kompakte, direkte Antworten; Q4_K_M senkt den Speicherbedarf deutlich und macht den Einsatz auf Consumer tauglicher Hardware möglich.
GPT-5.4 Nano ist OpenAIs günstigstes GPT-5.4-Modell für einfache Hochvolumen-Workloads wie Klassifikation, Extraktion, Ranking und Sub-Agent-Orchestrierung. Offiziell dokumentiert sind 272K Kontext, 128K maximale Ausgabe, Text- und Bildeingaben sowie Tool-Support über die API. Das Modell ist ausschließlich cloudbasiert verfügbar und priorisiert Kosten- und Laufzeiteffizienz vor maximaler Reasoning-Tiefe.
Grok 4.3 ist xAIs aktuelles Flaggschiff-Modell, veröffentlicht am 30. April 2026 (Beta: 17. April 2026). Es ist xAIs intelligentestes und schnellstes Modell. Erstmals mit nativem Video-Input, 1M-Token-Kontextfenster und günstigeren Input-Preisen. MoE-Architektur, optimiert für allgemeine Sprachaufgaben, Reasoning und Echtzeit-Wissenszugriff via X-Plattform. Ausschließlich über xAI-API verfügbar. Starke agentic performance für Routine-Aufgaben, direkter Antwortstil.
Qwen 3 Coder 30B-A3B Instruct ist ein auf Code spezialisiertes MoE-Modell von Alibaba (China) mit Apache-2.0-Lizenz. 30.5B total / 3.3B aktiv, 256K Kontext. Q8_K_XL-GGUF: präziseste Quantisierung mit minimalem Qualitätsverlust. Native Multimodalität: Text, Bild, Audio.
o4-mini ist eine kompakte OpenAI-API-Variante für schnelle, kosteneffiziente Alltagsaufgaben und strukturierte Ausgaben. Die Card positioniert das Modell als leichte Frontier-Option mit klarer Ausrichtung auf Effizienz und kurze Antwortzeiten. Es bleibt proprietär und ist nur über die API verfügbar.
Qwen 3.5 9B ist ein Open-Weights-Modell von Alibaba (China) für allgemeine Sprach- und Reasoning-Aufgaben mit optionalem Thinking-Modus. Läuft hier als UD-Q6_K_XL-GGUF via llama.cpp. UD-Q6_K_XL (Unsloth Dynamic, 6-Bit, XL-Wichtigkeitsmatrix) gilt als nahezu verlustfrei – Community-Bewertung: sehr hochwertige Quantisierung, die Standard-Q6 meist übertrifft.
Hermes 4 405B ist das große offene Modell von Nous Research auf Basis der Llama-Familie. Es ist auf Instruct- und Agentenaufgaben ausgelegt, bietet optionales Thinking und wird als offene Gewichtsvariante mit großem Ressourcenbedarf verteilt. Die Card beschreibt es als stark bei JSON, Tool Use und komplexen Workflows.
Grok 3 Mini ist xAIs kompaktes Reasoning-Modell aus den USA – ausgelegt auf logisches Schlussfolgern und Mathematik mit niedrigerer Latenz. Optionales Chain-of-Thought-Reasoning ist aktivierbar. Das Modell ist ausschließlich über die xAI-API verfügbar.
Hermes 4.3 36B ist ein offenes, hybrides Reasoning-Modell von NousResearch auf Basis von Seed 36B. Es kombiniert Instruct-Verhalten mit optionalem Thinking, unterstützt Tool Use und strukturierte Ausgaben und liegt hier als Q6_K-GGUF mit moderatem Speicherbedarf vor.
GPT-4o ist OpenAIs multimodales Allround-Modell – ausgelegt auf schnelle, kosteneffiziente Nutzung über Text, Bild und Code hinweg. Es ist ausschließlich über die OpenAI-API verfügbar und eignet sich für ein breites Spektrum produktiver Anwendungen, von Analyse und Coding bis hin zu natürlicher Gesprächsführung.
Gemini 3.5 Flash ist Googles schnelles Flash-Modell für Coding, Agenten und multimodale Aufgaben mit sehr großem Kontextfenster. Die Card beschreibt es als effizienter als schwerere Gemini-Modelle, aber klar auf Geschwindigkeit und hohen Durchsatz optimiert. Es ist ausschließlich über die Google-API verfügbar.
Gemini 3 Flash Preview ist Googles experimentelle Flash-Variante für schnelle, multimodale Aufgaben mit langer Kontextverarbeitung. Das Modell ist auf niedrige Latenz und hohe Effizienz ausgelegt und eignet sich vor allem für produktive Standardaufgaben statt für maximale Reasoning-Tiefe. Es bleibt exklusiv über die Google-API verfügbar.
Qwen 3.5 4B ist ein kompaktes Open-Weights-Modell von Alibaba mit optionalem Thinking-Modus. Die UD-Q6_K_XL-GGUF-Version ist für lokale Ausführung mit guter Qualität und moderatem Speicherbedarf gedacht. Sie ist als kleine, flexible Variante für allgemeine Aufgaben positioniert.
Codestral ist Mistral AIs spezialisiertes Modell für Code-Vervollständigung, Debugging und Code-Erklärungen. Es wurde auf viele Programmiersprachen trainiert und ist sowohl lokal als auch über die Mistral-API nutzbar. Die Card weist es als starkes, klar coding-fokussiertes Modell mit restriktiver Lizenz aus.
Hermes 4 14B Abliterated ist eine lokal verteilte Open-Weights-Variante mit bewusst entfernten Sicherheitsmechanismen. Die Distribution zielt auf maximale Offenheit und Hilfsbereitschaft und nutzt eine kompakte 14B-Basis, die für strukturierte Aufgaben und kreative Anfragen geeignet ist.
Gemini 2.5 Flash ist Googles schnelles Multimodal-Modell für kosteneffiziente Inferenz über Text, Bild und Code hinweg. Es unterstützt sehr lange Kontexte, optionales Thinking und ist auf niedrigere Latenz bei hohen Volumina ausgelegt. Das Modell ist nur über die Google-API verfügbar.
Gemini 3.1 Pro Preview ist Googles leistungsstarke Preview-Variante für komplexes Reasoning, Coding und agentische Workflows. Das Modell ist nativ multimodal, arbeitet mit sehr langen Kontexten und ist nur über die Google-API verfügbar. Als Preview-Modell kann es sich in Verhalten und Preisgestaltung noch verändern.
Qwen 3 14B ist ein Open-Weights-Modell von Alibaba mit optionalem Thinking-Modus für allgemeine Sprach- und Reasoning-Aufgaben. Die Offizielle Qwen-Dokumentation beschreibt den Wechsel zwischen Thinking und Non-Thinking sowie Tool-Nutzung in beiden Modi. Die hier verpackte Q6_K-GGUF-Version zielt auf lokale Nutzung mit guter Qualität.
GPT OSS 20B ist OpenAIs kleineres Open-Weights-Modell (Apache-2.0-Lizenz) mit Mixture-of-Experts-Architektur. Es lässt sich lokal betreiben und ist über verschiedene Cloud-Provider verfügbar. Die Reasoning-Intensität ist konfigurierbar – eine gute Wahl für lokale Deployments und Szenarien, die Fine-Tuning oder vollständige Datenkontrolle erfordern.
Hermes 4 14B ist eine lokale Open-Weights-Variante von NousResearch für Instruction-Following und agentische Aufgaben. Diese Card beschreibt eine Q4-Quantisierung, die den Speicherbedarf deutlich senkt, aber stärker komprimiert als die präziseren Varianten. Das Modell bleibt auf strukturierte Ausgaben und praktische Assistenz ausgerichtet.
o3-mini ist OpenAIs kompaktes Reasoning-Modell mit internem Chain-of-Thought, spezialisiert auf STEM-Aufgaben, Mathematik und Coding. Die Reasoning-Intensität lässt sich in drei Stufen einstellen. Es ist ausschließlich über die OpenAI-API verfügbar – eine kosteneffiziente Option für rechenintensive Denkaufgaben.
Qwen 3 32B ist ein Open-Weights-Modell von Alibaba aus China – ausgelegt auf allgemeines Reasoning, Coding und mehrsprachige Aufgaben. Es ist über Cloud-Provider verfügbar. Chinesische Herkunft und das nationale Sicherheitsgesetz (NSL) sind bei der Einschätzung des Datenrisikos zu berücksichtigen.
OpenAI o1 ist OpenAIs erstes dediziertes Reasoning-Modell – trainiert auf internem Chain-of-Thought und ausgelegt auf komplexe Mathematik-, Logik- und Wissenschaftsaufgaben. Es ist ausschließlich über die OpenAI-API verfügbar und eignet sich besonders dort, wo gründliches mehrstufiges Schlussfolgern wichtiger ist als niedrige Latenz.
Hermes 4 70B ist ein offenes, hybrides Instruct- und Reasoning-Modell von NousResearch auf Basis der Hermes-4-Familie. Es unterstützt optionales Thinking, Tool Use und strukturierte Ausgaben und liegt als open-weights Variante für lokale oder serverseitige Nutzung vor.
GPT-4o Mini ist OpenAIs kompaktes Einstiegsmodell der GPT-4o-Familie – ausgelegt auf niedrige Kosten und schnelle Antwortzeiten. Es ist ausschließlich über die OpenAI-API verfügbar und eignet sich für alltägliche Aufgaben wie Klassifikation, einfache Textgenerierung und kosteneffiziente Automatisierungen.
Llama 3.3 70B Versatile ist Metas Modell mit öffentlich verfügbaren Gewichten (Meta Llama Community License) und 70 Milliarden Parametern der Llama-3.3-Generation aus den USA. Es ist über Cloud-Provider kostengünstig nutzbar; für den lokalen Betrieb wird leistungsstarke Hardware benötigt.
Llama 4 Scout ist Metas offenes Multimodal-Modell der vierten Llama-Generation aus den USA – ausgelegt auf allgemeine Sprachaufgaben und Bildverständnis. 10M Token Kontext, MoE-Architektur (109B total / 17B aktiv). Die Weights sind frei verfügbar.
Magistral Small ist Mistral AIs kompaktes Reasoning-Modell aus Frankreich – ausgelegt auf strukturiertes Schlussfolgern mit niedrigerer Latenz. 128K Kontextfenster, Apache-2.0-Lizenz. Verfügbar über die Mistral-API; die Weights sind frei zugänglich.
Magistral Medium ist das Reasoning-Modell von Mistral AI für komplexe Logik, Mathematik und strukturierte Entscheidungen. Es ist nur über die Mistral-API verfügbar, unterstützt ein 40K-Kontextfenster und ist auf längere, nachvollziehbare Denkprozesse ausgelegt. Die Gewichte sind nicht öffentlich zugänglich.
Qwen 3 4B ist ein kompaktes Open-Weights-Modell von Alibaba (China) mit optionalem Thinking-Modus (Chain-of-Thought an-/abschaltbar). Läuft hier als Q6_K-GGUF via llama.cpp. Q6_K (6-Bit-K-Quant) gilt als nahezu verlustfrei und wird von der Community als sehr gute Wahl für maximale Qualität im kompakten Format bewertet.
Hermes 3 8B ist ein lokales GGUF-Finetuning von Nous Research auf Basis von Llama 3.1 8B. Die Variante ist auf Instruction-Following, Tool Use und kreative oder ambivalente Anfragen ausgelegt und läuft hier als Q6_K_L-GGUF über llama.cpp. Die bewusst reduzierte Ablehnungsrate ist ein zentrales Merkmal der Distribution.
Qwen 2.5 Coder 7B ist ein kompaktes Open-Weights-Coding-Modell von Alibaba für lokale Ausführung. Die Serie ist auf Code-Generierung, Code-Reparatur und Code-Reasoning ausgelegt und unterstützt lange Kontexte für reale Entwickleraufgaben. In dieser Card läuft es als Q6_K GGUF mit geringerem Speicherbedarf.