But wait… Können Maschinen zu viel denken?

Ich sitze vor meiner Entwicklungsumgebung und schaue meinem neuen „Daily Driver" beim Denken zu. Denkkette um Denkkette, jede Schlussfolgerung wird hinterfragt, verworfen, neu zusammengesetzt. Irgendwie erinnert mich das an die Zeit, als ich die Festplattenfragmentierung auf Windows 95 regelmäßig zum Wochenende startete, gedankenverloren auf den Bildschirm schaute, mit dem guten Gefühl, dass gerade etwas Produktives passierte.

Mein neues Alltagsmodell im lokalen Stack heißt Qwen3.8-27B. Frisch released am 13. August 2026. Ein Modell, das seine geringe Größe durch optimales Denken kompensiert und Antworten liefert, die man sonst nur von kommerziellen Frontier-Modellen erwartet. Endlich. Denn mit dem Vorgänger Qwen3.6-27B hatte ich zwar mein lokales Modell für den Alltag gefunden, aber irgendwie fehlte immer der letzte Schliff. Der finale Code blieb auf der Strecke, Architekturanweisungen wurden nur „locker" befolgt, und am Ende brauchte es stets ein weiteres, kommerzielles Modell für Review und Refaktoring.

Ich hoffte deshalb schon länger, dass Alibaba ein Modell veröffentlichen würde, das genau diese letzte Meile geht. Und jetzt, mit Qwen3.8-27B, ist es da. Der neue Open-Weight-Heilsbringer für den lokalen Betrieb.

But wait… Ein neues Modell?

Man möchte meinen, Qwen3.8-27B ist die Weiterentwicklung des Qwen3.6-27B-Modells. Dem ist aber nicht so. Die 3.8-Version wurde auf Basis des Qwen3.5-Modells trainiert, übrigens genau wie schon das 3.6-Modell vorher. Bei Qwen3.8-27B handelt es sich also gar nicht um ein so neues Modell, sondern eher um ein durch Training weiter verbessertes Qwen3.5. Das heißt aber nicht, dass das schlecht ist.

Ich wollte das zuerst nicht glauben, ich dachte, Qwen3.8 hätte mehr Transformer, mehr parallele Recheneinheiten, ein neues Innenleben unter der Haube bekommen. Doch die Datenblätter beider Modelle sind identisch. Gleiche 64 Layer, gleiches Hybrid-Muster aus 16 Wiederholungen von je drei linearen Gated-DeltaNet-Blöcken gefolgt von einem vollen Attention-Block, gleiche 5.120 versteckte Dimensionen, gleiches 262K-Kontextfenster. Sogar die Dateigröße der Gewichte ist bis auf das Byte identisch.

Doch eines hat sich beim neuen Qwen-Modell geändert, nämlich die Multi-Token-Prediction (MTP). Das ist ein „Zusatzkopf" (Prediction Head), der beim Generieren der Antwort mehrere Tokens gleichzeitig vorschlägt statt nur einen, was die Geschwindigkeit der Antwort am Ende deutlich verbessert. Das funktioniert wie ein Rallye-Beifahrer, der schon vor dem Hindernis aus den Pace Notes (Training) vorliest, was als Nächstes kommt: „Links drei, lang, Kuppe." Das Hauptmodell muss die Vorschläge dann nur noch bestätigen, und wenn die Ansage stimmt, sind gleich mehrere Tokens auf einen Schlag im Ziel. Übrigens war MTP auch im Qwen3.6-27B als Trainingsziel vorhanden. Nur haben Community-Quantisierer sie bei 3.8 von Anfang an in die Quantisierung gepackt, während sie bei 3.6 erst nachträglich ergänzt werden musste.

Der eigentliche Qualitätssprung zwischen 3.6 und 3.8 kommt also nicht aus einer neuen Maschine. Er kommt aus reinem Training: mehr Daten, mehr Reinforcement Learning auf echten agentischen Aufgabenverläufen, mehr Feingefühl im Umgang mit Kontext. Es gibt keinen neuen Motor, sondern der alte ist besser eingestellt. Denn dieser Motor hatte eine Vorgeschichte.

But wait… Was hat sich beim Denken verändert?

Qwen3.5 war schon beeindruckend gut. Es hatte aber ein Problem: Bei umfänglicheren Denkaufgaben verlor es sich und driftete in Denkschleifen ab, aus denen es selten wieder herausfand. Man gab ihm eine Aufgabe, und es begann, mit sich selbst zu verhandeln, ohne ein Ende zu finden. Mit Qwen3.6-27B wurde das eingefangen, zumindest teilweise. Mit ein paar Anpassungen auf der Inference-Seite ließ sich das Modell so einstellen, dass es nicht mehr endlos kreiste und sogar das volle Kontextfenster nutzen konnte.

Und jetzt Qwen3.8-27B. Das Modell bekommt gleich drei Denk-Modi: low, medium und xhigh. But wait… Fehlt da nicht einer in der Reihe?

Der Sprung von medium zu xhigh ist nicht unbegründet. Das Modell verbraucht im xhigh-Modus bis zum Fünffachen der Tokenmenge gegenüber dem Medium-Modus, der wiederum rund 25 % mehr Tokens verbraucht als Qwen3.6 im Thinking-Modus. Das Modell darf also wieder mehr denken als sein Vorgänger und erzielt dabei, wenn man den öffentlichen Benchmarks glauben darf, deutlich bessere Ergebnisse: SWE-bench Pro steigt von 53,5 auf 61,7, OSWorld-Verified von 63,9 auf 84,3, Terminal-Bench 2.1 von 63,4 auf 73,0. Bei OSWorld liegt Qwen3.8-27B damit sogar vor Claude Opus 4.6 Max. Wow!

Qwen3.8-27B produziert nachweislich Ergebnisse, die auf einzelnen, besonders schwierigen Aufgaben besser sind als alles, was Qwen3.6-27B konnte. Aber genau hier beginnt die eigentliche Geschichte des Artikels. Denn „kann sich auszahlen" ist nicht dasselbe wie „zahlt sich aus". Und um das zu verstehen, muss man erst mal begreifen, was dieses Denken in einem Sprachmodell überhaupt bedeutet.

Was bedeutet „Denken" für eine Maschine?

Das sogenannte „Reasoning", der Denkmodus bei LLMs, war ursprünglich ein großer Fortschritt. Ergebnisse wurden nicht mehr „geradlinig" in die Tat umgesetzt, sondern vom Modell selbst hinterfragt, korrigiert, neu abgeglichen. Alles begann mit dem einfachen Chain-of-Thought-Prompting der Google-Forscher um Jason Wei, das den GSM8K-Mathe-Benchmark um 30 bis 40 Prozentpunkte verbesserte. Es folgte o1 von OpenAI, das erste echte Reasoning-Modell, trainiert per Reinforcement Learning, produktiv in einer langen, verborgenen Denkkette zu arbeiten, Aufgaben zu zerlegen, Alternativen zu probieren. Der Beginn des Test-Time Compute-Scaling: mehr Rechenzeit bei der Antwort bringt, unabhängig von der Modellgröße, bessere Ergebnisse.

Ein denkendes Sprachmodell schreibt einen inneren Monolog, bevor es antwortet, den sogenannten <think>-Block. Es probiert Lösungswege durch, verwirft sie, versucht es anders, prüft das Ergebnis noch einmal. Erst danach kommt die eigentliche, sichtbare Antwort.

Bei Qwen3.8-27B gibt es dafür, wie erwähnt, vier Stufen: instruct (kein Denken), low, medium und xhigh. Die drei Denk-Stufen teilen sich einen gemeinsamen Mechanismus, wobei zwei der drei Denkstufen mit einer unsichtbaren Anweisung vom neutralen Ausgangszustand „medium" abweichen. „Low" sagt: „Denk kurz, geh direkt zum Ergebnis." „Xhigh" sagt dem Modell sinngemäß: „Validiere alles, erwäge Alternativen, priorisiere Korrektheit." Übrigens ist nicht medium, sondern ausgerechnet xhigh die Werkseinstellung, sozusagen der Standard-Modus: Wer dem Modell nicht sagt, wie umfangreich es denken darf, bekommt automatisch die höchste Stufe. Eine Information, die man bei Qwen3.8-27B im Hinterkopf behalten sollte.

But wait… Es hört ja gar nicht mehr auf

Stell dir ein Meeting vor, in dem ein Kollege bei seinen Ausführungen nicht zum Ende kommt und das Problem aus immer neuen Richtungen analysiert und Lösungswege alterniert. Vom optimalen Ergebnis ist man zu diesem Zeitpunkt vielleicht schon wieder abgekommen. Nur leider ist es schwer, dem Kollegen das ausführliche Analysieren des Problems zu verbieten.

So ähnlich erging es mir mit meinen ersten Aufgaben, die ich Qwen3.8-27B gab. Ich saß da und schaute zu, wie das Modell nachdachte, Probleme neu bewertete und weiter nachdachte. Dabei erreichte der Füllstand meines 262K-Kontextfensters bereits 73 Prozent. Und Qwen dachte weiter nach.

Das war kein Zufall, ließ ich Qwen doch im höchsten Denkmodus arbeiten, um das beste Ergebnis zu bekommen. Das Maximum, „für komplexe Aufgaben, die gründliche Analyse erfordern", so die ModelCard. In meinem Fall bekam ich das Ergebnis nach über einer Stunde beim Füllstand von 82 %. Das Ergebnis war gut, mein Kaffeekonsum auch. Um es salopp in den Worten des Nvidia-Chefs Jensen Huang zu sagen, hat Qwen3.8 in dieser Zeit viel „Value" produziert.

Ein Diskussionsthread auf HuggingFace mit dem schönen Titel „This model cannot stop thinking" bringt es auf den Punkt: „Every tiny task turns into a full investigation for no reason." Selbst „benenne diese Variable um" wird zur Grundsatzuntersuchung. Doch anders als im Meeting kann und sollte man dem Modell, bis auf Ausnahmen, sagen, wie viel es denken darf.

But wait… Man bekommt das beste Ergebnis?

Nach Abschluss dieses exzessiven Denkprozesses wollte ich es wissen und habe die Behauptung, dass „mehr Denken automatisch zu besseren Ergebnissen führt", mit CrucibleMark selbst getestet. Sechs CLI-Aufgaben, alle vier Modi, gleicher Server, gleiche Hardware, echte Provider-Tokens statt geschätzter Werte:

Oops, das Ergebnis war anders als erwartet: medium gewinnt, nicht xhigh. Sogar mit deutlichem Abstand: 93,0 gegen 86,7 Punkte, bei einem Fünftel der Tokens und einem Achtel der Zeit. Xhigh landet praktisch auf dem Niveau von instruct, dem Modus, der überhaupt nicht nachdenkt. Nur dass xhigh dafür 15.878 statt 425 Tokens braucht und 1.385 statt 24 Sekunden. Klar, mein CLI-Benchmark deckt nicht alle Situationen ab, gibt aber einen guten Einblick ins alltägliche Verhalten.

Noch unbequemer wird es aber im Detail. Bei der Aufgabe „Ollama Symlink" erreicht medium die volle Punktzahl von 100. Xhigh fällt auf 58 Punkte, die schlechteste Einzelwertung im gesamten Test. Und übrigens low, die vermeintlich sparsamste Denkstufe, ist mit 82,4 Punkten sogar schlechter als gar kein Denken. (Das Protokoll aus meinem Test ist am Artikelende verlinkt.)

But wait… Was kostet mich das eigentlich?

Zwischen Qwen3.6 und Qwen3.8 ist mein eigener Token-Verbrauch von rund 10 Euro auf 30 bis 40 Euro am Tag gesprungen. Das sind prognostizierte Kosten, denn ich logge auf meinem Inference-Server alle erzeugten Token und verrechne sie mit den realen Preisen von OpenRouter. Bei einem Reasoning-Anteil von 97,5 Prozent im xhigh-Modus ist das reine Arithmetik. Fast der gesamte Output besteht aus Denktoken, nicht aus der eigentlichen Antwort.

Nvidia-Chef Jensen Huang hat ja auf der GTC 2026 verkündet, Tokens seien „the new commodity", die neue Handelsware, die Währung des KI-Zeitalters. Sein Rechenzentrum verdient ja auch an jedem erzeugten Token. Meine Server im Nebenzimmer aber nicht. Wenn ich xhigh laufen lasse, weil ich glaube, es liefere stets bessere Ergebnisse, produziere ich keinen „Value". Ich produziere Wärme und eine höhere Stromrechnung.

But wait… Wie voll darf der Kopf eigentlich werden?

Wie erwähnt brachte meine umfangreiche Aufgabe das Kontextfenster auf über 80 % Fülle. Hört sich noch nicht so schlimm an. Dazu muss man aber wissen, dass es ein dokumentiertes Phänomen namens Context Rot gibt. Die Antwortqualität eines Modells sinkt messbar, je voller das Kontextfenster wird, und das bereits deutlich vor dem eigentlichen Limit. Mehrere Untersuchungen verorten die kritische Zone für lange Sessions bei 70 bis 80 Prozent der Kapazität.

Die Ursache ist keine Kapazitätsgrenze, sondern die sogenannte Attention-Dilution: Je mehr Tokens im Fenster liegen, desto stärker verteilt sich die Aufmerksamkeit des Modells, und ältere Gedankenschritte werden zunehmend schwächer gewichtet als neue. Ein Modell, das 100.000 Tokens vorher schon einen Ansatz verworfen hat, erinnert sich daran möglicherweise nicht mehr zuverlässig und probiert ihn munter noch einmal aus. Das erklärt vermutlich auch, warum xhigh bei manchen Aufgaben in meinem eigenen Test so schlecht abschneidet: nicht weil zu wenig gedacht wurde, sondern weil zu viele wichtige Antworten im eigenen Rauschen verloren gingen.

But wait… Dieses Phänomen ist doch bekannt?

Large Language Modelle orientieren sich ja letztlich an menschlichen Denkzyklen. Bedeutet das, dass sie auch die gleichen Fehler machen wie ihre menschlichen Vorbilder, wenn sie zu viel denken? Ein kleiner Ausflug in die Psychologie.

Dort heißt das Verhalten, was ich bei Qwen3.8 im xhigh-Modus beobachtet habe, Rumination: repetitives, passives Kreisen um ein Problem, ohne es aktiv zu lösen. Die grundlegende Forschung dazu zeigt, dass Rumination den Beginn neuer depressiver Episoden vorhersagt, bestehende Symptome verlängert und sogar die Wirksamkeit von Therapie verschlechtert. Das Gehirn „arbeitet" dabei nachweislich mehr, in präfrontalen und limbischen Regionen, produziert aber kein besseres Ergebnis.

Für die Produktivseite gibt es zwei weitere Parallelen. Analysis Paralysis beschreibt die Tendenz, eine Situation so lange zu überanalysieren, bis gar keine Entscheidung mehr fällt, mit belegten Folgen für Projektverzögerungen.

Noch direkter ist die Choking-under-Pressure-Forschung von Sian Beilock und Thomas Carr (2001): Bei bereits gut trainierten, automatisierten Fähigkeiten führt bewusstes, schrittweises Nachdenken über die eigene Ausführung nachweislich zu schlechteren Ergebnissen als automatisiertes Handeln.

Das ist mein xhigh-Befund: ein System, das eigentlich schon „weiß", was zu tun ist, zerlegt die Antwort durch zu viel explizites Nachprüfen.

Die Konsequenz: medium als Standard, xhigh als Option

Ich habe meinen eigenen vLLM-Server inzwischen so eingestellt, wie es aus meiner Sicht von Anfang an hätte sein sollen: Standardmodus medium, mit einem „Reasoning-Effort-Wähler", über den ich bei Bedarf gezielt auf low, instruct oder xhigh umschalten kann. Wobei ich auf low gerne verzichte, so groß ist der zeitliche Abstand zu medium nicht, die Qualität des Ergebnisses aber schon.

Vielleicht ist das die eigentliche Pointe dieser ganzen Geschichte. Nicht, dass Qwen3.8-27B zu viel denkt. Sondern dass es, genau wie so ein nerviger Kollege im Meeting, nicht von sich aus weiß, wann es genug ist. Möchte ich eine LLM, die nah an der Depression nicht mehr in der Lage ist, eine brauchbare Antwort zu produzieren?

Spaß beiseite, der Denkmodus xhigh hat sicher seine Begründung in komplexen Analysen, nur eben nicht als Standardeinstellung.

Trotzdem, und das soll nicht untergehen: Qwen3.8-27B ist ein großartiges Modell. Für den lokalen Betrieb liefert es Ergebnisse, für die man vor einem Jahr noch einen Cloud-Zugang gebraucht hätte. Das Modell ist das nächste glänzende Glied in einer weiter wachsenden Kette lokaler Open-Weight-LLMs. Qwen3.5, 3.6, 3.8, und sicher schon bald ein neues. Die Leistung, die die Entwickler aus Qwen3.5 herausoptimierten, ist beeindruckend und zeigt, dass Modellgröße nicht die einzige Stellschraube bei der Entwicklung künstlicher Intelligenz ist.

PS: „But wait…" war der am meisten gelesene Absatzbeginn während meiner meditativen Beobachtung des Denkprozesses von Qwen3.8-27B bei meinen ersten Modelltests.

Kay Beißert

Quellen