LLMs im direkten Vergleich 7 Einsatzszenarien · Gleiche Bedingungen · eine Ergebnisliste

Wie gut schlagen sich freie Open-Weight-Modelle gegen proprietäre API-Modelle und lizenzlich eingeschränkte Restricted-Weight-Modelle? Anhand alltäglicher Aufgaben und unter denselben Bedingungen landen alle Lizenzmodelle und Gewichtsklassen im selben Scoreboard.

Der Gesamtscore zeigt den besten Allrounder. Die Profile darunter beantworten die eigentliche Alltagsfrage: Reicht dieses Modell für deine Aufgabe – auch wenn es ein kleiner, lokaler Spezialist ist statt ein Cloud-Gigant?

Scoreboard

111 Modelle im Scoreboard

# Report
1
GLM-5.3
Restricted Server Cloud
82.3
Thinking
80Tool-Use unterstützt, Score: 80
137 t/s
$1.57
Report
2
Claude Opus 5.5
Commercial Frontier API
81.0
Thinking
77Tool-Use unterstützt, Score: 77
0.5 t/s
$1.36
Report
3
Qwen 3.8 Flash-Next (Thinking)
Open Weight Server vLLM
81.0
Thinking
85Tool-Use unterstützt, Score: 85
41.2 t/s
–
Report
4
GLM-5.3-Flash (EXL3, TensorFold)
Open Weight Server TensorFold
80.9
Thinking
74Tool-Use unterstützt, Score: 74
55.5 t/s
–
Report
5
Claude Opus 4.8
Commercial Frontier API
80.6
Adaptive
78Tool-Use unterstützt, Score: 78
0.3 t/s
$1.14
Report
6
Swift Qwen 3.8 27B (Thinking)
Restricted Workstation vLLM
80.5
Thinking
75Tool-Use unterstützt, Score: 75
16.3 t/s
–
Report
7
GLM-5.3-Flash
Open Weight Server Cloud
79.7
Thinking
80Tool-Use unterstützt, Score: 80
79.4 t/s
$0.14
Report
8
Qwen 3.8 27B Uncensored (Thinking)
Open Weight Workstation vLLM
79.7
Thinking
79Tool-Use unterstützt, Score: 79
16.6 t/s
–
Report
9
Kimi K3
Open Weight Frontier Cloud
79.3
Thinking
81Tool-Use unterstützt, Score: 81
91.4 t/s
$3.23
Report
10
Claude Opus 5
Commercial Frontier API
78.7
Thinking
83Tool-Use unterstützt, Score: 83
0.3 t/s
$1.56
Report
11
Xiaomi MiMo V2.5 Pro
Open Weight Frontier Cloud
78.7
Adaptive
73Tool-Use unterstützt, Score: 73
32.7 t/s
$0.11
Report
12
Xiaomi MiMo V2.6 Pro
Open Weight Frontier Cloud
78.3
Standard
75Tool-Use unterstützt, Score: 75
27.1 t/s
$0.14
Report
13
Qwen3.8-Flash
Open Weight Server Cloud
78.2
Thinking
80Tool-Use unterstützt, Score: 80
60.8 t/s
$0.05
Report
14
Qwen 3.8 27B (Thinking)
Open Weight Workstation vLLM
78.2
Thinking
79Tool-Use unterstützt, Score: 79
21.3 t/s
–
Report
15
Meta Muse Spark 1.2
Commercial Frontier Cloud
77.7
Adaptive
78Tool-Use unterstützt, Score: 78
162 t/s
$0.54
Report
16
Claude Sonnet 4.6
Commercial Frontier API
77.7
Adaptive
67Tool-Use unterstützt, Score: 67
0.2 t/s
$0.66
Report
17
Kimi K2.6
Open Weight Frontier Cloud
77.4
Adaptive
82Tool-Use unterstützt, Score: 82
51.8 t/s
$1.05
Report
18
Claude Haiku 5.5
Commercial Frontier API
77.3
Thinking
77Tool-Use unterstützt, Score: 77
197 t/s
$0.09
Report
19
MiniMax M3
Open Weight Server Cloud
77.3
Adaptive
80Tool-Use unterstützt, Score: 80
85.3 t/s
$0.16
Report
20
Gemini 3.5 Flash
Commercial Frontier API
77.2
Adaptive
76Tool-Use unterstützt, Score: 76
58.7 t/s
$0.49
Report
21
Claude Sonnet 5
Commercial Frontier API
76.7
Thinking
79Tool-Use unterstützt, Score: 79
0.4 t/s
$0.46
Report
22
GPT-5.5
Commercial Frontier API
76.7
Thinking
78Tool-Use unterstützt, Score: 78
81.6 t/s
$2.90
Report
23
Kimi K2.5
Open Weight Frontier Cloud
76.6
Thinking
77Tool-Use unterstützt, Score: 77
37.7 t/s
$0.39
Report
24
Qwen3.8-2.4T-A95B
Open Weight Frontier Cloud
76.5
Thinking
81Tool-Use unterstützt, Score: 81
95.0 t/s
$2.22
Report
25
GLM 4.6
Restricted Server Cloud
76.2
Standard
53Tool-Use unterstützt, Score: 53
46.1 t/s
$0.25
Report
26
Ornith 1.5 35B-A3B
Open Weight Workstation vLLM
76.0
Thinking
76Tool-Use unterstützt, Score: 76
61.0 t/s
–
Report
27
Qwen 3.7 Max
Commercial Frontier Cloud
75.8
Adaptive
60Tool-Use unterstützt, Score: 60
62.6 t/s
$0.75
Report
28
Ornith 1.0 35B
Open Weight Workstation vLLM
75.8
Thinking
63Tool-Use unterstützt, Score: 63
35.5 t/s
–
Report
29
Gemini 3.8 Flash
Commercial Frontier Cloud
75.7
Thinking
83Tool-Use unterstützt, Score: 83
114 t/s
$0.40
Report
30
Qwen 3.6 27B (Thinking)
Open Weight Workstation vLLM
75.6
Thinking
73Tool-Use unterstützt, Score: 73
25.2 t/s
–
Report
31
GLM-5.2
Open Weight Server Cloud
75.5
Adaptive
51Tool-Use unterstützt, Score: 51
65.7 t/s
$0.40
Report
32
Qwen 3.6 Plus
Commercial Frontier Cloud
75.5
Adaptive
68Tool-Use unterstützt, Score: 68
56.3 t/s
$0.41
Report
33
Upstage Solar Pro4
Commercial Frontier Cloud
75.4
Standard
71Tool-Use unterstützt, Score: 71
35.9 t/s
$0.01
Report
34
Qwen 3.8 Omni Flash
Commercial Frontier Cloud
75.3
Thinking
78Tool-Use unterstützt, Score: 78
42.1 t/s
$0.19
Report
35
Occamy 1.0 35B-A3B (Accio-Lab) (Thinking)
Open Weight Workstation vLLM
75.3
Thinking
70Tool-Use unterstützt, Score: 70
33.9 t/s
–
Report
36
Xiaomi MiMo V2.6 Flash
Open Weight Server Cloud
75.0
Standard
73Tool-Use unterstützt, Score: 73
43.2 t/s
$0.03
Report
37
Gemma 4 26B-A4B Instruct (Thinking)
Open Weight Workstation vLLM
74.9
Thinking
74Tool-Use unterstützt, Score: 74
27.3 t/s
–
Report
38
Claude Haiku 4.5
Commercial Frontier API
74.8
Standard
67Tool-Use unterstützt, Score: 67
98.4 t/s
$0.43
Report
39
Mistral 3 Large
Open Weight Server API
74.8
Standard
69Tool-Use unterstützt, Score: 69
50.7 t/s
$0.10
Report
40
DeepSeek V4.1 Flash
Open Weight Server Cloud
74.8
Thinking
80Tool-Use unterstützt, Score: 80
99.9 t/s
$0.12
Report
41
Grok 4.6
Commercial Frontier API
74.7
Thinking
73Tool-Use unterstützt, Score: 73
13.6 t/s
$0.44
Report
42
DeepSeek-V4.1-Flash (EXL3) (Thinking)
Open Weight Server vLLM
74.5
Thinking
78Tool-Use unterstützt, Score: 78
30.5 t/s
–
Report
43
Ministral 3 14B (Unsloth)
Open Weight Desktop llama.cpp
74.5
Standard
61Tool-Use unterstützt, Score: 61
15.8 t/s
–
Report
44
Gemini 3.7 Flash
Commercial Frontier Cloud
74.4
Adaptive
80Tool-Use unterstützt, Score: 80
115 t/s
$0.34
Report
45
Occamy 1.0 35B-A3B (Accio-Lab)
Open Weight Workstation vLLM
74.4
Standard
69Tool-Use unterstützt, Score: 69
30.0 t/s
–
Report
46
GPT-OSS 120B (Thinking)
Open Weight Server vLLM
74.4
Thinking
76Tool-Use unterstützt, Score: 76
31.4 t/s
–
Report
47
Qwen 3.5 35B-A3B (Unsloth)
Open Weight Workstation llama.cpp
74.3
Adaptive
72Tool-Use unterstützt, Score: 72
69.3 t/s
–
Report
48
Kimi K2.7 Code
Open Weight Frontier Cloud
74.3
Thinking
63Tool-Use unterstützt, Score: 63
83.0 t/s
$0.57
Report
49
Mistral Medium 3.5
Open Weight Server API
74.2
Standard
71Tool-Use unterstützt, Score: 71
106 t/s
$0.46
Report
50
Qwen 3 Coder Next
Open Weight Server llama.cpp
74.1
Standard
71Tool-Use unterstützt, Score: 71
48.5 t/s
–
Report
51
Qwen 3.6 35B-A3B (Unsloth) (Thinking)
Open Weight Workstation vLLM
74.1
Thinking
77Tool-Use unterstützt, Score: 77
84.6 t/s
–
Report
52
GLM-4.7
Restricted Server Cloud
74.0
Adaptive
71Tool-Use unterstützt, Score: 71
47.7 t/s
$0.25
Report
53
Grok 4.5
Commercial Frontier API
73.8
Standard
77Tool-Use unterstützt, Score: 77
25.6 t/s
$0.52
Report
54
GPT 5.6 Luna
Commercial Frontier API
73.6
Thinking
80Tool-Use unterstützt, Score: 80
87.6 t/s
$0.10
Report
55
Gemma 4 26B-A4B Q5_K_M (ARA-Abliterated)
Open Weight Workstation llama.cpp
73.3
Standard
76Tool-Use unterstützt, Score: 76
53.5 t/s
–
Report
56
GLM-5.1
Open Weight Server Cloud
73.3
Adaptive
68Tool-Use unterstützt, Score: 68
63.5 t/s
$0.52
Report
57
Mistral Small 4
Open Weight Server API
73.3
Standard
20Tool-Use unterstützt, Score: 20
117 t/s
$0.03
Report
58
Signal 3.8 27B
Open Weight Workstation llama.cpp
73.2
Standard
77Tool-Use unterstützt, Score: 77
14.5 t/s
–
Report
59
Gemma 4 31B Instruct
Open Weight Workstation Cloud
73.2
Standard
74Tool-Use unterstützt, Score: 74
30.6 t/s
$0.02
Report
60
Qwen 3.5 397B A17B
Open Weight Server Cloud
73.2
Adaptive
74Tool-Use unterstützt, Score: 74
20.4 t/s
$0.46
Report
61
Gemini 2.5 Pro
Commercial Frontier API
73.2
Adaptive
71Tool-Use unterstützt, Score: 71
29.7 t/s
$0.68
Report
62
MiniMax M2.7
Restricted Server Cloud
73.0
Adaptive
65Tool-Use unterstützt, Score: 65
48.0 t/s
$0.13
Report
63
Gemma 4 12B Instruct (Unsloth, Q6_K_XL) — Instruct-Profil
Open Weight Desktop llama.cpp
72.9
Standard
75Tool-Use unterstützt, Score: 75
13.3 t/s
–
Report
64
DeepSeek V4 Flash
Open Weight Server Cloud
72.9
Adaptive
78Tool-Use unterstützt, Score: 78
29.9 t/s
$0.01
Report
65
Gemma 4 12B Instruct (Unsloth, Q6_K_XL)
Open Weight Desktop llama.cpp
72.7
Thinking
71Tool-Use unterstützt, Score: 71
16.6 t/s
–
Report
66
DeepSeek V4 Pro
Open Weight Frontier Cloud
72.6
Adaptive
77Tool-Use unterstützt, Score: 77
53.3 t/s
$0.30
Report
67
NVIDIA Nemotron 3 Ultra 550B A55B
Open Weight Server Cloud
72.5
Adaptive
55Tool-Use unterstützt, Score: 55
97.0 t/s
$0.37
Report
68
Gemini 3.5 Flash Lite
Commercial Frontier Cloud
72.5
Thinking
74Tool-Use unterstützt, Score: 74
164 t/s
$0.14
Report
69
Gemma 4 E4B
Open Weight Edge llama.cpp
71.9
Adaptive
73Tool-Use unterstützt, Score: 73
48.2 t/s
–
Report
70
Qwen 3.6 35B-A3B (Uncensored)
Open Weight Workstation llama.cpp
71.7
Adaptive
60Tool-Use unterstützt, Score: 60
53.9 t/s
–
Report
71
Muse Glimmer 30B
Open Weight Workstation vLLM
71.6
Thinking
73Tool-Use unterstützt, Score: 73
10.6 t/s
–
Report
72
Ministral 3 8B (Unsloth)
Open Weight Edge llama.cpp
71.3
Standard
60Tool-Use unterstützt, Score: 60
24.9 t/s
–
Report
73
Grok 4.7
Commercial Frontier API
71.1
Thinking
72Tool-Use unterstützt, Score: 72
17.4 t/s
$0.56
Report
74
Qwen 3.5 27B
Open Weight Workstation vLLM
71.0
Thinking
66Tool-Use unterstützt, Score: 66
17.8 t/s
–
Report
75
Xiaomi MiMo V2.5
Open Weight Server Cloud
70.4
Adaptive
71Tool-Use unterstützt, Score: 71
43.0 t/s
$0.03
Report
76
Devstral 2
Open Weight Server API
70.2
Standard
55Tool-Use unterstützt, Score: 55
56.2 t/s
$0.13
Report
77
GPT-5.4 Mini
Commercial Frontier API
70.2
Standard
68Tool-Use unterstützt, Score: 68
120 t/s
$0.25
Report
78
Qwen 3.5 4B (Unsloth)
Open Weight Nano llama.cpp
69.9
Adaptive
78Tool-Use unterstützt, Score: 78
51.3 t/s
–
Report
79
NVIDIA Nemotron 3.5 Lightning 30B (Thinking)
Open Weight Workstation vLLM
69.6
Thinking
73Tool-Use unterstützt, Score: 73
93.5 t/s
–
Report
80
o4-mini
Commercial Frontier API
69.5
Thinking
63Tool-Use unterstützt, Score: 63
69.7 t/s
$0.40
Report
81
GPT-5.4
Commercial Frontier API
69.4
Standard
43Tool-Use unterstützt, Score: 43
76.9 t/s
$0.89
Report
82
Laguna S 2.1
Open Weight Server vLLM
69.1
Thinking
63Tool-Use unterstützt, Score: 63
17.2 t/s
$0.02
Report
83
Hermes 4 70B
Open Weight Server Cloud
69.0
Adaptive
76Tool-Use unterstützt, Score: 76
76.8 t/s
$0.03
Report
84
Gemma 3 12B IT
Restricted Desktop llama.cpp
68.9
Standard
64Tool-Use unterstützt, Score: 64
39.1 t/s
–
Report
85
Qwen 3.5 9B (Unsloth)
Open Weight Edge llama.cpp
68.7
Adaptive
57Tool-Use unterstützt, Score: 57
34.3 t/s
–
Report
86
Hermes 4 405B
Restricted Server Cloud
68.4
Adaptive
69Tool-Use unterstützt, Score: 69
31.1 t/s
$0.17
Report
87
NVIDIA Nemotron 3 Nano 30B A3B
Open Weight Workstation Cloud
68.3
Adaptive
66Tool-Use unterstützt, Score: 66
35.4 t/s
$0.02
Report
88
Hermes 4 14B (Abliterated)
Open Weight Desktop llama.cpp
68.2
Adaptive
70Tool-Use unterstützt, Score: 70
25.4 t/s
–
Report
89
Gemma 4 E2B (Unsloth)
Open Weight Edge llama.cpp
68.1
Thinking
59Tool-Use unterstützt, Score: 59
67.1 t/s
–
Report
90
GPT-5.4 Nano
Commercial Frontier API
68.1
Standard
49Tool-Use unterstützt, Score: 49
125 t/s
$0.07
Report
91
o3-mini
Commercial Frontier API
68.0
Thinking
73Tool-Use unterstützt, Score: 73
71.2 t/s
$0.37
Report
92
Hermes 4.3 36B (Thinking)
Open Weight Server vLLM
68.0
Thinking
67Tool-Use unterstützt, Score: 67
13.3 t/s
–
Report
93
Qwen 3 14B
Open Weight Desktop llama.cpp
67.7
Adaptive
66Tool-Use unterstützt, Score: 66
23.9 t/s
–
Report
94
Hermes 4 14B
Open Weight Desktop llama.cpp
67.3
Adaptive
67Tool-Use unterstützt, Score: 67
30.3 t/s
–
Report
95
Hermes 4.3 36B
Open Weight Server vLLM
67.1
Standard
67Tool-Use unterstützt, Score: 67
12.7 t/s
–
Report
96
Ornith 1.0 9B (Unsloth)
Open Weight Desktop llama.cpp
65.9
Thinking
71Tool-Use unterstützt, Score: 71
25.1 t/s
–
Report
97
Codestral 25.08
Restricted Desktop API
65.5
Standard
69Tool-Use unterstützt, Score: 69
192 t/s
$0.05
Report
98
Ministral 3 3B (Unsloth)
Open Weight Nano llama.cpp
64.8
Standard
56Tool-Use unterstützt, Score: 56
53.0 t/s
–
Report
99
GPT-OSS 20B
Open Weight Desktop vLLM
64.3
Standard
28Tool-Use unterstützt, Score: 28
41.5 t/s
–
Report
100
Llama 8B (Unsloth, provenance unverified)
Restricted Edge llama.cpp
62.7
Standard
Kein Tool-Use
25.5 t/s
–
Report
101
Gemma 3 4B (Unsloth)
Restricted Nano llama.cpp
61.5
Standard
Kein Tool-Use
44.5 t/s
–
Report
102
Qwen 3 4B
Open Weight Nano llama.cpp
60.9
Adaptive
71Tool-Use unterstützt, Score: 71
74.0 t/s
–
Report
103
Hermes 3 8B
Restricted Edge llama.cpp
58.8
Standard
56Tool-Use unterstützt, Score: 56
48.0 t/s
–
Report
104
Phi-4 Mini (Unsloth)
Open Weight Nano llama.cpp
58.4
Standard
66Tool-Use unterstützt, Score: 66
46.1 t/s
–
Report
105
DeepSeek R1 Distill Qwen 14B
Open Weight Desktop llama.cpp
58.3
Standard
Kein Tool-Use
15.0 t/s
–
Report
106
Qwen 2.5 Coder 7B
Open Weight Edge llama.cpp
55.3
Standard
58Tool-Use unterstützt, Score: 58
37.4 t/s
–
Report
107
Llama 3.2 3B (Unsloth)
Restricted Nano llama.cpp
52.0
Standard
48Tool-Use unterstützt, Score: 48
55.0 t/s
–
Report
108
Llama 3.2 1B (Unsloth)
Restricted Nano llama.cpp
44.4
Standard
Kein Tool-Use
130 t/s
–
Report
109
DeepSeek R1 Distill Qwen 7B
Open Weight Edge llama.cpp
42.6
Standard
Kein Tool-Use
29.3 t/s
–
Report
110
DeepSeek R1 Distill Qwen 1.5B
Open Weight Nano llama.cpp
35.4
Standard
Kein Tool-Use
110 t/s
–
Report
111
Gemma 3 270M (Unsloth)
Restricted Nano llama.cpp
23.6
Standard
Kein Tool-Use
211 t/s
–
Report