LLMs im direkten Vergleich 7 Einsatzszenarien · Gleiche Bedingungen · eine Ergebnisliste
Wie gut schlagen sich freie Open-Weight-Modelle gegen proprietäre API-Modelle und lizenzlich eingeschränkte Restricted-Weight-Modelle? Anhand alltäglicher Aufgaben und unter denselben Bedingungen landen alle Lizenzmodelle und Gewichtsklassen im selben Scoreboard.
Der Gesamtscore zeigt den besten Allrounder. Die Profile darunter beantworten die eigentliche Alltagsfrage: Reicht dieses Modell für deine Aufgabe – auch wenn es ein kleiner, lokaler Spezialist ist statt ein Cloud-Gigant?
Die Stärke des Scoreboards liegt in der Vergleichbarkeit. Wer nach Größenklasse oder Modelltyp filtert, blendet nichts aus. Nicht passende Einträge werden visuell zurückgenommen, bleiben aber im Kontext. So lässt sich direkt ablesen, wo ein Open-Weight-Desktopmodell gegenüber einem proprietären Frontier-Modell steht, und ob der Leistungsunterschied den Preisunterschied rechtfertigt.
Im Scoreboard treten drei Lizenzmodelle gegeneinander an. Proprietäre Modelle geben weder Trainingsdaten heraus noch werden Gewichte veröffentlicht, der Zugang läuft ausschließlich über die API des Herstellers. Restricted-Weight-Modelle veröffentlichen ihre Gewichte und lassen sich lokal oder in der Cloud betreiben, allerdings schränkt die Lizenz die Nutzung meist auf akademische oder nicht-kommerzielle Zwecke ein. Open-Weight-Modelle stehen ohne Auflagen bereit: herunterladen, selbst betreiben, kommerziell einsetzen.
| # | Report | ||||||
|---|---|---|---|---|---|---|---|
|
1
|
GLM-5.3
Restricted
Server
Cloud
|
82.3
|
Thinking
|
80Tool-Use unterstützt, Score: 80
|
137 t/s
|
$1.57
|
Report |
|
2
|
Claude Opus 5.5
Commercial
Frontier
API
|
81.0
|
Thinking
|
77Tool-Use unterstützt, Score: 77
|
0.5 t/s
|
$1.36
|
Report |
|
3
|
Qwen 3.8 Flash-Next (Thinking)
Open Weight
Server
vLLM
|
81.0
|
Thinking
|
85Tool-Use unterstützt, Score: 85
|
41.2 t/s
|
–
|
Report |
|
4
|
GLM-5.3-Flash (EXL3, TensorFold)
Open Weight
Server
TensorFold
|
80.9
|
Thinking
|
74Tool-Use unterstützt, Score: 74
|
55.5 t/s
|
–
|
Report |
|
5
|
Claude Opus 4.8
Commercial
Frontier
API
|
80.6
|
Adaptive
|
78Tool-Use unterstützt, Score: 78
|
0.3 t/s
|
$1.14
|
Report |
|
6
|
Swift Qwen 3.8 27B (Thinking)
Restricted
Workstation
vLLM
|
80.5
|
Thinking
|
75Tool-Use unterstützt, Score: 75
|
16.3 t/s
|
–
|
Report |
|
7
|
GLM-5.3-Flash
Open Weight
Server
Cloud
|
79.7
|
Thinking
|
80Tool-Use unterstützt, Score: 80
|
79.4 t/s
|
$0.14
|
Report |
|
8
|
Qwen 3.8 27B Uncensored (Thinking)
Open Weight
Workstation
vLLM
|
79.7
|
Thinking
|
79Tool-Use unterstützt, Score: 79
|
16.6 t/s
|
–
|
Report |
|
9
|
Kimi K3
Open Weight
Frontier
Cloud
|
79.3
|
Thinking
|
81Tool-Use unterstützt, Score: 81
|
91.4 t/s
|
$3.23
|
Report |
|
10
|
Claude Opus 5
Commercial
Frontier
API
|
78.7
|
Thinking
|
83Tool-Use unterstützt, Score: 83
|
0.3 t/s
|
$1.56
|
Report |
|
11
|
Xiaomi MiMo V2.5 Pro
Open Weight
Frontier
Cloud
|
78.7
|
Adaptive
|
73Tool-Use unterstützt, Score: 73
|
32.7 t/s
|
$0.11
|
Report |
|
12
|
Xiaomi MiMo V2.6 Pro
Open Weight
Frontier
Cloud
|
78.3
|
Standard
|
75Tool-Use unterstützt, Score: 75
|
27.1 t/s
|
$0.14
|
Report |
|
13
|
Qwen3.8-Flash
Open Weight
Server
Cloud
|
78.2
|
Thinking
|
80Tool-Use unterstützt, Score: 80
|
60.8 t/s
|
$0.05
|
Report |
|
14
|
Qwen 3.8 27B (Thinking)
Open Weight
Workstation
vLLM
|
78.2
|
Thinking
|
79Tool-Use unterstützt, Score: 79
|
21.3 t/s
|
–
|
Report |
|
15
|
Meta Muse Spark 1.2
Commercial
Frontier
Cloud
|
77.7
|
Adaptive
|
78Tool-Use unterstützt, Score: 78
|
162 t/s
|
$0.54
|
Report |
|
16
|
Claude Sonnet 4.6
Commercial
Frontier
API
|
77.7
|
Adaptive
|
67Tool-Use unterstützt, Score: 67
|
0.2 t/s
|
$0.66
|
Report |
|
17
|
Kimi K2.6
Open Weight
Frontier
Cloud
|
77.4
|
Adaptive
|
82Tool-Use unterstützt, Score: 82
|
51.8 t/s
|
$1.05
|
Report |
|
18
|
Claude Haiku 5.5
Commercial
Frontier
API
|
77.3
|
Thinking
|
77Tool-Use unterstützt, Score: 77
|
197 t/s
|
$0.09
|
Report |
|
19
|
MiniMax M3
Open Weight
Server
Cloud
|
77.3
|
Adaptive
|
80Tool-Use unterstützt, Score: 80
|
85.3 t/s
|
$0.16
|
Report |
|
20
|
Gemini 3.5 Flash
Commercial
Frontier
API
|
77.2
|
Adaptive
|
76Tool-Use unterstützt, Score: 76
|
58.7 t/s
|
$0.49
|
Report |
|
21
|
Claude Sonnet 5
Commercial
Frontier
API
|
76.7
|
Thinking
|
79Tool-Use unterstützt, Score: 79
|
0.4 t/s
|
$0.46
|
Report |
|
22
|
GPT-5.5
Commercial
Frontier
API
|
76.7
|
Thinking
|
78Tool-Use unterstützt, Score: 78
|
81.6 t/s
|
$2.90
|
Report |
|
23
|
Kimi K2.5
Open Weight
Frontier
Cloud
|
76.6
|
Thinking
|
77Tool-Use unterstützt, Score: 77
|
37.7 t/s
|
$0.39
|
Report |
|
24
|
Qwen3.8-2.4T-A95B
Open Weight
Frontier
Cloud
|
76.5
|
Thinking
|
81Tool-Use unterstützt, Score: 81
|
95.0 t/s
|
$2.22
|
Report |
|
25
|
GLM 4.6
Restricted
Server
Cloud
|
76.2
|
Standard
|
53Tool-Use unterstützt, Score: 53
|
46.1 t/s
|
$0.25
|
Report |
|
26
|
Ornith 1.5 35B-A3B
Open Weight
Workstation
vLLM
|
76.0
|
Thinking
|
76Tool-Use unterstützt, Score: 76
|
61.0 t/s
|
–
|
Report |
|
27
|
Qwen 3.7 Max
Commercial
Frontier
Cloud
|
75.8
|
Adaptive
|
60Tool-Use unterstützt, Score: 60
|
62.6 t/s
|
$0.75
|
Report |
|
28
|
Ornith 1.0 35B
Open Weight
Workstation
vLLM
|
75.8
|
Thinking
|
63Tool-Use unterstützt, Score: 63
|
35.5 t/s
|
–
|
Report |
|
29
|
Gemini 3.8 Flash
Commercial
Frontier
Cloud
|
75.7
|
Thinking
|
83Tool-Use unterstützt, Score: 83
|
114 t/s
|
$0.40
|
Report |
|
30
|
Qwen 3.6 27B (Thinking)
Open Weight
Workstation
vLLM
|
75.6
|
Thinking
|
73Tool-Use unterstützt, Score: 73
|
25.2 t/s
|
–
|
Report |
|
31
|
GLM-5.2
Open Weight
Server
Cloud
|
75.5
|
Adaptive
|
51Tool-Use unterstützt, Score: 51
|
65.7 t/s
|
$0.40
|
Report |
|
32
|
Qwen 3.6 Plus
Commercial
Frontier
Cloud
|
75.5
|
Adaptive
|
68Tool-Use unterstützt, Score: 68
|
56.3 t/s
|
$0.41
|
Report |
|
33
|
Upstage Solar Pro4
Commercial
Frontier
Cloud
|
75.4
|
Standard
|
71Tool-Use unterstützt, Score: 71
|
35.9 t/s
|
$0.01
|
Report |
|
34
|
Qwen 3.8 Omni Flash
Commercial
Frontier
Cloud
|
75.3
|
Thinking
|
78Tool-Use unterstützt, Score: 78
|
42.1 t/s
|
$0.19
|
Report |
|
35
|
Occamy 1.0 35B-A3B (Accio-Lab) (Thinking)
Open Weight
Workstation
vLLM
|
75.3
|
Thinking
|
70Tool-Use unterstützt, Score: 70
|
33.9 t/s
|
–
|
Report |
|
36
|
Xiaomi MiMo V2.6 Flash
Open Weight
Server
Cloud
|
75.0
|
Standard
|
73Tool-Use unterstützt, Score: 73
|
43.2 t/s
|
$0.03
|
Report |
|
37
|
Gemma 4 26B-A4B Instruct (Thinking)
Open Weight
Workstation
vLLM
|
74.9
|
Thinking
|
74Tool-Use unterstützt, Score: 74
|
27.3 t/s
|
–
|
Report |
|
38
|
Claude Haiku 4.5
Commercial
Frontier
API
|
74.8
|
Standard
|
67Tool-Use unterstützt, Score: 67
|
98.4 t/s
|
$0.43
|
Report |
|
39
|
Mistral 3 Large
Open Weight
Server
API
|
74.8
|
Standard
|
69Tool-Use unterstützt, Score: 69
|
50.7 t/s
|
$0.10
|
Report |
|
40
|
DeepSeek V4.1 Flash
Open Weight
Server
Cloud
|
74.8
|
Thinking
|
80Tool-Use unterstützt, Score: 80
|
99.9 t/s
|
$0.12
|
Report |
|
41
|
Grok 4.6
Commercial
Frontier
API
|
74.7
|
Thinking
|
73Tool-Use unterstützt, Score: 73
|
13.6 t/s
|
$0.44
|
Report |
|
42
|
DeepSeek-V4.1-Flash (EXL3) (Thinking)
Open Weight
Server
vLLM
|
74.5
|
Thinking
|
78Tool-Use unterstützt, Score: 78
|
30.5 t/s
|
–
|
Report |
|
43
|
Ministral 3 14B (Unsloth)
Open Weight
Desktop
llama.cpp
|
74.5
|
Standard
|
61Tool-Use unterstützt, Score: 61
|
15.8 t/s
|
–
|
Report |
|
44
|
Gemini 3.7 Flash
Commercial
Frontier
Cloud
|
74.4
|
Adaptive
|
80Tool-Use unterstützt, Score: 80
|
115 t/s
|
$0.34
|
Report |
|
45
|
Occamy 1.0 35B-A3B (Accio-Lab)
Open Weight
Workstation
vLLM
|
74.4
|
Standard
|
69Tool-Use unterstützt, Score: 69
|
30.0 t/s
|
–
|
Report |
|
46
|
GPT-OSS 120B (Thinking)
Open Weight
Server
vLLM
|
74.4
|
Thinking
|
76Tool-Use unterstützt, Score: 76
|
31.4 t/s
|
–
|
Report |
|
47
|
Qwen 3.5 35B-A3B (Unsloth)
Open Weight
Workstation
llama.cpp
|
74.3
|
Adaptive
|
72Tool-Use unterstützt, Score: 72
|
69.3 t/s
|
–
|
Report |
|
48
|
Kimi K2.7 Code
Open Weight
Frontier
Cloud
|
74.3
|
Thinking
|
63Tool-Use unterstützt, Score: 63
|
83.0 t/s
|
$0.57
|
Report |
|
49
|
Mistral Medium 3.5
Open Weight
Server
API
|
74.2
|
Standard
|
71Tool-Use unterstützt, Score: 71
|
106 t/s
|
$0.46
|
Report |
|
50
|
Qwen 3 Coder Next
Open Weight
Server
llama.cpp
|
74.1
|
Standard
|
71Tool-Use unterstützt, Score: 71
|
48.5 t/s
|
–
|
Report |
|
51
|
Qwen 3.6 35B-A3B (Unsloth) (Thinking)
Open Weight
Workstation
vLLM
|
74.1
|
Thinking
|
77Tool-Use unterstützt, Score: 77
|
84.6 t/s
|
–
|
Report |
|
52
|
GLM-4.7
Restricted
Server
Cloud
|
74.0
|
Adaptive
|
71Tool-Use unterstützt, Score: 71
|
47.7 t/s
|
$0.25
|
Report |
|
53
|
Grok 4.5
Commercial
Frontier
API
|
73.8
|
Standard
|
77Tool-Use unterstützt, Score: 77
|
25.6 t/s
|
$0.52
|
Report |
|
54
|
GPT 5.6 Luna
Commercial
Frontier
API
|
73.6
|
Thinking
|
80Tool-Use unterstützt, Score: 80
|
87.6 t/s
|
$0.10
|
Report |
|
55
|
Gemma 4 26B-A4B Q5_K_M (ARA-Abliterated)
Open Weight
Workstation
llama.cpp
|
73.3
|
Standard
|
76Tool-Use unterstützt, Score: 76
|
53.5 t/s
|
–
|
Report |
|
56
|
GLM-5.1
Open Weight
Server
Cloud
|
73.3
|
Adaptive
|
68Tool-Use unterstützt, Score: 68
|
63.5 t/s
|
$0.52
|
Report |
|
57
|
Mistral Small 4
Open Weight
Server
API
|
73.3
|
Standard
|
20Tool-Use unterstützt, Score: 20
|
117 t/s
|
$0.03
|
Report |
|
58
|
Signal 3.8 27B
Open Weight
Workstation
llama.cpp
|
73.2
|
Standard
|
77Tool-Use unterstützt, Score: 77
|
14.5 t/s
|
–
|
Report |
|
59
|
Gemma 4 31B Instruct
Open Weight
Workstation
Cloud
|
73.2
|
Standard
|
74Tool-Use unterstützt, Score: 74
|
30.6 t/s
|
$0.02
|
Report |
|
60
|
Qwen 3.5 397B A17B
Open Weight
Server
Cloud
|
73.2
|
Adaptive
|
74Tool-Use unterstützt, Score: 74
|
20.4 t/s
|
$0.46
|
Report |
|
61
|
Gemini 2.5 Pro
Commercial
Frontier
API
|
73.2
|
Adaptive
|
71Tool-Use unterstützt, Score: 71
|
29.7 t/s
|
$0.68
|
Report |
|
62
|
MiniMax M2.7
Restricted
Server
Cloud
|
73.0
|
Adaptive
|
65Tool-Use unterstützt, Score: 65
|
48.0 t/s
|
$0.13
|
Report |
|
63
|
Gemma 4 12B Instruct (Unsloth, Q6_K_XL) — Instruct-Profil
Open Weight
Desktop
llama.cpp
|
72.9
|
Standard
|
75Tool-Use unterstützt, Score: 75
|
13.3 t/s
|
–
|
Report |
|
64
|
DeepSeek V4 Flash
Open Weight
Server
Cloud
|
72.9
|
Adaptive
|
78Tool-Use unterstützt, Score: 78
|
29.9 t/s
|
$0.01
|
Report |
|
65
|
Gemma 4 12B Instruct (Unsloth, Q6_K_XL)
Open Weight
Desktop
llama.cpp
|
72.7
|
Thinking
|
71Tool-Use unterstützt, Score: 71
|
16.6 t/s
|
–
|
Report |
|
66
|
DeepSeek V4 Pro
Open Weight
Frontier
Cloud
|
72.6
|
Adaptive
|
77Tool-Use unterstützt, Score: 77
|
53.3 t/s
|
$0.30
|
Report |
|
67
|
NVIDIA Nemotron 3 Ultra 550B A55B
Open Weight
Server
Cloud
|
72.5
|
Adaptive
|
55Tool-Use unterstützt, Score: 55
|
97.0 t/s
|
$0.37
|
Report |
|
68
|
Gemini 3.5 Flash Lite
Commercial
Frontier
Cloud
|
72.5
|
Thinking
|
74Tool-Use unterstützt, Score: 74
|
164 t/s
|
$0.14
|
Report |
|
69
|
Gemma 4 E4B
Open Weight
Edge
llama.cpp
|
71.9
|
Adaptive
|
73Tool-Use unterstützt, Score: 73
|
48.2 t/s
|
–
|
Report |
|
70
|
Qwen 3.6 35B-A3B (Uncensored)
Open Weight
Workstation
llama.cpp
|
71.7
|
Adaptive
|
60Tool-Use unterstützt, Score: 60
|
53.9 t/s
|
–
|
Report |
|
71
|
Muse Glimmer 30B
Open Weight
Workstation
vLLM
|
71.6
|
Thinking
|
73Tool-Use unterstützt, Score: 73
|
10.6 t/s
|
–
|
Report |
|
72
|
Ministral 3 8B (Unsloth)
Open Weight
Edge
llama.cpp
|
71.3
|
Standard
|
60Tool-Use unterstützt, Score: 60
|
24.9 t/s
|
–
|
Report |
|
73
|
Grok 4.7
Commercial
Frontier
API
|
71.1
|
Thinking
|
72Tool-Use unterstützt, Score: 72
|
17.4 t/s
|
$0.56
|
Report |
|
74
|
Qwen 3.5 27B
Open Weight
Workstation
vLLM
|
71.0
|
Thinking
|
66Tool-Use unterstützt, Score: 66
|
17.8 t/s
|
–
|
Report |
|
75
|
Xiaomi MiMo V2.5
Open Weight
Server
Cloud
|
70.4
|
Adaptive
|
71Tool-Use unterstützt, Score: 71
|
43.0 t/s
|
$0.03
|
Report |
|
76
|
Devstral 2
Open Weight
Server
API
|
70.2
|
Standard
|
55Tool-Use unterstützt, Score: 55
|
56.2 t/s
|
$0.13
|
Report |
|
77
|
GPT-5.4 Mini
Commercial
Frontier
API
|
70.2
|
Standard
|
68Tool-Use unterstützt, Score: 68
|
120 t/s
|
$0.25
|
Report |
|
78
|
Qwen 3.5 4B (Unsloth)
Open Weight
Nano
llama.cpp
|
69.9
|
Adaptive
|
78Tool-Use unterstützt, Score: 78
|
51.3 t/s
|
–
|
Report |
|
79
|
NVIDIA Nemotron 3.5 Lightning 30B (Thinking)
Open Weight
Workstation
vLLM
|
69.6
|
Thinking
|
73Tool-Use unterstützt, Score: 73
|
93.5 t/s
|
–
|
Report |
|
80
|
o4-mini
Commercial
Frontier
API
|
69.5
|
Thinking
|
63Tool-Use unterstützt, Score: 63
|
69.7 t/s
|
$0.40
|
Report |
|
81
|
GPT-5.4
Commercial
Frontier
API
|
69.4
|
Standard
|
43Tool-Use unterstützt, Score: 43
|
76.9 t/s
|
$0.89
|
Report |
|
82
|
Laguna S 2.1
Open Weight
Server
vLLM
|
69.1
|
Thinking
|
63Tool-Use unterstützt, Score: 63
|
17.2 t/s
|
$0.02
|
Report |
|
83
|
Hermes 4 70B
Open Weight
Server
Cloud
|
69.0
|
Adaptive
|
76Tool-Use unterstützt, Score: 76
|
76.8 t/s
|
$0.03
|
Report |
|
84
|
Gemma 3 12B IT
Restricted
Desktop
llama.cpp
|
68.9
|
Standard
|
64Tool-Use unterstützt, Score: 64
|
39.1 t/s
|
–
|
Report |
|
85
|
Qwen 3.5 9B (Unsloth)
Open Weight
Edge
llama.cpp
|
68.7
|
Adaptive
|
57Tool-Use unterstützt, Score: 57
|
34.3 t/s
|
–
|
Report |
|
86
|
Hermes 4 405B
Restricted
Server
Cloud
|
68.4
|
Adaptive
|
69Tool-Use unterstützt, Score: 69
|
31.1 t/s
|
$0.17
|
Report |
|
87
|
NVIDIA Nemotron 3 Nano 30B A3B
Open Weight
Workstation
Cloud
|
68.3
|
Adaptive
|
66Tool-Use unterstützt, Score: 66
|
35.4 t/s
|
$0.02
|
Report |
|
88
|
Hermes 4 14B (Abliterated)
Open Weight
Desktop
llama.cpp
|
68.2
|
Adaptive
|
70Tool-Use unterstützt, Score: 70
|
25.4 t/s
|
–
|
Report |
|
89
|
Gemma 4 E2B (Unsloth)
Open Weight
Edge
llama.cpp
|
68.1
|
Thinking
|
59Tool-Use unterstützt, Score: 59
|
67.1 t/s
|
–
|
Report |
|
90
|
GPT-5.4 Nano
Commercial
Frontier
API
|
68.1
|
Standard
|
49Tool-Use unterstützt, Score: 49
|
125 t/s
|
$0.07
|
Report |
|
91
|
o3-mini
Commercial
Frontier
API
|
68.0
|
Thinking
|
73Tool-Use unterstützt, Score: 73
|
71.2 t/s
|
$0.37
|
Report |
|
92
|
Hermes 4.3 36B (Thinking)
Open Weight
Server
vLLM
|
68.0
|
Thinking
|
67Tool-Use unterstützt, Score: 67
|
13.3 t/s
|
–
|
Report |
|
93
|
Qwen 3 14B
Open Weight
Desktop
llama.cpp
|
67.7
|
Adaptive
|
66Tool-Use unterstützt, Score: 66
|
23.9 t/s
|
–
|
Report |
|
94
|
Hermes 4 14B
Open Weight
Desktop
llama.cpp
|
67.3
|
Adaptive
|
67Tool-Use unterstützt, Score: 67
|
30.3 t/s
|
–
|
Report |
|
95
|
Hermes 4.3 36B
Open Weight
Server
vLLM
|
67.1
|
Standard
|
67Tool-Use unterstützt, Score: 67
|
12.7 t/s
|
–
|
Report |
|
96
|
Ornith 1.0 9B (Unsloth)
Open Weight
Desktop
llama.cpp
|
65.9
|
Thinking
|
71Tool-Use unterstützt, Score: 71
|
25.1 t/s
|
–
|
Report |
|
97
|
Codestral 25.08
Restricted
Desktop
API
|
65.5
|
Standard
|
69Tool-Use unterstützt, Score: 69
|
192 t/s
|
$0.05
|
Report |
|
98
|
Ministral 3 3B (Unsloth)
Open Weight
Nano
llama.cpp
|
64.8
|
Standard
|
56Tool-Use unterstützt, Score: 56
|
53.0 t/s
|
–
|
Report |
|
99
|
GPT-OSS 20B
Open Weight
Desktop
vLLM
|
64.3
|
Standard
|
28Tool-Use unterstützt, Score: 28
|
41.5 t/s
|
–
|
Report |
|
100
|
Llama 8B (Unsloth, provenance unverified)
Restricted
Edge
llama.cpp
|
62.7
|
Standard
|
Kein Tool-Use
|
25.5 t/s
|
–
|
Report |
|
101
|
Gemma 3 4B (Unsloth)
Restricted
Nano
llama.cpp
|
61.5
|
Standard
|
Kein Tool-Use
|
44.5 t/s
|
–
|
Report |
|
102
|
Qwen 3 4B
Open Weight
Nano
llama.cpp
|
60.9
|
Adaptive
|
71Tool-Use unterstützt, Score: 71
|
74.0 t/s
|
–
|
Report |
|
103
|
Hermes 3 8B
Restricted
Edge
llama.cpp
|
58.8
|
Standard
|
56Tool-Use unterstützt, Score: 56
|
48.0 t/s
|
–
|
Report |
|
104
|
Phi-4 Mini (Unsloth)
Open Weight
Nano
llama.cpp
|
58.4
|
Standard
|
66Tool-Use unterstützt, Score: 66
|
46.1 t/s
|
–
|
Report |
|
105
|
DeepSeek R1 Distill Qwen 14B
Open Weight
Desktop
llama.cpp
|
58.3
|
Standard
|
Kein Tool-Use
|
15.0 t/s
|
–
|
Report |
|
106
|
Qwen 2.5 Coder 7B
Open Weight
Edge
llama.cpp
|
55.3
|
Standard
|
58Tool-Use unterstützt, Score: 58
|
37.4 t/s
|
–
|
Report |
|
107
|
Llama 3.2 3B (Unsloth)
Restricted
Nano
llama.cpp
|
52.0
|
Standard
|
48Tool-Use unterstützt, Score: 48
|
55.0 t/s
|
–
|
Report |
|
108
|
Llama 3.2 1B (Unsloth)
Restricted
Nano
llama.cpp
|
44.4
|
Standard
|
Kein Tool-Use
|
130 t/s
|
–
|
Report |
|
109
|
DeepSeek R1 Distill Qwen 7B
Open Weight
Edge
llama.cpp
|
42.6
|
Standard
|
Kein Tool-Use
|
29.3 t/s
|
–
|
Report |
|
110
|
DeepSeek R1 Distill Qwen 1.5B
Open Weight
Nano
llama.cpp
|
35.4
|
Standard
|
Kein Tool-Use
|
110 t/s
|
–
|
Report |
|
111
|
Gemma 3 270M (Unsloth)
Restricted
Nano
llama.cpp
|
23.6
|
Standard
|
Kein Tool-Use
|
211 t/s
|
–
|
Report |