Benchmark reports
999 reports · Newest first · Page 27 / 40
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-1.7B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-1___7B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-1.7B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-1___7B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-1.7B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-1___7B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-1.7B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-1___7B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-8B-AWQ
/root/.cache/modelscope/hub/models/Qwen/Qwen3-8B-AWQ
RTX 4090D · 48 GB
Text generation · AWQ · vLLM
Qwen3-8B-AWQ
/root/.cache/modelscope/hub/models/Qwen/Qwen3-8B-AWQ
RTX 4090D · 48 GB
Text generation · AWQ · vLLM
Qwen3-8B-AWQ
/root/.cache/modelscope/hub/models/Qwen/Qwen3-8B-AWQ
RTX 4090D · 48 GB
Text generation · AWQ · vLLM
Qwen3-8B-AWQ
/root/.cache/modelscope/hub/models/Qwen/Qwen3-8B-AWQ
RTX 4090D · 48 GB
Text generation · AWQ · vLLM
Qwen3-8B-AWQ
/root/.cache/modelscope/hub/models/Qwen/Qwen3-8B-AWQ
RTX 4090D · 48 GB
Text generation · AWQ · vLLM
Qwen3-8B-AWQ
/root/.cache/modelscope/hub/models/Qwen/Qwen3-8B-AWQ
RTX 4090D · 48 GB
Text generation · AWQ · vLLM
Qwen3-4B-AWQ
/root/.cache/modelscope/hub/models/Qwen/Qwen3-4B-AWQ
RTX 4090D · 48 GB
Text generation · AWQ · vLLM
Qwen3-4B-AWQ
/root/.cache/modelscope/hub/models/Qwen/Qwen3-4B-AWQ
RTX 4090D · 48 GB
Text generation · AWQ · vLLM
Qwen3-4B-AWQ
/root/.cache/modelscope/hub/models/Qwen/Qwen3-4B-AWQ
RTX 4090D · 48 GB
Text generation · AWQ · vLLM
Qwen3-4B-AWQ
/root/.cache/modelscope/hub/models/Qwen/Qwen3-4B-AWQ
RTX 4090D · 48 GB
Text generation · AWQ · vLLM
Gemma-3-270m
/root/.cache/modelscope/hub/models/google/gemma-3-270m
RTX 4090D · 48 GB
Text generation · BF16 · vLLM
Updated