Benchmark reports
999 reports · Newest first · Page 23 / 40
Qwen3-4B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-4B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-4B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-4B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-4B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-4B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-4B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-4B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-32B-AWQ
/root/.cache/modelscope/hub/models/Qwen/Qwen3-32B-AWQ
RTX 4090D · 48 GB
Text generation · AWQ · vLLM
Qwen3-VL-32B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-VL-32B-Instruct-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-32B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-32B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-30B-A3B-Thinking-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-30B-A3B-Thinking-2507-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-30B-A3B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-30B-A3B-Instruct-2507-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-VL-30B-A3B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-VL-30B-A3B-Instruct-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-14B-AWQ
/root/.cache/modelscope/hub/models/Qwen/Qwen3-14B-AWQ
RTX 4090D · 48 GB
Text generation · AWQ · vLLM
Qwen3-14B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-14B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-8B-AWQ
/root/.cache/modelscope/hub/models/Qwen/Qwen3-8B-AWQ
RTX 4090D · 48 GB
Text generation · AWQ · vLLM
Qwen3-VL-8B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-VL-8B-Instruct-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-8B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-8B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-4B-Instruct-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-4B-Instruct-2507-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-4B-Thinking-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-4B-Thinking-2507-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-VL-4B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-VL-4B-Instruct-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-4B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-4B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-VL-2B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-VL-2B-Instruct-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-1.7B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-1___7B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-4B-AWQ
/root/.cache/modelscope/hub/models/Qwen/Qwen3-4B-AWQ
RTX 4090D · 48 GB
Text generation · AWQ · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
test
Unknown · ? GB
Text generation · Native · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Updated