Benchmark reports
999 reports · Newest first · Page 28 / 40
Gemma-3-270m
/root/.cache/modelscope/hub/models/google/gemma-3-270m
RTX 4090D · 48 GB
Text generation · BF16 · vLLM
Gemma-3-270m
/root/.cache/modelscope/hub/models/google/gemma-3-270m
RTX 4090D · 48 GB
Text generation · BF16 · vLLM
Gemma-3-270m
/root/.cache/modelscope/hub/models/google/gemma-3-270m
RTX 4090D · 48 GB
Text generation · BF16 · vLLM
gemma-3-270m
/root/.cache/modelscope/hub/models/google/gemma-3-270m
RTX 4090D · 48 GB
Text generation · Native · vLLM
gemma-3-270m
/root/.cache/modelscope/hub/models/google/gemma-3-270m
RTX 4090D · 48 GB
Text generation · Native · vLLM
gemma-3-270m
/root/.cache/modelscope/hub/models/google/gemma-3-270m
RTX 4090D · 48 GB
Text generation · Native · vLLM
gemma-3-270m
/root/.cache/modelscope/hub/models/google/gemma-3-270m
RTX 4090D · 48 GB
Text generation · Native · vLLM
gemma-3-270m
/root/.cache/modelscope/hub/models/google/gemma-3-270m
RTX 4090D · 48 GB
Text generation · Native · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-0.6B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-VL-30B-A3B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-VL-30B-A3B-Instruct-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-30B-A3B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-30B-A3B-Instruct-2507-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-VL-8B-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-VL-8B-Instruct-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-4B-Instruct-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-4B-Instruct-2507-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-4B-Thinking-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-4B-Thinking-2507-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-30B-A3B-Thinking-FP8
/root/.cache/modelscope/hub/models/Qwen/Qwen3-30B-A3B-Thinking-2507-FP8
RTX 4090D · 48 GB
Text generation · FP8 · vLLM
Qwen3-0.6B
/root/.cache/modelscope/hub/models/Qwen/Qwen3-0___6B
RTX 4090D · 48 GB
Text generation · BF16 · vLLM
Qwen3-1.7B
/root/.cache/modelscope/hub/models/Qwen/Qwen3-1___7B
RTX 4090D · 48 GB
Text generation · BF16 · vLLM
Qwen3-4B
/root/.cache/modelscope/hub/models/Qwen/Qwen3-4B
RTX 4090D · 48 GB
Text generation · BF16 · vLLM
Qwen3-32B-AWQ
/root/.cache/modelscope/hub/models/Qwen/Qwen3-32B-AWQ
RTX 4090D · 48 GB
Text generation · AWQ · vLLM
Updated