Benchmark reports
999 reports · Newest first · Page 1 / 40
Qwen3-4B-FP8
Qwen/Qwen3-4B-FP8
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · FP8 · vllm
Qwen3-4B-FP8
Qwen/Qwen3-4B-FP8
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · FP8 · vllm
Qwen3-4B-FP8
Qwen/Qwen3-4B-FP8
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · FP8 · vllm
Qwen3-4B-FP8
Qwen/Qwen3-4B-FP8
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · FP8 · vllm
Qwen2.5-3B-Instruct
Qwen/Qwen2.5-3B-Instruct
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · BF16 · vllm
Qwen2.5-3B-Instruct
Qwen/Qwen2.5-3B-Instruct
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · BF16 · vllm
Qwen2.5-3B-Instruct
Qwen/Qwen2.5-3B-Instruct
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · BF16 · vllm
Qwen2.5-3B-Instruct
Qwen/Qwen2.5-3B-Instruct
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · BF16 · vllm
Qwen3-1.7B-FP8
Qwen/Qwen3-1.7B-FP8
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · FP8 · vllm
Qwen3-1.7B-FP8
Qwen/Qwen3-1.7B-FP8
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · FP8 · vllm
Qwen3-1.7B-FP8
Qwen/Qwen3-1.7B-FP8
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · FP8 · vllm
Qwen3-1.7B-FP8
Qwen/Qwen3-1.7B-FP8
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · FP8 · vllm
Qwen3.5-0.8B
Qwen/Qwen3.5-0.8B
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · BF16 · vllm
Qwen3.5-0.8B
Qwen/Qwen3.5-0.8B
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · BF16 · vllm
Qwen3.5-0.8B
Qwen/Qwen3.5-0.8B
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · BF16 · vllm
Qwen3.5-0.8B
Qwen/Qwen3.5-0.8B
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · BF16 · vllm
Qwen3.6-35B-A3B-FP8
Qwen/Qwen3.6-35B-A3B-FP8
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · FP8 · vllm
WeVisOne-VL-2B
tencent/WeVisOne-VL-2B
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · BF16 · vllm
WeVisOne-VL-2B
tencent/WeVisOne-VL-2B
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · BF16 · vllm
WeVisOne-VL-2B
tencent/WeVisOne-VL-2B
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · BF16 · vllm
WeVisOne-VL-2B
tencent/WeVisOne-VL-2B
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · BF16 · vllm
WeVisOne-VL-2B
tencent/WeVisOne-VL-2B
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · BF16 · vllm
WeVisOne-VL-2B
tencent/WeVisOne-VL-2B
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · BF16 · vllm
WeVisOne-VL-2B
tencent/WeVisOne-VL-2B
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · BF16 · vllm
Qwen3.8-27B-NVFP4
unsloth/Qwen3.8-27B-NVFP4
RTX PRO 6000 Blackwell Server Edition · 96 GB
Text generation · NVFP4 · vllm
Updated