Benchmark reports
999 reports · Newest first · Page 8 / 40
Qwen3-0.6B-GPTQ-Int8
Qwen/Qwen3-0.6B-GPTQ-Int8
T4 · 16 GB
Text generation · GPTQ · vllm
Qwen3-14B-AWQ
Qwen/Qwen3-14B-AWQ
T4 · 16 GB
Text generation · AWQ · vllm
bge-small-zh-v1.5
BAAI/bge-small-zh-v1.5
T4 · 16 GB
Embedding · nf4 · sentence-transformers
granite-embedding-97m-multilingual-r2
ibm-granite/granite-embedding-97m-multilingual-r2
T4 · 16 GB
Embedding · fp16 · sentence-transformers
Qwen3-14B-AWQ
Qwen/Qwen3-14B-AWQ
T4 · 16 GB
Text generation · AWQ · vllm
Qwen3-8B-AWQ
Qwen/Qwen3-8B-AWQ
T4 · 16 GB
Text generation · AWQ · vllm
Qwen3-14B-AWQ
Qwen/Qwen3-14B-AWQ
T4 · 16 GB
Text generation · AWQ · vllm
granite-embedding-97m-multilingual-r2
ibm-granite/granite-embedding-97m-multilingual-r2
L4 · 24 GB
Embedding · nf4 · sentence-transformers
Qwen3-8B-AWQ
Qwen/Qwen3-8B-AWQ
T4 · 16 GB
Text generation · AWQ · vllm
Qwen3-4B-AWQ
Qwen/Qwen3-4B-AWQ
T4 · 16 GB
Text generation · AWQ · vllm
Qwen3-8B-AWQ
Qwen/Qwen3-8B-AWQ
T4 · 16 GB
Text generation · AWQ · vllm
Qwen3-0.6B-GPTQ-Int8
Qwen/Qwen3-0.6B-GPTQ-Int8
T4 · 16 GB
Text generation · GPTQ · vllm
Qwen3-4B-AWQ
Qwen/Qwen3-4B-AWQ
T4 · 16 GB
Text generation · AWQ · vllm
Qwen3-0.6B-GPTQ-Int8
Qwen/Qwen3-0.6B-GPTQ-Int8
T4 · 16 GB
Text generation · GPTQ · vllm
Qwen3-4B-AWQ
Qwen/Qwen3-4B-AWQ
T4 · 16 GB
Text generation · AWQ · vllm
Qwen3-0.6B-GPTQ-Int8
Qwen/Qwen3-0.6B-GPTQ-Int8
T4 · 16 GB
Text generation · GPTQ · vllm
Qwen3-14B-AWQ
Qwen/Qwen3-14B-AWQ
L4 · 24 GB
Text generation · AWQ · vllm
Qwen3-14B-AWQ
Qwen/Qwen3-14B-AWQ
L4 · 24 GB
Text generation · AWQ · vllm
Qwen3-8B-AWQ
Qwen/Qwen3-8B-AWQ
L4 · 24 GB
Text generation · AWQ · vllm
Qwen3-14B-AWQ
Qwen/Qwen3-14B-AWQ
L4 · 24 GB
Text generation · AWQ · vllm
Qwen3-8B-AWQ
Qwen/Qwen3-8B-AWQ
L4 · 24 GB
Text generation · AWQ · vllm
Qwen3-8B-AWQ
Qwen/Qwen3-8B-AWQ
L4 · 24 GB
Text generation · AWQ · vllm
Qwen3-4B-AWQ
Qwen/Qwen3-4B-AWQ
L4 · 24 GB
Text generation · AWQ · vllm
Qwen3-4B-AWQ
Qwen/Qwen3-4B-AWQ
L4 · 24 GB
Text generation · AWQ · vllm
Qwen3-4B-AWQ
Qwen/Qwen3-4B-AWQ
L4 · 24 GB
Text generation · AWQ · vllm
Updated