OmniCore / Android

qualcomm移动平台

mixed

Prefill 与 Decode 对比 · 基线为官方 llama.cpp HTP

sm8650

5 款模型 · 3 轮中位数

Prefill

tok/s · 越高越好

llama.cpp HTPOmniCore · mixed

加载中

Qwen3.5-0.8BQ4_0

—

加载中

Qwen3.5-2BQ4_0

—

加载中

Qwen3.5-4BQ4_0

—

加载中

Qwen3-4BQ4_0

—

加载中

MiniCPM5-2BQ8_0

—

Decode

tok/s · 越高越好

llama.cpp HTPOmniCore · mixed

加载中

Qwen3.5-0.8BQ4_0

—

加载中

Qwen3.5-2BQ4_0

—

加载中

Qwen3.5-4BQ4_0

—

加载中

Qwen3-4BQ4_0

—

加载中

MiniCPM5-2BQ8_0

—

sm8750

5 款模型 · 3 轮中位数

Prefill

tok/s · 越高越好

llama.cpp HTPOmniCore · mixed

加载中

Qwen3.5-0.8BQ4_0

—

加载中

Qwen3.5-2BQ4_0

—

加载中

Qwen3.5-4BQ4_0

—

加载中

Qwen3-4BQ4_0

—

加载中

MiniCPM5-2BQ8_0

—

Decode

tok/s · 越高越好

llama.cpp HTPOmniCore · mixed

加载中

Qwen3.5-0.8BQ4_0

—

加载中

Qwen3.5-2BQ4_0

—

加载中

Qwen3.5-4BQ4_0

—

加载中

Qwen3-4BQ4_0

—

加载中

MiniCPM5-2BQ8_0

—

Qwen Q4_0 · MiniCPM Q8_0 · PP512 / TG128。点击速度数值查看原始实测。