模型管理
Model Management 用于浏览模型源、下载模型、查看已安装模型,以及把模型加载到本机 OmniInfer Server。
页面结构
| 区域 | 用途 |
|---|---|
| 左侧模型源 | OmniCore、Hugging Face、ModelScope |
| 搜索框 | 按模型名、发布者或关键词搜索 |
| 模型列表 | 展示模型名、发布者、下载量和能力标签 |
| 右侧详情 | README、下载选项、量化版本、安装状态 |
| 已安装页 | 查看本地模型、打开目录、删除或加载模型 |
模型源说明
- OmniCore:官方推荐入口,优先放置经过整理的模型。
- Hugging Face:默认可按设置使用镜像源或官方源,适合获取国际社区模型。
- ModelScope:适合国内网络环境,支持按下载量浏览和搜索。
搜索与分页
模型列表默认按下载量排序,每次加载一页。输入关键词后,滚动到底部会继续加载更多搜索结果。
如果搜索结果少于 20 条,通常说明模型源 API 只返回了这些匹配项,或当前关键词过窄。可以尝试使用模型家族名,例如 qwen、gemma、deepseek。
下载模型
- 在左侧选择模型源。
- 搜索或滚动找到目标模型。
- 在右侧查看 README 和 Download options。
- 选择合适的量化版本。
- 点击下载。
对于多文件模型,例如 BF16 分片或视觉模型的 mmproj 文件,OmniStudio 会把它们合并成一个下载任务显示,避免用户误以为需要分别管理多个任务。
已安装模型
已安装模型会显示在 Installed 页面。常见操作包括:
- Load:加载到本机 Runtime Models。
- Open folder:打开模型目录。
- Delete:删除本地安装记录和文件。
如果某个模型已经处于本机 loaded 状态,Runtime Models 中会显示它;由于当前 OmniInfer Server 一次只能加载一个本机模型,加载新模型时会替换旧模型。



