模型管理

Model Management 用于浏览模型源、下载模型、查看已安装模型,以及把模型加载到本机 OmniInfer Server。

模型管理截图占位

页面结构

区域 用途
左侧模型源 OmniCore、Hugging Face、ModelScope
搜索框 按模型名、发布者或关键词搜索
模型列表 展示模型名、发布者、下载量和能力标签
右侧详情 README、下载选项、量化版本、安装状态
已安装页 查看本地模型、打开目录、删除或加载模型

模型源说明

  • OmniCore:官方推荐入口,优先放置经过整理的模型。
  • Hugging Face:默认可按设置使用镜像源或官方源,适合获取国际社区模型。
  • ModelScope:适合国内网络环境,支持按下载量浏览和搜索。

搜索与分页

模型列表默认按下载量排序,每次加载一页。输入关键词后,滚动到底部会继续加载更多搜索结果。

如果搜索结果少于 20 条,通常说明模型源 API 只返回了这些匹配项,或当前关键词过窄。可以尝试使用模型家族名,例如 qwengemmadeepseek

下载模型

  1. 在左侧选择模型源。
  2. 搜索或滚动找到目标模型。
  3. 在右侧查看 README 和 Download options。
  4. 选择合适的量化版本。
  5. 点击下载。

对于多文件模型,例如 BF16 分片或视觉模型的 mmproj 文件,OmniStudio 会把它们合并成一个下载任务显示,避免用户误以为需要分别管理多个任务。

已安装模型

已安装模型会显示在 Installed 页面。常见操作包括:

  • Load:加载到本机 Runtime Models。
  • Open folder:打开模型目录。
  • Delete:删除本地安装记录和文件。

如果某个模型已经处于本机 loaded 状态,Runtime Models 中会显示它;由于当前 OmniInfer Server 一次只能加载一个本机模型,加载新模型时会替换旧模型。

截图与视频占位

模型管理视频占位

OmniMind

万象智维

Omni Studio 公众号二维码

公众号

Omni Studio 小红书二维码

小红书

© 2025 万象智维科技有限公司. All rights reserved.

京ICP备2025136340号-1