Gateway 配置

Gateway 是 OmniInfer 对外提供 HTTP / OpenAI 兼容接口的服务层。桌面客户端会自动管理它,开发和排障时可以了解这些配置。

PC 客户端默认值

host: 127.0.0.1
port: 19157
base_url: http://127.0.0.1:19157/v1

Local Server Settings 可以修改端口、局域网开放和 Public API access。修改后客户端会重启本机 Server。

常见启动命令

手动调试时可在 runtime 目录运行:

./omniinfer serve --port 19157 --host 127.0.0.1 --window-mode hidden

如果启用公网临时隧道:

./omniinfer serve --port 19157 --host 127.0.0.1 --cloudflare --window-mode hidden --api-key oi_xxx

实际命令以当前 release 包支持的参数为准。

配置来源

Gateway 配置通常来自三类来源:

  1. 客户端 UI 保存的设置。
  2. 启动命令参数。
  3. OmniInfer release 包内的默认配置。

当三者冲突时,以客户端本次启动传入的参数优先。

日志与状态

开发者排障优先查看:

  • Developer Logs。
  • Local Server card 状态。
  • Runtime Models 中的模型状态。
  • /health 返回值。

Public API access 的公网 Base URL 会从 OmniInfer 输出中捕获,可能晚于 /health Ready 出现。

OmniMind

万象智维

Omni Studio 公众号二维码

公众号

Omni Studio 小红书二维码

小红书

© 2025 万象智维科技有限公司. All rights reserved.

京ICP备2025136340号-1