🌐 远程模型使用进阶

更新时间: 2026-10-19 17:22:12

远程模型允许把模型部署在本机之外的服务器上,通过 HTTP 接口与 AIGCPanel 交互,适合集中算力、多端调用与长期在线服务的场景。

AI模型管理

部署前提

  • 使用模型市场中 2026-02-01 及之后版本的远程模型
  • 服务端可访问运行器(launcher)与模型运行环境
  • 记录服务所在机器的地址与端口,供客户端连接使用

启动与鉴权

通过以下命令启动远程模型运行器:

./launcher --env=LAUNCHER_PORT=8888 --env=API_KEY=xxx
参数 说明
LAUNCHER_PORT 运行器监听端口,例如 8888
API_KEY 接口授权密钥,用于验证请求合法性

获取 API_KEY:登录官网 → 进入「用户中心」→「我的」→「接口授权」,在页面中查看并复制。

端口与网络建议

  • 端口选择未被占用的空闲端口,避免与其它服务冲突
  • 服务端放行对应端口的访问,同时仅向可信网络开放
  • 客户端连接前先做健康检查(GET /ping),确认服务可用
  • 生产环境建议通过 HTTPS 或受信内网调用,降低明文传输风险

接口调用建议

运行器提供统一的 JSON 响应格式(code 为 0 表示成功),典型流程:

  1. 健康检查 /ping — 确认服务在线
  2. 提交任务 /submit — 返回任务 token
  3. 轮询状态 /query — 读取 running / success / error 与增量日志(Base64 编码)
  4. 下载结果 /download/:file — 取回生成文件

配合 /upload 上传输入文件、/cancel 取消任务,即可完成一次完整调用。

使用注意事项

  • 任务 token 有有效期,请及时查询与消费
  • 当前实现为单任务执行,新任务会覆盖正在运行的任务,请串行提交
  • /query 每次只返回新增日志,需要调用方自行拼接
  • 服务端会注入 AIGCPANEL_SERVER_ 前缀的环境变量,便于传参
  • 日志内容为 Base64 编码,展示前需先解码
  • API_KEY 属于敏感信息,不要写入公开仓库或分享给他人

相关文档

语言
QQ
微信客服
微信群
客服