模型服务网关MODEL GATEWAY · 私有模型 · 统一入口

14 个私有模型,
一个统一入口

对话、看图、语音、OCR、检索、出图,一台盒子全部本地跑。所有应用都经网关调用:谁用了什么模型、问了什么、花了多少,一清二楚;云端模型默认不出网。

14个
本地私有模型
15,684次
近 7 天调用全部留痕
0字节
默认出网数据
01 / 真实界面

打开模型服务网关,看到的就是这些

以下截图来自一台正在运行的蓝耘盒子。鼠标移到左边任意一项,右边切换到对应界面。

  1. 今日消耗、调用、Token 与可用模型,按天看用量趋势。

  2. 私有化模型与蓝耘 MaaS 云端模型分区展示,点开即可调试。

  3. 按应用、员工、部门、数字员工、模型查看每一次调用与费用。

  4. 盒子上的语音、出图、OCR、主模型等私有源,健康状态实时可见。

  5. 员工能否自选模型、可选范围、默认模型与每月额度,按人或部门设置。

  6. 应用只认 xinghe-main 这类稳定别名,底层换模型、做故障转移都在这里。

蓝耘盒子 · 模型服务网关 · 企业总览 真实界面
企业总览模型广场调用审计模型源员工与权限对外模型
02 / 三种状态

本地、兜底、隐私,管理员说了算

切换看看每种状态下,一次模型调用会经过哪里。

全程不出盒子

默认状态。员工、数字员工和各系统的模型调用,全部由盒子上的私有模型完成;只写模型名时,网关只会路由到本地。

01员工 / 数字员工
02模型服务网关鉴权 · 计量 · 审计
03盒子上的私有模型本地推理
04结果返回
03 / 私有模型 · 统一入口

能力一览

01

稳定别名

应用调用 xinghe-main,底层换模型、加故障转移不用改应用。

02

按人授权与额度

员工、部门、用户组分别设置模型范围与月度额度,员工绕不过去。

03

完整审计

记下员工、应用、数字员工、场景、完整提问与回复、Token 与费用。

04

本地优先,云端兜底

可接入蓝耘 MaaS;只有显式调用或聚合才会出网,一键隐私模式全部暂停。

05

敏感信息处理

手机号、身份证、银行卡、邮箱按字段掩码,敏感词可拦截或标记。

06

调试中心

对话、向量、重排、语音、OCR、出图都有调试面板,选中即试。

在蓝耘盒子里,模型服务网关和谁连在一起
下一个产品星河控制台

看一台真的蓝耘盒子跑起来

带上你们最头疼的一件事。我们现场演示:员工怎么登录、数字员工怎么干活、管理员在后台看到什么、数据留在哪里。