运行概览
账号池状态、池内余额与近期调用健康度。
账号池
统一管理上游账号、登录 session、余额与调度状态。
| # | 账号 | 状态 | 余额 | 套餐余额 | 在途 | RPM | 表现 | 最近调用 | 操作 |
|---|
调用测试
直接请求网关的 /v1/chat/completions,验证账号池与模型链路。
请求
选择模型并输入 prompt
高级:指定下游 Key(可选)
响应
流式内容会实时追加
调用日志
最近 200 条以内的请求记录,点击任意行查看 request_id 与错误码。
请求明细
正在加载…
| 时间 | 状态 | 账号 | 下游 Key | 模型(客户看到) | 上游真实模型 | tokens | 计费 | 延迟 | 流式 | 错误 |
|---|
下游 Key
调用本网关 /v1 的访问凭证:按 Key 隔离额度、并发、RPM 与模型白名单。
| # | 名称 | Key(脱敏) | 状态 | 额度 | 请求 / Tokens | 限制 | 最近使用 | 操作 |
|---|
如何调用
任何 OpenAI SDK 都可以直接指向本网关
正在生成示例…
把同一把 Key 放进 Authorization: Bearer 头,客户即可查询额度、限流与今日用量;GET /v1/usage?days=14 返回每日用量明细。
计费口径
按上游返回的 usage 结算
额度单位与上游一致:500,000 quota = $1。请求失败不计费,只累计请求次数。
客户
下游客户账号:客户登录门户后只能看到自己名下的 Key、额度与调用记录,看不到账号池与其他人。
| # | 客户 | 状态 | Key | 本月计费 | 额度 | 最近登录 | 操作 |
|---|
邀请码
客户凭码在门户自助注册;码可限次数、限有效期,并自动带上默认额度与自助 Key 权限
| 邀请码 | 标签 | 状态 | 已用 / 上限 | 注册后默认 | 到期 | 操作 |
|---|
客户登录会话
当前在线的客户设备;踢下线后对方需要重新登录,不影响其名下 Key 的调用
| 客户 | IP | 客户端 | 最近活跃 | 登录时间 | 到期 | 操作 |
|---|
客户登录记录
成功与失败都记录;同一 IP 反复失败时优先怀疑撞库,可让客户改密或直接停用账号
| 时间 | 客户 | 登录名 | IP | 客户端 | 结果 |
|---|
客户门户
客户用这里的登录名与密码访问门户;管理员可随时停用账号或重置密码
停用客户会立即拒绝其名下所有 Key 的转发请求,不需要逐个禁用 Key;重新启用后恢复。
模型命名
决定客户在接口与门户里看到的模型名;上游真实模型只留在管理端与日志里。
对外名称映射
展示名只允许字母、数字与 - _ .,保存后立即对新请求生效
| 对外别名 | 上游真实模型 | 客户看到的名字 | 客户可见真实模型 |
|---|
说明:关闭「客户可见真实模型」时,`/v1/chat/completions` 响应里的 model 字段与客户门户的日志都会显示上面的展示名;管理端调用日志始终保留上游真实模型,方便排查问题。
运维
后台任务、告警、数据维护与运行环境。所有操作都要求管理员登录。
账号池续航
按近 7 天消耗速率,估算余额与套餐额度还能撑多久;低于 3 天会标红
运行指标
进程内实时计数,重启归零;长期趋势看下方 14 天曲线
实时请求
按日志 id 游标增量推送,断线重连不重复;只读调用日志,不额外打上游
失败聚合
按错误码 / 模型 / 状态码聚合,回答「现在最该先修哪个」
| 错误码 | 模型 | 状态 | 次数 | 账号 | Key | 最近发生 | 最近账号 |
|---|
最新失败样本
延迟诊断
成功请求的分位耗时与最慢样本,回答「慢在哪」;失败请求不计入分位
| 维度 | 请求 | 失败率 | 平均 | P50 | P95 | P99 | 最慢 |
|---|
最慢的请求
Key 风险巡检
用量突增、失败率、额度将尽、即将到期与长期静默;只提示,不自动处置
| Key | 风险 | 近 24h Tokens | 基线日均 | 倍数 | 失败率 | 额度 | 最近使用 |
|---|
运行日志
进程日志落盘在 data/logs/gateway.log,5 MB × 3 滚动,写入侧已脱敏
近 14 天趋势
每日请求量、失败量与计费,悬停可看单日明细
用量构成
近 14 天按账号 / 模型 / Key 聚合,快速定位成本与故障来源
| 对象 | 请求 | 成功率 | Tokens | 计费 | 成本 | 毛利 | 平均延迟 |
|---|
下游 Key 流水
充值、续期、轮换、改额度、启停与删除的完整时间线;调用日志记「花了多少」,流水记「额度为什么变了」
| 时间 | Key | 动作 | 额度变化 | 变更后额度 | 操作人 | 备注 |
|---|
后台任务
串行执行,避免与真实流量争抢账号级配额
| 任务 | 上次运行 | 下次运行 | 结果 | 操作 |
|---|
告警
低余额 / session / 熔断 / 到期
任务执行历史
每次运行留一条,回答「昨晚自动备份为什么没跑」;保留最近 30 天 / 2000 条
| 任务 | 触发 | 开始时间 | 耗时 | 结果 | 摘要 |
|---|
维护模式
开启后下游 /v1 统一返回 503,面板与运维接口不受影响
维护期间客户端会收到 Retry-After,SDK 会自动重试。
告警通知
低余额、session 失效、熔断、Key 额度与到期,按类型聚合推送
访问控制
来源 IP 黑名单:只拦下游 /v1 流量,面板与客户门户不受影响
| IP / CIDR | 备注 | 状态 | 解封时间 | 操作 |
|---|
值班事件
故障与变更的人工判断,结案后保留历史并写入运维报告
告警规则
阈值保存后立即生效;只影响提醒,不会阻断调用
单次小请求约 24~30 quota;500 约等于 20 次余量。
赠送额度与套餐 Key 都按这个天数提前提醒。
同一类告警在窗口内只推一次,避免 5 分钟一轮刷屏。
公告栏
发布后显示在客户门户与 /status 状态页;到期自动撤下,避免忘记删除
公告只包含文字,不包含任何账号或密钥信息。
运营日报
每天固定时刻把请求、收入、成本、账号健康度与告警汇总推到所有启用的通知渠道;不受告警静默影响
关闭后定时任务不会发送,但仍可手动「立即发送」。
—
正在生成预览…
运行自检
数据库 / 调度器 / 账号池 / Key / 磁盘
操作审计
谁在什么时候改了什么
登录设备
当前令牌对应的会话;改密码会让全部设备立即下线
最近登录
计费单价
每 1,000 token 多少 quota(500,000 quota = $1),保存后立即生效
登录安全
管理员与客户两侧的失败登录、锁定与在线设备;失败集中在同一 IP 时优先怀疑撞库
数据维护
日志清理、SQLite 整理、导出与备份
后台每天按这个天数清理调用日志与余额快照;面板里的「立即清理」也使用同一口径。
WAL 长期偏大或完整性异常时会在这里提醒;checkpoint 只刷已提交的页,通常几十毫秒完成,不会阻塞业务查询。
只包含计费单价、后台任务周期与日志保留天数,不含账号、Key 与通知凭据。
运行环境
只读信息,不包含任何密钥
自动备份
后台每天在线备份 SQLite,只保留最近 N 份自动备份;手动备份不会被自动删除
| 文件 | 类型 | 大小 | 时间 | 体检 | 操作 |
|---|
管理员账号
默认单管理员模式:只有一个账号,不能新增或删除,只能改密;如需多人分工可设 TFGW_SINGLE_ADMIN=0
后台密码
至少 8 位并同时包含字母与数字;修改后其他已登录会话会立即失效
两步验证
TOTP(Google Authenticator / 1Password 等)作为登录第二因子,密钥只保存在本机