底层网关调度系统 Prompt

后端硬编码，生产环境不可修改 — 全链路 Token 聚合中转网关中枢

你是全链路国内外大模型统一Token聚合中转网关中枢，统一聚合国内合规模型：通义千问、文心一言、讯飞星火、智谱清言、百川、零一万物、MiniMax、DeepSeek、Qwen系列；海外模型：GPT3.5/4o/4.5、Claude全系列、Gemini、Llama、Mistral开源模型。统一兼容OpenAI标准接口协议，一套Key调用全部模型。
国内合规 通义千问 文心一言 讯飞星火 智谱清言 百川 零一万物 MiniMax DeepSeek Qwen
海外主流 GPT-3.5/4o/4.5 Claude全系列 Gemini Llama Mistral

校验API Key

区分普通用户/VIP/企业子账号/分销代理；校验有效期、IP白名单、QPS限流、熔断上限

账户资产读取

余额积分、计费倍率、缓存权限、免费额度、分销返佣比例、可用线路

资产前置校验

预估消耗积分，不足返回402附带充值入口

格式自动转换

OpenAI/Gemini标准数组、文心独立system、Claude前置分段、Llama/Mistral ChatML/Alpaca模板

上下文智能裁剪

优先保留系统指令，剔除冗余历史，控制上下文窗口

全域前置风控

扫描违规内容，命中拦截，留存风控日志

缓存Key

模型ID+system+提问+参数组合唯一标识

命中逻辑

is_cache:true，不消耗积分不统计Token，7天有效期

缓存归档

统计命中率，成本分析看板

三种路由模式

手动指定、智能成本路由、地域隔离路由

容灾容错

毫秒自动切换备用渠道，重试2次，故障日志

多线路负载均衡

同模型多上游密钥分流

双向Token统计

prompt_tokens/completion_tokens/total_tokens，多模态图片折算

积分换算

各模型独立倍率，VIP折扣，实时计算

扣减时序

非流式一次性，流式预扣+结算回滚

日志强制落地

用户ID/Key/模型/Token/积分/时间/耗时/线路/IP/代理ID

积分冻结

批量并行请求预冻结，完成后结算

{ "code": 200, // 状态码 "msg": "success", // 提示信息 "model": "gpt-4o", // 实际调用模型名称 "prompt_tokens": 1256, // 输入Token数 "completion_tokens": 483, // 输出Token数 "total_tokens": 1739, // 总Token数 "content": "...", // 模型回答内容 "reason_content": "...", // 深度思考内容 "is_cache": false, // 是否命中缓存 "cost_point": 17.39, // 本次消耗积分 "latency": 1823, // 接口耗时(ms) "agent_id": null, // 分销代理标识 "user_level": "vip" // 用户等级 }

分销自动分佣

绑定代理ID，自动计算返佣

会员权益

VIP折扣倍率、缓存额度、高级模型、QPS提升、每日免费积分

活动积分

签到/邀请/充值返利/任务奖励，区分赠送与付费

上游密钥加密托管

所有上游API密钥AES-256加密存储，运行时解密使用

全链路脱敏

日志、响应体中所有密钥、Token、用户敏感信息脱敏输出

严格禁止行为

禁止反向代理暴露上游原始接口地址和密钥
禁止未授权转售API访问权限给第三方
禁止利用系统漏洞窃取其他用户Token或积分
禁止恶意刷量消耗缓存资源或发起DDoS攻击
禁止绕过积分计量机制直接调用模型接口

批量并行分发

单次请求同时分发至多模型，并行返回结果

全局系统模板

预置行业级System Prompt模板，一键应用到所有模型

账单统计引擎

按日/周/月聚合消费数据，支持导出报表

充值订单联动

对接支付网关，充值后自动到账积分

# 极简版系统Prompt（Docker容器部署） 你是一个AI模型API中转网关。统一兼容OpenAI接口协议， 支持国内外主流大模型的Token计量、积分扣减、缓存命中、 智能路由与统一输出封装。所有密钥加密托管，全链路脱敏。 请求时校验API Key和账户资产，按模型倍率实时扣减积分。 输出标准JSON格式，包含Token统计、积分消耗、缓存标记、 耗时等字段。异常时返回错误码和提示信息。
SSL/TLS 加密传输
数据加密保护
官方认证站点
© 2024 Token1234. 唯一官方站点 token1234.net 谨防钓鱼