AI Gateway：从后端调度到成本治理
通过多后端模型访问场景，理解 AI Gateway 如何处理资源调度、容量控制、故障切换、分布式状态、用量统计和企业成本治理。
短文
约 23 分钟阅读
收录于专栏 技术规划与架构 · 第 9 篇
标签
#路由
围绕“路由”的写作、研究、项目与影像。
缓存究竟在哪里：多层执行服务的局部性
以一套多层执行服务为例，拆解请求身份、边缘路由、执行资源和后端缓存的多级局部性，并给出可复用的路由、失效、故障转移与观测方案。
短文
约 15 分钟阅读
收录于专栏 技术规划与架构 · 第 7 篇
不只是模型切换：DSH Quota Router 的工程设计与路由算法
从候选链、失败分类、per-turn identity 到成本公式，解释一个可控、可审计的 DSH 多来源模型路由器如何工作。
查看项目Quota Router：给 DSH 一条可解释的多源模型 fallback 链
DeepSeek Harness 的纯策略插件：按任务选择有序、可解释、可审计的模型候选链，并在配额、限流或传输失败时沿链有界前进。
查看项目Neo Matrix
一个带个人供给方分成机制的 OpenAI 兼容中转平台：消费者通过统一入口调用模型，供给方托管闲置上游 Key，平台负责路由、计量、结算和提现。本文介绍项目、Mock 演示、商业模式、财务估算，以及上线前必须承担的风险与沉没成本。
查看项目