缓存究竟在哪里:多层执行服务的局部性
以一套多层执行服务为例,拆解请求身份、边缘路由、执行资源和后端缓存的多级局部性,并给出可复用的路由、失效、故障转移与观测方案。
短文
约 15 分钟阅读
收录于专栏 技术规划与架构 · 第 7 篇
标签
围绕“算法”的写作、研究、项目与影像。
以一套多层执行服务为例,拆解请求身份、边缘路由、执行资源和后端缓存的多级局部性,并给出可复用的路由、失效、故障转移与观测方案。
短文
约 15 分钟阅读
收录于专栏 技术规划与架构 · 第 7 篇
从候选链、失败分类、per-turn identity 到成本公式,解释一个可控、可审计的 DSH 多来源模型路由器如何工作。
查看项目DeepSeek Harness 的纯策略插件:按任务选择有序、可解释、可审计的模型候选链,并在配额、限流或传输失败时沿链有界前进。
查看项目