跳到正文
沉默土豆.
搜索标签中文/EN
  • 开始
  • 写作
  • 专栏
  • 项目
  • 研究
  • 咨询
  • 影像
  • 关于

写作

缓存究竟在哪里:多层执行服务的局部性

以一套多层执行服务为例,拆解请求身份、边缘路由、执行资源和后端缓存的多级局部性,并给出可复用的路由、失效、故障转移与观测方案。

LiyukLiyuk发布于 2026年8月28日更新于 2026年9月4日约 15 分钟阅读
  • #性能
  • #Systems Design
  • #算法
  • #Reliability
  • #可观测性
  • #路由
  • #技术
  1. 1技术规划,本质上是业务分析与竞品分析短文 · 约 22 分钟阅读
  2. 2代码为什么会变坏:从局部便利到系统债务短文 · 约 2 分钟阅读
  3. 3工程规范怎样既减少返工,也不制造官僚流程短文 · 约 3 分钟阅读
  4. 4共享核心与本地变化:多地区系统怎样演进短文 · 约 4 分钟阅读
  5. 5AI 加速之后,职能线与业务线怎样重新划分短文 · 约 2 分钟阅读
  6. 6从一次请求看多节点执行系统的架构演进短文 · 约 30 分钟阅读
  7. 7缓存究竟在哪里:多层执行服务的局部性短文 · 约 15 分钟阅读本篇
  8. 8让差异停留在配置层:多业务域平台的架构设计短文 · 约 15 分钟阅读
  9. 9AI Gateway:从后端调度到成本治理短文 · 约 23 分钟阅读

如果这篇文章对你有帮助,请我喝杯咖啡吧——你的支持让我有动力继续写下去。

微信
支付宝

感谢支持,量力而行。

分享到

X微博TelegramWhatsAppLinkedInFacebook

微信

用微信扫一扫

在手机上打开这篇文章,或转发给朋友。

喜欢这个站?

或订阅 RSS
← 上一篇让差异停留在配置层:多业务域平台的架构设计
下一篇 →从一次请求看多节点执行系统的架构演进
查看专栏《技术规划与架构》目录← 上一篇:从一次请求看多节点执行系统的架构演进下一篇:让差异停留在配置层:多业务域平台的架构设计 →

继续阅读

也许和这篇有关。

  • 写作AI Gateway:从后端调度到成本治理通过多后端模型访问场景,理解 AI Gateway 如何处理资源调度、容量控制、故障切换、分布式状态、用量统计和企业成本治理。阅读全文 →

    同专栏 · 共享标签 5 个

  • 项目不只是模型切换:DSH Quota Router 的工程设计与路由算法从候选链、失败分类、per-turn identity 到成本公式,解释一个可控、可审计的 DSH 多来源模型路由器如何工作。查看项目 →

    共享标签 4 个

  • 项目Quota Router:给 DSH 一条可解释的多源模型 fallback 链DeepSeek Harness 的纯策略插件:按任务选择有序、可解释、可审计的模型候选链,并在配额、限流或传输失败时沿链有界前进。查看项目 →

    共享标签 4 个

© 2018–2026 Liyuk。缓慢构建,公开发布。

在别处GitHub ↗X ↗LinkedIn ↗邮箱 ↗友链 ↗收藏 ↗订阅 RSS ↗
CC BY-NC-SA 4.0