AI Gateway:从后端调度到成本治理
通过多后端模型访问场景,理解 AI Gateway 如何处理资源调度、容量控制、故障切换、分布式状态、用量统计和企业成本治理。
短文
约 23 分钟阅读
收录于专栏 技术规划与架构 · 第 9 篇
标签
围绕“Architecture”的写作、研究、项目与影像。
通过多后端模型访问场景,理解 AI Gateway 如何处理资源调度、容量控制、故障切换、分布式状态、用量统计和企业成本治理。
短文
约 23 分钟阅读
收录于专栏 技术规划与架构 · 第 9 篇
内容、搜索、交易和增长系统在多国家、多行业和多场景下会反复遇到同一个问题:如何复用稳定能力,又让业务表达保持差异。配置、协议、组件和编排,应该怎样划分边界。
短文
约 15 分钟阅读
收录于专栏 技术规划与架构 · 第 8 篇
从一套多节点执行系统的故障结构出发,复盘请求、状态、存储、性能和故障如何逐渐跨越边界,并讨论下一版架构应该怎样重新组织。
短文
约 30 分钟阅读
收录于专栏 技术规划与架构 · 第 6 篇
从分析、经营和工程的不同问题出发,整理一个多来源业务平台的数据中心应该如何划分 Tab、定义指标、组织读写链路,以及怎样处理计费、对账、增长和成本。
短文
约 37 分钟阅读
从一次多系统对接经历出发,区分创造、任务效率、组织生产力和经营价值,讨论 AI 进入复杂系统后,收益到底从哪里来、成本又该怎么算。
短文
约 9 分钟阅读
收录于专栏 工程与 AI 判断 · 第 10 篇
alt 和 Schema 是事实核验之后的最后一步,不是第一步;标签补得再全,事实模型缺失,页面还是难懂。
案例
约 5 分钟阅读
收录于专栏 搜索引擎增长工程 · 第 6 篇
讨论任务开始阶段的拆解、子任务能力分类、模型选择与执行中切换,并将完整 Agent 调度理论收缩为 dsh-quota-router 的一个工程切片:已拆分子任务的模型能力路由与有界 fallback。
约 38 分钟阅读
阅读摘要多地区系统既不能把所有差异硬塞进一个核心,也不能让每个地区重复建设。关键是识别稳定边界、保留扩展点,并明确模块所有权。
短文
约 4 分钟阅读
收录于专栏 技术规划与架构 · 第 4 篇
代码劣化并不主要来自某一次"写得差",而来自局部变更不断绕过共同边界;真正要维护的是设计与协作的一致性。
短文
约 2 分钟阅读
收录于专栏 技术规划与架构 · 第 2 篇