AI Gateway:从后端调度到成本治理
通过多后端模型访问场景,理解 AI Gateway 如何处理资源调度、容量控制、故障切换、分布式状态、用量统计和企业成本治理。
短文
约 23 分钟阅读
收录于专栏 技术规划与架构 · 第 9 篇
标签
围绕“Capacity Planning”的写作、研究、项目与影像。
通过多后端模型访问场景,理解 AI Gateway 如何处理资源调度、容量控制、故障切换、分布式状态、用量统计和企业成本治理。
短文
约 23 分钟阅读
收录于专栏 技术规划与架构 · 第 9 篇
从一套多节点执行系统的故障结构出发,复盘请求、状态、存储、性能和故障如何逐渐跨越边界,并讨论下一版架构应该怎样重新组织。
短文
约 30 分钟阅读
收录于专栏 技术规划与架构 · 第 6 篇
人力配比只是动态概念。更重要的是在扩张、收缩和方案变化时,把目标、市场与资源约束及时对齐。
短文
约 3 分钟阅读
收录于专栏 工程协作与交付 · 第 4 篇
资源紧张不是一句"大家再努力一点"能解决的问题。团队需要把承诺、风险和投诉还原为事实,并公开作出取舍。
短文
约 5 分钟阅读
收录于专栏 工程协作与交付 · 第 3 篇