Model Routing for Coding Agents

What is it（这是什么）

Model Routing for Coding Agents 是一个位于编码 Agent 和底层大模型之间的中间层。它做的事情很直白：当你的编码 Agent（比如 Cursor、Cline、Aider）需要调用模型时，不再绑定单一供应商，而是由路由层根据任务类型、成本预算、延迟要求，自动把请求分发给 Codex、DeepSeek、Kimi 或其他模型。

技术本质上，它是一个 API 网关 + 策略引擎。商业意义在于：它把"选哪个模型"从硬编码变成了可配置、可优化、可计费的运行时决策。对独立开发者来说，这是一个典型的"卖水人"机会——不造模型，只做模型之间的调度和治理。

Why now（为什么现在出现）

三个变化在同一时间点叠加。

第一，模型供给爆炸。2026 年，编码场景可用的强模型至少有 Codex、DeepSeek-V 系列、Kimi K2、Claude 系列、Gemini 系列。每个模型在不同任务上各有胜负：DeepSeek 便宜且推理强，Kimi 长上下文好，Codex 在代码补全上延迟低。开发者面临"选择过载"。

第二，成本压力真实存在。编码 Agent 的 token 消耗量是普通对话的 10-50 倍，一个重度用户每月能烧掉 200-500 美元的 API 费用。企业开始要求"把简单任务路由到便宜模型"。

第三，协议标准化。OpenAI 兼容的 API 格式已经成为事实标准，DeepSeek、Kimi、本地 vLLM 都支持。这意味着路由层不需要为每个模型写适配器，接入成本从"周"降到"小时"。

一年前，模型差异不够大，路由收益不明显；一年后，如果模型能力进一步收敛，路由的价值会转向成本和合规，而不是能力匹配。现在正是窗口期。

Market Evidence（市场证据）

数据面很薄，但信号方向清晰。

从 2 个独立信源（github、showhn）获得 2 次提及，增长率 100%，趋势分数 67/100。这个组合说明：这是一个刚刚进入技术社区视野的新概念，还没有形成讨论规模，但已经有人在 Show HN 上主动发布产品。

成熟度 nascent 是准确的判断。信源数量只有 2，意味着它还没有跨过"早期采用者"门槛，仍然处于创新者阶段。Show HN 的出现是一个积极信号——它说明有人已经把它做成了可运行的产品，而不是停留在博客讨论层面。

判断：这是真实需求的早期信号，不是短期热点。理由是编码 Agent 的模型切换需求是结构性的，不会因为某个模型发布而消失。但当前证据强度不足以支撑"立即投入"的结论，需要观察未来 30 天内信源数量是否突破 10 个。

Who's Behind It（谁在推动）

当前推动力主要来自开源社区和独立开发者，而非大厂。

已知信号来自 GitHub 和 Show HN，标签包含 Go 语言，说明有 Go 技术栈的开发者已经在构建路由层。这个选择合理：Go 的并发模型适合做高吞吐的 API 网关，部署简单，单二进制文件。

潜在玩家分三类：一是编码 Agent 工具本身（Cline、Aider、Continue）可能内置路由功能；二是 API 网关厂商（LiteLLM、Portkey、OpenRouter）可能向下延伸；三是独立开发者做垂直路由。

"庄家"目前不存在。LiteLLM 是最接近的现有玩家，但它是通用 LLM 网关，不是编码场景专用。这个垂直空档就是独立开发者的机会。

TAM & Market Size（市场规模）

潜在用户分三层。

第一层是编码 Agent 的重度用户：全球约 200-500 万开发者使用 Cursor、Cline、Aider 等工具，其中愿意为"成本优化"付费的比例保守估计 5-10%，即 10-50 万人。

第二层是中小团队和创业公司：需要统一管理多个模型的 API key、预算、审计日志。全球约 10-30 万家技术团队，付费意愿强，客单价高。

第三层是企业：需要合规、私有部署、成本分摊。这一层客单价可达每年数万美元，但销售周期长。

按 SaaS 订阅估算，如果 1 万付费用户，月费 20 美元，ARR 约 240 万美元。如果切入团队层，500 家客户，年费 2000 美元，ARR 约 100 万美元。

数据关联：机会分 0/100、需求分 0/100 说明当前量化模型还无法给出有效评估，这既意味着风险，也意味着没有拥挤的竞争。市场处于增长期，不是存量博弈。

Competitive Landscape（竞争格局）

已有玩家分三档。

第一档是通用 LLM 网关：LiteLLM（开源，Star 数最高）、Portkey、OpenRouter。优势是模型覆盖广、社区大；劣势是编码场景优化不足，不理解"代码补全 vs 重构 vs 调试"的任务差异。

第二档是 Agent 工具内置路由：Cline、Continue 已经开始支持多模型切换。优势是用户就在产品内；劣势是只服务自家用户，不开放。

第三档是云厂商方案：AWS Bedrock、Azure AI 有模型路由能力。优势是企业信任；劣势是绑定生态，不支持 DeepSeek、Kimi 等中国模型。

市场空白清晰：编码场景专用的、支持中美模型混合的、开箱即用的路由层。大厂不会做这个细分——市场太小，且涉及跨生态整合。独立开发者有 12-18 个月窗口。

竞争分 0/100 反映的是当前无直接竞品，不是竞争不存在。

Business Model（商业模式）

推荐订阅制 + 用量分成的混合模式。

纯订阅制的问题：用户用量差异大，固定月费会导致重度用户亏损。纯用量分成的问题：与 OpenRouter 等直接竞争，无差异化。

推荐结构：基础订阅 19 美元/月，包含 100 万 token 路由额度，超出部分按 0.1 美元/万 token 计费。团队版 99 美元/月，含 5 个席位、预算管理、审计日志。

定价依据：开发者工具的心理价位在 10-30 美元/月（参考 Cursor 20 美元、GitHub Copilot 10 美元）。团队版对标 Linear、Vercel 的入门价。

12 个月收入预测：

• 保守：300 付费用户，ARR 约 7 万美元
• 基准：1500 付费用户，ARR 约 34 万美元
• 乐观：5000 付费用户 + 100 团队客户，ARR 约 150 万美元

用户获取成本：通过 GitHub、Hacker News、技术博客的自然流量，CAC 可控制在 5-15 美元。回本周期 1-2 个月，健康。

MVP Blueprint（MVP 蓝图）

核心功能（只做这些）：

1. OpenAI 兼容的 /v1/chat/completions 端点
2. 支持 3 个后端：DeepSeek、Kimi、Codex
3. 基于规则的简单路由：按请求中的 model 字段映射，或按 token 长度阈值切换
4. API key 管理和用量统计
5. 一个配置页面

砍掉：智能路由（ML 预测）、A/B 测试、团队协作、审计日志。

技术栈：

• 后端：Go（标签已指明，且适合网关场景）+ Gin 或 Fiber
• 数据库：SQLite（MVP 阶段够用，避免运维负担）
• 前端：Next.js + shadcn/ui，或直接用 Tailwind 手写
• 部署：Fly.io 或 Railway，单区域起步

最快上线路径：

1. Fork 一个 Go API 网关模板（如 go-kit 示例）
2. 用 LiteLLM 的配置格式做参考，但重写为编码场景优化
3. 用 Stripe Checkout 做付费，不做复杂计费系统
4. 在 Show HN 和 r/LocalLLaMA 发布

预估开发天数数据为 0，说明当前无历史基准。按上述范围，一个有 Go 经验的开发者 5 天可上线可用版本。

Commercial Opportunities（商业化机会）

方向一：编码 Agent 成本优化 SaaS

• 描述：接入用户的 API key，自动把简单任务路由到便宜模型，展示节省金额
• 目标用户：每月 API 花费超过 100 美元的独立开发者
• 预期月收入：5000-20000 美元
• 优势：价值可量化（省了多少钱一目了然），转化率高

方向二：企业级模型路由网关

• 描述：私有部署，支持 SSO、审计、预算控制、合规日志
• 目标用户：20-200 人的技术团队
• 预期月收入：10000-50000 美元
• 优势：客单价高，续费稳定，竞争少

方向三：路由策略市场

• 描述：让社区分享"什么任务用什么模型"的配置模板，平台抽佣
• 目标用户：所有编码 Agent 用户
• 预期月收入：早期 1000-5000 美元
• 优势：网络效应，但启动慢

优先做方向一，因为验证最快、价值最直观。

Product Ideas（产品创意）

🥇 RouteCode

• 价值主张：让你的编码 Agent 每月 API 账单降低 60%，不改一行代码
• 目标用户：使用 Cline/Aider 的独立开发者和小团队
• 场景：用户把 base_url 从 OpenAI 改到 RouteCode，其余不变
• 时机：模型价格战正酣，成本焦虑最强
• 为什么第一：价值主张单一清晰，落地路径最短

🥈 ModelBench for Code

• 价值主张：用你的真实代码库测试哪个模型最适合你的任务
• 目标用户：需要做模型选型决策的团队
• 场景：上传代码库，跑标准化任务，输出对比报告
• 时机：模型迭代快，选型决策频繁
• 为什么第二：需求真实但频率低于日常路由

🥉 AgentRouter Cloud

• 价值主张：编码 Agent 的 Vercel——一条命令部署你的路由规则
• 目标用户：想自建路由但不想运维的团队
• 场景：CLI 工具 + 云端配置管理
• 时机：Go 生态工具链成熟
• 为什么第三：偏基础设施，获客慢

SEO Opportunity（SEO 机会）

搜索量趋势：上升。术语刚出现，但"LLM router""model routing"等上位词搜索量稳定增长。

长尾关键词：

• "coding agent model routing"
• "DeepSeek vs Codex for coding"
• "reduce Cursor API cost"
• "LLM gateway for developers"
• "switch models in Cline"

SEO 难度 0/100 说明当前几乎无竞争内容。内容策略：做对比类页面（模型对比、成本计算器）最容易拿排名，因为搜索意图明确且现有内容质量低。优先做"成本计算器"工具页，天然带外链。

Risk Assessment（风险评估）

判断可能错的情况：如果编码 Agent 工具全部内置路由功能且免费，独立路由层的价值归零。Cursor 和 Cline 有这个能力。

三大风险：

1. 技术风险：模型 API 格式分化，维护成本上升。缓解：只支持 OpenAI 兼容格式。
2. 市场风险：用户不愿意多一层中间商，担心延迟和隐私。缓解：开源核心，支持自部署。
3. 执行风险：定价过低无法覆盖支持成本，过高无人付费。缓解：先免费获取 100 用户再定价。

最低成本验证：用 3 天做一个纯 CLI 工具，不支持付费，只验证"有没有人愿意把 base_url 改过来"。在 GitHub 发布，看 2 周内的 Star 和 issue 数量。

放弃信号：如果 30 天内信源数量没有从 2 增长到 10，或 GitHub 项目无人提 issue，说明需求不成立。

Action Plan（行动建议）

第一步（今天）：搜索 GitHub 上所有 "model router" + "coding agent" 相关仓库，记录 Star 数、更新时间、issue 内容。这 2 小时能判断竞争密度。

低成本验证：用 Go 写一个 200 行的代理，硬编码支持 DeepSeek 和 Kimi，在个人项目里用一周，记录切换频率和节省金额。

如果信号确认（自己确实需要，且找到 5 个有同样需求的开发者）：

• 第一周：完成 MVP，部署到 Fly.io，写一篇"我如何把 API 成本降低 60%"的博客
• 第一个月：发布到 Show HN 和 r/LocalLLaMA，目标 50 个注册用户
• 第三个月：上线付费，目标 20 个付费用户，验证定价

关键指标：从注册到付费的转化率。低于 3% 说明价值主张有问题。

Related Terms（相关趋势）

• LLM Gateway — 上位概念，Model Routing 是其在编码场景的垂直化，存在功能重叠
• Coding Agent — 直接依赖关系，路由层服务的就是这类工具，需求由它驱动
• Prompt Caching — 互补关系，两者都服务于降低编码 Agent 成本，常一起被讨论
• OpenAI-Compatible API — 底层依赖，路由层能低成本接入多模型的前提是格式统一