首页 / 成本笔记 / 选型 / 模型矩阵

48 个模型怎么筛到 8 个:一份选型矩阵

2026-11-12 · 选型 · 模型矩阵 · 工程实践

平台当前启用 194 个模型,本站收录了 48 个代表型号。对一家具体公司来说,长期维护 48 个模型是不现实的;合理数量是每个业务场景 1 到 2 个主用、1 个备用,合起来 8 个左右。

四个筛选维度

维度一:协议兼容

先按协议分组,而不是按厂商分组。如果现有代码是 OpenAI 兼容的,优先留 OpenAI 协议的模型,能省掉适配层;需要 Anthropic 的长上下文能力时,单独留一条 POST /v1/messages 通道。

维度二:能力档位

把模型分成三档:主力(承接主要流量)、专用(图片/视频/音频各一)、兜底(低价、够用)。三档之外的一律不进生产。

维度三:可用率

本站对每个模型都记录快照可用率与线路数。可用率接近满值、线路数大于 1 的模型,才适合放在主链路;只有单线路的模型适合做离线任务。

维度四:线路冗余

同一个能力档位至少留两个不同供应商的模型。上游单点故障是行业常态,切换成本远低于停机成本。

收敛结果

  1. 主力聊天 2 个(一个 OpenAI 协议、一个 Anthropic 协议)。
  2. 低成本聊天 1 个,用来跑批处理与摘要。
  3. 图片 2 个(一个快速出图、一个高质量)。
  4. 视频 2 个(一个竖版短视频、一个横版长镜头)。
  5. 音频 1 个,转写与配音共用。

筛完之后要做的不是继续加,而是每季度复核一次:把用得最少的一个换掉,把新上线的能力补进来。全部候选模型见 比价表,价格换算方法见 一次调用的真实成本。