48 个模型怎么筛到 8 个:一份选型矩阵
平台当前启用 194 个模型,本站收录了 48 个代表型号。对一家具体公司来说,长期维护 48 个模型是不现实的;合理数量是每个业务场景 1 到 2 个主用、1 个备用,合起来 8 个左右。
四个筛选维度
维度一:协议兼容
先按协议分组,而不是按厂商分组。如果现有代码是 OpenAI 兼容的,优先留 OpenAI 协议的模型,能省掉适配层;需要 Anthropic 的长上下文能力时,单独留一条 POST /v1/messages 通道。
维度二:能力档位
把模型分成三档:主力(承接主要流量)、专用(图片/视频/音频各一)、兜底(低价、够用)。三档之外的一律不进生产。
维度三:可用率
本站对每个模型都记录快照可用率与线路数。可用率接近满值、线路数大于 1 的模型,才适合放在主链路;只有单线路的模型适合做离线任务。
维度四:线路冗余
同一个能力档位至少留两个不同供应商的模型。上游单点故障是行业常态,切换成本远低于停机成本。
收敛结果
- 主力聊天 2 个(一个 OpenAI 协议、一个 Anthropic 协议)。
- 低成本聊天 1 个,用来跑批处理与摘要。
- 图片 2 个(一个快速出图、一个高质量)。
- 视频 2 个(一个竖版短视频、一个横版长镜头)。
- 音频 1 个,转写与配音共用。
筛完之后要做的不是继续加,而是每季度复核一次:把用得最少的一个换掉,把新上线的能力补进来。全部候选模型见 比价表,价格换算方法见 一次调用的真实成本。