LLM API 与供应商
LLM API 与供应商
模型 API 是 AI 产品的"发动机"。本页整理选择和使用模型服务的关键视角。
供应商维度
- 闭源 API(OpenAI、Anthropic、Google、阿里、字节、腾讯等):开箱即用、能力最强、按用量付费
- 开源模型(Llama、Qwen、DeepSeek 等):可私有化部署、数据可控、规模化成本低
- 国产 vs 海外:数据合规、网络延迟、定价策略差异大
选型评估清单
| 维度 | 关注点 |
|---|---|
| 能力 | 目标任务上的实测效果(用你自己的评测集) |
| 价格 | 输入/输出单价、缓存价、批量价 |
| 速率与并发 | RPM/TPM 限制是否满足峰值 |
| 延迟 | 首 token 时间、流式能力 |
| 数据政策 | 数据是否用于训练、是否留存、传输地域 |
| 稳定性 | SLA、限流与故障历史 |
| 生态 | SDK、工具调用、多模态支持 |
成本优化三板斧
- 模型分层:简单任务用便宜小模型,难任务才上旗舰
- 缓存:相同请求命中缓存,显著降低成本
- 提示词精简:省 token 就是省钱(提示词压缩、上下文管理)
实操建议
- 与供应商签合同前先跑你自己数据的压测
- 关键路径不要单点依赖一家:抽象一层接口,保留切换能力
- 用量告警:设置每日/每月成本上限,防止失控
待补充
- 主流供应商定价对比表(2026 年版)
- 各家模型能力实测记录
发现错误?想一起完善? 在 GitHub 上编辑此页!
本页面贡献者:AI-PM Wiki Team
本页面的全部内容在 CC BY-SA 4.0 和 SATA 协议之条款下提供,附加条款亦可能应用