跳转至

LLM API 与供应商

LLM API 与供应商

模型 API 是 AI 产品的"发动机"。本页整理选择和使用模型服务的关键视角。

供应商维度

  • 闭源 API(OpenAI、Anthropic、Google、阿里、字节、腾讯等):开箱即用、能力最强、按用量付费
  • 开源模型(Llama、Qwen、DeepSeek 等):可私有化部署、数据可控、规模化成本低
  • 国产 vs 海外:数据合规、网络延迟、定价策略差异大

选型评估清单

维度关注点
能力目标任务上的实测效果(用你自己的评测集)
价格输入/输出单价、缓存价、批量价
速率与并发RPM/TPM 限制是否满足峰值
延迟首 token 时间、流式能力
数据政策数据是否用于训练、是否留存、传输地域
稳定性SLA、限流与故障历史
生态SDK、工具调用、多模态支持

成本优化三板斧

  1. 模型分层:简单任务用便宜小模型,难任务才上旗舰
  2. 缓存:相同请求命中缓存,显著降低成本
  3. 提示词精简:省 token 就是省钱(提示词压缩、上下文管理)

实操建议

  • 与供应商签合同前先跑你自己数据的压测
  • 关键路径不要单点依赖一家:抽象一层接口,保留切换能力
  • 用量告警:设置每日/每月成本上限,防止失控
待补充
  • 主流供应商定价对比表(2026 年版)
  • 各家模型能力实测记录