AI Infra 相关岗位

岗位是什么

AI Infra 相关岗位是「让模型跑起来、跑得快、跑得便宜」的岗位群：算法团队负责模型能力，Infra 团队负责承载模型的那套系统——训练集群、推理服务、算力调度、数据管道。产品经理感知不到 Infra 的存在，是它做得好；但一旦模型贵、响应慢、部署不动，第一个被找的往往是 PM。

岗位谱系：

在 AI 系统架构的四层地图里，Infra 处在最底层的「算力与基础设施」层——上面跑着模型、应用与产品，PM 对 Infra 的理解不需要到代码级，但需要知道每一层约束了什么。

时效性说明

信息截至 2026-08，岗位名称与 JD 写法变化较快，以最新公开招聘信息为准。

职责（归纳公开 JD 的常见要素，典型写法大致是）：

要求：

加分项：

「MLOps/LLMOps」：把模型当软件工程来管的思路——版本、流水线、监控、回滚；面试考「模型上线后效果劣化了怎么发现、怎么回滚」
「推理优化」：AI 应用降本的核心战场，量化/蒸馏/缓存是高频考点——与 LLM 成本测算直接相关
「GPU 利用率」：算力平台岗的核心 KPI，考的是调度策略与资源池设计——利用率低不是技术问题，是钱的问题
「服务稳定性/SLA」：AI 应用的线上承诺，面试常问「模型服务挂了怎么办、延迟劣化怎么兜底」
警惕点：名为「AI Infra」实为普通运维/后端搬砖的 JD——看职责里有没有「模型服务、推理、算力」相关词；「Infra」岗位普遍要求扎实的工程底子，不适合零基础转行，但适合后端工程师切入

Infra 与 PM 的协作集中在三件事：钱、快、能不能部署。这三件事的决策都影响用户体验与业务成本，PM 不能只把 Infra 当「后台」。

成本测算与口径：PM 要向业务方汇报 AI 功能的成本，必须与 Infra/算法对齐口径——token 成本、GPU 利用率、单请求成本怎么算，LLM 成本测算是共同语言；「功能赚钱吗」的问题，PM 拿不出成本口径就是失职
延迟与体验的权衡：流式输出（首 token 时间、token 间隔）、响应延迟直接影响对话类产品的手感；「更快」与「更便宜」往往冲突（更多算力 vs 量化降质）——PM 要能用业务指标说话：延迟劣化多少会掉多少留存，再决定为速度花多少钱
模型部署策略对产品的约束：公有云（弹性但数据出域）、私有化（合规但成本高）、混合部署各有约束——是否支持私有化直接决定能否签某些大客户；PM 要参与决策，并把约束写进产品方案（比如私有化版本功能裁剪清单）
日常协作界面：模型上线/回滚的排期（发版日历要对齐）、线上质量监控看板（效果劣化、异常输入、服务稳定性）、容量规划（大促/推广活动前确认算力够不够）
常见摩擦与解法：PM 要新功能、Infra 说「加机器就行」→ 成本谁买单、利用率怎么算，先立口径再谈需求；Infra 说「量化降质」、PM 怕体验变差 → 用 A/B 或评测集量化影响，再决定；模型要上线、Infra 排期满 → 把模型上线纳入发版管理，和功能发版一样走排期与评审