大模型应用工程师

岗位是什么

大模型应用工程师（常称 LLM 应用工程师 / AI 应用工程师）是把模型能力做成可用系统的角色：负责应用开发、接口编排、效果调优与上线运维；Agent 工程师是其进阶形态，核心工作是让模型在工具和流程里自主完成任务（Agent 编排、工具接入、权限与兜底设计）。

常见别名：LLM 应用开发工程师、Agent 开发工程师、AI 应用工程师、RAG 工程师（偏检索方向）。

与 AI 产品经理 的协作界面大致是：

典型 JD 长什么样

职责

归纳公开 JD 的常见要素，典型写法大致是：

• 负责公司 AI 应用/Agent 平台的架构设计与开发，如知识问答、智能助手、自动化工作流
• 基于大模型 API 与开源模型，完成提示词设计、RAG 检索链路、工具调用与 Agent 编排
• 设计并落地效果评测与回归机制，持续优化回答质量、延迟与成本
• 与产品、算法、数据团队协作，支撑业务场景落地
• 跟进业界前沿（模型更新、Agent 框架演进），推动技术选型

要求

• 统招本科及以上，计算机相关专业，2 年以上开发经验
• 熟练掌握 Python/Java/Go 中至少一门语言，有扎实的工程能力
• 熟悉 LLM API 调用、提示词工程、RAG 与主流 Agent 框架
• 了解向量数据库、缓存、异步任务等常见组件
• 有良好的问题排查能力与代码质量意识

加分项

• 有完整落地 LLM 应用/Agent 项目的经验
• 有模型微调或部署（推理优化）经验
• 有开源项目贡献或技术博客

JD 关键词解读

• 「熟练掌握语言」：硬门槛，面试有编程题；但 LLM 应用岗的考察深度通常低于后端岗——更看重「会用工具把模型串起来」而不是造轮子
• 「熟悉主流 Agent 框架」：框架半年一换，具体用法以官方文档为准；「熟悉框架」不如「理解 Agent 原理（LLM + 工具 + 循环决策）」值钱，Agent 与工作流 是必读
• 「了解向量数据库」：偏软性要求，能说清 RAG 链路里检索的作用即可；真正的难点是分块策略与召回质量调优
• 警惕点：「要求精通提示词但无工程要求」的 JD 多半是小团队把产品需求塞给开发；「要求全栈 + 算法 + 产品」的「全能岗」意味着工作边界不清

能力要求与准备建议

1. 打底：一门语言（推荐 Python）+ 基础 Web/API 开发能力；大模型基础 讲清 LLM 原理与局限
2. 掌握应用栈：提示词工程（提示词工程）、RAG 检索链路（RAG）、Agent 编排（Agent 与工作流），每个都动手做一个小项目
3. 学会评估效果：没有评测就没有优化，读 评估与评测，学会搭种子评测集与回归基线
4. 做出完整作品：一个端到端项目（如「接入私有知识的问答机器人」）胜过十个小 demo；能讲清延迟、成本、失败兜底怎么处理
5. 与产品协作：能读 PRD（PRD 写作）、能把「需求」翻译成「技术方案与成本」，是你区别于纯后端的重要竞争力

发展路径

• 入行：后端/全栈工程师转岗（补 LLM 应用栈）或应届直接投应用开发岗；用个人项目证明「真的做过」
• 进阶：Agent/应用架构师——主导平台级设计与技术选型，管理检索质量、成本与稳定性；通常 2~4 年
• 横向：转算法工程师（往模型侧走，需补数学与训练知识）、转 AI 产品经理（技术背景 PM 稀缺）、转 AI 平台/基础架构（做模型服务与部署）
• 纵向：技术负责人 / 应用平台负责人，带领团队支撑多条业务线

相关阅读

• AI 产品经理：理解需求从哪来、怎么对齐
• 算法工程师（LLM/NLP/多模态）：应用层解决不了的问题，什么时候该找算法
• 提示词工程师：现实定位与 JD 解读：提示词技能在应用岗里的真实分量
• Agent 与工作流：Agent 工程的核心概念与边界
• AI 系统架构：从全局理解应用层与模型层的关系
• Agent 产品设计深度篇：Agent 产品的设计空间、信任与兜底设计
• 工作流自动化：工作流与 Agent 的区别、节点设计与人工在环
• RAG 产品化实战：从 demo 到可信知识库：RAG 链路从 demo 到可信落地的完整路径
• 知识库问答：知识问答产品的设计要点与评估标准

发现错误？想一起完善？ 在 GitHub 上编辑此页！
本页面贡献者：AI-PM Wiki Team
本页面的全部内容在 CC BY-SA 4.0 和 SATA 协议之条款下提供，附加条款亦可能应用