AI 落地工程师百科：把模型跑进生产的人
AI 落地工程师（PDE）是什么、与算法工程师/应用开发的边界、为什么 2026 年急缺、L1~L3 能力分级、含金量与投入评估、证书地图。
是什么
AI 落地工程师（PDE，P(Deploy) Engineer）是"把大模型从 Demo 搬进生产环境"的人：
AI 落地工程师 = 能让模型跑起来 + 算清显存与成本 + 兜住质量与安全的人。
算法工程师训出模型、应用开发调 API 写功能，中间这段"最后一公里"归 AI 落地工程师：
算法工程师（训模型）
↓ 模型权重
AI 落地工程师（部署/优化/RAG/评估/运维）← 本页
↓ 稳定、便宜、可评估的模型服务
应用开发（接 API 做产品功能）
AI 落地工程师一天在干什么（以"把 7B 模型上线客服"为例）：
| 环节 | 干什么 |
|---|---|
| 选型 | 7B 还是 14B？量化 INT4 行不行？显存够不够？（算账） |
| 部署 | vLLM 起服务 → OpenAI 兼容 API → 压测（跑起来） |
| 优化 | TTFT 太高？加 Continuous Batching；显存爆了？降量化/开 PagedAttention（调优） |
| RAG | 接知识库：切分 → Embedding → 向量库 → 检索 → 重排 → 引用（接知识） |
| 评估 | 建 50 条测试集 → 跑评估 → 看幻觉率（兜质量） |
| 运维 | 监控时延/错误率/成本 → 灰度发布 → 出问题回滚（保生产） |
与算法工程师/应用开发的边界（“看工作做到哪里”）
| 对比项 | 算法工程师 | 应用开发 | AI 落地工程师 |
|---|---|---|---|
| 训模型 | 主导 | 不 | 微调（LoRA）参与 |
| 部署推理 | 不 | 调 API | 主导（框架/量化/优化） |
| RAG/Agent | 参与 | 接现成 | 主导（生产级） |
| 评估运维 | 离线评估 | 不 | 主导（线上评估/监控/SLO） |
| 一句话 | 造模型 | 用模型 | 把模型变成服务 |
边界判断：“Demo 能跑"是应用开发的活，“生产能跑 + 算清账 + 兜住质"才是 AI 落地工程师的活——Demo 与生产之间隔着量化、Batching、评估、监控、回滚。
为什么 2026 年急缺（三个结构性变化）
| 变化 | 说明 |
|---|---|
| 模型从"玩具"变"生产力” | 企业开始真金白银上生产（客服/知识库/代码助手）——Demo 时代结束，成本时代开始 |
| 推理成本是核心矛盾 | 大模型调用按 token 计费，“每 1000 次请求花多少钱"是老板最关心的数——会算账的人稀缺 |
| 工具链成熟但门槛在整合 | vLLM/Ollama/向量库都开源了，但"选型 + 调优 + 评估 + 运维"的整合能力没有现成模板——整合能力 = 岗位价值 |
核心判断：“会调 API 的人遍地都是，能让模型在生产环境又便宜又稳又可控的人稀缺”——AI 落地工程师的价值在“最后一公里”。
L1~L3 能力分级（“项目实操 + 测评”）
| 级别 | 名称 | 能力门槛（示例口径） | 典型岗位 |
|---|---|---|---|
| L1 | 部署级 | 用 Ollama/vLLM 跑起开源模型并暴露 API；会算显存账；能搭 RAG Demo | AI 部署工程师（初级） |
| L2 | 生产级 | 能选型并说清理由（模型/框架/量化/向量库）；能做 Batching 调优与成本核算；能上生产级 RAG + 评估测试集 | AI 落地工程师（主岗） |
| L3 | 架构级 | 能设计多模型分级架构（大小模型路由）；能定 SLO 与容量规划；能设计 Agent 系统 + 评估闭环 | 资深 AI 工程师/AI 平台负责人 |
记忆锚：“L1 能跑，L2 能算，L3 能规划”——每一级的"证"都是项目：生产环境 + 成本账 + 测试集。
含金量与难度（AI 赛道决策参考）
| 维度 | 说明 |
|---|---|
| 岗位用途 | AI 部署/落地/平台工程师（AI 公司/传统企业 AI 部门） |
| 行业地位 | 项目实操认证（“不是纸面资格”）——主证明是项目，纸面证书（软考/厂商）是加分项 |
| 职称对应 | 软考中级/高级可对应 IT 职称（“以考代评”，与项目并行） |
| 难度评级 | ★★★★☆（“部署 + 优化 + RAG + 运维”，“工程整合”） |
| 建议总学时 | L1：100~200 小时；L2：300~500 小时；L3：800+ 小时（含 2~3 个上线项目） |
| 主要难点 | 显存/延迟/成本三角（三者互相拉扯）+ 评估闭环（没有测试集 = 裸奔） |
| 适合谁 | 后端/运维/数据工程师补 AI 部署；算法工程师补工程化；零基础走"部署"主轴 |
| 建议先别学的情形 | 想"不碰工程只学 Prompt”（那是提示词工程，不是落地）；没有 Linux/容器基础（部署的地基） |
AI 落地证书地图（纸面证书 + 项目双轨）
| 证书 | 类型 | 与 AI 落地的关系 |
|---|---|---|
| 软考中级（系统集成/网络/数据库） | 以考代评职称 | 硬职称（聘任/落户），与项目并行 |
| 软考高级（高项/架构师） | IT 高级职称 | L3 阶段的"天花板纸” |
| 厂商认证（华为/百度/阿里云/NVIDIA） | 工具链认证 | “某框架/某平台"背书（以厂商当次为准） |
| CAIP/人工智能训练师 | 人社部新职业方向 | “AI 应用/训练"方向（以当地公告为准） |
| 1+X 人工智能类 | 职业技能等级 | “AI 应用"方向（以评价机构为准） |
| AI 落地项目认证（本页） | 项目实操 + 测评 | 主证明（生产环境 + 成本账 + 测试集） |
⚠️ 关于数据的说明：AI 落地能力分级与证书地图为示例口径——AI 赛道认证体系仍在快速成型，以各认证机构与当地政策当次发布为准。