人工智能 · AI 落地能力认证(L1~L3 能力分级,项目实操导向)
AI 落地工程师(PDE · 推理部署)能力认证
把大模型真正跑进生产的人:考《模型部署》(HuggingFace/vLLM/Ollama/量化)+《推理优化》(KV Cache/Continuous Batching/延迟成本)+《RAG 与 Agent》(Embedding/向量库/检索/工具调用)+《评估与运维》(测试集/监控/安全/成本)。通过后可获得 1~3 级能力认证(项目实操 + 测评,AI 落地岗主证明)。
🧭 第一次考这个证?先花 20 分钟看方法
职场考证指南:选对证 · 挤出时间 · 记得住
上班族最容易踩的坑不是「不努力」,而是选错证、计划排太满、只学不练、报名条件没核清。这里给的是可执行清单与模板。
书籍库
全部书籍 →RAG 与 Agent·考点精讲
RAG 与 Agent:切分(语义/重叠)+ Embedding 与向量库 + 混合检索 + 重排 + Agent(ReAct/工具调用)与工作流选型——“接上知识”的生产链路。
开始阅读 →注意区分:本站有两个 AI 方向——PDE · 产品设计工程师(Product Design Engineer,产品 + 设计 + 工程三合一,作品集导向)与 AI 落地工程师(P(DEploy) Engineer,把大模型真正跑进生产环境:部署、推理优化、RAG、Agent、评估运维)。“一个管体验,一个管跑起来”——本页是后者。
AI 落地工程师尚无统一官方考试,本页的能力分级、测评口径为示例标准;具体认证规则以各认证机构当次公告为准。
四模块结构(示例口径):
| 模块 | 核心内容 | 能力项 |
|---|---|---|
| 模型部署 | 模型格式(safetensors)/ 推理框架(vLLM/Ollama/llama.cpp/TGI)/ 量化(INT8/INT4/GPTQ/AWQ)/ 服务化(OpenAI 兼容 API) | L1 能跑通 → L2 能选型 → L3 能规划架构 |
| 推理优化 | Prefill/Decode 两阶段 / KV Cache / Continuous Batching / 显存账本 / 延迟与吞吐 / 成本核算 | L1 能读指标 → L2 能调优 → L3 能定预算 |
| RAG 与 Agent | Embedding / 向量库(FAISS/Milvus/pgvector)/ 切分与检索 / 重排 / Agent(ReAct/工具调用)/ 工作流 | L1 能搭 Demo → L2 能上生产 → L3 能设计系统 |
| 评估与运维 | 测试集 / 自动评估 / 人工抽查 / 幻觉与安全 / 监控(时延/错误率/成本)/ 回滚与灰度 | L1 能看监控 → L2 能建评估 → L3 能定 SLO |
能力分级(L1~L3,项目实操导向):
- L1(部署级):能用 Ollama/vLLM 把开源模型跑起来并暴露 API;能算显存账;能搭 RAG Demo(切分/检索/生成);
- L2(生产级):能选型(模型/框架/量化/向量库)并说清理由;能做 Continuous Batching 调优与成本核算;能上生产级 RAG(重排/引用/评测);能建评估测试集与监控;
- L3(架构级):能设计多模型分级架构(大小模型路由);能定 SLO 与容量规划;能设计 Agent 系统与评估闭环;能主导"模型上线 → 监控 → 迭代"全流程。
⚠️ AI 落地工程师的"证"是项目:一个能跑的生产环境 + 一份显存/延迟/成本账 + 一套评估测试集,比任何纸面证书都硬。纸面证书(软考/厂商认证)是加分项,项目是主证明。
AI 落地证书地图(与本站其他板块衔接):
| 证书 | 定位 | 与本站衔接 |
|---|---|---|
| 软考·中级/高级 | 以考代评的 IT 职称(“AI 时代的硬职称”) | 见 软考 / 高项 |
| 厂商认证(华为 AI 开发者/百度 AI/阿里云/ NVIDIA 等) | 工具链认证(“某框架/某平台”) | 以各厂商当次认证为准 |
| CAIP/人工智能训练师 | 人社部新职业方向(“AI 训练/应用”) | 以当地人社部门公告为准 |
| 1+X 人工智能类证书 | 职业技能等级(“AI 应用”方向) | 以评价机构公告为准 |
| AI 落地能力认证(本页) | 项目实操 + 测评(“AI 落地岗主证明”) | 本页 |
本站已上线内容:模型部署(框架/量化/API)+ 推理优化(KV Cache/Batching/成本)+ RAG 与 Agent(检索/重排/工具调用)+ 评估与运维(测试集/监控/安全)考点精讲;项目评审框架与避坑清单。
为什么值得学:AI 公司最缺的不是"会调 API"的人,而是"能把模型跑进生产、算清成本、兜住质量"的人——详见 AI 落地百科。