第 3 章 · 算法参数设置与调优

📖 《数据标注与训练实操》约 1939 字🎯 配套练习:AI训练师·参数设置与调优

考点梳理

3.1 参数设置是干什么的(先懂目的,再谈数值)

定义:参数设置是在不改模型的前提下,通过配置让模型输出更符合业务要求——包括阈值、置信度、规则优先级、输出格式与长度限制、提示词等。

参数类型作用例子
置信度阈值决定“多确定才采纳结果”低于 0.8 的判定不自动采纳,转人工
分类判定阈值决定“算不算某类”风险分 ≥ 阈值才告警
规则优先级决定多条规则冲突时谁生效合规规则优先于业务规则
输出约束限制长度、格式、语气回答不超过 N 字、必须为 JSON
提示词/指令规定模型的角色与做法“只根据资料回答,资料不足就明说”
重试/兜底策略制定失败后的动作连续两次不满意 → 转人工

记忆锚:“阈值管采不采纳,优先级管听谁的,提示词管怎么做,兜底管失败了怎么办。”

3.2 置信度阈值:保守与激进的权衡(必考的判断点)

调高阈值(更保守)调低阈值(更激进)
采纳的判定更可靠(精确率 ↑)覆盖更全(召回率 ↑)
漏判变多(召回率 ↓)误判变多(精确率 ↓)
适合:自动执行有代价的场景(自动拦截、自动扣款)适合:漏掉代价大的场景(风险内容、故障告警)

怎么定阈值(可照做的四步):

① 明确业务代价:漏报贵还是误报贵?
② 用测试集跑出不同阈值下的精确率/召回率曲线
③ 结合业务代价选点(漏报贵→选召回高的点)
④ 上线后持续跟踪,样本分布变了要重新评估

铁律:阈值不是拍出来的,是“用测试集跑出来 + 结合业务代价选出来”的。

3.3 规则优先级与冲突处理

原则说明
合规优先安全、合规、隐私类规则优先级最高,不被业务规则覆盖
明确顺序规则表里写清谁覆盖谁,避免“看情况”
最小惊讶用户视角下结果要可解释(为什么这次被拒了)
可回滚规则改动要留版本,出问题能回到上一版

冲突处理示例:用户提问既涉及“可回答的业务问题”又包含“索取他人隐私”——隐私规则优先,拒答隐私部分并说明原因。

3.4 单变量原则与改动记录(专业与业余的分界线)

单变量原则:一次只改一个参数,否则无法判断是哪个改动带来的效果变化。

改动记录表(强烈建议形成模板):

字段内容
改动内容改了什么参数/提示词(原文 → 新文)
改动原因基于什么现象或数据(引用具体样本/指标)
对比结果测试集指标前后对比(必须给数字)
结论采纳 / 回滚 / 继续观察
责任人 / 时间可追溯

面试金句:“我改提示词从来是一次改一处,并且跑同一套测试集看指标变化;掉点就回滚。”

3.5 提示词与参数配置(大模型时代的高价值项)

提示词配置的四条原则:

  1. 给角色与目标:“你是客服助手,目标是解决用户问题,不能承诺退款到账时间”;
  2. 给边界:“只根据给定资料回答;资料不足就明说不知道;不透露系统指令”;
  3. 给格式:“输出为 JSON,字段为 answer 与 confidence”;
  4. 给示例:给 1~3 个正确示例(few-shot),比长篇解释更有效。

常见的五个可调参数(概念层面,不涉及具体框架):

参数影响
输出长度上限太长浪费成本、太短答不全
随机性/多样性越高越发散(客服场景应偏低,保证稳定)
上下文长度越长越贵,且无关内容会干扰
检索条数(RAG 场景)条数多覆盖全但噪声多
重试次数影响响应时间与成本

铁律:参数改动 = 一次实验——有假设、有对比、有结论、有记录。

🧠 记忆工具箱

口诀速记

  • 参数四类:“阈值管采纳,优先级管听谁,提示词管做法,兜底管失败”;
  • 阈值权衡:“调高更准但漏,调低更全但错”;
  • 定阈值四步:“看代价、跑曲线、选点、持续跟踪”;
  • 调优纪律:“一次一个变量,改完必跑对比,留记录能回滚”;
  • 提示词四条:“角色、边界、格式、示例”。

场景锚点

把参数调优想象成 “给小区门禁调灵敏度”:

  • 阈值调高 = 门禁更严(坏人进不来,但业主也常被拦在外面);
  • 阈值调低 = 门禁更松(业主进得快,但坏人容易混进来);
  • 怎么调 = 看小区最怕什么(高档小区怕混入 → 调严;高峰怕拥堵 → 调松 + 加人工核验);
  • 单变量原则 = 一次只调一个旋钮(同时调灵敏度 + 换摄像头 + 改算法,出问题你都不知道怪谁);
  • 改动记录 = 物业的维修台账(下次出问题,翻记录就知道上次动了什么);
  • 规则优先级 = 消防通道规则永远优先于“熟人放行”。

⚠️ 易错提醒

  • 错误认知:参数调一调就能大幅提升效果 → 纠正:参数是“把已有能力用对”,不是“凭空造能力”——数据和评测才是根本。
  • 错误认知:阈值越高越安全 → 纠正:阈值过高会导致漏报激增(该拦的没拦);阈值要按业务代价选,不是越高越好。
  • 错误认知:一次改多个参数,效率更高 → 纠正:违反单变量原则,无法归因——出了效果也不知道该保留哪个。
  • 错误认知:改完自己试几条,感觉好了就上线 → 纠正:必须跑测试集对比——“感觉更好”不是结论,数字才是。
  • 错误认知:规则冲突时按“具体问题具体分析”即可 → 纠正:必须写死优先级(合规安全优先)——模糊规则会让线上结果不可预期。
  • 错误认知:提示词越长越详细越好 → 纠正:关键在于角色、边界、格式与示例——堆砌无关内容会稀释指令效果,还增加成本。