胡慧华
菜单
首页人工智能机器学习深度学习项目实践关于我
跳至课程正文
← 人工智能课程

ARTIFICIAL INTELLIGENCE · COURSE 13

如何选择现成模型、知识库或微调

根据任务、数据、成本和更新需求,选择合适方案。

第 13 / 18 课20–30 分钟(含实验)无需密钥 · 本地实验
透明资料卡片经过检索环连接到回答面板,呈现有资料依据的问答流程
从单次回答走向可信产品
  • 方案选择
  • 成本取舍
01

START WITH A QUESTION

制度更新,应该换模型还是更新知识库?

同事提出三个需求:把已有文字改成统一语气、回答每周更新的制度、让模型持续按特定格式分类。看起来都能用大模型,但所需数据、成本和维护方式不同。

选型不是技术越复杂越好。先用明确任务和评估集建立基线,再判断不足来自知识、表达行为还是能力。微调指在已有模型基础上继续训练参数,并不是把知识库换个名字。

02

BUILD YOUR VOCABULARY

先把三个概念讲清楚

CONCEPT 01

现成模型与提示

用已有能力加清晰任务说明完成工作。资料足够短时可以直接放入上下文,适合先建立低成本基线。

放进场景看

对给定公告做语气改写,无需先建设大型知识库。

CONCEPT 02

检索增强

当答案依赖可更新资料时,检索把当前信息送入上下文。维护资料与索引,比让模型记住每次更新更易追溯。

放进场景看

每周变化的内部制度先更新资料,再评估检索覆盖。

CONCEPT 03

微调

用训练样例调整模型参数,常用于行为、风格或特定任务适配。需要质量可靠的数据、独立测试集与后续维护。

放进场景看

大量稳定标签的分类任务,可在基线不足时比较微调收益。

03

FOLLOW THE PROCESS

把原理放进完整流程

  1. 01

    定位缺口

    区分模型不知道资料、提示不清、输出行为不稳或任务本身超出能力。

  2. 02

    建立简单基线

    比较规则、现成模型和直接提供资料,不提前承诺必须训练。

  3. 03

    计算整体代价

    考虑数据准备、调用、时延、权限、维护和错误处置。

  4. 04

    用独立样例比较

    同一标准测试候选方案,不在训练样例上宣布泛化成功。

三个需求,三个合理起点
需求先尝试需要检查
改写给定短文现成模型+提示信息是否被改错
回答最新制度RAG 或直接提供资料版本、权限、引用
稳定领域分类规则与提示基线,再比较微调标注质量与独立测试
04

CHANGE ONE THING & OBSERVE

为三个需求选择方案

选择业务场景和方案,查看为什么适合或暂时不适合。建议来自公开的任务约束,不是自动采购建议。

INTERACTIVE LAB / 13

资料已完整提供,目标是统一语气,先验证内容不被改错。

你的判断
先作出判断,再查看依据。
05

KNOW THE LIMITS

哪些结论不能直接推出?

微调不能保证记住全部事实

参数中的知识难以逐条更新和追溯;最新制度仍需要可靠资料来源。

只比较单次调用价格

数据标注、工程维护、失败重试与人工复核也是成本。

06

READ, RUN & EXPLAIN

写一个透明的方案起点规则

以下示例仅使用 Python 3 标准库,可复制到本地 Python 环境运行。先看每一行的作用,再修改一个输入观察结果;无需网络或密钥。

Python 3 · 完整示例下载 .py
needs_fresh_docs = True
behavior_gap = False
has_clean_examples = False
if needs_fresh_docs:
    choice = '优先试验检索增强'
elif behavior_gap and has_clean_examples:
    choice = '比较提示基线与微调'
else:
    choice = '先做规则或现成模型基线'
print(choice)

复制或下载只获取本课示例,不会自动执行。

逐行解释(10 行)
  1. 第 1 行needs_fresh_docs = True

    记录任务是否依赖经常更新的资料。

  2. 第 2 行behavior_gap = False

    记录提示基线是否已证明存在稳定的行为缺口。

  3. 第 3 行has_clean_examples = False

    记录是否有经过核对的训练与独立测试样例。

  4. 第 4 行if needs_fresh_docs:

    先检查知识更新需求。

  5. 第 5 行 choice = '优先试验检索增强'

    以资料检索作为起点,不宣称必然最好。

  6. 第 6 行elif behavior_gap and has_clean_examples:

    只有行为缺口明确且数据可靠时,才进入微调比较。

  7. 第 7 行 choice = '比较提示基线与微调'

    保留对照组,验证是否值得训练。

  8. 第 8 行else:

    其他情况先用更简单的方法验证。

  9. 第 9 行 choice = '先做规则或现成模型基线'

    控制前期复杂度。

  10. 第 10 行print(choice)

    输出规则建议。真实选型还需安全、成本和效果验证。

预期输出
优先试验检索增强
07

CHECK YOUR UNDERSTANDING

换一个角度,检查自己是否理解

已回答 0 / 3 题 · 当前答对 0 题

1. 制度频繁更新时,优先定位什么?
2. 微调主要改变什么?
3. 训练样例上表现好能否说明可上线?
08

TAKE IT WITH YOU

带走三个判断,再做一次迁移练习

  • 按知识、行为与能力缺口分析需求。
  • 先做基线,再比较检索或微调。
  • 收益、风险和完整维护成本共同决定选择。
延伸:迁移学习与微调
参考与延伸阅读

本课例子、代码和模拟数据为教学设计。以下一手文档用于延伸核对,不代表对本示例的认证。