- 生成能力
- 事实核验
START WITH A QUESTION
回答很完整，为什么还需要核对？
你让助手介绍一份公司的报销制度，它给出条理清楚的金额和审批步骤。可是制度里根本没有其中一个金额。流畅的形式容易让人忽略一个问题：这些具体说法来自哪里？
生成式 AI 根据输入生成文字、图像等内容。语言模型学习的是在上下文中生成词元的规律，词元是处理文字时的基本片段。这种能力不自动提供事实来源；检索资料和验证说法是额外环节。本课从读者角度检查生成结果，内部计算可延伸到深度学习课程。
BUILD YOUR VOCABULARY
先把三个概念讲清楚
生成
基于输入构造新的输出。适合起草、改写、总结和创作，但具体事实、数字和引用需要验证。
把五条要点改写成清晰的通知草稿。
检索
从已有资料中找出相关内容。检索返回的是候选证据，不保证证据最新、完整或有权限使用。
找到报销制度里关于材料要求的条款。
事实核验与幻觉
核验逐条比较说法和证据；幻觉通常指看似可信却缺乏依据或与事实不符的生成内容。没有证据时应保留不确定。
“制度第 3 条规定限额 500 元”需要对应条款支持。
FOLLOW THE PROCESS
把原理放进完整流程
- 01
拆分说法
把长回答拆成可单独验证的数字、条件、日期和结论。
- 02
找到证据
为每个具体说法寻找直接相关且可靠的资料。
- 03
比较含义
检查来源是否真的支持该说法，是否忽略了例外条件。
- 04
修订或保留未知
更正矛盾说法，删去虚构引用，明确哪些内容尚无法核实。
| 回答中的说法 | 资料原文 | 核验结果 |
|---|---|---|
| 需要发票 | 报销须提交发票 | 有直接支持 |
| 限额 500 元 | 资料没有金额条款 | 证据不足 |
| 无需审批 | 提交后由主管审批 | 与资料矛盾 |
CHANGE ONE THING & OBSERVE
为三条说法逐项核验
选择说法，再判断“支持、矛盾或信息不足”。查看原文后比较自己的判断，不把整段回答简单评为全对或全错。
资料原文：报销须提交发票与报销单，提交后由主管审批。待核验说法：报销需要发票。
KNOW THE LIMITS
哪些结论不能直接推出？
有引用就一定可信吗？
引用可能不存在、过期或并不支持紧邻说法。需要核对来源和引用关系。
更低的生成随机性不等于真实
稳定输出可能稳定地重复错误。事实核验不能由生成参数替代。
READ, RUN & EXPLAIN
用人工标注的证据表检查说法
以下示例仅使用 Python 3 标准库，可复制到本地 Python 环境运行。先看每一行的作用，再修改一个输入观察结果；无需网络或密钥。
claims = ['需要发票', '限额500元', '无需审批']
evidence = {'需要发票': '支持', '无需审批': '矛盾'}
for claim in claims:
verdict = evidence.get(claim, '信息不足')
print(claim, verdict)复制或下载只获取本课示例，不会自动执行。
逐行解释（5 行）
- 第 1 行
claims = ['需要发票', '限额500元', '无需审批']列出待检查说法。现实中应拆分复合陈述。
- 第 2 行
evidence = {'需要发票': '支持', '无需审批': '矛盾'}这是人工预先核对的教学证据表，不是自动真值引擎。
- 第 3 行
for claim in claims:逐条遍历待核验说法。
- 第 4 行
verdict = evidence.get(claim, '信息不足')查不到证据时保留信息不足，不能默认正确。
- 第 5 行
print(claim, verdict)分别输出每条说法的状态，便于后续修改。
需要发票 支持 限额500元 信息不足 无需审批 矛盾
CHECK YOUR UNDERSTANDING
换一个角度，检查自己是否理解
已回答 0 / 3 题 · 当前答对 0 题
TAKE IT WITH YOU
带走三个判断，再做一次迁移练习
- 生成流畅性与事实正确性分别检验。
- 具体说法逐项对应证据。
- 支持、矛盾和信息不足是不同结论。
参考与延伸阅读
本课例子、代码和模拟数据为教学设计。以下一手文档用于延伸核对，不代表对本示例的认证。
- Python 官方教程：数据结构列表、集合与队列等示例语法参考。
- scikit-learn：模型评估评估指标与预测、决策的区别。
- IBM：检索增强生成检索与生成组合的进一步说明。
- NIST：AI 风险管理框架可靠性与风险管理的延伸阅读；不是特定项目的合规结论。