如何核实与校对 AI 生成的回答
AI 的回答常常看似流畅却漏洞百出。这份简单可复用的核查流程，助你在采纳前快速验证关键事实。
AI 回答流畅、结构清晰，而且通常都很准确。但这恰恰让错误回答更具隐蔽性：编造的数据往往看起来和真的一样让人信服。你不需要核实每一句话，但在关键事项上，必须有一套快速、可靠的核查流程。本指南就将为你提供这样一套方法。
为什么 AI 回答会出现错误
- 它只是在预测合理的文本。语言模型生成的是语境上合适的字词；除非借助搜索工具，否则它不会去检索事实。我们的AI 聊天机器人工作原理指南详细解释了这一点。
- 知识库存在截止时间。在训练数据收集完成后，价格、法律法规、任职人员、产品版本以及各类日程都会发生变动。
- 它可能会凭空编造信源。文章标题、作者姓名、页码、链接甚至法律判例，都能被伪造得十分逼真。
- 它往往倾向于迎合你。引导性提问（如“……是不是真的？”）很容易诱导它去附和你已有的看法。
- 它容易混淆概念。比如名字相近的两个人、内容相似的两部法律，或是同一款软件的两个不同版本。
明确哪些内容需要核实
核查投入的精力应当与风险程度挂钩。大致参考如下：
| 风险级别 | 常见场景 | 应对方式 |
|---|---|---|
| 低 | 头脑风暴起名、润色邮件、菜谱灵感 | 自行判断即可；无需严格核查 |
| 中 | 课程论文、工作汇报或博客文章中的事实 | 对引用的每项具体主张，至少找到一个可靠信源进行核实 |
| 高 | 医疗健康、法律事务、财务决策、人身安全以及以你个人名义公开发表的内容 | 务必查证原始一手资料；必要时向具备资质的专业人士咨询 |
具体的主张最需要留心：数字、日期、人名、引言、法条、用药剂量、价格、技术参数以及参考文献。
事实核查五步法
1. 将回答拆解为具体主张
可以让 AI 帮你完成第一步：
把你上一条回答中包含的所有事实陈述列成带编号的清单。 针对每一条，标明你的置信度（高、中或低），并说明需要何种类型的信源才能证实它。
置信度标注本身并不完全可靠，因为模型也可能“自信地犯错”，但这份清单能让你一眼看清具体需要核实什么。
2. 寻找原始信源
针对每一条关键主张，追溯其真实出处。优先查阅一手资料：查询数据去官方统计局，核对法条去政府官方立法网站，确认学术结论去期刊阅读论文原文，了解产品信息去查阅厂商手册或机构官网。转引数据的报刊文章或博客，都属于二手甚至三手信息。
3. 运用横向阅读法
专业事实核查员绝不会仅凭一个网站外观是否规范来下定论。他们会新开浏览器标签页，交叉比对其他可靠信源对该主张及该信源本身的评价。如果多个独立且权威的信源结论一致，信息就足够可靠。
4. 核对引用是否存在且言之有据
如果 AI 给出了参考文献，请在搜索引擎、图书馆目录或学术数据库中检索其准确标题。随后打开原文，确认它是否真的支持该论点。AI 有时会引用一篇真实存在的论文，但论文里根本没有它声称的内容。
5. 检查时效性
这条信息目前依然有效吗？留意信源的发布时间或最后更新时间，核实此后是否出台了新规定、发布了新版本或调整了价格。
能让回答更易核查的提示词技巧
从提问方式入手，防患于未然：
效果较弱： [某药物] 有哪些副作用？
效果更强： [某药物] 常见列出的副作用有哪些？请将已有确凿事实的部分与把握不大的部分分开说明，不确定的地方明确说明不知道。并告诉我应该查阅哪份官方文件（例如药品说明书）进行核对。
还可以补充以下几句实用要求：
- “如果不确定，请直接说明，不要凭空猜测。”
- “仅依据我下方粘贴的文本回答。如果文本中没有提及，请直接告诉我。”
- “对这个结论持不同意见的人会提出什么论点？”
- “这个回答中的哪些部分可能已经过时了？”
让 AI 仅根据你提供的文本作答格外可靠。你可以粘贴文档并针对其提问，或者使用文本摘要工具，随后将生成的结果与原文进行抽查比对。你也可以在对话中使用事实核查提示词来规划你的核查步骤。
AI 回答中的危险信号
- 未注明出处却异常精确的数字，例如精确到小数点后一位的百分比。
- 冠以名人之名、但在其他任何地方都搜不到的名言警句。
- 细节可疑的参考文献：期刊与研究领域风马牛不相及、作者在该领域查无此人、链接根本无法打开等。
- 重新生成一次或追问一句“你确定吗？”，回答就发生彻底反转。
- 涉及法律或医疗的断言，却未说明适用国家、剂量或具体前提条件。
- 陈述近期发生的事件，却完全没有标注具体日期。
追问一句“你确定吗？”确实有助于发现破绽，但绝不能把改口后的回答直接当成正确答案。模型在受到质疑时，有时也会推翻原本正确的结论。务必在对话之外进行查证。
换一个 AI 问问有用吗？
在聊天菜单中切换不同风格的模型，或是使用另一款 AI 产品，通过对比回答确实能发现值得深入核实的分歧。然而，各家 AI 系统的训练数据高度重合，很可能会犯完全相同的错误，因此两款 AI 意见一致并不等同于事实属实。你可以用它们来发现疑点，但不能将它们本身当作核实标准。
学生和研究人员可以在 AI 实用学生指南、科研工作者专享 ChatG 指南以及学习提示词库中获取更多思路。
各类常见信息的核查途径
| 信息类型 | 推荐核实渠道 |
|---|---|
| 统计数据与经济指标 | 国家统计局或发布该数据的国际组织官网，注意核对统计年份 |
| 法律法规 | 所在国家或地区的官方立法网站、政府门户，确认当前条文版本有效 |
| 医疗健康与药品 | 药品包装内的说明书、国家卫生健康部门官网，以及你的主治医生或药剂师 |
| 科学研究 | 论文原文，最好参考后续引用该结论或进行同行评议的研究 |
| 名言引句 | 最初的演讲、采访、原著书籍或音视频记录，而非语录摘抄类网站 |
| 软件与数码产品 | 对应你所使用版本的官方开发文档或厂商官网 |
| 时事新闻 | 对比多家知名主流媒体的报道，留意各自的发布时间 |
常见问题
AI 犯错的频率有多高？
不同模型、不同话题以及不同提问类型的出错概率差异极大，无法给出一个绝对客观的统计数字。通常来说，大众熟知的话题表现相对较好，而在冷门领域、突发事件、精确数据和引文出处上更容易出错。
用 AI 咨询医疗或法律问题安全吗？
可以用它来理解专业名词、梳理咨询问题或了解基础背景知识。但在没有咨询专业人士的情况下，切勿直接依据 AI 的回答来决定治疗方案、用药剂量、诉讼策略或投资理财。遇到紧急情况，请立即拨打当地急救电话。
我应该让 AI 列出参考文献吗？
可以，因为这能为你提供检索线索。但一定要亲自打开每个信源逐一核对，因为 AI 可能会生成根本不存在的文献，或者相关文献根本不支持其给出的论点。
为什么 AI 给出的链接经常打不开？
除非 AI 具备实时联网检索功能，否则它给出的链接与其他文本一样，都是由模型预测生成的。它指向的页面可能已经失效迁移，或者该网址在现实中根本就不存在，只是格式看起来很逼真。建议直接搜索文章标题或机构名称，而不要盲目轻信网址。
核实单个事实最快的方法是什么？
直接在搜索引擎中搜索该具体主张，并在搜索结果的前几项中寻找原始权威信源。如果在几分钟内完全找不到可靠依据，就不要采信该说法。
