第 15 / 26 个单元主动学习与知识建构区
第 14 章 让 AI 帮忙找路,让证据决定结论
核心问题一个真实存在的来源,究竟能把眼前这句话支持到什么程度?
课程报告里有一句话:“研究证明,使用生成式AI可以使大学生学习成绩提高30%。”旁边列着作者、期刊和年份,看起来像一条已经完成的学术结论。
核验以后可能出现几种情况:论文根本不存在;论文存在,但研究对象是企业员工;研究测量的是作业完成速度,不是课程成绩;实验只持续两周;“30%”来自某一项局部指标,却被改写成所有学习效果。
参考文献格式可以被生成,证据关系不能靠格式成立。找到文章之后,还要判断来源中的哪一部分,能在什么条件下支持眼前这句话。
先把一句结论拆成能够审查的断言
“AI提高学习效果”过于宽泛。AI指什么工具、怎样使用?学习效果指成绩、理解、速度还是长期保持?对象是哪些学生?比较对象是什么?时间多长?
断言越大,所需证据越强。把它缩小以后,才可能核验。例如:
在某大学一门课程的八周实验中,按指定方式使用生成式AI反馈的学生,在研究者设计的某项测验上,平均得分高于对照组。
这句话仍未必真实,却至少暴露了对象、时间、干预方式、比较和指标。核验者知道要去来源中找什么。
一条可审查的证据链包含四个位置:
断言:希望读者接受的具体说法
↓
来源:论文、标准、官方文件、技术文档或记录
↓
证据位置:真正支持、限制或反驳断言的段落、表格、数据或方法
↓
适用边界:对象、时间、条件、版本、方法和不确定性
来源存在,只解决了第二个位置。很多看似严谨的错误,正是从“论文真实”直接跳到了“结论成立”。
来源是否可靠,要看它适合回答什么问题
来源没有一个脱离任务的永久总分。原始论文适合证明研究者做了什么、报告了什么;它不自动代表学界共识。官方产品文档适合说明指定版本如何配置或使用;它不能独立证明产品优于所有替代方案。企业白皮书可以证明企业怎样描述自己的产品;若用来证明广泛效果,还需要独立证据。
核验标准定义,优先找正式标准或权威教材。核验技术首次公开记录,优先找原始论文、会议记录或官方档案。核验软件当前行为,要查看对应版本的官方文档。核验某项方法是否有效,则要关注研究对象、比较方式、样本、指标、时间和因果强度。
同一来源对不同问题的适配程度不同。某模型厂商的文档可以说明它提供多长上下文窗口,却不能单独证明模型在真实学习中一定更有效。来源等级重要,来源与断言是否匹配更重要。
找到原文以后,要看结论是怎样得到的
研究摘要往往给出最浓缩的结果,无法替代方法和限制。面对“提高30%”这样的效果断言,至少要检查:
研究如何选择参与者,是否存在可比的对照;“使用AI”具体做了什么;“成绩”如何测量;差异是绝对分数、相对比例还是某个子指标;研究持续多久;是否报告不确定性;作者是否说明不能推广到其他课程或人群。
还要区分相关与因果。如果研究只是观察“经常使用AI的学生成绩更高”,可能存在自我选择、先前能力、课程投入等共同因素。把观察相关改写为“AI导致成绩提高”,证据强度已经被扩大。
即使是随机对照实验,也只能支持其设计覆盖的范围。一个课程、一个学期、一种工具和一种任务下的结果,不足以推出“所有大学生使用AI都会受益”。可靠表达常常需要把主语、条件和结论力度缩回证据实际覆盖的位置。
多个网页不一定是多份证据
搜索结果中十篇文章说法相同,可能都转述同一份报告。证据数量不能按网页数量计算,要追踪它们是否拥有独立数据或独立分析。
判断独立性时,可以问:这些文章是否引用同一篇论文?是否使用同一数据集?是否来自同一机构的重复发布?所谓“多项研究”是否只是新闻、博客和厂商材料之间的相互转述?
独立来源并不要求彼此毫无关系,而是不能把同一个证据经过多次复制后,当成多次验证。若两项研究使用不同对象、不同团队和不同方法,却得到相近结果,支持力度才可能增加;若结果冲突,也应保留冲突,而不是让AI按多数表述自动裁决。
AI可以缩短搜索路径,不能替你完成证据裁决
AI适合把一段话拆成待核验断言,生成检索词,识别可能的作者、标准号和DOI,比较两篇材料的研究对象,也可以提醒结论中出现了“所有”“一定”“显著提升”等需要警惕的强词。
它不应成为唯一核验者。模型可能编造题名,错误概括摘要,忽略否定词,也可能把同一来源的多次转述当成相互独立。要求AI“给出引用”只是在生成环节增加格式要求,不表示引用已经被打开和核对。
较可靠的顺序是:先让AI帮助定位候选,再由人或专业检索工具独立找到来源;打开原文,记录精确位置;比较断言与证据范围;据此作出处理决定。关键断言至少应由一个真正接触原始来源的人承担判断。
核验的结果不是“真/假”两个按钮
一条断言核验后,可以有五种处理:
- 保留:来源与证据足以支持当前表述;
- 缩小:只在特定对象、时间或条件下成立;
- 改写:来源支持的是相关、可能性或机构观点,原句写得过强;
- 删除:没有找到足够依据,或来源与断言不匹配;
- 待核验:目前无法取得关键材料,暂不作为确定结论使用。
这五种处理比给整篇回答打一个“可信度分数”更有用,因为它们直接改变后续写作和决策。
一张最小证据记录可以写成:原断言、来源标识、精确位置、支持关系、适用边界、处理决定和核验日期。软件版本、政策和行业状态还应设置复查触发条件。这样,当来源更新或读者提出纠错时,不必重新猜测当初为什么写下这句话。
一张已经完成的证据卡
下面继续使用C13的构造练习。所有编号、人数和结果均为本书虚构,只演示核验过程,不能被引用为真实研究结论。
手机端已转换为卡片,可纵向阅读
| 字段 | 记录 |
|---|---|
| 原断言 | “调查证明,经常使用AI辅助复习会使学生期末成绩平均提高7分。” |
| 候选来源 | 教学构造资料 S-01:《某课程学习方式问卷摘要》 |
| 精确位置 | 方法第2段;表2“自报AI使用频率与期末平均分” |
| 研究设计 | 一次横断面、自报式观察;共240名构造样本;未随机分组 |
| 原始比较 | 自报每周使用AI辅助复习不少于3次的组,平均分比每周不超过1次的组高7分 |
| 来源支持 | 在这个构造样本和分组方式下,两组平均分存在差异 |
| 来源不支持 | AI导致分数提高;对所有学生有效;提高幅度稳定为7分 |
| 其他解释 | 先前成绩、学习投入、自我选择、课程参与度等组间差异 |
| 处理决定 | 从因果主张改写为相关描述,并保留设计限制 |
| 最终文本 | “在这份构造的课程问卷样本中,自报较频繁使用AI辅助复习的学生平均分较高。由于研究是观察性比较,且没有排除先前能力和学习投入等差异,不能据此判断AI导致成绩提高。” |
| 状态 | 教学示例;禁止作为现实证据引用 |
这张卡没有给原句补上更多引用,而是改变了句子本身。数字“7分”仍可出现在对构造样本的准确描述中,却不能继续承担“导致提高”的因果结论。若方法部分连分组和测量都说不清,处理还应进一步降为待核验或删除。
查到资料还涉及上传边界。个人信息、未公开研究、成绩、商业秘密和他人作品,不应为了让AI总结而默认交给外部服务。可以只提供必要片段,改用公开或自造材料,或者在获批准的环境中处理。证据核验不能以失去数据控制为代价。
证据卡填完以后,原来最醒目的那句“提高7分”失去了主角位置。真正决定表述的是研究怎样做、数字怎样来、哪些解释尚未排除。卡片留下了一条缩小后的句子,也留下了几项仍待回答的问题;它没有给整项结论盖一枚“可信”印章。