当前区域 04 / 08人工智能与智能系统区
一个会聊天的 AI,
为什么还需要资料和工具?
核心问题一句候选回答,怎样才可能变成有依据、可执行、能回看的任务结果?
教学构造 · 不对应真实学校、课程或软件
学生帮我整理下周实验课要准备什么。如果日期能够确认,再加入我的日历。
屏幕很快给出一份整齐清单。可是哪门课?“下周”从哪一天算?依据的是课程大纲、老师的新通知,还是一条已经过期的消息?
这份回答看起来已经完成任务,其实只完成了最容易被看见的一段:生成文字。
学生真正需要的是一条更长的链路——先找到获授权、仍然有效的课程资料,整理成可以回查的清单;日期由人确认以后,再让有权限的软件写入日历。
先给它资料,但别把“找到”当成“找对”
模型不能只凭自身保证掌握这门课最新、完整的安排。眼前的清单只能算候选答案。
现在给系统一个受控资料区:课程大纲、实验指导书和最新通知。成绩、同学名单、私人聊天以及未获授权的材料不在范围内。系统先做 ,再把相关段落交给模型组织答案。这类“先检索、再生成”的方法通常称为 。
“给 AI 一个资料柜”是有用的直觉,但文件可能过时,检索可能漏掉关键段落,两份通知也可能互相冲突。RAG 增加了可以回查的外部依据,不提供“答案一定正确”的保证。
系统发现两份通知日期不同,并把冲突停在课程负责人能够确认的地方。它没有猜出答案,却更快暴露了不能继续的原因。
再给它工具,但别把“请求”当成“执行”
清单确认后,学生希望把时间加入日历。这个动作会改变外部系统,光靠一段文字做不到。
在一种常见实现中,模型产生结构化请求;周边应用检查参数与权限,真正调用日历工具,再把执行结果返回。这叫 。
聊天窗口里的“已经添加”,只有得到真实工具回执并被人核对后,才算完成现实动作。参数不清、权限不足或执行失败时,人可以修改、重试或放弃。
任务继续变长,才需要谈 Agent
步骤事先固定的,可以只是工作流。如果系统围绕目标读取状态,让模型在限定范围内选择下一步、调用工具、接收反馈并继续或停止,就接近本书所说的 。
Agent 不是一颗更聪明、更有责任的模型。它是模型、资料、工具、流程、权限、反馈和人共同组成的系统模式。任务越长、权限越大,越需要范围限制、执行记录、失败处理和人工接管。
点击六步,把职责放回链上
职责链 · 第 1 步
说明目标
准备实验课,并在日期确认后加入日历。
当前负责:人这不是所有 AI 系统的唯一架构。有的任务不需要检索,有的只生成内容,有的步骤会并行或往返。
在纸上拆开一次 AI 功能
只标四个位置
挑一个熟悉的 AI 功能,写下模型、资料、工具、人分别在哪里。再补两句话:哪个动作会改变现实?谁确认它真的发生?
不必连接真实账号,也不用先学习向量数据库或 Agent 框架。看清角色,已经是理解 AI 系统的开始。