第 18 / 26 个单元工程行动与人机协作区
第 17 章 项目流程中谁在做什么
核心问题人、模型和普通工具怎样在流程中交接,失败以后怎样回去?
C16把“相关与因果”十节点地图缩成一页概念导航。准备进入内部试用时,一句“把材料交给AI整理后发布”看似完成了分工,却省略了关键交接:谁确认C14证据卡可以使用,候选关系怎样回到原文,谁批准发布,出错后怎样撤回。
流程的价值不在于画出更多箭头,而在于让每次交接都有输入、责任、通过条件和失败去向。
一条流程至少要能说明为什么继续
概念导航可以组织为:
登记获授权的材料、C14证据卡和版本
→ 来源、权限、日期齐全才继续
AI根据证据卡生成候选概念、关系与摘要
→ 关键说法能回到原文才继续
人逐条复核关系并完成“相关不能直接写成因果”的查找测试
→ 指定责任人批准当前版本
普通工具生成并展示页面
→ 在限定范围内试用
出现错误 → 撤下或回到上一版本
通过条件把判断写进流程。若“AI整理完成”就是唯一条件,系统无法区分流畅输出和可用内容。
流程也不一定直线运行。资料冲突时返回来源检查,测试失败时回到内容修订,用户提出范围外问题时转向人工或停止。
人、模型和普通工具擅长不同任务
人负责设定目标、确认授权、解释专业含义、处理例外和承担发布决定。模型适合生成候选表达、提取可能关系、比较文本和提出遗漏。普通软件适合保存文件、比较版本、执行确定规则和展示已批准内容。
这是职责分配,不是能力排名。规则固定、输入清楚的重复任务,普通程序通常更稳定;开放表达和候选整理,模型可以提高速度;涉及目的、权利和真实后果,人必须能够干预。
把确定任务交给语言模型,可能增加不必要的不确定性。例如检查每张概念卡是否包含来源字段,用普通规则即可;让模型判断会增加成本和误差。
权限应跟随动作,而不是跟随“智能程度”
模型提出工具调用意图,不表示工具已经执行。应用要验证参数、身份和权限,再调用外部系统并返回结果。
只读检索与修改日历、发送邮件、发布页面的风险不同。权限应按最小任务授予:只允许读取指定资料,只允许写入当前日历事项,禁止访问无关账户。高影响动作设置人工确认。
Agent模式允许系统根据状态选择下一步,因而需要更清楚的工具白名单、步数限制、费用限制、停止条件和人工接管。名称不会把责任转给模型。
版本和记录提供回去的路
第二版出现错误时,团队要知道材料、提示、模型、代码和人工修改发生了什么变化。对小型原型,最小记录可以包含资料版本、候选输出、人工决定、测试结果和修改原因。
记录不是越多越安全。完整保存用户输入可能增加隐私风险,应只保留追溯和恢复需要的内容,限制访问与期限。
版本标识要对应可恢复产物。只有版本名称而没有实际副本,无法回退;只有文件副本而没有修改说明,难以定位问题。
失败路径应在发布以前设计
常见失败包括:资料缺失、模型输出越界、工具权限失效、页面发布错误、用户误解用途。每类失败需要不同处理。
可恢复错误可以重试或回到上一版;无法判断或影响权益的错误要停止并转交责任人。公开系统还需要联系入口和撤下机制。
自动重试有边界。读取超时可以有限重试,发送消息或付款等可能产生重复动作的操作则要先确认状态,避免再次执行。
一处交接足以开始流程审查
团队不必先画完整架构。挑最容易出错的一次交接,例如“模型候选交给内容审核”,写清:输入包含哪些资料,谁审核,输出是什么,怎样通过,失败回到哪里。
若交接没有授权依据、检查者或撤回办法,保持人工处理比追求自动化更可靠。流程成熟以后,再选择哪些步骤值得自动化。
项目走到真实人员试用时,流程会遇到新的需求:参与者能否理解边界、拒绝数据提供和退出。C21将专门处理受控试用;在此之前,C18先回到每个读者都能使用的个人学习系统。