第 21 / 26 个单元专业连接与负责创造区
第 20 章 AI 与专业的接口,藏在真实任务里
核心问题AI进入专业任务时,哪一步适合导航,哪一步必须由专业人员判断?
实验室里,一台教学设备的指示灯突然闪烁。新人翻开几百页的设备手册,不知道该从哪里找起。他把现象告诉AI,AI很快给出一句话:“可能是温度报警,建议立即断电检查。”
这句话听起来像在解决问题,却把三项完全不同的任务揉在了一起:找到相关资料、判断故障原因、决定怎样操作设备。
下面仍以“设备手册导航”作低风险教学示例。它不替代真实设备的操作规程、安全检查或专业判断。
专业接口先从一个窄任务开始
对这个场景,AI比较合适的第一项任务很窄,只负责资料导航:
根据获准使用的手册、设备型号和现象描述,找出可能相关的章节,保留页码和原文位置,供有资格的人继续检查。
这项任务的输出是候选入口,不是故障结论,更不是控制指令。它能减少翻找成本,而且人可以回到手册核对。若找错了页,通常也容易发现和回退。
下一层任务是诊断。诊断可能需要闪烁频率、运行模式、环境条件、日志、测量和此前操作。手册里同一种灯光在不同状态下可能有不同含义,缺少现场信息时,模型给出的确定答案只是猜测被写得很完整。
再下一层是控制:是否断电、复位、拆机或继续运行。它会直接改变现实,必须服从设备规程、权限安排和安全程序。能够生成建议,不等于获得了执行权。
一个简单的专业任务,由此分成三道门:
- 导航:去哪里找证据;
- 判断:现象更可能意味着什么;
- 行动:谁可以在什么条件下改变现实。
三道门需要的证据和责任不同。AI在第一道门表现不错,不能自动获得后两道门的通行证。
判断接口是否合适,看四个量
把专业任务交给AI之前,可以先看四件事。
第一是输出去向。结果只供个人查找,还是会进入课堂评价、设备控制、健康判断或公共决定?离现实行动越近,要求越高。
第二是错误代价。找错一页通常可以重新搜索;错误停机可能损坏实验安排;错误的健康或安全建议可能影响人身权益。不能只看平均表现,还要看最坏情况下谁受影响。
第三是可发现与可恢复性。错误是否很快暴露?能否撤回?有没有日志、人工复核和替代流程?一个错误容易发现、容易回退的内部候选,比一个悄悄写入正式记录的自动结论更适合先试。
第四是专业证据。谁知道什么证据才合格?判断阈值来自标准、测量、实验、案例,还是经验?模型输出如果不能回到这些材料,就很难进入专业工作。
这四个量不是计算公式,却能阻止“能演示”被误当成“能部署”。
先和不用AI的方法比较
有时,手册自带目录、索引或关键词搜索,已经能稳定找到章节。此时加入模型,可能只是把一个确定的检索过程换成不确定的语言过程。
所以每个AI方案都应该有一个基线问题:不用AI,最简单可靠的办法是什么?
如果普通搜索两分钟就能完成,AI至少要在跨语言查询、同义表达或多份资料关联上提供可验证的增益,才值得增加新的复杂度。若它不能稳定保留出处,或者输出反而让人跳过原文,就没有改善这项任务。
“不用AI”不是保守,也不是错过时代。工程判断的目标是解决问题,不是证明某种技术必须出现。
同一套方法怎样进入不同专业
专业接口不是在专业名称后面加一个“AI+”。它藏在具体任务、证据和责任之间。
- 教育中,可以让AI生成练习候选或整理常见误解,但学习目标、评价公平和学生申诉仍由教师与制度负责;
- 艺术中,可以用AI探索构图和风格方向,但素材许可、署名、审美选择和最终表达不能被“生成成功”替代;
- 工程中,可以辅助查规范、比对记录和发现异常候选,但安全阈值、现场确认与控制权限必须保留;
- 管理中,可以汇总公开信息、形成方案对照,但数据来源、受影响群体和最终取舍要能够说明;
- 医疗、法律、财务等高影响领域,可以帮助整理问题和定位材料,却不能把一次对话当作合格的个案决定。
这些例子没有承诺效果。不同专业有不同现行规则,也可能需要资质、伦理审查或机构授权。
给自己的专业任务画一条边界线
从课程、实习或工作中找一个反复出现的小任务,不要先写“我要做一个AI系统”,只写真实动作。例如:“从获准使用的三份设备手册中找到与某种报警现象相关的章节。”
然后补全五项:
- AI产出什么候选;
- 人回到什么原始材料或现实结果核验;
- 哪种错误最需要防;
- 哪一步必须由有资格的人确认;
- 什么条件一出现,项目立即停在纸面。
如果任务说不清,材料无权使用,正确与否无法判断,或者错误会影响健康、安全、评价和权益而又没有合格复核者,那么这个接口尚未成立,开发应当停在纸面。