人机协作怎么设计：把人放在真正需要判断的位置

01 / 两种常见的极端设计

一种极端是所有 AI 输出都交给人审核，结果员工只是从“自己完成任务”变成“检查机器完成任务”，工作量没有减少，注意力反而更加碎片化。另一种极端是为了追求自动化率，把所有动作都交给系统，直到一次错误造成真实损失。

更合理的人机协作，需要判断哪些环节适合自动执行，哪些环节需要抽样检查，哪些环节必须由人批准。

02 / 用风险和可逆性划分任务

可以把任务放进一个二维矩阵：影响大小和可逆程度。低影响、容易撤销的任务，例如内部分类和格式整理，可以自动完成；影响中等但容易发现的任务，可以自动执行并抽样审计；高影响或难以撤销的任务，例如付款、合同承诺和客户权益变更，应保留人工确认。

模型置信度只能作为辅助信号，不能替代业务风险判断。即使模型非常自信，高风险动作仍需要制度边界。

• 01动作影响哪些客户、资金或合规责任
• 02错误能否及时发现和完整撤销
• 03是否存在清晰的规则与证据
• 04人工接管是否能在时限内完成

03 / 让人工审核有明确任务

“请审核”是一个模糊指令。系统应告诉审核人需要判断什么、哪些证据支持当前建议、与标准规则有什么差异。审核界面只呈现关键变量和异常，不要求人重新阅读全部材料。

同时记录审核人的修改原因。这些原因可以帮助改进规则、补充知识和识别新的异常类型，而不只是留下一个通过或拒绝的结果。

04 / 设计自动升级和安全退出

当信息缺失、工具调用失败、规则冲突或连续重试时，系统要主动停止并升级给人。不能为了完成率，让智能体在不确定状态下继续尝试。人工接管后，还要能够看到此前步骤、输入来源和执行记录。

对关键动作设置限额、冷却时间和紧急停止开关。安全退出不是失败，而是生产系统成熟度的一部分。

好的人机协作，不是隐藏不确定性，而是让不确定性在正确的位置被看见。

05 / 衡量协作质量而非自动化率

真正值得关注的指标包括任务总周期、人工有效判断时间、异常发现率、返工率和最终业务结果。自动化率上升但返工增加，并不代表效率改善。

机器擅长持续执行、搜索和模式匹配，人擅长处理模糊目标、价值冲突和责任判断。把两者放在各自有优势的位置，才会形成可靠而有尊严的未来工作方式。