在此页面上
简短的回答
有用的人工智能交接会为人员提供任务、相关证据、已采取的行动以及未解决的决策。定义何时需要移交，并衡量这些案例是否到达有能力的审核者手中。仅当客户仍能达成正确、及时的解决方案时，减少升级才有帮助。
拿走什么
- 明确未解决的决定。
- 测量错过的切换以及不必要的切换。
- 在解决指标中包括等待和审核时间。
已检查来源 .研究综合和 Rubrex 建议。示例和本地实验均已标记；它们不是客户结果。
为接收者设计
成绩单转储很少是完整的移交。审核者需要知道用户想要什么，哪些事实得到验证，以及是否有任何操作已经改变了系统。我们的建议是创建一个紧凑的移交记录，其中包含授权证据的链接和明确标记的未解决问题。将观察结果与助理的假设分开。如果某项操作可能部分成功，请说明不确定性，以便审核者不会盲目重复。
定义升级边界
常见触发因素包括缺少授权、源材料冲突、重复的工具故障或超出支持范围的请求。为每个类别分配一个所有者，并定义当该所有者不可用时会发生什么情况。 NIST 的自愿风险框架为管理人工智能风险提供了广泛的背景，但它没有规定具体的交接设计。用实际案例测试边界，并验证系统是否可以暂停，而不会假装用户的目标已完成。
衡量决策的双方
标记经过审查的样本是否需要人工参与。然后区分错过的升级和不必要的升级。低升级率可能看起来高效，同时隐藏不受支持的答案。过度的升级率可能会转移而不是减少工作负载。该表提出了与结果质量相匹配的操作措施。包括用户在等待时离开的情况，并记录审阅者是否收到足够的信息以继续而不再次询问相同的问题。
| 公制 | 如何计算或检查 | 它支持的决定 |
|---|---|---|
| 升级召回 | 正确触发所需的切换/所有所需的切换 | 系统是否识别其边界？ |
| 升级精度 | 必要的切换/所有触发的切换 | 审稿人的时间利用得好吗？ |
| 上下文完整性 | 包含必填字段的移交/已审核的移交 | 此人可以继续执行任务吗？ |
| 验证分辨率的时间 | 从最初请求到接受结果的时间 | 整个体验有效吗？ |
让用户体验诚实
告诉用户正在发生什么以及切换将伴随哪些信息。除非存在真正的队列或分配，否则避免说专家正在审查案件。保留一个参考，让用户无需重新启动即可返回，但须遵守应用程序的保留策略。解决后，使用故障类别来改进工作流程和评估集。将机密审阅者注释保留在用户可见的摘要之外，除非有故意的原因和授权共享它们。
证据的局限性
提议的指标需要人工标签，并且可能会因结果缺失或定义不一致而被扭曲。不建议通用升级率；合适的界限取决于任务、审阅者的能力和错误的后果。
常见问题
人工智能是否应该始终向审稿人展示其完整的推理？
提供相关证据、行动和不确定性。简洁的事实总结比未经证实的内部推理叙述更有用。
偏转是一个好的主要指标吗？
将其与经过验证的解决方案和错过升级的措施配对。仅靠更少的交接并不能提供更好的服务。
来源和进一步阅读
本简报背后的主要来源。来源的研究结果适用于其自身的研究条件； arXiv 上的出版物不建立同行评审。
- NIST 人工智能风险管理框架 NIST · 生活参考 · 维护文档已审核： 自愿框架范围和生成式人工智能概况概述.已访问 2026年9月25日.