在此页面上
简短的回答
根据成功完成任务来衡量代理成本,包括重试、工具调用、失败的尝试和所需的审查。在相同的操作限制下比较候选者,并保持可靠性和延迟可见,而不是将每个权衡都归结为一个分数。
拿走什么
- 廉价的尝试可能会变成昂贵的已完成任务。
- 平均值可以隐藏缓慢或代价高昂的故障路径。
- 在同等资源限制下比较候选人。
已检查来源 .研究综合和 Rubrex 建议。示例和本地实验均已标记;它们不是客户结果。
行为和资源使用需要多个指标
2026 年 6 月的预印本提出了基于熵的代理行为描述以及熟悉的结果度量。可靠性研究分别考察一致性和稳健性。这些来源建议关注重复或无效行为,同时让实际成本模型取决于已部署的系统。
定义会计边界
确定该单元是一次尝试、一次用户请求还是一项已完成的业务任务。包括生成、检索、工具、编排、重试以及工作流程所需的任何人工审核。将可计费的提供商费用与内部劳动力估算分开,以便假设仍然可以检查。
不要将无限制重试的候选者与允许一次尝试的基线进行比较,而不披露差异。额外的尝试可能是合理的产品选择,但比较涉及两种运营策略和两种模型。记录超时和并发限制,因为它们会影响成本和完成情况。
报告分布和故障路径
Rubrex 建议显示任务成功情况、中值和尾部延迟、总资源使用情况以及指定策略下每个已完成任务的成本。将失败和放弃的尝试保留在成本分母中。如果没有任务成功,请报告该事实,而不是将未定义的比率显示为零。
按复杂性和工具依赖性对任务进行细分。路由更改可能会将简单的任务转移到更便宜的路径,同时使困难的任务变得更糟,从而降低平均值。检查两个切片和路由错误。有利的总体数字不应消除关键的亚组回归。
说明性算术:较便宜的尝试失败
考虑两个使用抽象成本单位的假设系统。系统 A 每次尝试花费 1 个单位,完成 100 个独立任务中的 50 个。系统 B 每次尝试花费 1.5 个单位,完成 90 次。每个任务尝试一次,A 的每次成功成本为 2 个单位,B 的每次成功成本约为 1.67 个单位。这些发明的数字说明了计算结果,而不是提供商定价或测量的性能。
如果失败需要手动修复、允许重试或成功的任务难度不同,结果会发生变化。在使用比率选择系统之前记录这些政策。
选择一个工作点,而不是万能的赢家
首先设定最低质量和许可要求。在满足这些要求的候选者中,比较预期工作负载下的成本和延迟。当权衡有意义时保留多个工作点。适合快速分类的模型可能不适合长工具工作流程。
- 将失败的运行包含在总资源使用中。
- 记录重试和超时策略。
- 单独的任务类别和路由错误。
- 将单位转换为货币时,重新检查当前的提供商价格。
证据的局限性
该示例使用发明的成本单位,并假设每个独立任务进行一次尝试。它不包括定价声明。对行为指标的研究并不能证明特定的熵度量可以预测应用程序的成本或可靠性。
常见问题
每个代币的成本足够吗?
否。代币价格省略了完成任务所需的代币数量、重试、工具操作和审核步骤。
最快的特工应该总是获胜吗?
仅在满足所需的质量和操作限制后。快速错误完成不会产生有用的吞吐量。
来源和进一步阅读
本简报背后的主要来源。来源的研究结果适用于其自身的研究条件; arXiv 上的出版物不建立同行评审。
- AI 代理行为的基于熵的可观测性 arXiv · 2026 · 预印本已审核: 摘要和出版记录.已访问 2026年9月25日.
- 迈向人工智能代理可靠性科学 arXiv · 2026 · 预印本已审核: 摘要和出版记录.已访问 2026年9月25日.