自主AI代理：何时该放手让它工作？

更具自主性的代理式电子商务的基础设施已然搭建。人工智能代理可以代表我们购买产品和服务。虽然目前的采用率不高，但正在迅速上升。

当前这股人工智能热潮忽略了一个根本问题：什么时候将工作交给AI代理比交给人类更值得？

设想一个涉及多项采购的场景。一个边执行边支付的AI代理会产生三种成本：

• 推理成本：AI代理进行推理和行动所需的计算资源成本。
• 验证成本：确认结果正确、代理确实按指令执行的成本。
• 结算费用：完成每笔相关支付所需的费用。在这些代理使用的支付渠道上，这笔费用可能只有几分之一美分，虽然微小，但从不为零。

因此，要回答我们的问题，就需要更详细地了解这三种成本是如何产生的。

在诺贝尔奖得主 Daron Acemoglu 和 Pascual Restrepo 提出的基于任务的模型中，一旦机器完成某项任务的成本低于人类，该任务就值得自动化。这通常被认为，随着机器性能的提升，将有越来越多的工作可被自动化。

但这种比较只衡量了执行工作的成本，并未计入验证工作的成本。

我于今年六月在新加坡国立大学（国大）举办的2026年量化金融会议上发表了一篇新的工作论文。该论文指出，一旦代理开始代表我们进行交易，并最终与其他代理互动，验证成本将在很大程度上决定自主AI代理自动化的边界——即在何处开始变得不划算。

麻省理工学院的 Christian Catalini 及其合著者在他们最近的文章中将其称为“验证成本”。

症结在于验证

想象一个AI代理正在为您规划一次复杂的旅行：多趟航班、火车、多家酒店、餐厅，外加签证。

每一项预订本身都可能完全正确，但其中两项（或更多项）仍可能相互冲突：例如，航班降落时间晚于最后一班火车出发时间，或者预订的酒店入住当晚您本应身在别处。

为确保整个行程协调一致，代理不能只孤立地验证每一项预订，而必须验证所有预订能够相互衔接。

而这正是挑战所在。每向一项工作中增加一个新任务，这个新任务都可能与所有已有任务、甚至任意两个任务的组合发生冲突。因此，必须验证的是各个独立任务之间所有可能的互动方式。这些组合的数量会迅速增加，其验证成本亦是如此。

推理成本是按任务数量线性增长的，但 验证成本是按组合数量爆炸性增长的。任务的长度本身并非其验证成本的驱动因素。一个包含许多独立任务的冗长工作，其验证成本依然低廉；而一个任务虽少但彼此高度依赖的较短工作，其验证成本却可能很高。

这就划定了一个狭窄的适用范围，在其中，通过自主AI代理实现自动化才是划算的。太小的任务不值得，因为其价值可能低于完成相关支付的结算成本。

而行动间高度相互依赖的任务也不值得，因为验证它们的成本比请一个有能力的人来完成更高。自主AI代理的优势在于中间地带——一个“黄金区间”。

隐藏的折扣

还有另一个问题，任何为代理式未来做预算的人都应该对此感到担忧。如今的人工智能是以远低于其运营成本的价格出售的：据报道，OpenAI今年的亏损将达到约140亿美元。

由于验证工作本身也是由人工智能完成的，这种折扣使得执行工作和验证工作两者的成本看起来都比实际要低。

如果OpenAI及其竞争对手要成为可持续发展的企业，这种折扣最终必然会消失。一旦取消折扣，自动化的可行范围就会从两端收缩。

今天许多看起来值得自动化的应用，可能只有在这项技术亏本销售时才显得划算。

超越金融服务领域

7月3日，新加坡金融管理局联合多家银行和金融科技公司，发布了一个名为“运行时代理式金融安全保障框架”（Safeguards for Agentic Finance at Runtime，简称SAFR）的框架。

该框架的作用是在AI代理采取行动前，验证并记录其提议的操作，以确保其在代表我们行动时，与我们的意图保持一致。

金融领域是实施此类保障措施的天然起点。但本文所讨论的经济学原理并不仅限于金融服务。

同样的成本上限，也适用于AI代理串联起多项相互依赖的采购并逐一支付的任何场景，正如我们前面提到的旅行规划案例。

这也解释了为何SAFR框架明智地依赖于对AI代理进行明确的授权限制：将任务拆分成小而独立的部分，正是保持验证成本可控的关键。

在向自主AI代理投入真金白银之前，各行各业的公司乃至个人都应该测算一下，在未经补贴的全价之下，这笔投入在经济上是否依然可行。

一项只有在人工智能亏本销售时才能成立的业务，实际上是在悄悄地依赖别人为其买单。

代理经济是真实存在的，也值得去建设。对新加坡而言，其优势将一如既往地在于及早提出尖锐问题：哪些领域应该代理化，以及或许更重要的，哪些领域不应该。

作者是新加坡Lightbulb Capital的创始人，该公司是一家专注于金融服务的创新研究和咨询公司