人工智能费用上涨,促使新加坡公司追求投资回报率而非“代币最大化”
企业在为工作负载匹配模型方面正变得更为谨慎
本文由 AI 翻译,关键事实请以原文为准。
【新加坡】随着人工智能开支的不断上涨,促使新加坡公司要求更明确的投资回报率 (ROI),它们正超越人工智能的实验阶段,在如何部署该技术方面变得日益谨慎。
尽管使用人工智能模型的成本有所下降,但随着企业更广泛地应用该技术,总体人工智能费用仍在持续飙升。
咨询公司 Bain & Co 估计,在2024年至2025年间,代币的价格已减半。
然而,作为大型语言模型处理信息的单位,代币的消耗量在同期激增了4.5倍,从而推高了总体支出。
新电信 (Singtel) 集团总裁 Yuen Kuan Moon 在7月初接受媒体采访时表示:“并非所有事情都需要使用最新的前沿模型,让你的代币使用量达到最大化。”
尽管新加坡在工作场景中整合人工智能的程度不高,但采用率仍然很高,这一转变正是在此背景下发生的。
Google 表示,按人均计算,新加坡是其 Gemini 模型全球采用率最高的市场。此外,新加坡政府投资公司 (GIC) 也指出,新加坡在 Claude 模型的人均使用量上领先全球。
然而,Salesforce 和 YouGov 最近的一项研究发现,在受访的新加坡白领中,仅有6%每天将人工智能作为其工作的核心部分,而全球这一比例为11%。
一些行业观察家将人工智能实施成本的增加归因于“代币最大化”文化,即公司鼓励员工最大限度地使用代币,以充分利用其人工智能模型。
今年早些时候,有报道称 JPMorgan Chase 和 Meta 等公司正在追踪其工程师的人工智能使用情况,此后“代币最大化”一词开始受到关注。
代理式人工智能工作流的兴起进一步推动了代币消耗的增长——在这种工作流中,人工智能代理使用更多代币来检索上下文、读取文件和执行更多工作。
AvePoint 首席执行官 Jiang Tianyi 表示,这家数据保护公司最大的成本压力来自其内部由人工智能加速的开发工作负载。
他告诉《商业时报》:“最重要的是,那些能够无休止地运行,并在执行任务或工作流时与其他人工智能代理交互的代理,如果不加以管理,可能导致成本呈指数级增长。”
选择合适的模型
公司不再为每项任务都使用最强大的人工智能模型,而是在为工作负载匹配模型方面变得更为谨慎。
Bain & Co 的专家合伙人 Mohan Jayaraman 指出,许多公司在早期试点和广泛的员工使用计划中,仍然默认使用保费模型,因为“它们很容易采购”。
他告诉《商业时报》:“成功的商业模式并非处处都使用最佳模型,而是要清楚了解每项任务的成本和价值,并为工作流选择合适的模型。”
他补充说,随着项目进行洗牙并进入更大体量,领先的公司会将其前沿人工智能模型保留用于复杂的推理、高风险的综合分析以及模糊不清的任务。
他表示,另一方面,开源权重模型可用于结构化任务,例如分类、拔牙和总结。
“随着企业继续对其人工智能实施进行洗牙,他们不应将人工智能活动误认为生产力。”
James Wilson, 毕马威新加坡 (KPMG in Singapore) 科技咨询与顾问合伙人
像 Claude 的 Fable 5 和 OpenAI 的 ChatGPT GPT-5.6 Sol 这类前沿人工智能模型的代币成本,要高于规模较小的开源权重模型。
与前沿模型不同,开源权重人工智能模型允许公司在自己的计算基础设施内,根据自身工作负载定制人工智能。
新电信采用混合方法,根据任务的复杂性来选择所需的模型。
新电信集团首席信息官兼集团首席数字官 William Woo 告诉《商业时报》:“我们通过一个智能和动态的选择过程,评估每项任务的需求,并选择最合适的前沿或开源权重模型。”
他补充说,开源权重人工智能模型可以在公司自己的环境中部署和定制,从而对数据和治理有更大的控制权。
他说:“新电信在我们的主权人工智能云 RE:AI 上托管的开源权重人工智能模型上,运行涉及敏感或高度机密信息的任务。”
至于 AvePoint,Jiang 表示,该公司使用人工智能在不同模型之间分配工作负载,从而能够控制所使用代币的类型。
Jayaraman 表示:“最终胜出的公司,不会是那些能接触到最先进模型的公司,而是那些能够为任务选择合适规模的模型、衡量每项任务成本并围绕人工智能重新设计运营模式的公司。”
衡量商业价值,而不仅是成本
随着公司继续为其任务“调整”模型规模,当涉及到将项目从试点进行洗牙到投产阶段时,网络安全和治理等其他因素也被纳入考量。
毕马威新加坡的科技咨询与顾问合伙人 James Wilson 指出:“虽然节省时间通常是启动人工智能试点项目的充分理由,但这很少能决定项目是否会进行洗牙。”
他说,那些从试点阶段进行洗牙的项目,是那些能够在收入增长、成本降低、客户成果改善和风险降低等领域,展示出相对于部署而言可衡量的商业价值的项目。
Jayaraman 表示:“在我们看来,洗牙后的人工智能需要一个三方模型:信息技术部门管理平台,财务部门管理支出和单位经济效益,而业务部门则负责生产力、收入或风险结果。”
新加坡高昂的劳动力成本进一步强化了生产力提升这一概念的价值。
Jayaraman 指出:“新加坡高昂的劳动力成本确实增强了人工智能的价值主张,因为在这里每节省一小时所产生的经济价值,都高于许多工资较低的亚细安市场。”
“我们认为,新加坡公司将首先利用人工智能来提高吞吐量、改善服务水平、缩短周转时间,并将稀缺人才重新部署到更高价值的工作中。”
在新电信内部,该电信公司通过将速度、质量和总体影响与基线进行比较,来衡量人工智能的影响。
此外,该集团还核算了实施人工智能的总成本,包括技术、治理和运营监督。
Woo 表示:“到目前为止,我们还没有中断任何重大的人工智能计划,因为它们都达到了我们的经济预期。”
Wilson 表示,随着企业继续对其人工智能实施进行洗牙,他们不应将人工智能活动误认为生产力。
他补充说:“真正的生产力应该体现在成果上,例如更快的周期、更低的成本、更少的错误、更高的质量、改善的客户体验或增加的收入。”