以信任将人工智能雄心转化为可持续价值

信任是一种情感，是通过多年来在顺境和逆境中始终如一的行动和表现赢得的。

随着时间的推移，全球增长模式发生变化，东南亚也不例外，这表明效率已不再是唯一关键。如今，信任正日益成为脱颖而出的关键因素。

我们在各大技术浪潮中都见证了这一趋势，而人工智能也已发展到这个阶段。

德勤 (Deloitte) 近期与东南亚各国政府和私营机构的合作表明（其中新加坡是该地区的商业和金融门户），重点已不再是实验，而是如何有效、负责任地扩展人工智能规模，并创造明确的商业价值。

扩展人工智能规模有赖于信任，而信任并不仅仅由技术建立。它建立在专业知识、情境理解和判断力之上——这些仍然是深刻的人类特质。

人工智能或许能生成输出结果、发现模式并加速决策，但最终必须由人来解读这些结果，运用专业判断力，并对随之而来的决策负责。

信任是实现人工智能规模化的关键

过去，对商业组织和政府机构的信任建立在可见的关系、已有的声誉、明确的合同和可预测的政策框架之上。

这些基础依然重要，但对于一个越来越多决策由数据、模型、平台、代理和自动化工作流程所塑造的经济体而言，这些已然不够，因为很少有人能完全看到或理解这些流程。

根据德勤的经验，那些在扩展人工智能规模方面举步维艰的组织通常面临同样挑战：

SEE ALSO

The Business Times at 50: Chronicler, convener and partner in Singapore’s economic transformation

BT50 interactive: 50 years of headlines from a nation transformed

Reporting from the front row on Singapore’s success story

How BT has built a legacy of partnerships recognising success in Singapore’s business scene

Trust is the real AI advantage

Outfoxing artificial intelligence: The great human-AI face-off

Why Singapore’s AI moment needs more than technology

AI is about to get a body. How can we be ready?

The Business Times at 50: Unpack Asia, think global

More

• 用户不完全信任其输出结果；
• 客户质疑决策的制定过程；
• 监管机构要求更高的透明度；以及
• 领导者因无法清楚解释结果的由来而犹豫不决。

没有信任，即使是最尖端的人工智能也只能停留在试点模式。

建立信任始于明确性。组织需要在人与机器的决策之间划定清晰的界限。他们需要提高建议生成过程的透明度、建立健全的审计追踪，并在风险增加时设立人工监督机制。

当前的人工智能模型极其复杂，人们往往无法理解其输出结果背后的每一项计算。因此，我们需要的是一种严谨的方法来测试、验证和判断人工智能在哪些方面可以信赖，其局限性何在，以及哪些决策必须完全由人类做出。

随着人工智能融入业务流程，评判组织的标准将不再仅仅是人工智能是否有效，而是它是否能持续、经济、公平地运作，并且在受到质疑时能够给出合理解释。

人工智能系统的有效性取决于其所依赖的数据。因此，可靠的知识来源、强大的数据治理和严谨的信息管理已成为战略资产，而不仅仅是技术层面的考量。

同时，尽管组织不愿等待完美的数据，但也不能忽视其局限性。不完整、过时或治理不善的数据可能导致不可靠的输出或“幻觉”。

归根结底，对人工智能的信任并非源于完美的数据或模型，而是源于那些了解其局限性并懂得如何相应运用判断力的人。

治理：创新的加速器

治理常常被视为创新的束缚，但事实恰恰相反。

在整个东南亚，信任一直是经济发展的关键驱动力。

尽管该地区各经济体的发展阶段和监管成熟度各不相同，但那些通过强大机构、明确规则和统一标准建立信心的经济体，通常最能吸引投资、支持创新并维持长期增长。

新加坡作为值得信赖的金融和商业中心的声誉便是一个典型例子。这一声誉的建立，并非无视严格的监督和制度纪律，而恰恰是得益于此。

同样的原则也适用于人工智能。

开放权重和开源模型能够让更多人接触到更广泛生态系统的集体知识。

虽然高度专业化的领域可能需要更专有的方法，但对许多其他组织而言，这种开放性将是实现更快创新、更高适应性和更透明人工智能系统的重要途径。

随着组织部署能力日益强大的人工智能代理，治理框架必须超越传统的技术控制。董事会和高管团队需要清楚了解人工智能的应用领域、受其影响的决策、正在出现的风险以及最终的责任归属。

围绕数据质量、令牌经济学 (tokenomics)、模型性能、网络韧性、第三方依赖和监管合规等问题，不能以隔离的方式来解决。对人工智能的信任最终取决于领导者能否证明这些风险已得到理解、管理并受到适当监督。

因此，治理不能仅仅是技术部门的职责，而必须成为一项涵盖战略、风险、运营、法律、合规和员工转型的企业级纪律。

这一点尤为重要，因为代理式人工智能不仅能将单个任务自动化，它还日益在跨越多个职能和系统的工作流程中运作，影响着审批、客户互动、运营决策和财务流程。

当人工智能深度融入工作方式时，治理便再也不能被当作事后诸葛。

人类判断力愈发关键

过去，组织主要关注与技术故障相关的风险。而对于人工智能，关注点必须扩大，涵盖不正确的推理、偏见、意外行为、对自动化决策的过度依赖以及缺乏透明度等问题。

可靠的性能源于持续的监控、测试和优化。组织不仅需要在理想条件下评估人工智能系统，还需要在混乱的现实世界场景中进行评估。人类反馈循环和持续观察对于长期维持信任至关重要。

从实际应用中得出的最重要教训之一是，自主性并不会削弱人的重要性，反而在许多方面增强了它。人工智能或许可以取代或加速特定任务，但它无法取代人类角色的全部范畴，也无法取代支撑这些角色的判断力和情境理解。

未来将不是人与机器的竞争，而是人与日益强大的数字代理的协作。成功取决于清晰地定义人类判断力的作用，并确保专业知识与自动化同步发展。

虽然人工智能可以加速经验不足员工的贡献，但领导者也必须确保这种速度不会以牺牲基本技能、批判性思维和专业判断力的培养为代价。

此外，还存在自满的风险。当人工智能系统持续表现良好时，人们很容易认为它们永远不会出错。实际上，人类的监督变得更加重要，而不是次要，尤其是在决策后果重大时。

增长的信心

在人工智能时代，信任将不再是增长的回报，而是实现规模化智能的先决条件。

对于商界领袖而言，前方的道路是清晰的。

重点应从孤立的试点和概念验证，转向构建企业级的基础——即可信的数据环境、治理框架、风险管理能力、员工准备度和运营模式——从而使人工智能能够大规模地创造可持续价值。

所有这一切都必须与部署和运行这些系统的“令牌成本”相平衡。

对于政策制定者和监管机构而言，挑战在于平衡创新与保障措施。一个拥有适当防护机制、值得信赖的人工智能生态系统，可以成为一种竞争优势，在吸引投资和加速应用的同时，维持公众信心。

然而，保障措施不应束缚那些使人工智能强大的特质。人工智能的美妙之处部分在于其产生“幻觉”的能力。虽然在要求准确性时这被认为是风险，但同样的倾向也能激发意想不到的想法和可能性——就像梦境对人类思维的作用一样。

这正是人工智能成为一项美妙资产的原因。最终，优势将属于那些能凭藉正确的判断力有效驾驭它的人。随着人工智能塑造未来，他们将成为领导、管理和引导他人的中坚力量。

作者是德勤东南亚区首席执行官