调控人工智能发展步伐成为可能，新加坡应如何贡献力量？

美国科技领袖们最近呼吁调控前沿技术的发展步伐，这是人工智能治理方面一项真诚且重要的举措。这反映出一种认识，即人工智能公司的安全承诺与其商业动机之间存在严重冲突。

Anthropic的Dario Amodei和OpenAI的Sam Altman已表示支持在公司内部派驻外部审计员，以帮助验证其安全声明。虽然我们希望其他公司也能效仿这一重要举措，但这仍然不足，因为仅靠自我监管无法解决潜在的商业冲突。

在全球范围内协调调控人工智能发展步伐是可能的，但这需要建立互信机制，以使此类协议能够被验证。新加坡在为这些努力做出贡献方面处于独特的地位。

要理解这一机遇，我们必须审视可验证的治理在实践中需要什么。调控前沿发展不一定意味着停止所有训练：更强的验证机制可以通过给予各方更大信心，让他们相信协议得到遵守，从而使更具针对性的限制措施变得可信。

协议可以要求公司在开发或部署能力更强的模型之前，进行特定的安全评估或实施保障措施。在这种情况下，验证工具可以帮助确定所要求的评估是否已经进行，以及服务于用户的模型是否就是经过评估的模型。

此外，当协议规定了模型训练的限制时，能够从外部验证计算基础设施是用于训练新模型还是服务现有模型，将是关键所在。

我们需要开发新的专用软件和数据中心监控工具，以便可靠地检测这种情况的发生。各组织已在积极开展这方面的工作。在新加坡人工智能安全中心 (SASH)，我们对解决余下的技术挑战持审慎乐观态度。

建立全球信任

一个由多个国际组织构成的多元化生态系统，已在为这些监控能力奠定技术基础。

总部位于英国的Amodo Design、瑞典组织Lucid Computing以及以色列加密技术初创公司Attestable都做出了重要贡献。然而，完全在西方司法管辖区内开发的技术工具，单凭其自身可能无法建立国际信心。

增加致力于开发这些技术的亚洲组织的数量，对于扩大技术基础和增强对最终工具的信心都至关重要。

这些工具需要以能赢得国际信任的方式进行开发，才能发挥效用。这可以包括让世界各地的研究人员开发开源工具，以稳健且保护隐私的方式监控数据中心活动。

将这些工具开源可能很重要，因为允许公众监督在历史上是建立信任和发现漏洞的好方法。如果要让公司和政府接受使用这些工具，保护模型权重、客户数据和其他商业敏感信息将至关重要。

对人工智能公司的外部监督将是创建更强行业安全激励机制的关键。

美国的Model Evaluation and Threat Research和新加坡的Neo Research等组织可以提供这方面的帮助，但一个更广泛的国际化第三方人工智能评估机构基础，对于在各国之间建立安全评估的信任，并在人工智能行业发展的同时提供监督能力至关重要。

新加坡：召集者与试验平台

这正是新加坡独特的制度环境和政策生态系统使其能够扮演召集者和试验平台角色的地方。

新加坡可以在支持此类协议方面发挥重要作用。例如，主办开发验证机制的技术专家之间的对话，可以帮助确定不同方愿意接受何种证据。

支持由国际研究人员和本地云服务提供商参与的联合试点项目，将是务实的下一步，这也与新加坡日益发展的人工智能保障生态系统高度契合。

最近一项旨在促进第三方审计的概念验证项目，是朝着这个方向迈出的重要一步。该项目由Google DeepMind、新加坡人工智能安全研究所、以及非营利组织OpenMined和AI Verification and Evaluation Research Institute合作开展。

新加坡企业有望从对人工智能保障和验证日益增长的需求中受益。验证技术存在商业应用，包括创建更能保护隐私的人工智能服务访问方式，以及检查供应商是否使用了他们声称正在使用的模型和保障措施。

例如，一家采用人工智能的银行可能希望确信，处理其请求的模型与通过其安全评估的是同一个版本。

调控人工智能前沿发展的协议仍将为源于人工智能的经济增长留下巨大空间。通过为现有的人工智能系统开发更多应用，并在更广泛的场景中加以应用，可以获得巨大的生产力提升。

我们SASH的团队一直在为这些工具制作原型，并试图激发研究和政策层面对它们的兴趣。

本文作者来自SASH。Zac Richardson是特别项目经理，Miro Plueckebaum是创始人兼董事总经理