数码发展及新闻部：现有指导方针适用于代理式人工智能风险，政府正在审查安全保障措施
尚无报告显示政府机构系统曾遭受涉及无人监督的人工智能代理的网络攻击。
本文由 AI 翻译，关键事实请以原文为准。
【新加坡】数码发展及新闻部高级政务部长Tan Kiat How表示，代理式人工智能系统正带来新维度的风险，但现有的指导方针和法规依然适用。
周三（10月7日），他在国会回答议员的补充提问时补充道：“我们正在审查如何调整和加强这些框架和体系，以应对代理式系统日益增强的自主性，同时也在密切关注这一新兴领域的国际发展。”
此前，数码发展及新闻部长Josephine Teo在周二晚间，就新加坡数字系统抵御代理式人工智能的能力问题，对口头提问做出了书面答复。Teo曾呼吁采取“基于风险的多层次方法”，以便在管理风险的同时促进创新。
这些问题是在一个OpenAI的人工智能代理入侵澳大利亚的国家医疗保健数据库之后提出的，这是首例已知的由人工智能入侵政府网络的案件。
Teo表示：“（在新加坡，）迄今为止，没有任何机构收到关于其系统遭到涉及无人监督的人工智能代理的网络攻击的报告。”
Tan在周三指出，现有的风险管理流程和监督机制同样适用于代理式人工智能，此外还包括维持人类问责制、设置充分的控制和防护措施等原则。现有法规也涵盖了事件报告框架。
他补充说，在加强数据保护、网络安全和系统韧性方面的长期努力，也有助于保护人工智能代理所交互的系统。
他表示，政府机构正在进行试验，以紧跟技术发展并理解负责任的实施方式。同时，他也敦促私营企业在部署代理式人工智能时，“应采取适当的谨慎措施并承担相应责任”。
他表示，各行业监管机构已在与关键信息基础设施服务的运营商密切合作，评估必要的安全保障措施，无论这些措施是自愿还是强制的。
Tan补充说，政府也欢迎前沿人工智能公司在理解和管理其开发的系统所产生的风险方面，承担更大的责任。
他表示，各行业监管机构已在与关键信息基础设施服务的运营商密切合作，评估必要的安全保障措施，无论这些措施是自愿还是强制的。
Tan补充说，政府也欢迎前沿人工智能公司在理解和管理其开发的系统所产生的风险方面，承担更大的责任。
这可以包括及早识别新兴能力和风险，在这些系统被广泛部署前设置安全保障措施，并尽快纠正问题。
但他补充说，除了前沿人工智能模型带来的风险外，不良行为者也可能利用该技术达到恶意目的。
他表示，与此同时，随着人工智能工具变得越来越普及，员工可能会主动使用它们。他补充说，各组织应鼓励员工高效地使用这些工具，同时引入适当的安全保障措施，并警惕新出现的风险。
他表示：“（责任）在于新加坡和我们的各个组织，特别是那些运营关键信息基础设施的组织，必须采取必要的安全保障措施。”
多管齐下的方法
数码发展及新闻部长Teo在她早前的回应中也指出，新加坡需要针对代理式人工智能采取“基于风险的多层次方法”。
首先，在部署人工智能时，必须根据风险来设定限制，需要考虑所涉数据和系统的敏感性、赋予人工智能系统的自主程度，以及任何潜在危害的严重性和可补救性。
她表示：“潜在危害越大，安全保障措施就应该越强。”
更强的安全保障措施可以包括更严格的风险测试、可独立验证保障措施有效性的证据、更严格的部署控制或更严密的监管监督。
其次，必须加强对意外行为和滥用的防御。这不仅意味着要告诉人工智能代理该做什么，还要刻意限制它们可以访问的内容和执行的操作，进行适当的测试，保留适当的人工监督，监控其行为，并在出现问题时控制后果。
这也意味着要加强网络安全，并有效利用人工智能进行网络防御。
Teo表示，第三，要及早发现风险并做出反应。她补充说，新加坡的人工智能安全研究所正在建立技术能力，以评估先进的人工智能系统，并开发用于测试和保障的实用方法。
她表示，第四，继续与国际和行业伙伴合作。这包括与前沿人工智能开发者接触，在适当情况下获取信息并访问他们的模型。
目前这还不是一项强制要求，因为仅访问模型本身并不能全面反映所有风险。
她表示：“一项硬性规定甚至可能适得其反，因为它可能导致公司限制其合作或信息共享。”她同时指出，更倾向于建立合作关系。
与此同时，新加坡正从更广泛的渠道获取信息，以识别与自身相关的风险，这些渠道包括开发者、其他人工智能安全研究所以及国际合作伙伴。
“通过利用这些不同的信息来源，而不是依赖任何单一的访问或评估形式，我们可以对新出现的风险以及应对这些风险所需的安全保障措施形成更全面的理解。”
Decoding Asia newsletter: your guide to navigating Asia in a new global order. Sign up here to get Decoding Asia newsletter. Delivered to your inbox. Free.
Copyright SPH Media. All rights reserved.
