金融机构即便采用第三方开发、运营或提供的人工智能(AI),也须承担主要责任,包括可能对利益相关方造成的影响,以及确保机构遵守相关监管要求。
此外,金融机构应从第三方供应商获得充分保障,评估第三方AI是否适用于预期用途,并在出现实际限制或保障不足时,采取补偿性管控措施。
如果金融机构无法将第三方AI的风险控制在风险承受范围内,就应考虑限制、暂停,或更换第三方AI服务。
新加坡金融管理局在星期三(10月7日)发布的《人工智能风险管理指引》中,明确这一要求。
金管局在文告中指出,这份指引适用于所有金融机构和所有形式的AI技术,旨在支持新加坡金融业负责任地采用人工智能,同时允许金融机构根据自身风险状况调整应对方法。
这份指引从2027年10月7日起生效,并分两个阶段实施。
第一阶段是2027年10月7日起,金融机构须达到指引中第三节和第四节的预期目标,主要包括:明确划分董事会和高级管理层对AI风险监督责任;同时,确保AI风险管理框架涵盖识别、建立,以及评估AI风险重要性的关键系统、政策和程序。
第二阶段,则要求金融机构在2028年10月7日前,达成指引中第五节和第六节的目标。这包括前文提及的第三方AI责任归属,此外还要对AI整个生命周期进行风险管控,比如数据管理、透明度与可解释性、公平性、人工监督、评估与测试、网络安全等;同时还须配备足够的人员能力和技术基础设施。
金管局是在2025年11月,通过公开咨询与意见收集后,制定了这份指引。当局计划在2027年,进一步向金融业者征询关于AI智能体(AI Agent)的补充指导意见。
