为应对人工智能(AI)时代的网络威胁,政府在年度关键基础设施防御演习中首次上演“AI攻防战”,不仅模拟AI驱动的大规模网络攻击,更测试由AI代理组成的防守团队。
数码发展及新闻部兼保健卫生部高级政务部长陈杰豪,以及国防部政务部长朱倍庆,星期四(11月19日)视察第五届关键基础设施防御演习(CIDeX),听取汇报并观看新加坡武装部队自主研发的AI防御工具演示。
这场演习由国防数码防卫与情报军部队及新加坡网络安全局联办,今年以“AI时代的网络安全”为主题。演习首次模拟多个AI代理协同发动攻击,以极快速度同时攻击不同领域的模拟系统。
演习也首次测试一支完全由AI代理组成的防守团队。这些AI工具由武装部队网络防御测试与实验中心(简称CyTEC)自主研发,目的是测试AI能否以机器的速度,侦测、调查和应对网络威胁。
AI不到10分钟完成调查报告 人工处理往往须数小时
演习人员分为攻击方和防守方。攻击方由数码与情报部队、网安局、国防科技局、政府科技局、资讯通信媒体发展局和陆路交通管理局的人员组成,向各个模拟系统发动网络攻击。
防守方则负责保护各领域的数码基础设施,并在今年首次加入由AI代理组成的防守队伍。
记者在现场观察到,模拟多个云端平台运作环境的测试区,有近40名人员参与防守;其他领域的测试区则各有近20人。相比之下,负责测试AI自主防守能力的区域,只有两名人员驻守。
现场屏幕显示,AI系统在过去三天的演习中,共针对135起模拟网络安全事件立案,并完成九项调查。从启动调查到生成报告,整个过程不到10分钟。据了解,同样的工作若由人员操作,往往需要数小时。
CyTEC主任沈瑞逢六级军事专才说,既然攻击者能利用AI,防守者同样可以。中心今年为参与防守的人员提供自主研发的AI工具,让他们不仅能利用AI应对攻击,也能与AI协作,结合机器的处理速度与人员的判断力。
她指出,AI防守队伍能自主侦测网络威胁、作出响应,并采取措施遏制攻击。“这有助于我们了解这类AI工具的优劣势,并摸清AI在网络防御领域的极限。”
国防网络指挥部司令蔡格仁准将受访时指出,AI使网络攻击变得更快、规模更大,防守能力也必须跟上。他强调,武装部队将继续与负责关键基础设施的机构及业界伙伴合作,测试和发展AI网络防御能力。
首增航空与医疗测试系统 战备军人参与防守
今年演习也扩大测试范围,在原有的多云端(multi-cloud)、海事、能源、电信、陆路交通和水供六个模拟测试系统之外,首次加入航空和医疗领域,使测试系统总数增至八个。
这些系统模拟关键基础设施的运作环境,让参与者在不影响实际服务的情况下,练习应对针对资讯科技系统,以及控制实体设备和设施的工业控制系统所发动的网络攻击。
数码与情报部队属下行业网络防御团队的战备军人,今年也首次参与演习,带领各领域的防守方执行防御任务,加强武装部队与关键基础设施业者的协作能力。
这场为期四天的演习从星期二至星期五(17日至20日),在新加坡理工大学榜鹅校区举行,共有来自46个机构的250多人参与。
