11月18日在新加坡管理大学举行的“人工智能与机器人全球大会”将以人工智能道德为主题，邀请国内外顶尖科学家、商业领袖、企业家、开发商、社会学家、哲学家与监管者共同讨论。11月1日前报名的公众可享有折扣。


想像你站在电车轨道的分叉口，一边的轨道上绑着五个人，另一边绑了一个人。这时，电车驶来，眼看就快撞上五人，你是否要拉下手把，把电车转到只绑着一人的分叉轨道上，拯救五条命？


这个古老的道德哲学问题不仅继续困扰人类，人工智能也在努力寻找解答。救五条命是否比救一条命好？袖手旁观是否就没有责任？


下个月将在“人工智能与机器人全球大会”上演讲的新加坡国立大学计算机科学系助理教授苏顺鸿接受《联合早报》访问时说，人工智能的“价值观”是构建人类与机器人互信的一大关键，而这将决定人类赋予机器人自主权的程度。


以上述电车轨道的问题为例，这是工程师编写无人驾驶车编程时必须面对的难题。同时，乘客也必须思考并决定是否要支持机器的判断。


苏顺鸿的主要研究领域是机器人与人类的互动。他说：“如果机器人没有道德框架，我们是否还要信任它，让机器人帮我们做决定？”


在某种程度上，机器人已经在影响人类的决定，无论是购物、保健、学习、投资、工作等，人工智能的触角早已渗入生活的各个方面，但机器人的建议是否与使用者的观点一致？


苏顺鸿指出，在人机互动中，过度信任或不够信任都会造成问题。


如果过度信任，把所有责任都推给机器人，那就可能出现使用辅助自动驾驶功能的司机打瞌睡，结果发生车祸的情况；不信任机器、执意不要机器人帮忙，又可能出现不顾警告擅闯危险地区的问题。


人工智能之所以能做出判断，是因为吸收了大量数据。但苏顺鸿提醒，视数据的质量而定，人类的偏见有时也会渗入系统。例如，不久前就有媒体报道，美国法庭下判时参考的某个未来犯罪风险评估系统对黑人的评估较差。


为了展现偏差数据会如何对人工智能造成极端影响，美国麻省理工学院早前用惊悚图像培养出“心理变态”的机器人，在普通机器人眼里像日常人事物的抽象图案，它却诠释为血腥事件。


苏顺鸿说：“复杂模型是把双刃剑，虽然它们更有能力处理复杂情况，但也会效仿不正确的事。这方面仍有很多工作在进行。”


“人工智能与机器人全球大会”将以人工智能道德为主题，邀请国内外顶尖科学家、商业领袖、企业家、开发商、社会学家、哲学家与监管者共同讨论。


由亚太辅助机器人协会（APARA）及新加坡报业控股旗下的Sphere Exhibits主办的这场大会将于下月18日在新加坡管理大学举行。


11月1日前报名的公众将享有折扣，报名费为80元，原价100元。欲知详情，请上网www.apara.asia/aibotics。