在过去几年里，麻省理工学院主持的“道德机器”（Moral Machine）研究，调查了公众对人工智能应用程序在不同环境中，应当如何表现的偏好。从数据得出的一个结论是，当自动驾驶汽车遇到生死攸关的情况时，人们认为它应该如何应对，在很大程度上会取决于此人来自何处，以及他对事故所涉及的行人或乘客的了解。

例如，在自驾车版本的经典“有轨电车难题”（trolley problem）中，有些人可能更希望汽车在伤害他人之前，先撞到一个被定罪的杀人犯，或者在撞到小孩之前，先撞到老人。还有一些人可能认为，自驾车应该简单地掷骰子，以避免由数据主导的歧视。

一般来说，此类窘境都是事后留给法庭去审判或警方调查去决断。但就自驾车而言，选择将在几毫秒内完成，意味着几乎没有足够的时间来做出明智的决定。重要的不是我们所知道的，而是汽车所知道的。问题在于应该让自驾车拥有关于周围人的哪些信息，是否应该允许企业提供不同的道德体系，以追求竞争优势？

考虑以下情况：一辆工厂标准与美国汽车不同的中国汽车，被运往美国并在美国使用。这辆中国制造的汽车和一辆美国制造的汽车即将发生不可避免的碰撞。如果中国汽车司机的道德偏好与美国汽车司机不同，应该以哪个系统为准？

除了基于文化的道德偏好差异外，还必须考虑各国在数据监管方面的差异。例如，中国制造的汽车可能可以获取社会评分数据，从而使其决策演算法（decision-making algorithm）能够纳入美国汽车制造商所无法获取的额外信息。更丰富的数据可以带来更好、更一致的决策，但拥有这一优势是否就该允许一个系统凌驾于另一个系统之上？

显然，在自驾车大规模上路之前，我们必须确定演算法决策的责任所在，无论是市政当局，国家政府还是多边机构。不仅如此，我们还需要新的框架来管理这个商业和国家的交叉领域。问题不仅仅是自驾车在极端情况下会做什么，而是企业在开发和部署决策演算法时，如何与不同的文化互动。

不难想象，所有自驾车制造商都只会宣传把司机的生命置于首位，或允许用户切换自身道德设置的道德系统。为了防止这种“公地悲剧”（tragedy of the commons），必须有让自驾车之间建立通信和协调决策的框架。但是，在不同文化背景下开发此类系统时，政策制定者和企业将须面对关于主权、隐私和个人自主的不同文化观念。

这带来了额外的挑战，因为人工智能系统无法容忍歧义。从头开始设计人工智能应用程序需要非常高的明确性；无论结果是好是坏，这些系统只会根据你的指示行事。这意味着企业、政府和其他供应商在为不同情况编写响应规则时，必须做出明确的抉择。

然而，在此之前，政策制定者须确立演算法问责制的范围，以确定应该把哪些决策（如有的话）留给企业或个人。那些属于国家职权范围的责任，必须经由辩论商讨来决定。鉴于此类伦理和道德问题从来没有简单的答案，因此也不太可能出现共识。除非有一个最终的解决方案，否则我们将须创建一些至少能促进自驾车之间的通信，并裁决演算法争议和道路事故的系统。

鉴于在设计决策演算法时需要明确性，因此有必要设立一个国际机构来制定解决道德和伦理困境的标准。毕竟自驾车只是演算法决策的其中一项应用。展望未来，对于演算法问责标准的管理将横跨多个领域。

最终，我们必须决定的首要问题是，企业是否有权为演算法决策设计另一套道德框架。在我们看来，它们并没有这个权利。

在人工智能时代，全球价值链的某些组成部分最终会实现自动化，届时它们将不再被视为企业追求竞争优势的领域。确定和裁定演算法问责制的过程应该是这样一个领域。无论以什么方式，我们都将做出决定。最好是统一地、尽可能民主地解决这些问题。

作者Mark Esposito是霍特国际商学院和哈佛大学商业与经济学教授，人工智能企业Nexus FrontierTech联合创始人，迪拜穆罕默德·本·拉希德政府学院研究员，剑桥大学贾奇商学院研究员；谢慈铭是欧洲高等商学院伦敦分校教授，Nexus FrontierTech联合创始人；Joshua Entsminger是Nexus FrontierTech研究员，法国国立路桥大学商学院政策与竞争力研究中心高级研究员；Aurelie Jean是计算科学家，In Silico Veritas药业公司创始人，波士顿咨询集团顾问，法国教育部外部协作员。

英文原题：Who Should Decide How Algorithms Decide?

版权所有：Project Syndicate, 2019.