人工智能以何种方式影响人类社会的发展，已是一项有争议的话题。作为走在新技术发展前沿的领军人物，霍金曾经在2015年8月与美国Reddit网的问答互动中，首次提出人工智能“威胁论”的观点，后又曾多次在世界知名期刊撰文强调类似看法。
2017年4月，霍金通过视频在该全球互联网大会上，做了题为“让人工智能造福人类及其赖以生存的家园”的演讲。他在演讲中指出，人工智能既有可能是人类文明史上最大的事件，也可能是人类文明史的终结。
2017年10月19日，美国自然杂志（nature）发表了谷歌旗下DeepMind David Silver及其团队的最新研究成果《无需人类知识掌握围棋》（Mastering the game of Go without human knowledge），展示了更强大的新版本围棋程序阿尔法元（AlphaGo Zero）。
该文指出，阿尔法围棋（AlphaGo）团队新研发的阿尔法元通过完全自学，打败了之前战胜人类围棋冠军的阿尔法围棋。这一研究成果表明，人工智能已经不再受限于人类固有的经验与认知，而进入了开始自我探索、自我发现新知识的“机器智能”时代。
“机器智能”时代的主要发展趋势，是人工智能可以代替人工制造出更加智能的机器。这无疑将会引起“机器智能”的爆炸性发展。
虽然，“机器智能”时代可以为更多的人创造一个奢侈的休闲社会，但是，人工智能的发展也可能给所有人带来一个致命痛苦，把世界带到一个无底的深渊，对国际人权事业的发展造成极大的威胁。
1956年，从人工智能概念产生之时起，人工智能的发展与国际人权保护之间一直处于博弈状态。以国际人权保护的视角审视人工智能，人工智能的发展体现了“双刃剑”的哲学，它在带动人类社会发展，推动国际人权事业进步的同时，也给世界人权事业的发展带来了极大的威胁。
假如人工智能大量被用于制造杀伤性武器，各国将掀起人工智能武器竞赛，世界原有的和平将不复存在，人类文明也将终结。
1948年《世界人权宣言》通过以来，国际社会开始不断探索与阐释科技与国际人权法保护的框架与范畴。1975年，联合国大会通过的《利用科学和技术以促进和平并造福人类宣言》，明确要求所有国家应采取必要措施，确保利用科学技术来促进人权和基本自由的最充分实现。
1983年至1986年，联合国人权委员会连续通过三个决议，就该宣言所确立的原则，要求所有成员国共同寻求最有效的途径和方法，防止科技发展损害人权和基本自由。
从法律效力上，联合国通过的《利用科学和技术以促进和平并造福人类宣言》及其决议，只具有国际软法的性质，不具有普遍的国际约束力；联合国亟需制定控制人工智能武器发展的国际条约。
在联合国1981年签署《特定常规武器公约》中，仅对于禁用武器的标准做了两种特征规定：一是武器本身过度不人道，比如激光致盲武器等；二是武器本身具有滥杀滥伤作用，比如战时大量布置地雷，将会给战后平民带来反复的生存威胁。人工智能武器所具有的巨大杀伤力，以及对人类伦理的极大挑战，应该包含在《特定常规武器公约》的禁止使用武器目录中。
科学家是人工智能武器的开发者，政治家是人工智能武器的推动者与决策者，二者在防止人工智能武器发展上具有不可推卸的责任。为防止人工智能武器发展给人类社会造成的致命威胁，国际社会应该就人工智能武器发展中的人权保护制定统一的标准，在国际人权法的框架下，合理开发使用人工智能。
作者是中国社会科学院研究生院法学系博士生
