数码技术改变了我们沟通、通勤、购物、学习和娱乐的方式。很快，人工智能（AI）、大数据和物联网（IoT）等技术就可以改造医疗保健、能源、交通、农业、公共部门、自然环境，甚至我们的大脑和身体。

把科学应用于社会问题，在过去带来了巨大的收益。早在硅芯片发明之前，医疗和科技创新就已经让我们的生活更加舒适，而且让我们的寿命得以延长。但历史上也充满了由科学的力量和改善人类现状的热情所造成的灾难。

例如，在苏联或坦桑尼亚的农业集体化背景下，通过科技增长来提高农业产量的努力适得其反。有时候，通过现代城市规划改造城市的计划，几乎把这些城市都摧毁了。美国政治学家斯科特（James Scott）称这种努力是通过“极端现代主义”的科学实例来改变他人的生活。

极端现代主义有教条式的过度自信，是一种危险的意识形态，它拒绝承认许多人类的实践和行为具有一种固有的逻辑，这种逻辑适用于人类发展中的复杂环境。当极端现代派为了塑造一个更科学、更理性的做法而拒绝这种逻辑时，他们几乎总是失败的。

历史上，极端现代派的计划在一个寻求改造颓废、软弱的社会的独裁国家的手中是最具破坏性的。在苏联集体化的背景下，国家威权主义起源于共产党自封的“领导地位”，并且在没有任何组织能够有效地抵抗或保护被他们压垮的农民的情况下，实行它的计划。

然而，威权主义并不仅仅是国家的专利。威权主义也可以源自于对无止境的先进知识或能力的任何主张。想想那些希望通过数字技术来改善我们的世界的公司、企业家和其他人现在的努力吧。最近的创新极大地提高了制造业的生产力，改善了沟通，丰富了数十亿人的生活。但他们很容易就会陷入极端现代派的彻底失败。

诸如人工智能、大数据和物联网等前沿技术常常被认为是优化工作、娱乐、通信和医疗保健的万能药。我们自命不凡，认为几乎没有什么东西可以向普通人学习，以及他们在不同的社会环境中发展出的适应能力。

无条件地相信“人工智能可以做的更好”会出现问题，比如说，在那些开发人工智能技术的人和那些生活将被人工智能改变的人之间造成力量上的不平衡。后者在如何设计和部署这些应用方面基本上没有发言权。

目前困扰社交媒体的问题是一个很好的例子，说明了在不考虑社会背景和进化后行为的情况下实施统一规则会发生什么。在面簿和推特等平台上，丰富多样的通信模式已经被照本宣科的、标准化的和有限的通信模式所取代。结果，面对面交流的细微差别以及受信任的渠道影响的新闻已被消除。“连接”的努力创造了一种由政治宣传，虚假信息，仇恨言论和欺凌所组成的混乱局面。

但这种典型的极端现代主义道路并不是注定的。与其忽视社会环境，那些开发新技术的人，实际上可以从真实的人的经验和关切中学到一些东西。这些技术本身可以是适应性的，而不是傲慢的，目的是赋予社会力量，而不是压制它。

两种力量很可能推动新技术朝这个方向发展。首先是市场，它可能成为阻碍错误的自上而下计划的障碍。一旦苏联的规划者决定实行集体化农业，乌克兰的村民们几乎无法阻止他们。随之而来的是大规模的饥荒。如今的数字技术却并非如此，数字技术的成功将取决于全球数十亿消费者和数百万企业的决策（中国可能例外）。

即便如此，市场约束的力量不应被夸大。没有谁可以保证市场将选择适合广泛采用的技术，市场也不会将一些新应用的负面影响吸收。面簿在市场环境中存在并收集其25亿活跃用户的信息，这并不意味着我们可以信任它不会滥用这些数据。市场当然不能保证面簿的商业模式和基础技术不会带来不可预见的后果。

要想让市场约束发挥作用，就必须通过第二种更有力的检查来支撑它：民主政治。每个国家都可以在调节经济活动和新技术的使用和传播方面发挥适当的作用。民主政治常常推动这种监管的要求。这也是防止寻租企业试图提高市场份额或利润，而控制国家政策的最好办法。

民主也为传播不同观点和组织抵制昂贵或危险的极端现代派计划的行动提供了最佳机制。通过发声，我们可以减慢甚至防止最有害的监控、追踪和数字操作的应用。一个民主的声音正是乌克兰和坦桑尼亚村民面对集体化计划时被拒绝的。

但是，定期的选举还不足以阻止大型科技公司制造一个极端现代化的噩梦。如果新技术能阻止言论自由和政治妥协，并加深政府或私营部门的权力集中，它们就能挫败民主政治本身的运作，造成恶性循环。如果科技世界选择了极端现代派的道路，它最终可能会破坏我们唯一可靠的抵御他们这种傲慢的防卫：对新技术的开发和部署的民主监督。我们作为消费者、工人和公民都应该更加认识到这种威胁，因为我们是唯一能够阻止这种威胁的人。

作者Daron Acemoglu是麻省理工学院经济学教授，与James Robinson合著有《为什么国家会失败：权力、繁荣与贫穷的起源》（Why Nations Fail: The Origins of Power, Prosperity, and Poverty）和《狭窄的走廊：国家、社会和自由的命运》（The Nar Corridor: States, Societies, and the Fate of Liberty）（2019年9月出版）

英文原题：Big Tech's Harvest of Sor?

版权所有：Project Syndicate, 2019