硅谷领导人告诉我们，第四次工业革命将带来难以言状的好处。他们说，这场革命已经开始，并且在加速前进，其动力来自人工智能和其他技术。他们也警告，我们如果赶不上这股潮流，我们将只能望尘兴叹。
这场剧变是一场通用的革命，它也反映了机器人、生物和纳米技术、5G和物联网（IoT）所带来的影响。其领导人及他们的支持者承诺，它将帮助社会应对气候变化，解决贫困和不平等问题，以及阻止生物多样性的急剧丧失。
这场革命可能会这样展开，但也可能不会。
想想近期的数码革命，它给我们带来了谷歌、面簿和推特，也改变了全世界的信息流动。起初，通过不断增长的虚拟社交网络与他人在线连接，以及无缝创建和共享数字内容的能力，似乎有百利而无一害。
但如今，这些平台带来的大量全球假信息，使得管控冠病疫情和应对气候变化变得更加困难。当人们醒悟过来，思索在发生什么事情时，却为时已晚。现在我们正在应对余波。
社会如何能够最大限度地降低无意、无知或恶意使用下一代技术的风险呢？
我的工作越来越关注两个世界的碰撞。技术圈（technosphere）包括人类所创造的东西，估计相当于30万亿吨，或平均地球表面每平方米50公斤。生物圈是覆盖在地球表面的薄层，也是生命茁壮成长之处，人类在这里享受了1万年相对稳定的气候。
我第一次对这一个关系感兴趣，是在探索半自动化全球疾病控制预警系统成长的时候。这让我深刻体会到技术对人、组织和机器行为的影响。有时这种影响是线性、简单和直接的。但很多时候，技术变革的影响是间接的；它们通过复杂的因果关系网络起作用，在很长一段时间后才被我们看到。社交媒体是一个很好的例子。
技术圈就在我们身边。它正在成为所谓的“认知基础设施”，能够处理信息、推理、记忆、学习、解决问题，有时甚至通过日益自动化和机器学习，能够在最少人工干预的情况下做出决策。
从演化的角度来看，这可能是一个巨大的飞跃。但是关于技术圈的设计和方向的决定，必须反映社会目标和地球的状态。因此，建设一个更可持续的未来，需要我们重新思考一些关于技术，特别是人工智能作用的深刻假设。
最大的当务之急可能是扩大主流“人工智能解决气候变化”的叙事。简而言之，该叙事关注使用人工智能来预测气候，或使用人工智能优化能源系统或交通流。但气候系统与生物圈及其生物多样性、森林、海洋和农业生态系统有着根本性的联系。要想负责任地开发和部署人工智能，以应对紧迫的可持续性挑战，就必须接受与活生生的地球的这种联系，以及我们在其中所起到的作用。
此外，从优化和效率的角度来看待人工智能的贡献，对于增强人类和地球的长期复原力来说是错误的。复原力是从冲击中恢复和适应不断变化条件的能力，需要多样性和冗余性。如果一个城市只有一条高速公路通过，就很容易因为遭受山洪暴发或恐怖袭击而陷入瘫痪。拥有多条出路的城市韧性就更好。
为最大限度地提高产量（比如特定作物的产量）而优化的系统，容易受到冲击和环境变化的影响。利用预测分析和自动化来优化农田，以获得最高产量，是一项诱人的策略，但它可能加速当地生态知识的丧失，扩大现有的不平等，并为了应对商业压力而增加对单一作物的依赖。
人工智能帮助应对气候挑战的潜力，不在于优化系统，而在于提高人们成为生物圈管理者的能力。今天迫切需要这样一个更广泛的观点。但是，在引导智能机器来促进生物圈管理方面，存在两大风险。
第一个是炒作。随着地球和气候系统压力的增加，我们对于人工智能方案帮助“解决”极其复杂的社会、经济和环境挑战的希望也日益提高。鉴于我们对技术演化的了解，我们对人工智能是否真的（以及对谁）提供巨大气候益处的了解有限，现有的评估往往非常乐观。随着人工智能技术逐渐演化和扩散，所有主张都必须经过严格和独立的测试。
第二个风险是加速。人工智能系统以及物联网、5G和机器人等相关技术的部署，很可能导致生物圈复原力的更快丧失，以及支撑这些技术的化石燃料和原材料开采的增加。例如，石油和天然气公司正日益寻求通过数码化来削减成本。据估计，未来五年，化石燃料行业的数码服务市场将增长500%，每年为石油生产商省约1500亿美元。
数码化、自动化和人工智能在提高可持续性和优化开发方面，有尚未利用的潜力。可持续地开展第四次工业革命，我们必须从现在开始更好、更有力地引导其中的技术。
作者Victor Galaz是斯德哥尔摩大学斯德哥尔摩韧性中心副主任、瑞典皇家科学院贝耶尔生态经济学研究所项目主任，即将出版《黑暗机器》（Dark Machines）。
英文原题：Will the Fourth Industrial Revolution Serve Sustainability?
版权所有：Project Syndicate, 2021.
数码化、自动化和人工智能在提高可持续性和优化开发方面，有尚未利用的潜力。可持续地开展第四次工业革命，我们必须从现在开始更好、更有力地引导其中的技术。
