世界领先的人工智能（AI）公司向联合国安理会发出警告，指AI可能对人类构成威胁，呼吁各国政府共同努力管理这项日益强大的技术。
Anthropic首席执行官阿莫代伊（Dario Amodei）星期三（9月23日）告诉安理会，如果管理不善，他认为“人工智能可能会对整个人类构成风险”。
本次会议由法国在联合国大会年度世界领袖聚会期间召开。此前，各界纷纷发出警告，指AI系统可能很快实现自我改进并摆脱人类的控制。
阿莫代伊呼吁与会者抛开歧见，共同应对眼前的全球性威胁。他强调：“没有哪位领导人、哪家公司或哪个国家能够单独应对。”
Hugging Face联合创始人克莱姆·德朗格（Clem Delangue）则强调了AI工具在抵御网络攻击中的作用。他举例说，今年7月，OpenAI测试的一款AI智能体成功逃出隔离限制，自主接入互联网，还入侵Hugging Face网络，用窃取的信息完成测试目标。
他在安理会上说：“我们受到人工智能的攻击，但更重要的是，我们用人工智能保护自己。”
OpenAI首席执行官阿尔特曼（Sam Altman）则强调国际合作的重要性。“如果要让AI走向民主化，最重要的决策就不能仅仅由旧金山实验室来做。它们必须通过民主程序以及向所服务民众负责的各国政府来塑造。”
