（旧金山综合电）OpenAI宣布，取消原定下个月发布最新人工智能（AI）模型Astra 6.1的计划，原因是内部测试发现新模型仍存有安全隐患。
OpenAI安全系统负责人杰恩（Saachi Jain）周一（9月28日）发布声明阐述，Astra 6.1虽在某些方面较以往模型有所改进，但“在遵守范围及授权限制，以及向用户准确传达它所执行的任务方面，仍未完全达标”。
他说：“我们要确保模型开发是安全的，无论是在公司内部开发，还是向用户交付的过程。但在向用户发布时，我们尤其须对安全和对齐方面制定极其严格的标准。”
近几个月，OpenAI及其主要对手Anthropic开发的模型在测试期间接连发生了“AI 智能体（Agents）失控”入侵外部系统的重大安全事故，加剧了国际社会对AI风险的担忧。这些智能体在未经授权的情况下先后入侵美国多个联邦机构官网、澳大利亚政府的国民医疗数据门户，以及开源 AI 社区 Hugging Face 的生产服务器。
OpenAI向澳洲致歉 承诺资助政企加强网络防御
OpenAI周二就其AI模型擅自访问澳大利亚政府网站一事致歉，承诺为受影响的澳洲政府机构提供专门支持，包括动用它的10亿美元全球基金资助澳洲政府与企业加强网络防御。OpenAI也将在澳洲成立工作组，根据此次事件总结经验，并就应对智能体威胁提出建议。
这起入侵事件今年6月发生，但OpenAI迟至9月才通报，引来澳洲总理阿尔巴尼斯强烈谴责。OpenAI对此承认疏失：“我们本应更好地处理后续回应。我们对此深感抱歉，也会努力在未来做得更好。”
澳洲参议院AI调查委员会先前向OpenAI首席执行官奥尔特曼发出书面传票，要求他出席公开听证会，就AI安全监管等问题接受质询。OpenAI周二证实，首席战略官杰森·权10月6日将前往悉尼出席听证会。
美国佛罗里达州总检察长周一向法院提出申请，要求禁止OpenAI在不受外部监督的情况下开发新的AI模型。这项请求与佛州指控OpenAI伤害未成年人的诉讼有关。
佛州今年6月提起诉讼，指控OpenAI对聊天机器人ChatGPT的安全门槛进行了不实陈述。控方称ChatGPT向校园枪击案行凶者提供信息、就自残行为提供指引，且导致年轻用户上瘾，都对少年儿童造成伤害。
Anthropic在招股书中发警告并详列AI风险
据报道，Anthropic在尚未发布的首次公开募股（IPO）说明书中，向潜在投资者发出警告，称先进AI技术可能对人类构成“灾难或灭绝风险”。这个警告由一家致力于从这项技术获取商业利润的公司发出，堪称非比寻常。
路透社报道，这份说明书以近三分之一的篇幅列举风险因素，包括AI模型可能试图“抵制关机”、“隐瞒或操纵信息”，或展露“类似勒索”等行为。
传白宫召开科企高管AI会议
在美国国会呼吁对AI加强监管之际，特朗普与众议院议长约翰逊周二将召集AI领域的科技企业高管到白宫开会。
美国有线电视新闻网（CNN）报道，出席这场午餐会的有Meta首席执行官扎克伯格、谷歌首席执行官皮查伊，以及OpenAI联合创办人布罗克曼。消息人士向法新社透露，Anthropic首席执行官阿莫代伊、SpaceX创办人马斯克、英伟达首席执行官黄仁勋也将出席。
约翰逊周一受访说，会议将重点探讨如何在创新与某种形式的监管之间找到“恰当的平衡”。他认为美国无须暂停研发AI，也无须仓促实施过度监管，以免在与中国的竞争中落败。
