Anthropic推出Mythos模型,恐作茧自缚
这家人工智能公司在代码开发上或许贪多嚼不烂
本文由 AI 翻译,关键事实请以原文为准。
Anthropic在为其最新的人工智能模型命名为“Mythos”时,或许借鉴了希腊神话,但这家人工智能公司其实更应该学习一下俄罗斯的叙事手法。
具体来说,它应该遵循剧作家Anton Chekhov所确立的“枪支原则”。他写道:“如果一把上了膛的步枪不会被击发,就绝对不要把它放到舞台上。做出自己不打算信守的承诺是错误的。”
多亏了Chekhov,普通的戏剧观众都会预料到,如果一把枪在第一幕出现,那么它在第二幕就必定会响起。
Anthropic在4月初发布的Mythos模型,就是其现代版上了膛的枪。这是一个代理模型,它能够发现并利用支撑互联网运行的基石软件中的安全漏洞,从而可能颠覆网络安全的现状。
当我读到这则新闻时,我立刻想到:“哦,不妙。那是一把上了膛、随时可能走火的枪。”
在一系列连ChatGPT 2.0都能预料到的事件中,这把枪很快就响了。上周,Bloomberg报道称,尽管Anthropic努力将Mythos的使用权限限制在少数几家公司,但未经授权的用户已经获得了对该模型的访问权限。
Anthropic正在对此事进行调查,并表示目前没有证据表明此次访问超出了第三方供应商的环境范围,也没有证据表明其自身的任何系统受到了影响。
既然枪声已响,命运的逆转可能正在下一幕等待着Anthropic。
起初,这家人工智能公司占据了令人羡慕的地位,拥有一个可以挟持所有财力雄厚组织的强大武器。但从长远来看,Anthropic在代码开发上或许是贪多嚼不烂。
即使在泄露事件报道之前,Anthropic就已将自己置于风口浪尖,因为它扮演了决定谁能优先使用Mythos的仲裁者角色,这反过来也意味着,它同时在决定谁将暴露于风险之下。
目前,只有Glasswing计划的成员才能访问该模型,这是一个由Apple和Microsoft等公司组成的独家联盟。
这种做法明确了Anthropic作为地缘政治参与者的角色,它将不得不积极管理全球利益相关者之间的冲突利益——这是一项代价高昂的任务,会与其核心业务产生竞争,或分散其精力。
现在,即使只是存在泄露的可能性,也将使Anthropic作为如此强大武器的保管者是否合格而受到持续的严格审视。如果其最危险资产周边的防线被攻破,该公司一直以来树立的“安全第一”的品牌形象将更难以为继。
如果此次泄露事件的后果未能得到控制,Anthropic将成为问题的根源,而非解决方案。
当Anthropic因向世界挥舞这些自动化攻击工具而承担声誉代价时,其竞争对手却可能在不承担相应指责的情况下坐收渔利。在Mythos发布后,OpenAI已经推出了自己的模型GPT-5.4-Cyber,用于防御性网络安全工作。
Anthropic将其武器命名为“Mythos”(大致可译为“故事”),这本身就带有些许不祥的预兆,因为该公司现在正面临违背Chekhov关于“必须信守承诺”这一叙事核心原则的风险。
Anthropic做出了它显然意图遵守的安全承诺,但舞台上那把枪不可抗拒的吸引力,可能会将叙事的主导权从其手中夺走。
枪既已出现,就必将打响——而Anthropic可能会发现自己正处在枪口之下。
TRENDING NOW
South-east Asia has lost Nvidia’s best salesman
Demand, tech capabilities position Apac and AI as Skyscanner’s next growth frontiers: CEO Bryan Batista
Peter Kwee’s Ridley Park bungalow on the market with S$100 million asking price
Beyond the greenback, Vietnam’s big borrowers turn to Asian-currency bonds