Full text · 原文
2,850 字
智东西<br>
作者 | 程茜<br>
编辑 | 云鹏<br>
智东西6月14日报道，今日凌晨，据多家外媒爆料，Anthropic宣布终止访问Fable 5和Mythos 5模型的导火索，可能是亚马逊CEO是安迪·贾西（Andy Jassy）。<br>
《华尔街日报》报道，亚马逊研究人员利用Anthropic的Claude Fable 5进行研究时，获取到了可用于网络攻击的信息。随后，美国政府对Fable 5和Mythos 5实施了出口管制禁令。<br>
特朗普前AI专员、现任总统科学技术顾问委员会联合主席大卫·萨克斯（David Sacks）在社交平台X上发帖爆料了美国政府封禁的一些细节，他提到美国政府在发现安全漏洞时要求Anthropic进行修复否则就下架该模型，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）拒绝修复，并在后续官宣中声称该漏洞不严重，其它公司的模型也有。<br>
萨克斯认为，这种淡化风险的表述，与Anthropic标榜自身是AI安全企业的品牌定位自相矛盾。他还透露，美国政府希望Anthropic能尽快解决安全问题以解除出口管制，并重新发布Fable 5模型。<br>
为了弥补用户权益，Anthropic提供了退款通道，有网友发布了收到的Claude退款邮件。邮件中提到，Anthropic已关闭Claude Fable 5模型的使用权限；Opus、Sonnet、Haiku其余全系模型均可正常使用；已重置用户的用量额度。<br>
如果用户认为此次调整不符合用户需求，其可以选择取消订阅，并自动获得按剩余时长折算的退款。退款时间截止到当地时间6月20日。此次退款不支持在Claude移动端App操作。<br>
▲网友收到的退款邮件（图源：X）<br>
一、Claude开启退款，网友：无法回头了<br>
有不少网友提到，Anthropic为封禁Fable 5仓促上架的退款处理方案有很多bug。其中一位网友称，Anthropic直接关停了用户的全部订阅服务，他此前5倍时长有效期到6月19日的订阅权益都没了，很离谱。<br>
还有网友直接断言Claude已经被淘汰、无法回头了。<br>
有网友分析，Anthropic此次的退款操作也证明，Fable 5不会很快回来，<br>
有网友称要取消订阅，然后等待ChatGPT的新型号。<br>
二、美国政府称Anthropic避重就轻，弱化新模型安全漏洞<br>
亚马逊发言人告诉The Information，作为服务大量私营和公共部门客户的领先云服务提供商，美国政府就潜在安全风险寻求亚马逊的意见并不罕见。即便开展相关沟通，我们也不会透露洽谈的具体内容。<br>
发言人还透露，亚马逊云科技也受到了Anthropic封禁模型的影响。6月13日早上，亚马逊云科技就撤销了所有地区对Fable 5和Mythos 5的访问权限。<br>
The Information援引知情人士说法，在与贾西及其他科技企业负责人会谈结束后，美国国家网络事务总监肖恩·凯恩斯克罗斯（Sean Cairncross）于周五召集美国政府高层官员开会，会上敲定，出口管制是针对Anthropic采取举措最直接的手段。<br>
这场会议结束后，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）与美国政府官员进行了通话。会谈中，Anthropic方面解释称，此次所谓越狱漏洞暴露出的安全隐患门槛并不算高，其他大模型也存在出现同类问题的可能性。但美国政府告知Anthropic，实施出口管制的决议已经敲定。<br>
特朗普前AI专员、现任总统科学技术顾问委员会联合主席大卫·萨克斯（David Sacks）在社交平台X上发帖爆料了一些细节。<br>
他称一位同时深受Anthropic与美国政府高度信赖的可靠合作方，主动爆出了一项模型越狱漏洞。并且美国政府要求阿莫代伊修复这个越狱漏洞，否则就下架该模型时，阿莫代伊拒绝修复漏洞。<br>
萨克斯还提到，Anthropic在官方博客中声称该越狱漏洞并不严重。但那位可靠合作方与美国政府均不认同这一说法，这种淡化风险的表述，也与Anthropic标榜自身是AI安全企业的品牌定位自相矛盾。目前，美国政府希望Anthropic能尽快解决安全问题以解除出口管制，并重新发布Fable 5模型。<br>
此外，Anthropic在宣布封禁模型的博客中还提到，其他公开模型也出现了类似漏洞。不过，一位接近美国政府的官员告诉The Information，美国政府不太可能将Anthropic先进模型的出口限制扩展到其他AI公司。<br>
亚马逊是Anthropic的主要投资方。亚马逊今年4月曾公开提到，自2023年以来，其已经向Anthropic投资了130亿美元（约合人民币879亿元），未来还计划再投资200亿美元（约合人民币1353亿元）。亚马逊的Trainium芯片帮助训练和驱动Anthropic的大模型，这些模型也运行在亚马逊云服务上。<br>
值得一提的是，今年亚马逊也大手笔入股了Anthropic的主要竞争对手OpenAI，承诺最高向其投入500亿美元，并且首次将OpenAI最新模型接入亚马逊云科技对外销售。<br>
美国政府此次封禁Anthropic模型还有一大背景是，美国政府两周前签发了一项行政令，推出一套自愿合规机制：AI企业在面向合作方、公众发布模型之前，可先行向政府提交模型以供核验。这是因为美国政府内部曾就是否针对计划推出高端大模型的AI企业设立一套门槛更高、审核更严苛的许可制度展开争论，这份行政令便是这场博弈后的产物。<br>
结语：Anthropic最强模型被关停，行业安全门槛被迫抬升？<br>
6月10日，Anthropic正式发布Claude Fable 5和Mythos 5两大模型，其同属Mythos（神话）级，共享同一个底层模型，能力高于Opus级，这也是Anthropic迄今为止能力最强、综合性能最高的大模型级别。<br>
在发布同期，Anthropic特意设计分级开放、内置安全降级路由，本想平衡强能力与风险管控，但仍然没能抵御潜藏的安全漏洞带来的连锁冲击，短短数日就让两款旗舰模型被关停。这或许意味着未来新模型上线前，第三方独立红队深度攻防核验相关的安全测试或将成为硬性门槛。<br>
“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。<br>
Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”