Full text · 原文
1,576 字
henry 发自 凹非寺<br>
量子位 | 公众号 QbitAI<br>
在Meta，人从来都不是问题（大不了裁了），能让小扎栽跟头的，还得是“AI”。<br>
继上个月龙虾（OpenClaw）删掉安全对齐总监Summer Yue邮箱的事件后，Meta的AI又闯祸了——<br>
这次，一个AI Agent未经授权擅自行动，把敏感的公司和用户数据暴露给了没有权限的员工，近两小时！<br>
Meta内部将这一事件定性为Sev 1级，这是什么概念呢？<br>
历史上，Meta从没对外承认过Sev 0级事件，所以这次几乎等于他们眼中“最严重”的那一档。<br>
这下好了，人类员工你Meta爱搭不理，AI员工直接让你拉响警报。<br>
Agent失控Meta拉响警报<br>
事情是这样的。<br>
一名Meta软件工程师使用内部的agent（类似OpenClaw）分析了另一名员工在内部论坛上发布的技术问题。<br>
分析完成后，这个热心的Agent直接在论坛上回复了原问题，并给出了技术建议，而这一切都未经员工授权。<br>
提问的员工采纳了Agent的技术建议，却没想到直接导致大量公司和用户数据被没有权限的员工访问，数据暴露了近2小时。<br>
△图片由AI生成<br>
虽然据知情人士透露，暂时没有人利用这次访问权限将数据公开，造成大的泄露。<br>
但是！<br>
根据报告，Meta最终还是将该事件定性为Sev 1级，这是公司内部安全事件严重程度体系中的第二高级别。<br>
而就像开头说的，Sev 0，也就是最严重的情况，从来没发生过。<br>
据消息爆料，涉事员工在内部帖子中指出，其他一些未指明的问题也加剧了事件的严重性。<br>
所以，估计这事儿基本上得立项调查了。<br>
不过，好消息是，这个随意回帖，提供建议的Agent并没有伪装成人。<br>
据Meta发言人称，代理发布的帖子底部标明了“AI生成”。<br>
总的来说，这次的agent失控导致数据泄露，虽然时间很长，但好在可追溯，且目前并未其他风险，所以基本上是提前演习了一下企业agent可能遇到的问题。<br>
但这事儿，在Meta已经不是第一次了。<br>
今年二月份，Meta 人工智能部门的安全与协调总监Summer Yue就表示，OpenClaw删光了自己的全部邮件。<br>
而且略显离谱的是，yue曾多次命令龙虾停止操作，但龙虾就是假装听不见，继续执行任务。<br>
由于无法通过在手机上发消息进行干预，yue最终不得不赶紧跑到另一台设备上阻止这一过程。<br>
Summer Yue 形容当时的自己就像在拆炸弹一样。<br>
不少网友也是在评论区表示，在企业环境中部署有操作权限的自动化agent 本身有风险。<br>
而据一些消息显示，部分企业内部也暂时还未开放龙虾这样的agent在公司电脑上部署。<br>
所以说，龙虾虽然可口，但风险还是有的。<br>
4 more things<br>
那么，为啥这种事总发生在Meta身上呢？<br>
虽然听起来有些离谱，但可能最近一周，Meta可能是真的是水逆。<br>
先是去年重金组建的Meta超级智能实验室（MSL） 的模型“牛油果”难产，被爆料性能甚至不如谷歌去年发布的Gemini 3，导致发布又又将延期——<br>
从2025年底，拖到今年一季度，现在表示最快也得5月26号了。<br>
接着是暴力裁员20%（约 1.5 万人），小道消息甚至称离职员工开始“投毒skills”。<br>
昨天，又有消息称收购Manus的进程受阻。<br>
今天更是有媒体报道，Meta花费800亿美元、耗时5年多的元宇宙项目，将在6月关闭，800亿美元泥牛入海。<br>
要不，小扎别裁员了，咱先改个名呗？<br>
参考链接<br>
[1]https://x.com/Jessicalessin/status/2034384626295419267<br>
[2]https://www.theinformation.com/articles/inside-meta-rogue-ai-agent-triggers-security-alert