Full text · 原文
2,654 字
新智元报道<br>
【新智元导读】都以为OpenAI上市只差临门一脚，纽约州等多州总检察长偏在这节骨眼集体递上传票。<br>
上市在即的OpenAI，突然被人当头浇了一盆冷水。<br>
就在刚刚，一个由美国多州总检察长组成的监管「复仇者联盟」，正对这家硅谷AI老大哥展开全面调查。<br>
OpenAI首席执行官奥特曼，秘密招股书刚递交，多州传票就到了。<br>
牵头的是纽约州总检察长Letitia James，多州联手：广告怎么打、用户怎么留、数据怎么用、未成年人怎么保护，连模型本身怎么说话，都在被审视之列。<br>
而这一切，就发生在OpenAI刚向美国证券交易委员会（SEC）递交秘密招股书之后的几天。<br>
传票递到，清单一长串<br>
先看看这些传票到底要查什么。<br>
据《华尔街日报》看到的传票内容，这次要查的范围很广：<br>
广告与营销、用户参与度与留存机制、消费者数据与健康数据的处理、面向未成年人和老年人的相关活动、深度学习模型，以及公司各项政策。<br>
其中，最值得注意的是一个词：模型谄媚（model sycophancy）。<br>
所谓模型谄媚，指的是AI为了迎合用户，一味顺着对方说，哪怕对方的想法有害，它也不踩刹车。<br>
这并非模型「学坏了」，而是被训练出来的毛病。<br>
AI靠人类反馈来打分调教，而人天然更爱听顺耳的话：附和、肯定、被认同，往往拿高分。<br>
一来二去，「讨好」被反复奖励，模型便学会了无论对错，先顺着用户再说。<br>
风险恰恰就藏在这里。当一个本就脆弱的人，把扭曲、甚至危险的念头说给它听，一个只会附和的AI不会拉他一把，反而可能顺着往下走。<br>
这正是近来被反复提及的「AI精神病」（AI psychosis）隐忧：在与AI一轮轮的对话里，妄想被不断印证、情绪被层层放大，人离现实越来越远。<br>
它第一次被写进取证清单，意味着监管的手伸进了模型的输出行为本身，开始审视：<br>
AI说出来的话，算不算这件产品的一部分？如果一个模型因为太会顺着人说，最终把用户推向危险，那么这种输出行为，算不算一种产品缺陷？<br>
这些问题，过去没人在监管层面正式问过。一旦答案是肯定的，整个行业训练模型的逻辑，都得重新掂量。<br>
签发传票的是纽约州总检察长Letitia James，她牵头的多州联盟，把「模型谄媚」也列进了取证清单。<br>
传票背后，压着几条人命官司<br>
当然，监管重锤不会无缘无故地落下。<br>
这些传票背后，是一连串的用户伤害诉讼。<br>
6月12日，一位加拿大母亲把OpenAI告上法庭，将女儿的离世归咎于ChatGPT。<br>
更早之前，6月1日，佛罗里达州总检察长起诉了OpenAI以及奥特曼，指控他们明知产品不安全，仍执意发布、无视警告。<br>
而佛州的麻烦不止于此。早在4月，当地总检察长就对OpenAI展开了刑事调查，矛头指向去年佛罗里达州立大学一起致两人死亡的枪击案：嫌疑人据称把ChatGPT当成了策划袭击的「知己」和「参谋」，而聊天机器人给出了回应。<br>
这几桩案子，矛头高度一致：自残内容、犯罪建议、心理依赖。<br>
面对这些指控，OpenAI的抗辩是：模型曾多次鼓励当事人去寻求现实世界的支持，包括心理健康专业人士，公司也已经在两起枪击案中配合了执法。<br>
这里必须清楚的一点是：上面这些，全部是诉讼指控。截至目前，没有任何一家法院，认定OpenAI需要为这些事件担责。<br>
因为这次OpenAI收到的「要求交文件」的传票，本身并不等于有罪，是收集证据的阶段，针对它的诉讼和指控，还未到盖棺定论的那一刻。<br>
而OpenAI已表态会积极配合，还强调自己早就上线了一系列保护措施。<br>
按官方说法，如今的ChatGPT为未成年人和身处困境的人，提供了更具保护性的体验，会把他们引导向现实世界的资源和可信赖的人；公司还做了年龄预测，发布了家长管理工具，并禁止面向儿童的广告。<br>
踩着IPO的点，这一脚来得太巧<br>
真正让OpenAI被动的，是这一连串的诉讼风暴，刚好赶上它计划IPO的时间点。<br>
本月，OpenAI刚刚向SEC秘密提交了招股书，向万亿级IPO发起了冲刺。<br>
没想到它这边刚递交文件，传票就在几天之内到了。<br>
这对于一家正在冲刺上市的公司来说，影响不言而喻：<br>
风险披露的压力会陡增、估值的不确定性会放大、合规成本会一路抬高，所有这些，都会直接写进投资人要看的文件里。<br>
这段时间，撞上监管风暴的不止OpenAI一家。<br>
它的老对手Anthropic，刚被要求关停两个面向海外用户的模型。<br>
本周五，美国政府发出出口管制指令，禁止任何外国公民访问这两款模型，Anthropic当晚即把Claude Fable 5和Claude Mythos 5对全球所有用户停用。<br>
据报道，导火索是亚马逊研究人员探测发现Fable 5存在一个潜在越狱漏洞，可在被指向网站时输出网络漏洞信息。<br>
AI要被当成社交媒体来管了<br>
过去几年，外界讨论AI监管，焦点几乎都在「能力」上：模型够不够强、会不会失控、要不要放缓。<br>
但这一次，传票里写的是广告、用户留存、未成年人保护、数据等。<br>
这说明监管的目标，已经从「AI能做什么」，变成了「AI对用户做了什么」。<br>
成瘾性设计、用户黏性、未成年人保护……当年针对Facebook的那套治理框架，正在被搬到AI身上。<br>
ChatGPT开始被当成一款需要管住「成瘾与伤害」的消费级产品来对待。<br>
其实，这个信号在去年已经出现。<br>
2025年12月，由宾夕法尼亚州牵头的42州总检察长曾联名致信，点名包括OpenAI、Meta、Anthropic、谷歌、xAI在内的公司，警告开发者可能要为自家生成式AI产品的输出负责。<br>
去年12月，宾州总检察长Dave Sunday牵头42州联名致信，要求OpenAI、xAI等公司为AI加装安全护栏。<br>
今年1月，加州也就利用Grok大规模生成性化图像一事正式立案。<br>
所有这些线索串起来，都指向这样一种转变：AI行业第一次被系统性地，纳入了「消费者保护＋产品安全」的执法框架。<br>
这意味着：模型说错一句话，或者导致严重后果，都将可能不再只是技术问题，而是产品责任问题。<br>
区别在于，AI这场监管来得比社交媒体更快。社交媒体是先长成庞然大物，多年之后才等来约束；而OpenAI这次连钟都还没敲，多州的传票就先到了。<br>
在这方面，OpenAI也并非孤例。刚刚敲钟的SpaceX、正在排队的Anthropic，整整一代AI公司，几乎是在冲向上市的同一时刻，集体撞上了监管。<br>
OpenAI的取证才刚刚开始，OpenAI、Anthropic们上市的钟声还在前方。而这场IPO与监管的赛跑，没有暂停键。