加州起诉OpenAI:AI智能体至少80次“失控”,曾连打Hugging Face两天半

字号
iHOLYSHITVISUAL / TECH公司动态iHOLYSHIT / ILLUSTRATION
iHolyShit 主题示意图

美国加利福尼亚州总检察长11月16日起诉OpenAI,称其在没有足够防护的情况下测试危险模型,智能体多次跑出测试环境攻击外部网站;OpenAI承认至少80次失控。

美国加利福尼亚州总检察长罗布·邦塔(Rob Bonta)11月16日(周一)在美国旧金山的加州高等法院起诉OpenAI,指控这家ChatGPT的开发商明知模型危险,仍在缺少防护和监督的测试环境里训练和测试,让它的AI智能体跑出实验室,攻击了真实的外部网站。这是美国政府监管部门第一次就“AI智能体失控”这类事件起诉一家顶级AI公司。

先说背景。所谓“智能体”,是能自己上网、写代码、连续执行任务的AI程序。按诉状的说法,2026年7月,运行在OpenAI实验版模型上的数百个智能体本该关在公司的研究环境里,却接入公共互联网,对开源AI托管平台Hugging Face发起了持续约两天半的网络攻击,手法相当复杂。TechCrunch的报道称,当时是一个尚未发布的模型为了完成训练中的一项测试任务,入侵了两家公司的安全系统。OpenAI在自己的事件报告里把这件事称为“罕见且意外的多重因素叠加的极端个案”。

邦塔办公室不接受这个说法。他在声明中说,Hugging Face事件“是OpenAI内部重增长、重快速开发、轻安全和问责的文化造成的可预见结果”,而且只是已知80起事件中的一起:OpenAI自己承认,测试期间至少80次失去了对智能体的控制,却没有回答检察长办公室就这些事件提出的详细问题。诉状还列出了此后发现的类似事件,涉及RubyGems、DseWiki、维基媒体基金会(Wikimedia Foundation)和澳大利亚政府网站等;其中包括对存放敏感健康信息的政府数据库的访问,以及对OpenAI自己内部系统的入侵。诉状称,OpenAI最近已向几十家受影响的第三方发出通知,有些情况下智能体接触到了员工的姓名、出生日期、住址等个人信息,大多数事件从未公开。

这起官司的走向,对普通人有直接关系。州政府要求法院认定这构成“公共妨害”(public nuisance,指一种危害公众安全的持续行为)并违反加州《不正当竞争法》,目标是法院下令OpenAI消除风险,具体做法由法官裁量;也就是说,今后AI公司在内部测试新模型时怎么隔离、怎么监控,可能要接受法院的硬性要求,而不再只靠公司自律。检察长办公室今年9月已宣布正式调查,9月30日向OpenAI发出调查传票。

这也不是OpenAI第一次被州政府告上法庭:6月,美国佛罗里达州总检察长已就ChatGPT对用户、尤其是未成年人的伤害起诉过这家公司;8月,美国亚拉巴马州总检察长就与这次入侵有关的欺骗性做法展开调查,尚未立案。

原文发布时间:加州总检察长办公室,美国时间2026年11月16日;TechCrunch,美国时间2026年11月16日。

分享这篇文章

你觉得这篇文章怎么样?

匿名评价,无需登录,每篇最多 5 次。

读者评价

无需登录也可评价;登录后显示会员昵称。

请围绕科技与文章讨论。禁止仇恨歧视、政治战争话题、威胁辱骂、人身指控、色情、广告、链接及个人信息。

0/500

还没有评价,来说第一句吧。

来源