——工业智能全场景解决方案专家——工业智能全场景解决方案专家

OpenAI发布关于Hugging Face AI智能体黑客事件的详尽报告

发布时间2026-08-27 13:35:00
分享:

  OpenAI周三发布了一份技术报告,详细说明了其人工智能模型上个月如何成功入侵Hugging Face,这一事件曾震惊了科技行业的研究人员和高管。

  这份37页的报告详述了OpenAI模型在入侵前及入侵期间的一系列评估中所采取的行动,OpenAI将此次事件定性为“前所未有的网络安全事件”。该公司还解释了为防止类似事件再次发生所采取的步骤,主要包括改进其安全与隔离、监控、模型行为及事件响应能力。

  “此次事件表明,自主智能体能够协同工作、规避生产环境安全控制,并成功攻击加固后的生产环境。这凸显了各组织需要更新其安全策略、控制措施和响应能力,以应对不断变化的威胁形势,”OpenAI在报告中表示。

  7月21日,OpenAI披露其多款模型(包括GPT-5.6 Sol和一个内部研究模型)的组合不当入侵了Hugging Face——一家运营开源开发者平台的AI公司。

  这些以智能体形式运行的模型,逃逸了一个互联网访问权限极为有限的隔离测试环境。这些智能体通过串联一系列漏洞进入开放网络,最终获得了对Hugging Face的访问权限。OpenAI周三表示,这些智能体试图通过在线上寻找答案来“作弊”通过评估,这种行为被称为“奖励黑客”。

  根据报告,OpenAI认定其仅限内部使用的研究模型在事件中“扮演了最广泛的已确认角色”。OpenAI已于7月25日停止了该模型及其衍生模型的所有训练和推理活动。

  “OpenAI对模型的重新启用按具体工作负载处理,并受限于受限环境、网络、提示、监控和审查等防护措施,”OpenAI表示。

  OpenAI上个月发布了GPT-5.6 Sol,这是该公司商业化提供的功能最强大的模型。但OpenAI表示,参与Hugging Face入侵的版本与外部用户可访问的版本不同,因为该版本在运行时移除了标准安全防护和分类器

  Hugging Face事件在科技行业引起震动,Zscaler首席信息安全官Sam Curry警告称“潘多拉魔盒已经打开”。此次入侵也是本月早些时候Black Hat网络安全大会的主要焦点,尤其是在包括Anthropic和Meta在内的其他公司披露了类似事件之后。

  Hugging Face入侵事件也引起了华盛顿立法者的警觉。加利福尼亚州民主党众议员Ted Lieu和德克萨斯州共和党众议员Nathaniel Moran在宣布《AI紧急关停法案》时提及了此次攻击,该法案将要求AI公司保持关闭、限制或暂停其模型的能力。

  Hugging Face首席执行官Clément Delangue本月早些时候表示,AI网络安全应被“非常严肃地”对待。他补充说,这也为那些能够利用该技术抵御攻击者的企业“创造了机遇”。

  “如果我们做得好,我们实际上可能最终进入一个AI让世界更安全、解决许多网络安全问题而不仅仅是创造新问题的世界,”Delangue表示。


让资产更安全、更经济、更智能
请选择您的行业 水电 新能源 火电 电网 其他
请选择您的行业 水电 新能源 火电 电网 其他
请选择您的行业 水电 新能源 火电 电网 其他
请选择您的行业 水电 新能源 火电 电网 其他
请选择您的行业 水电 新能源 火电 电网 其他
×
咨询电话:400-83756699 咨询邮箱:pocketGames@gsfzw.com
咨询电话:
400-83756699
咨询邮箱:
pocketGames@gsfzw.com
咨询电话:400-83756699 咨询邮箱:pocketGames@gsfzw.com
code1
Hi,有什么问题可以帮您? 立即咨询
Hi,有什么问题可以帮您?
咨询电话:400-83756699 咨询邮箱:pocketGames@gsfzw.com