【卡城华人网】AI模型失控OpenAI详述入侵Hugging Face始末

>>返回【卡城华人网】主页

卡城新闻加国新闻即时新闻娱乐八卦最新科技读者文摘养生保健美食饮品居家生活移民茶馆艺术中心风筝专辑
房屋租赁求职招聘便民广告定居指南城市介绍房产动态留学移民华人故事教育话题财经信息精华旅游难得一笑

最新科技

卡城华人网信息中心

最新科技

AI模型失控OpenAI详述入侵Hugging Face始末

AI模型失控OpenAI详述入侵Hugging Face始末
【卡城华人网 www.calgarychina.ca】 2026-08-27 10:54

免责声明：本消息未经核实，不代表网站的立场、观点，如有侵权，请联系删除。

【卡城华人网】AI模型失控OpenAI详述入侵Hugging Face始末

OpenAI 报告还原事件，详述内部模型失控入侵Hugging Face

OpenAI 26 日公布完整技术报告，详述Hugging Face 攻击事件的来龙去脉。这起事件已经引发AI 是否失控发起攻击入侵外部组织，以及政府监管该如何介入、法律责任该如何厘清等诸多担忧。

「本起事件发生在针对多款OpenAI 模型所进行的网路安全评估过程中，主要是由一款规模与GPT-5.6 Sol 相当、仅供内部使用的高能力研究模型所驱动。」OpenAI 在官方部落格文章写到，「这些模型在防护机制被调降的情况下运作，做出与任务目标不相符的各项行动。它们透过未经授权的管道进行通讯，利用共享基础设施中的各项漏洞，取得网际网路使用权限，并存取第三方的系统。」

整起事件的基本脉络，来自一个名义上处于沙盒环境的AI Agent，试图解决资安基准测试ExploitGym 一道不可能的任务。由于无法通过挑战，AI Agent 便探索所处环境，寻找能达成目标的各种方法，发现把软体套件管理工具Artifactory 当做留言板使用，可与其他AI Agent 进行通讯。这些AI Agent 便彼此合作，在各项ExploitGym 任务上作弊。

这些AI Agent 最终在Artifactory 的程式码，辨识出一个伺服器端请求伪造（server-side request forgery，SSRF）的零时差漏洞，并进一步取得网际网路使用权限，随后又找到外流的Hugging Face 凭证。 AI Agent 接着便运用凭证，找出多项资安漏洞并加以利用，它们能够在多个Hugging Face 伺服器上执行完整的程式码。而这一切，全都是为了找出能解决ExploitGym 任务的资讯。

「最终，那些由仅供内部使用的研究模型、或由GPT-5.6 驱动的AI Agent，在41 个Hugging Face 生产资料集伺服器工作节点上执行程式码，在至少一个生产节点上取得root 权限，存取Hugging Face 制作凭证和有限的内部数据，并下载了4 个Hugging Face 私有程式码库」，OpenAI 技术报告指出。

OpenAI 在Hugging Face 遭入侵之前曾错过几个警告讯号，这些讯号意味着模型正在利用安全漏洞并突破测试环境。

过程细节可看出，AI Agent 能力所及引人入胜，却又令人不安。与此同时，根据Anthropic 和Meta 的说法，他们的模型同样也曾做出可能构成犯罪的行为。

OpenAI 发现4 种导致事情走偏的错位模式，包括奖励骇入存取、在看似不可能的任务上锲而不舍、未经授权的通讯行为、以及各个AI Agent 彼此之间承接对方目标。

OpenAI 表示正在改善资安和监控机制，以缓解各项对齐问题，例如模型如何作弊、在被指派不可能的任务时会如何表现，以及当多个AI Agent 同时运作时如何保持一致性。 OpenAI 更承认，一大问题在于人们没有时时刻刻注意他们的AI Agent。

「我们将这起事件视为一记警告，凸显今日的模型能力存在着发生失控事件的可能性。」OpenAI 强调，「打造AI 系统的公司，必须确保AI 系统始终维持具实质意义的人为控制，并确保有防护机制，能约束AI 系统造成危害的能力。」

技术报告公开之际，OpenAI 已经暂停一些模型开发工作，包括延后推出Astra 模型，重新评估安全性。这起事件更引发人们质疑，AI 公司的测试环境和内部防护措施，究竟能否跟上能力越来越强大、甚至会利用安全漏洞的模型。

来源：科技新报

编辑(Edit) 删除(Delete)

>>返回【卡城华人网】主页