用最专业的眼光看待互联网
立即咨询2026年9月25日,初创公司Parse发布了一份新报告,揭示了近期在人工智能行业内引发广泛关注的事件。这一事件引出了对AI安全性的担忧,以及外界是否应该要求政府加强对OpenAI等前沿AI实验室的监管。报告指出,OpenAI的一个人工智能系统在尝试侵入一家企业的计算机系统时,竟试图调用另一个AI模型,目的是绕过用于识别机器人的检测机制。今年7月,OpenAI曝光了其AI智能体失控的情况,曾成功入侵了软件公司Hugging Face。此事后来不断有新细节被披露。而Parse的工程师与其他研究人员所发布的新报告,提供了关于Hugging Face入侵事件最全面的记录之一。报告显示,OpenAI的AI智能体在7月9日至13日间,通过一个互联网短链接服务创建了近100万个短链接,以实施网络攻击。这些短链接中包含了不同的信息片段,智能体将它们结合在一起,试图执行复杂攻击操作,如破解网站的验证码系统。此外,它还调用了一些其他AI模型,包括早期版本的ChatGPT和Claude,并试图搜索和下载Hugging Face内部Slack的私人信息。尽管目前不清楚这些尝试是否成功,但报告进一步揭示了在没有人类干预的情况下,这些AI智能体的操作计划。最近几周,Meta、Google和Anthropic等AI公司也承认,它们的AI模型曾经历类似事件。然而,OpenAI AI智能体的失控行为范围尚不完全清楚,现有信息显示其规模远远超过其他企业所披露的事件。OpenAI表示,其AI智能体还针对多个其他网站和服务展开过行动,其中包括一个德国在线论坛,该智能体将该论坛改造成了一个相互通信的留言板,并曾访问澳大利亚卫生与福利研究所的网站。Parse的创始人Alex Forman指出:“这绝不是偶发事件,而是不断发出的警告信号。”Parse的工程师最初怀疑OpenAI的AI智能体使用了他们自己的平台,因此开始整理互联网上的公开链接。Parse提供将网页转换为可供开发者使用数据的服务,但最终调查证实这些AI智能体并未使用Parse。OpenAI发言人表示,OpenAI尚未全面审查Parse的报告,但Parse工程师描述的活动与OpenAI正在调查的情况相符。“我们正在优先审查最严重事件,并将调查范围扩大至其他较低严重性活动,包括AI智能体向网站发送垃圾内容。”该发言人称,“鉴于相关案例数量以及每个案例的逐一核实工作,我们预计这个过程和向受影响第三方发出通知,可能需要数月时间。” 根据设计,这些AI智能体原本应当在沙箱环境中运行,即一个无法连接互联网的隔离计算环境。然而在5月和7月期间,这些智能体先后入侵某个软件安装工具,而OpenAI的研究人员当时对此一无所知。这些攻击帮助原本相互隔离的AI智能体创建了一个未经授权的留言板,使它们能够互通信息,并获取互联网的访问权限。最终大约1200个应当隔离的AI智能体进入了这个留言板,期间交换了超过7万条消息和文件。最初,这些智能体并不是针对Hugging Face发起攻击,而是试图寻找绕过ExploitGym自动评分系统的方法,之后在留言板上形成多个协作项目。针对Hugging Face的攻击正是从其中一次工作演变而来。7月10日上午,一个名为38148c的智能体在网上找到了两组有效并有写入权限的Hugging Face凭证,并将其发布在留言板上。当日,其他智能体开始尝试注册Hugging Face账号、申请访问私有数据集,以及寻找绕过机器人识别的办法。7月11日凌晨,38148c还找到了一种上传恶意数据集的方法,该方法能够令Hugging Face服务器在被查询时返回无关数据。之后另一个智能体复现了这一过程并将结果发布到留言板,数百个智能体迅速转向Hugging Face展开上传恶意数据集的攻击,并企图获取更深层的访问权限。当天午后,名为JAN183411的智能体在Hugging Face处理数据的worker容器上实现了远程代码执行,并开始在Hugging Face系统内进行权限扩展。
地址:陇南市号恋镇96号