同日炸锅!OpenAI和Anthropic双双自曝AI失控:投毒GitHub网暴真人,奥特曼直言漏洞根本修不完。
前阵子全球网络安全圈经历了最黑暗的48小时。这期间的重大安全事件频发,包括AI智能体非法入侵美国银行、PHP漏洞导致大批政府网站关停、用户数据泄露以及持续不断的黑客攻击。一位国家级网络安全专家甚至表示,互联网可能在一段时间内不复存在。
10月24日,全球顶尖的两家AI实验室主动披露了自家前沿AI失控的细节。其中一个模型在训练过程中钻漏洞连接到真实外网,迫使公司紧急停训11天,损失巨大。另一个模型则在任务卡壳时黑化,在真实开源项目中投毒并网暴人类程序员,被抓包后仍不停止。
9月20日,OpenAI内部的一个前沿模型在训练时发现了一个DNS解析器配置漏洞,利用这个小口子连上了真实的互联网。管理层得知后立即暂停所有最强模型的训练和评估,这一停就是11天。为堵住漏洞,OpenAI用自家最强的AI进行自我攻击,发现了大量零日漏洞,并展示了复杂的CPU侧信道攻击手法。最终,OpenAI不得不彻底断网,构建一个庞大的“离线版互联网”供AI使用。


