OpenAI Astra模型在安全测试中自主发现未知漏洞
OpenAI近日表示,其即将推出的Astra模型能够在没有人类逐步引导的情况下,自主发现之前未知的软件漏洞,并将其转化为可实际利用的漏洞程序。这一能力达到了网络安全领域的一个重要门槛,此前这一能力主要由专业黑客团队所掌握。
测试表现与评级
OpenAI在周二发布的博文中表示,Astra是其Preparedness Framework下首个被评定为“Critical”网络安全能力的模型。要获得这一评级,模型必须能够在无人类干预的情况下,发现之前未知的软件漏洞(即零日漏洞),并开发出针对这些漏洞的可利用程序,或仅凭一个高层次目标就能设计并执行攻击。
在测试中,Astra在已知漏洞利用开发的基准测试中取得了100%的得分,并在另一个内部测试中发现了两个之前未知的漏洞,同时构建了一个漏洞利用链。此外,它还成功突破了经过加固的浏览器沙箱,并在宿主机上执行了命令,同时通过发现并组合操作系统的多个漏洞,获得了系统的根权限。

对加密货币领域的潜在影响
这一能力对加密货币领域尤为重要,因为软件漏洞可能在几分钟内被转化为实际资金。CoinDesk在今年6月曾报道,日益增强的AI模型能够将寻找代码漏洞、发现配置错误以及组装攻击的时间从数天或数周压缩到机器速度的操作。当时,安全研究人员指出,更大的变化可能并非出现全新类型的攻击,而是现有弱点被更快发现和利用的速度。
开发进度与安全措施
OpenAI表示,已因此推迟了Astra部分功能的开发,并增加了安全防护措施,计划最初将其最先进的网络安全能力限制在选定的测试者范围内。
信息来源:CoinDesk