将AI用于网络安全以对抗AI攻击,已成为各界关注的焦点,特别是近期AI在漏洞挖掘能力上的快速进步。然而,AI巨头Google认为,解决安全漏洞风险的关键,不仅在于大规模“发现”漏洞,更关键的是如何运用AI大规模、高效地“修复”漏洞。
这一观点近期一再被强调。例如,2024年举办AIxCC半决赛的美国国防高级研究计划局(DARPA),以及去年宣布正在研发AI代理CodeMender的Google,都强调了自动发现与自动修复漏洞的重要性。近日,Google工程部门副总裁Royal Hansen来华,披露了自动化防御的最新进展。
提交多种修复方案,通过攻击模拟筛选最优解后部署
加速发现潜在漏洞,是网络安全领域迈出的重要一步,相关进展已日益显著。以Google为例,去年通过Big Sleep计划,利用AI模型发现了70多个漏洞,其中包括史上首个由AI发现的真实世界零日漏洞。如今一年过去,随着各类AI模型的持续进步,大规模漏洞发现已逐步成为现实。
但Royal Hansen指出,在启动Big Sleep计划后,团队即意识到发现漏洞并非唯一难题,业界更需要的是“更快的修复方法”。为此,Google启动了CodeMender计划。截至去年,该计划已向开源项目提交72个漏洞修复方案,其中包含超过450万行非人工编写的代码。
他强调,当前网络安全最艰巨的工作,已不再是安全团队的漏洞检测,而是所有受影响的团队必须针对威胁做出响应并完成修复。这一过程极为复杂,但AI代理能够综合人类难以处理的多重关联因素,快速规模化地完成处理与修复。
Google的CodeMender是如何运作的?Royal Hansen进一步解释,CodeMender能针对同一漏洞生成多个修复方案,随后通过真实攻击模拟进行测试。他比喻道:“这就像AI下象棋或围棋一样,会为每一步进行评分,修复也是如此,会为每一种可能的修复方案打分,最终选出得分最高、防御效果最好的代码进行部署。”
他还提到,不应依赖单一AI代理完成所有任务,而应让多个AI代理各司其职,才能更高效。即使只是漏洞修复这一项工作,背后也涉及漏洞分析、上下文理解等不同环节。
与此同时,Royal Hansen也鼓励业界大力测试此类技术,因为缩短零日漏洞的修复时间,才是真正的目标。
让AI渗透SSDLC每一道防线,未来多AI代理将成为软件开发常态
AI漏洞修复固然重要,但更值得关注的是,若从软件安全开发生命周期(SSDLC)的角度看,AI漏洞修复应如何定位?
对此,Royal Hansen认为,AI的角色不应局限于单一阶段,而应贯穿整个流程。以开发阶段为例,AI应在工程师编写代码时即时进行检查、测试并提出修复建议,确保存在弱点的代码在部署前就被拦截。
更进一步看,从开发、部署、测试到上线后监控,AI都能在每个环节提供关键支持。
谈到这里,他再次强调多代理架构的重要性。凭借AI代理24小时不间断运行的特性,他直言这类自动化能力未来将趋于极低成本,甚至成为近乎“零成本”的基础设施。因此他呼吁,企业应把握趋势,积极推动AI代理全面融入软件生命周期的各个环节。
为了让AI代理在网络安全中的运作更具象化,Royal Hansen在访谈中引用电影《黑客帝国》中的“特工史密斯”(Agent Smith)为例说明。他指出,特工史密斯作为母体的守护者,能全天候防止虚拟世界被破坏;同样,企业也可打造专属AI代理,7×24小时不间断检测漏洞与潜在风险。
突破资源瓶颈,以AI代理重塑防御端的处理速度与规模
另外值得一提的是,除了AI自动化漏洞修复,Royal Hansen特别针对企业安全负责人提出建议。他指出,许多安全负责人常面临待办事项远超人力、时间与预算的困境,导致只能优先处理高风险威胁。
如今,凭借更强大的大语言模型与AI代理,防御的运行速度与规模已突破以往限制。这不仅是为了应对使用AI的攻击者,更是为了解决网络安全领域数十年来的核心问题——防御人力匮乏与处理效率瓶颈。上述漏洞发现与修复正是典型案例。
而且,即便在减少繁琐事务(Toil)方面,AI也能带来巨大帮助。他以Google威胁猎捕分析团队为例,通过AI协助生成摘要、撰写邮件及整合多方数据,其效率提升了77%。这表明,仅在提升生产力方面,AI就能为安全人员腾出更多时间,去处理更具挑战性、更有价值的工作。