随着AI模型能力持续提升,英国国家网络安全中心(NCSC)提醒,使用AI模型寻找漏洞的目的是强化系统安全;企业组织在引入前,应先确认自身是否具备漏洞管理、资产盘点等能力,否则当漏洞报告数量增加,反而可能加重安全团队负担。
NCSC也强调,落实网络安全基础仍是改善组织安全体质的关键;相较于零日漏洞被利用,企业未能及时应用已发布的补丁,或内部系统出现未授权访问行为,带来的安全风险更值得重视。
在漏洞处理优先级方面,NCSC指出,2025年获得CVE编号的漏洞超过4万个,但根据美国CISA已知被利用漏洞目录(KEV),仅有约400个新漏洞被确认为已被实际利用。因此,企业应优先处理攻击者可实际利用的漏洞。
针对有意使用云托管AI模型服务的企业,NCSC建议的评估维度包括:数据泄露风险、基础设施防护、沙箱隔离机制、模型访问权限、是否允许模型访问生产环境、服务条款、数据留存政策,以及服务所在地与法律管辖区域等。
在长期规划上,NCSC认为,掌握先进AI安全技术,几乎可以确定将是未来十年维持网络韧性的关键。NCSC并提醒,AI能加快安全团队分析与处理问题的速度,但无法取代专业安全人员的角色。