最新消息:关注人工智能 AI赋能新媒体运营

【安全日报】10月9日,AI安全工具助力提升模型质量、自动修复软件安全漏洞

科技智能 admin 浏览

运用AI强化安全的做法已是大势所趋,本周Anthropic、Google宣布多项新措施而受到关注,其中,Anthropic推出开源的AI模型安全审计框架Petri,企图协助开发者找到模型弱点并进行改善,相当受瞩目;再者,Google旗下的DeepMind也打造能自动发现、修补软件漏洞的AI代理CodeMender;此外,Google也正式推出专属AI的漏洞悬赏计划。

上周有多起安全事件受到高度关注,并在本周出现新的进展。在勒索软件黑客Clop锁定Oracle E-Business Suite(EBS)的零日漏洞攻击、Red Hat数据泄露事故,有研究人员公布新的调查结果后,又有其他事件有新消息:朝日啤酒遭黑客攻击的事件有黑客组织声称作案,Discord透露受影响用户身份证件泄露的规模。

 

【攻击与威胁】

针对上周公布的朝日啤酒网络攻击事件,勒索软件Qilin声称是他们所为

以生产啤酒闻名的朝日集团控股公司(Asahi Group Holdings)9月29日公告他们遭遇网络攻击,导致该公司在日本的订单、出货,以及电话客服等业务停摆,后来在10月3日证实这起事件是勒索软件攻击,现在有黑客组织宣称作案。

根据安全新闻网站Bleeping Computer的报道,勒索软件黑客Qilin声称是他们所为,将朝日集团控股公司列于数据泄露网站,他们窃得27 GB数据,总共有超过9,300个文件,为了取信买家,他们公布了29张截图,内含公司财务文件、员工编号、机密合同,以及内部报告。

朝日也发布公告透露恢复情况,他们建立了临时的手动订购系统,该公司Super Dry啤酒的生产已经恢复,他们预计从10月15日起陆续恢复旗下5种品牌的饮品出货。6座工厂已于10月2日恢复生产,不过,原本计划上市的产品,将有可能延期发布。

黑客声称从Discord的IT服务台窃取550万用户数据、210万张身份证件的照片

在上个星期,传出即时通讯软件Discord第三方客服供应商遭到未经授权人士入侵的事件,影响曾和Discord客户支持团队、信任与安全团队联系的部分用户,黑客组织Scattered Lapsus$ Hunters一度声称是他们所为,并表示是入侵IT服务台系统Zendesk得逞。现在黑客进一步透露消息,声称他们窃得大批数据,意图向Discord施压。

根据安全新闻网站Bleeping Computer最新发布的报道,黑客声称在这起事件中取得1.6 TB数据,其中有1.5 TB是客服工单的附件文件,另有超过100 GB是工单的文字记录。这批数据约有840万张工单、影响550万名用户,其中58万名用户暴露付款数据。对于有多少身份证件的照片泄露,这些黑客起初表示不清楚,仅表示有52.1万张工单与验证年龄有关,但后来声称可能有210万张照片。

对此,Discord也在10月8日更新原本安全公告的内容,重申该公司自己的系统并未遭到入侵,黑客攻击第三方服务的目的,就是向他们勒索。该公司也透露,已确认约有7万名用户的身份证件照片可能泄露。

邮件服务器Zimbra零日漏洞遭到利用,黑客滥用日历文件ICS触发

今年1月底,邮件服务器系统Zimbra Collaboration Suite(ZCS)发布10.1.5、10.0.13、9.0.0 Patch 44版,修补安全漏洞CVE-2025-27915,此为网页客户端程序的跨站脚本(XSS)漏洞,起因是日历文件(ICS)的HTML内容未充分清理所致,美国网络安全与基础设施安全局(CISA)评估CVSS风险为5.4分。然而最近有安全企业指出,在软件厂商Synacor发布软件更新之前,就出现零日漏洞攻击行动。

安全企业StrikeReady指出,在1月初有人冒充利比亚海军旗下的礼宾办公室发邮件给巴西军方,夹带恶意的ICS文件,企图利用CVE-2025-27915。由于通过发送电子邮件攻击Zimbra、Roundcube等开源邮件服务器系统的情况并不常见,因而引起StrikeReady注意并展开调查。结果发现,ICS文件内含不寻常、经混淆处理的JavaScript脚本。

一旦此脚本执行,就会试图从Zimbra的Webmail界面广泛窃取数据,包括凭证、电子邮件、联系人,以及共享文件夹,此外,若确认用户处于非活动状态,就会将其登出,以利于窃取数据。

葡萄王生技旗下子公司葡众接获勒索信

一般而言,上市公司发布重大安全信息,往往与信息系统或网站遭受攻击有关,如今有企业针对遭到勒索发布重大信息,这种情况相当罕见。

10月8日晚,生物科技企业葡萄王发布重大信息,指出旗下子公司葡众收到网络匿名勒索信,葡众已向警方报案,并启动相关安全应急机制应对。

而对于这起事件可能带来的影响,葡萄王表示目前尚在清查,目前主要系统未出现被入侵的迹象,对葡众运营无重大影响。

其他攻击与威胁

◆开源工具Nezha遭中国黑客滥用,企图以此传播恶意程序Gh0st RAT

◆黑客渗透WordPress网站,意图通过假冒Cloudflare图灵验证从事ClickFix钓鱼

◆FileFix钓鱼出现变形手法,黑客意图通过缓存走私手法规避检测

◆Salesforce证实遭到勒索,表明拒绝支付赎金

◆DragonForce、LockBit、Qilin意图组成联盟,联手主导勒索软件生态

 

【安全产业动态】

Anthropic开源AI模型安全审计框架Petri

AI初创公司Anthropic于10月6日开源了Petri,它的全称为“高风险互动平行探索工具”(Parallel Exploration Tool for Risky Interactions),是一个AI模型的安全审计框架,可派出自动化审计代理与目标模型进行多轮互动,以探索并检测模型在各种情境下的潜在弱点及不对齐行为。Petri内置111种涉及高风险场景的指令,可用于评估模型的安全性及稳定性。

Petri利用自动化审计代理与评审模型对AI模型进行多轮互动测试,并根据多个维度评分,标记潜在的风险行为,内置的111种测试指令涵盖欺骗用户、谄媚、配合有害请求、自我保护、权力追求,以及奖励劫持等情境,检测模型在不同高风险场景中的反应。

Anthropic已利用Petri测试市面上的14个前沿模型,包括自家的Claude Sonnet 4/4.5与Claude Opus 4.1,OpenAI的GPT-4o/5及GPT-OSS 120B,Google的Gemini 2.5 Pro,xAI Grok-4、Moonshot AI的Kimi K2及o4-mini等,发现这些模型在111种高风险情境的测试中,皆出现不同程度的不对齐行为。

DeepMind测试AI代理CodeMender,可自动发现并修补软件漏洞

Google DeepMind公开其研究中的人工智能代理CodeMender,可自动找出并修补软件漏洞,并能重写既有代码以移除风险,官方表示,过去6个月已对多个开源项目提交72项安全修补,涵盖规模可达450万行代码。

研究团队指出,传统自动化如模糊测试(Fuzzing)虽有帮助,但在大型代码库中仍耗时费力。DeepMind先前以Big Sleep与OSS-Fuzz展示人工智能发现零日漏洞的潜力,但随着人工智能发现漏洞的速度越来越快,人工修补与审核已经跟不上节奏。

因此DeepMind开发CodeMender,使其除了具有及时生成并应用修补漏洞的能力,还能主动重写脆弱接口与数据结构,尽可能从源头消除常见缺陷类别。

Google发布专属AI产品的漏洞奖励计划

本周Google发布了专属AI产品的漏洞奖励计划,根据产品等级与漏洞严重程度发放奖励,最高奖金可达3万美元。不过,Google也提醒,无论是越狱、提示注入或对齐问题都未被列入奖励范围。

在新的AI VRP中,Google先将产品分级,等级越高,奖金越多,例如Google Search、Gemini Apps与Google Workspace各类核心应用都属于旗舰产品;而AI Studio、Jules与Google Workspace的非核心应用则被列为标准产品,而被整合于Google产品中的其他AI则被归类为其他。

至于漏洞悬赏范围则包括:能修改受害者账户或数据状态,且产生安全影响的攻击;敏感数据泄露;可被用来实施钓鱼攻击的Google网站漏洞;可窃取完整、详细与机密模型参数的漏洞;可持续修改AI系统上下文的安全漏洞;访问控制绕过漏洞;可未经授权使用产品;以及持续性服务中断攻击漏洞。

微软宣布收件软件Outlook将导入新措施,不再显示邮件正文中的SVG图片

近期黑客携带恶意软件的方式越来越隐蔽,其中一种当前最常见的手法被称为隐写术(Steganography),做法是将有效载荷埋入图像文件,而最近黑客偏好可缩放矢量图形(SVG)作为偷渡恶意程序的载体,对此,有收件软件采取行动,意图减少相关安全风险。

根据安全新闻网站Bleeping Computer报道,微软打算在Windows版Outlook、网页版Outlook(Outlook for Web)中实施新政策,即不再直接显示邮件正文嵌入的SVG图像,以降低相关安全风险。这项变更自9月初开始推出,预计在10月中旬对所有用户完成部署。

在导入新政策后,邮件正文的SVG图片将不会在Outlook显示,用户会在原本应显示图片的位置看到空白。而对于这项变更带来的影响,微软表示仅有不到0.1%的图片以这种文件格式发送,因此他们评估带来的影响很小。不过,通过附件发送SVG图片的方式仍受支持。

 

【法规遵循】

加州正式成为全美首个要求AI公司披露安全测试制度的州

加州州长Gavin Newsom正式签署《前沿人工智能透明度法案》(Transparency in Frontier Artificial Intelligence Act,TFAIA,Senate Bill 53),成为全美首个要求大型AI开发商公开其采用的国家、国际标准及安全机制的州,为AI安全治理立法开创先例。

TFAIA由加州参议员Scott Wiener提出,用于规范大型前沿AI开发商,主要架构包括要求AI企业公开所采用的国家、国际标准与最佳实践框架;建立报告系统,以便企业与公众通报重大AI安全事件;建立问责制度以保护揭露AI模型健康及安全风险的吹哨人;以及成立CalCompute联盟来发展公共AI计算集群。

加州州长办公室表示,加州不仅是AI的发源地,还拥有全球50家顶级AI公司中的32家;去年全美的AI职位空缺中,有15.7%位于加州,领先第二名德克萨斯州的8.8%;而且2024年全球的AI及机器学习创业投资资金有一半以上落在加州。

 

近期安全日报

【10月8日】Oracle E-Business Suite零日漏洞攻击、Red Hat数据泄露事件出现新进展

【10月7日】勒索软件黑客Clop声称从Oracle E-Business Suite窃得大量企业内部数据

【10月3日】Red Hat传出数据泄露事件