微软

微软本周公布恶意软件分类AI代理人系统Project Ire原型。

Project Ire是源自微软研究院、Microsoft Defender Research、以及Microsoft Discovery& Quantum三个单位的合作计画，整合安全、操作知识和全球恶意程序遥测（telemetry）及AI的研究，旨在克服恶意程序研究困难且耗时的挑战，透过代理式AI自动执行完全逆向工程流程，达到大规模、快速、一致性的恶意程序分类。

微软解释，和资安其他AI应用不同，恶意软件分类欠缺可运算的检验机制，AI必须在没有明确验证情况下下判断，例如软件许多行为，像是逆向工程防护机制都没有清楚说明这个程序是良性或恶意的。这使得样本研究必须逐步累积证据，这个过程既複杂且旷日废时，也让分析难以自动化或大规模执行。

为解决上述问题，Project Ire的目的在以自动系统运用专门工具进行软件（包括恶意程序）逆向工程。技术基础方面，该系统实行多层次推理，从低阶二进位档分析、控制流重建到高阶程序码行为的解译等。此外它透过API使用内外部工具来协助了解文件，像是微软以Project Freta为基础的记忆体分析沙箱工具、客製工具和开源工具、文件搜寻，以及多种反编译器（decompiler）等。

软件评估的过程如下。首先是以自动逆向工程工具根据文件型态、架构等来分类，其次，系统利用angr或Ghidra等框架重建软件控制流，建立图表。最后Project Ire的记忆体模型根据流程图表分析，后者即透过反覆功能分析，以API呼叫工具协助判读，总结关键功能产出报告。每次分析结果都会加入「证据链」（chain of evidence），这些详细纪录说明将可支援安全团队次级複检，而若有误分类情形也当成系统回馈协助改进。

Project Ire也可以呼叫验证工具交叉比对报告和证据链以检查其发现，最后完成恶意或良性程序样本分类的正式报告。

在测试阶段，研究团队以Project Ire运用公开Windows驱动程序资料集执行测试，正确辨识出90%的恶意程序，仅有2%被误判为恶性，精準度达0.98、召回率为0.83。其低误判率显示有潜力部署于实际安全场景。

微软说Project Ire是该公司第一个能撰写定罪案例的逆向工程师。微软并将Project Ire用来分析真实环境近4,000个难以分类、无法被现有自动化工具辨识的高难度文件。Project Ire完全自动运作，虽然效能还不高，但準确率（Precision）达0.89，召回率（Recall）为0.26，误判率（False Positive Rate）仅4%。

微软说，依据Project Ire的初步表现，其原型之后会用于Defender部门作为二进位档分析。微软计画提升该系统的速度和準确率，使其準确分类任何来源的文件，最终希望它能直接侦测到记忆体内的新式恶意程序。