全球首个整合大语言模型的恶意程序曝光

美国网络安全企业SentinelOne上周五（9/19）披露了一款整合了大语言模型（LLM）的恶意程序MalTerminal，并指出该程序早在2023年就已出现，很可能是全球首个基于LLM的恶意软件，早于今年6月出现的LameHug以及8月现身的PromptLock。

SentinelOne成立于2013年，致力于开发基于人工智能的终端安全与EDR/XDR解决方案。然而该公司指出，随着越来越多的软件开发流程引入大语言模型，这类技术也可能被黑客利用成为新型攻击工具，防御方必须充分理解其带来的影响，才能应对不断变化的安全生态。

如果一个恶意程序将核心恶意功能交由大语言模型在运行时动态生成代码，这对安全分析人员来说将是一场噩梦：每次调用模型都会产生独特的代码变体，使得依赖静态特征匹配的传统杀毒机制失效；同时，其行为路径也每次不同，给动态行为检测带来极大挑战。

为了识别此类威胁，SentinelOne通过模式匹配嵌入式API密钥以及特定提示结构的方式，发现了由Python脚本和Windows可执行文件组成的MalTerminal样本。该恶意程序会调用OpenAI的GPT-4服务，在运行时实时生成勒索软件代码，或创建反向连接shell以实现远程控制。

研究人员还发现，MalTerminal所使用的OpenAI Chat Completions API端点已于2023年11月被官方弃用，因此推断该样本很可能是目前已知最早的LLM驱动恶意程序。

SentinelOne并未发现MalTerminal被用于实际攻击行动中，也未观察到大规模部署迹象，推测它可能仅是一个概念验证（PoC）性质的恶意程序，或是红队演练中的测试工具。