生成式AI在资安攻防上，已是双方运用的重要工具，其中在攻击者的部分，我们过往最常听闻的用途，是用于产生网路钓鱼所需的钓鱼邮件、钓鱼网站，但如今有人尝试将其用于勒索软件。
资安业者ESET提出警告，他们发现有人打造名为PromptLock的勒索软件，此恶意程序在执行的过程里，运用Ollama API存取骇客建置的OpenAI开源模型gpt-oss:20b，以此产生恶意的Lua指令码并执行，使用特定的提示盘点受害电脑的文件系统，并外洩特定的资料，最终进行文件加密。值得留意的是，根据骇客使用的Lua指令码，此勒索软件同时能对Windows、Linux、macOS环境发动攻击。ESET指出，这是首度有人在勒索软件导入AI的情况。
附带一提的是，这个勒索软件的开发者似乎打算加入破坏文件的能力，但目前尚未实作。一旦执行，该恶意程序就会以128位元SPECK加密演算法加密受害电脑的文件，然后留下勒索讯息，要求支付比特币，根据勒索讯息的内容，钱包似乎是比特币创造者中本聪（Satoshi Nakamoto）所有。
根据此恶意程序的特性，ESET初步认定并非实际的作案工具，而是概念验证（PoC），或是正在开发中的勒索软件。对此，他们认为有义务向资安社群揭露此事。
在ESET公布之后，资安研究员Klydz声称这是他开发的专案，并表示不知为何遭到外流。儘管如此，PromptLock的出现，代表AI可在恶意软件的执行流程用于攻击，甚至有可能带来跨平台功能，或是降低歹徒进入网路犯罪的门槛。
