专门针对机器学习与人工智慧系统的漏洞悬赏专案Huntr指出，号称能根据使用者需求自主执行任务的新兴AI应用系统AutoGPT，存在重大层级的作业系统命令注入漏洞CVE-2024-6091，该弱点出现在AutoGPT处理禁用Shell命令的方式，攻击者有机会藉由更改过的路径，就能绕过相关防护．CVSS风险评分达到9.8，近日开发团队已发布更新予以修补。
什么是AutoGPT？这是以GPT-4为基础开发的AI代理程序，号称是全自动的人工智慧系统，能够根据使用者下达的任务指令，经过分析后自行设立下个阶段的目标，并进一步执行，过程里还能透过网路搜寻取得完成任务的相关资料，用户无须参与中间的过程，迄今已有超过16.7万名GitHub开发者肯定这个专案（给予星号标记），并且有44万个由AutoGPT分叉出来的专案採用，换言之，这些专案很可能也曝露在相关风险之下。
通报此事的研究人员PinkDraconian指出，他们发现只要强制AI使用完整路径执行指令，攻击者就有机会绕过AutoGPT停用特定Shell命令的限制。
为了验证漏洞的概念与可行性，研究人员也公布示範此种威胁的程序码。他们透过.env文件，将whoami、/bin/whoami列入停用名单，然后将原本的whoami命令更换为/bin/./whoami，就能绕过AutoGPT的黑名单。
