最新消息:关注人工智能 AI赋能新媒体运营

Perplexity推出的AI浏览器Comet可被诱骗,研究人员引导至冒牌电商网站自动下单

科技智能 admin 浏览 评论

生成式AI已逐渐融入你我的生活,其中一项就是被整合到浏览器当中,不仅常见的浏览器Chrome、Edge、Brave已整合AI助理,AI业者Perplexity也推出自家浏览器Comet、OpenAI为ChatGPT加入Agent Mode,试图颠覆使用者的上网体验,然而整合AI代理程序带来的便利,也可能成为攻击者眼中的肥羊,他们有可能诱骗AI机器人上当,让它们存取钓鱼网站、假电商平台,或是透过隐匿的恶意提示进行互动,过程中完全不会有使用者介入。

资安业者Guardio提出警告,这些AI浏览器虽然能透过代理程序机器人将使用者处理电子邮件、线上购物等上网活动自动化,但他们的研究结果发现,这些便利的背后存在着资安隐忧,原因是在导入这种代理AI机制之后,也为浏览器带来AI的相关弱点,而有可能在没有完整的资讯下採取行动、过于容易信任,并且在人类自然会存疑的情况下执行有问题的指示。

换言之,AI浏览器有可能在使用者不知情的情况下,点选、下载、处理敏感资料。Guardio指出,在浏览器整合AI之后,攻击者不再需要愚弄使用者,而是只要对AI下手,就能造成使用者损失,他们称呼这种新的诈骗模式为Scamlexity。

为了验证上述的理论,Guardio挑选AI业者Perplexity出品的Comet进行测试,设置3种场景来进行实验,从冒牌Walmart电商网站、用于攻击行动的富国银行(Wells Fargo)钓鱼网域,对浏览器的AI代理程序进行ClickFix网钓攻击,藉由在伪造的CAPTCHA图灵验证机制埋入提示注入,从而直接控制代理程序,该公司将这种用于对AI下手的手法称做PromptFix。

在攻击模拟尝试时,Guardio首先测试其最常主打的功能一项功能,那就是协助用户购买特定的物品,找到有货的电商网站下单并进行结帐。他们透过AI网页製作工具Lovable打造了冒牌Walmart商城进行测试,要求Comet的AI购买Apple Watch,结果浏览器在几乎没有察觉异状的情况下,直接存取假商城下单,并填入浏览器储存的信用卡资料及地址完成购买,过程中完全没有要求使用者确认。

接着他们要以用户会透过AI处理电子邮件信箱收到的特定邮件为背景,使用ProtonMail服务寄送钓鱼邮件,研究人员假冒富国银行的投资经理寄送,并于信件内容挟带一个真实的钓鱼网站网址,但该网站并未被Google Safe Browsing识别有害。结果Comet在收到电子邮件后,就直接标记为待办事项,并在未经过验证的情况下点选连结,要求使用者输入相关帐密,甚至协助填写表单。

最后一种则是涉及提示注入的网钓手法PromptFix,Guardio结合对针对人类的ClickFix手法,他们将用于欺骗人类複製恶意指令的假图灵验证网页,在隐藏的文字方块埋入对AI代理提示注入的指令,一旦浏览器存取该网页,就会直接读取这些提示。

发表我的评论
取消评论

表情

您的回复是我们的动力!

  • 昵称 (必填)
  • 验证码 点击我更换图片

网友最新评论