最新消息:关注人工智能 AI赋能新媒体运营

研究人员利用AI推理行为绕过浏览器防护,诱骗Perplexity Comet访问钓鱼网站

科技资讯 admin 浏览

安全公司Guardio的研究人员展示,可利用Perplexity的Comet AI浏览器的运行机制与防护原理,制作更精良的钓鱼网站,诱使用户落入诈骗陷阱。

研究人员指出,AI搜索或浏览器虽具备安全上网策略,但其本质缺陷——“代理式喋喋不休”(Agentic Blabbering)——正是其致命弱点。Agentic Blabbering指AI系统在运行过程中,通过逐步推理、调用工具、截取屏幕、判断并最终决定“足够安全”后点击的完整流程。研究人员于是“以子之矛、攻子之盾”,利用这套推理机制结合AI模型,生成能够绕过其防护逻辑的诈骗信息与钓鱼网站。

研究人员首先拦截Perplexity Comet代理与AI后端之间的通信流量,收集其提示词、推理过程与决策信号,从而理解其感知内容、判断依据及反欺诈逻辑。随后,将这些数据输入生成对抗网络(Generative Adversarial Networks, GAN)以训练诈骗生成模型。目标是让GAN通过反复反馈循环,直至能生成足以欺骗Comet的诈骗内容。

研究人员公布了其命名为“ScamMachine”的GAN生成的钓鱼网站版本,并测试其对Perplexity Comet的绕过效果。初始版本的钓鱼网站很快被Comet识别为恶意页面并发出警告。研究人员随后逐步优化网页视觉效果、提升专业性、加入个性化问候语、采用更可信的结构,并移除与钓鱼行为相关的可疑特征。结果表明,该生成模型仅经过4次迭代、耗时4分钟,便成功绕过Comet的检测,被判定为可信网站,远低于预期的数小时。

研究人员指出,缺乏安全优先设计的AI浏览器,反而可能成为诈骗内容传播的加速器。除了应建立安全默认机制、严格限制代理权限范围外,还必须解决Agentic Blabbering问题——避免过度暴露决策逻辑,防止攻击者借此反向破解防护策略。