Skill-Omni发布:AI Agent的经验从文字转向视觉
openJiuwen社区发布了Skill-Omni,这是一个直接落地的多模态Skill范式。它让智能体(Agent)在修图、GUI操作等高度依赖视觉的任务中,不再只靠文字指令,而是能“看见”操作的标准流程。
传统Skill范式在图像修复这类任务中,仅凭“色调柔和”之类的文字描述,Agent很难把握调整的尺度。Skill-Omni的做法,是把网页截图、界面状态和视频操作脉络转成可复用的视觉经验资产。通过引入对比图和关键帧,Agent不仅能知道操作步骤,还能直观理解任务预期的视觉标准,执行的成功率和准确度因此提升。
开发者可以用Skill-Omni内置的自动生成工具,把网页链接或B站视频教程直接转成多模态Skill。系统会自动过滤广告等干扰信息,只提取关键截图和步骤逻辑。这样一来,互联网上零散的操作内容就变成了Agent的高质量“经验库”,复杂软件的安装、配置或设计操作不再需要从零摸索。
JiuwenSwarm平台设计了一套按需读取机制,来平衡模型的上下文负担和视觉信息获取。系统运行时动态检测视觉支持能力,只在模型确实需要参考图片时才调用,避免一次性塞入大量图片浪费资源。这种按需注入的视觉证据,让Agent执行任务时能像人一样,实时查阅“操作示范”,误操作的概率大幅降低。
Skill-Omni的推出,意味着AI Agent的经验工程从单纯的文档驱动,开始走向视觉与逻辑并重的多模态时期。目前,该范式已在图像处理、GUI自动化以及企业知识库升级等场景中展现出潜力。未来,Skill-Omni会向Physical AI领域探索,尝试沉淀物理交互经验,让智能体在现实世界中实现更精准的操控。Skill-Omni已在JiuwenSwarm中实现开箱即用,开发者可以直接用它构建更强大的多模态Agent。