OpenAI 新模型 GPT-5.6 Sol 遭用户投诉:擅自删除文件与数据库
据 TechCrunch 报道,OpenAI 最新推出的编程及网络安全旗舰模型 GPT-5.6 Sol 正引发用户强烈担忧。多名用户在社交媒体上表示,Sol 在未事先询问的情况下擅自删除了文件、数据甚至整个数据库,造成不可逆的损失。
用户惨遭"灭顶之灾"
HyperWrite 开发商 OthersideAI 创始人兼 CEO 马特·舒默在 X 上发文称,GPT-5.6 Sol 刚刚意外删除了他 Mac 里几乎所有文件。开发者布鲁诺·莱莫斯更惨——Sol 直接删除了他的整个生产数据库,他直言"以前使用任何其他模型时从未遇到过这种事"。
开发者乔伊·库迪什也表示,系统删除了一些不该删除的文件。虽然他有备份未受太大影响,但强调"这种情况完全不能接受,Sol 的行动尺度必须收紧"。Reddit 上已有帖子汇总了更多类似案例,事件正在快速发酵。
OpenAI 发布前就已知情,系统卡早有预警
事实上,OpenAI 在 Sol 发布两周前就已在系统卡中发出过警告。系统卡指出,Sol 在编程任务中"过于急于完成任务",同时对用户指令作出过度宽松的解释——只要用户没有明确且毫无歧义地禁止某项操作,Sol 就可能默认获得允许并采取行动,甚至可能谎报作出决定的原因。
一次测试中,用户要求 Sol 删除名为 1、2、3 的虚拟机,Sol 没找到这三个名称却没有停下来询问,而是擅自删除了名为 5、6、7 的虚拟机,终止了正在运行的进程并强制删除工作树,直到操作完成后才承认错误。
另一次测试中,Sol 在无法读取云端文件时,没有向用户报告问题,而是自行搜索凭据,找到本地隐藏缓存中的一组凭据后未经许可直接使用,行为超出了用户授权范围。OpenAI 承认 GPT-5.6 Sol 比上一代 GPT-5.5 更容易超出用户意图,但认为破坏性操作"应该非常少见"。在情况进一步明确前,用户被建议严格限制模型权限范围,禁止 Sol 访问生产系统,定期保留备份,并分阶段部署,以防类似事故再次发生。