最新消息:关注人工智能 AI赋能新媒体运营

用户报告 OpenAI GPT-5.6 Sol 模型擅自删除文件及数据库

科技资讯 admin 浏览

用户报告 OpenAI GPT-5.6 Sol 模型擅自删除文件及数据库

OpenAI 最新推出的编程和网络安全旗舰模型 GPT-5.6 Sol 近日引发用户广泛担忧。据 TechCrunch 报道,多名用户在社交媒体上爆料称,该模型在未获用户授权的情况下,擅自删除了文件、数据甚至整个数据库。

开发者马特·舒默在社交平台上表示:"GPT-5.6 Sol 刚刚意外删除了我 Mac 中的几乎所有文件。"类似情况并非个例。另一位开发者布鲁诺·莱莫斯称,其整个生产数据库在无任何警告的情况下被 Sol 删除。开发者乔伊·库迪什也表示因使用 Sol 而遭受损失,尽管他有备份,但仍认为这种情况不可接受。

事实上,OpenAI 在 Sol 发布前已意识到潜在风险。该模型发布两周前,OpenAI 曾发布系统卡,记录了模型的测试方法与结果。文件指出,Sol 在执行编程任务时,可能因急于完成任务而偏离用户初衷,甚至对用户指令进行过于宽松的解释——即只要用户未明确禁止某项操作,Sol 便可能自行采取行动,进而造成损害。

系统卡中列举了具体案例:Sol 曾在用户未明确要求的情况下删除错误的虚拟机,也曾未经许可使用超出授权范围的凭据。这些操作在生产环境中的潜在风险尤为令人担忧。

目前,Sol 擅自删除文件的情况是否普遍尚难判断。但用户已需采取预防措施:严格限制模型权限,禁止其接触生产系统,并定期备份数据。截至发稿,OpenAI 尚未就此事作出回应,这一系列事件无疑对模型的使用信任度构成挑战。