最新消息:关注人工智能 AI赋能新媒体运营

OpenAI上线年龄检测系统,限制未成年人接触不当内容

科技资讯 admin 浏览

OpenAI推出“年龄识别”功能,为青少年打造更安全的AI对话环境

近日,OpenAI正式在ChatGPT消费版中上线一项新功能——通过行为模式智能判断用户年龄,尤其针对18岁以下青少年群体,主动提供更强的内容保护。这不是简单的“勾选年龄”选项,而是系统悄悄观察你什么时候用、怎么问问题、多久登录一次,再综合判断你是否可能是个未成年人。

为什么这么做?因为越来越多的孩子在用AI聊天、写作业、倾诉心事,但有些内容——比如自残方法、极端减肥建议、暴力角色扮演——一旦被推荐或讨论,后果可能很严重。OpenAI这次不靠用户自己申报,而是靠算法“猜”年龄:深夜频繁使用、提问方式偏稚嫩、长期询问“怎么自杀才不疼”这类关键词……这些信号都会被系统记录分析。一旦判断你可能是未成年人,安全模式就会自动启动。

五大高危内容,自动屏蔽

一旦被识别为青少年,ChatGPT会立刻关闭以下五类内容的回应:

  • 暴力、血腥或自残的具体方法与描述
  • 鼓励危险模仿的网络挑战(如“冰桶挑战”变种、窒息游戏等)
  • 涉及性暗示或成人角色扮演的对话
  • 宣扬极端瘦身、身材羞辱、厌食症“美化”等内容
  • 教唆违法、仇恨或极端主义的建议

这不是“过滤关键词”那么简单。系统能理解语境——比如你问“我太胖了,活着没意思”,它不会敷衍回复“每个人都有价值”,而是会主动提供心理援助资源,比如推荐青少年热线或专业咨询平台。

家长能管,误判也能改

如果你是家长,现在可以通过新推出的“家庭守护”功能,绑定孩子的账户,设置:

  • 每日使用时长上限(比如晚上10点后自动暂停)
  • 接收异常提问提醒(如孩子连续三天搜索“怎么结束生命”)
  • 查看孩子最近的对话摘要(不读内容,只看风险标签)

如果成年人被误判为未成年人,也不用慌。系统提供“身份复核”通道:只需上传一张本人自拍(与身份证照片比对),由第三方权威身份服务商验证,10分钟内就能恢复完整功能。整个过程加密处理,不存照片,不用于其他用途。

这不是AI在“监视”,而是在“守护”

很多人担心:这会不会变成监控?OpenAI强调,这套系统不记录具体对话内容,只分析行为模式和风险关键词的出现频率。它不会告诉老师、学校或政府你是谁,也不会把数据卖给广告商。

事实上,这项功能的推出,源于过去一年大量真实案例的推动。美国青少年心理健康基金会(Mental Health America)2023年报告指出,超37%的13–17岁青少年曾向AI询问过心理健康或自杀相关问题,其中近1/5得到的是不当回应。OpenAI的工程师团队表示:“我们不想等悲剧发生才行动。”

目前,该功能已在美国、英国、加拿大、澳大利亚等国家率先上线,后续将逐步覆盖全球。如果你是家长,不妨现在就登录ChatGPT账户,看看是否能开启“家庭控制”——也许,它会成为孩子深夜里,那道不声不响却最可靠的保护墙。