哩布哩布AI回应AIGC安全争议:全面升级审核,公开举报通道
4月14日,国内AI绘画平台哩布哩布AI(Liblib AI)就近期媒体关注的AI生成内容安全问题发布正式声明。面对公众对平台可能生成违规、低俗或违法内容的质疑,哩布哩布AI没有回避,而是第一时间展开内部排查,并公布整改结果。
声明承认,在极少数情况下,用户通过高度复杂、刻意绕过关键词过滤的提示词组合,曾诱导系统生成不符合内容规范的结果。这类情况虽属个例,但平台高度重视。目前,技术团队已完成对相关漏洞的修复,封堵了已知的规避路径,并对模型输出层实施了更严格的语义拦截机制。
审核系统全面升级,实战演练常态化
为防止类似问题再次发生,哩布哩布AI已全面升级内容审核系统。新机制不仅依赖关键词过滤,更引入了多模态识别技术,能对图像内容、上下文语义、用户行为模式进行综合判断。平台还组建了专项攻防小组,每周开展“红蓝对抗”模拟演练——由内部安全团队模拟恶意用户攻击,测试系统防御能力,确保响应速度和准确率持续提升。
与此同时,公司内部启动了全流程责任复盘,从产品设计、提示词管理到人工审核环节逐一梳理,明确各岗位安全责任,杜绝“重功能、轻安全”的旧有思维。
公开举报邮箱,欢迎公众监督
“内容安全不是可选项,是底线。”声明中强调。为构建更透明、更负责任的社区生态,哩布哩布AI即日起正式开通公众举报通道:如有发现平台生成违规内容,可直接发送邮件至 support@liblib.ai,平台承诺在24小时内响应,并对有效举报给予反馈。
此次事件也反映出,随着AIGC技术快速普及,公众对AI内容的边界越来越敏感。不仅是哩布哩布AI,国内多家主流AI平台近期都在加强合规投入。有行业人士指出,2024年将成为国内AIGC行业“合规元年”,监管政策与平台自律正在同步加速。
作为国内用户量领先的AI创作平台之一,哩布哩布AI此次主动回应,被不少用户评价为“有担当”。不少创作者在社交平台留言:“我们支持技术进步,但更希望平台守住底线。”
