近日，央视曝光多款AI应用存在涉黄生成漏洞。在测试过程中，记者发现如果输入的提示词表述较为“露骨”，多数AI应用会触发审核机制并拒绝生成内容。然而只要将提示词修改得更加隐晦，便有可能绕过限制。
▲央视财经报道揭秘AI“造黄”产业链（视频截图）
在一款名为“哩布哩布AI”的AI应用里，记者输入在网上购买的提示词后，仅仅几分钟，平台就生成了一个半裸身体的女性跳舞视频，没有触发平台任何限制机制，同样的问题也出现在市场上其他常见的AI应用平台上。
红星新闻记者注意到，截至4月13日中午，“哩布哩布AI”在苹果、安卓等手机应用商店仍可以正常下载。记者就APP存在涉黄生成漏洞一事咨询该公司公开电话和应用客服，截至发稿未获回复。
天眼查显示，LiblibAI关联公司为北京奇点星宇科技有限公司，该公司成立于2023年5月，经营范围包括服务消费机器人制造、工业机器人制造、工业机器人销售等。LiblibAI官网介绍，该公司是一家专注于AI与创意生产的科技公司，聚焦图像、视频、设计等多模态场景，构建真正面向未来的 AI-Native 创作基础设施。
官网称，公司自成立以来，已获得来自红杉中国、CMC 资本、顺为资本、源码资本、明势创投、渶策资本等多家基金的投资与长期支持。官网公开数据称，截至2024年5月，LiblibAl已经积累了近1000万专业的Al图像创作者，用户量位居国内第一。
▲其官网公开的相关数据
2024年，LiblibAI通过国家互联网信息办公室的深度合成服务算法备案，并成为国内首家通过《生成式人工智能服务管理暂行办法》备案的AI社区。2025年10月，公司宣布完成了1.3亿美元B轮融资。
▲天眼查显示的其融资历程
2025年4月，网信办开展的“清朗·整治AI技术滥用”专项行动明确指出，将重点整治利用生成式人工智能技术向公众提供内容服务，却未履行大模型备案或登记程序的违规AI产品。今年4月10日，《人工智能拟人化互动服务管理暂行办法》正式公布，从制度层面为AI技术应用划定红线，进一步明确了安全评估和算法备案的相关要求，同时还对未成年人和老年人使用拟人化互动服务作出了相关规定。
红星新闻记者 蔡晓仪
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】