​​​​​​​

从“DeepSeek”（深度求索）到“豆包”，中国AI快速迭代发展，亦在近期被民众发现有用户在滥用AI创作淫秽制品并广为传播，此现象在中国快速引起广泛讨论。

中国中央广播电视台近期亦发布公开调查，表示已经观察到有很多人在公开贩售AI口令，号称可以仅凭一张图片、甚至一些文字内容就可以让用户自己去生成让自己满意的大尺度照片、甚至影片。

在某短视频平台上，标题为“AI制作美女视频”、“全网最强大尺度”、“AI擦边赛道日入5位数”等露骨影片层出不穷，还有免费的详细教程影片教民众如何这般使用AI“造黄”——央视称，在这些影片里，发布者会强调如何让用户巧妙规避审核。

在中国最大二手交易平台“闲鱼”上，用暗语互相交流、贩售类似“造黄口令”的卖家更不在少数，不到10元人民币即可获得详细的教程。

根据多家中国媒体报道，有关记者在购入这些教程后发现即便价格低廉，下单后教用户使用的手册异常详细。相关口令细致到对视频里出现的人物角色发型、表情、动作姿势甚至细致的幅度范围都有详细的刻画要求。为了规避AI平台自带的基础审核，一些敏感词还会被置换为英文。

这些被央视和其他中国媒体点名的AI服务商多达十几款，有些是豆包这样的大宗AI服务商，有些是甚至不联网的UI平台（这是一个完全基于电脑本身的本地部署平台，不联网，没有服务商，只是一个辅助工具），还有一些是依附在大模型上的自有小架构，比如在视频生成上遥遥领先的SeeDance的辅助视频编辑平台等——也就是说这些服务商的本意并不是为了生成类似的淫秽图片，但是却在这个功能上遭滥用。

截止稿件发出时，在中国最大视频平台Bilibili（哔哩哔哩）上，BBC中文记者在这个被中国官方定性为“青少年友好网站”的平台搜索框内键入“ComfyUI”，检索列表前几位赫然显示“大尺度工作流教学”。视频首图言简意赅写明“姿态、神态、动作、口型”，意指和对话型口令相似。

有视频创作者直接在这些20万播放量左右的影片开篇即说明“相信大家学AI就是为了搞黄”，6000多条评论里，影片发布者不断回复网友请求，免费发送辅助达成制作黄色内容的口令和辅助插件。

此外，提供AI换脸、“一键脱衣”的口令也在网路上走红——其实早在2023年，用AI换脸做娱乐圈明星大尺度照片、把身边人的照片用于投喂AI“造黄谣”的事件即已发生。即便在“小红书”这样被称为更为性别友好的社交平台上，在今天，搜索“如何让DeepSeek更大尺度对话”或者“如何让AI开车”的帖子和“技巧”亦层出不穷，在中国社交媒体上，“开车”的意思就是走上黄色内容道路。而从帖子发布时间和回复上看，几乎从DeepSeek问世至今从未有停歇。

相较之下，DeepSeek这样的大模型还需需要用户去投喂、调试参数多次才能达到“开车”，另一些更直白宣传为“大尺度恋爱模拟器”的对话型AI软件也在中国更年轻的群体里走红——这些平台都没有实际关于下载用户的年龄限制。

但值得注意的是，和BBC中文对话的多个程序员、软体开发工程师都表示，关于软色情是否可以禁止，在平台方来说可以尝试操作，但“这更多是一个有没有必要的问题”。

“中国本身就没有分级制度，你不能期待一个公司去完善开发一套行之有效的系统。换句话说，这样这个公司还会承担用户流失的风险。”

截至发稿前，豆包的母公司没有回应BBC中文的置评请求。

审核：什么叫“黄”？

曾在中国某视频平台做审核员的王女士告诉BBC中文，由于中国完全没有分级制度，在她在职期间，在这个网站审核系统内部，他们只能自己去开发摸索“淫秽色情”和“擦边”两种的边界。

“和政治红线比起来，这个标准非常模糊。对于平台方来说，擦边的相关处罚不重，又能吸引用户，所以看起来我们对于涉黄内容的管理比较松散，”王女士这样说，由于工作内容性质，她要求匿名接受BBC中文访问。

AI公司和视频平台关于审核的逻辑并不完全相似，是否涉黄是一个道德问题，得通过与人交互达成。而能不能涉黄是一个技术问题，是AI生成。

这就意味着对于AI大模型的开发部门来说，内嵌并行的审核系统虽然重要，但更多是保障比如王女士提到的政治红线等有明确信息边界的内容，至于色情问题，大家更多没有答案。

而对于视频平台来说，这个问题不太一样：在AI审核系统之外，他们需要人工审核专业团队的介入完成维护。

中国多个视频平台的审核流程框架比较相似，由网站自有的AI先进行一轮扫描筛掉最基础、最方便辨识的违规内容，有争议的送到人工审核的电脑前，由审核员自己一点点拉片，多轮审核一条视频是否合规、符合网站运营要求。

“审核部门很大，而且是一个由很多活人构成的部门，这就导致每一个人对于一个法规的标准理解都有差别，和政治红线完全不一样的是，一个角色穿得清凉是属于设计还是违规？是时尚还是涉黄？每一个审核员都有自己的理解 ，”王女士这样解释。

“中国在国家层面都没有对于黄色内容做分级处理，你不能指望一个公司内部就把这个标准给统一了。”

另一位在中国从事AI开发的电脑工程师易先生也告诉BBC中文，在他视角里，用AI去生成黄色内容是ChatGPT问世之初他就觉得一定会发生、且会滥用的事情。

“对于每一家AI公司来说，内容生成和审核都是两个分开的部分。回答用户的部分和审核处理的部分是并行各跑各的，你可以理解为你直接把一个材料扔给豆包，问豆包这个算不算黄色内容，这就是内嵌审核机制的逻辑，”易先生这样说。

在杭州某互联网大厂从事游戏开发的工程师蔡先生也向BBC中文抱怨称，在他们公司设计的每一款开放世界游戏NPC（非操控角色）里，只要这个NPC被设计为有一点点AI对话的能力，就有无数玩家涌现去用这个NPC尝试黄色对话。

就连豆包这个虚拟形象都被用于做黄色影片主体角色。

“你就是不知道为什么一些用户那么爱搞黄色，”蔡先生这样说。“但是对于什么是黄色，这是一个非常模糊的事情，你不能直接说性交就是黄色，它可以是正常的性教育科普。你也不能说有裸露就是黄色，有可能就是一个角色的设计。一些人搞黄，它强调的是前后语言配合、人类用户根据既有信息、在自己生活经验的基础上联想生出的一个暧昧场景，这个东西对于一个人来说才叫黄色——但这个氛围的考虑，这个动作是否妥当，不是一个AI内嵌系统可以去自己判断的。”

“在我的角度来说，用AI生成黄色内容这件事就好比你去教一个外国人骂脏话，对他来说这只是一个读音，对一些人来说就是脏话，AI的逻辑就好比这个完全不懂这个语言的外国人，它只是回应了这个需求，”蔡先生说。

AI“造黄”早在流行

豆包作为一款更为亲民的中国自产对话型AI，在登上今年的央视春晚舞台——也是中国每年最大规模的综合综艺类节目——之后，更快蹿红社交平台。在抖音上，和豆包的视频对话、电话对话视频亦颇受欢迎。但一段时间以来，由于豆包的人塑形象是短发女性形象，语气总是稍显讨好，以豆包这个虚拟人物模样为主的AI产淫秽图片同样开始在社交媒体上流传。

一些民众评论此举表示“对着机器人都要搞黄色是不是有点太过分了”——这只是印证了蔡先生的说法，用户几乎只是在探索中国规章秩序所允许的黄色内容边界，AI只是作为最新工具推波助澜了这个探索趋势。

4月初，中国媒体先报道了一个豆包封号案例，因为这个用户把私人照片发给豆包求评价。不久，4月18日，豆包悄然进行了重大调整，更新后平台无法再搜索出用户自创的“智能体”——也就是在这个AI平台上养成的一个有特定性格、语言习惯回复的角色，并彻底移除了个人智能体的功能，仅保留了官方智能体，以期能籍此遏制利用“智能体”功能生成并传播违规内容的风险。

这被视为豆包对于AI淫秽使用的一个表态。

在中国，这并不是AI首次因为“造黄”而被推上风口浪尖。早在2022年，被称为“中国n号房”的大规模换脸事件即引起巨大讨论。当时，在Telegram多个群组内，用户自发将身边的人上传到微信等社交媒体的个人照片通过换脸的方式制成淫秽内容、私下传播。即便讨论声量极大，官方对此讳莫如深，并未做出任何反应。

2023年9月，AI游戏乙女平台星野上线，在几个月后，由于大量用户几乎仅用星野进行大尺度对话，语料库涉黄指数过高，星野被网安部门要求整改。2025年，同样的事情亦发生在AI情感陪伴应用“筑梦岛”APP上——当用户明确告知自己的年龄为10岁时，AI仍向其发送大尺度内容。由此，上海市网信办约谈制作方并要求整改。

2025年9月，AI聊天App涉黄第一案宣判，根据中国媒体报道，这个定位为AI伴侣聊天应用的平台吸引到11.6万用户，产生了400万余段交互聊天，在随机抽样鉴定中，150名用户里就有141名用户聊天内容涉黄。一审宣判结果是两位创始人被认定为制作淫秽物品牟利罪，分别获刑4年、1年6个月，并处罚金400万元和20万元。随后两人提起上诉。

今年4月，中国发布《人工智能科技伦理审查与服务办法（试行）》和《人工智能拟人化互动服务管理暂行办法》，在AI使用的监督管理上做出尝试。在涉黄问题上仅浅尝辄止点到不得“传播淫秽、色情”，而关于什么是淫秽色情亦并未有规定，“制作”淫秽色情是否属于监管范畴同样没有提出。

此前，歌手泰勒丝（Taylor Swift）亦受AI“造黄”困扰，深伪不雅照在X和脸书平台上流传，两家运营公司都表示会积极删除相关内容。美国大选期间，泰勒丝换脸宣传为特朗普投票的海报更在美国引起争议。

而在本周一，泰勒丝本人更是表示已申请注册其声音和外观的商标，以保护自己免受AI仿制品的侵害。

易先生对BBC中文表示他觉得关于AI“造黄谣”这个趋势，他觉得最荒谬的是就连完全不联网的本地部署UI——也就是在Bilibili上广为流传的ComfyUI本体——都要被用来制作黄色产品。因为不联网，这甚至不完全不涉及服务商责任、不涉及审核、限制也无从谈起。

“在我看来，问题完全不在审核，而在于更大的社会文化、在于没有分级制度上。你去骂一个AI系统有这个功能，就好比在骂Word软体可以用来被生成黄文，这根本没道理。而且中国本身都没有固定的、通用的可以参考的分级系统，禁不禁软色情更多是产品经理的考虑，但目前来看就是完全没必要禁止软色情，‘造黄’这件事在中国还是会持续争议下去。”