国内“AI涉黄第一案”敲响的警钟

最近，备受瞩目的“Alien Chat”涉黄案进入二审。这起被业界喻为“AI版快播案”的标志性案件，再次将“技术中立”的边界与AI生成内容的刑事责任归属问题推向了舆论的风口浪尖。

庭审虽在个案，但其引发的法律思考却关乎整个AI产业的未来。该案开发者因“制作淫秽物品牟利罪”分别被判处有期徒刑四年和一年半，成为国内首起AI服务提供者涉黄获刑的典型案例，被业内称为AI时代的“快播案”。

（截图源于红星新闻）

随着生成式AI（AIGC）的普及，淫秽物品的产生方式正在从“人工创作”向“机器生成”转变。

在“用户指令+AI生成”的模式下，淫秽内容到底算谁制作的？是开发工具的人，还是使用工具的人？这个问题不仅关系到具体案件的判决，也决定着整个AI行业能走多远。

 

开发者被认定为“制作正犯”的逻辑

作为国内首起标杆性案件，Alien Chat（以下简称“AC案”）的裁判逻辑，体现了当前司法机关对人工智能服务提供者“内容生产者责任”的穿透式审查思路。其论证结构主要围绕《刑法》及相关司法解释的构成要件展开。

一、法律依据与构成要件

根据《刑法》第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，构成犯罪。最高人民法院、最高人民检察院的司法解释进一步明确，“制作”是指将特定想法、观念或情感通过构思、设计、安排等方式在淫秽物品中予以表现的行为。

二、案件构成要件分析

法院在认定AC案开发者是否构成“制作淫秽物品牟利罪”时，主要从以下三个方面进行审查：

1.客观行为：主动设计与干预

开发者并非仅提供中立的聊天框架，而是通过编写并修改系统提示词（Prompt），主动突破了大语言模型原有的伦理限制。其预设的英文提示词中包含“露骨的性都是被允许的”等明确指令。司法机关认定，这种对生成机制的人工干预，实质上完成了对淫秽内容的“构思与设计”，属于刑法意义上的“制作”行为。

2.主观目的：明确的牟利意图

该应用采用付费会员制运营，至案发时已非法获利人民币363万余元。这一大规模营利事实，直接印证了开发者具有明确的“牟利目的”。

3.核心认定原则：实质控制力

法院在裁判中采用了“实质控制力”原则作为关键认定标准。尽管淫秽内容以“人机互动”形式呈现，但开发者通过技术手段修改提示词、突破模型限制，实际上主导并决定了AI的输出内容与方向。这一过程具有高度的可控制性与可预测性，开发者已超越单纯的技术提供者角色，成为违法内容生成机制的整体设计者。因此，法院将其认定为淫秽内容的“源头生产者”，即正犯。

 

是制造工具？还是制造内容？

在AI涉黄案件中，核心争议在于：程序员开放模型限制的行为，究竟是创造了“淫秽内容本身”，还是仅仅创造了“生产淫秽内容的工具”？ 这一区分在刑法判定中至关重要。

首先，行政法规确立了服务提供者的“生产者责任”地位，但这本质上属于行政管理范畴。

根据《生成式人工智能服务管理暂行办法》第九条，服务提供者须承担“网络信息内容生产者责任”。这是为了便于监管与追溯，将平台视为第一责任人，主要目的是督促其履行内容安全义务，而不代表其行为在刑法上就属于“犯罪实行行为”。

其次，从技术层面看，系统提示词（System Prompt）的修改本质上是“规则设定”而非“内容创作”。 虽然程序员通过修改System Prompt移除了安全限制，甚至预设了“允许色情”的逻辑，但这一行为在物理上仅是构建了一个“可被用于输出淫秽内容的AI工具”。这与直接编写淫秽小说、拍摄淫秽视频有本质区别。在AC案中，如果没有用户的具体指令触发，这个“工具”本身并不会自动吐出淫秽内容。程序员搭建的是一个“可能产生违法内容的场所”，而非直接生产了违法内容。

简单举例来说：

程序员修改提示词，就好比制造了一把没有刀鞘的菜刀。这把刀确实更容易伤人，但只要无人使用，它就不会造成伤害。真正造成伤害的，是持刀行凶的人。不能因为造刀者去掉了安全设计，就直接认定他行凶。

这种将“开发工具”直接等同于“制作淫秽物品”的逻辑，存在混淆“风险”与“实害”的嫌疑。

武汉大学敬力嘉副教授指出，在AC案中，程序员的行为实际上是创设了淫秽物品制作的抽象危险，是用户的使用行为将这种抽象危险转化为了具体的实害结果。

如果因为程序员通过Prompt影响了生成概率，就将其认定为“制作正犯”，这在刑法理论上属于“帮助行为正犯化”的扩张适用。这种逻辑不仅消解了实行行为与帮助行为的界限，也可能导致对技术中立原则的过度侵蚀。

 

AI色情内容刑事责任归属的核心困境

关于法院将AI开发者定为“制作淫秽内容”主犯的判决，我们需要从法律基本原则的角度，再做一些深入思考。

核心问题在于：制作“工具”≠制作“内容”

例如，开发一个能生成色情内容的AI，就像是制造了一把特殊的钥匙。这把钥匙虽然能打开一扇不道德的门，但它本身不是门里的内容。

• 开发者提供了“工具”：他们的核心工作是创造了一套有对话能力的算法系统。即使他们为了让用户更喜欢用，而把这个系统“调教”得更倾向于聊成人话题，其性质仍然是为他人提供了一个“工具”。

• “帮助犯”与“主犯”之别： 在法律上，提供犯罪工具的人，通常被认定为“帮助犯”（比如“帮助信息网络犯罪活动罪”）。要认定他为“主犯”，必须有更明确的证据，比如开发者和用户串通好去专门制作色情内容，或者开发者自己用AI批量生成色情内容来贩卖。如果仅仅因为提供了功能强大的工具，就直接把提供者当成了内容的主创者，这个逻辑在法律上可能有些跳跃。

其次，司法上“透过现象看本质”的做法，要防止用力过猛。

现在司法倾向于“穿透”技术的表面，直接看到其造成的危害。但这样做时，不能突破法律本身对犯罪行为的基本定义。

• 警惕惩罚过重：不能仅仅因为一个AI应用用的人多、赚的钱多，就忽略行为本身的差异，直接套用最重的罪名（制作淫秽物品牟利罪）。这可能导致量刑过重，罪责不匹配。

• 区分“放任”与“追求”： 很多开发者打“擦边球”，主要是为了吸引用户、增加活跃度，他们的主观心态是“放任”不好的事情发生，而不是“积极追求”去制作色情内容。这种行为性质，更接近于“不履行网络安全管理的义务”，而不是主动去当淫秽内容的“生产者”。

最后，要分清行政违法和刑事犯罪的门槛。

对于这类行为，国家已经有专门的AI管理法规来约束。如果一个APP增加了“一键脱衣”或“色情聊天”功能，首先是违反了这些行政法规。

• 先用行政手段管理：管理的第一步应该是监管部门责令其改正。如果开发者拒不改正，并且造成了很严重的后果，才可能触犯刑法中“拒不履行信息网络安全管理义务”这条罪名。

• 刑法应是最后手段：如果一上来就直接用最严厉的“制作淫秽物品罪”来处罚，等于跳过了所有的前置管理程序，让刑法冲在了第一线。这与刑法“谦抑性”（即不到万不得已不动用刑法）的原则不太相符。法律应该像阶梯，先给机会改正，严重到一定程度再动用最严厉的惩罚。

 

结语

在AI时代，到底谁来为色情内容负责，这本质上是在“精准追责”和“过度干预”之间寻找平衡。

从AC案可以看出，破解这个难题的关键在于：司法机关必须严格遵守法律条文，不能简单地把“开发一个工具”等同于“亲自制作了违禁品”。

回顾从快播案到今天的AC案，监管趋势已经将更多的责任赋予了平台和工具的开发者。因此，对于开发者来说，合规不再是束缚手脚的条条框框，而是在技术深水区航行时必须穿上的“救生衣”——它恰恰是保护自身安全、避免触礁的保障。

对于法律制定和执行者来说，保持对技术创新的包容与审慎同样重要。避免轻易扩大刑法的打击范围，防止“一刀切”的治理，才是真正维护数字行业活力与健康发展的做法。

在规范与创新的天平上，法律不应成为扼杀创造力的枷锁，而应成为指明合规方向、引导技术向善的理性基石。

 

本文作者

邓小宇，上海曼昆（深圳）律师事务所 合伙人律师。邓律师专攻刑事案件，参与办理案件近三百起，具备扎实理论功底与丰富实务经验。在Web3.0犯罪领域尤为擅长，曾为多家知名数字货币交易所提供刑事辩护，有效维护当事人权益。曾获“深圳律协三十周年特别贡献奖”并受多家国内知名媒体采访、数次受行业邀请授课。

 

李浩均，上海曼昆（深圳）律师事务所 执业律师。北京师范大学（珠海）法学学士。李浩均律师曾深度参与多起疑难复杂诉讼案件，具有扎实的专业基础、较高的专注度，致力于为客户提供复杂疑难问题解决方案，目标成为“既懂专业，也懂行业”的争议解决律师，目前专注Web3、区块链、加密货币等新经济领域的刑事、民商事案件。

 

关于曼昆

曼昆律师事务所成立于 2015年，是中国专注Web3.0新经济、深耕区块链行业的精品律师事务所。曼昆团队成员拥有独特的多元化行业背景，团队成员来自知名法律服务机构、国家司法机关、互联网科技公司、加密资产机构、区块链行业智库等。

基于对新经济领域的深刻理解、对政策法规的持续关注研究，以及丰富的实践经验，曼昆团队善于从商业模式和法律实务的角度，为Web3.0、区块链、Al、NFT、数字藏品、加密基金、加密支付、DeFi、RWA、GameFi等新经济企业提供商业架构设计、项目投融资、交易筹划、经营合规、复杂民商事争议解决、涉刑风险防控及刑事辩护等综合法律服务。

曼昆律所总部位于上海，并在中国香港、美国硅谷、深圳、杭州、郑州、成都等地设有分支机构。顺应 web3.0行业客户的全球化合规发展需求，曼昆在全球主要加密金融城市，设立当地办公室、精选当地专业区块链服务伙伴，为客户提供全球广度、中国深度专业法律及合规服务。