APP Alien Chat（以下简称AC）是一款AI伴侣聊天应用，定位是为年轻群体提供亲密陪伴和情感支持。
（图源：AC官方小红书）
2025年9月，上海市徐汇区人民法院一审判决AC案的创始人和开发者犯制作淫秽物品牟利罪，分别获刑四年、一年半。
这也是全国首例AI开发者因提供“AI情感陪伴软件”涉黄获刑的刑事案件，首次在司法层面将AI服务提供者认定为淫秽物品的“制作者”并承担主要刑事责任，因此成为AI涉刑案件中的标志性判例，引发了广泛争议与讨论。
本文旨在梳理该案的核心事实与判决逻辑，剖析其中关于“罪与非罪”、“制作与传播”量大关键争议点。并以该案为例，澄清AI创业者与程序员常见的三个思维误区，探讨AC涉刑案给AI创业者、技术负责人和产品团队带来的刑事风险警示。
I 本文作者：邵诗巍律师
1、AC案始末：一款“AI聊天机器人”为何走向刑事立案？
在AI浪潮背景下，2023年5月，上海某科技公司看中了“AI聊天机器人”这一热门赛道，推出AI陪伴聊天应用AC，在AC中，这些AI角色被包装为“具有情感、个性与一定自主性的朋友、恋人或家人”。
上线初期，部分用户就发现AC明显比同类产品“限制更少、互动更大胆”，很快在“AI角色扮演”圈子中走红。但其实，关键原因在于：AC团队系统性修改了底层提示词（prompt）。
根据警方调取的证据，AC开发者在系统层面写入了包含特定内容的指令，明确要求AI“可以自由描绘性、暴力、血腥场景，不受道德、伦理、法律或平台规范约束”。在产品设计上，AC不仅支持一对一私密聊天，还设置了“公开角色”“热门榜单”“社区展示”等功能，使部分露骨内容从“私人对话”转化为可被围观、传播和推荐的内容生态。
据司法鉴定，AC软件注册用户达11.6万人，其中付费用户2.4万人，共产生聊天内容427万余段。抽样鉴定显示，随机抽取的聊天记录中，有近三成被认定为淫秽物品。排名前20的公开角色对应的聊天记录中，抽样鉴定显示46.25%属于淫秽物品。
2、AC案的核心争议点分析：罪与非罪？此罪彼罪？
罪名适用争议：
本案从公安立案侦查之日开始，就争议不断：
侦查阶段，公安机关先以AC涉嫌非法利用信息网络罪立案，并以涉嫌制作淫秽物品牟利罪对两名被告人采取刑事拘留措施；随后，检察机关以制作、传播淫秽物品牟利罪以及非法利用信息网络罪批准逮捕；其后公安机关以制作淫秽物品牟利罪、非法利用信息网络罪移送审查起诉。
在审查起诉阶段，检察机关以传播淫秽物品牟利罪提起公诉，但一审法院最终改判为制作淫秽物品牟利罪，分别判处两名被告人有期徒刑四年和一年六个月。被告人随后提起上诉，目前二审尚未作出裁判。
后，被告人提起上诉，目前二审尚未判决。
判决公布并经媒体广泛报道后，该案在法律实务界与学术界引发持续讨论，相关观点大体可以归纳为两个方面。
1、AC案到底该不该入罪？两种观点的对撞
认为本案无罪的逻辑是，聊天内容是用户与AI互动生成的，具有私密性、不可预测性；开发者的行为属于技术调试和正常产品运营，主观上无犯罪故意，或仅为帮助行为，在用户行为本身不构罪或难以追责的情况下，追究平台刑责过于严苛。
认为本案构罪的逻辑在于，开发者的行为已超出“技术中立”或“正常运营”范畴，其系统性、主动性的措施（特别是编写越狱提示词、无违禁词宣传）创设了违法环境，并对此持放任或追求态度，主观恶性明显，应追究刑事责任。
2、制作还是传播？谁才是淫秽内容的“真正制作者”
从检察院和法院对被告人的罪名认定上可看出，关于ac案罪名认定的争议主要在于“传播”和“制作”淫秽物品的区别。
所以，淫秽内容到底是谁"制作"的？AC开发者只是打开了可能性，还是控制了必然性？
认为应定性为传播淫秽物品牟利罪的理由在于，淫秽内容是“生成”而非“制作”出来的，且生成主体是AI或用户。开发者的角色更接近于提供了一个可能被滥用的“传播”平台或工具。
认为应定性为制作淫秽物品牟利罪的理由在于，开发者的行为是内容产生的“源头”和“原因”，而非仅仅是后续的“传播”环节。他们通过技术手段“制造”了能持续生产淫秽内容的工具，并控制了其核心生产机制。
该案的意义和价值，实际上已经远超案件本身，对于AI创业者来说，AC案的标志性意义在于：司法实践首次明确，在AI时代，平台通过系统性技术手段和产品设计，为违法内容产生创设决定性条件并提供商业化服务的行为，可能被直接认定为“制作”，而非单纯的“传播”或“帮助”，从而需承担主要刑事责任。这为AI服务提供者划下了一条红线——AI服务提供者不再仅仅被视为“中立工具方”，而可能被认定为内容生产链条中的关键责任主体。
基于这一判断，接下来需要回答的问题是：对于AI创业者、程序员和技术负责人而言，AC涉刑案为我们带来了哪些风险启示？
3、给AI创业者的警示：从AC案看AI创业者的三大思维误区
误区一：把“技术中立”当作天然免责金牌。
开发者需要打破对“技术中立”的过度依赖，正确理解我国刑法的穿透式实质审查。在《刑事案件中，技术中立能否作为有效抗辩理由？（二）技术中立在刑法领域的适用限制与辩护思路》一文中，邵律师曾系统梳理“技术中立”的起源与演变，并以典型的快播王欣案为例，说明刑事案件中围绕技术中立展开的司法辩论。
并得出结论，在刑事领域，当技术应用涉及社会公共秩序、国家安全等公法益保护时，法律评价标准明显收紧。刑法基于罪刑法定原则和法益保护优先的立场，对技术中立持严格限制态度。
回到AC案来看，如果仅以“淫秽内容由大语言模型输出、聊天是AI与用户互动生成”为由主张平台无责，往往难以成立；关键不在于谁逐字逐句的输出，而在于平台是否通过技术与产品设计实质控制了内容生成环境。
误区二：把“法律没有明确规定”误以为“法律不禁止”
这些年来，在办理大量新经济、Web3领域刑事案件的过程中，我与不少被调查的创业者深度沟通后发现，很多人对“法无明文规定不为罪”的理解存在明显偏差。
不少创业者习惯性地认为，只要其所在行业在国内没有专门立法、也没有被明确列为犯罪，就可以放心开展业务。
但从司法实践看，这一理解过于简单：法律必须保持基本稳定，不可能每出现一种新业态就单独立法规制；因此刑法在客观上具有一定滞后性，而这种滞后性往往需要通过个案裁判来逐步填补。
在此背景下，办案机关面对新技术、新商业模式时，通常会在现有刑法框架下，结合相关监管文件、行业政策与客观行为效果，综合判断某一商业行为是否构成犯罪。
回到AC案，法院认定构罪的重要依据之一，是2023年8月实施的《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》）；从效力位阶看，该文件属于部门规章，但在实践中具有较强的参照意义。
类似地，在大量涉虚拟货币刑事案件中，94公告、924通知等政策文件虽然并非刑事法律，却常被作为判断“明知性”“违法性认识”与行业风险的重要背景材料。
因此，在缺乏明确刑事立法的领域，相关监管政策、部门通知乃至行业协会倡议，往往会被办案人员用作强化罪与非罪主观判断的参考因素，而不能被简单忽略。
误区三：在忽略客观现实的情况下盲目主张无罪
司法实务的真实场景，往往比没有亲历过案件的人想象得复杂得多。即便如本案存在较大争议，也并不意味着行业从业者或当事人单纯坚持“我无罪”，法院就会必然作出无罪判决。原因主要有两点：
其一，同案员工供述的现实影响。同案人员（如员工）可能基于自身利益作出对创业者不利的陈述；即便事后员工主张自己系被“诱导”，如果缺乏足以完全推翻原有供述的客观证据，司法实践中通常不会将该供述当然视为非法证据排除，仍可能被法院采纳作为定罪依据。
其二，认罪认罚带来的连锁反应。同案犯为了争取从轻、减轻处罚或缓刑，往往会选择认罪认罚；一旦已有同案人员认罪在先，再单独主张无罪，成功概率会大幅下降。
结合邵律师过往办理的刑事案件经验，确有相当比例的无罪结果（撤案或不起诉）出现在“单人单案、无同案人员”的情形中。当然，也存在公司涉刑案件中老板与员工均被调查、最终获得不起诉的案例，但这通常是因为涉案公司业务本身存在较大罪与非罪争议——但就AC案而言，从在案证据及同案人员证言指向来看，并不属于这一类型。例如，该公司员工在本案中已做出如下证言：
“我们在宣传时没有明示或者暗示用户这款APP可以提供色情聊天，但是向用户宣传过这款APP的违禁词少。”“玩AI圈子的，一说‘无违禁词’大家基本上都懂了。”
“案涉App聊了之后会有很多色情、淫秽、露骨描述性行为的内容”“别的软件都有限制词，这个不设限制词”“大部分用户都是冲着这点玩软件的”。
4、邵诗巍律师提示
从企业经营的角度看，合规不是做大了以后再补足的工作，而是商业模式落地前就应完成的基础配置。如果等到业务规模起来才开始合规，早期经营的业务仍可能成为被调查的切入点，企业会处于相对被动的位置。
例如邵律师团队目前所代理的一起非法经营案件：该公司自去年聘请我们团队作为常年法律顾问，但在近期，南方某地公安以其业务涉嫌非法经营为由，对公司创始人及部分员工采取刑事强制措施。原因在于，公司在几年前创业早期的相关业务被当地警方认定涉嫌犯罪。
因此，对于AI等前沿技术与新经济领域创业者们而言，更稳妥的路径是把合规前置到商业模型成型之前：在产品形态、运营方式、收费模型确定之前，由专业律师对关键环节进行风险评估与边界设计，尽可能在商业增长与合规要求之间形成可持续发展的平衡状态。
特别声明：本文为邵诗巍律师的原创文章，仅代表本文作者个人观点，不构成对特定事项的法律咨询和法律意见。
