近日，浙江省余姚市人民法院对一起利用生成式人工智能制作淫秽物品案进行了审理。被告郑某曾在一家知名游戏公司任职程序员，他组建团队通过修改系统提示词，使AI模型“越狱”，以此开发出能够生成淫秽内容的程序。法院裁定郑某等人构成生产淫秽物品牟利罪。

郑某利用在AI领域的经验和国外的一款色情聊天机器人的启发，萌生了非法盈利的念头。他邀请同事和网上认识的几位人士，共同成立研发团队，经过一段时间的调试，于2025年1月在境外平台推出了他们开发的生成式AI，并整合了多种支付方式。

该团队通过技术手段突破了模型中的内容审查，使用户在付费后能够使用各种角色与AI进行色情聊天，甚至生成淫秽的静态与动态图片。2025年7月，警方根据线索立案侦查，经过两个月的追踪逮捕了郑某等六名被告。在调查中发现，他们的AI模型在运营期间生成了超过37万张静态图片和6000多张动态图片，用户充值总额达24000美元。 qy球友会官网

案件中，关于“利用AI技术输出淫秽内容是否构成制作淫秽物品”引发了争议。根据刑法定义，制作淫秽物品是指通过构思和设计等方式表现特定淫秽想法。郑某等人通过反复修改系统提示词和创建对话场景，突破了AI的伦理和安全限制，直接导致了淫秽内容的产生，法院认定其行为符合“制作淫秽物品”的标准。

最后，法院认为被告有共同犯罪情节，情节严重，均构成制作淫秽物品牟利罪，分别判处三年多至近四年不等的有期徒刑，并处以罚金。判决生效后，六名被告均未提出上诉。