一、案情
虞某龙通过互联网学习掌握了“AI换脸”软件的使用方法,并从互联网等渠道收集百余人的人脸信息,在未取得这些人同意的情况下,利用“AI换脸”软件,将上述人脸信息与部分淫秽视频中主体的人脸信息进行替换,伪造生成淫秽视频、图片。2021年至2022年8月期间,虞某龙在网络社交软件中创建6个社交群组,群组成员人数合计2000余人,其中5个社交群组的入群成员需向虞某龙支付人民币198元(币种下同)、298元、498元等金额的入群费用。虞某龙在上述群组中发布其通过“AI换脸”软件伪造的淫秽视频、图片各1000余段(张)。此外,虞某龙还对外销售“AI换脸”软件,传授使用教程,提供换脸所需个人面部模型素材,并为他人提供换脸视频定制服务,从中收取每件90余元到近千元不等的出售费、服务费,共计牟利数千元。2023年3月,杭州市萧山区人民检察院以虞某龙在案涉网络社交软件群组中发布、定制淫秽视频、图片,牟取利益,涉嫌构成制作、传播淫秽物品牟利罪为由,向杭州市萧山区人民法院提起公诉。2023年4月14日,公益诉讼起诉人发布《杭州市萧山区人民检察院对虞某龙提起个人信息保护民事公益诉讼的公告》,公告期满未有法律规定的机关、组织提起个人信息保护民事公益诉讼。杭州市萧山区人民检察院以虞某龙侵犯公民个人信息的行为损害社会公共利益为由,请求法院判令:虞某龙停止侵权,删除持有的所有涉案个人信息;公开赔礼道歉;支付公益损害赔偿金60000元。杭州互联网法院于2023年8月4日作出(2023)浙0192民初4563号民事判决:一、被告虞某龙于本判决生效后立即停止侵权,删除其在某社交软件群组中留存的所有案涉个人信息;二、被告虞某龙于本判决生效之日起三日内,在《法治日报》向社会公众刊发赔礼道歉声明,以消除影响、进行警示;三、被告虞某龙于本判决生效之日起十日内支付侵害社会公共利益的损害赔偿款人民币60000元。
二、争议焦点
滥用AI换脸技术伪造淫秽视频、图片,侵害个人信息权益应如何处理。
三、裁判要旨
未经信息主体许可,利用“AI换脸”技术伪造淫秽色情视频、图片的,构成对他人个人信息权益的侵害。综合考量侵害行为对象的数量和不特定性、潜在传播者的数量和风险的扩散性等因素,侵权行为侵害众多个人的权益、损害社会公共利益,法律规定的机关和有关组织向人民法院提起公益诉讼的,人民法院依法予以支持。
四、对普通人的启示
拿别人照片换脸做色情内容,不只是缺德,是侵权,还可能被检察院提起公益诉讼。
被换脸的人可以要求删除、赔礼道歉、赔偿;传播的还可能涉及刑事。
案例来源:人民法院案例库入库案例2025-07-2-525-001(浙江省杭州市萧山区人民检察院诉虞某龙个人信息保护民事公益诉讼案)。