法治在线丨AI换脸换声可能侵权 法律边界在哪里？|小婕子伦流澡到高潮视频

　　在我国，目前人工智能已经融入千行百业，走进千家万户，在持续推动各行业智能化升级的同时，也成为人们工作学习创新的好帮手。

　　但也有一些人在使用人工智能工具、一些公司在利用人工智能技术开发产品时，没能准确把握侵权的法律边界，造成对他人权益的侵害。日前，北京互联网法院就发布了系列涉人工智能侵权典型案例，包括AI合成名人声音带货、把名人AI化变成虚拟数字陪伴人等。

　　北京互联网法院发布涉人工智能侵权典型案例

　　商业滥用 AI

　　合成名人声音“带货”

　　李女士是一名大学教授，在教育、育儿领域具有很高的知名度和社会影响力。2024年，她在一家经营教育类图书的网络店铺中，发现有多个视频显示她正在宣传推介一家公司销售的多本家庭教育类图书。

　　图像是自己，声音好像也是自己，但李女士清楚自己根本就没有拍摄过这个推介图书的视频。她仔细观看后发现，视频中她的图像是真实的，不过是她在其他场合公开演讲、授课的视频，声音不是她的真实声音，而是利用AI合成的与她声音高度近似的声音。

　　北京互联网法院综合审判三庭庭长 颜君：因为有李女士的肖像的这样的一个视频，带上一个高度和她近似的AI合成的声音，会让我们听众，这个视频的观众觉得这个视频就是李女士录的，是李女士对于这个图书进行了推荐。

　　原告维权

　　诉对方侵犯肖像权和声音权

　　李女士认为，涉案文化传媒公司未经许可利用自己的人格形象、专业背景和社会影响力吸引关注，增加交易机会，侵犯了自己的肖像权和声音权。李女士诉到法院，要求图书销售者对涉案视频的发布承担赔礼道歉、赔偿损失等侵权责任。

　　法庭上，被告承认他们是利用了李女士的录像和AI合成的声音用于图书销售带货，但认为视频并没有贬低李女士的声誉，不认可对她造成损失。

　　未经授权使用原告肖像及AI换声

　　判侵权

　　法院审理后认为，涉案视频大幅使用李女士的肖像以及AI合成的声音，未取得其授权，故涉案视频的发布行为构成对李女士肖像权和声音权益的侵犯。

　　商家承担连带侵权责任

　　判决赔偿12万元

　　法院认为，在案证据表明被告某文化传媒公司未尽到其应有的审查注意义务，故应与视频发布者就侵权视频发布承担连带责任。最后判决：被告某文化传媒公司向原告李女士赔礼道歉，并赔偿其经济损失及维权合理支出费用12万元。目前该判决已生效。

　　压实商家主体责任

　　推动人工智能向善发展

　　法官介绍，近几年随着生成式人工智能技术的迅猛发展，名人声音被“克隆”冒用越来越真假难辨，造成声音侵权现象泛滥，消费者极易被误导。

　　在商家委托视频发布者带货的法律关系中，商家不能仅以“被动合作”“未参与制作”为由免责、未尽到审核注意义务的，需与带货达人共同承担连带责任，进而压实商家主体责任、治理AI声音克隆乱象，推动人工智能与深度合成技术向上向善发展。

　　制作名人AI形象陪伴 侵犯哪些权益

　　某人工智能科技有限公司是一款手机记账软件的开发运营者，用户在该软件中可自行创设“AI陪伴者”，设置陪伴者的名称、头像，设置与该陪伴者的人物关系，比如男女朋友、兄妹、母子等。

　　设置人物关系

　　AI角色与自然人高度关联

　　何某系知名主持人、演员，是为人熟知的公众人物，在该款软件中被大量用户设置为AI陪伴人物，用户还上传了大量何某的照片设置人物头像，同时设置了人物关系。被告通过算法部署，将陪伴者“何某”按关系设定分类，并向其他用户推荐该角色。

　　何某起诉到北京互联网法院，要求被告公开赔礼道歉，并赔偿其经济损失和精神损害抚慰金。

　　擅自创设使用自然人虚拟形象

　　侵害人格权

　　法院审理后认为，在被告的软件功能和算法设计下，用户使用何某的姓名、肖像创设AI虚拟人物，制作互动语料素材，将何某的姓名、肖像、人格特点等综合而成的整体形象投射到AI角色上，形成了何某的虚拟形象，是对包含何某肖像、姓名的整体人格形象的使用，但并未获得何某的许可，构成对何某姓名权、肖像权的侵害。同时，用户可以与AI角色设置虚拟身份关系，设定任意相互称谓，通过制作语料素材“调教”角色，使得AI角色与真实自然人高度关联，上述使用方式未经何某同意，侵害了何某的人格尊严和人格自由利益，构成对何某一般人格权益的侵害。最后判决：被告向原告公开赔礼道歉，赔偿原告精神损失及经济损失20.3万元。

　　实质参与提供侵权内容

　　技术服务者也担责

　　法官介绍，自然人的人格权及于其虚拟形象，未经许可擅自创设、使用自然人虚拟形象的，构成对自然人人格权的侵害；网络服务提供者如通过算法设计实质参与侵权内容的生成和提供，就不再是中立的技术服务提供者，而应作为网络内容服务提供者承担侵权责任。

　　利用AI软件恶搞丑化他人肖像 侵权！

　　修图类AI软件简单易用，可以让人们根据自己的审美对图片进行各种各样的处理，胖的变瘦点，黑的变白点，这些都不是事儿，但如果有人利用AI修图软件恶搞、丑化他人肖像，并进行传播，那就可能构成对他人人格权的侵害，并要承担相应的赔偿责任。

　　在北京互联网法院审理的这起案件中，原告程女士与被告孙某同为一个摄影交流微信群成员，被告孙某未经程女士同意，使用AI软件将程女士用作微信头像的正常照片生成为女性胸部暴露的动漫风格图片，并发送至摄影交流微信群内。在原告程女士多次制止后，被告孙某仍继续恶搞，使用AI软件将程女士的微信头像照片再次生成为不但胸部暴露，还肢体畸形的动漫风格图片，并以私信形式发送给了程女士。

　　程女士认为，被告孙某群发和私信的被诉侵权图片，能够识别出为本人形象，且图片带有严重的性暗示和丑化性质，使得自己的社会评价降低，构成对自己肖像权、名誉权及一般人格权的侵害，据此要求被告赔礼道歉，并赔偿精神损害抚慰金1元和其他经济损失。

　　法院审理后认为，被告孙某发布于微信群内的侵权图片，是他擅自使用原告程女士微信头像照片通过AI技术生成，微信群成员能够通过人物体貌及群聊的前后语境，识别出被诉侵权图片为原告，因此被告的群发行为构成对原告肖像权的侵害。被告利用AI软件将原告穿着得体的微信头像照片生成为女性胸部暴露的图片，引发了微信群内针对原告的不当讨论，客观上导致了他人对原告的低俗化评价，构成对原告肖像权、名誉权的侵害。以私信形式发送给原告的衣着暴露、身体畸形的图片也侵害了原告的人格尊严，构成对原告一般人格权的侵害。

　　法院最后判决：孙某通过其个人微信朋友圈连续48小时向程女士公开发布致歉声明，并出具书面致歉信；赔偿程女士精神损害抚慰金1元。目前，该判决已生效。

　　北京互联网法院法官 刘承祖：随着AI技术的发展，给我们的生活和日常的工作确实带来了很大的便利。那么，我们的AI技术使用者要注意，在使用AI工具的时候要遵守法律法规的规定，遵守相关的道德规范，利用AI生成的图片和内容，一定要是符合公序良俗，不得利用AI技术来侵犯他人的人格权。

　　国风短视频博主被他人深层“AI换脸”

　　目前，人工智能技术越来越成熟，“AI换脸”已经没有什么难度，甚至成为了一种新的商业模式，但在使用AI换脸时，必须要严格遵守法律法规，不能侵犯他人的肖像权和其他个人信息权益。

　　廖女士是一名国风短视频博主，汉服模特，在抖音上有大量粉丝，偶然机会她发现，在某科技文化公司运营的一款换脸换装App中，出现了和自己妆容包括服饰一模一样的一些视频，提供给用户换脸使用，该软件宣传只需一张照片，自动识别进行人脸融合替换，用户交纳会员费后可以解锁所有换脸功能。

　　廖女士认为科技文化公司的行为侵犯了自己的肖像权与个人信息权益，起诉到法院，要求公司向自己书面赔礼道歉并赔偿经济损失与精神损失。

　　被告认为未处理原告信息不构成侵权

　　被告某科技文化公司认为，自己平台发布的视频均有合法来源，并且面部特征并非原告，并未侵害原告肖像权。此外，涉案软件所使用的“换脸技术”实际由第三方提供，被告并未处理原告的个人信息，并未侵害原告的个人信息权益。

　　法院审理后认为，由于被告未提交证据，所以法院对被告关于模板视频由用户上传的说法不予取信；案涉换脸软件运营主体是被告，所以产生的法律责任应由被告承担。本案中，被告虽然使用原告的视频制作视频模板，但并未利用原告的肖像，而是通过技术手段将原告面部特征替换，模板中所保留的妆容、发型、服饰、灯光、镜头切换等要素并非与特定自然人不可分割，与自然人与生俱来的人格要素存在区别，一般公众通过替换后的视频识别的主体为案外人而非本案原告。同时，被告将视频模板提供给用户使用的行为并未丑化、污损、伪造原告肖像。因此，被告的行为不构成对原告肖像权的侵害。

　　北京互联网法院副院长 孙铭溪：我们这个案件的特殊情况在于他已经运用了深度合成技术，我们通过对比音乐、妆容，还有装束、发型等等，确实能够确定是使用了原告出镜的那么一个视频。但是在使用这个视频作为模板之前，他已经将面部进行了这么一个更换，通过深度合成技术把面部进行了和原告原来面部的融合。

　　法院认定构成对原告个人信息权益的侵害

　　法院认为，被告的行为虽然不构成对原告肖像权的侵害，但是，在运用这个模板过程中，被告收集了包含原告人脸信息的出镜视频，将该视频中的原告面部替换成第三人的面部肖像，用户使用该软件换脸时，合成过程需要将新的静态图片中的特征与原视频部分面部特征、表情等通过算法进行融合。上述过程，涉及对原告个人信息的收集、使用、分析等，属于对原告个人信息的处理。被告处理该信息未经过原告同意，因此构成对原告个人信息权益的侵害。

　　北京互联网法院副院长 孙铭溪：个人信息权益是我们民法典颁布之后确定的，我们新类型的人格权益，我们的民法典和个人信息保护法都对个人信息权益进行了规定。我们说肖像权解决的是我们在社会中通过他人可以识别到我，对我的人格尊严等利益的这种标表型的利益。那么，个人信息权益更针对的是在数字环境之下对个人权益的一种保证，一旦证明在这个数字空间中，未经个人的授权或者没有其他的法定事由，我的个人信息被处理了，那依然是构成侵权的。

　　法院认为，对于本案中被告擅自使用他人制作的视频侵害他人创造性劳动成果一事，由于原告廖女士只是涉案视频的模特，不是视频权利人，所以应由视频权利人另行主张。

　　法院最后判决：被告某科技文化公司向原告廖女士书面致歉，并赔偿其一定数额精神损害抚慰金。目前，该判决已生效。

　　(总台央视记者 冀成海 李志贵)