我只需要一张照片
「AI换脸」让你以假乱真的
然而，这项新技术
但这给了一些人一个坏主意
杭州于某使用“AI换脸”软件
生成并传播大量淫秽视频
许多女明星和其他公众人物都变了脸。
生活中也有正常人
女艺人的「AI怪脸」假色情影片
2023年8月，杭州萧山警方在网上巡逻时获得线索。
辖区内有人利用人工智能技术制作淫秽视频并在网络上传播。
警方依法立案侦查，立即将于某抓获，案件随后移送杭州市萧山区人民检察院审查起诉。
检察官调查显示，于2023年开始接触“AI换脸”软件。最初，他试图通过在线推广该技术和相关软件来赚钱。然而，过了一段时间，关注他的人就很少了，当他偶然看到有人在社交群上发布淫秽信息以引起别人的注意时，Yuu也产生了类似的想法。
据于某供述，为了吸引更多关注和流量，
「观影组」
和
《私人定制群》
:
“观看团”主要用于传播“AI恶门”色情视频，吸引、吸引观看者。
“观摩团”的参加费为198元、298元、398元。
当有人要求“脸部定制”时，余向他们介绍了一个所谓的“私人定制小组”。基于“AI换脸”视频的长度、清晰度等困难标准，于某
定制费用按标准收费，如5分钟300元、10分钟500元。
余先生辩称：
“如果你能看到你的脸，你就可以改变它。”
我们不仅提供定制脸部修饰服务，还于
“AI换脸”软件也分初级、中级、高级三个级别出售，并提供使用教程。
还提供网上非法采集的他人脸部素材。
杭州市萧山区人民检察院第七检察院助理检察官陈玉耀表示，这段视频最终的换脸效果在初级、中级和高级之间可能存在一定的差异。
有些人可能一开始就购买了基础教程。
一些基本材料和成分，
如果您发现最终效果不符合您的预期，您可以继续付费购买高级视频。
有人利用他暗恋的女孩来改变他的容貌。
检察官称，柳的客户要求“定制”面部移植，其中不仅包括知名名人，还包括日常生活中的普通人。
其中一人建议他想为自己暗恋的女孩定制一个换脸视频。
对于这种未经他人同意侵犯他人隐私信息的违法行为，于先生并不否认。
根据检察官收集的证据，在先生创办的众多社会团体中，
成员人数最少为95 人，最多为2053 人。
通过出售换脸色情视频、定制换脸色情视频等非法活动，于某收到带有密码的红包200余次。
总金额达6万多元。
2023年11月，杭州市萧山区人民法院认定于某犯以商业目的制作、传播淫秽物品罪。
判处有期徒刑7年零3个月，并处罚金6万元。
除了追究刑事责任外，
检察官还提起民事公益诉讼
检方认为，柳某作为“AI换脸”技术的使用者，将侵犯他人个人信息的方法和手段进行传播，从而进一步加大侵犯“不特定对象”个人信息的社会风险。认为它已经扩大了。为此，杭州市萧山区人民检察院不仅依法追究于先生的刑事责任，还提起民事公益诉讼。
2023年7月28日，该案在杭州互联网法院一审公开审理。
庭审中，检察机关通过公安机关对柳某进行的讯问、讯问笔录、检查笔录、检查笔录、鉴定意见等，揭露柳某侵犯他人个人信息，损害公共利益的行为。提交了详细的证据表明
还有1200多个淫秽视频、1600多张照片和其他电子数据。
杭州互联网法院互联网一审庭庭长肖翔表示，此前人们都认为“眼见为实、耳听为实”，但随着深度合成技术和新技术的应用，私人我们相信我们所看到的现在是可信的。不恰当的应用和滥用并不总是被相信。
事实上，它影响了我们社会中公共行为者之间的信任关系。
尤其是在互联网空间中建立的信任关系。
因此，破坏这种信任关系和社会关系，实际上是对社会秩序的一种破坏。
杭州互联网法院认为，余先生利用“AI换脸”技术侵犯他人个人信息的违法事实具有决定性，因此支持了公诉方作为公益诉讼检察官的全部主张，作出了判决。
法院判令被告删除非法获取的个人信息，公开赔礼道歉，消除影响，赔偿损失共计6万元。
这些资金只会用于公益事业，例如个人信息保护、面部深度合成技术不当应用治理等。
技术没有好坏之分，但它有其局限性。
“只要几张照片，任何人都可能成为受害者。”滥用“AI换脸”技术而泄露各种个人信息的案例时有发生。
那么“AI换脸”技术的法律边界在哪里？又该如何监管和管理？
小轩是我们国家的
民法
对于深度造假侵犯他人人身权益的行为有明确规定，禁止深度综合侵犯公民人身权、财产权。随着科技的发展，
个人信息保护法
还有深度合成相关的规定。这是因为，无论是换脸还是换声，实际上都需要收集公民的个人信息（受个人信息保护法特别保护的敏感生物识别信息）。法律。
此外，《互联网信息服务深度合成管理规定》 《生成式人工智能服务管理暂行办法》中明确规定了以下内容，并将于2023年正式执行。
我们强调，用户不得利用深度合成服务从事任何法律或政府法规禁止的活动。
深度综合服务商必须落实信息安全主体责任。
“AI换脸”是为了好玩，但也存在法律风险
法官提醒“AI换脸”技术
即使只是简单地用于玩笑或模仿照片，也可能构成对肖像权和荣誉权的侵犯。
如果造成严重后果，可能会构成藐视法庭或诽谤等刑事犯罪。
杭州互联网法院常务副院长朱敏明表示，虽然新技术的出现往往滞后于专门针对这种新技术的法律法规，但总体来说，我们国家的整个法律体系现在还是比较完善的。
哪些行为可以采取，哪些行为不能采取？
它的原理已经比较完善了。
我想正常人都会理解的。
使用这项新技术的目的是造福全人类，提高人们的生活水平和福祉，或者追求不公平的个人利益。因此，如果我们了解这个边界，这些新技术就能让我们的生活变得更好。
来源：央视新闻、每日经济新闻
编辑：高阳
本文和图片来自网络，不代表火豚游戏立场，如若侵权请联系我们删除：https://www.huotun.com/game/580705.html