人们纷纷涌向AI数字人的想法，卖课程成了自然而然的赚钱方式。晓波告诉贝壳财经记者，今年春节期间，他亲眼目睹了一场998元的“培训班”，现场聚集了很多人。
据林浩介绍，他们开了一个号称“原价699，限时特价199”的“数字发行训练营”。他举了个例子，“私人房地产IP客户通过数字短视频内容进行运营，在抖音上进行IP活动，他们不是在卖房子，而是在向房地产经纪人提供新媒体，我们正在教人们如何制作它们。费用为每人2499元。” ，交易数据还是不错的。 “你感觉怎么样？局势有一点开放了吗？”
“改变人工智能面貌的货币化课程”如此受欢迎的另一个原因是它的违法性较低。 “改变销售面貌的课程应该属于灰色地带，因为它们从技术角度教你如何使用技术，而由你来决定技术本身会带来什么结果，这就是为什么我认为课程。改变销售面貌的是一个灰色地带。“课程本身是暂时的，很难说存在法律问题，”上海正泽律师事务所律师唐·伊奇对贝壳财经记者表示。
董一智律师表示，利用人工智能技术改变人的面孔、声音或发布视频可能涉嫌侵犯版权。《中华人民共和国民法典》规定，任何组织和个人不得利用信息技术手段诽谤、诽谤、歪曲他人名誉权，侵犯他人形象权。除法律另有规定外，未经肖像权人许可，不得创作、使用、公开肖像权人的肖像。平台作为生态系统的重要组成部分，也负有一定的监管责任。
AI换脸“真假难辨”，检测游戏“杀病毒或制造病毒都一样”
其实换脸视频由来已久，甚至最近也出现过，B站上有各种使用图章的换脸视频，大部分都很搞笑。人工智能技术的发展，尤其是去年年底人工智能网站heygen推出了可以改变嘴巴形状的视频功能，逐渐使得通过改变人工智能的面孔来“伪装真假”成为可能。虽然和真人还有差距，但已经可以忽悠一些不懂科技的中老年人了。
人工智能技术很容易被别有用心的人利用。如果人类无法区分深度伪造视频，那么机器能够区分它们吗？这个问题逐渐开始让很多人思考。
贝壳财经记者查看小红书等平台发现，尽管平台受到打压，但仍然可以搜索到“俄罗斯美女”视频，这些视频显然是基于人工智能生成的，发现一些账户反复删除和更新。视频以避免监视。
5月19日，贝壳财经记者证实，继三段《安娜爱中国》视频被平台标记为“疑似AI生成”视频后，又上传了两段新视频，这两段视频并未再次被标记。该平台被贴上“疑似人工智能”标签，视频发布后不久就收到了10 条评论。
这是《爱中国的安娜》的账号。
中国信息通信研究院人工智能研究中心安全元宇宙部负责人石林告诉贝壳财经记者，目前深度伪造技术和检测技术正在相互竞争。 – 病毒和病毒的产生是一个漫长的攻击和防御的过程。如今，造假技术似乎变得越来越实用和有效。新算法需要样本积累和过滤。例如，传统的检测技术是基于面部特征和眼睛边缘的一些反馈，并且涉及基于这些不合逻辑的特征的检测和识别。但随着Sora、Diffusion等模型的出现，检测难度有所增加。
相信现在金融机构在刷脸支付场景中识别换脸视频方面已经有了更多的经验。 ZOLOZ是深度换脸综合防控产品，在阻止用户刷脸过程中的“换脸风险”方面拥有多年经验。该公司产品总监陶野告诉贝壳财经记者，AIGC的强大防伪模式称为“激活”，是根据人脸的照片、视频或音频开发的，他表示可以模拟更多动作。为了让这项技术很快落地，我们搭建了AIGC自动生成和测试平台天机实验室，通过模拟人和机器来进行大量的攻击和防御，同时提供更多安全主动发现的问题。我们也呼吁公众提高安全防护意识，仅靠技术无法做到尽善尽美。 ”
然而，相比与用户切身利益无关的金融场景，视频平台想要部署更多技术来识别AI内容，“经济账”可能需要仔细算算。 “未来深度视频流将成为可能，防伪也可能为B端公司提供安全功能，让他们保护C端用户。”陶野说。
记者联系邮箱：luoyidan@xjbnews.com
新京报贝壳财经记者罗一丹编辑王静宇校对付春明
本文和图片来自网络，不代表火豚游戏立场，如若侵权请联系我们删除：https://www.huotun.com/game/554513.html