半岛体育近日，因“AI换脸”导致的诈骗案件引发关注。伴随着AI大模型的发展，“换脸技术”的应用范围越来越广，技术的突破还使得换脸后的人物表情、动作细节更为逼真，一旦被不法分子利用，可能带来严重危害。
总台记者经调查发现，网上“AI换脸”软件的获取非常容易。利用此类软件的法律边界在哪里？如何做好事前监管？
在网上，演示换脸软件使用方法及效果的教程比比皆是半岛体育，其中不少“AI换脸”软件需要高价付费使用。
记者根据搜索结果联系到一名开发者，他向记者提供一段使用其软件实现换脸的示范视频双视窗页面左侧是换脸之前的原始视频，右侧则是换脸之后的视频，肉眼来看，换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。
在其销售的网站上，该软件开发者还展示了如何将两位知名女星的眼睛和嘴巴“拼接”到一起，生成全新“数字人”的视频。
这一付费软件提供从初级（LV1）到超级（LV4）再到全套（LV5）的不同版本。以初级套餐来说，499元提供软件界面、视频指导、换脸模型等，如果花2888元，则可得到全套（LV5）等级的视频换脸模型。
AI大模型可集成多种功能打造“数字人”记者发现，该网站 底部没有任何文字显示其已经过备案。卖家也十分谨慎，全程仅用文字交流。他表示，与初级（LV1）至超级（LV4）套餐相比，全套（LV5）版本迭代更多，能力更强，也可以理解为换脸效果更为逼真，同时，不仅可以实现视频换脸，还支持直播换脸。
记者进一步询问能否根据自己的需求换脸时，软件开发者表示：“想换什么样的脸拿素材训练就可以。”
一位从事AI开发的技术人员表示，这意味着可能会有更多难以控制的风险。“集成文生图、文生文，文生音频、文生视频、换脸，这样的功能结合起来，就可以打造出一个完全崭新的数字人或者叫AI人，监管成本和难度高了好几个数量级。 ”
北京嘉维律师事务所律师、IT法律专家赵占领表示，从事后打击的角度讲，刑法中有关于诈骗罪的规定；民法典明确，公民享有肖像权、姓名权、名誉权等相应的民事权利。也就是说，如发生使用他人肖像进行诈骗的相关案例，不法分子能够在事后被法律约束与制裁。但在人工智能技术飞速发展的当下，还应探讨如何能够做到有效的事前防范。
例如，在《互联网信息服务深度合成管理规定》中要求，深度合成服务可能导致公众混淆或者误认的，深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。
《生成式人工智能服务管理办法（征求意见稿）》要求，利用生成式人工智能产品向公众提供服务前，应当按照有关规定向国家网信部门申报安全评估；要尊重他人合法利益；产品提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责等。
浙江大学国际联合商学院数字经济与金融创新研究中心联席主任盘和林认为，从目前来说，如果能够有效落实标识的要求，形成有效的监管体系，可以在很大程度上提前厘清“AI换脸”所带来的模糊边界。
盘和林：当前“AI换脸”的标识监管体系还没有形成，要针对不标注的内容，通过技术的手段来辨别，并且对不标注的个人或者是单位组织要有具体的处罚措施、标准以及制度。
北京嘉维律师事务所律师、IT法律专家赵占领认为，从长远来看，监管与处罚措施还需要随着技术发展不断“迭代”，才能形成立体有效的治理方案。【来源：央视新闻微信公众号】
“点进直播间一看，迪丽热巴居然在直播卖货。”近日，有网友点开直播间，却发现正在卖货的竟是当红女星。然而再定睛一看，这些带货“明星”很快露出了马脚，正在卖力带货的“明星”们只是使用了AI实时换脸技术的普通主播。（5月22日中新网） □江德斌 现在“AI换脸”技术已经成熟，可以实时换脸，不存在延迟，也不会有Bug，完全达到以假乱真地步，如果不仔细...
好玩的AI换脸，也可能威胁国家安全？ ZAO可能产生的潜在危险和不安全性，也是人工智能为社会提供产品的同时人们必然面临的挑战。 名为ZAO的AI换脸软件红遍网络，然而好景不长，一夜爆红“ZAO”的微信分享链接目前已经被停止访问了。关于“ZAO”刷屏后所带来的隐私焦虑与风险担忧，仍在蔓延。 实际上，ZAO软件就是一款经改造的换脸APP，2017年发源于美国，...
中新经纬客户端8月31日电 (常涛)只需一张照片，就能秒变“戏精”，甚至还能与偶像同台飙戏，保证“连亲妈都看不出来”。从昨晚(30日晚)开始，一款叫做“ZAO”的换脸软件在社交网络疯狂刷屏。 有多疯狂？截至31日下午16时，ZAO App仍居iOS应用商店免费App下载量第二位。据未经认证的微博账号“ZAO官方助手”介绍，该App上线不到一天就出现了服务器满负荷的情况。 ...
互联网新闻信息服务许可证编号()闽ICP备07001623号福建省通信管理局
版权声明：福建日报报业集团拥有海峡导报(台海网)采编人员所创作作品之版权，未经报业集团书面授权，不得转载、摘编或以其他方式使用和传播。
免责声明：台海网转载自网络的文章和图片，仅为传递更多信息之用，不代表本网的观点和立场，内容仅供参考。
如我们使用了您的作品（包括文章和图片），请作者与本网联系索取稿酬。如您不希望作品出现在本网，可联系我们要求撤下您的作品。
