9月1日消息(记者潘毅)据中央广播电视总台中国之声《新闻纵横》报道，这几天，一款名叫“ZAO”的软件受到热捧，相信不少人在自己的朋友圈都看到有朋友转发通过这个软件生成的“换脸视频”。
AI换脸两大风险
利用这款软件进行“换脸”，首先需要用手机号动态验证码进行验证登录。用户如果想要下载或分享换脸视频，则需要进行验证确认所使用的照片的确是用户本人，而验证的方式则是在摄像头前进行眨眼、扭头、张嘴等指示动作。中国政法大学传播法研究中心副主任朱巍分析，在这个过程中，可能存在核心个人信息泄露的风险，“首先换脸技术，包括在搜集过程中转动脸部、眨眼，本质是搜集了你面部的识别信息，这个是用户最核心的个人信息。个人信息一旦被比对之后，如果落到坏人的手里，有可能涉及到财产安全和人身安全的问题。”
软件宣称，照片提交上传后，会对照片进行非公众人物验证和肖像权验证，确保符合相关法规才能使用。没有经过自拍验证的照片会有使用次数限制，也无法被分享或下载。
虽然相关措施一定程度上可以起到防止用户滥用他人照片恶搞，但朱巍指出：“这种东西看似是以娱乐为目的，因为大家笑一笑不会产生什么伤害。但是因为技术的发展,‘道高一尺魔高一丈’，如果被坏人利用，一方面利用这个技术，另外一方面盗取了这些换脸的信息，包括用户所有的个人信息，一旦匹配成功，轻则精准诈骗，重则有可能用户的账号、密码都处在不安全的状态，所以平台的责任更大，它(软件)的影响范围越大，越火，平台的社会责任和在道德责任层面上的法律责任也就越高。”
与此同时，软件内置可供选择的影视剧片段中，有包括《延禧攻略》《长安十二时辰》《还珠格格》在内的多部热门国内电视剧，也有石原里美、莱昂纳多·迪卡普里奥等国外明星的影视剧片段，还有大量热门的综艺片段。对此，朱巍指出：“换脸技术涉及的是要放到影视剧里面去，影视剧本身涉及著作权、知识产权。突然间把脸换了，是不是构成合理使用?这个可能跟知识产权法有密切关系。”
其实，人工智能进行换脸的技术数年前已经出现。2017年，国外一个论坛用户首先将自己制作的换脸视频发布在网络上，利用这一技术，他将国外女明星的照片与色情影片合成，几乎以假乱真，一度引发巨大争议。虽然相关视频最终被删除，但是这项技术随后被开源。今年年初，有国内用户在网络上发布一段合成的换脸视频，将一段电影片段中朱茵的脸换成了杨幂，也曾引起争议。随着如今这款软件的爆红，视频“换脸”门槛进一步降低。
朱巍分析：“很多的换脸实际上并非是以娱乐为目的的，有一些比如涉及到人格尊严，包括人的名誉权、肖像权的侵害，他换的可能不是自己的脸，而是别人的脸，或者在一些非法低俗的网站上进行这样的行为，尤其它做得特别逼真，非常有可能让其他人认为是不是被换脸的这个人实际从事的表演，这些都是安全隐患。”
有细心的用户发现，这款软件的用户协议中还暗藏玄机。其中写道，使用这款软件的换脸功能，需要同意授予这款软件及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于：人脸照片、图片、视频资料等肖像资料中所含的肖像权利人的肖像权，以及利用技术对肖像权利人的肖像进行形式改动。北京岳成律师事务所律师岳屾山指出：“我授权给你以后，你不能够把我的照片用于其他的非法用途，或者把我的照片进行修改、丑化、恶搞，这对于我授权给你使用肖像权的目的存在一定偏差。这个时候其实对于上传照片的App用户来讲，可能构成的是名誉上的侵权，或者导致他的社会评价降低等，这也有可能构成侵权。”
{var%20f='http://v.t.sina.com.cn/share/share.php?appkey=3871407684',u=z||d.location,p=['&url=',e(u),'&title=',e(t||d.title),'&source=',e(r),'&sourceUrl=',e(l),'&content=',c||'gb2312','&pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','//www.52fuqing.com/data/attach/logo/logo.png', '问题《AI换脸被曝有两大风险 对我们又会产生什么影响》','https://www.52fuqing.com/question-123810.html','页面编码gb2312|utf-8默认gb2312'));){kind=link}
9月1日消息(记者潘毅)据中央广播电视总台中国之声《新闻纵横》报道，这几天，一款名叫“ZAO”的软件受到热捧，相信不少人在自己的朋友圈都看到有朋友转发通过这个软件生成的“换脸视频”。
AI换脸两大风险
利用这款软件进行“换脸”，首先需要用手机号动态验证码进行验证登录。用户如果想要下载或分享换脸视频，则需要进行验证确认所使用的照片的确是用户本人，而验证的方式则是在摄像头前进行眨眼、扭头、张嘴等指示动作。中国政法大学传播法研究中心副主任朱巍分析，在这个过程中，可能存在核心个人信息泄露的风险，“首先换脸技术，包括在搜集过程中转动脸部、眨眼，本质是搜集了你面部的识别信息，这个是用户最核心的个人信息。个人信息一旦被比对之后，如果落到坏人的手里，有可能涉及到财产安全和人身安全的问题。”
软件宣称，照片提交上传后，会对照片进行非公众人物验证和肖像权验证，确保符合相关法规才能使用。没有经过自拍验证的照片会有使用次数限制，也无法被分享或下载。
AI换脸两大风险
虽然相关措施一定程度上可以起到防止用户滥用他人照片恶搞，但朱巍指出：“这种东西看似是以娱乐为目的，因为大家笑一笑不会产生什么伤害。但是因为技术的发展,‘道高一尺魔高一丈’，如果被坏人利用，一方面利用这个技术，另外一方面盗取了这些换脸的信息，包括用户所有的个人信息，一旦匹配成功，轻则精准诈骗，重则有可能用户的账号、密码都处在不安全的状态，所以平台的责任更大，它(软件)的影响范围越大，越火，平台的社会责任和在道德责任层面上的法律责任也就越高。”
与此同时，软件内置可供选择的影视剧片段中，有包括《延禧攻略》《长安十二时辰》《还珠格格》在内的多部热门国内电视剧，也有石原里美、莱昂纳多·迪卡普里奥等国外明星的影视剧片段，还有大量热门的综艺片段。对此，朱巍指出：“换脸技术涉及的是要放到影视剧里面去，影视剧本身涉及著作权、知识产权。突然间把脸换了，是不是构成合理使用?这个可能跟知识产权法有密切关系。”
AI换脸两大风险
其实，人工智能进行换脸的技术数年前已经出现。2017年，国外一个论坛用户首先将自己制作的换脸视频发布在网络上，利用这一技术，他将国外女明星的照片与色情影片合成，几乎以假乱真，一度引发巨大争议。虽然相关视频最终被删除，但是这项技术随后被开源。今年年初，有国内用户在网络上发布一段合成的换脸视频，将一段电影片段中朱茵的脸换成了杨幂，也曾引起争议。随着如今这款软件的爆红，视频“换脸”门槛进一步降低。
朱巍分析：“很多的换脸实际上并非是以娱乐为目的的，有一些比如涉及到人格尊严，包括人的名誉权、肖像权的侵害，他换的可能不是自己的脸，而是别人的脸，或者在一些非法低俗的网站上进行这样的行为，尤其它做得特别逼真，非常有可能让其他人认为是不是被换脸的这个人实际从事的表演，这些都是安全隐患。”
有细心的用户发现，这款软件的用户协议中还暗藏玄机。其中写道，使用这款软件的换脸功能，需要同意授予这款软件及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于：人脸照片、图片、视频资料等肖像资料中所含的肖像权利人的肖像权，以及利用技术对肖像权利人的肖像进行形式改动。北京岳成律师事务所律师岳屾山指出：“我授权给你以后，你不能够把我的照片用于其他的非法用途，或者把我的照片进行修改、丑化、恶搞，这对于我授权给你使用肖像权的目的存在一定偏差。这个时候其实对于上传照片的App用户来讲，可能构成的是名誉上的侵权，或者导致他的社会评价降低等，这也有可能构成侵权。”