一夜之间
朋友圈突然冒出了一堆"大明星"
“王俊凯”“胡歌”“杨幂”"紫薇"
齐刷刷在朋友圈演戏了！
原来是一款手机软件火了！
软件发布不到24小时就登上微博热搜
可后一天，朋友圈齐刷刷批判用户协议侵犯隐私
然后，微信分享链接已停止访问，用户协议整改
今天，不少人又开始忙着卸载这款软件
这一切到底是咋回事呢？
8月30日晚间开始，一款名叫ZAO的应用软件火遍社交网络。
只需一张照片，想变谁就变谁！
选取素材、上传照片、一键生成、制作完成。
简单几步就可以将自己的脸换到视频中的脸上，而且素材库内容很多，用户可以自由选取自己喜欢的视频进行疯狂ZAO。
其中有独角戏、对角戏等等
今年大热剧《小欢喜》、《陈情令》、《亲爱的热爱的》中的名场面在ZAO中均可体验。
ZAO App的功能介绍显示，可以用你的脸制作表情包，出演经典电影，跟偶像飙戏等。
这款App功能极简、难度极低、口碑发酵速度极快，如之前的“脸萌”一样，成为又一款现象级应用。不少网友很快跟风下载，并在网上晒出了以自己为主角的视频片段：
一秒钟变李现
一秒钟学会跳舞，占据C位
还能唱跳、Rap、打篮球
8月30日晚间，“ZAO”官方微博称，“这个月花700万租的服务器，今晚已经消耗1/3了。明天如果继续火爆，我们只能做严格一些的限制。”
8月31日下午14时，“ZAO”在苹果应用商店App Store的在免费App的下载排名中已跃居第二。
“ZAO”火了之后，问题来了……
虽然ZAO走红网络，但关于换脸的安全性及隐私性问题，很快引起了社会的广泛讨论和关注。
网友的担心不无道理，有媒体关注到，“ZAO”用户协议中写明，用户发布内容前，统一授予ZAO及其关联公司完全免费、不可撤销、永久、可转授权等权利。
还有网友表示，用户协议中还写明，若用户违反协议导致第三方受损害，用户应当独立承担法律责任并承担赔偿责任。
此外，该软件还涉及版权风险。ZAO上传了大量国内外影视综艺内容片段，但是否取得了这些视频的著作权使用许可？如果没有，那就面临极高的版权风险。
@法山叔 还在后续微博补充道，其协议本身就有违法律的基本原则……
ZAO带来的担忧还不止这些。
当下刷脸支付已经开始普及，ZAO的火爆使人担忧：在刷脸支付盛行的背景下，“换脸”后的小视频若落入他人之手，是否会危及刷脸支付的安全性？
类似技术曾用于不当用途，也有人建议不必担心
ZAO使用的开源代码“deepfakes”，最早曾被用在了情色电影的主角换脸。据媒体报道，此前在台湾，就有百名女生IG脸书等社交照片被人用DeepNude处理后上传不雅网站。因此，引发技术有罪还是技术中立的争论。
今年初，B站UP主“换脸哥”发布的一段94版射雕英雄传视频，原本饰演黄蓉的演员朱茵的脸，被用“deepfakes”技术替换成了杨幂的脸，从流出的视频和动图看，虽然是用AI合成的，但是整体效果十分逼真。
饰演黄蓉的朱茵的脸被替换成杨幂
不过也有人认为不必担心。
上海金融与法律研究院研究员、经济之声特约评论员刘远举在“大家”撰文表示，ZAO并没有带来新增隐患，人类可以适应技术的风险。
ZAO之所以把用户协议写的“吓人”，其实是在“前车之鉴”基础上做的很强的自我保护。用户发出自己的换脸视频，本质上和发一张自己的自拍和视频，并没有本质的区别。一般人并不会成为大众的目标，被换头暴露在公众中。对于明星而言，这早已不是稀奇事了。
同时他还认为，技术不可阻挡，关键看用在什么地方。那些无法完全避免，或者完全避免并不必要的坏处，人类社会也能通过经验去适应。幸运的是，现在的修图技术，仍然做不到天衣无缝，“毫无ps痕迹”。至于视频，要做到完美则更难。
ZAO之所以把用户协议写的“吓人”，其实是在“前车之鉴”基础上做的很强的自我保护。用户发出自己的换脸视频，本质上和发一张自己的自拍和视频，并没有本质的区别。一般人并不会成为大众的目标，被换头暴露在公众中。对于明星而言，这早已不是稀奇事了。
同时他还认为，技术不可阻挡，关键看用在什么地方。那些无法完全避免，或者完全避免并不必要的坏处，人类社会也能通过经验去适应。幸运的是，现在的修图技术，仍然做不到天衣无缝，“毫无ps痕迹”。至于视频，要做到完美则更难。
对于刷脸支付安全性的问题，也有支付宝和银行方面的回应称，“刷脸支付”采用的是3D人脸识别技术，同时在支付时往往还伴有其它验证方式。不必过于担心。
还有人担心的是：
别慌，有办法应对！
为了防范Deepfake背后的社会安全隐患，纽约大学的研究人员研究后发现：在Deepfake生成的虚假视频中，人物的头部动作和瞳孔颜色通常会很怪异，并且几乎不怎么眨眼。这成了目前Deepfake无法逃脱的bug。
观察原视频和造假视频对应的关键帧，可以看出，假脸人物在原视频的眨眼处并没有眨眼
据了解，这一bug并非来自算法本身的问题，而是它使用的数据集。
当训练深层神经网络时，我们使用的是来自网络的静态图像。即便是像尼古拉斯·凯奇这样的公众人物，他的大多数照片也都是睁着眼睛的，一般很少有人会有大量的闭眼照。既然数据集中几乎没有眨眼图像，那么Deepfake就无法“学会眨眼”，或者眨眼的时长和频率都远小于正常人。
这样的进展，可以算是“魔高一尺，道高一丈”了。
评论 (0)