记者 | 陆柯言 郑洁瑶
以AI换脸为亮点的ZAO在一夜之间火遍了全网。但在文娱之余，现已有不少用户发现了这类软件的潜在危险。
先来回忆一下ZAO的玩法：用户可在软件中上传个人相片，经过AI技能，能够将自己的人脸置于渠道中用户所挑选的影视片段之中，完成用户与“明星”的换脸。因为玩法别致，ZAO在短时间爬上了苹果运用商铺免费榜首位，但争议也一起发作。
最早引起争议的是ZAO用户协议中的一则条款。
ZAO其用户协议中写道：
这则条款能够理解为，由陌陌孵化的ZAO默许自己及其相关公司，具有了对用户肖像权可转授权和可再答应的权力，可将其授权转让给第三方，并且能运用技能对用户的肖像进行方式改动。
用户忧虑的是，ZAO收集了用户的面部信息，一起也在注册时获得了自己的手机号，是否会有或许被不法分子用于付出宝、网上银行等APP的实名认证，然后危及自己的金融产业安全。
一位反诈骗范畴专家以为，只需不法分子把握了人脸相片，经过将静态的相片进行动态化处理，在绕过人脸辨认环节并不难。
上海大邦律师事务所高档合伙人游云庭则对界面新闻记者表明，不用对这则协议过于惊惧。
他以为，交际渠道获取用户的手机号，是其在前台进行实名制的必定办法。另一方面，付出宝、微信付出等渠道的辨认体系并没有幻想中那么“软弱”。付出宝方面也对界面新闻表明， 自身的风控体系不会导致这类工作的发作。
不过，游云庭以为这则条款是存在争议的：“假如单纯是把用户上传内容同步到相关公司，这是短视频交际渠道用户协议中的常见表达。但这段话中说到了可转授权，但并未说清转授权是只是转给相关公司，仍是除相关公司以外的第三方，这是值得协商的部分。”
到发稿前，陌陌及ZAO方面并未针对此事回复界面新闻记者。
游云庭还表明，即就是用户协议中说到渠道能够运用技能对用户肖像进行改动，但这则条款在法庭上也不是彻底有用的。一般情况下，一旦这类渠道或第三方将用户肖像改动后制造其它方式的视频就属违法，该协议不起到束缚效果，用户能够拿起法律武器维护自己的权益。
不过，知乎反诈骗范畴大V半佛仙人以为，最要害的危险在于，APP自身并不乱用用户信息，但是一旦APP被黑客攻破，一切的用户信息就有或许被拖入黑产的地下数据库，被不法分子拿来剥削价值。这对APP背面公司的风控才能是极大的检测。
用户在ZAO渠道上传的信息中，最灵敏的就是人脸数据。数据评测组织知微科技CEO于霄以为，和暗码不同，人脸、声纹等生物特征是无法改动且不可再生的。一旦被盗用，会发作极为可怕的社会结果。
品德道德上的争议是其间的一个方面。界面新闻早些时候曾报导，AI换脸这一技能并不新鲜，最早是GitHub的一个开源东西DeepFakes人工智能。只需是有必定技能根底的人，租一台GPU服务器，便能够运用这一东西克己换脸视频。
但正是因为东西的开源，也导致许多好事者将这项技能用于色情视频的组成。早在2017年，美国论坛Reddit上就有用户将好莱坞女明星盖尔·加朵的脸用作资料，组成了色情视频。尔后这类现象愈演愈烈，因为FakeApp等软件的诞生，进行AI换脸的门槛也越来越低，导致Twitter、Reddit、gif搜索引擎Gfycat等渠道都开端封禁这些组成的色情片。
据智东西报导，AI换脸在国内也现已形成了一条完好的黑色产业链。从下流制品情色视频、中游定制视频到上游软件及教程，都能够从淘宝、微信等卖家处买到。
ZAO在其版权声明中写道：“ZAO制止用户随意上传和运用资料，并经过人工审阅环节极力确保ZAO上的内容不侵略相关权力人的合法权益，极力确保内容契合相关法律法规规则。”
这样的说辞好像并不能安慰用户，不少用户忧虑，自己在AI换脸上传的面部信息会被这类卖家运用。
此外，在品德道德之外，金融危险相同值得留意。于霄一起提示这些渠道的用户，视频诈骗很有或许成为一种盛行的违法手法，不法分子一旦把握手机号、人脸图片等多个信息，对骗术辨认才能差的白叟有很大的杀伤力，这在技能层面是可行且会实在发作的。
“不说ZAO渠道自身会怎样，但前期APP的数据维护办法肯定是缺乏的，等于是核弹级数据把握在普通人手中，所以我主张加速隐私数据法律法规建造，一起提示用户应该留意维护自己的声纹和面部图画，尽量不要给任何APP做此类精细化收集。我们在文娱的一起，要十分慎重“，于霄说。
