欢迎访问亚当新闻网
你的位置:秒速时时彩 > 财经 > 新闻正文

南财快评:ZAO程序的麻烦是deepfake技术带来的风险

时间: 2019-08-31 22:12:00 | 来源: 21世纪经济报道 | 阅读: 68次

  原标题:南财快评:ZAO程序的麻烦不是用户协议,而是deepfake技术带来的社会安全风险

换脸应用程序ZAO的开发者一定没有想到,在用户换脸的短视频内容制造了一波朋友圈刷屏的同时,对于其用户协议和隐私协议的批评很快也刷了屏。如果他们预见到这一点的话,协议应该起草的更认真一些,至少没有那么明显且不合场景的抄袭。 

然而笔者觉得,对协议条款的技术性批评,其实模糊了重点问题。其用户协议和隐私协议无疑写的都很糟糕,但也因为对肖像权授权的过于霸道,这些条款一旦进入司法程序,可以肯定会被判无效,或者在进入司法程序前就被相关监管机构要求整改。而视频内容目前可能存在的侵权问题,之后也完全可以通过商业合作取得授权来解决。ZAO这类利用深度学习技术换脸的软件,最大的问题还是大规模收集生物识别信息和“真假难辨”的deepfake给社会带来的安全风险,而这种风险目前被公众广泛低估,但实际上已经在不断带来严重的后果。

静态或动态的人脸信息(ZAO都会向用户收集)、指纹、虹膜都是典型的生物识别信息,属于个人敏感信息,由于其不可更改,一旦泄露或被滥用,都会给信息主体带来持久的影响。更通俗地说,这是一个魔鬼交易,为了一段自娱自乐的视频,用户交出了自己最重要的信息,且完全不清楚其可能的后果。从糟糕的用户协议和隐私政策来看,ZAO的开发者也并没有严肃地思考过这个问题,而是秉承一种先把用户的数据收集过来再说的态度。这在国内也并不是第一个例子,之前也有不少类似的例子,甚至有在厕所里换取一包卫生纸,就要求用户进行人脸识别的情况。在安防、金融反欺诈等领域,人脸识别已广泛应用,但争议也不小,但毕竟是涉及公共利益,对收集者数据安全能力的要求也很高。而在泛娱乐场景,生物识别信息的收集,风险和收益极为不对称,仅以创新的理由大规模收集,是非常危险的。 

另外一个问题影响面则更大,在国外被称作deepfake(深度伪造),即利用人工智能技术尤其是deep learning(深度学习)技术制作仿真度极高的视频、音频,目前已达到以假乱真的水平,很多时候普通人几乎无法分辨真伪。由于这一技术一开始就应用于色情和政治领域,在国外迅速引起了立法者的关注,如美国已经在联邦和州一级的立法程序中有所回应,加快了立法程序。除了各种名人以外,deepfake已经出现了很多受害者,尤其是一些年轻的女孩,仅仅是因为在社交网站上公布了一些照片,就被制作成了色情视频,并广泛传播;之后因此出现各类的诈骗,应该也都在预料之中。而其最大的问题,是挑战了“眼见为实”,使得公众对事实真假都失去了信心,会带来巨大的社会成本。 

根据笔者的研究和了解,无论是生物识别信息的收集和利用,还是对deepfake的法律应对,国内的立法者和监管者都非常重视,在关于个人信息和数据安全的立法中有所回应。但立法和监管都有个过程,相比高速发展的科技有一定的滞后性,在这之前,也需要企业和公众对相关风险有更清晰的认识和克制。 

(作者系北京市安理律师事务所高级合伙人)

责任编辑:贾振飞 2031864307

新闻标题: 南财快评:ZAO程序的麻烦是deepfake技术带来的风险
新闻地址: http://www.qmtb168.com/finance/1125547.html
新闻标签:麻烦  带来  风险
Top
北京赛车彩票 秒速时时彩平台 北京赛车营业时间 pk10代理网址 北京赛车开奖走势图 pk10代理网址 江苏快3 幸运28 北京赛车微信二维码进群玩 秒速时时彩