“AI换脸”别玩掉了安全

鲍南

2019年09月04日09:17 来源:北京日报

这些天,许多人一打开朋友圈,就发现自己的亲朋好友纷纷化身“影帝”“影后”,成为各色经典电影情节中的主角。这种新奇有趣的视频,由一款名为ZAO的APP制作,其核心技术是通过人工智能,将用户的面部数据与明星进行替换。

上传一张照片就可以实现“AI换脸”,便捷的操作、有趣的玩法,很快就形成了病毒式传播态势。但ZAO热闹的背后,其实有着不少“细思极恐”的漏洞,涉及的法律、伦理、隐私等等问题均无法因一件娱乐化外衣而消解。比如,有细心网友发现,ZAO的用户协议暗藏玄机。有一条写道:用户上传发布内容后,意味着同意授予ZAO及其关联公司以及ZAO用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”。翻译一下,就是用户一旦使用这款APP,就意味着把自己的肖像权完全让渡给了该公司,它可以利用用户肖像去做其他事情。虽然这并不意味着公司图谋不轨,但用户肖像权就这样无声无息地被人掌握,颇有一种“人为刀俎我为鱼肉”的观感。

更要看到,在面部识别已经普及的今天,你我的面部数据如同一把钥匙,与自己种种账户的安危高度相关。ZAO一键把用户的面部数据上传到云端,但凡公司里有内鬼,或是公司保管不善造成数据泄露,别有用心之人很容易拿着我们的“脸”招摇撞骗。随着舆论持续发酵,ZAO对上述用户协议条款做出了调整,但仍避免不了其评分直线下滑。

ZAO身上的种种隐患,其实只是整个“AI换脸”技术争议的冰山一角。面部识别可以说是当前AI技术商业化最成熟的方向之一。曾几何时,人们寄望于此为社会增添便利。但2017年12月,美国某论坛上的一位用户打破了这种想象。他发布的“deepfake”程序,借助深度学习算法,将色情内容中的演员替换成好莱坞影星。之后“AI换脸”又替很多人伪造了奥巴马、扎克伯格的视频,名人效应让不少“吃瓜群众”接受了虚假视频里的观点。在国内也曾有程序员将明星脸嫁接到其他视频上,造成不小的风波。如今ZAO的出现无疑进一步拉低了技术作假的门槛。

当前,一个“技术小白”只需要稍加学习,就可以制作假照片、假视频、假声音。人们愈发难以分辨网线另一端的那个人究竟是真还是假。从“深度学习”到“深度伪造”,人工智能开始“作恶”的速度如此之快,但我们远远没有想好该如何应对这些新问题。就拿那些知名女星来说,自己的肖像权被肆意侵害并产生巨大的不良影响,维权之路却困难重重,大多只能默默忍受。可以预见,在资本的加持下,未来会有更多类似“AI换脸”的技术出现,对现有的社会秩序发起挑战。直接“一刀切”全部封杀并不现实,如何趋利避害,秉持“最小”与“够用”的原则搜集信息,秉持“最大”与“最紧”的原则保护信息,在技术、市场和规则间找到平衡点,需要学界、业界与管理者尽快研究。

(责编:李轶群、杨迪)


推荐阅读

6个原因或触发心脏病 10种状况最“伤心”   心脏,是人最重要器官之一,也是循环系统中的动力。一般“伤心”了,身体很受伤,咋办? 【详细】

气血不足五脏亏损 药食调理补气养血   气血不足也就是中医常说的气虚和血虚,常可通过身体的一些症状表现出来。中医认为,气血不足会使抗病能力下降,时间长了会影响人体健康状况。今天人民网健康与你聊聊补气养血的话题。【详细】


相关新闻