SSI ļʱ
SSI ļʱ
SSI ļʱ
娱乐> 电视趣谈> 正文

杨幂黄蓉“换脸”视频热传 AI换脸细思极恐 人脸识别还安全吗?

海南特区报 2019-03-02 09:20

原版朱茵换脸杨幂杨幂近日,有网友上传了一段杨幂“换脸”视频,视频中制作者通过AI技术,把杨幂的脸换到了朱茵在《射雕英雄传》中饰演的角色黄蓉上。该视频立刻引发全网热议,热搜不断。网友纷纷表示这段视频毫无违和感,甚至“感谢科技,终于让杨幂有了演技”。网络大面积惊叹之余,这种“分分钟换脸”的黑科技也让人细思极恐。扬子

deepfakes如何做到换脸?

deepfakes背后的技术并非高深难懂,简单来说,它是一个通过机器学习技术搭建的系统:可以让机器学习女明星的面部特征,最后合成到了影片的面部。

deepfakes搭建的系统可以通过谷歌图片搜索、网络图库、Youtube视频等途径获取的素材,利用这些素材通过TensorFlow等多个开源库,训练深度学习网络,经过反复训练后,系统就会自动替换脸部信息。学习样本越多,生成脸谱图的还原度就会越高。

【事件回放】

“杨幂版黄蓉”毫无破绽

94版《射雕英雄传》里朱茵扮演的黄蓉非常灵动俏皮,不少场景堪称经典。B站一位叫“换脸哥”的UP主,将杨幂的脸用AI技术换到了剧中“黄蓉”的身上,看下来,“杨幂版黄蓉”的表情和肢体动作很顺畅,丝毫看不出破绽,因为太逼真,在网上也迅速引起轩然大波。2月27日,该视频发布者@换脸哥发微博道歉,表示已与杨幂官方工作室沟通,并下架了相关视频。

“技术猥亵,求整治”

@换脸哥制作这段逼真视频的工具叫deepfake,国外在2017年就出现了,曾有人用明星换脸制作了一些不雅视频,不幸中招的明星包括盖尔·加朵、斯嘉丽·约翰逊等。当时引发了很大争议,不少平台都明确禁止此类视频传播。在deepfake传入国内后,国内也有网友制作过换脸视频。

很多清醒的网友也认识到,公众人物只是首当其冲“被技术”的,如果有人恶意利用和滥用,那任何人可以变成任何人,对所有人都不安全。更有网友表示,“换脸”简直是一种赤裸裸的“技术猥亵”。无数网友呼吁相关部门“求整治”!

【连锁反应】

细思极恐,人脸识别会失控吗?

此事无疑给社会造成了一定负面影响,但细思极恐,如今无人驾驶、人脸识别、智慧城市、智能家居等各类场景中都在运用AI,包括人脸识别系统,但一旦后端控制系统被攻击,出现规模化、连锁式的崩盘,AI失控的后果不堪设想。

2月27日深夜,@阿里安全在微博做出科普和回应。阿里安全图灵实验室高级算法专家觉奥在视频中指出,当前主流的换脸技术是基于深度学习模型的,其核心是一个“自动编码器”,具体而言,通过人脸检测技术,把视频中两个人,比如朱茵和杨幂的脸抓取下来,数量需要几千到几万张,之后训练这个自动编码器和两个解码器,一个解码器生成朱茵,另一个生成杨幂,训练好以后,输入朱茵的脸就能生成杨幂的脸了。

这一技术的应用会引发何种问题?觉奥表示,除了换脸引发的道德和伦理问题,“黑灰产业”利用AI换脸,是目前常见的一种攻击手段,“在人脸识别系统中,识别换脸的技术叫活体检测技术,这是一个攻防对抗技术,即用AI的手段来解决AI的攻击。”觉奥也表示,通过深度学习技术,训练模型,来通过两者的纹理、肤色、反光等特性的不同而识别出来。可实现在毫秒级时间内揪出假人脸,目前识别准确率达到99.9%。同时他也指出,“这几年,由于深度学习的迅猛发展,攻、防的技术都在不断进步,这是一个持续、动态对抗的过程,我们有信心和能力做好。防控技术还是有的,大家无需过于担忧。”

【记者采访】

新技术不能突破法律底线

南京大学法学院教授、博导徐棣枫接受记者采访时表示,早前也有过模拟明星声音的侵权行为,他认为,AI换脸明星,与不经允许使用别人照片的行为是类似的,都涉嫌侵犯肖像权。不合理使用技术的平台和个人,都应该受到法律的约束。另外,这种AI换脸技术存在一定的潜在风险,目前有对其适用的法律规范。

新闻推荐

中国类型小说成海外版权市场新宠

《三体》封面第70届法兰克福国际书展近日在德国法兰克福会展中心落幕,无论是首次以中国作家个体命名的“麦家文学之夜”版...

SSI ļʱ
SSI ļʱ
相关新闻
SSI ļʱ
SSI ļʱ
SSI ļʱ
SSI ļʱ
SSI ļʱ