杨幂黄蓉“换脸”视频热传 AI换脸细思极恐 人脸识别还安全吗？
deepfakes如何做到换脸？
deepfakes背后的技术并非高深难懂，简单来说，它是一个通过机器学习技术搭建的系统：可以让机器学习女明星的面部特征，最后合成到了影片的面部。
deepfakes搭建的系统可以通过谷歌图片搜索、网络图库、Youtube视频等途径获取的素材，利用这些素材通过TensorFlow等多个开源库，训练深度学习网络，经过反复训练后，系统就会自动替换脸部信息。学习样本越多，生成脸谱图的还原度就会越高。
【事件回放】
“杨幂版黄蓉”毫无破绽
94版《射雕英雄传》里朱茵扮演的黄蓉非常灵动俏皮，不少场景堪称经典。B站一位叫“换脸哥”的UP主，将杨幂的脸用AI技术换到了剧中“黄蓉”的身上，看下来，“杨幂版黄蓉”的表情和肢体动作很顺畅，丝毫看不出破绽，因为太逼真，在网上也迅速引起轩然大波。2月27日，该视频发布者@换脸哥发微博道歉，表示已与杨幂官方工作室沟通，并下架了相关视频。
“技术猥亵，求整治”
@换脸哥制作这段逼真视频的工具叫deepfake，国外在2017年就出现了，曾有人用明星换脸制作了一些不雅视频，不幸中招的明星包括盖尔·加朵、斯嘉丽·约翰逊等。当时引发了很大争议，不少平台都明确禁止此类视频传播。在deepfake传入国内后，国内也有网友制作过换脸视频。
很多清醒的网友也认识到，公众人物只是首当其冲“被技术”的，如果有人恶意利用和滥用，那任何人可以变成任何人，对所有人都不安全。更有网友表示，“换脸”简直是一种赤裸裸的“技术猥亵”。无数网友呼吁相关部门“求整治”！
【连锁反应】
细思极恐，人脸识别会失控吗?
此事无疑给社会造成了一定负面影响，但细思极恐，如今无人驾驶、人脸识别、智慧城市、智能家居等各类场景中都在运用AI，包括人脸识别系统，但一旦后端控制系统被攻击，出现规模化、连锁式的崩盘，AI失控的后果不堪设想。
2月27日深夜，@阿里安全在微博做出科普和回应。阿里安全图灵实验室高级算法专家觉奥在视频中指出，当前主流的换脸技术是基于深度学习模型的，其核心是一个“自动编码器”，具体而言，通过人脸检测技术，把视频中两个人，比如朱茵和杨幂的脸抓取下来，数量需要几千到几万张，之后训练这个自动编码器和两个解码器，一个解码器生成朱茵，另一个生成杨幂，训练好以后，输入朱茵的脸就能生成杨幂的脸了。
这一技术的应用会引发何种问题？觉奥表示，除了换脸引发的道德和伦理问题，“黑灰产业”利用AI换脸，是目前常见的一种攻击手段，“在人脸识别系统中，识别换脸的技术叫活体检测技术，这是一个攻防对抗技术，即用AI的手段来解决AI的攻击。”觉奥也表示，通过深度学习技术，训练模型，来通过两者的纹理、肤色、反光等特性的不同而识别出来。可实现在毫秒级时间内揪出假人脸，目前识别准确率达到99.9%。同时他也指出，“这几年，由于深度学习的迅猛发展，攻、防的技术都在不断进步，这是一个持续、动态对抗的过程，我们有信心和能力做好。防控技术还是有的，大家无需过于担忧。”
【记者采访】
新技术不能突破法律底线
南京大学法学院教授、博导徐棣枫接受记者采访时表示，早前也有过模拟明星声音的侵权行为，他认为，AI换脸明星，与不经允许使用别人照片的行为是类似的，都涉嫌侵犯肖像权。不合理使用技术的平台和个人，都应该受到法律的约束。另外，这种AI换脸技术存在一定的潜在风险，目前有对其适用的法律规范。
新闻推荐
《三体》封面第70届法兰克福国际书展近日在德国法兰克福会展中心落幕，无论是首次以中国作家个体命名的“麦家文学之夜”版...