AI换脸技能，有“侵占隐私”之嫌？

福临门吊顶

原标题：AI换脸技能，有“侵占隐私”之嫌？

AI换脸技能，有“侵占隐私”之嫌？

□ 本报记者 谢诗涵

前不久，交际媒体平台上一款名为“蚂蚁呀嘿”的殊效火爆全网，很多网友都将本身的照片导入换脸软件Avatarify中，照片便可以被算法驱动，天生一段心情浮夸扭曲且跟着节奏晃动的换脸短视频。短短几天后，正云云前火爆一时的换脸软件ZAO一样，Avatarify被下架，很多人推测下架缘故原由是AI换脸大概涉及隐私题目。AI换脸技能的原理是什么？换脸是否会造成个人隐私泄漏？带着网友的提问，《科技周刊》记者专访东南大学网络空间安全学院副传授宋宇波，为我们揭开AI换脸技能的机密。

问：AI换脸技能背后的原理是什么？

宋宇波：最早实现换脸是通过修图(Photoshop)的方式实现的，不但耗时耗力，其换脸结果也不佳。而现在比力盛行的换脸软件，现实上是运用了天生式对抗网络（GAN）技能，这是深度学习模子中的一种。简朴来说，就是呆板通过事先收罗大数据中的人脸心情特性，再联合换脸人自己的一些特性信息，通过“对抗博弈”的方式不停进化，终极天生我们所盼望得到的换脸视频。这种方式不但可以快速地实现主动换脸，其天生的图像也更传神。

问：什么是天生式对抗网络？

宋宇波：只管天生式对抗网络中包罗“网络”一词，但它和我们通常所说的“互联网”并不是一回事，它本质上是一个数学算法。由于天生式对抗网络接纳的是深度学习中的神经网络学习算法，故而保存了“网络”两个字。

天生式对抗网络框架通过让两个神经网络相互博弈的方式举行学习，此中一个是天生器，另一个是鉴别器。天生器根据预置的规则实验天生数据，而鉴别器则会去鉴别是否是真实数据，并把鉴别效果反馈给天生器，天生器会根据反馈信息举行调解，从而输出新的数据，两者反复博弈直到鉴别器将天生器天生的数据鉴别为真实数据为止。比方当我们想天生一个笑容时，鉴别器会主动辨认天生器随机天生的心情是否为笑容；假如不是，此信息会被驳回，天生器会根据反馈重新调解天生数据，颠末层层鉴别，终极输出的人脸里既会包罗换脸人自己的特性，同时也包罗我们所盼望的笑容心情。

值得留意的是，呆板前期收罗的喜怒哀乐等通用心情信息重要泉源于大数据图库，而并非换脸人的个人心情信息。这也就意味着，使用对抗天生网络技能实现的换脸仅必要不多的个大家脸照片即可。该换脸技能诞生最初大概必要300-500张换脸人的图片，而随着比年技能的不停改进，如今仅仅必要3-5张相干照片就可以天生必要的换脸照片大概视频。

在呆板学习中，天生式对抗网络的应用非常多，其最重要的用途就是天生我们想要的数据。现在大部门应用会合于视频和图像创造，比方我们在拍摄中必要一些动画大概特定场景，本来大概必要制作道具大概泯灭人工举行手绘，而如今使用这一技能，则可以变得非常高效。

问：AI换脸是否存在个人隐私泄漏风险？伪视频、伪图片能攻破人脸辨认体系吗？

宋宇波：任何一种技能都存在两面性，假如单纯是为了搞笑消遣而制作换脸视频，自己并没有太多的危害，但假如这一技能被非法分子使用，则会产生极大危害。信息被滥用、个人生物辨认特性被泄漏等风险，是这类软件频仍引发质疑的一个紧张缘故原由。对于政治人物或明星来说，将他们的脸移植到一些他们本不应出现的场景中，很有大概造成负面影响；而对于个人来说，现在很多金融场合都依靠于视频线上辨认来举行身份核实，假如非法分子运用深度合成中的心情利用方法天生伪视频，则很大概造成个人款项丧失。

2019年11月尾，国家网信办、文旅部和国家广电总局等三个部分团结发布的《网络音视频信息服务管理规定》指出，使用基于深度学习、假造实际等新技能新应用制作、发布、流传非真实音视频信息的，应当以明显方式予以标识；不得使用相干的音视频技能“陵犯他人光荣权、肖像权、隐私权、知识产权和其他正当权益”。天下政协十三届四次集会消息发言人郭卫民也表现，现在《个人信息掩护法》草案已经提请天下人大常委会审议，这一法律的颁布和实行，对掩护个人信息安全将发挥紧张作用。由此可见，个人信息安全题目已经引起相干部分器重。只管此类软件大多声明不会收罗和存储用户敏感个人信息，但网友在上传个人照片给第三方后，第三方自身平台的防护体系是否安全？是否会被恶意攻破从而造成隐私泄漏？这些方面都应该得到更多关注。

就现在而言，通过App下载的换脸图片大概视频，由于盘算量有限，其图像质量还比力差，细致观察后照旧存在面部不天然等题目。而那些图像质量高到可以欺哄人眼的换脸图片和视频，在相干检测算法的鉴别下通常也都会“本相毕露”，因此，平凡用户不必过于担心人脸辨认体系会被攻破。但随着技能的不停改进，将来这类软件很大概对我们的个人隐私造成较大威胁，因此我们也号令相干法规尽快出台。

[责任编辑: ] 返回搜狐，检察更多

责任编辑：