前不久，社交媒體平臺上一款名為“螞蟻呀嘿”的特效火爆全網(wǎng)，許多網(wǎng)友都將自己的照片導入換臉軟件Avatarify中，照片便可以被算法驅動，生成一段表情夸張扭曲且跟著節(jié)奏晃動的換臉短視頻。短短幾天后，正如此前火爆一時的換臉軟件ZAO一樣，Avatarify被下架，許多人猜測下架原因是AI換臉可能涉及隱私問題。AI換臉技術的原理是什么？換臉是否會造成個人隱私泄露？帶著網(wǎng)友的提問，《科技周刊》記者專訪東南大學網(wǎng)絡空間安全學院副教授宋宇波，為我們揭開AI換臉技術的秘密。

問：AI換臉技術背后的原理是什么？

宋宇波：最早實現(xiàn)換臉是通過修圖(Photoshop)的方式實現(xiàn)的，不僅耗時耗力，其換臉效果也不佳。而目前比較流行的換臉軟件，實際上是運用了生成式對抗網(wǎng)絡（GAN）技術，這是深度學習模型中的一種。簡單來說，就是機器通過事先采集大數(shù)據(jù)中的人臉表情特征，再結合換臉人本身的一些特征信息，通過“對抗博弈”的方式不斷進化，最終生成我們所希望得到的換臉視頻。這種方式不僅可以快速地實現(xiàn)自動換臉，其生成的圖像也更逼真。

問：什么是生成式對抗網(wǎng)絡？

宋宇波：盡管生成式對抗網(wǎng)絡中包含“網(wǎng)絡”一詞，但它和我們通常所說的“互聯(lián)網(wǎng)”并不是一回事，它本質上是一個數(shù)學算法。由于生成式對抗網(wǎng)絡采用的是深度學習中的神經(jīng)網(wǎng)絡學習算法，故而保留了“網(wǎng)絡”兩個字。

生成式對抗網(wǎng)絡框架通過讓兩個神經(jīng)網(wǎng)絡相互博弈的方式進行學習，其中一個是生成器，另一個是判別器。生成器根據(jù)預置的規(guī)則嘗試生成數(shù)據(jù)，而判別器則會去判別是否是真實數(shù)據(jù)，并把判別結果反饋給生成器，生成器會根據(jù)反饋信息進行調整，從而輸出新的數(shù)據(jù)，兩者反復博弈直到判別器將生成器生成的數(shù)據(jù)判別為真實數(shù)據(jù)為止。例如當我們想生成一個笑臉時，判別器會自動識別生成器隨機生成的表情是否為笑臉；如果不是，此信息會被駁回，生成器會根據(jù)反饋重新調整生成數(shù)據(jù)，經(jīng)過層層判別，最終輸出的人臉里既會包含換臉人本身的特征，同時也包含我們所期望的笑臉表情。

值得注意的是，機器前期采集的喜怒哀樂等通用表情信息主要來源于大數(shù)據(jù)圖庫，而并非換臉人的個人表情信息。這也就意味著，利用對抗生成網(wǎng)絡技術實現(xiàn)的換臉僅需要不多的個人人臉照片即可。該換臉技術誕生最初大概需要300-500張換臉人的圖片，而隨著近年技術的不斷改進，現(xiàn)在僅僅需要3-5張相關照片就可以生成需要的換臉照片或者視頻。

在機器學習中，生成式對抗網(wǎng)絡的應用非常多，其最主要的用途就是生成我們想要的數(shù)據(jù)。目前大部分應用集中于視頻和圖像創(chuàng)造，例如我們在拍攝中需要一些動畫或者特定場景，原本可能需要制作道具或者耗費人工進行手繪，而現(xiàn)在利用這一技術，則可以變得非常高效。

問：AI換臉是否存在個人隱私泄露風險？偽視頻、偽圖片能攻破人臉識別系統(tǒng)嗎？

宋宇波：任何一種技術都存在兩面性，如果單純是為了搞笑消遣而制作換臉視頻，本身并沒有太多的危害，但如果這一技術被不法分子利用，則會產生極大危害。信息被濫用、個人生物識別特征被泄露等風險，是這類軟件頻繁引發(fā)質疑的一個重要原因。對于政治人物或明星來說，將他們的臉移植到一些他們本不該出現(xiàn)的場景中，很有可能造成負面影響；而對于個人來說，目前許多金融場所都依賴于視頻線上識別來進行身份核實，如果不法分子運用深度合成中的表情操縱方法生成偽視頻，則很可能造成個人金錢損失。

2019年11月底，國家網(wǎng)信辦、文旅部和國家廣電總局等三個部門聯(lián)合發(fā)布的《網(wǎng)絡音視頻信息服務管理規(guī)定》指出，利用基于深度學習、虛擬現(xiàn)實等新技術新應用制作、發(fā)布、傳播非真實音視頻信息的，應當以顯著方式予以標識；不得利用相關的音視頻技術“侵害他人名譽權、肖像權、隱私權、知識產權和其他合法權益”。全國政協(xié)十三屆四次會議新聞發(fā)言人郭衛(wèi)民也表示，目前《個人信息保護法》草案已經(jīng)提請全國人大常委會審議，這一法律的頒布和實施，對保護個人信息安全將發(fā)揮重要作用。由此可見，個人信息安全問題已經(jīng)引起相關部門重視。盡管此類軟件大多聲明不會采集和存儲用戶敏感個人信息，但網(wǎng)友在上傳個人照片給第三方后，第三方自身平臺的防護系統(tǒng)是否安全？是否會被惡意攻破從而造成隱私泄露？這些方面都應該得到更多關注。

就目前而言，通過App下載的換臉圖片或者視頻，由于計算量有限，其圖像質量還比較差，仔細觀察后還是存在面部不自然等問題。而那些圖像質量高到可以欺騙人眼的換臉圖片和視頻，在相關檢測算法的判別下通常也都會“原形畢露”，因此，普通用戶不必過于擔心人臉識別系統(tǒng)會被攻破。但隨著技術的不斷改進，未來這類軟件很可能對我們的個人隱私造成較大威脅，因此我們也呼吁相關法規(guī)盡快出臺。