警惕 | 數字人的最大“隱憂”！半年詐騙2億，Deepfake騙局再次引爆互聯網

來源：VR陀螺

作者：林德

數字人，是構成元宇宙的要素之一。隨着AI、面部識別以及3D建模和動作/表情捕捉相關技術的發展，近兩年，虛擬數字人以各種身份形象出現在我們的視野中。然而當Avatar與真人越來越接近，不只看起來像，連表情、聲音都能和真人一摸一樣，那未來這些技術被用來作惡的風險也將大大提升。

前段時間，憑一言之力左右幣圈的狗狗幣之父馬斯克以新身份“幣圈慈善家”的形象在Youtube、推特發起一個送錢項目–給我你的幣，我給你每天30%的回報率。

警惕 | 數字人的最大“隱憂”！半年詐騙2億，Deepfake騙局再次引爆互聯網

圖源：網絡

科技企業家變大慈善家？事出反常必有妖，做慈善這顯然是不可能的。

“名人”詐騙層出不窮，以假亂真的DeepFake

這一片段是詐騙團隊利用DeepFake，也就是深偽技術換臉“導”出的一場戲。通過截取馬斯克在TED採訪的視頻，並為其配音，為的就是推出BitVex比特幣詐騙平台。（BitMex是一個正規比特幣交易平台）

“絕對不是我本人！”馬斯克本尊闢謠（圖片：推特）

除此之外，詐騙分子還偽造了方舟投資（Ark Invest）CEO凱瑟琳·伍德、以太坊聯合創始人查爾斯·霍斯金森等多位幣圈名人推薦BitVex的視頻。

圖源：worldnews

雖然此騙局很快被拆穿，但作為幣圈大粉頭，馬斯克也不是第一次因被假冒而下場闢謠了，從去年5月至今年年初，假冒馬斯克的視頻層出不窮。

去年，SpaceX詐騙案斂金超1000萬美元，今年年初光是靠DeepFake技術換臉馬斯克喊出“給我一個幣，我給你兩個”的騙局在一周內就達到24.3萬美元，光是年初到現在詐騙總額高達3000萬美元（約人民幣2億）。

假冒交易網站中有馬斯克的換臉視頻

圖源：網絡

比起過去單純的利用文字、語音包這類詐騙手段，動態視頻顯然更具有說服力，這一樁樁假名人詐騙事件都再次把DeepFake騙局推上熱搜。

什麼是Deepfake？

Deepfake深偽技術指深度學習（Deep Learning）+Fake（偽造）的合成詞，現在專門指基於AI的圖像、音頻等合成技術的應用，其中最為大眾熟知的形式就是AI換臉。

Deepfake技術的發展，離不開一個於2014年提出的關鍵深度學習技術GAN，生成對抗網絡。GAN由兩個互相博弈的神經網絡組成，可以簡單地把這項技術理解成一種無監督，用來訓練生成模型的框架。在這個自動訓練框架下，加以結合其他圖像深度學習模型、自動編碼器等可以實現通過大量的圖片對目標人臉替換。

根據目前主流說法，Deepfake技術主要分為四類：重現、替換、編輯和合成。

重現：對目標人物表情、身體、五官、頭部等運動的圖像的重新生成；
替換：面部轉移，面部交換等；
編輯：通過添加、更改或刪除目標身份的屬性。例如，更換目標對象的衣服、鬍子、年齡、體重、顏值和甚至種族、膚色；
合成：沒有目標人物的基礎上由AI創建角色。

圖源：網絡

在GAN被提出的三年後，一名Reddit用戶deepfakes於2017年12月發布了轟動一時的當紅女演員斯嘉麗·約翰遜等的非法色情換臉視頻，Deepfake一詞開始被大眾熟知。

同時，比起一幀一幀換臉的傳統模式，2019年開始以Deepfake技術為主的開源軟件FaceApp、ZAO、Github開源代碼等的興起，一經發布便在網絡掀起第一輪“換臉”熱潮。

至此之後，網絡上開始出現大量Deepfake技術生成的換臉視頻。

觸手可及，Deepfake是把雙刃劍

Deepfake的開源技術、以及“傻瓜式”實時換臉軟件的興起使得極具娛樂性的一些應用，例如換臉Cosplay火爆全網。自2019年興起的以ZAO為代表的換臉視頻軟件開始，Deepfake變得觸手可及。根據創業公司Deeptrace的數據，從2019年10月到2020年6月，網絡上的Deepfake視頻的數量增加了330％。

ZAO的換臉視頻，一夜之間“全民Cosplay”

圖源：北美生活引擎

不僅是影視劇的製作例如換角、補拍，在對已故之人的“重現”上Deepfake技術也能大展身手。

重現愛因斯坦（圖源：PARTIPOST）

在國內目前主流的各大社交媒體平台，微博、抖音、快手、B站等，也可以看到Deepfake技術無處不在。

病毒式傳播，B站上的明星換臉二創視頻

圖源：bilibili

比起國內流行的換臉二創形式，在海外社交媒體上，扛起海外流行大旗是披着AR濾鏡外衣的Deepfake應用。從哭臉濾鏡到笑臉濾鏡，魔性的濾鏡讓用戶陷入“惡搞狂歡派對”。

Tiktok上超熱門哭臉濾鏡

圖源：mashable

從個人發散到明星，這些二次創作都在一定程度上為明星、作品帶來新的熱度的同時，也為平台帶來了更多的流量，Deepfake技術在推動娛樂文化的發展上有着非常大的優勢。

除了娛樂化應用之外，在元宇宙的相關版塊上，Deepfake技術也能發揮其積極價值。

目前元宇宙賽道中，除硬件、軟件之外，還有一條熱門賽道——元宇宙原住民，虛擬人，虛擬主播、虛擬偶像、虛擬主持人、虛擬記者等各色職業的虛擬人層出不窮。

今年新任的韓國總統尹錫悅使用Deepfake創建虛擬形象AI Yoon在網絡走紅

圖源：SCMP

Deepfake的技術特點正好符合創造虛擬人、虛擬化身的要點。Deepfake技術在GAN的加持下，可以對虛擬人的面部運動進行進一步優化，並且基於圖像深度學習模型使得Deepfake技術擁有大量面部信息，這對優化未來虛擬化身而言無疑提供了大量的學習範本。

但在這項技術變得越來越普及且越來越難辨真假的同時，人們對Deepfake技術的擔憂也越來越多。根據2021年的韓國成均館大學的研究論文，Microsoft的Azure認知服務對高達78%的Deepfake視頻均無法辨認。

Deepfake的威脅

除了前文提到的馬斯克等名人詐騙案之外，Deepfake被用於非法謀利的案件日益增多。

不正當競爭：今年年初在領英上，70多家公司被曝利用Deepfake技術生成的虛擬人物作虛假銷售賬戶，以此擴展業務同時減少在僱用人員上的支出；
詐騙：犯罪分子通過Deepfake技術偽造母公司負責人聲音導致英國新能源公司的CEO被詐騙超20萬美元；
造假：國外選舉期間，網絡上出現大量“政治視頻”，其中許多利用Deepfake技術發表政治聲明，從而動搖、影響選舉局面等。

假特朗普呼籲採取行動應對氣候變化，說服人們在請願書籤字。雖然很假，但上當者頗多

圖源：InfoQ

報復：不僅是個人，對於企業以及明星而言，Deepfake影片成為新興的報復性工具，Deepfake編造的不實消息，讓人們的肖像權、名譽權等權益受到危害。例如，Deepfake 色情影片也已經被用來勒索女性記者和新聞工作者，印度記者 Rana Ayyub曾經曝光過被Deepfake視頻勒索的行為。

某馬來西亞政治家因一段涉嫌從事同性戀活動的影片而被判入獄，但後來證實影片為Deepfake偽造……諸如此類的故事正在不斷上演。

Tiktok上的假阿湯哥

圖源：Tiktok

去年，德國媒體Mixed曾發表過一篇文章，關於創建一個Deepfake視頻需要多長時間。根據作者的實驗，他使用DeepFaceLab開源軟件進行測試，從提取視頻中的人臉照片到驗證人臉（大約650張照片），再到約17個小時的AI訓練，將鋼鐵俠小羅伯特唐尼與馬斯克進行換臉。

圖源：Mixed

雖然換臉效果相對較粗糙，但作為一個非專業人士在沒有專業工具，龐大的數據集和預訓練模型的基礎下，在幾天時間內製造出上述程度的Deepfake視頻意味着如今人工智能進化的腳步使得Deepfake技術變得更加容易。除了自己摸索之外，更是有賣家在某二手交易平台出售相關技術、教程等，Deepfake技術的門檻一降再降。