在“美顏相機”已經讓不少網友分辨不清真假的當下，Facebook 也在努力讓通過 Deepfake 製作的內容“現出原形”，以便未來能夠對相關內容展開追溯。在持續資助的相關研究中，最新項目就是與密歇根州立大學（MSU）研究人員達成的一項合作。可知這支聯合團隊打造了一套可對 Deepfake 偽造進行逆向工程的方法。
（圖自：Facebook AI 官網）
具體說來是，這套逆向工具能夠分析 AI 生成的圖像，以揭示創建它的機器學習模型的識別特徵。
這項工作的實用性在於，它可以幫助 Facebook 追蹤其在各種社交網絡上傳播 Deepfake 編造內容的不良行為者。
此類內容可能包含虛假信息，或者已經相當泛濫、未經當事人同意的編造色情內容 —— 後者也是 Deepfake 技術在現階段的一大爭議點。
目前這項工作仍處於研究的早期階段，且逆向工程團隊也尚未做好相關部署準備工作。不過該領域的此前研究，已經能夠確定 Deepfake 內容是由哪套已知的 AI 模型來生成的。
作為對比，由 Vishal Asnani 帶領的 MSU 研究團隊，將致力於更進一步地識別未知模型架構。因為這些被稱作“超參數”的特徵，意味着每個機器學習模型都必須經歷相應的調整過程（就像引擎中的零部件一樣）。
簡而言之，Deepfake 處理過的內容，會在圖像上留下一個獨特的指紋，而調查者們可藉此來追溯其來源。
Facebook 研究負責人 Tal Hassner 在接受外媒採訪時稱：“識別未知模型的特徵很重要，因為 Deepfake 軟件非常容易定製。如果調查人員試圖追蹤相關活動，別有用心者也必須更加努力地掩蓋其蹤跡”。
Hassner 還將這項工作與法醫技術相比較，即通在結果圖像中尋找特定的模式，以辨識源內容是通過哪款型號的相機來拍攝的。生成的算法不僅可以識別生成模型的特徵，還可知曉哪套已知模型與 Deepfake 內容有關。
在標準的基準測試中，Facebook AI 研究團隊已經得到了相當先進的檢測結果，儘管這距離投入實際應用還有很長一段距離。
比如在去年的 Deepfake 偽造檢測競賽上，最終獲勝的算法，也僅能達到 65.18% 的檢出率。而且這樣的“貓鼠遊戲”，顯然也會在未來很長一段時間內持續。