開局一張臉，唱歌全靠騙。百萬粉絲網紅“俄羅斯娜娜”利用AI換臉技術在抖音上招搖撞騙，其背後真實身份竟是“摳腳大漢”？近日，一名為“俄羅斯娜娜”的賬號忽然在抖音走紅。該網紅自稱來自俄羅斯，長着金髮、碧眼、高鼻樑、深眼窩，一副標準西方人的五官外形。
從往期發布的視頻來看，“俄羅斯娜娜”雖然操着一口蹩腳的“俄式中文”，但唱起歌來卻是發音標準，聲調優美。
在平台上，她最常說的一句話就是“中國的兄弟姐妹們你們好”，並且每個視頻都在誇讚中國，表示非常熱愛中國文化。
久而久之，在與廣大網民拉近了親近感后，“俄羅斯娜娜”收穫了巨大的流量。抖音的粉絲數達到了195萬，快手平台的粉絲數近175萬，且均開了帶貨功能。
從她的帶貨櫥窗里可以看到，在百萬粉絲流量的加持下，牛筋腸、巧克力、威化餅等商品銷量非常可觀。
另外在直播之餘，“俄羅斯娜娜”還不忘讓“家人們”給她關注、點贊、送禮，一套直播法則被她玩得是爐火純青。
4月1日晚，抖音官方發布《關於打擊仿冒帳號等黑產行為的處理公告》，指出包括@俄羅斯娜娜 在內的4個賬號存在濫用平台道具、仿冒虛假人設的情況，不當獲取流量及粉絲的違規現象。
平台表示，仿冒賬號是黑產團伙常用的作弊手段，行為違反了抖音平台相關公約，進行詐騙更是涉嫌觸犯國家相關法律法規，將對其進行無限期封禁的處罰。
百萬中老年粉絲的收割機
事實上，早在被封前，“俄羅斯娜娜”的真實身份就已經開始遭到質疑。
其面部雖然是一副標準西方人的五官，但輪廓處有明顯的接合痕迹。其次，該網紅唱歌時發音標準，正常說話時卻帶着濃厚的外國口音，兩者形成強烈反差。
另有細緻的網民發現，“俄羅斯娜娜”在說話時連“n、l”都不分，很明顯是假扮的外國人。
官方的封禁也進一步證實了“俄羅斯娜娜”的假外國人身份。
從粉絲畫像來看，該網紅的粉絲大多為一些中老年網民，他們對利用AI換臉技術假冒外國人的詐騙賬號缺乏一定的辨識力。
從該賬號的運營手法來看，土味的台詞加上頗具年代感的歌曲，其目標客戶就是中老年粉絲。尤其是當“俄羅斯娜娜”說出那些類似“送給天下的父母”等台詞的時候，孝順又具有親近感的畫面讓一批又一批中老年網民深陷其中，成為待割的韭菜。
3月17日，國家互聯網信息辦公室副主任盛榮華介紹2022年相關工作時表示，開展“清朗·打擊網絡直播、短視頻領域亂象”專項行動，全面清理“色、丑、怪、假、俗、賭”等各類違法違規直播和短視頻；堅決整治直播間營造虛假人氣、虛假帶貨量，短視頻賬號營造虛假流量等行為；嚴厲打擊通過炮製低俗情感劇情，收割老年人流量，實施營銷詐騙。
AI為何總是向惡？
事實上AI換臉並非新概念，早在2017年國外就實現了這一技術。
彼時，一個名為 Deepfakes 的匿名用戶在某論壇上公布了一段代碼，讓不懂視頻後期的用戶也能輕鬆通過輸入足夠樣本的圖像供機器學習，以此換掉視頻中人物的臉。
然而隨着這項技術影響力的不斷擴散，許多人利用這項技術製作一些涉黃、涉政的視頻或圖片，這些黑產的存在擾亂了市場的秩序。例如在色情行業中，以蓋爾·加朵、斯嘉麗·約翰遜為首的好萊塢女明星深受其害，製作后的不雅視頻被瘋狂傳播。
迫於壓力，此項技術最終被禁止，但對網絡黑產而言， Deepfakes 無疑是一門好生意。
在最近的熱播劇《獵罪圖鑑》中，男主沈翊的老師許意多遭受犯罪團伙詐騙，犯罪人利用AI換臉技術冒充許意多兒子騙取匯款，致使許意多最終自殺身亡。
近年來，AI的發展速度遠超人們的想象，可以看到的是，雖然AI換臉技術正在逐漸走進大眾的生活，為人們提供了更多的娛樂選擇，但以技術之名作惡的案例卻也時有發生，當技術遇上黑色產業，兩者的產物便如病毒一般無限蔓延。從仿冒賬號到換臉詐騙，在這個技術在狂奔的時代，如果沒有法律和道德的限制，技術或將淪為作惡的工具。