2014年，銷聲匿跡多年的美國白宮前實習生萊溫斯基重回公眾視野。萊溫斯基曾於1998年捲入與時任美國總統克林頓的性醜聞，並最終導致對方被國會彈劾。通過演講和撰寫署名文章，萊溫斯基稱自己很可能是遭受全球性網絡欺凌的第一人。醜聞中的她，曾被貼上了“妓女”“蕩婦”“蠢女人”等標籤。
萊溫斯基認為，在事件發生后，社交媒體興起帶來的病毒性傳播中，自己“受到的屈辱更具有毀滅性”。
如今，更多比萊溫斯基無辜的人正遭遇着類似的痛苦。
在國際上，聯合國兒童基金會將利用數字技術進行的欺凌行為定義為“網絡欺凌” （Cyberbullying），也即通過社交媒體、即時通訊平台、遊戲平台等，以恐嚇、激怒或羞辱他人為目的的重複行為。
在中國，人們將這類網絡欺凌稱之為“網絡暴力”（下稱“網暴”）。雖然法律法規尚未對網暴的概念、外延進行明確的界定，但一般認為網暴是社會暴力在網絡世界的延伸，具有誹謗性、誣衊性、侵犯名譽、損害權益和煽動性等特點。
中國政法大學傳播法中心副主任朱巍告訴財經E法，與互聯網早期相比，現階段的網暴往往與通過線上和線下的組織，進行“有文案、有矩陣、有同質化內容”的傳播。個別案例中，甚至會出現“長達多年，對一個人或企業進行污名化”。
近年來，隨着“杭州女子取快遞被造謠案”“劉學州網暴自殺案”等引發公眾高度關注的事件，網暴已成為不容忽視的互聯網生態問題，平台治理的重要性也日益凸顯。
財經E法通過走訪網暴受害者、律師、社交平台審核員，乃至參與建章立制的學者，試圖解析網暴難以禁絕的真正原因。並基於此，探討面向未來的解決之道。
在調查中，財經E法發現，網暴者面臨的維權困境是一個涉及平台技術升級、平台盈利模式規制，以及法律法規突破的綜合性難題，需各方合力，才能真正破局。
誰是網絡施暴者？
2022年8月17日，一起與網暴有關的訴訟在北京互聯網法院開庭，抖音運營方北京微播視界科技有限公司成為被告。
案件的原告方張婷是一名擁有千萬粉絲的抖音博主，在一次意外走紅后，她經歷了一場長達一年多的網暴。2020年底，張婷開始在抖音分享自己走出農村，通過勤工儉學、助學貸款完成學業並最終獲得博士學位的故事。此後的一個月內，她的賬號粉絲量從200萬漸漸增長到1000萬。
與此同時，抖音平台的一些自媒體賬號開始質疑張婷學歷造假、其走紅背後有資本運作。其中，某賬號使用直播和短視頻等形式，對張婷進行了一年半的質疑。2021年初，在得知張婷入職西安的一所高校后，前述賬號的運營者又以“辱罵網友”“疫情詐捐”等事由向陝西省教育廳、教工委等部門信訪舉報。為此，張婷向信訪部門提交了接近30封書面情況說明。
2021年8月，張婷被北京大學國際醫院確診為焦慮狀態、失眠、抑鬱狀態。同月20日，張婷以被誹謗為由向前述賬號的居住地——北京市通州區的警方報案，警方認為符合立案標準，並於同年10月17日出具了立案告知書。
張婷只是眾多網暴受害者之一。不同之處是，她發現了平台在其中扮演的重要角色。
此後，張婷向平台方發起訴訟，請求判令抖音披露前述賬號的真實身份信息，並立即刪除該賬號及其關聯賬號發布的侵權信息。
“抖音已經完整披露了侵權者的身份信息。”張婷告訴財經E法，她隨後撤銷了對抖音的訴訟，同時對侵權賬號提起訴訟，目前法院已經立案。
張婷的代理律師周兆成介紹，在網暴訴訟中，由於個人極難在網絡世界獲取他人的身份信息，起訴平台是最合法、最直接、最快速獲取侵權者基本身份信息的途徑。
周兆成認為，網絡服務提供者對侵權行為承擔通知侵權網絡用戶、採取刪除、屏蔽、斷開鏈接等必要措施的法律責任，其在一定程度上需要與侵權網絡用戶共同承擔侵權責任。作為大數據收集匯納的網絡平台，其有義務向權利人及時披露侵權網絡用戶的真實身份信息。
2022年8月23日，中央網信辦副主任、國家網信辦副主任盛榮華在國務院新聞發布會上通報了 “清朗·網絡暴力專項治理行動”成果。此次專項整治行動當中，重點網站平台累計攔截涉攻擊謾罵、造謠詆毀等信息6541萬餘條，處置違法違規的賬號7.8萬個。
這場始於今年4月的專項行動，聚焦網暴易發多發、且社會影響力大的18家網絡平台（包括新浪微博、抖音、百度貼吧、知乎等），要求這些網站平台通過建立完善監測識別、實時保護、干預處置、溯源追責、宣傳曝光等措施開展全鏈條治理。
受害者的舉證困境
獲取侵權人的身份信息僅是訴訟維權的第一步。由於網暴規模龐大、受害者舉證成本高，當事人和律師往往面臨著多重困境，鮮少有受害者主動通過法律途徑維護自身權益。
在中國裁判文書網以“網絡暴力”為關鍵詞，檢索並翻閱了53份相關判決書後，財經E法發現，從2013年到2022年，僅有17份判決書是直面網暴問題的案件。
目前，網絡發言大多為匿名，網暴往往呈現出多對一的特點。北京京師（合肥）律師事務所主任朱政告訴財經E法，面對網暴時，受害者僅憑自身的力量難以完整收集和固定證據。此外，受害者的舉證成本較高，需要花費大量時間、金錢用於收集證據，而最終在案件判決時卻難以獲得足額賠償，“這是一個現實困境”朱政說。
“杭州女子取快遞被造謠案”就是一個典型案例。
2020年7月，杭州谷女士到小區快遞點取快遞時，被附近便利店店主郎某某偷拍。隨後，郎某某與何某某編造“富婆出軌快遞小哥”的對話內容發至微信群。之後，上述偷拍的視頻、捏造的微信聊天記錄截圖被他人合併轉發，並相繼擴散到多個微信群、微信公眾號等網絡平台。此事在網絡不斷發酵，谷女士因此被辱罵，遭公司勸退，被診斷為抑鬱狀態，她直言經歷了“社會性死亡”。
2020年10月26日，谷女士向杭州市餘杭區人民法院提起刑事自訴，以郎某某、何某某捏造事實，通過網絡誹謗自訴人谷某某且情節嚴重為由，要求以誹謗罪追究兩人的刑事責任。
由於中國法律尚未對網暴做出明確界定，一般屬於民事案件範疇，而與網暴相關的誹謗罪、侮辱罪最嚴重可作刑事自訴案件。
該案代理律師鄭晶晶直言，此類案件立案門檻較高，無法在被告人缺席的情況下判決。“如果立案時出現被告人‘下落不明’的情況，法院可能會說服自訴人撤回起訴，如果自訴人不撤回，法院可以裁定不予受理。”鄭晶晶說。
幸運的是，此案最終經檢察機關的推動，從“刑事自訴”轉為“公訴”，並於2022年2月入選了最高人民檢察院第三十四批指導性案例。
鄭晶晶告訴財經E法，能轉為公訴是因為案件本身的特殊性。谷女士通過聊天記錄、照片拍攝角度定位到了嫌疑人，谷女士在與他們對質時，對方也承認了造謠的事實。之後，谷女士立刻報警，杭州市餘杭區警方對兩名嫌疑人進行了行政處罰，他們的身份信息、侵權行為都通過行政處罰被固定，因此對訴訟幫助很大。
2021年4月30日，杭州市餘杭區人民法院作出判決：兩名被告人皆被認定構成誹謗罪，分別被判處有期徒刑一年，緩期兩年執行。
這一案件也凸顯了這類訴訟取證難、證據難以固定等問題。浙江省人民檢察院檢察長賈宇亦曾在接受媒體採訪時表示，因為大量證據存在於網絡中，依靠個人力量取證維權十分困難。賈宇透露，在“杭州女子取快遞被造謠案”中，檢察機關用了近1個月時間進行取證，最後形成18本案卷、76張光盤。
張婷則告訴財經E法，為準備訴訟，她只對被告以及其的兩個追隨者展開取證。最終形成五大本證據，公證花費接近10萬元。
鄭晶晶表示，“杭州女子取快遞被造謠事件”一開始是在微信群中傳播發酵的，在這一情形下，一旦被群主踢出群或本身就不在傳播的微信群中，受害人將很難取證。此外，根據最高人民法院《關於辦理利用信息網絡實施誹謗等刑事案件適用法律若干問題的解釋》，同一誹謗信息實際被點擊、瀏覽次數達到5000次以上，或者被轉發次數達到500次以上的，才能被認定為刑法第二百四十六條第一款規定的捏造事實誹謗他人“情節嚴重”，達到刑事立案標準。在微信群中，視頻及文字消息的轉發次數與瀏覽次數難以判定。
當時，鄭晶晶採用了轉載謠言公眾號文章的閱讀量、點擊量以作為證據。後來，鄭晶晶接到一些只在微信群中傳播謠言的案子，“我只能通過民事侵權訴訟來追究對方的侵權責任，因為很難找到達到刑事立案標準的證據。”鄭晶晶說。
2022年春節前夕，尋親無果的河北未成年男孩劉學州遭受網暴后，在海南三亞自殺身亡。
周兆成也是“劉學州網暴自殺案”的代理律師。據他回憶，在劉學州死亡當日，很多曾網暴劉學州的自媒體賬號刪除了相關視頻，企圖銷毀證據，這對律師取證造成了不小的障礙。所以，“我們還是希望能夠與警方等司法機關溝通，希望司法機關可以強勢介入。”周兆成說。
朱政認為，想要從根本上解決網暴案件舉證難的問題，一方面要制度先行，必須進一步制定與完善針對網暴的相關司法解釋和舉證規定，為受害者收集證據提供明確指引，避免受害者盲目取證或無效取證。還需從法律或者司法解釋的層面上明確，受害人的取證成本應由施暴者承擔。另一方面，要充分利用平台“一鍵取證”“區塊鏈存證”等技術，降低取證和存證的成本，為受害者維權保駕護航。
平台的“一鍵取證”功能無疑為當事人取證提供了便利，但“一鍵取證”的技術落地效果，以及在實踐中的法律效力仍有待驗證。
相對於已經成熟的電子證據公證、區塊鏈存證技術，“一鍵取證”功能尚屬於新鮮事物，“其取證的效力如何？是否具備可信的時間戳？是否易於保存？是否可以直接被用於司法案件並被司法機關採信等？這些均還有待於在司法實踐中進一步考察和完善。”朱政說。
B站在2022年7月曾經上線“一鍵取證”功能。但財經E法在B站客戶端並未看見相關的入口， B站客服在接受諮詢時表示，如果有“一鍵取證”的需要，用戶可以直接向客服留言。但對於“一鍵取證”所採用的技術，B站客服未做清晰的解釋，只是表示站內所有信息都有記錄，侵權信息被刪除也不影響工作人員回查核實。
某社交媒體平台的風控安全運營人員瀋河告訴財經E法，他所在的平台仍在開發“一鍵取證”功能，希望能解決網民取證麻煩，以及取證時可能再次受到傷害的問題，但目前這一功能尚未上線。
據鄭晶晶介紹，網暴取證並非只是截圖那麼簡單。證據需要滿足真實性、合法性、關聯性的要求，內容發布者一旦刪除了原文或者對內容進行了修改，先前截圖的證據效力就會存疑。
因此，鄭晶晶基於自己的辦案經驗建議，網暴受害者在取證時最好通過公證處或第三方存證平台進行證據存證保全。除了傳統的公證，目前大部分互聯網存證平台也都可以幫助受害人固定證據。“例如，杭州互聯網法院的電子證據平台採用了區塊鏈技術存證，這一存證技術的效力在實踐中幾乎獲得了所有互聯網法院的認可。”鄭晶晶說：“其它法院也可能參考類似的做法。”
平台做了哪些努力？
2022年以來，多個網絡平台陸續推出了網暴治理措施，但這些措施背後的技術和運作流程是什麼？又能在多大程度上解決網暴問題？
北京觀韜中茂（上海）律師事務所合伙人、深圳市大數據研究與應用協會法律專家吳丹君對財經E法介紹，法律對平台提出網暴言論等違法違規信息管理要求，並賦予一定的治理權利。例如，《移動互聯網應用程序信息服務管理規定》規定，平台可採取警示、限制功能、暫停更新、關閉賬號等處置措施對用戶通過平台發布違法違規信息的行為進行處理。
從財經E法對遭遇網暴的當事人和平颱風控人員的採訪來看，平台確實在完善相關的治理措施。
張婷回憶，在2020年底那場有關她學歷的爭論中，她在評論和私信中收到了不少誹謗、辱罵信息。當時抖音對關閉評論、私信等功能的提示尚未完善，她也沒有想到關閉評論、私信等。但2021年7月，前述賬號質疑張婷“親日”時，張婷的抖音後台再一次收到了大量的侮辱、誹謗性的言論。此時，抖音已經自動彈出通知，提醒張婷可以關閉私信和評論。
財經E法梳理髮現，2022年3月以來，微博、抖音、B站陸續上線了“一鍵防護”“一鍵防暴”“一鍵取證”等新功能；快手、百度貼吧、知乎、小紅書等平台均可以自主設置私信、評論權限。必要時，用戶可以及時關閉私信、評論，盡量避免網暴的傷害。
朱巍認為，僅靠事後救濟並非良策，平台方應當在網暴發酵初期就做好預警，在事件中期迅速切斷網暴傳播鏈路。
事實上，一些平台已在探索事先發現網絡安全風險的機制。
據瀋河介紹，他所在平台會通過技術手段採集視頻中的原始語料，並利用自動化模型將語料庫進行分類和數據模型的提取。基於提取出的語料特徵，安全團隊對語料進行過濾和上報，並錄入風險數據庫。這些數據的主體是靠自動化召回獲得，但一些團隊重點關注的數據則是由人工召回而來：包括人工舉報、用戶反饋、安全團隊自發掘等方式。
發現風險后，專項小組會按照內部審核規則對數據進行研判，並根據不同的風險劃分優先等級、類型等，此時並不會對所有的網暴風險進行封禁處理、單篇文章屏蔽或社交關係屏蔽。
平台網絡安全風險發掘流程
瀋河舉例說，如果某個事件被標註為高風險，其中的某位發言用戶是個大V，發的內容有可能被網暴，且他的粉絲里有20%是有網暴傾向的用戶，平台就會判定他是一個高風險的網暴對象。平台會對大V本身做一些適當的社交關係屏蔽，比如關閉評論等，並對其中20%有網暴傾向的用戶做人群分割，不向他們展示相關的內容。“這個策略可以由平台去下發，也可以交由被網暴者主動觸發我們的‘一鍵防暴’功能。”瀋河說。
平台治理仍有局限
但是，現有的平台治理也有一定的局限性。
針對網暴事件的事前預警，瀋河告訴財經E法，平台會針對用戶已經發布的內容（包括作者創造的內容、普通社交關係上發布的評論）進行自動數據召回和風險發現，之後再通過人工對數據回撈發現的風險進行校對。由於可能會影響用戶體驗，“我們不能直接對機器的召迴風險直接執行封禁等策略，所以事前發現並不是一個我們真正能夠閉環解決網暴問題的手段。”他說。
在網暴事件中期，平台會設置“一鍵防暴”等主動攔截手段，也會在模型側加高邊審核（高級編輯和審核人員）作為事中的干預手段。“唯一的缺點是這一干預手段會直接阻斷可能被網暴賬號的社交關係，即網暴言論的輿論場，也不能防止在本平台外的第三方（平台）進行的一些網暴。”瀋河說。
平台在網暴事前和事中的治理手段
平台對網暴信息的審核方式為機器預測初篩，配合人工複核，但仍難以避免錯漏。
瀋河舉例說，假如100條文章或評論，平台會先用自動化模型過一遍，篩出疑似網暴或有網暴風險的50條，再進行人工審核。“目前的人審複核主要是給信息打個標籤。”
財經E法在瀋河展示的人工審核記錄中看到，疑似網暴的信息被審核員打上“網暴潛在名單”“負評針對內容，與作者無關”等標籤，隨後給出了“建議扣分至封禁”“禁言”等處置後續。
抖音前審核員小樂告訴財經E法，他曾工作過的審核部門有相應的網暴防自殺培訓與審核機制。小樂表示，他工作中遇到較多的是言語暴力。審核員會依據相關的敏感詞庫，例如“國罵”，辱罵主播或觀眾且“造成了人身攻擊”“危險性發言”“過激性話語”等，打上標籤並上報。
但是，判定言語暴力或者侮辱的標準存在模糊地帶，小樂處理的時候也經常犯難。“因為有的人習慣把一些話語當成口頭禪，並沒有主觀侮辱的意向。”小樂說。
據媒體此前報道，字節跳動 2017 年起大量招募內容審核員，至2021年已有超過2萬人，多數是正式員工。
小樂稱，人工審核如何在在準確率和效率之間做好平衡，是一大挑戰。審核員需要在審核系統中查看視頻是否有違規點，並對此打標提交。小樂回憶，他需要在幾分鐘內瀏覽多條視頻，他所在小組的審核員每天要審核至少300條1分鐘-5分鐘時長不等的視頻。其它有些小組一天的任務是處理1000條時長在30分鐘以上的視頻。如果遇到節假日、輿情爆發，內容遞增就要分時段加班處理。與此同時，後台也在檢測審核員的效率，太低就會被警告。
據小樂介紹，審核員每日的一般工作時長為9小時，在崗時間由上級提前一個月排班，確保24小時都有人在。幾乎每一個審核員都會輪到通宵班，加班則是常態。據小樂觀察，她身邊相熟的審核員有不少已經離職或計劃離職，“離職率高，平台也在不斷地招聘”。
吳丹君認為，在人工審核能力不足和機器審核算法模型不夠完善的情況下，可能遺漏部分網暴言論，亦可能誤傷部分正常言論。因此，平台需定期對對審核員進行培訓，以提高其業務能力，也需定期審核、評估、驗證算法機制機理、模型、數據和應用結果等，以完善機器審核算法模型。
探索更有效的治理模式
如何放大流量帶來的商業收益，同時規避網暴帶來的法律風險，是平台治理的挑戰。
朱巍表示，網暴形式多樣，比如用捏造虛假事實、移花接木、斷章取義的方式引起輿情、引導輿論，進而引髮網暴。在話題討論中，網友也常形成對立的兩派。“有對立就會有流量、有話題、甚至上熱搜，就為平台帶來了收益。”朱巍說。
中國傳媒大學教授、人類命運共同體研究院副院長王四新也認為，網暴事件對平台的流量有直接影響，按照狹義的市場回報率來講，流量越大，平台的收益越大。但網暴事件大肆發生，也會帶來法律和監管風險。“因此平台需要在兩者間保持平衡。”
瀋河告訴財經E法，監管部門十分關注他所在平台的動向。一旦平台被發現有違規行為，最嚴重的情況下，會導致App被下架，違規成本很高。所以，“我們一般不會為了熱度放鬆對網暴的治理。”他透露，有些娛樂屬性的內容平台可能會選擇冒一些風險。
對那些平台未能及時處理的問題，朱巍提到，中央網信辦（國家互聯網信息辦公室）違法和不良信息舉報中心設立的12377免費舉報電話、舉報網站、舉報郵箱也是一種有效的救濟途徑。“但目前由於舉報數量過多，12377也在超負荷運轉，無法滿足所有的舉報需求。”朱巍透露。
張婷告訴財經E法，最初她向抖音舉報時，平台僅對被舉報賬號封禁一個月。直到她通過12377郵箱舉報違規行為，被舉報賬號才被永久封號。
什麼才是對網暴更有效的監管模式？未來，平台的自我約束與相關部門的直接監管，又該如何產生合力？
北京師範大學互聯網發展研究院院長助理吳沈括告訴財經E法，可參考美國和歐盟的網暴治理思路，美國的治理思路以加大侵權處罰為特點，強調對侵害者的處罰力度，以及平台的安全保護義務。歐盟側重的則是對於特定信息內容、言論類型的約束，最具代表性的是2018年前後提出的反虛假消息行為守則，以及有關仇恨言論的相關法律法規。其中，反虛假消息行為守則強調的是“平台的自我約束”。
吳沈括認為，在全球範圍內，針對特定網絡言論內容的治理範圍正在擴大，對平台責任的要求、對相關主體的處罰力度也在提升。目前，中國的網暴治理以《網絡安全法》作為頂層設計，在技術要素、組織管理和在線內容三個層面建構規則內容，強調的是一種新的綜合治理思路。在這個過程中，也吸收了國際的實踐和經驗，例如，技術阻斷平台的保護義務和多層次的權利保障渠道。
中國社會科學院大學互聯網法治研究中心執行主任劉曉春建議，未來的治理思路可以從對內容施暴者的防範，向受害者自力救濟功能的提供上轉換。通過一些聲譽機制和信息披露機制，例如IP地址公開等措施，對網民進行引導。通過對網民的教育以及技術角度的功能設置上為網民賦能，提供及時的自我保護方式。
多位受訪對象提到，中國現行法規對於網暴並無明確規制，那麼，是否應該出台針對網暴的專門規定？對此，各方觀點不一。
“只靠平台治理是不夠的。”朱巍認為，每個人都擁有表達權，但在在網絡空間匿名化的環境下，群體行為往往不理性，缺少道德和法律的約束。治理網暴的根本在於法要責眾，區分情況追究參與者的責任。在立法層面，應當制定針對網暴的專項治理規定。
王四新則認為，對網暴立法並不現實。在他看來，網暴是一個細碎的問題，其產生的社會效果也難以量化。鄭晶晶也提到，網暴是一個綜合性概念，包含了多種不同的行為。“網暴更像是各種行為的匯總，很難進行法律上的定義。”
例如，在民事侵權行為中，網暴通常涉及“名譽權糾紛”“隱私權糾紛”“網絡侵權責任糾紛”，程度較為嚴重的會涉及到刑事犯罪中的誹謗罪、侮辱罪、尋釁滋事罪等；涉及行政處罰的行為，《治安管理處罰法》《網絡安全法》也有相關規定。
從實務角度，鄭晶晶認為，網暴治理中亟待解決的現實問題，是在法律救濟中更加明確從“刑事自訴”轉“公訴”的銜接機制和操作細則。
“國家應當通過司法解釋等進一步明確自訴轉公訴的銜接規定，對法律實踐進行明確指引。”鄭晶晶建議。
（應受訪者要求，文中瀋河、小樂均為化名）
文/樊朔
編輯/郭麗琴