據CNET報道，Facebook母公司Meta周二表示，一個漏洞導致今年前三個月的一些沒有違反其規則的內容被錯誤地刪除。這家社交媒體巨頭表示，它修復了這個漏洞，並恢復了那些被錯誤地標記為違反其規則的帖子，包括反對恐怖主義和有組織仇恨。
Facebook在第一季度對250萬條被標記為有組織仇恨的內容採取了行動，比2021年第四季度的160萬條有所增加。該社交網絡在第一季度還對1600萬條恐怖主義內容採取了行動，比第四季度的770萬條增加了一倍多。Meta公司將這一高峰歸因於其媒體匹配技術中的一個漏洞。該公司季度標準執行報告中的一張圖表顯示，該社交網絡恢復了超過40萬條被錯誤標記為恐怖主義的內容。
Meta的照片和視頻服務Instagram也因為這個漏洞對更多的恐怖主義和有組織的仇恨內容採取了行動。這個漏洞也影響了其他類型的內容。報告說，由於這個問題，Facebook在第一季度恢復了34.56萬條被標記為自殺和自殘的內容，比第四季度的95300條有所增加。該社交網絡還在第一季度恢復了超過68.78萬條被錯誤標記為性剝削的內容，比上一季度的18.06萬條有所增加。
這些錯誤引起了人們對Meta公司的自動技術運作情況的質疑，以及是否存在其他未被發現的漏洞或錯誤。該公司表示，它一直在採取更多措施，防止內容審核錯誤的發生。Meta正在測試新的人工智能技術，從上訴和恢復的內容中學習。Meta公司誠信副總裁Guy Rosen在周二的新聞電話會議上說，它還在試驗在社交網絡對違反規則的人進行處罰之前給他們更多的提前警告。
Rosen說，當誤報被輸入其媒體匹配技術時，它將它會“散開”並刪除大量沒有違反平台規則的內容。“我們必須非常謹慎地對待在發生扇出之前進入系統的所謂種子。在這種情況下，我們所遇到的是引進了一些新技術，這給系統帶來了一些誤報，”Rosen補充說，內容後來被恢復了。
與此同時，Facebook也面臨著在恐怖主義內容傳播之前沒有將其刪除的審查。上周末，官方稱被指控在布法羅市一家雜貨店向10名黑人開槍致死的白人男子在Twitch上發布的直播視頻，也在Facebook和Twitter等社交網絡上傳播。《華盛頓郵報》報道，該視頻副本的鏈接出現在Facebook上，被分享了46000多次，收到了500多條評論。Facebook在10多個小時內沒有刪除該鏈接。
Rosen說，在公司知道了這起槍擊事件后，員工們迅速將該事件定為恐怖襲擊，並刪除了該視頻的任何副本以及官員們所說的槍手長達180頁的充滿仇恨的言論。
Rosen說，挑戰之一是人們創建新版本的視頻或鏈接，試圖逃避社交媒體平台的執法。他說，該公司與任何發生的情況一樣，將完善其系統，以更快地發現違規內容。Rosen補充說，關於Facebook正在考慮採取哪些具體措施，他沒有更多的細節可以分享。