TikTok因在其應用上舉辦危險的病毒性“挑戰”而名聲不佳，並且在最糟糕的情況下，這些挑戰還會導致嚴重的傷害或死亡事件發生–比如今年促使意大利監管機構對該社交網絡採取行動以清除未成年用戶的昏迷挑戰(blackout challenge)。
最近，該應用因鼓勵學生打老師和破壞學校財產的挑戰而成為頭條新聞。隨着進一步監管的潛在威脅逼近，TikTok今日分享了其對病毒性挑戰和惡作劇的內部研究結果–以及它是如何採取行動的。
到目前為止，TikTok經常試圖淡化其對病毒性挑戰的參與。
比如今年10月，TikTok否認“掌摑老師”的挑戰是TikTok的一個趨勢。在一名兒童因嘗試昏迷挑戰而死亡后，TikTok發表聲明稱，該公司沒有發現任何涉及其平台上窒息的挑戰的證據。在最近一次專門討論社交平台上未成年人安全問題的參議院聽證會上，它再次重複了這一說法。但美參議員Blackburn告訴TikTok的代表，她的工作人員發現了暈倒的視頻以及其他令人不安的內容。
今日，TikTok發布了其自己對有害挑戰和騙局的內部研究結果。
這家公司表示，它在幾個月前啟動了一個全球項目來研究這個話題，其中包括對來自阿根廷、澳大利亞、巴西、德國、意大利、印度尼西亞、墨西哥、英國、美國和越南的1萬多名青少年、家長和教師的調查。另外 ，它還委託了一家獨立的保障機構Praesidio Safeguarding撰寫一份報告以詳細說明調查結果及其建議。此外，一個由12名領先的青少年安全專家組成的小組被要求審查該報告並提供他們自己的意見。最後，TikTok跟專門研究青少年健康發展的臨床兒童精神病學家Richard Graham博士和專門研究青少年風險預防的行為科學家Gretchen Brion-Meisels博士合作以提供進一步指導。
由於這份報告說明了社交媒體如何成為有害內容的溫床，所以其所發現的數據值得研究。由於年輕人處於心理髮展的階段，他們對風險的胃口要大得多。
正如Graham博士所指出的那樣，青春期是一個非同尋常的時期，為孩子過渡到成人生活做準備。他表，這是一個大規模大腦發育 的時期。“現在有很多人關注的是了解為什麼青少年會做他們所做的事情–因為這些判斷中心正在被重新修正，為將來更複雜的決策和思考做準備。”
Graham博士表示，年輕人的大腦在抽象思維方面、對更複雜的心理和情緒狀態的識別以及對關係的更複雜考慮都正在發展。而在這一切進行的過程中，他們對周圍世界的學習慾望也在增加–這有時可能包括參與更危險的活動和測試自己或贏得同齡人的認可的慾望。有時這些“危險”活動相對無害，如看恐怖電影或坐過山車。但其他時候，青少年和其他年輕人可能會選擇參與一些他們認為會真正在某種程度上拉伸他們的活動，這就吸引他們去面對更多的風險挑戰。
此外，一般來說，病毒性挑戰可以吸引青少年對朋友和同齡人認可的渴望，因為這會帶來喜歡和觀點。但青少年評估挑戰是否安全的方式有缺陷–他們往往只是看更多的視頻或向朋友徵求意見。同時，家長和老師往往對談論挑戰和騙局猶豫不決，因為他們擔心會促使人們對它們產生更多的興趣。
研究發現，大多數青少年並沒有參與最危險的挑戰。全球只有21%的青少年在參加挑戰，只有2%的人參加了那些被認為是危險的挑戰。更少的0.3%參加了他們認為是“真正危險”的挑戰。大多數人認為參與挑戰是中性的（54%）或積極的（34%），而不是消極的（11%）。而64%的人說參與挑戰對他們的友誼和關係有着積極的影響。
該項研究還考察了惡作劇挑戰–如Blue Whale和Momo–它們宣傳了有一個壞的行為者在指揮孩子們從事有害的活動，並升級為自我傷害或自殺。61%的青少年表示，當他們遇到騙局時他們會搜索更多的信息以試圖驗證它們是否是真的，但在騙局周圍往往還存在很多困惑。青少年懷疑轉發騙局的人是為了獲得喜歡和瀏覽量（62%的人相信這一點）或因為他們認為騙局是真的（60%的人相信這一點）。有46%的青少年接觸到騙局後會尋求支持或建議，這表明青少年會從幫助他們理解騙局材料的資源中受益。
儘管研究表明，為了解決與用戶安全有關的問題，社交媒體平台還有很多事情要做，但TikTok在這方面的反應相當小。
這家公司近日宣布，它將在其安全中心增加一個專門討論挑戰和騙局的新部分，另外還將根據研究人員的建議修改其在人們搜索跟自殺或自我傷害有關的騙局時出現的警告標籤中的一些語言。
考慮到這些變化相對較小的性質–基本上是一個幫助文檔和一些修訂的文本–在今天的公告之前，TikTok在周一曾向媒體直播了一個小時的研究報告並將38頁的研究報告全文電郵給記者。TikTok這樣做似乎是為了將自己跟Facebook區分開來，後者一直對外不公布令人震驚的內部研究，直到舉報人Frances Haugen拿出數千份文件，人們才知道Facebook明知自己的問題卻沒有採取行動。
TikTok希望自己被視為有意義地參與研究過程，但最終，它所做的改變並不能解決問題。歸根結底，有害內容是一個管理上的挑戰，是一個源於社交媒體本身性質的問題。消除有害內容將需要一個從頭開始設計的系統，以不激勵令人震驚或離譜的內容來換取喜歡和瀏覽，然而大多數社交媒體都不是這樣建立起來的。
TikTok還表示，它將尋找跟標籤相關的違規內容的突然增加，包括潛在的危險行為。
比如像#FoodChallenge這樣的標籤（通常用於分享美食食譜和烹飪靈感）開始出現峰值，而其更多的內容違反了TikTok的政策，那麼審核團隊將會被提醒去尋找這種峰值的原因，進而方便他們能夠採取行動。
