早些時候,WhatsApp 負責人 Will Cathcart 明確表達了對蘋果新引入的“AI 虐童圖像檢測功能”的反對意見。在一連串推文中,他指出蘋果走了岔路,因為這套機制也可被用於掃描手機上的所有私人照片。由蘋果周四宣布的計劃可知,該功能將對上傳到 iCloud 的圖像哈希值、與已知的虐童材料(CASM)進行比較。
儘管蘋果宣稱會保持用戶數據的加密狀態、並在本地設備上運行分析。但在發現了所謂的“違規材料”之後,其仍允許該公司向當局上報。
另一方面,蘋果兒童安全策略會在 13 歲以下的孩子收發、查看包含色情內容的圖片時,向父母發出警告。
不過該公司內部的一份備忘錄承認,人們對這套系統還是存在相當大的顧慮。
然而就算不使用蘋果提議的方法,當前 WhatsApp 採用的基於用戶舉報的方案(同樣保留了加密屬性),還是在去年成功地向美國國家失蹤與受虐兒童中心彙報了超過 40 萬起案例。
值得一提的是,蘋果公司也選擇了與該中心合作,以開展 CSAM 方面的檢測工作。
除了 WhatsApp,還有許多個人與機構同樣表達了對蘋果 CASM 方案的反對意見,包括愛德華·斯諾登、電子前沿基金會(EFF)、以及約翰·霍普金斯大學副教授 Matthew Green 。
在該功能公開宣布之前,他就已經表達了反對意見。而在近日的推文中,他進一步發表了關於蘋果這項計劃、以及哈希比對系統將如何被政府與惡意行為者濫用等觀點。
電子前沿基金會的觀點是,蘋果的這項計劃,設計全面的記錄、仔細的考量、以及一道狹長的後門。
與 Matthew Green 教授的觀點雷電,EFF 也認為蘋果的 CASM 措施或被政府濫用、並且有損用戶的隱私。
哈佛大學網絡法律診所講師 Kendra Albert,也在一篇文章中指出了事物的兩面性,認為蘋果在向家長通報的年齡範圍等方面缺乏明確性。
比如 EFF 報告稱蘋果會監測年齡介於 13 至 17 歲的 iMessage 用戶的消息內容,但具體內容並未能夠在蘋果的相關文檔中找到。
此外愛德華·斯諾登轉發了《金融時報》的一篇文章,並援引了安全工程教授 Ross Anderson 的一段話,稱蘋果將 iPhone 改造得能夠持續侵犯用戶的隱私數據,且這一技術路線終將導致針對蘋果用戶的大規模監控。
政治家 Brianna Wu 亦發推批評稱,該系統是蘋果有史以來最糟糕的一個想法。
作家 Matt Blaze 也表達對該技術或被政府過度濫用的擔憂,並試圖阻止 CSAM 之外的內容。
最後,Epic 首席執行官 Tim Sweeney 批評稱,蘋果公司默認將每個人數據都往 iCloud 上傾倒了一遍,並承諾稍後向大家分享更多細節。
不過在 CSAM 支持者看來,蘋果這項工作還是向前邁出了重要的一步。
相關文章:
蘋果披露虐童圖片檢測功能 WhatsApp對此表示非常擔憂