英國政府宣布五個項目將獲得資金 用於檢測CSAM材料

據TechCrunch報道，英國政府在9月宣布的“安全技術”挑戰下，宣布了5個獲得公共資金的項目–當時英國內政部表示，它希望鼓勵科技行業和學術界開發新型人工智能/掃描技術，這些技術可以在端到端加密（E2EE）服務上實施，以檢測兒童性虐待材料（CSAM）。

一些主流信息服務已經使用E2EE技術，如Facebook的WhatsApp和蘋果的iMessage。

英國內政部聲稱，它正在尋找一個中間地帶，不要求數字服務提供商放棄使用端對端加密，但仍允許檢測到CSAM材料並將其發送給執法部門，同時也不影響安全性。

“安全技術”挑戰基金由英國數字、文化、媒體和體育部(DCMS)管理–在周三宣布撥款后，數字部長Chris Philp在一份聲明中說：“社交媒體平台完全有可能使用端對端加密，而不妨礙杜絕虐待兒童的努力。但他們沒有採取行動來解決這個問題，所以我們正在介入，幫助開發所需的解決方案。在不確保執法和兒童保護措施仍然到位的情況下，部署E2EE是不可接受的。”

英國政府最初授予這五個項目每個8.5萬英鎊–還有13萬英鎊可能被”最強”的項目所瓜分（使資金總額達到55.5萬英鎊）–這些項目分別是：

• 總部設在愛丁堡的數字取證公司Cyan Forensics和專註於實時風險情報的Crisp Thinking，與愛丁堡大學和非營利性的互聯網觀察基金會合作，將開發一個插件，集成到加密的社交平台中，”通過將內容與已知的非法材料相匹配來檢測CSAM”。

• 家長控制應用程序製造商SafeToNet和安格利亞魯斯金大學，將開發一套可在任何智能設備上運行的實時視頻管理AI技術–旨在”防止在製作過程中實時拍攝裸體、暴力、色情和CSAM”。

• 位於聖奧爾本斯的企業安全公司GalaxKey將與位於普爾的內容審核軟件製造商Image Analyser和數字身份和年齡保證公司Yoti合作，”開發專註於用戶隱私的軟件，檢測和預防CSAM和掠奪性行為，以及年齡驗證，在其到達E2EE環境之前檢測兒童性虐待，防止其被上傳和分享”。

• 位於愛丁堡的內容審核初創公司DragonflAI，也將與Yoti合作，將其設備上的裸體AI檢測技術與後者的年齡保證技術相結合，以便”在E2EE環境中發現新的不雅圖像”。

• 總部位於奧地利的數字取證公司T3K-Forensics也贏得了英國政府的資助，在智能手機上實施其基於人工智能的兒童性虐待檢測技術，以檢測新創建的材料–提供政府所稱的”社交平台可以與他們的E2EE服務整合的工具包”。

獲獎項目將在5個月的交付階段結束時由外部評估機構進行評估–英國政府表示，評估機構將考察成功標準，包括”商業可行性，以確定在市場上的部署能力，以及長期影響”。

在一份聯合聲明中，DCMS和英國內政部還提及了即將出台的《在線安全法案》–他們聲稱該法案將改變非法和有害在線內容的處理方式，為社交媒體和其他科技公司對其英國用戶規定新的注意義務。

“這將意味着網上的非法內容（如兒童性虐待和剝削）將減少，即使出現，也會被更快地刪除。”他們補充說：“注意義務仍將適用於選擇使用端對端加密的公司。”

DCMS今年夏天發布的先前指南敦促社交媒體和信息公司”防止”對兒童賬戶使用端到端加密技術。因此，英國政府似乎正在發展其方法（或其信息）–並寄希望於嵌入式CSAM檢測工具被植入端到端加密並能夠進行內容檢測。

當然，假設上述任何一個項目都能在可接受的準確度水平上提供聲稱的CSAM檢測/預防功能（即避免任何破壞性的誤報）。