網絡安全研究人員用AI生成假文件 打造更具迷惑性的“金絲雀陷阱”

一個新的人工智能系統會生成假文件來欺騙對手。在第二次世界大戰期間,英國情報人員在一具屍體上植入假文件,以愚弄納粹德國,使其準備進攻希臘。這一名為”碎肉”的行動獲得了成功,並成功掩護盟軍對西西里島的實際入侵。

間諜活動中的 “金絲雀陷阱”技術傳播了多個版本的假文件以掩蓋秘密,它可以用來嗅出信息的泄露源,或者像二戰中那樣,製造分散注意力以誤導敵方的情形,同時隱藏有價值的信息。

WE-FORGE是計算機科學系設計的一個新的數據保護系統,主要使用人工智能來建立金絲雀陷阱的概念。該系統自動創建虛假文件混淆目標,以保護知識產權,如藥物設計和軍事技術。

網絡安全、技術和社會特聘教授、安全、技術和社會研究所所長V.S. Subrahmanian說:”該系統產生的文件與原始文件足夠相似,因此對於目標來說是可信的,但又有足夠的不同,因此本身又是錯誤的。”

V-S-Subrahmanian.jpg

V.S. Subrahmanian是網絡安全、技術和社會領域的傑出教授,也是安全、技術和社會研究所的主任,他領導的研究小組自動生成假文件以保護知識產權。

網絡安全專家已經使用金絲雀陷阱或“蜜罐”和外語翻譯器來製造欺騙潛在攻擊者的假象。WE-FORGE通過使用自然語言處理來自動生成多個既可信又不正確的假文件,從而改進了這些技術。該系統還插入了隨機性元素,使對手無法輕易識別真實文件。WE-FORGE可用於創建任何技術設計文件的眾多假版本。當對手入侵一個系統時,他們面臨著一項艱巨的任務,即找出許多類似文件中的哪一個是真的。

“使用這種技術,我們迫使對手浪費時間和精力來識別正確的文件。即使他們這樣做了,他們也可能沒有信心他們是正確的,”Subrahmanian說。

創建假的技術文件的難度也不小。據該研究小組稱,一項專利可以包括1000多個概念,有多達20種可能的替代物。WE-FORGE最終可能會考慮數百萬種可能的概念,而這些概念可能需要在一份技術文件中被替換。

“惡意行為者現在正在竊取知識產權,並時常能夠輕鬆逃脫,”Subrahmanian說。”這個系統提高了竊賊在竊取政府或行業機密時的成本”。

WE-FORGE算法的工作原理是計算文件中概念之間的相似性,然後分析每個詞與文件的相關程度。然後,該系統將概念分為”倉”,並計算出每組的可行候選。”WE-FORGE也可以接受原始文件作者的輸入,人類和機器的聰明才智的結合可以更多的增加知識產權竊賊的成本。”

作為研究的一部分,該團隊偽造了一系列計算機科學和化學專利,並要求一個知識淵博的小組來決定哪些文件是真的。

根據發表在《ACM管理信息系統論文集》上的研究,WE-FORGE系統能夠 “為每個任務持續生成高度可信的假文件”。

與其他工具不同,WE-FORGE擅長偽造技術信息,而不僅僅是隱瞞簡單的信息,如密碼。WE-FORGE改進了該系統的早期版本–即FORGE,消除了創建與特定技術相關的概念指南這一耗時的需要。WE-FORGE還確保了假文件之間有更大的多樣性,並採用了改進的技術來選擇要替換的概念和它們的替代物。

(0)
上一篇 2021-05-10 22:22
下一篇 2021-05-10 23:26

相关推荐