新的人工智能模型可以幫助防止破壞性數(shù)據(jù)泄露

新的人工智能模型可以幫助防止破壞性數(shù)據(jù)泄露

英國倫敦帝國理工學院計算隱私小組的專家發(fā)現(xiàn)，人工智能(AI) 可用于自動發(fā)現(xiàn)基于查詢 (QBS) 系統(tǒng)中的易受攻擊的數(shù)據(jù)泄露。

該團隊分析了 QBS 系統(tǒng)上的數(shù)據(jù)泄露——分析師可以通過該界面查詢數(shù)據(jù)以提取有關世界的有用聚合信息。通過這種方式，他們能夠開發(fā)一種新的支持人工智能的方法，稱為 QuerySnout。這是人工智能首次被用于自動發(fā)現(xiàn)此類系統(tǒng)中的漏洞。

該研究的資深作者 Yves-Alexandre de Montjoye 博士說：“到目前為止，攻擊是使用高技能的專業(yè)知識手動開發(fā)的。這意味著需要很長時間才能發(fā)現(xiàn)數(shù)據(jù)泄露，從而使系統(tǒng)面臨風險。

“QuerySnout 在發(fā)現(xiàn)現(xiàn)實世界系統(tǒng)中的漏洞方面已經(jīng)超越了人類?！?

該研究作為第29屆ACM 計算機和通信安全會議的一部分發(fā)表。

為什么我們需要基于查詢的系統(tǒng)？

在過去十年中，收集和存儲數(shù)據(jù)的能力有了很大的提高。盡管這些數(shù)據(jù)有助于推動科學進步，但其中大部分是個人數(shù)據(jù)，因此使用它會引發(fā)嚴重的隱私問題。歐盟通用數(shù)據(jù)保護條例等法律旨在防止有關個人信息的嚴重數(shù)據(jù)泄露。

這意味著在保護我們的基本隱私權(quán)的同時，使數(shù)據(jù)能夠被永久使用，對于數(shù)據(jù)科學家和隱私專家來說是一個及時而重要的過程。

QBS 系統(tǒng)有可能實現(xiàn)大規(guī)模的隱私保護匿名數(shù)據(jù)分析。策展人保持對數(shù)據(jù)的控制，這意味著他們可以檢查和檢查分析師發(fā)送的查詢以防止數(shù)據(jù)泄露。

然而，這個系統(tǒng)是有缺陷的，因為非法攻擊者可以通過設計查詢來推斷個人信息來繞過這些系統(tǒng)。他們通過利用系統(tǒng)中的漏洞或執(zhí)行錯誤來獲取特定人員的信息，從而導致嚴重的數(shù)據(jù)泄露。

測試 QuerySnout

黑客利用系統(tǒng)缺陷進行未知的強“零日”攻擊的風險已經(jīng)停滯并延遲了 QBS 系統(tǒng)的開發(fā)。為了測試這些系統(tǒng)的強度，可以模擬數(shù)據(jù)泄露攻擊以檢測信息泄漏并識別可能的缺陷。

然而，針對復雜的 QBS 手動設計和實施這些攻擊是一個困難且漫長的過程。因此，根據(jù)研究人員的說法，限制安全攻擊的可能性對于安全使用 QBS 至關重要。

QuerySnout 的工作原理是學習向系統(tǒng)詢問哪些問題以獲得答案。然后，它會學習自動組合答案以檢測潛在的隱私漏洞。

通過使用機器學習，該模型可以創(chuàng)建由一組查詢組成的數(shù)據(jù)泄露。這些查詢結(jié)合答案以使用稱為“進化搜索”的全自動技術(shù)揭示私人信息，使模型能夠發(fā)現(xiàn)要問的正確問題集。

由于該過程發(fā)生在“黑匣子設置”中，人工智能只需要訪問系統(tǒng)而不是知道它是如何工作的，就可以檢測潛在的數(shù)據(jù)泄露。

該研究的共同第一作者 Ana-Maria Cretu 說：“我們證明了 QuerySnout 發(fā)現(xiàn)了比目前在現(xiàn)實世界系統(tǒng)中已知的攻擊更強大的攻擊。這意味著我們的人工智能模型比人類更擅長發(fā)現(xiàn)這些攻擊。”

進一步開發(fā) QuerySnout 以發(fā)現(xiàn)更高級的數(shù)據(jù)泄露

目前，QuerySnout 系統(tǒng)只測試了少量潛在的數(shù)據(jù)泄露事件。因此，該團隊正在尋求進一步推進系統(tǒng)以檢測更復雜的漏洞。

根據(jù) de Montjoye 博士的說法：“向前發(fā)展的主要挑戰(zhàn)將是將搜索擴展到更多的功能，以確保它發(fā)現(xiàn)甚至是最先進的攻擊?！?

盡管如此，該模型可以讓分析師測試 QBS 對不同類型攻擊者的穩(wěn)健性。QuerySnout 的開發(fā)代表了在保護與基于查詢的系統(tǒng)相關的個人隱私方面向前邁出的關鍵一步。

深圳市晶光華電子有限公司 專注石英晶振生產(chǎn)26年，強大的專業(yè)團隊，服務超過上千家客戶，高品質(zhì)， 年產(chǎn)能6億PCS，幫助客戶選型，免費匹配及測試，交付快；如果您對我們的石英晶振感興趣，歡迎咨詢我們的客服，獲取詳細資料及報價，我們將為您提供專業(yè)貼心的服務。