• <samp id="wcmmc"></samp><blockquote id="wcmmc"><samp id="wcmmc"></samp></blockquote>
  • 《電子技術應用》
    您所在的位置:首頁 > 其他 > 設計應用 > 機器學習中的成員推斷攻擊與防御研究
    機器學習中的成員推斷攻擊與防御研究
    信息技術與網絡安全
    王鵬焱
    (安徽理工大學 計算機科學與工程學院,安徽 淮南232001)
    摘要: 隨著機器學習滲透到日常生活中的各個方面,其數據隱私問題受到越來越多的關注。成員推斷攻擊是機器學習算法面臨的安全威脅之一,用于推斷特定數據是否存在于機器學習模型的訓練集中,給用戶帶來極大的安全隱患,對機器學習模型的安全性提出挑戰。為此,研究成員推斷攻擊不僅能發現隱私數據面臨的威脅,而且還能為防御技術的提出提供思路。對近年來有關成員推斷攻擊的研究進行詳細的分析,按照應用場景的不同將攻擊分為判別模型攻擊、生成模型攻擊以及聯邦學習攻擊三類。同時根據成員推斷攻擊和防御的發展現狀,闡述了影響攻擊的因素以及經典的防御策略。最后指出成員推斷攻擊中仍需解決的問題以及未來的發展方向。
    中圖分類號: TP309
    文獻標識碼: A
    DOI: 10.19358/j.issn.2096-5133.2021.08.011
    引用格式: 王鵬焱. 機器學習中的成員推斷攻擊與防御研究[J].信息技術與網絡安全,2021,40(8):65-70,83.
    Reasearch on membership inference attack and defense in machine learning
    Wang Pengyan
    (School of Computer Science and Engineering,Anhui University of Science and Technology,Huainan 232001,China)
    Abstract: As machine learning penetrates into all aspects of daily life, its data privacy issues have received more and more attention. Membership inference attacks are one of the security threats faced by machine learning algorithms. They are used to infer whether specific data exists in the training set of machine learning models, which brings great security risks to users and poses challenges to the security of machine learning models. To this end, the researchers inferred that attacks can not only discover threats to private data, but also provide ideas for the proposal of defense technologies. This article conducts a detailed analysis of the research on membership inference attacks in recent years, and divides the attacks into three types: discriminative model attacks, generative model attacks, and federated learning attacks according to different application scenarios. At the same time, according to the development status of membership inference attacks and defense, this paper expounds the factors that affect the attack and the classic defense strategies. Finally, it points out the problems that need to be solved in the membership inference attacks and the future development direction.
    Key words : machine learning;membership inference attack;privacy security;defense technology

    0 引言

    機器學習在智能醫療、圖像識別、推薦系統、情感分析[1-4]等領域得到快速的發展,加速了傳統行業的智能化發展。然而,用于訓練機器學習模型的大量數據不可避免地包含敏感信息,機器學習的蓬勃發展在改變人們生活方式的同時,也給數據隱私安全帶來嚴峻的威脅。例如,一個基于癌癥病人信息訓練的模型,如果知道了某病人是該模型的訓練集成員,可以直接推斷出該病人的患病信息并由此可能引發歧視問題[5]。這種推斷數據是否存在于訓練集的算法稱為成員推斷攻擊,近年來成為研究者關注的熱點。 




    本文詳細內容請下載:http://www.lifeadjustmentscoaching.com/resource/share/2000003728




    作者信息:

    王鵬焱

    (安徽理工大學 計算機科學與工程學院,安徽 淮南232001)


    此內容為AET網站原創,未經授權禁止轉載。
    岛国AV无码免费无禁播放器