典型文献
机器学习中差分隐私的数据共享及发布:技术、应用和挑战
文献摘要：
近年来,基于机器学习的数据分析和数据发布技术成为热点研究方向.与传统数据分析技术相比,机器学习的优点是能够精准分析大数据的结构与模式.但是,基于机器学习的数据分析技术的隐私安全问题日益突出,机器学习模型泄漏用户训练集中的隐私信息的事件频频发生,比如成员推断攻击泄漏机器学习中训练的存在与否,成员属性攻击泄漏机器学习模型训练集的隐私属性信息.差分隐私作为传统数据隐私保护的常用技术,正在试图融入机器学习以保护用户隐私安全.然而,对隐私安全、机器学习以及机器学习攻击三种技术的交叉研究较为少见.本文做了以下几个方面的研究:第一,调研分析差分隐私技术的发展历程,包括常见类型的定义、性质以及实现机制等,并举例说明差分隐私的多个实现机制的应用场景.初次之外,还详细讨论了最新的Rényi差分隐私定义和Moment Accountant差分隐私的累加技术.其二,本文详细总结了机器学习领域常见隐私威胁模型定义、隐私安全攻击实例方式以及差分隐私技术对各种隐私安全攻击的抵抗效果.其三,以机器学习较为常见的鉴别模型和生成模型为例,阐述了差分隐私技术如何应用于保护机器学习模型的技术,包括差分隐私的随机梯度扰动(DP-SGD)技术和差分隐私的知识转移(PATE)技术.最后,本文讨论了面向机器学习的差分隐私机制的若干研究方向及问题.
文献关键词：
隐私保护;差分隐私;机器学习;数据共享
中图分类号：
作者姓名：
胡奥婷;胡爱群;胡韵;李古月;韩金广
作者机构：
东南大学网络空间安全学院 南京 中国 211189;东南大学信息科学与工程学院 南京 中国 210096;网络通信与安全紫金山实验室 南京 中国 211111;南京财经大学江苏省电子商务重点实验室 南京 中国 210023
文献出处：
引用格式：
[1]胡奥婷;胡爱群;胡韵;李古月;韩金广-.机器学习中差分隐私的数据共享及发布:技术、应用和挑战)[J].信息安全学报,2022(04):1-16
A类：
Accountant,PATE
B类：
差分隐私,基于机器学习,数据发布,热点研究,数据分析技术,精准分析,隐私安全,机器学习模型,训练集,隐私信息,频频,成员推断,模型训练,私属性,属性信息,数据隐私保护,常用技术,用户隐私,交叉研究,调研分析,常见类型,实现机制,举例说明,nyi,Moment,累加,学习领域,安全攻击,击实,其三,鉴别模型,生成模型,随机梯度,DP,SGD,知识转移,隐私机制
AB值：
0.314056
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
