•
在裁剪造成的信息损失与满足差分隐私所需要的噪声间进行trade off，一般裁剪后要尽可能保留100%的信息。

•
不能通过查看数据集来确定裁剪边界，这可能会泄露信息，同时也不满足差分隐私的定义。

•
根据数据集先天满足的一些性质来确定裁剪办界。如人的年龄一般在0~125岁之间。

•
采用差分隐私问询估计选择的边界是否合理。先通过数据变换把属性列映射为非负值，然后将裁剪下界置0，逐渐增加上界，直至问询输出不变。

 

1.5 向量值函数及其敏感度

1.6 Laplace机制

1.7 Gaussian机制

1.8 Laplace vs Gaussian

向量值Laplace机制需要使用L1敏感度，而向量值Gaussian机制L1和L2敏感度都可以使用。在L2敏感度远低于L1敏感度的场景下，Gaussian机制添加的噪声要小得多。向量值Laplace和Gaussian的发布规则为：

1.9 指数机制

前述Laplace和Gaussian机制的回复都是数值型的，只需要直接在回复的数值结果上添加噪声即可。如果我们想从一个备选回复集合中选出最佳结果，同时又保证回复过程满足差分隐私，那应该怎么办呢？一种可行的方法是使用指数机制。首先，定义一个备选回复集合；然后，再定义评分函数，评分函数输出备选集合中每个回复的分数；分数最高的回复就是最大回复。指数机制通过返回分数近似最大的回复来实现差分隐私保护。

报告噪声最大值

1.10 组合性与后处理性

二、LDP

2.1 LDP基本定义

2.2 LDP经典算法

2.3 LDP举例-随机应答

有n个用户，假设X病患者的真实比例为Π，我们希望对这个比例进行统计。于是我们发起一个敏感问题：“你是否为X病患者？”，每个用户的答案是yes or no。出于隐私性考虑，用户可能不会给出正确答案[5]。

我们可以对每位用户的回答加一些数据扰动。比如：用户正确回答的概率为p，错误回答概率为(1-p)。这样就不会准确知道每位用户的真实答案，相当于保护了用户隐私。按此规则我们统计回答yes与no的用户占比。

DP在机器学习领域的应用、基于Gaussian机制实现LDP的原理请听下回分享。

参考资料

1.Balle B, Wang Y X. Improving the gaussian mechanism for differential privacy: Analytical calibration and optimal denoising[C]//International Conference on Machine Learning. PMLR, 2018: 394-403.

2. https://programming-dp.com/

3.Cynthia Dwork, Aaron Roth, and others. The algorithmic foundations of differential privacy. Foundations and Trends® in Theoretical Computer Science, 9(3–4):211–407, 2014.

4.Xiong X, Liu S, Li D, et al. A comprehensive survey on local differential privacy[J]. Security and Communication Networks, 2020, 2020: 1-29.

5.LDP随机响应技术举例： https://zhuanlan.zhihu.com/p/472032115

 

作者：京东科技 李杰

内容来源：京东云开发者社区