自然語言處理領(lǐng)域中差分隱私和可解釋技術(shù)的應(yīng)用

1.導(dǎo)論
1.1 小規(guī)模專家知識階段
1.2 大規(guī)模語料庫統(tǒng)計模型階段
1.3 大規(guī)模語料庫深度學(xué)習(xí)階段
1.4 大規(guī)模預(yù)訓(xùn)練語言模型階段
2.自然語言處理基礎(chǔ)
2.1 文本表示
2.2 自然語言處理任務(wù)
2.3 評價指標(biāo)
3.預(yù)訓(xùn)練模型
3.1 靜態(tài)詞向量預(yù)訓(xùn)練模型
3.2 動態(tài)詞向量預(yù)訓(xùn)練模型
3.3 預(yù)訓(xùn)練語言模型
4.自然語言處理中的神經(jīng)網(wǎng)絡(luò)
4.1 多層感知機(jī)
4.2 卷積神經(jīng)網(wǎng)絡(luò)
4.3 循環(huán)神經(jīng)網(wǎng)絡(luò)
4.4 注意力機(jī)制
4.5 Transformer模型
4.6 提示學(xué)習(xí)Prompt Learning
5.差分隱私相關(guān)基礎(chǔ)
5.1 中心化差分隱私
5.2 本地差分隱私
5.3 度量差分隱私
5.4 UMLDP (Utility-optimized MLDP)
5.5 噪聲機(jī)制
6.攻擊類型
6.1 成員推理攻擊
6.2 重建攻擊
6.3 屬性推理攻擊
6.4 模型抽取攻擊
6.5 梯度信息攻擊
6.6 基于提示信息攻擊
7.基于單詞層級的差分隱私方法
7.1 中心化差分隱私場景下
7.2 本地化差分隱私場景下
7.3 度量差分隱私場景下
8.基于Token層級的差分隱私方法
8.1 SANTEXT和SANTEXT+
8.2 基于Bett系列的差分隱私方法
9.基于句子層級的差分隱私方法
9.1 Skip-Thoughts向量
9.2 Sent2Vec
9.3 Doc2Vec
9.4 SBERT
9.5 模糊詞袋方法Fuzzy Bag-of-Words
9.6 其他方法
9.7 句子層級差分隱私方法框架
10.基于主題層級的差分隱私方法
1O.1 LDA方法