一、 前言
2020年全球新冠疫情肆虐，迫使大家在家辦公、在家購(gòu)物…，再加上無(wú)論經(jīng)濟(jì)還是制造還是企業(yè)全面數(shù)字化轉(zhuǎn)型，產(chǎn)生的海量數(shù)據(jù)導(dǎo)致的人們對(duì)數(shù)字?jǐn)?shù)據(jù)的安全憂慮持續(xù)上升，如何保護(hù)隱私日益被大眾關(guān)注？在此背景下，全世界在科技趨勢(shì)預(yù)測(cè)領(lǐng)域非常著名的咨詢公司Gartner，第一次將隱私增強(qiáng)計(jì)算技術(shù)（PEC）納入了它們預(yù)測(cè)2021年的九大重要戰(zhàn)略科技趨勢(shì)之一。作為專業(yè)從事信息安全研究、意圖引領(lǐng)科技發(fā)展趨勢(shì)的我們，在已經(jīng)快邁入2021年第二個(gè)季度的當(dāng)下，對(duì)這一技術(shù)應(yīng)該進(jìn)行深入研究。
二、隱私增強(qiáng)計(jì)算是指什么？
隱私增強(qiáng)計(jì)算技術(shù)在今天雖然知名度很低，但是它對(duì)于未來(lái)的重要性，絕對(duì)不容小覷。
1、隱私增強(qiáng)計(jì)算的誕生
隱私增強(qiáng)計(jì)算技術(shù)的出現(xiàn)完全來(lái)源于數(shù)字化經(jīng)濟(jì)的全面繁榮。國(guó)內(nèi)：在過(guò)去這一整年，我們經(jīng)常會(huì)看到這樣一類新聞，比如像是“被困在算法里的外賣小哥”，或者“大數(shù)據(jù)殺熟”…國(guó)外，不時(shí)報(bào)道出被“科技巨頭操縱的美國(guó)大選”、歐洲某國(guó)根據(jù)GDPR有關(guān)條款對(duì)Google、Facebook…等巨頭開(kāi)出罰單，責(zé)令其停止在外部網(wǎng)站上收集用戶瀏覽習(xí)慣的數(shù)據(jù)等等。
不論我們是認(rèn)同還是反對(duì)這些說(shuō)法，不可否認(rèn)的是，全世界范圍內(nèi)對(duì)于大型科技企業(yè)的信任程度是遠(yuǎn)不如以前了。其中最重要的原因，就是很多人開(kāi)始感受到這些科技巨頭可能正在利用他們收集海量用戶數(shù)據(jù)的優(yōu)勢(shì)，侵犯人們的隱私，甚至是謀取不當(dāng)利益。
面對(duì)這個(gè)現(xiàn)象，業(yè)界有兩種截然不同的態(tài)度。一種態(tài)度是認(rèn)為我們現(xiàn)在個(gè)人數(shù)據(jù)隱私權(quán)的犧牲，是技術(shù)進(jìn)步的必然代價(jià)，沒(méi)有什么可大驚小怪的。另外一種態(tài)度是覺(jué)得這些大公司實(shí)在太可惡了，是在濫用我們的個(gè)人數(shù)據(jù)，一定要制裁它們。
那有沒(méi)有一種技術(shù)，既可以100%地保護(hù)我們的個(gè)人數(shù)據(jù)不被濫用，同時(shí)又能夠確保將我們的各種需求，及時(shí)地告知這些科技企業(yè)，讓它們能夠給我們提供高效的服務(wù)呢？
這個(gè)問(wèn)題，今天在很多科學(xué)家的心目中已經(jīng)有了答案--那就是隱私增強(qiáng)計(jì)算技術(shù)。
2、什么是隱私增強(qiáng)計(jì)算？
所謂隱私增強(qiáng)計(jì)算并不是某一項(xiàng)具體的技術(shù)，而是一大類既可以保護(hù)用戶隱私、又能夠?qū)崿F(xiàn)數(shù)據(jù)計(jì)算效果的新興計(jì)算技術(shù)的統(tǒng)稱。
不斷增長(zhǎng)的計(jì)算能力、每天生成的海量信息、以及越發(fā)廣泛的數(shù)據(jù)可用性，使得過(guò)去似乎難以想象的事情現(xiàn)在可能性劇增。例如，使用智能手機(jī)可能會(huì)導(dǎo)致個(gè)人資料中包含有敏感屬性的個(gè)人資料；個(gè)人的眾多私密信息可能可以從聯(lián)系人的相關(guān)信息中推斷出來(lái)；隨著數(shù)據(jù)收集和使用的擴(kuò)大，對(duì)可用數(shù)據(jù)集的分析可以十分容易地提取出個(gè)人和有關(guān)的隱私信息…此外，數(shù)據(jù)敏感性還不僅限于個(gè)人隱私。例如，數(shù)據(jù)可能涉及商業(yè)秘密甚至與國(guó)家秘密有關(guān)。
個(gè)人或組織可能希望共享數(shù)據(jù)，但又希望能夠限制與誰(shuí)共享信息、共享什么信息。隱私增強(qiáng)計(jì)算技術(shù)就是通過(guò)不同技術(shù)手段和方式來(lái)幫助實(shí)現(xiàn)此類限制。
需要說(shuō)明的是，隱私增強(qiáng)計(jì)算技術(shù)的使用本身并不能自動(dòng)分析出是否合法、合乎道德或值得信賴，但可以肯定的是：實(shí)施隱私增強(qiáng)計(jì)算技術(shù)可以確保使用數(shù)據(jù)風(fēng)險(xiǎn)可控、針對(duì)特定隱私的保護(hù)有力有效。
3、當(dāng)前的隱私增強(qiáng)計(jì)算技術(shù)功能和局限性
隱私增加計(jì)算技術(shù)給數(shù)據(jù)帶來(lái)哪些保護(hù)？隱私增強(qiáng)計(jì)算技術(shù)的使用都有哪些注意事項(xiàng)和局限性？隱私增強(qiáng)計(jì)算技術(shù)主流方法都有哪些呢？
?。?）隱私增強(qiáng)計(jì)算技術(shù)提供什么樣的保護(hù)？
當(dāng)前沒(méi)有適用于隱私保護(hù)數(shù)據(jù)分析的每種情況的技術(shù)，可以使用不同的隱私增強(qiáng)計(jì)算技術(shù)來(lái)實(shí)現(xiàn)不同的目標(biāo)。通過(guò)隱私增強(qiáng)計(jì)算技術(shù)可提供：
安全地提供對(duì)私有數(shù)據(jù)集的訪問(wèn)
能夠?qū)Χ鄠€(gè)組織持有的私人數(shù)據(jù)進(jìn)行聯(lián)合分析
將私有數(shù)據(jù)安全地外包給云計(jì)算方
分散依賴用戶數(shù)據(jù)的服務(wù)
值得注意的是某些隱私增強(qiáng)計(jì)算技術(shù)可能更適合組織使用（企業(yè)對(duì)企業(yè)：B2B），而其他隱私增強(qiáng)計(jì)算技術(shù)則更適合個(gè)人使用（企業(yè)對(duì)消費(fèi)者：B2C）。例如，云服務(wù)提供商可能希望使用基于加密的安全硬件或技術(shù)來(lái)保護(hù)其平臺(tái)上的代碼和數(shù)據(jù)，而個(gè)人可能會(huì)受益于使用個(gè)人數(shù)據(jù)存儲(chǔ)和其他為個(gè)人設(shè)計(jì)的隱私增強(qiáng)計(jì)算技術(shù)。
因此選擇隱私增強(qiáng)計(jì)算技術(shù)需要考慮控制、監(jiān)督或信任模型的形式。在任何給定的系統(tǒng)中，無(wú)論是集中式、分散式還是分布式，信任都取決于上下文以及誰(shuí)能“看到”未加密的數(shù)據(jù)。大多數(shù)隱私增強(qiáng)計(jì)算技術(shù)都起源于密碼學(xué)領(lǐng)域，而密碼學(xué)通常是針對(duì)“攻擊者”模型（或威脅模型）提出的，即某些系統(tǒng)可能遭受的攻擊。這對(duì)這些隱私增強(qiáng)計(jì)算技術(shù)管理數(shù)據(jù)訪問(wèn)的方式有影響，例如：
安全的多方計(jì)算特別消除了對(duì)中央信任機(jī)構(gòu)的需要，否則各方將需要與該中心共享信息。
集中式和分布式差分隱私具有不同的信任模型：在集中式（又稱為“全局”）差分隱私中，在釋放輸出時(shí)會(huì)添加噪聲，這意味著信任位于中央組織中；而在分布式差分隱私中，在收集數(shù)據(jù)時(shí)會(huì)添加“本地”差分隱私噪聲。
個(gè)人數(shù)據(jù)存儲(chǔ)為個(gè)人提供了選擇和控制他們想要信任數(shù)據(jù)的方式。此外，也可能提供在本地處理數(shù)據(jù)的可能性，而不是將原始數(shù)據(jù)發(fā)送給中央機(jī)構(gòu)，中央機(jī)構(gòu)的數(shù)據(jù)集中使其成為黑客的重要且誘人的目標(biāo)。
（2）五個(gè)主流隱私增強(qiáng)計(jì)算技術(shù)技術(shù)的功能和局限性
目前隱私增強(qiáng)計(jì)算技術(shù)主要技術(shù)領(lǐng)域有五個(gè)，它們特別有希望實(shí)現(xiàn)隱私保護(hù)計(jì)算（還有其他可用技術(shù)，例如群簽名、基于屬性的加密、直接匿名證明等，它們具有不同成熟度）。它們代表了一套非常多樣化的方法，突出了不同系統(tǒng)安全性/硬件、統(tǒng)計(jì)信息和密碼學(xué)解決相似問(wèn)題的不同方式。
* 同態(tài)加密
同態(tài)加密是一種加密形式，它允許對(duì)加密數(shù)據(jù)進(jìn)行某些計(jì)算，從而生成加密結(jié)果，該結(jié)果在解密后與加密前對(duì)數(shù)據(jù)執(zhí)行的相同操作的結(jié)果相匹配。尤其可以使用它來(lái)對(duì)敏感數(shù)據(jù)的某些特定操作安全地外包給云或其他第三方組織。它也可以與其他隱私增強(qiáng)計(jì)算技術(shù)結(jié)合使用，以安全地共享數(shù)據(jù)。
在全部或部分不信任計(jì)算環(huán)境且不應(yīng)訪問(wèn)敏感數(shù)據(jù)的情況下，同態(tài)加密可用于分析數(shù)據(jù)。同態(tài)加密提供了機(jī)密性，可用于解決“不安全”和“暴露”問(wèn)題，以及在數(shù)據(jù)集或輸出中揭示與個(gè)人或組織相關(guān)的敏感屬性的風(fēng)險(xiǎn)。
同態(tài)加密方法有多種變體，可以以不同的方式使用。完全同態(tài)加密（FHE）是指可以在數(shù)據(jù)上計(jì)算任何多項(xiàng)式函數(shù)的加密方案，這意味著無(wú)數(shù)的加法和乘法。但是，仍處于研究階段的FHE在實(shí)踐中效率低下，這就是為什么可以使用有限數(shù)量或幾種類型的操作的方案更為普遍的原因--所謂的同態(tài)加密（SHE）或部分同態(tài)加密（PHE）。SHE是一種加密，它支持對(duì)加密數(shù)據(jù)進(jìn)行有限數(shù)量的加法和乘法運(yùn)算，并且預(yù)先確定。PHE是僅支持加法或乘法的加密（也稱為加法同態(tài)加密和乘法同態(tài)加密）。同態(tài)加密可以啟用其他隱私增強(qiáng)計(jì)算技術(shù)，例如安全的多方計(jì)算。
同態(tài)加密最早是在1978年提出的，密碼學(xué)家早就意識(shí)到基于經(jīng)典群論的公鑰加密自然具有同態(tài)性。在此基礎(chǔ)上，提出了未來(lái)30年的PHE計(jì)劃。第一個(gè)FHE方案僅在2009年由Craig Gentry提出，明確地解決了密碼學(xué)領(lǐng)域一個(gè)長(zhǎng)期存在的開(kāi)放性問(wèn)題。所有早期方案都是很不實(shí)用的，因?yàn)橛?jì)算時(shí)間特別長(zhǎng)。從2017年開(kāi)始，在努力標(biāo)準(zhǔn)化該技術(shù)之后，SHE已開(kāi)始在商業(yè)上可行。尤其是北美的行業(yè)、政府和學(xué)術(shù)界發(fā)布了三本白皮書（2017年），內(nèi)容涉及安全性、應(yīng)用程序編程接口（API）和應(yīng)用程序，以及參數(shù)選擇標(biāo)準(zhǔn)草案。
同態(tài)加密局限性主要體現(xiàn)于：在分析人員希望進(jìn)行任意計(jì)算的情況下不適合使用同態(tài)加密。雖然PHE通常被使用-例如用于安全數(shù)據(jù)庫(kù)查詢或委托計(jì)算，但SHE和FHE是當(dāng)前正在進(jìn)行的研究，最實(shí)用的SHE和FHE方案基于所謂的基于格的構(gòu)造，其中研究集中于有效的編碼和噪聲管理技術(shù)。這種類型的加密方案依賴于噪聲加密，每次加密操作都會(huì)增加此類噪聲，如果噪聲超過(guò)某個(gè)閾值，解密將失敗。
與未加密數(shù)據(jù)計(jì)算相比，同態(tài)加密在計(jì)算上極為昂貴且吞吐量較低。加密可能會(huì)導(dǎo)致數(shù)據(jù)量大增，這可能會(huì)導(dǎo)致嚴(yán)重的帶寬問(wèn)題。同樣，計(jì)算需要表示為多項(xiàng)式，這在實(shí)踐中可能是一個(gè)限制。對(duì)于FHE，運(yùn)行時(shí)間隨著操作次數(shù)（加法或乘法）的增加而急劇增加。
此外，信任管理方面，考慮到當(dāng)前的進(jìn)展，使用同態(tài)加密可能很難讓客戶端驗(yàn)證服務(wù)器是否執(zhí)行了它聲稱的功能--這也是當(dāng)前研究的重點(diǎn)。
* 可信執(zhí)行環(huán)境
可信執(zhí)行環(huán)境（TEE）是主處理器內(nèi)部的安全區(qū)域。TEE與系統(tǒng)的其余部分是隔離的，因此操作系統(tǒng)或管理程序無(wú)法讀取TEE中的代碼。但是，TEE可以訪問(wèn)外部的內(nèi)存。TEE還可通過(guò)加密保護(hù)“靜止”數(shù)據(jù)不被分析。
與同態(tài)加密一樣，TEE可用于將敏感數(shù)據(jù)的計(jì)算安全地外包給云。TEE代替了加密解決方案，而是提供了一種基于硬件的方式，以確保將計(jì)算外包到的服務(wù)器而不用暴露數(shù)據(jù)和代碼。例如，TEE是存儲(chǔ)主加密密鑰的好地方。
此外，TEE可以支持任何類型的分析。它們的使用成本很低：實(shí)際的計(jì)算是對(duì)未加密的數(shù)據(jù)執(zhí)行的，并且不需要向數(shù)據(jù)中添加任何噪聲。
TEE可用于解決數(shù)據(jù)集或輸出中的“不安全”和“暴露”問(wèn)題，沒(méi)有暴露個(gè)人或組織相關(guān)的數(shù)據(jù)的敏感屬性的風(fēng)險(xiǎn)。
TEE的研究起源于1990年代IBM在可編程安全協(xié)處理器的開(kāi)發(fā)中。這些協(xié)處理器允許在敵對(duì)環(huán)境中保護(hù)應(yīng)用程序的安全，同時(shí)保持高性能。在2000年代初期，ARM發(fā)布了TrustZone，這是一組硬件模塊，可以在所謂安全區(qū)（運(yùn)行經(jīng)過(guò)身份驗(yàn)證和加密的區(qū)域）和常規(guī)區(qū)（運(yùn)行不受信任的軟件）之間劃分系統(tǒng)資源。在2010年初，英特爾推出了自己的安全處理器，稱為軟件保護(hù)擴(kuò)展（SGX）。
TEE當(dāng)前的挑戰(zhàn)和局限性集中于與其他現(xiàn)有的加密技術(shù)一樣，保護(hù)TEE中的安全密鑰仍然是一個(gè)難題，尤其特別需要保護(hù)生成安全加密功能的系統(tǒng)。
*安全的多方計(jì)算
安全多方計(jì)算（MPC）是與啟用私有分布式計(jì)算有關(guān)的密碼術(shù)語(yǔ)。MPC協(xié)議允許對(duì)合并的數(shù)據(jù)進(jìn)行計(jì)算或分析，而無(wú)需各方公開(kāi)自己的部分。特別是，當(dāng)兩個(gè)或兩個(gè)以上的參與方想要對(duì)其合并數(shù)據(jù)進(jìn)行分析，但出于法律或其他原因，他們無(wú)法彼此共享數(shù)據(jù)時(shí)，可以使用該方法。
例如，MPC可以允許投標(biāo)者在不透露任何實(shí)際出價(jià)的情況下確定誰(shuí)贏得了標(biāo)。MPC還可以用于允許進(jìn)行私有多方機(jī)器學(xué)習(xí)，在這種情況下，不同的各方可以彼此發(fā)送加密的數(shù)據(jù)，并且他們可以在其組合數(shù)據(jù)上訓(xùn)練機(jī)器學(xué)習(xí)模型，而不會(huì)看到彼此的透明數(shù)據(jù)。這消除了對(duì)可信任的中央機(jī)構(gòu)的需求，以往中央機(jī)構(gòu)需要通過(guò)匯總所有數(shù)據(jù)并將其解密來(lái)執(zhí)行計(jì)算。MPC也表現(xiàn)出分布式計(jì)算的優(yōu)點(diǎn)，使用MPC可以解決“不安全”和“暴露”的問(wèn)題，以及在數(shù)據(jù)集或輸出中暴露與個(gè)人或組織相關(guān)的敏感屬性的風(fēng)險(xiǎn)。
可以使用MPC技術(shù)來(lái)實(shí)現(xiàn)私有集交叉點(diǎn)（PSI），其中兩個(gè)或多個(gè)參與方比較數(shù)據(jù)集而不以未加密的形式顯示數(shù)據(jù)集。最后，每一方都知道彼此有哪些共同點(diǎn)。當(dāng)前，有一些可擴(kuò)展的PSI開(kāi)源實(shí)現(xiàn)，私有信息檢索（PIR）也可以使用MPC技術(shù)實(shí)現(xiàn)，并允許用戶查詢數(shù)據(jù)庫(kù)，同時(shí)隱藏檢索到的數(shù)據(jù)的身份。Google正在使用PIR來(lái)警告用戶其密碼可能不安全。
MPC的第一個(gè)原型可以追溯到2004年，用于多方計(jì)算的實(shí)際開(kāi)發(fā)和商業(yè)產(chǎn)品于2010年開(kāi)始出現(xiàn)。最初的商業(yè)應(yīng)用是在拍賣中，例如，MPC被用來(lái)以隱私保護(hù)的方式在丹麥的甜菜生產(chǎn)商之間重新分配丹麥在歐盟固定的生產(chǎn)配額，而不會(huì)泄露商業(yè)敏感信息。最近的理論發(fā)展進(jìn)一步使使用MPC進(jìn)行數(shù)據(jù)分析成為可能。
當(dāng)前MPC的挑戰(zhàn)和局限性主要集中于：MPC顯著增加了計(jì)算給定功能所需的時(shí)間，部分原因是跨網(wǎng)絡(luò)傳送加密數(shù)據(jù)（延遲）會(huì)產(chǎn)生延遲。自從第一個(gè)實(shí)現(xiàn)問(wèn)世以來(lái)，計(jì)算時(shí)間已經(jīng)減少很大，但仍需要進(jìn)一步改進(jìn)以使MPC更加實(shí)用。
*個(gè)人數(shù)據(jù)存儲(chǔ)
個(gè)人數(shù)據(jù)存儲(chǔ)（PDS）是一種系統(tǒng)，可為個(gè)人提供有關(guān)其數(shù)據(jù)的訪問(wèn)和控制權(quán)，以便他們可以決定要共享哪些信息以及與誰(shuí)共享。PDS對(duì)個(gè)人生成的數(shù)據(jù)提供透明度和代理權(quán)，他們可以授權(quán)人們管理和處理有關(guān)他們的數(shù)據(jù)。
其他四個(gè)隱私增強(qiáng)計(jì)算技術(shù)不同，PDS是面向消費(fèi)者的應(yīng)用程序和服務(wù)，可以由不同種類的隱私增強(qiáng)計(jì)算技術(shù)支持。它們提供了隱私增強(qiáng)計(jì)算技術(shù)的目標(biāo)之一--使人們能夠更好地控制數(shù)據(jù)。
PDS支持分布式系統(tǒng)，其中數(shù)據(jù)是在系統(tǒng)的“邊緣”存儲(chǔ)和處理的，而不是集中的。例如，可以將機(jī)器學(xué)習(xí)算法發(fā)送給數(shù)據(jù)，而不是將數(shù)據(jù)發(fā)送給算法。分布式數(shù)據(jù)和計(jì)算解決了許多問(wèn)題，例如“蜜罐”問(wèn)題，擁有數(shù)百萬(wàn)條記錄的組織自然構(gòu)成了一個(gè)“蜜罐”，在經(jīng)濟(jì)上對(duì)黑客很有吸引力。
分布式架構(gòu)還可以緩解由于集中了全球大部分?jǐn)?shù)據(jù)的大型高科技公司帶來(lái)的功率不對(duì)稱性。
PDS解決了“匯總”，“排除”和“披露”的問(wèn)題，以及不希望存在的信息共享風(fēng)險(xiǎn)。
PDS可以是手機(jī)或平板電腦上的物理盒裝設(shè)備或應(yīng)用程序，他們的設(shè)計(jì)可以結(jié)合許多其他隱私增強(qiáng)計(jì)算技術(shù)。
PDS當(dāng)前面臨的挑戰(zhàn)和局限性主要體現(xiàn)于：基于集中式體系結(jié)構(gòu)的現(xiàn)有業(yè)務(wù)模型和當(dāng)前數(shù)字化貨幣并不鼓勵(lì)PDS的發(fā)展。目前，個(gè)人數(shù)據(jù)本身的貨幣價(jià)值不高，而匯總數(shù)據(jù)則更有利可圖。特別是需要從經(jīng)濟(jì)學(xué)和社會(huì)科學(xué)領(lǐng)域進(jìn)行進(jìn)一步的研究，以研究替代模型。例如，已經(jīng)出現(xiàn)了這樣的替代模型，萬(wàn)維網(wǎng)的發(fā)明者蒂姆？伯納斯？李一直在研究去中心化的Web平臺(tái)，通過(guò)該平臺(tái)，各個(gè)用戶可以將有關(guān)他們的數(shù)據(jù)存儲(chǔ)在不同的個(gè)人在線數(shù)據(jù)存儲(chǔ)（POD）中。為了使PDS有效，具有不同技術(shù)經(jīng)驗(yàn)水平的個(gè)人必須能夠訪問(wèn)并與之互動(dòng)。用戶參與對(duì)他們的成功至關(guān)重要，界面設(shè)計(jì)也是其中的重要組成部分，用戶界面必須易于訪問(wèn)和吸引人，這為PDS的研發(fā)增加了新的維度。
*私保護(hù)機(jī)器學(xué)習(xí)
機(jī)器學(xué)習(xí)是一組強(qiáng)大的技術(shù)，可讓計(jì)算機(jī)從數(shù)據(jù)中學(xué)習(xí)。有許多有前途的研究和實(shí)踐領(lǐng)域，隱私保護(hù)的機(jī)器學(xué)習(xí)指的是不同的一系列方法，例如：
?。?） 使用綜合數(shù)據(jù)進(jìn)行機(jī)器學(xué)習(xí)
綜合數(shù)據(jù)是由算法生成的數(shù)據(jù)，而不是來(lái)自真實(shí)事件的數(shù)據(jù)；如差分私有機(jī)器學(xué)習(xí)，差分私有機(jī)器學(xué)習(xí)模型不提供比特定個(gè)體更多的信息，而不是該個(gè)體未包含在訓(xùn)練數(shù)據(jù)集中。這可以通過(guò)分布式差分隱私（在訓(xùn)練數(shù)據(jù)的收集期間添加噪聲）或通過(guò)集中差分隱私（將噪聲添加到輸出）來(lái)實(shí)現(xiàn)。同樣，差分私有綜合數(shù)據(jù)可用于創(chuàng)建保留真實(shí)示例數(shù)據(jù)屬性的數(shù)據(jù)，同時(shí)防止模型反轉(zhuǎn)攻擊；
（2）使用同態(tài)加密的隱私保護(hù)機(jī)器學(xué)習(xí)
同態(tài)加密可以支持某些形式的機(jī)器學(xué)習(xí)。它尤其可以支撐“隱私保護(hù)預(yù)測(cè)”。
?。?）使用MPC的私人多方機(jī)器學(xué)習(xí)
利用私有的多方機(jī)器學(xué)習(xí)，不同的各方可以彼此發(fā)送加密的消息，并獲得他們想要計(jì)算的模型，而無(wú)需查看彼此的數(shù)據(jù)，也不需要可信的中央機(jī)構(gòu)。
（4）使用TEE來(lái)保護(hù)多方機(jī)器學(xué)習(xí)
在這種情況下，多個(gè)用戶會(huì)在合并的加密數(shù)據(jù)上計(jì)算機(jī)器學(xué)習(xí)模型，而不會(huì)向彼此或云透露他們的未加密數(shù)據(jù)。
?。?）聯(lián)合學(xué)習(xí)
聯(lián)合學(xué)習(xí)是一種新興的方法，允許出于隱私或?qū)嶋H原因在分散數(shù)據(jù)上訓(xùn)練機(jī)器學(xué)習(xí)模型。中央服務(wù)器協(xié)調(diào)網(wǎng)絡(luò)的節(jié)點(diǎn)，每個(gè)節(jié)點(diǎn)都有訓(xùn)練數(shù)據(jù)，每個(gè)節(jié)點(diǎn)都訓(xùn)練一個(gè)本地模型，并且該模型與中央服務(wù)器共享。換句話說(shuō)，數(shù)據(jù)在設(shè)備級(jí)別受到保護(hù)。谷歌在2016年發(fā)布了這樣的聯(lián)合學(xué)習(xí)算法。
三、 對(duì)隱私增強(qiáng)計(jì)算的理解
隱私增強(qiáng)計(jì)算技術(shù)看起來(lái)比較復(fù)雜抽象，其實(shí)可以通俗地理解成三個(gè)方面：
1、它是我們每一個(gè)個(gè)體與大型科技公司之間的一層隔離區(qū)
今天我們?cè)诟黝怉PP上的數(shù)據(jù)，大部分都是儲(chǔ)存在云端的數(shù)據(jù)中心的。APP背后的企業(yè)，如果真的想查看任何一個(gè)用戶的數(shù)據(jù)，只需要執(zhí)行一行代碼就可以了。也就是說(shuō)，用戶的數(shù)據(jù)安全，本質(zhì)上完全依賴于提供服務(wù)的企業(yè)內(nèi)部管理的水平，以及企業(yè)本身的道德責(zé)任感。
隱私增強(qiáng)計(jì)算技術(shù)，就是試圖在用戶和APP之間建立一個(gè)數(shù)據(jù)的隔離區(qū)，用戶所有的關(guān)鍵信息都是在這一片隔離區(qū)里進(jìn)行存儲(chǔ)和計(jì)算，將企業(yè)隔離在隔離區(qū)的外面當(dāng)觀眾，他們只能拿到隔離區(qū)里面給出的一些指定需求。這樣一來(lái)，企業(yè)就沒(méi)有辦法未經(jīng)用戶同意，悄悄地使用APP里的用戶數(shù)據(jù)了。
2、它是我們每一個(gè)人的隱私數(shù)據(jù)在網(wǎng)絡(luò)世界里的鎧甲
有了這層鎧甲之后，我們每一個(gè)人的關(guān)鍵數(shù)據(jù)，就不再是赤身裸體地走進(jìn)這個(gè)隔離區(qū)了，而是會(huì)得到非常嚴(yán)格的保護(hù)。比如，用我們最熟悉的社交場(chǎng)景來(lái)舉例子，這層鎧甲的功能就相當(dāng)于你想在通訊APP上給朋友發(fā)一句話，但是你并不想讓通訊APP看到這句話的內(nèi)容，所以呢，就先讓這句話穿上了一層鎧甲，這層鎧甲到了你的朋友那里才會(huì)卸下來(lái)。這樣就避免了像通訊APP一樣的，所謂的信息二傳手，偷看信息內(nèi)容。這一類信息鎧甲的功能，在隱私增強(qiáng)計(jì)算領(lǐng)域中通常是以各類密碼學(xué)技術(shù)作為底層原理的。而在這個(gè)方面，現(xiàn)在國(guó)外也已經(jīng)有一些即時(shí)通信應(yīng)用，在嘗試給用戶信息穿上這樣的鎧甲，讓不希望被臉書、推特窺探隱私的人群，也有自己可以放心溝通的網(wǎng)絡(luò)空間。
3、它能夠?yàn)楦鞣N類型的數(shù)據(jù)提供一個(gè)安全的交流中心
隱私增強(qiáng)計(jì)算的這個(gè)安全交流中心的功能，其實(shí)意義最重大。數(shù)據(jù)在今天已經(jīng)開(kāi)始指導(dǎo)各種產(chǎn)品和服務(wù)的設(shè)計(jì)、生產(chǎn)環(huán)節(jié)了；有價(jià)值的交叉數(shù)據(jù)很可能是我們未來(lái)幾十年里如同石油一般重要的資源。按照這樣一個(gè)邏輯，開(kāi)發(fā)一種能夠允許大家安全地保存、交換和運(yùn)算數(shù)據(jù)的平臺(tái)，有巨大社會(huì)意義。
總而言之，在今天我們看隱私增強(qiáng)計(jì)算技術(shù)，往小了說(shuō)是一種可以保護(hù)個(gè)人隱私的方便工具；往大了說(shuō)，它是人類社會(huì)在未來(lái)能夠真正將數(shù)據(jù)作為一種生產(chǎn)資料，去使用和交換的基礎(chǔ)性技術(shù)。隱私增強(qiáng)計(jì)算，是整個(gè)世界今天都沒(méi)有辦法回避的一項(xiàng)必然會(huì)發(fā)生的技術(shù)。因此Gartner才將其列入2021年九大重要戰(zhàn)略科技趨勢(shì)之一。
四、啟示與建議
面對(duì)隱私增強(qiáng)計(jì)算技術(shù)已經(jīng)迫在眉睫的趨勢(shì)，啟示與建議如下：
1、技術(shù)帶來(lái)的挑戰(zhàn)技術(shù)應(yīng)對(duì)
新技術(shù)帶來(lái)的新問(wèn)題最好的解決方案不是管控、不是放任，最好的方案依然是依托技術(shù)創(chuàng)新的技術(shù)！
自從互聯(lián)網(wǎng)出現(xiàn)以來(lái)，帶來(lái)的各種技術(shù)進(jìn)步、經(jīng)濟(jì)繁榮、生活便捷、社會(huì)變革的同時(shí)也帶來(lái)了各種新問(wèn)題，數(shù)據(jù)爆炸式增長(zhǎng)、傳統(tǒng)商業(yè)模式的顛覆、病毒肆虐、安全風(fēng)險(xiǎn)大增…，在采取各種嚴(yán)格管控政策措施的嘗試后，最終解決得最為妥帖的依然是依托如云計(jì)算、網(wǎng)絡(luò)安全防護(hù)甚至人工智能等新技術(shù)，當(dāng)然這些新技術(shù)的引入又會(huì)帶來(lái)新的風(fēng)險(xiǎn)和問(wèn)題，但解決新問(wèn)題毫無(wú)疑問(wèn)還得依托新技術(shù)、新方法，正是這種矛盾的沖突、迭代中推動(dòng)了技術(shù)的進(jìn)步乃至人類社會(huì)發(fā)展的步伐。歷史可能不斷反復(fù)重現(xiàn)，但技術(shù)卻永遠(yuǎn)向前。
2、進(jìn)一步的加大研發(fā)投入
隱私增強(qiáng)計(jì)算技術(shù)提供了多種應(yīng)用的可能性，并為數(shù)據(jù)分析開(kāi)辟了新的機(jī)會(huì)。它們是一組新生但具有潛在顛覆性的技術(shù)，它們有可能重塑數(shù)據(jù)經(jīng)濟(jì)，尤其是改變個(gè)人、政府和公司之間的信任關(guān)系。但是，在目前的狀態(tài)下，這些技術(shù)中的許多技術(shù)都具有實(shí)質(zhì)性的局限性，例如它們所需的計(jì)算資源、耗時(shí)等等，并且其中一些仍處于研究階段。既然已經(jīng)認(rèn)識(shí)到隱私增強(qiáng)計(jì)算技術(shù)的潛力，并有望大規(guī)模地使用，因此需要進(jìn)一步的研究和開(kāi)發(fā)。
展望未來(lái)，開(kāi)發(fā)適合的解決方案將需要跨學(xué)科的研究和開(kāi)發(fā)工作；它還需要不斷創(chuàng)新，以適應(yīng)隨著數(shù)據(jù)和計(jì)算能力的提高而出現(xiàn)的新挑戰(zhàn)。例如，對(duì)于一個(gè)大型組織（例如NHS）實(shí)施MPC不能僅靠隱私增強(qiáng)計(jì)算技術(shù)研究本身來(lái)完成；而是需要涉及其他專業(yè)領(lǐng)域和專家團(tuán)隊(duì)，必需考慮如何建立一個(gè)完整的生態(tài)系統(tǒng)，以實(shí)現(xiàn)隱私增強(qiáng)計(jì)算技術(shù)的開(kāi)發(fā)和使用。
政府在推動(dòng)市場(chǎng)發(fā)展方面發(fā)揮著關(guān)鍵作用。例如，英國(guó)政府對(duì)此采取了“前傾”方法。國(guó)家統(tǒng)計(jì)局特別是國(guó)家安全機(jī)構(gòu)，已經(jīng)嘗試并試圖增加隱私增強(qiáng)計(jì)算技術(shù)的使用。英國(guó)艾倫？圖靈研究所（Alan Turing Institute）是英國(guó)數(shù)據(jù)科學(xué)與人工智能研究院，在實(shí)現(xiàn)多學(xué)科方法進(jìn)行隱私保護(hù)數(shù)據(jù)分析方面發(fā)揮著關(guān)鍵作用。隱私是該研究所跨多個(gè)研究計(jì)劃的戰(zhàn)略重點(diǎn)領(lǐng)域，包括國(guó)防與安全、人工智能和健康；美國(guó)已將大量資金用于隱私增強(qiáng)計(jì)算技術(shù)的戰(zhàn)略開(kāi)發(fā)。情報(bào)高級(jí)研究計(jì)劃活動(dòng)（IARPA）特別是在2017年啟動(dòng)了一項(xiàng)名為“具有降低開(kāi)銷的同態(tài)加密計(jì)算技術(shù)”的重大計(jì)劃（HECTOR）。
政府在推動(dòng)市場(chǎng)發(fā)展方面發(fā)揮著關(guān)鍵作用。例如，英國(guó)政府對(duì)此采取了“前傾”方法。國(guó)家統(tǒng)計(jì)局特別是國(guó)家安全機(jī)構(gòu)，已經(jīng)嘗試并試圖增加隱私增強(qiáng)計(jì)算技術(shù)的使用。英國(guó)艾倫？圖靈研究所（Alan Turing Institute）是英國(guó)數(shù)據(jù)科學(xué)與人工智能研究院，在實(shí)現(xiàn)多學(xué)科方法進(jìn)行隱私保護(hù)數(shù)據(jù)分析方面發(fā)揮著關(guān)鍵作用。隱私是該研究所跨多個(gè)研究計(jì)劃的戰(zhàn)略重點(diǎn)領(lǐng)域，包括國(guó)防與安全、人工智能和健康；美國(guó)已將大量資金用于隱私增強(qiáng)計(jì)算技術(shù)的戰(zhàn)略開(kāi)發(fā)。情報(bào)高級(jí)研究計(jì)劃活動(dòng)（IARPA）特別是在2017年啟動(dòng)了一項(xiàng)名為“具有降低開(kāi)銷的同態(tài)加密計(jì)算技術(shù)”的重大計(jì)劃（HECTOR）。
3、循序漸進(jìn)開(kāi)拓廣闊的市場(chǎng)
隱私增強(qiáng)計(jì)算技術(shù)可以幫助公共和私營(yíng)部門開(kāi)發(fā)滿足社會(huì)關(guān)注的需求的解決方案。這些解決方案可以為數(shù)據(jù)提供真正的分散和可擴(kuò)展使用。歐洲率先通過(guò)GDPR實(shí)施了更嚴(yán)格的數(shù)據(jù)保護(hù)法規(guī)，從而促進(jìn)了以消費(fèi)者為中心的數(shù)字市場(chǎng)，世界各國(guó)都陸續(xù)紛紛推出了自己本國(guó)的GDPR，數(shù)據(jù)隱私增強(qiáng)計(jì)算技術(shù)市場(chǎng)還是一片未被開(kāi)發(fā)的處女地，發(fā)展空間十分廣闊。由于隱私增強(qiáng)計(jì)算技術(shù)涉及各個(gè)方面的多種技術(shù)及解決方案，因此在隱私增強(qiáng)計(jì)算技術(shù)開(kāi)發(fā)過(guò)程中的中間成果幾乎可以毫不改變地投入應(yīng)用，為全面實(shí)現(xiàn)隱私增強(qiáng)計(jì)算技術(shù)做好鋪墊，而不必等到隱私增強(qiáng)計(jì)算技術(shù)涉及的全部技術(shù)和方案的成熟。商務(wù)合作 | 開(kāi)白轉(zhuǎn)載 | 媒體交流 | 理事服務(wù)
