NVIDIA人工智能研究人員在芬蘭開展的第一個合作項(xiàng)目可以幫助縮減差分隱私的性能成本，這個項(xiàng)目同時開啟了NVIDIA與芬蘭兩家大型合作伙伴的合作進(jìn)程。與芬蘭的合作項(xiàng)目將利用當(dāng)?shù)乇姸嗪献骰锇樵诟髯灶I(lǐng)域的專業(yè)知識，推動人工智能向前發(fā)展。

Finn Antti Honkela可能永遠(yuǎn)不會像Linux之父Linus Torvalds那樣聲名遠(yuǎn)揚(yáng)，但他最近在清除數(shù)字隱私障礙中取得重大突破。

Honkela是赫爾辛基大學(xué)數(shù)據(jù)科學(xué)副教授，致力于差分隱私研究，這是一種基于個人數(shù)據(jù)的計算方法，用于保護(hù)個人數(shù)據(jù)隱私。今年3月，這一新興領(lǐng)域榮登《麻省理工科技評論》“具備深遠(yuǎn)影響潛力的十大突破”榜單。

該技術(shù)當(dāng)前已經(jīng)廣泛應(yīng)用于智能手機(jī)和云計算，甚至?xí)粦?yīng)用于2020年的美國人口普查。

Honkela說：“差分隱私依賴于強(qiáng)大的理論基礎(chǔ)。因此，只要遵循算法，便能實(shí)現(xiàn)隱私保障。但截至目前，這樣操作的性能成本非常高。”

“現(xiàn)在我們可以縮小這一差距。”他在談到NVIDIA與人工智能研究人員在芬蘭持續(xù)開展廣泛合作的第一個項(xiàng)目時說。

差分隱私算法加速百倍

Honkela和NVIDIA的解決方案架構(gòu)師Niki Loppi借助數(shù)組GPU展示了一種用于加速差分隱私訓(xùn)練速度的方法。

Loppi說:“這類與GPU相關(guān)的加速十分常見，但這個方法的與眾不同之處在于標(biāo)準(zhǔn)訓(xùn)練中加入的差分隱私的懲罰只有2-3倍，而不是CPU系統(tǒng)上觀察到的20倍。”

他們的研究成果展示了如何對高價值的數(shù)據(jù)集作匿名處理，但由于包含個人敏感信息，這些數(shù)據(jù)集目前仍須保密。發(fā)布這些經(jīng)處理的數(shù)據(jù)將幫助AI開發(fā)人員建立更好的模型，加速整個領(lǐng)域的發(fā)展。

當(dāng)前Loppi在NVIDIA的同事們正聚焦AI訓(xùn)練中隨機(jī)二次抽樣過程，并在探索一種能夠有效加速GPU在這一過程中運(yùn)行的方法。這項(xiàng)工作可以進(jìn)一步縮小實(shí)現(xiàn)差分隱私的性能差距。

這個項(xiàng)目開啟了NVIDIA與芬蘭兩家大型合作伙伴的合作進(jìn)程。芬蘭傾舉國之力打造的芬蘭人工智能中心（FCAI）匯集了芬蘭赫爾辛基大學(xué)、阿爾托大學(xué)和VTT技術(shù)研究中心的頂級研究人員。

芬蘭國家超級計算中心（CSC）是NVIDIA和FCAI的另一個合作伙伴。該公司將在其2.7-petaflops系統(tǒng)上運(yùn)行該集團(tuán)的研究項(xiàng)目，該系統(tǒng)包含320組NVIDIA V100 Tensor Core GPU。

廣泛的人工智能目標(biāo)

與芬蘭的合作緣起今年一月在意大利Modena的合作項(xiàng)目。他們加入了日益壯大的NVIDIA人工智能技術(shù)中心(NVAITC)全球社區(qū)，推動技術(shù)進(jìn)步。

與芬蘭的合作項(xiàng)目將利用當(dāng)?shù)乇姸嗪献骰锇樵诟髯灶I(lǐng)域的專業(yè)知識，推動人工智能向前發(fā)展。FCAI的協(xié)調(diào)教授Honkela更是將人工智能研究人員和GPU專家的協(xié)同合作評價為“一個很好的工作模式”。

“顯然，研究人員必須掌握代碼，但有時了解如何實(shí)現(xiàn)程序的有效運(yùn)行是一項(xiàng)并非所有研究人員都具備的專長。”他說。

NVIDIA NVAITC高級主管Simon See說：“通過這次合作，我們能夠更好地支持在致力該領(lǐng)域的當(dāng)?shù)乜茖W(xué)家，推動芬蘭的人工智能研究。”

后事如何無人可知。Honkela指出，當(dāng)前一種作為所有神經(jīng)網(wǎng)絡(luò)訓(xùn)練核心的現(xiàn)代高效反向傳播算法，其實(shí)源于1970年赫爾辛基大學(xué)的一名研究人員的碩士論文。