據(jù)悉,谷歌最新推出AI框架“社交學(xué)習(xí)”,它允許AI語(yǔ)言模型以自然語(yǔ)言相互學(xué)習(xí),基于無需直接交換敏感信息,使得訓(xùn)練出的模型具備更高的隱私保護(hù)性能。
據(jù)了解,在此款“社交學(xué)習(xí)”框架中,“學(xué)生模型”可向多位已處理指定任務(wù)的“教師模型”請(qǐng)教各類應(yīng)對(duì)方案,研究團(tuán)隊(duì)主要通過開展“垃圾短信檢測(cè)”、“解決小學(xué)數(shù)學(xué)題”及“根據(jù)文本回答問題”等多項(xiàng)試驗(yàn),以衡量此框架的運(yùn)作效果。
科研人員指出,部分AI模型僅需經(jīng)過短時(shí)“社交學(xué)習(xí)”框架訓(xùn)練,即可迅速提升任務(wù)完成能力。在“垃圾短信檢測(cè)任務(wù)”中,教師模型從用戶標(biāo)注的數(shù)據(jù)中學(xué)習(xí),之后再傳授給學(xué)生模型識(shí)別垃圾信息。
值得關(guān)注的是,教師模型可以依據(jù)實(shí)際數(shù)據(jù)集合成新實(shí)例與學(xué)生模型分享,這種合成數(shù)據(jù)可在保持同等教學(xué)效果的基礎(chǔ)上,顯著降低原數(shù)據(jù)隱私泄露風(fēng)險(xiǎn)。
此外,研究團(tuán)隊(duì)亦將生成指令技術(shù)用于“社交學(xué)習(xí)”,使教師模型能夠針對(duì)特定任務(wù)制定一套指令,學(xué)生模型則據(jù)此學(xué)習(xí)執(zhí)行任務(wù)的技巧,頗有幾分“人類遵從他人口授指引,在行動(dòng)過程中學(xué)以致用”之感。
實(shí)驗(yàn)結(jié)果表明,此類來自教師模型的指令能夠有效提升學(xué)生模型的工作效能,相較于零樣本學(xué)習(xí),研究者們認(rèn)為,AI模型在遵循指令方面展現(xiàn)出優(yōu)異的能力。
-
谷歌
+關(guān)注
關(guān)注
27文章
6195瀏覽量
106016 -
語(yǔ)言模型
+關(guān)注
關(guān)注
0文章
538瀏覽量
10342 -
數(shù)據(jù)集
+關(guān)注
關(guān)注
4文章
1209瀏覽量
24835
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論