電子發(fā)燒友網(wǎng)報(bào)道（文/莫婷婷）ChatGPT橫空出世，人工智能市場迎來快速的增長。數(shù)據(jù)顯示，2022年我國人工智能市場規(guī)模達(dá)到2680億元，預(yù)計(jì)2023年全年將達(dá)到3200億元，同比增長達(dá)到33.8%。

如今，AI技術(shù)席卷各個(gè)行業(yè)，“AI歌手”就是其中的一個(gè)例子。只不過，若是科技不向善，AI就不是科技行業(yè)的“戰(zhàn)士”，反而會(huì)成為一個(gè)“刺客”。在AI換臉技術(shù)為娛樂圈、直播圈帶來新意時(shí)，一些因?yàn)锳I換臉帶來的騙局也是來勢兇猛。如何用技術(shù)手段解決AI安全問題，成為業(yè)內(nèi)人士需要解決的挑戰(zhàn)。

當(dāng)前，AI換臉技術(shù)制作出虛假的視頻和圖片可以以假亂真，用肉眼難以分辨出來。此前，有網(wǎng)友稱接到熟人的視頻電話，需要幫助其轉(zhuǎn)賬，在放松警惕之后受害人給對(duì)方轉(zhuǎn)了132萬。發(fā)現(xiàn)被騙后，受害人迅速報(bào)警追回被騙的132萬元。

在AI換臉技術(shù)里面，“Deepfake”是比較知名的技術(shù)之一。Deepfake由deep machine learning（深度機(jī)器學(xué)習(xí)）和fake photo（假照片）組合而成。但這些技術(shù)也并非找不到破綻。用肉眼難以判斷人臉是否真實(shí)存在還是由AI機(jī)器生成，而AI圖像篡改檢測模型等模型結(jié)構(gòu)可以很好地進(jìn)行鑒別。

合合信息智能創(chuàng)新事業(yè)部總經(jīng)理唐琪在公開演講時(shí)分享了以AI機(jī)器生成人臉的相關(guān)鑒別技術(shù)，他提到，由AIGC生成的視頻，因?yàn)橐曨l本身具有連續(xù)的特征，所以會(huì)在人臉的周圍會(huì)形成細(xì)微偽影。因此合合信息在特征提取器的淺層引入紋理增強(qiáng)模塊放大淺層特征中的細(xì)微偽影，增強(qiáng)模型對(duì)真實(shí)人臉和偽造人臉的感知與判斷準(zhǔn)確度。

AI人臉和真實(shí)人臉的對(duì)比（圖源：合合信息）

“因?yàn)椴煌腁IGC模型或者不同AIGC生成的形式，會(huì)在整個(gè)神經(jīng)網(wǎng)絡(luò)的不同層次留下不同的特征行為。所以我們引入了注意力機(jī)制，讓模型可以很好地關(guān)注神經(jīng)網(wǎng)絡(luò)不同層級(jí)的特征和紋理特征，有效融合這些特征，從而增強(qiáng)模型對(duì)于不同AIGC生成的人臉相關(guān)圖像的辨別和感知能力，從而提高模型的有效性。”結(jié)合自身的研發(fā)方向和技術(shù)積累，合合信息推出了AI圖像安全技術(shù)的解決方案。

AI換臉技術(shù)在幾年前就已經(jīng)被濫用，并且形成了黑色產(chǎn)業(yè)鏈，例如以前在淘寶、貼吧等平臺(tái)搜索關(guān)鍵詞，就會(huì)有相應(yīng)的店鋪或者商家出現(xiàn)在首頁上。好消息是，隨著人們安全意識(shí)的增強(qiáng)，相關(guān)平臺(tái)都加大了審核力度。如今在淘寶上打入“AI換臉”等關(guān)鍵詞已經(jīng)不會(huì)出現(xiàn)相關(guān)店鋪。

只不過店鋪的關(guān)注并不意味這條產(chǎn)業(yè)鏈已經(jīng)斷裂，特別是隨著AIGC技術(shù)的成熟，不法分子利用AI技術(shù)的犯罪手段也越來越“高明”，他們利用偽造人臉進(jìn)行身份驗(yàn)證、信用卡詐騙、身份冒用、遠(yuǎn)程會(huì)議等犯罪行為。

當(dāng)這些假借AI的名頭進(jìn)行欺詐的現(xiàn)象大量涌現(xiàn)時(shí)，讓人們開始質(zhì)疑AI技術(shù)的安全性和可靠性。而AI技術(shù)帶來的問題，最終仍需依賴于更為成熟、先進(jìn)的科技手段和方法來逐一解決。現(xiàn)階段，用AI檢測模型已經(jīng)成為解決AI安全的手段之一。