今年3月中旬，聊天機(jī)器人程序ChatGPT推出了最新版本GPT-4，可支持多元的輸入輸出形式，使其具備了更強(qiáng)的專業(yè)學(xué)習(xí)能力。作為一種基于人工智能（以下簡(jiǎn)稱AI）技術(shù)的聊天程序，ChatGPT一經(jīng)推出，便引起社會(huì)各界廣泛關(guān)注。甚至有人驚呼，AI將取代人類主宰戰(zhàn)場(chǎng)。ChatGPT究竟會(huì)給軍事領(lǐng)域帶來(lái)哪些變革？AI是否會(huì)超越人類？帶著這些問(wèn)題，本文從ChatGPT入手，為讀者梳理出一條AI大致的軍事應(yīng)用脈絡(luò)。

ChatGPT的潛在軍事價(jià)值

ChatGPT受到關(guān)注的重要原因是引入了新技術(shù)RLHF。所謂RLHF，就是通過(guò)人類的反饋來(lái)優(yōu)化模型算法，使AI模型的輸出結(jié)果和人類的常識(shí)、認(rèn)知、價(jià)值觀趨于一致。簡(jiǎn)單來(lái)說(shuō)，就是跟過(guò)去的AI模型相比，ChatGPT“更像人類”了。這種“像”主要體現(xiàn)在自然語(yǔ)言處理方面，即語(yǔ)義分析和文本生成。語(yǔ)義分析方面，用戶的任何問(wèn)題基本都能夠得到有效回應(yīng)，不像過(guò)去很多時(shí)候“驢唇不對(duì)馬嘴”；文本處理方面，任何問(wèn)題的答案都看起來(lái)邏輯通順、意思明確、文筆流暢。應(yīng)該說(shuō)，這堪稱自然語(yǔ)言處理領(lǐng)域的重大突破。

這一技術(shù)顯然可以應(yīng)用于軍事領(lǐng)域。平時(shí)，基于ChatGPT技術(shù)的情報(bào)整編系統(tǒng)可針對(duì)互聯(lián)網(wǎng)上的海量信息，作為虛擬助手幫助分析人員開(kāi)展數(shù)據(jù)分析，以提高情報(bào)分析效能，挖掘潛在的高價(jià)值情報(bào)。戰(zhàn)時(shí)，基于ChatGPT技術(shù)的情報(bào)整編系統(tǒng)可將大量戰(zhàn)場(chǎng)情報(bào)自動(dòng)整合為戰(zhàn)場(chǎng)態(tài)勢(shì)綜合報(bào)告，以減輕情報(bào)人員工作負(fù)擔(dān)，提高作戰(zhàn)人員在快節(jié)奏戰(zhàn)場(chǎng)中的情報(bào)分析和方案籌劃能力。

ChatGPT還可用于實(shí)施認(rèn)知對(duì)抗。信息化智能化時(shí)代，各國(guó)數(shù)字化程度普遍較高，這意味著民眾之間的信息交流、觀點(diǎn)傳播、情緒感染的速度更快，也就意味著開(kāi)展認(rèn)知攻防的空間更大。ChatGPT強(qiáng)大的自然語(yǔ)言處理能力，可以用來(lái)快速分析輿情，提取有價(jià)值信息，或制造虛假言論，干擾民眾情緒；還可通過(guò)運(yùn)用微妙而復(fù)雜的認(rèn)知攻防戰(zhàn)術(shù)，誘導(dǎo)、欺騙乃至操縱目標(biāo)國(guó)民眾認(rèn)知，達(dá)到破壞其政府形象、改變其民眾立場(chǎng)，乃至分化社會(huì)、顛覆政權(quán)的目的，實(shí)現(xiàn)“不戰(zhàn)而屈人之兵”。

據(jù)悉，ChatGPT使用的自然語(yǔ)言處理技術(shù)，正是美軍聯(lián)合全域指揮控制概念中重點(diǎn)研發(fā)的技術(shù)。2020年7月1日，美國(guó)蘭德公司空軍項(xiàng)目組發(fā)布《現(xiàn)代戰(zhàn)爭(zhēng)中的聯(lián)合全域指揮控制——識(shí)別和開(kāi)發(fā)AI應(yīng)用的分析框架》報(bào)告。該報(bào)告認(rèn)為，AI技術(shù)可分為6類，自然語(yǔ)言處理類技術(shù)作為其中之一，在“聯(lián)合全域指揮控制”中有明確的應(yīng)用——可用于從語(yǔ)音和文本中提取情報(bào)，并將相關(guān)信息發(fā)送給分隊(duì)指揮官乃至單兵，以提醒他們潛在的沖突或機(jī)會(huì)。

“數(shù)據(jù)是深度愚蠢的”

ChatGPT火爆的關(guān)鍵原因之一是“更像人類”，然而，“更像人類”不等于“趨近人類智能”。ChatGPT僅僅代表AI的新高度，但它還是AI，仍存在著天然缺陷。

目前，主流AI模擬的都是大腦的“模式識(shí)別”功能，即在“感知”到外部信號(hào)刺激時(shí)，能迅速分辨出其性質(zhì)特點(diǎn)。最初，科學(xué)家打算通過(guò)“制定規(guī)則”的方式來(lái)實(shí)現(xiàn)這一功能，但很快發(fā)現(xiàn)行不通。比如，很難用規(guī)則來(lái)定義一個(gè)人。

這是因?yàn)椋说南嗝病⑸聿摹⑿袨榈忍攸c(diǎn)無(wú)法用明確而統(tǒng)一的規(guī)則來(lái)描述，更不可能轉(zhuǎn)換為計(jì)算機(jī)語(yǔ)言。現(xiàn)實(shí)中，我們看到一個(gè)人就能迅速識(shí)別出來(lái)，并沒(méi)有利用任何規(guī)則，而是通過(guò)大腦的“模式識(shí)別”功能來(lái)瞬間完成的。

這一識(shí)別過(guò)程為科學(xué)家提供了啟示：第一，大腦是一個(gè)強(qiáng)大的模式識(shí)別器，其識(shí)別功能可以通過(guò)訓(xùn)練得到提高；第二，大腦的識(shí)別能力不是按照各種邏輯和規(guī)則進(jìn)行的，而是一種“自動(dòng)化”的行為；第三，大腦由數(shù)百億個(gè)神經(jīng)元組成，大腦計(jì)算不是基于明確規(guī)則的計(jì)算，而是基于神經(jīng)元的計(jì)算。

這正是目前主流AI的底層邏輯——對(duì)大腦運(yùn)行機(jī)制的模擬。基于這一邏輯，科學(xué)家開(kāi)發(fā)了各類基于神經(jīng)網(wǎng)絡(luò)算法的神經(jīng)網(wǎng)絡(luò)模型，并取得了良好效果。其基本原理是：這些模型都由輸入層、隱藏層和輸出層三部分組成；從輸入層輸入圖像等信息，經(jīng)過(guò)隱藏層的自動(dòng)化處理，再?gòu)妮敵鰧虞敵鼋Y(jié)果；模型內(nèi)部包含大量“神經(jīng)元”，每個(gè)“神經(jīng)元”都有單獨(dú)的參數(shù)；如果輸出結(jié)果與輸入信息存在誤差，模型則反過(guò)來(lái)自動(dòng)修改各個(gè)“神經(jīng)元”的參數(shù)；這樣輸入一次，跟正確答案對(duì)比一次，把各個(gè)參數(shù)修改一次，就相當(dāng)于完成了一次訓(xùn)練。隨著訓(xùn)練次數(shù)越來(lái)越多，模型參數(shù)的調(diào)整幅度越來(lái)越小，逐漸達(dá)到相對(duì)穩(wěn)定的數(shù)值。此時(shí)，這個(gè)神經(jīng)網(wǎng)絡(luò)就算成型了。

這就是目前主流的神經(jīng)網(wǎng)絡(luò)算法，ChatGPT也同樣如此。不同之處在于，一般AI模型只有百萬(wàn)級(jí)訓(xùn)練數(shù)據(jù)和參數(shù)，而ChatGPT擁有3000億單詞的語(yǔ)料數(shù)據(jù)和1750億個(gè)參數(shù)。前者是“喂給”程序的訓(xùn)練數(shù)據(jù)，后者則基于訓(xùn)練數(shù)據(jù)提升ChatGPT這個(gè)模型對(duì)世界的理解。這就是ChatGPT看起來(lái)“更聰明”的主要原因。但ChatGPT只是“大力出奇跡”，其原理與過(guò)去的AI模型并沒(méi)有本質(zhì)區(qū)別。

了解了AI的基本原理，我們會(huì)發(fā)現(xiàn)AI存在兩個(gè)天然缺陷。第一，AI本身并不理解“它自己在做什么”。AI模型就是一堆神經(jīng)網(wǎng)絡(luò)的參數(shù)，這些參數(shù)沒(méi)有任何具體意義。AI只負(fù)責(zé)輸出結(jié)果，并不能解釋輸入與輸出之間的邏輯關(guān)系。第二，AI的“行為”是由訓(xùn)練數(shù)據(jù)決定的。訓(xùn)練AI的數(shù)據(jù)量越大，AI的能力就越強(qiáng)。但數(shù)據(jù)再多，也只能代表“經(jīng)驗(yàn)豐富”，一旦遇到意外情況，就會(huì)發(fā)生功能紊亂。可以說(shuō)，AI就是用大量數(shù)據(jù)“喂”出來(lái)的，它的表現(xiàn)完全取決于數(shù)據(jù)。

因此，跟人類智能相比，AI既沒(méi)有真正的理解能力，又過(guò)于依賴訓(xùn)練數(shù)據(jù)，以至于計(jì)算機(jī)科學(xué)家和哲學(xué)家朱迪亞·珀?duì)栍幸痪涿裕骸皵?shù)據(jù)是深度愚蠢的”。

AI原理帶來(lái)的戰(zhàn)爭(zhēng)啟示

盡管AI存在天然缺陷，但并不妨礙它成為優(yōu)秀的“參謀”和助手。截至目前，AI在軍事領(lǐng)域的應(yīng)用范圍正在不斷擴(kuò)大，越來(lái)越多的AI作戰(zhàn)應(yīng)用正在或已經(jīng)成為現(xiàn)實(shí)。

如偵察感知領(lǐng)域，一些發(fā)達(dá)國(guó)家軍隊(duì)的超視距雷達(dá)，正在使用AI對(duì)各種類型的空中目標(biāo)進(jìn)行快速標(biāo)記和個(gè)體識(shí)別，目前已經(jīng)實(shí)現(xiàn)了對(duì)無(wú)人機(jī)等小型目標(biāo)的自動(dòng)探測(cè)與識(shí)別。無(wú)人作戰(zhàn)領(lǐng)域，美國(guó)國(guó)防部高級(jí)研究計(jì)劃局正在實(shí)施一系列計(jì)劃，致力于研究無(wú)人機(jī)、自主水面無(wú)人艇和水下潛航器以及陸基移動(dòng)無(wú)人平臺(tái)的組群使用，以實(shí)現(xiàn)相應(yīng)的作戰(zhàn)目的。此外，AI技術(shù)還滲透到指揮控制、訓(xùn)練模擬、后勤保障等領(lǐng)域，并逐漸發(fā)揮出日益重要的作用。

深入思考AI的特點(diǎn)原理和發(fā)展路徑，會(huì)發(fā)現(xiàn)其中蘊(yùn)含著一些關(guān)于戰(zhàn)爭(zhēng)的啟示：

第一，技術(shù)深度決定戰(zhàn)術(shù)高度。毫無(wú)疑問(wèn)，AI時(shí)代戰(zhàn)術(shù)的“技術(shù)含量”將越來(lái)越高，而“戰(zhàn)術(shù)高度”很大程度上將取決于對(duì)AI技術(shù)的認(rèn)識(shí)深度。2019年，比利時(shí)魯汶大學(xué)的研究團(tuán)隊(duì)發(fā)明了一種可以騙過(guò)AI識(shí)別的彩色圖形——只要把一張A4大小的特殊圖形打印出來(lái)貼在身上，AI就不會(huì)把實(shí)驗(yàn)者當(dāng)作“人”。循著這個(gè)思路會(huì)發(fā)現(xiàn)，只要找到AI的數(shù)據(jù)識(shí)別漏洞，就能夠利用數(shù)據(jù)的“愚蠢”，騙過(guò)對(duì)方的偵察感知功能，進(jìn)而發(fā)展出相應(yīng)的對(duì)抗戰(zhàn)術(shù)。但能否通過(guò)技術(shù)手段發(fā)現(xiàn)AI漏洞，是此類戰(zhàn)術(shù)奏效與否的關(guān)鍵和前提。換句話說(shuō)，對(duì)AI技術(shù)的研究深度將在很大程度上決定戰(zhàn)術(shù)能夠發(fā)揮的高度。

第二，打破常規(guī)是對(duì)抗AI的關(guān)鍵。目前AI的所有能力都在人類的認(rèn)知邊界內(nèi)。如ChatGPT看似無(wú)所不知，但它能夠提供的所有答案都是在人類已知的信息庫(kù)中檢索整合得出的。即使跟過(guò)去“不一樣”，ChatGPT也只是通過(guò)內(nèi)容整合“重組已知”，而非在觀點(diǎn)和思想層面“發(fā)現(xiàn)未知”。或者說(shuō)，AI的最大優(yōu)勢(shì)是“熟悉套路”和“優(yōu)選方案”，劣勢(shì)則是難以“打破常規(guī)”，更不能“無(wú)中生有”。這意味著，AI并不能從已知推導(dǎo)出未知，創(chuàng)新將是人類的最大優(yōu)勢(shì)。這進(jìn)一步意味著，人類指揮員通過(guò)深度思考、邏輯推理進(jìn)而打破常規(guī)、創(chuàng)新戰(zhàn)法的能力無(wú)可取代，也必將是未來(lái)戰(zhàn)場(chǎng)上應(yīng)對(duì)“AI指揮員”的制勝利器。

第三，主宰戰(zhàn)場(chǎng)的依然是人類而非AI。基于目前的計(jì)算機(jī)技術(shù)，AI發(fā)展存在天花板。其理論依據(jù)是“哥德?tīng)柌煌陚涠ɡ怼薄＿@一定理簡(jiǎn)單來(lái)說(shuō)，就是“可數(shù)系統(tǒng)都是不完備的，其中某些問(wèn)題永遠(yuǎn)無(wú)法在系統(tǒng)本身的層面得到解決”。根據(jù)這一原理，基于當(dāng)前計(jì)算機(jī)技術(shù)的AI，可能永遠(yuǎn)無(wú)法超越人類。因?yàn)橛?jì)算機(jī)系統(tǒng)本質(zhì)是可數(shù)的，而人的意識(shí)是不可數(shù)的。例如，計(jì)算機(jī)所有的輸入和輸出，都必須用有限的數(shù)字來(lái)描述。比如圓周率。計(jì)算機(jī)里沒(méi)有真正的圓周率，小數(shù)點(diǎn)后只能輸入一個(gè)有限位的近似小數(shù)，到一定長(zhǎng)度必須停下來(lái)。只要停下來(lái)，參與運(yùn)算的這個(gè)圓周率就不是真正的π。而真實(shí)世界與計(jì)算機(jī)模擬的數(shù)字世界是不同的。真實(shí)世界是不可數(shù)的，圓周率π、自然常數(shù)e都可以無(wú)窮無(wú)盡地計(jì)算下去。AI運(yùn)行于數(shù)字世界，人類則生活在實(shí)數(shù)宇宙。用基于目前計(jì)算機(jī)技術(shù)的AI來(lái)模擬人類智能，就像用語(yǔ)言系統(tǒng)來(lái)描述人類感覺(jué)——語(yǔ)言是可數(shù)的，而感覺(jué)是不可數(shù)的，所以有些感受“只可意會(huì)，不可言傳”。由此可推導(dǎo)出，在真正的技術(shù)“奇點(diǎn)”到來(lái)之前，AI只能不斷逼近人類智能，但永遠(yuǎn)無(wú)法超越。人類仍將是戰(zhàn)場(chǎng)的最高主宰。

審核編輯 ：李倩