當前，人工智能正在深刻影響商貿(mào)、金融、醫(yī)療、交通等社會經(jīng)濟領(lǐng)域。同時，軍事領(lǐng)域也不可避免地受到人工智能的沖擊。盡管公眾可能仍將軍事領(lǐng)域的人工智能概念與《終結(jié)者》(Terminator)中的殺人機器人相提并論，但現(xiàn)實生活中關(guān)于人工智能對國家安全影響的討論也正在變得越來越多。這些討論跨越學(xué)術(shù)、商業(yè)和政府各界，從牛津大學(xué)哲學(xué)家尼克·博斯特羅姆（Nick Bostrom）擔憂人工智能對人類帶來生存風(fēng)險，到特斯拉創(chuàng)始人埃隆·馬斯克（Elon Musk)擔心“各國在人工智能領(lǐng)域的軍備競賽可能引發(fā)”，以及弗拉基米爾·普京(Vladimir Putin)聲明“在人工智能領(lǐng)域占據(jù)領(lǐng)導(dǎo)地位的國家將主宰世界”。

▲普京認為人工智能領(lǐng)域的領(lǐng)導(dǎo)者將主宰世界

本文不想泛泛而談人工智能的革命性變化，而是旨在闡明當前的人工智能技術(shù)在軍事領(lǐng)域有哪些應(yīng)用，又會對現(xiàn)實世界產(chǎn)生何種影響。人工智能不是一種單一的武器或技術(shù)，而是一種“使能技術(shù)”，就像電力和內(nèi)燃機一樣。因此，人工智能對軍事力量和國際沖突的影響將取決于人工智能在軍隊和決策者中的具體應(yīng)用。下面是思考人工智能軍事應(yīng)用所帶來影響的幾個關(guān)鍵問題，包括：人工智能究竟是一種什么樣的技術(shù)？與過去的技術(shù)變革相比，它有哪些不同之處？軍隊可以在哪些領(lǐng)域運用人工智能？存在哪些潛在的局限性？人工智能軍事應(yīng)用會對國際政治帶來哪些影響？

人工智能的潛在應(yīng)用前景——包括提高從后勤到戰(zhàn)場規(guī)劃等軍事領(lǐng)域的速度和準確性，以及幫助改善人類決策的能力——正在推動世界各地的軍隊加快對人工智能的研發(fā)和應(yīng)用。對美軍而言，人工智能提供了一條維持軍事優(yōu)勢的新路徑，同時可能降低美國士兵的成本和風(fēng)險，因此在大力推進以人工智能為核心的“第三次抵消戰(zhàn)略”。對于其他一些國家，人工智能也提供了顯著提升軍事能力的前景。人工智能研究的步伐和軌跡存在明顯的不確定性，這意味著當今的“人工智能熱”可能只是一種暫時的炒作而非未來的現(xiàn)實。此外，對于安全與可靠性方面的擔憂可能會限制軍方選擇使用人工智能的方式。

一般意義上而言，人工智能是指使機器完成通常需要人類智能才能完成的任務(wù)的技術(shù)和方法。當前，即便在人工智能研究界的專家看來，人工智能的未來發(fā)展前景也存在很大的不確定性。一些研究人員認為，通用人工智能(AGI)的實現(xiàn)只需要幾年時間，但另一些人認為，這種突破可能需要幾十年甚至更久。因此，本文主要關(guān)注在特定領(lǐng)域表現(xiàn)出超越人類能力的弱人工智能（例如擊敗人類頂級圍棋手的人工智能系統(tǒng)AlphaGo），而不討論通用人工智能和超人工智能相關(guān)問題。

從歷史上來看，很明顯，人工智能是一種影響范圍十分廣泛的技術(shù)。人工智能會對經(jīng)濟和社會各領(lǐng)域產(chǎn)生深刻影響，影響的范圍和程度將取決于創(chuàng)新速度。它可以應(yīng)用于多個領(lǐng)域，而不是一個單個設(shè)備（如火箭或飛機）。因此，在軍事領(lǐng)域，我們可以將人工智能視為一個“使能技術(shù)”（enabler)。

那么，人工智能對軍隊而言究竟意味著什么？軍方可能會用人工智能做什么？為什么這對國際政治如此重要？換言之，人工智能可以幫助解決哪些現(xiàn)代戰(zhàn)爭面臨的棘手問題？分析來看，以下人工智能的三個潛在軍事應(yīng)用領(lǐng)域是當前軍方的主要興趣所在。

首先，人工智能可以用于軍事大數(shù)據(jù)分析。許多現(xiàn)代軍隊在數(shù)據(jù)方面所面臨的挑戰(zhàn)與公司或政府所面臨的挑戰(zhàn)大致相同——數(shù)據(jù)往往太多，很難足夠快地處理。當前的狹義人工智能提供了加速數(shù)據(jù)分析和解釋過程的潛力，從而使人類工作者轉(zhuǎn)向更高級別的任務(wù)。例如，美軍的Maven項目就試圖使用算法來更快速地分析和解釋無人機獲取的圖像。從圖像識別到公共信息或機密信息數(shù)據(jù)庫的處理，人工智能可以幫助軍隊更準確、更快地分析、處理和解釋信息，從而有助于輔助人類指揮官更好地做出決策。

其次，人工智能可以加快戰(zhàn)場決策速度。從高超音速武器到網(wǎng)絡(luò)攻擊，軍隊高層認為戰(zhàn)爭的速度正在加快。無論從OODA(觀察、判斷、決策、行動)回路理論的角度來考慮，還是僅僅是想在敵人發(fā)現(xiàn)你之前發(fā)動攻擊，速度都可以在現(xiàn)代戰(zhàn)爭中提供巨大優(yōu)勢。然而，速度不僅僅是指飛機的飛行速度或軍需品的運送速度，更重要的是決策速度。就像遙控系統(tǒng)一樣，人工智能“駕駛”的飛機不受保護人類飛行員的限制，具有明顯的速度和機動性優(yōu)勢。例如，在防空領(lǐng)域，以人工智能系統(tǒng)的機器速度運行防空系統(tǒng)，在面對來襲導(dǎo)彈的飽和攻擊時可以比人來操控系統(tǒng)更有效地保護軍事基地或城市，因為不管人的才能多么突出，都無法快過機器的響應(yīng)速度。而目前，這已經(jīng)是以色列“鐵穹”（Iron Dome system）防御系統(tǒng)運作的原則。

▲以色列拉斐爾國防系統(tǒng)公司研發(fā)的全天候、機動型“鐵穹”防空系統(tǒng)

第三，人工智能有望使一些新的軍事作戰(zhàn)概念成為現(xiàn)實。比如經(jīng)常被討論的“忠誠僚機”（Loyal Wingman）概念，它假設(shè)人類飛行員或坦克駕駛員也可以協(xié)調(diào)和控制一些無人設(shè)備。然而，對于那些“僚機”來說，戰(zhàn)場環(huán)境越復(fù)雜，擁有幫助它們做出反應(yīng)的算法就越有用。類似地，無人蜂群也需要人工智能來進行協(xié)調(diào)。

顯然，軍隊希望通過挖掘人工智能的應(yīng)用潛力，以提高軍事訓(xùn)練和作戰(zhàn)的效率。這種動力不僅是來自其他軍隊的競爭壓力，也有促進各國發(fā)展自主武器系統(tǒng)的內(nèi)部政治和官僚因素。對于美國來說，自主武器系統(tǒng)在理論上提供了以較低的成本和人力風(fēng)險完成任務(wù)的可能性。例如，2017年發(fā)布的《美國陸軍機器人與自主系統(tǒng)戰(zhàn)略》(US Army Robotics and Autonomous Systems Strategy)特別提到了自主系統(tǒng)能以更低的成本和風(fēng)險提高效率的能力。此外，人工智能系統(tǒng)還可以幫助國家減少對兵員的依賴，從而推動軍隊的智能化發(fā)展和轉(zhuǎn)型。

人工智能在軍事上的應(yīng)用面臨著諸多技術(shù)和組織方面的挑戰(zhàn)，首當其沖的是對于安全性和可靠性的擔憂，這也使得人工智能目前并沒有推動軍隊實現(xiàn)真正的轉(zhuǎn)型。這些技術(shù)挑戰(zhàn)主要可分為兩大類:內(nèi)部的可靠性問題和外部的攻擊利用問題（internal reliability and external exploitation）。

狹義人工智能系統(tǒng)的特點在于它們接受了非常專門的任務(wù)訓(xùn)練，例如下棋和識別圖像。然而，在戰(zhàn)爭中，正如克勞塞維茨所描述的那樣，由于一直存在的戰(zhàn)爭迷霧和阻力，戰(zhàn)場環(huán)境會不斷發(fā)生變化。如果給定人工智能系統(tǒng)的應(yīng)用環(huán)境發(fā)生變化，人工智能系統(tǒng)可能無法適應(yīng)。因此，這種人工智能存在的根本脆弱性（brittleness）會成為系統(tǒng)可靠性的風(fēng)險。作戰(zhàn)雙方部署在戰(zhàn)場上的人工智能系統(tǒng)進行交互，可能會產(chǎn)生復(fù)雜的環(huán)境，這種復(fù)雜性會超出一個或多個系統(tǒng)的理解能力，從而進一步加劇系統(tǒng)的脆弱性，增加發(fā)生事故和出錯的概率。

此外，人工智能的本質(zhì)是機器決定最佳策略并采取行動，這可能會使人工智能系統(tǒng)的行為難以預(yù)測。例如，在AlphaGo對戰(zhàn)李世石(Lee Sedol)第二場比賽中，AlphaGo下出了一步非常不尋常的棋，以至于李世石不得不離開房間15分鐘，思考這一步棋背后的用意。事實證明，這一步棋是人類精英玩家通常都難以想到的走法，但人工智能卻發(fā)現(xiàn)了，這顯示出人工智能在改善決策過程方面擁有巨大潛力。然而，軍隊的運行是基于可靠性和信任的——如果指揮中心或戰(zhàn)場上人類操作員不知道人工智能在特定情況下會采取什么行動，它可能會使作戰(zhàn)變得更加復(fù)雜化，采取行動變得更加困難，事故發(fā)生的可能性更大。

▲2016年3月，AlphaGo擊敗人類頂尖圍棋手李世石九段

在這一問題上，有人可能會想，為什么不打造一種能應(yīng)對各種戰(zhàn)場情景的人工智能系統(tǒng)呢？先不說打造這類系統(tǒng)的難度和成本，就算制造出了這樣一個系統(tǒng)，也會存在破壞可靠性（reliability)的風(fēng)險。舉例來說，研究人員開發(fā)了一個玩俄羅斯方塊游戲的人工智能系統(tǒng)，但發(fā)現(xiàn)人工智能訓(xùn)練算法在即將輸?shù)粲螒虻臅r候總會暫停游戲，以執(zhí)行在每一步中最大化獲勝可能性的指令。人工智能的這種適應(yīng)性調(diào)整反映了其行為的不確定性，超出了當前大多數(shù)軍隊所能接受的預(yù)期范圍。可解釋性(explainability)是人工智能系統(tǒng)面臨的另一個挑戰(zhàn)。對于一個系統(tǒng)來說，重要的不僅是可靠，而且要以一種能讓人信任的方式對做出的行為進行解釋。如果一個人工智能系統(tǒng)以某種方式對圖像進行分類或避開敵方雷達，但無法解釋它為什么做出這一特定選擇，人類可能就不太可能信任它。

可靠性不僅僅是人工智能系統(tǒng)設(shè)計的問題。從古至今，戰(zhàn)爭一直是作戰(zhàn)雙方進行激烈對抗的有組織行動。就像軍隊和情報機構(gòu)一直在試圖攻擊和破壞潛在對手的行動一樣，在擁有人工智能系統(tǒng)的今天，也無法改變這一本質(zhì)，不管這些系統(tǒng)是部署在后臺還是戰(zhàn)場。研究人員已證明，圖像識別算法容易受到像素級“毒”數(shù)據(jù)的影響，從而導(dǎo)致分類問題。針對開源數(shù)據(jù)訓(xùn)練的算法尤其容易受到這一挑戰(zhàn)，因為對手試圖對訓(xùn)練數(shù)據(jù)進行“投毒”，而其他國家甚至可能將這些數(shù)據(jù)用于軍事領(lǐng)域的算法訓(xùn)練。目前，對抗性數(shù)據(jù)（adversarial data）問題是一個非常嚴峻的挑戰(zhàn)。此外，黑客攻擊還可能導(dǎo)致在安全網(wǎng)絡(luò)上訓(xùn)練的算法被利用。這表明在國家安全領(lǐng)域，網(wǎng)絡(luò)安全和人工智能之間存在十分重要的相互作用。

▲人工智能將右側(cè)的“欺騙圖像”全部識別為“鴕鳥”

那么，軍隊什么時候才會運用人工智能呢？在有關(guān)人工智能和自主武器的探討中，一個經(jīng)常被忽視的關(guān)鍵問題是，除非軍方在認識到人工智能在完成特定任務(wù)(如解讀圖像、轟炸目標、規(guī)劃戰(zhàn)斗等)時明顯優(yōu)于現(xiàn)有系統(tǒng)，否則他們一般不會想要使用基于人工智能的系統(tǒng)?？紤]到這些安全性和可靠性的問題，在對手試圖破壞彼此系統(tǒng)的對抗環(huán)境中，這些問題被進一步放大了。軍方不太可能僅僅因為這些安全問題就停止研究人工智能應(yīng)用。但這些安全和可靠性問題可能會影響發(fā)展人工智能系統(tǒng)的類型，以及其與“常規(guī)”軍事作戰(zhàn)規(guī)劃的整合。

考慮軍事技術(shù)集成到部隊的三個層次——開發(fā)、部署和使用。在每一個階段，軍隊都需要權(quán)衡技術(shù)在提高效能、降低人類士兵風(fēng)險和降低成本的潛在前景，及其與影響軍隊行為的安全性和可靠性的挑戰(zhàn)。人工智能的軍事研究是在競爭環(huán)境中進行的?？紤]到人工智能整合可能帶來的好處，許多軍隊擔心自身被其他行動者遠遠甩在后面。沒有一個國家希望自己的戰(zhàn)斗機、艦艇或坦克受到敵方無人蜂群的威脅，或者僅僅是敵方系統(tǒng)在戰(zhàn)斗環(huán)境中反應(yīng)和打擊速度更快。

盡管如此，目前我們?nèi)蕴幱谌斯ぶ悄苋谌胲娛孪到y(tǒng)的初始階段。杜克大學(xué)“人類與自主實驗室”(Human and Autonomy Lab)主任米西·卡明斯(Missy Cummings)認為，盡管世界各地的軍隊都在推動自主系統(tǒng)的研發(fā)，但進展是“緩慢的”，各方“正在努力實現(xiàn)從開發(fā)到實際運用的跨越”。

在開發(fā)階段，應(yīng)當通過測試揭示人工智能系統(tǒng)潛在的安全和可靠性問題，并使其成為一個重點投資領(lǐng)域。現(xiàn)在，軍方可能認為，在某些情況下，這些風(fēng)險是可以接受的，因為存在落后的風(fēng)險，而且他們相信自己可以隨時修正程序方面存在的問題。本質(zhì)上，軍方將權(quán)衡人工智能領(lǐng)域的可靠性和能力，人工智能系統(tǒng)有望提供更大的能力，但存在可靠性的風(fēng)險。

在部署和使用人工智能系統(tǒng)時，軍方可能會考慮特定沖突的具體情況。隨著沖突風(fēng)險的上升，如果軍方認為失敗的可能性更大，它自然會在部署充滿希望但也存在可靠性問題的技術(shù)時，變得更能接受風(fēng)險。相比之下，隨著風(fēng)險的降低，以及軍方相信自己可以在承擔更少技術(shù)風(fēng)險的情況下取勝，人工智能系統(tǒng)的部署將會有所滯后，直到軍方認為人工智能系統(tǒng)與現(xiàn)有系統(tǒng)一樣可靠或比其更可靠。

軍事和商業(yè)技術(shù)發(fā)展的歷史表明，我們需要謹慎行事，但同時也有理由相信，安全和可靠性問題不會導(dǎo)致人工智能在軍事領(lǐng)域的整合會全面停止。從軍方的角度來看，它們也不應(yīng)該完全停止?？枴け敬模↘arl Benz）在1886年生產(chǎn)了第一輛以汽油為燃料的內(nèi)燃機驅(qū)動的汽車。這發(fā)生在煤氣內(nèi)燃機申請第一項專利的幾十年后（1859年法國工程師勒努瓦發(fā)明），而在汽車出現(xiàn)幾十年后，才逐漸取代馬車，成為占主導(dǎo)地位的交通工具。為什么需要這么久的時間？答案是對于安全性和可靠性的考量。早期內(nèi)燃機面臨諸多挑戰(zhàn)，包括可靠性、成本、缺乏標準化的機器、制造的不一致性，以及由于內(nèi)燃機所驅(qū)動的汽車的復(fù)雜性而導(dǎo)致的持續(xù)故障等。

每當新技術(shù)被發(fā)明出來，這個熟悉的故事就會不斷重復(fù)。新技術(shù)的應(yīng)用面臨著嚴重的安全性和可靠性問題。同時，相對于現(xiàn)存境況，它們有望獲得更大的能力。有時候，這些問題能夠得到解決，例如內(nèi)燃機和飛機。但有些時候，就像飛艇或飛船用于軍事領(lǐng)域一樣，由于安全問題太過突出，使得該技術(shù)永遠不會比其他替代技術(shù)更可靠和有效，只能被遺棄在歷史的塵埃里。

法國總統(tǒng)埃馬紐埃爾·馬克龍(Emmanuel Macron)曾宣稱，人工智能將顛覆商業(yè)模式和就業(yè)現(xiàn)狀，法國需要制定新的人工智能戰(zhàn)略來迎接人工智能時代的來臨。雖然馬克龍對人工智能的一項潛在軍事應(yīng)用發(fā)出了警告，稱自己“堅決反對”在戰(zhàn)場上使用人工智能殺人。然而現(xiàn)實是，法國情報部門已經(jīng)在運用人工智能提高數(shù)據(jù)處理的速度和可靠性，賦能軍隊。

▲法國總統(tǒng)馬克龍反對在戰(zhàn)場上使用“殺人機器人”

盡管存在對安全和可靠性方面的擔憂，但人工智能的巨大應(yīng)用潛力會使各軍事大國看到止步不前的風(fēng)險。從數(shù)據(jù)處理到蜂群概念再到戰(zhàn)場管理，人工智能可以幫助軍隊更快、更準確地運作，同時減少人類面臨的風(fēng)險。但另一方面，當前機器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)方法所特有的安全和可靠性問題意味著，對抗性數(shù)據(jù)等問題將對人工智能的諸多軍事應(yīng)用構(gòu)成挑戰(zhàn)。美軍的高層很清楚美國在技術(shù)變革時代面臨的風(fēng)險，可能比一個世紀前的英國更有自知之明，知道更廣泛的技術(shù)變革會以何種方式影響其軍事優(yōu)勢，但僅僅有自知之明并不能保證成功。當人們考慮到任何技術(shù)的影響主要取決于人們和組織決定如何使用它時，這一點尤為正確。從長弓擊潰騎士團，到海軍航空兵結(jié)束了戰(zhàn)列艦時代，歷史上不乏自認為仍處于領(lǐng)先地位的強國——直到遭遇一次重大的戰(zhàn)場潰敗。

目前，我們無法確知人工智能對軍隊的影響是否會達到類似的程度。即便在人工智能研究學(xué)界，專家對人工智能的發(fā)展?jié)摿桶踩约翱煽啃蕴魬?zhàn)這一問題，依然存在著諸多的爭議和不確定性?；蛟S在20年后，國家安全分析師會反思今天的“人工智能熱”只不過是一場炒作罷了。但鑒于人工智能相對于特定技術(shù)（如定向能技術(shù)）的影響范圍之廣，以及當前各國在這一領(lǐng)域的巨大投資，人工智能（至少在某些方面）有望塑造軍隊的未來。

原作者 | Michael C. Horowitz

編譯 | 龍坤(國防科技大學(xué),18874778237@163.com)

編輯 | 陳雨淼

審閱 | Q、黃洋