电竞比分网-中国电竞赛事及体育赛事平台

分享

預(yù)測與判斷:人工智能為何增加了人類在戰(zhàn)爭中的重要性 | 國政學(xué)人

 國政學(xué)人 2024-05-15 發(fā)布于天津

預(yù)測與判斷:人工智能為何增加了人類在戰(zhàn)爭中的重要性

作者:Avi Goldfarb,多倫多大學(xué)人工智能與醫(yī)療領(lǐng)域的羅特曼講席教授、市場營銷教授、國家經(jīng)濟(jì)研究局研究員;Jon R. Lindsay,佐治亞理工學(xué)院網(wǎng)絡(luò)安全與隱私學(xué)院副教授。

來源:Avi Goldfarb, Jon R. Lindsay, “Prediction and Judgment: Why Artificial Intelligence Increases the Importance of Humans in War,” International Security, Vol.46, No.3, 2022, pp.7–50.

導(dǎo)讀

當(dāng)前,機(jī)器學(xué)習(xí)的迅猛發(fā)展正降低統(tǒng)計預(yù)測所需的成本,同時增加了數(shù)據(jù)(能夠預(yù)測)和判斷(決定預(yù)測為何重要)的價值。然而,數(shù)據(jù)和判斷在充滿未知和沖突的戰(zhàn)爭中是難以評估的。因此,從該維度考量,對人工智能的軍事作用分析有兩個重要的戰(zhàn)略意義。其一,采用人工智能的軍事組織會日趨復(fù)雜,因?yàn)樗鼈円m應(yīng)各種決策中數(shù)據(jù)和判斷帶來的挑戰(zhàn)。其二,在戰(zhàn)略競爭中,數(shù)據(jù)和判斷往往會成為目標(biāo),在這些方面的人機(jī)協(xié)作會越來越有爭議,使得人工智能驅(qū)動下的沖突涉及強(qiáng)烈的不確定性、組織摩擦性和長期爭議性。因此,作者認(rèn)為軍事上對人工智能的依賴將強(qiáng)化而非減弱戰(zhàn)爭中的人為因素。本文分為三個部分來證明這一觀點(diǎn):首先,介紹決策的政治和技術(shù)背景;其次,闡述人工智能在商業(yè)和戰(zhàn)爭中的作用;最后,闡明軍事人工智能的戰(zhàn)略價值并進(jìn)行總結(jié)陳述。

人工智能的概念及理論背景

在本文中,作者將重點(diǎn)介紹機(jī)器學(xué)習(xí)這一在媒體、管理和經(jīng)濟(jì)學(xué)文獻(xiàn)中受到廣泛關(guān)注的人工智能技術(shù),而擱置對通用人工智能(AGI)的探討或人工智能系統(tǒng)是否能與人類智能相媲美或超越人類智能的爭論。機(jī)器學(xué)習(xí)是統(tǒng)計預(yù)測的一種形式,它是使用現(xiàn)有數(shù)據(jù)歸納缺失信息生成的過程。

技術(shù)經(jīng)濟(jì)學(xué)的相關(guān)文獻(xiàn)認(rèn)為,對現(xiàn)有技術(shù)的補(bǔ)充決定了新興技術(shù)的影響力。從該角度切入,人工智能并不是人類決策的簡單替代。機(jī)器學(xué)習(xí)的快速發(fā)展改善了統(tǒng)計預(yù)測,但預(yù)測只是決策的一個方面。決策的另外兩個重要因素——數(shù)據(jù)和判斷——則是預(yù)測的補(bǔ)充。如果我們掌握高質(zhì)量的數(shù)據(jù)并且能夠清楚地做出判斷時,人工智能就可以改善決策。

與經(jīng)濟(jì)學(xué)文獻(xiàn)呼應(yīng),軍事創(chuàng)新領(lǐng)域?qū)W術(shù)研究的一個主題是:技術(shù)不是軍事力量的簡單替代品。技術(shù)能力有賴于與其互補(bǔ)的制度、技能和理論。但是,由于人工智能對人類的能動性提出了挑戰(zhàn),上述理論便存在一定不足。因?yàn)樗鼈冚^少關(guān)注人工智能的補(bǔ)充作用:包括組織基礎(chǔ)設(shè)施、人類技能、理論概念和指揮關(guān)系等。這些都是利用自動化決策的優(yōu)勢和降低風(fēng)險所必須考量的。

因此,本文試圖挑戰(zhàn)人工智能替代背后的假設(shè),并探討人工智能互補(bǔ)的含義。一般而言,如果高質(zhì)量的數(shù)據(jù)可以和清晰的判斷相結(jié)合,則自動化是有利的。但是,軍事任務(wù)充滿了不確定性和混亂性。如果軍隊(duì)在不確定的情況下過早地為自動化系統(tǒng)提供明確的目標(biāo),那么軍隊(duì)便有可能面臨嚴(yán)重的后果。相反,對于具有高質(zhì)量數(shù)據(jù)但難以判斷的任務(wù),人類和機(jī)器團(tuán)隊(duì)可以人機(jī)協(xié)作,分配決策的認(rèn)知負(fù)荷(cognitive load)。作者認(rèn)為,數(shù)據(jù)和判斷將越來越富有價值和爭議,因此人工智能驅(qū)動的戰(zhàn)爭將更加曠日持久和撲朔迷離。

決策的政治和技術(shù)背景

如圖一所示,作者將經(jīng)濟(jì)決策模型嵌入國際關(guān)系框架,系統(tǒng)區(qū)分與人工智能相關(guān)的異同。決策一方面受到政治和技術(shù)環(huán)境的影響,一方面也重塑著兩種環(huán)境。決策環(huán)境和組織機(jī)構(gòu)分別影響數(shù)據(jù)和判斷的質(zhì)量。與此同時,機(jī)器學(xué)習(xí)的創(chuàng)新降低了預(yù)測成本。

圖一中的“決策環(huán)境”是指軍事組織面臨的外部問題。例如國際力量平衡、外交聯(lián)盟、地理地形和天氣、敵人的作戰(zhàn)能力和部署,以及與民間社會的互動等。這些外部問題構(gòu)成了軍事行動的威脅、目標(biāo)、機(jī)會、資源和制約因素。決策環(huán)境最終決定了軍事數(shù)據(jù)的意義所在,而環(huán)境的結(jié)構(gòu)和動態(tài)則影響數(shù)據(jù)的質(zhì)量。

“組織和偏好”是指軍事組織解決戰(zhàn)略問題的方式。這一類別包括官僚結(jié)構(gòu)和程序、軍種間和聯(lián)盟政治、軍民關(guān)系、與國防工業(yè)的互動以及其他國內(nèi)政治。這些因素中的任何一個都可能影響軍事組織的目標(biāo)和價值觀或它對特定情況的解釋方式。組織機(jī)構(gòu)的偏好,無論來源,都會反過來影響判斷的質(zhì)量。

此外,作者預(yù)計,隨著時間的推移,將人工智能用于某些軍事決策任務(wù)將影響戰(zhàn)略環(huán)境和軍事機(jī)構(gòu)。隨著數(shù)據(jù)和判斷變得越來越有價值,戰(zhàn)略競爭對手將有動力改進(jìn)和爭奪它們。因此,作者認(rèn)為信息沖突將更加激烈而組織協(xié)調(diào)將日趨復(fù)雜。

圖一:軍事組織決策的戰(zhàn)略背景

人工智能在商業(yè)和戰(zhàn)爭中的補(bǔ)充作用

數(shù)據(jù)質(zhì)量的高低、判斷的清晰與否以及判斷的難度,決定了人類和機(jī)器在決策中的比較優(yōu)勢。表一總結(jié)了數(shù)據(jù)和判斷對AI性能的影響。

表一:數(shù)據(jù)和判斷對決策自動化的影響

人工智能在許多商業(yè)環(huán)境中成功應(yīng)用的一個被低估的原因是,高質(zhì)量數(shù)據(jù)和清晰判斷的有利條件經(jīng)常存在。商業(yè)貿(mào)易通常發(fā)生在制度化的環(huán)境中。法律、產(chǎn)權(quán)、合同執(zhí)行機(jī)制、多元化市場、共同的期望和共同的行為規(guī)范都有利于買賣雙方。這些機(jī)制使交易更加一致和高效。反過來,一致性為完全自動化提供了必要的支撐條件。我們預(yù)計人工智能將在更制度化的環(huán)境和更結(jié)構(gòu)化的任務(wù)中取得更大的成功。

相比之下,戰(zhàn)爭發(fā)生在一個更加無政府狀態(tài)的環(huán)境中。在國際體系中,根據(jù)現(xiàn)實(shí)主義的知識傳統(tǒng),沒有合法的國家間機(jī)構(gòu)來裁決爭端、執(zhí)行國際協(xié)議或約束行為。行動者必須準(zhǔn)備好自我保護(hù)或與他人結(jié)盟以尋求保護(hù)。盟友和對手都有動機(jī)歪曲自己的能力和利益,并出于同樣的原因懷疑他人的欺騙。軍事化的危機(jī)和沖突充滿了秘密和不確定性。戰(zhàn)爭目標(biāo)是有爭議的,因?yàn)闊o論好壞它們都調(diào)動了國家的激情。

作者預(yù)計,在戰(zhàn)爭中缺乏約束性機(jī)構(gòu)將破壞人工智能的高質(zhì)量數(shù)據(jù)和清晰判斷的有利條件。證明這一規(guī)則的一個例外是,軍事官僚機(jī)構(gòu)可能為某些軍事任務(wù)提供有利支撐。換言之,強(qiáng)有力的組織機(jī)構(gòu)可以取代薄弱的國際機(jī)構(gòu)。然而,在固有的不確定和有爭議的戰(zhàn)爭環(huán)境中,組織所能取得的成就是有限的。數(shù)據(jù)和判斷的具體背景將決定自動化在具體任務(wù)中的可行性。

此外,戰(zhàn)爭中充斥的各種不確定因素可能會扭曲或破壞數(shù)據(jù),作者預(yù)計數(shù)據(jù)的質(zhì)量會因任務(wù)和形勢的不同而不同。換句話說,戰(zhàn)略環(huán)境的微觀結(jié)構(gòu)非常重要。技術(shù)傳感器提供的數(shù)據(jù)往往結(jié)構(gòu)更合理,內(nèi)容更豐富。但是敵方的欺騙或虛假信息行動往往會破壞數(shù)據(jù)質(zhì)量,因此評估數(shù)據(jù)的具體戰(zhàn)略背景,進(jìn)而評估人工智能是否適合任何特定的決策任務(wù)至關(guān)重要。

人工智能在軍事決策任務(wù)中的作用

如前文所述,數(shù)據(jù)和判斷的關(guān)鍵人工智能補(bǔ)充存在兩個一般假設(shè)。首先,穩(wěn)定、合作的環(huán)境更有利于獲得豐富、公正的數(shù)據(jù);相反,動蕩、競爭激烈的環(huán)境往往會產(chǎn)生有限的、有偏見的數(shù)據(jù)。第二,制度標(biāo)準(zhǔn)化有助于促成定義明確、協(xié)商一致的判斷;相反,獨(dú)特的地方習(xí)俗和內(nèi)部沖突會導(dǎo)致模棱兩可的爭議性判斷。

通過這兩個假設(shè)的組合,作者描述了人工智能在軍事決策任務(wù)中的四種不同表現(xiàn)機(jī)制。表二對這些類別進(jìn)行總結(jié),將決策背景(圖一)的戰(zhàn)略和制度投入到關(guān)鍵軍事智能的人機(jī)分工(表一)中。

表二:戰(zhàn)略和制度條件如何塑造軍事任務(wù)的績效

人工智能性能的最佳案例就是我們所說的“自動化決策”。高質(zhì)量的數(shù)據(jù)和清晰的判斷最有可能在高度常規(guī)化的行政和后勤任務(wù)中獲得,這些任務(wù)更類似于文職組織任務(wù)。任何官僚機(jī)構(gòu)可以做得好的事情,人工智能都可能幫助他們做得更好。人工智能最糟糕的情況是相反的象限,其中兩個自動化互補(bǔ)都不存在。這一類別被稱為“人類決策”,因?yàn)槿斯ぶ悄軣o法執(zhí)行以有限、有偏見的數(shù)據(jù)和模棱兩可、有爭議的判斷為特征的任務(wù)。

在另外兩個象限中,“過早的自動化”介于完全自動化和人性化之間。在數(shù)據(jù)質(zhì)量低下的情況下,依賴人工智能的風(fēng)險尤其大,但此時機(jī)器卻被賦予明確的目標(biāo)并被授權(quán)采取行動。當(dāng)致命行動被授權(quán)時,風(fēng)險最大。如果數(shù)據(jù)有偏見或不完整,那么最好讓人類而不是機(jī)器來解釋不斷變化的情況。畢竟,在動蕩的環(huán)境中,清晰的判斷會產(chǎn)生隱患?!叭藱C(jī)協(xié)作”則強(qiáng)調(diào)人類通過人工智能來增強(qiáng)決策,在敏感環(huán)境中指導(dǎo)和審核人工智能的表現(xiàn),從而將高質(zhì)量的數(shù)據(jù)導(dǎo)向可靠的預(yù)測。

軍事人工智能的戰(zhàn)略意義

本文的中心論點(diǎn)是機(jī)器學(xué)降低了預(yù)測的成本,從而使數(shù)據(jù)和判斷的價值顯著提升。這意味著高質(zhì)量的數(shù)據(jù)和清晰的判斷可以提高人工智能的性能。但考慮到環(huán)境和制度的復(fù)雜性,這些條件很難在軍事情況下得到滿足。然而,能夠滿足這些要求的組織將獲得競爭優(yōu)勢。人的技能是這種競爭優(yōu)勢的核心,其重要的戰(zhàn)略意義在于:

第一,依賴人工智能的軍事組織有動力改善數(shù)據(jù)和判斷。人工智能的采用可能會從根本上改變判斷的分布,改變組織中誰做出決策以及做出什么決定,但在所有情況下,人類最終都負(fù)責(zé)設(shè)定目標(biāo)、做出權(quán)衡和評估結(jié)果。此外,制定和實(shí)施數(shù)據(jù)政策需要數(shù)據(jù)生產(chǎn)者和消費(fèi)者之間的協(xié)商。在構(gòu)建數(shù)據(jù)基礎(chǔ)設(shè)施和管理數(shù)據(jù)質(zhì)量時,人們也會做出細(xì)致入微的判斷。人工智能系統(tǒng)既不能自己設(shè)計,也不能清理自己的數(shù)據(jù),這使我們得出結(jié)論,對人工智能的日益依賴將使人類技能在軍事組織中變得更加重要。

第二,對手有動機(jī)使數(shù)據(jù)和判斷復(fù)雜化。面對人工智能賦能的力量,敵人將試圖通過破壞預(yù)測的質(zhì)量或使其變得無關(guān)緊要來改變游戲規(guī)則。因此,隨著軍事競爭對手采用AI戰(zhàn)爭的信息和組織維度將繼續(xù)增加重要性和復(fù)雜性,爭奪、操縱或破壞數(shù)據(jù)和判斷的策略變得更加重要。同樣,這使我們得出結(jié)論,更多的軍事人工智能將使沖突的人為方面變得更加重要。

總結(jié)

人類重要性的日益增加,挑戰(zhàn)了關(guān)于人工智能和戰(zhàn)爭的新興智慧。許多分析要么假設(shè)人工智能將取代戰(zhàn)士執(zhí)行關(guān)鍵的軍事任務(wù),要么推測戰(zhàn)爭將以機(jī)器的形式發(fā)生,這反過來又創(chuàng)造了激勵侵略和破壞威懾的先發(fā)優(yōu)勢。此外,那些率先用機(jī)器代替戰(zhàn)士的國家被認(rèn)為獲得了顯著的軍事優(yōu)勢,這將使力量平衡轉(zhuǎn)向早期采用者。這些結(jié)果是合理的,但它們是基于人工智能可替代性的有問題的假設(shè)。

基于人工智能互補(bǔ)性的沖突可能表現(xiàn)出非常不同的動態(tài)。作者認(rèn)為,考慮人工智能補(bǔ)充(即數(shù)據(jù)和判斷)的軍事化競爭比設(shè)想自動化軍事力量之間的戰(zhàn)爭更有用。戰(zhàn)爭中數(shù)據(jù)和判斷的重要性增長將微妙地改變戰(zhàn)略動機(jī)。因此,人工智能驅(qū)動的沖突更有可能由決心和機(jī)構(gòu)能力來決定,而不是呈現(xiàn)為機(jī)器人部隊(duì)之間的定位戰(zhàn)。

總之,更加密集的人機(jī)合作將導(dǎo)致判斷在軍事組織中變得更加廣泛,而戰(zhàn)略競爭將變得更加政治化。無論自動化戰(zhàn)爭的未來如何,人類都將是其中的重要組成部分。

詞匯積累

Strategic environment

決策環(huán)境

Human-machine division of labor 

人機(jī)分工

Information contests

信息競賽

譯者:曲弘毅,國政學(xué)人編譯員,上海外國語大學(xué)上海全球治理與區(qū)域國別研究院碩士。

校對 | 張睿哲 鄧天瑞

審核 | 施榕

排版 | 韓欣潔

本文為公益分享,服務(wù)于科研教學(xué),不代表本平臺觀點(diǎn)。如有疏漏,歡迎指正。

    轉(zhuǎn)藏 分享 獻(xiàn)花(0

    0條評論

    發(fā)表

    請遵守用戶 評論公約

    類似文章 更多