專題·人工智能安全 | AI能力邊界不斷擴展，將對國家安全產(chǎn)生深遠影響

清都山水郎wa1z 2023-07-15 發(fā)布于遼寧

展開全文

文 | 中國信息安全測評中心王欣

隨著 ChatGPT 的發(fā)布及相關應用的落地，人工智能技術給全球各個行業(yè)帶來了一波又一波沖擊。GPT-4 多模態(tài)大型語言模型更是將人工智能的能力提升到新的高度，無論從技術先進性還是應用實踐能力來看，此模型均可被稱為當前人工智能發(fā)展的集大成者，人工智能正以一種肉眼可見卻難以預料的速度迅速擴展其能力邊界。在人工智能的加持下，網(wǎng)絡攻防、開源情報、軍事對抗等國家安全相關領域均出現(xiàn)前所未有的科技創(chuàng)新和突破，或將對國家安全產(chǎn)生較大影響。

一、人工智能應用于軍事斗爭，傳統(tǒng)武器如虎添翼

當代軍事領域既是戰(zhàn)略前沿技術發(fā)展匯集的核心地帶，也是最富創(chuàng)新性、超越性、顛覆性的科學技術發(fā)展前沿，人工智能作為當前最火爆的關鍵新興技術之一，在軍事領域的武器裝備賦能、戰(zhàn)場情報分析、戰(zhàn)略決策指揮、戰(zhàn)時輿論引導等方面發(fā)揮著越來越重要的作用。

俄烏沖突戰(zhàn)事持續(xù)焦灼，以人工智能為代表的現(xiàn)代關鍵新興技術在其中發(fā)揮了至關重要甚至主導性的作用。2022 年 12 月，華盛頓郵報專欄作家大衛(wèi)·伊格內修斯發(fā)表題為《算法如何在烏克蘭打破平衡》的文章指出，美國人工智能公司 Palantir 為烏克蘭軍隊提供了功能強大的軟件系統(tǒng)，利用人工智能實現(xiàn)了精準的圖像識別，通過將來自衛(wèi)星、無人機以及社交媒體等渠道的圖片進行關聯(lián)分析，為烏克蘭軍方進行目標識別、瞄準打擊、戰(zhàn)事預警、戰(zhàn)略決策提供了極大支撐。Palantir 首席執(zhí)行官表示，“依托先進算法的戰(zhàn)爭系統(tǒng)能力之強大，等同于利用戰(zhàn)術核武器來對抗常規(guī)武器。”3 月 24 日，前美國陸軍網(wǎng)絡司令部作戰(zhàn)副司令羅賓·豐特斯與人工智能公司 RAIN 部門主管約里特·卡明加聯(lián)合發(fā)表題為《烏克蘭是人工智能戰(zhàn)爭活生生的試驗場》的文章指出，俄烏沖突為人工智能技術提供了“活生生的試驗場”，使真正的網(wǎng)絡化戰(zhàn)場愿景更接近現(xiàn)實。在作戰(zhàn)武器方面，人工智能為大量使用的無人機和巡航導彈，在飛行、瞄準和射擊方面提供了增強的自主能力；在戰(zhàn)場情報方面，美國企業(yè)發(fā)揮主導作用的人工智能廣泛應用于地理空間情報分析，結合了地面照片、無人機視頻片段和衛(wèi)星圖像，產(chǎn)生了戰(zhàn)略和戰(zhàn)術情報優(yōu)勢；在電子對抗方面，美國 Primer 公司為烏克蘭部署人工智能工具用于分析俄羅斯無線電通信，以獲取戰(zhàn)場實時情報；在輿論認知方面，俄烏雙方利用人工智能生成大量虛假信息或錯誤信息，進行輿論引導，定向擾動民意，產(chǎn)生認知迷霧。人工智能在俄烏沖突各個領域的應用充分說明，此場沖突已經(jīng)成為人工智能技術的試驗場，并發(fā)揮了重要作用，真實戰(zhàn)場數(shù)據(jù)反哺人工智能進行訓練、調整和進化，未來將出現(xiàn)新型的“AI”戰(zhàn)爭。關于 AI 增強武器系統(tǒng)的公開報道只是冰山一角，人工智能技術已經(jīng)開始部署在遠離戰(zhàn)場的系統(tǒng)中，如與規(guī)劃、后勤保障和預防性維護等領域相關的云計算和數(shù)據(jù)分析系統(tǒng)，這場革命現(xiàn)在已經(jīng)開始，而且不會停止。2 月，烏克蘭數(shù)字轉型部長米哈伊洛·費多羅夫在采訪中表示，完全自主的殺手級無人機是武器開發(fā)中“合乎邏輯且不可避免的一步”，烏克蘭一直在“朝這個方向進行大量研發(fā)”。5 月 9 日，美國防部發(fā)布《2023國防科技戰(zhàn)略》，明確將可信人工智能與自治系統(tǒng)作為支撐國防創(chuàng)新的關鍵技術領域。

無論是在真實戰(zhàn)場中的現(xiàn)實作用，還是在國家戰(zhàn)略規(guī)劃中的重要地位，種種跡象均表明，“人工智能+軍事”的武器裝備技術進一步成熟完善，一場人工智能引領的軍事變革浪潮即將在不久的未來漸漸顯現(xiàn)。

二、人工智能應用于情報領域，情報生產(chǎn)方式變革在即

人工智能技術憑借強大的數(shù)據(jù)整合分析能力，廣泛應用于情報領域，將情報分析的自動化水平提高到新的高度。傳統(tǒng)分析員借助人工智能更好地理解數(shù)據(jù)，提升情報研判與預測能力，情報機構利用人工智能技術高效的分析海量數(shù)據(jù)，做出更精準的戰(zhàn)略決策。

各國情報機構高度重視人工智能的賦能作用，2022 年 12 月，美國發(fā)布的《2023 財年情報授權法案》中明確指出，人工智能是美國情報界重點關注的新興技術之一，法案指出“為提高情報競爭力，情報界必須加速采用人工智能技術并將其納入工作流程。調研情報界在開發(fā)、獲取、采用、維護人工智能技術，改進情報搜集、處理和分析全流程方面所取得的成效和不足，確保商業(yè)尖端技術能夠快速在情報界應用”。隨著 ChatGPT 的發(fā)布，更是掀起了該項技術在情報分析方面的應用熱潮。2 月，美國中央情報局（CIA）人工智能主管拉克希米·拉曼表示，該機構正在通過聯(lián)邦政府資助的研發(fā)中心以及學術界和工業(yè)界的合作伙伴尋求該領域的幫助，探索使用聊天機器人和生成式人工智能功能協(xié)助其完成日常工作和總體情報任務；將 AI 整合到 CIA 行動和系統(tǒng)的很多工作正在進行，以確保 CIA 成為一個成熟的、人工智能驅動的組織，并擴大對對手使用人工智能和機器學習能力的理解。3 月 29 日，英國安全事務國務大臣湯姆·圖根哈特撰文稱，希望英國能設立一個專注于“開源情報”（OSINT）的全新情報機構，通過人工智能技術收集分析公開來源信息，用以協(xié)助傳統(tǒng)情報工作，一方面幫助情報人員識別對手所造成的威脅，另一方面用于打擊“虛假信息”的傳播。

在當前數(shù)字經(jīng)濟時代，開源信息、網(wǎng)絡數(shù)據(jù)已經(jīng)成為情報生產(chǎn)的重要來源，傳統(tǒng)人力已經(jīng)不能應對巨量的情報分析任務，人工智能技術既能助力突破情報數(shù)據(jù)處理速度和規(guī)模上的瓶頸，還在情報挖掘、決策輔助等方面發(fā)揮更大作用，極大提升情報信息的可用性和洞察力。

三、人工智能應用于網(wǎng)絡攻防，產(chǎn)生鋒“矛”固“盾”之效

人工智能之于網(wǎng)絡攻防的賦能作用相當明顯，攻防兩端均可利用人工智能技術開展更加高效、精準以及定制化的行動，網(wǎng)絡空間的對抗形勢將更加嚴峻。

以 ChatGPT 為例，其對網(wǎng)絡攻防已經(jīng)產(chǎn)生了意想不到的增強作用。在攻擊層面，ChatGPT 憑借其強大的代碼編寫能力、文本生成能力受到多方贊譽，但是這也降低了網(wǎng)絡攻擊的門檻，攻擊者能夠利用人工智能模型建立完整攻擊鏈條，自動化生成攻擊代碼甚至具有實戰(zhàn)功能的攻擊工具。自 ChatGPT 發(fā)布以來，暗網(wǎng)論壇中充斥著大量使用 ChatGPT 生成惡意代碼的教程和相關惡意軟件，網(wǎng)絡安全公司 CheckPoint 曾在 2022 年 12 月展示了利用 ChatGPT 實施完整網(wǎng)絡釣魚攻擊的過程，并依據(jù)其監(jiān)測數(shù)據(jù)發(fā)出了“網(wǎng)絡犯罪開始使用 ChatGPT”的警告。近日，F(xiàn)orcepoint 公司的研究人員成功繞過 ChatGPT“反惡意使用”保護機制，僅花費 4 小時就生成一款具備文件竊取及隱寫傳輸功能惡意軟件，并能夠逃避近 70 款檢查引擎的查殺。英國安全公司 DarkTrace 發(fā)布警告稱，“ChatGPT 助長了網(wǎng)絡勒索和更高級的網(wǎng)絡欺騙”。人工智能技術憑借其強大的模型能力，使網(wǎng)絡攻擊的自動化程度、攻擊隱蔽性、攻擊滲透能力等均得到了不同程度的提升，隨著模型的不斷改進，它將成為惡意行為者越來越強大的工具和幫手。在防御層面，人工智能與威脅情報、大數(shù)據(jù)、云計算有效融合，形成算力、算法和數(shù)據(jù)疊加優(yōu)勢，有效提升網(wǎng)絡威脅的響應和處置能力。俄烏沖突中，微軟聯(lián)合人工智能公司 RiskIQ 協(xié)防烏克蘭，從外而內識別烏信息系統(tǒng)中的攻擊面，幫助烏克蘭及時發(fā)現(xiàn)和阻止大量網(wǎng)絡攻擊。3 月 28 日，美國微軟公司宣布將 GPT-4 引入網(wǎng)絡安全，發(fā)布了全球首款真正意義上的網(wǎng)絡安全 AI 產(chǎn)品“微軟安全助手”（Microsoft Security Copilot，以下簡稱Copilot）。Copilot 憑借人工智能的高效數(shù)據(jù)處理能力進行網(wǎng)絡安全事件響應、評估和防御，實現(xiàn)對威脅事件的秒級響應和規(guī)?；幹谩Ｎ④泴⒆钋把氐木W(wǎng)絡安全技術與人工智能相結合，是 AI 能力邊界的再一次有效擴展，是在 ChatGPT 熱潮之后的又一項具有里程碑意義的人工智能落地應用。面對網(wǎng)絡威脅，Copilot 是一個名副其實的“安全大腦”，它具備了網(wǎng)絡安全專家甚至專家團隊的能力，既能夠讓初級安全人員快速上手解決安全問題，又能夠為高級安全人員面對高級威脅提供及時有效的支持。從技術角度看，微軟憑借多年的積累和布局，在算力、算法和數(shù)據(jù)等人工智能核心領域占據(jù)得天獨厚的優(yōu)勢。在算力方面，微軟 Azure 云基礎設施平臺為 Copilot 提供了充足的計算能力；在算法方面，Copilot 將全球最先進的生成式大語言模型與其領先的網(wǎng)絡安全專用模型相結合；在數(shù)據(jù)方面，微軟積累了龐大且優(yōu)質的威脅情報和安全大數(shù)據(jù)，成為 Copilot 不斷進化能夠憑借的巨大數(shù)據(jù)金礦。除此之外，生成式人工智能也成為 2023 年 RSA 大會最熱門的賽道，谷歌、埃森哲等廠商均推出了以人工智能作為核心技術的網(wǎng)絡安全產(chǎn)品，Veracode、記錄未來等企業(yè)也宣布要將生成式人工智能引入自身產(chǎn)品。人工智能無論作為一種解決方案提供方，還是一種能夠重構現(xiàn)有解決方案的技術，都將在未來的網(wǎng)絡安全領域發(fā)揮重要作用。

人工智能對網(wǎng)絡安全帶來了巨大而深刻的影響，它既被用來改進和加強網(wǎng)絡安全解決方案，幫助分析人員更高效地分類威脅和修復漏洞，也被黑客用來發(fā)動更大規(guī)模、更復雜的網(wǎng)絡攻擊。人工智能將改變當前網(wǎng)絡攻防態(tài)勢，以 AI 對抗 AI 的場景將愈發(fā)普遍。

四、對策建議

ChatGPT 加速了人工智能時代的到來，隨著其能力邊界不斷拓展，憑借在軍事對抗、情報分析及網(wǎng)絡攻防領域的應用優(yōu)勢，將成為大國博弈的另一戰(zhàn)略武器，將對國家安全產(chǎn)生持續(xù)深遠的影響。我國應密切關注全球人工智能技術發(fā)展及應用的最新動向，提早布局，增強人工智能的技術競爭能力。

一是加強人工智能核心技術研發(fā)保障關鍵領域應用安全。受益于數(shù)字經(jīng)濟發(fā)展的熱潮，人工智能在我國呈現(xiàn)了蓬勃發(fā)展態(tài)勢，在已形成的產(chǎn)業(yè)規(guī)模、人才投入、論文專利等方面，均處在全球領先水平，但我國在人工智能領域更加聚焦于技術應用，在基礎理論、核心算法、模型框架、芯片等方面的核心關鍵技術與國外仍存在較大差距。我國應進一步加強人工智能核心軟硬件技術的研發(fā)，實現(xiàn)從算法、模型框架、元器件、基礎設施到系統(tǒng)結構的自主創(chuàng)新和全產(chǎn)業(yè)鏈的整體技術突破，保障在我國關鍵領域人工智能應用的安全可靠。

二是發(fā)展符合我國內業(yè)務場景的專用模型提升應用能力。通用人工智能大模型在內容生成、邏輯推理等方面展現(xiàn)出不凡能力，但專用模型更具備特定場景下解決現(xiàn)實問題的能力。我國在人工智能應用場景多樣性方面擁有先天的優(yōu)勢，細分場景廣泛而豐富，用戶基礎龐大，數(shù)據(jù)匯集效應較易形成，我國應充分利用此優(yōu)勢，以應用為牽引，加快發(fā)展不同行業(yè)領域的人工智能專用模型，匯聚國內科研和產(chǎn)業(yè)界的人工智能算法、算力優(yōu)勢，行業(yè)領域的數(shù)據(jù)資源優(yōu)勢，探索適合我國內現(xiàn)實情況的人工智能發(fā)展技術路線。

三是做好準備應對人工智能帶來的網(wǎng)絡攻防對抗嚴峻形勢。在人工智能的助力下，全球網(wǎng)絡空間將面臨前所未有的嚴峻攻擊態(tài)勢，攻擊戰(zhàn)術、戰(zhàn)法都將發(fā)生“范式”性的變化，攻擊烈度、規(guī)模、逃逸性、抗溯源能力等將得到較大提升。我國應做好充分準備應對人工智能給網(wǎng)絡空間攻防對抗帶來的挑戰(zhàn)，加強網(wǎng)絡威脅情報數(shù)據(jù)的統(tǒng)一和共享，促進人工智能技術在網(wǎng)絡威脅監(jiān)測、攻擊溯源檢測、自動化協(xié)同防御、漏洞檢測與識別等方面的應用，提升網(wǎng)絡威脅防護能力。

（本文刊登于《中國信息安全》雜志2023年第5期）