|
Medium Governance 新興技術與國家安全: 發(fā)展規(guī)律、治理邏輯與實踐路徑 ![]() 內(nèi)容提要:新一輪科技革命背景下,新興技術治理成為各國高度關注的熱點議題,它不僅事關能否在未來占得發(fā)展先機與增強國力,更涉及能否有效維護國家安全并獲取國際競爭優(yōu)勢。因此,把握新興技術發(fā)展規(guī)律,探索治理內(nèi)在邏輯,實現(xiàn)有效治理戰(zhàn)略意義重大。本文從新興技術特點入手,揭示其發(fā)展規(guī)律中內(nèi)含的“不安全”屬性及其帶來的系統(tǒng)性安全風險,并基于傳統(tǒng)技術治理的比較視角,深入剖析新興技術治理邏輯中安全偏好的變化,探討構建“嵌套”國家安全的前瞻性治理路徑。 關鍵詞:新興技術,前瞻性治理,國家安全 來源:《國家安全研究》,2022年第4期。 作者:李艷,中國現(xiàn)代國際關系研究院科技與網(wǎng)絡安全研究所所長、研究員,主要研究網(wǎng)絡安全戰(zhàn)略、網(wǎng)絡空間國際治理及新興技術與國家安全。曾在核心刊物上發(fā)表多篇論文,并被《人大復印資料》《中國社會科學文摘》轉載。長年從事網(wǎng)絡空間治理的國際合作與交流,多次赴美、俄、印、日、英、歐洲等國參加互聯(lián)網(wǎng)治理論壇、國際會議與網(wǎng)絡安全二軌對話。曾作為中國世界互聯(lián)網(wǎng)大會高咨委秘書長特別顧問,參與大會籌備與重要文件起草工作。 一、新興技術的特點: 發(fā)展規(guī)律中的“不安全”屬性 ![]() (一)新興技術(Emerging Technology)的表述及界定 對于何為新興技術,目前無論是學術界還是政策界都沒有準確界定或共識。該詞頻繁出現(xiàn)在相關國家與科技發(fā)展相關的國家戰(zhàn)略以及國際組織的報告之中,但多以列舉清單式的方式進行說明,較少對新興技術本身作出直接界定。典型代表如 2022 年 2 月 7 日美國發(fā)布的新版《關鍵和新興技術清單》(List of Critical and Emerging Technologies,簡稱“CET 清單”),列出了 19 項對美國國家安全至關重要的關鍵和新興技術,涉及超算、通信和網(wǎng)絡技術、人工智能、半導體和微電子、高超音速能力、定向能源、可再生能源發(fā)電和儲存、核能和金融等技術。再如,在美國與印度政府近期宣布達成的“印美關鍵與新興技術合作倡議”(India-US Initiative on Critical and Emerging Technologies,iCET)中,亦通過列舉的方式明確雙方政府及其產(chǎn)學研部門未來將在人工智能、半導體、5G/6G、量子計算、生物科技以及空間技術領域加強合作。 政府部門選擇以列清單而非釋義的方式劃定新興技術的范圍,一是為更加簡潔扼要地列明重點,以利在實踐中更好發(fā)揮政策導向作用與集中資源投入;二是因新興技術處在動態(tài)發(fā)展中,需要適時調(diào)整;三是各國處于不同發(fā)展階段,對新興技術的認知與應用存在現(xiàn)實差距,很難完全一致。因此,從政策操作層面看,準確或統(tǒng)一界定新興技術內(nèi)涵與外延比較困難且無必要。但對學術界而言,從釋義角度界定新興技術至關重要,因為概念厘清作為研究的前提,決定著研究的邊界與重點,更是進一步研究新興技術特點、規(guī)律以及治理等系統(tǒng)問題的基礎與出發(fā)點。鑒于研究先行,理論指導實踐,對以上問題的探索有助于提升新興技術發(fā)展戰(zhàn)略、政策與措施的有效性。 早在 20 世紀 90 年代,學術界就開始圍繞新興技術開展系列研究,如2000 年賓夕法尼亞大學沃頓商學院出版的《沃頓論新興技術管理》(Wharton on Managing Emerging Technologies)。該書作者團隊作為國際社會較早關注新興技術發(fā)展及影響的研究團體,雖然主要從管理科學角度,即從產(chǎn)業(yè)發(fā)展與公司運營的視角去探索如何有效規(guī)避新興技術帶來的風險,并發(fā)掘互聯(lián)網(wǎng)和生物技術等新興技術可能蘊含的創(chuàng)造新行業(yè)和改變現(xiàn)有行業(yè)的潛力,但其中關于“新技術的識別與評估”部分的論述,對于界定新興技術有重要借鑒價值。該研究成果對后續(xù)新興技術管理的研究產(chǎn)生重要影響,書中從管理學角度將新興技術定義為“建立在信息技術、生物技術和其他學科發(fā)展基礎上,具有潛在的產(chǎn)業(yè)前景,其發(fā)展、需求和管理具有高度不確定性,正在涌現(xiàn)并可能導致產(chǎn)業(yè)、企業(yè)、競爭以及管理思維、業(yè)務流程、組織結構、經(jīng)營模式產(chǎn)生巨大變革的技術”。 (二)新興技術的識別與評估 關于新興技術識別與評估較有影響力的文章是 2015 年發(fā)表于《研究政策》的“什么是新興技術”。該文作者通過文本分析,梳理了多年來學術界關于新興技術論文的情況,試圖找到各種語境釋義下對“新興技術”界定的共性。通過對比分析,作者提出了評估與識別“新興技術”的五大關鍵要素。一是新穎性。較之已有的技術,呈現(xiàn)出完全不同的技術思路與原則。二是快速增長。相較于非新興技術,具有明顯的增長優(yōu)勢,這種增長難以量化但可以通過資本投入數(shù)據(jù)、產(chǎn)業(yè)數(shù)據(jù)以及替代性計量學(Almetrics)等方式來觀察。三是連貫性。多數(shù)新興技術并非“橫空出世”,而是基于已有技術路徑,亦可能是多種技術組合應用而生成的“新”技術。典型代表如人工智能,事實上人工智能技術早在 20 世紀 60年代就已誕生,但由于受當時技術條件所限,直到進入 21 世紀隨著計算機“算力”的提升與數(shù)據(jù)的極大豐富,才開始快速發(fā)展。四是重大影響性。其影響不局限于特定領域,而是給整個社會經(jīng)濟體系帶來重大影響,改變社會生活的行為主體、運行機制與互動模式,甚至是知識形成過程等。五是不確定性與模糊性。這項技術可能帶來的應用場景與結果不確定,甚至會帶來一些“意想不到”(unintended)甚至是“不希望看到”(undesirable)的結果;而模糊性則是指不同社會主體對技術發(fā)展,尤其是安全的責任邊界在相當一段時間難以清晰界定。 ![]() 鑒于以上五大關鍵要素,如果一項“具有相當新穎性、相對成長較快的技術,會隨著時間推移呈現(xiàn)一定程度的連貫性,而且有潛力給社會經(jīng)濟領域帶來相當沖擊,改變行為主體、運行機制以及互動模式甚至是知識產(chǎn)生過程,這些影響會在未來顯著浮現(xiàn),但在相當長一段時間內(nèi),會呈現(xiàn)一定不確定及模糊性”,那么它就可以被稱為“新興技術”。當然,厘清五大關鍵要素的意義不僅限于更好理解什么是新興技術,更為重要的是在此基礎上,通過這些要素的動態(tài)變化,可大致把握新興技術的發(fā)展與演進規(guī)律。 從圖 1 可以看出,一個新興技術發(fā)展的“生命周期”一般包含三個階段:(1)成長初期(Pre-emergence),其特征是新穎性與不確定性突出,相應增長速度有限,帶來的社會經(jīng)濟影響亦未展現(xiàn)。實踐中體現(xiàn)為一種新的技術思路或者尚處在實驗開發(fā)階段,社會應用場景不明,實際應用相當有限。(2)快速成長期(Emergence),其特征是新穎性與不確定性逐步下降,增長速度與影響力不斷上升。實踐中體現(xiàn)為一項技術從研發(fā)開始走向應用落地,有著較為明確和廣泛的應用場景。(3)成長后期,其特征是增長速度與影響力達到高峰,技術足夠成熟而喪失新穎性,其不確定性與模糊性亦得到最大程度的消除。在實踐中體現(xiàn)為一項成熟的技術應用,已達相當程度的產(chǎn)業(yè)化與規(guī)?;?,相應的發(fā)展戰(zhàn)略、政策以及治理機制也隨之完善。 把握新興技術發(fā)展規(guī)律還需明確以下兩點:一是新興技術始終處在動態(tài)發(fā)展中。具體包括兩層含義,一方面,技術本身具有一定生命周期,一項技術不可能永遠是“新興技術”;二是對新興技術的判斷亦在動態(tài)調(diào)整。不同國家對新興技術“新穎性”“重大影響”的評估標準會發(fā)生變化。比如美國最新的CET 清單相較于 2020 年發(fā)布的《關鍵與新興技術國家戰(zhàn)略》,就移除了數(shù)據(jù)科學和存儲技術、區(qū)塊鏈技術、先進傳統(tǒng)武器技術、醫(yī)學和公共健康技術、農(nóng)業(yè)技術等。但需要說明的是,同一時期各國對于“新興技術”的認知與判斷重合度總體上仍然較高。如經(jīng)合組織(OECD)2016年出版的《科學、技術和創(chuàng)新展望》,根據(jù)加拿大、芬蘭、德國、英國、俄羅斯等國及歐盟官方的技術前沿預判,列出未來10~15年起重要影響的40項新興關鍵技術,將其分為四組:數(shù)字技術、生物技術、能源和環(huán)境技術以及先進材料,各組又細分列出了相關重要技術。 更為重要的是,從上述新興技術生命周期的發(fā)展規(guī)律中可以看到,由于新興技術生命周期的大部分時間都處在高度不確定與模糊的過程中,但同時其對社會經(jīng)濟系統(tǒng)又會產(chǎn)生深遠而全面的影響,這就意味著,不確定與模糊帶來的風險必然滲透到社會經(jīng)濟體系的各方面,形成系統(tǒng)性風險。此外,與傳統(tǒng)技術相比,新興技術的“落地”與“擴張”往往極為迅速,甚至是“研產(chǎn)同步”,這就導致留給治理者發(fā)現(xiàn)問題并作出有效反應的時間十分有限,給安全治理帶來極大難度。從這個意義上講,新興技術所帶來的安全風險必然呈現(xiàn)復雜性、系統(tǒng)性特點,其安全維護及有效治理必然面臨巨大挑戰(zhàn)。2020年11月16日,世界經(jīng)濟論壇官方網(wǎng)站發(fā)布《未來系列:網(wǎng)絡安全、新興技術和系統(tǒng)風險》報告,重點介紹新興技術環(huán)境中內(nèi)在隱患和系統(tǒng)性風險所帶來的日益嚴重的威脅。報告稱,“展望技術的發(fā)展趨勢,呈現(xiàn)的是一幅復雜性、速度、規(guī)模和相互依存程度不斷提高的圖景。新興技術環(huán)境將'壓倒’目前部署的許多風險減緩措施。如果現(xiàn)在不進行干預,就很難保持對未來全球增長所依賴的新興技術的信任度及其完備性”。因此,從某種意義上講,新興技術發(fā)展本身就內(nèi)含“不安全”特質。 綜上所述,在把握新興技術界定及其發(fā)展規(guī)律之后,那么接下來一個問題就是,如何進行新興技術的治理以有效維護安全并促進發(fā)展?傳統(tǒng)技術治理的理念與模式能否適用于新興技術的治理? 二、新興技術治理邏輯: 安全偏好的凸顯 ![]() 探討新興技術治理,可以基于比較的視角,即與傳統(tǒng)技術治理理念與模式進行比較。因為經(jīng)過多年理論與實踐發(fā)展,傳統(tǒng)技術治理相對成型,而新興技術雖然有著鮮明的特點,但本質上它作為技術本身,必然在相當程度上遵循一般技術治理的內(nèi)在邏輯,盡管其因自身特點在一定程度上會給傳統(tǒng)技術治理帶來沖擊、挑戰(zhàn)甚至變革。此過程不僅是對新興技術治理的探索,亦是對整體技術治理的豐富與完善。 (一)傳統(tǒng)技術治理的內(nèi)在邏輯 1. 關于治理的目標。一般認為,無論何種治理,其總體目標必然是發(fā)展與安全的平衡。當然,絕對的平衡屬于完美目標,難以在實踐中完全達到,無限接近的過程至關重要。因此,所謂技術治理的目標就是在確保技術的創(chuàng)新與發(fā)展符合社會目標、提升生產(chǎn)力以及獲得相應社會福利的同時,最大程度地降低發(fā)展過程中帶來的各種安全風險與隱患。 2. 關于治理的架構。事實上,技術涉及多種門類,每項技術的應用場景與社會影響不同,因此對于技術治理框架的理解往往基于“分層”(layer-based)、“分域”(domain-based) 甚至是“議題”(issue-based) 的特點。所謂“分層”是指技術及其應用所帶來的問題會涉及不同層面的問題,有的是物理層面(技術硬件問題),有的是邏輯層面(技術軟件問題),而有的則是應用層面(技術產(chǎn)業(yè)化與社會化應用過程中帶來的社會問題);所謂“分域”是從技術產(chǎn)生的社會影響來看,特定技術會帶來政治、經(jīng)濟、文化、軍事、社會等不同領域的問題;而“基于議題”就是更加細分與具體地聚焦于某項技術帶來的某一具體問題。 3. 關于治理的內(nèi)容。(1)解決步調(diào)難題(pacing problem)。步調(diào)難題是指科技創(chuàng)新的速度大大超過了法律和管理條例的更新速度。該提法第一次是在拉里·唐尼斯 2009 年出版的《顛覆定律》一書中出現(xiàn):“科技是成指數(shù)級增長的,但是社會、經(jīng)濟和法律系統(tǒng)只會緩慢增長?!币虼?,傳統(tǒng)技術治理整體呈現(xiàn)“滯后性”的特點。需要指出的是,這種“滯后性”并不是消極或貶義的,其本質上是符合技術發(fā)展規(guī)律的。而治理的效果也是看能否最大限度地彌合步調(diào)的問題, 盡量跟上技術演進的步伐。(2) 解決科林格里奇困境(Collingridge dilemma)。與步調(diào)難題一樣,這也是技術治理中的專業(yè)術語,從方法學的角度進一步描述技術治理面臨的困境。它具體包含雙重約束:一是信息困境,即一項技術的社會后果不能在技術生命的早期被預料到;二是控制困境,當不希望的后果被發(fā)現(xiàn)時,技術往往已經(jīng)成為整個經(jīng)濟和社會結構的一部分,以至于對它的控制十分困難。該提法最早由阿斯頓大學的大衛(wèi)·科林格里奇提出并發(fā)表于《社會管理技術》一書中??屏指窭锲嬖f過,當一個容易的事情被改變時,結果將難以預見。而當需要作出明顯的改變時,改變的方法卻變得昂貴、困難和消耗時間。因此,治理實踐就是要想辦法獲取信息、及早干預和實現(xiàn)對最佳效果的控制。當然,在實踐中,這種問題本身的解決不可能有最終完美方案,但治理的不斷完善從本質上講,就是盡可能地去降低“步調(diào)難題”或“科林格里奇困境”帶來的不利影響。 目前,無論是“步調(diào)難題”還是“科林格里奇困境”都已成為技術治理討論的基本邏輯起點。以互聯(lián)網(wǎng)技術為例,其發(fā)展歷程就充分印證了這一點?;ヂ?lián)網(wǎng)技術的初始設計與應用理念是“聯(lián)接”而非安全,因此,從技術架構本身而言它是天然“不安全”的;與此同時,隨著互聯(lián)網(wǎng)的不斷普及與社會應用,其帶來的社會問題與風險逐漸得以顯現(xiàn)并被社會所認知,然后才是應對與治理被提上日程。從“步調(diào)”上看,治理永遠落后于技術發(fā)展本身;從“困境”上看,互聯(lián)網(wǎng)發(fā)展早期的“信息困境”和當前的“控制困境”是顯而易見的。早期無法及不可能預想到后來的發(fā)展會帶來的諸多治理挑戰(zhàn),從網(wǎng)絡犯罪到網(wǎng)絡恐怖主義,從網(wǎng)絡攻擊到國家行為規(guī)范,等等。當意識到這些問題,國際社會各方開始投入力量強化治理時,互聯(lián)網(wǎng)技術早已超越技術本身,成為一種廣泛滲入社會各領域的“泛在性”“嵌套式”技術,牽一發(fā)而動全身,任何治理措施都可能付出高昂的社會發(fā)展成本。 (二)新興技術治理的內(nèi)在邏輯 沿著傳統(tǒng)技術治理目標、架構、內(nèi)容等思路,結合新興技術的特點與實踐,通過比較分析得出新興技術治理具有如下內(nèi)在邏輯: 1. 治理目標更加突出安全偏好。在當前新一輪科技革命中,諸如信息技術、人工智能、生命科學、數(shù)字技術等新興技術正在促使全球科技革命進入疊加爆炸的歷史新階段。尤其是在當前國際格局與地緣政治博弈加劇的背景下,鑒于國際社會各方多年來對信息通訊及網(wǎng)絡技術治理的經(jīng)驗與教訓,相較于傳統(tǒng)技術發(fā)展初期更重發(fā)展、安全考慮相對欠缺的情況,相關方對于新興技術治理的認知從一開始就不再局限于技術及其發(fā)展本身,而是從國家安全與戰(zhàn)略競爭的角度予以高度重視,安全偏好顯而易見。 如美國戰(zhàn)略與國際問題研究中心(CSIS)2019 年發(fā)布的《超越技術:發(fā)展中國家的第四次工業(yè)革命》報告認為,發(fā)展中國家在應用新興技術上具有后發(fā)優(yōu)勢,尤其是中國正借此超越美國,并在世界上擴展其影響力。緊接著,CSIS 于 2020 年又發(fā)表題為《雙子塔:在新興技術治理中維護國家安全和國家創(chuàng)新》的報告,進一步強調(diào),在全球技術競爭和創(chuàng)新擴散的時代,美國必須維護國家安全和國家創(chuàng)新這兩大支柱,并在新興技術引領、公私伙伴關系、創(chuàng)新與安全、新興技術領域勞動力、廣泛的持續(xù)性外交接觸、為不可避免的摩擦和威脅做好準備等方面提出了相關治理措施。 正是基于這樣的理念,2020 年 10 月 15 日,美國國務院發(fā)布《關鍵與新興技術國家戰(zhàn)略》,詳細介紹了美國為保持全球領導力而強調(diào)發(fā)展“關鍵與新興技術”。而這些技術的定位本質上是“對美國國家安全至關重要的關鍵和新興技術”。歐洲委員會也于 2022 年 2 月發(fā)布“為了安全與防御的關鍵技術路線圖”,稱“保持技術發(fā)展的前沿對于確保歐洲的繁榮、安全與生活方式都至關重要”。歐洲委員會認為,歐洲安全與防御力量的分散化導致經(jīng)濟效率低下、行動能力減弱與戰(zhàn)略依賴度上升,而新興技術的發(fā)展為改變此狀況提供了一個“避免再犯過去錯誤的機會”。從上述表態(tài)中不難看出,歐洲國家認為“安全”的問題已經(jīng)嚴重影響了經(jīng)濟發(fā)展與社會繁榮,必須成為其首要關切。 2. 治理架構呈現(xiàn)更加鮮明的“泛安全”特質。當前新興技術治理實踐已然表明,傳統(tǒng)技術治理“分層”與“分域”邊界進一步模糊,“層”際融合、跨“域”協(xié)同的特征明顯;更為重要的是,國家安全因素前所未有地凸顯,使得新興技術治理呈現(xiàn)“泛安全化”的特點。 以當前發(fā)展較為迅速且相對較為成型的人工智能治理為例,其治理目的是充分發(fā)揮人工智能帶來的優(yōu)勢和有效降低人工智能導致的風險。從一開始它就體現(xiàn)出鮮明的“層”際融合與跨“域”協(xié)同特點,雖然根據(jù)關注重點的不同分為技術層、倫理層、社會及法律層等 3 個層面進行,但其實各層之間相互關聯(lián)。比如技術層面在考慮安全時,倫理是必要因素,強調(diào)基于安全的技術設計理念(Secure by Design);同樣,社會與法律層面治理的最終目標亦是為了實現(xiàn)造福人類的終極技術倫理,即通過整合政治、經(jīng)濟、文化、軍事、法律、社會等各方面資源,最終建設負責任的人工智能(Responsible Artificial Intelligence, RAI)。 而在此過程中,國家安全因素更是相關國家考慮的重點。如哈佛大學貝爾弗科學與國際事務研究中心在 2017 年發(fā)表題為《人工智能與國家安全》(Artificial Intelligence and National Security)的研究報告指出,“人工智能的進步將通過推動軍事優(yōu)勢、信息優(yōu)勢和經(jīng)濟優(yōu)勢的變革來實現(xiàn)國家安全”。美國戰(zhàn)略界基本上形成了以下兩方面的共識:一是人工智能是影響和塑造未來美國國家安全的核心變量;二是有效克服人工智能的負面效應是確保未來美國國家安全的關鍵。尤其是美國認為中國政府正試圖通過發(fā)展人工智能實現(xiàn)軍事能力的“跨越式”發(fā)展:“中國在人工智能領域的投資可能會'削弱’美國的軍事優(yōu)勢,'破壞’自由、開放的國際秩序,并在人權和個人自由方面'挑戰(zhàn)’美國價值觀和傳統(tǒng)”,最終將全面“挑戰(zhàn)”美國在人工智能領域及全球范圍內(nèi)的相對優(yōu)勢和領導地位,對美國國家安全構成嚴重的“威脅”。由此可見,國家安全因素可謂從戰(zhàn)略高度貫穿人工智能治理始終。 再如,世界經(jīng)濟論壇發(fā)布的《網(wǎng)絡安全、新興技術與系統(tǒng)性風險》報告指出,量子技術可能改變國家安全的游戲規(guī)則。一些國家正在對量子技術和技能發(fā)展進行重大投資,將量子技術列入管制清單。未來少數(shù)發(fā)達國家獲得量子霸權,將會產(chǎn)生地緣政治影響。另外,競爭和保護主義還將影響國際合作與公平,導致無法將量子技術的全部潛力釋放到經(jīng)濟和社會發(fā)展中。如果各國不能確保公平獲得量子技術,擁有量子能力的國家會獲得戰(zhàn)略優(yōu)勢,而其他國家則陷入“量子貧困”。 3. 治理實踐更加突出“基于安全的設計”(secure by design)或“零信任”架構(zero trust security model)。如上所述,新興技術的特點之一就是快速發(fā)展與廣泛應用,留給決策者和治理者理解其潛在用途和影響的時間縮短,未來發(fā)展與安全具有高度不確定性與模糊性。因此,先發(fā)展后安全的傳統(tǒng)認知顯然無法適應形勢發(fā)展需要,安全“端口”必須不斷前移。一些諸如“基于安全的設計”以及“零信任”架構的安全理念開始受到認可與關注。前者是指任何一項技術及應用在設計之初就應該考慮其可能的安全問題,必須在相應設計中體現(xiàn)出對安全的控制。而后者原是網(wǎng)絡安全領域的新安全模式,是一種設計安全防護架構的方法,其核心思路是:默認情況下,所有交互都是不可信的。傳統(tǒng)網(wǎng)絡基于信任而建構,后來相應的網(wǎng)絡安全防護也采取“信任但驗證”的方法。即使是面對越來越嚴峻的安全形勢,它亦奉行“內(nèi)外有別”的宗旨,即通過建立安全邊界(防火墻或物理隔離)以期保留對內(nèi)信任對外防御。但隨著新型技術與應用手段的不斷升級,網(wǎng)絡犯罪分子不斷尋找新的方法突破傳統(tǒng)安全防護架構。而先進的黑客工具和商業(yè)化的勒索軟件越來越容易獲得,使得這種方法越來越難以確保安全需要。因此,在著名的市場調(diào)研公司弗雷斯特研究公司(Forrester Research)2010 年零信任報告中,分析師約翰·金德維格呼吁將網(wǎng)絡安全防護方法調(diào)整為“驗證而不信任”策略。 這些理念與措施已經(jīng)“外溢”到新興技術的治理中,比如世界經(jīng)濟論壇發(fā)布的《網(wǎng)絡安全、新興技術與系統(tǒng)性風險》報告,針對量子技術,明確提出“安全開發(fā)”的治理策略,呼吁各國在制定量子發(fā)展計劃或戰(zhàn)略時,能夠定期審查量子計劃的安全性,并監(jiān)測其風險。針對人工智能濫用與惡意攻擊的“精準性”“偽造性”與“操縱性”,除了加強對抗性安全防御算法外,還需要一種指導性的網(wǎng)絡安全運行框架,針對新興的人工智能威脅自動檢測、調(diào)查并制定防御方案。這些得益于既有技術治理的理念與架構經(jīng)驗,將對治理架構體系發(fā)揮初始性、方向性影響。 三、新興技術治理路徑: 構建“嵌套”國家安全的前瞻性治理 ![]() 目前對于新興技術治理的理論探討與實踐推進總體還處在發(fā)展初期,但重要性與迫切性與日俱增。鑒于新興技術發(fā)展規(guī)律內(nèi)含的不安全屬性,以及治理現(xiàn)實需求中的安全偏好,如何構建既能改善“步調(diào)難題”與“科林格里奇困境”進而促進新興技術良性發(fā)展,又能平衡日益突出的國家安全關切的治理框架,是進一步完善新興技術治理路徑的出發(fā)點。因此,本文提出基于“國家安全”的前瞻性治理,即在前瞻性治理的框架中“嵌套”國家安全要素。 (一)前瞻性治理(Anticipatory governance)的理念與框架 此概念較為廣泛地被引用到新興技術治理領域,源起于美國政府與學界對于納米技術的關注。2003 年,美國國會通過了“21 世紀納米技術研發(fā)法”,授權 2000 年成立的“國家納米技術倡議”(National Nanotechnology Initiative,NNI)推進納米技術發(fā)展與治理。根據(jù) NNI 官方網(wǎng)站數(shù)據(jù),其由多個聯(lián)邦機構負責資金,80% 以上經(jīng)費由國家科學基金會、國防部、能源部和國家衛(wèi)生研究院等機構負責。后續(xù)系列研發(fā)活動的總體目標之一就是探索前瞻性治理。 前瞻性治理是一種未雨綢繆、提前預防新興技術社會風險的技術決策方式。有學者將其內(nèi)涵界定為“一種通過安排適當范圍參與主體、調(diào)節(jié)特定溝通過程,使治理參與者轉變或提升新興技術風險認知,促進或放緩某類新興技術應用發(fā)展腳步,最終實現(xiàn)新興技術社會風險化解集體行動的技術決策方式”。與一般性治理模式不同,前瞻性治理強調(diào)跨領域能力建設,讓不同學科研究人員與產(chǎn)業(yè)、政府、社區(qū)及公眾進行互動,在技術研發(fā)轉化為實際應用之前,共同建立技術發(fā)展的多種情景。前瞻性治理還強調(diào)管理集體預期,反思新興技術的發(fā)展環(huán)境及社會影響。與技術預測、技術預見不同,前瞻性治理十分重視建設全社會應對技術意外后果和風險的能力,而不只是預測技術實施的結果。 總而言之,其核心要義有二:一是不以追求即定結果為目標,對于未來技術發(fā)展與應用場景持動態(tài)開放態(tài)度,未來存在多種可能;二是強調(diào)過程既是認知的不斷深化,更是實踐的不斷選擇。為克服不確定性與模糊性,信息的充分交流以及各方力量的協(xié)調(diào)至關重要,為此,前瞻性治理強調(diào)跨學科、多主體之間的合作以及相關機制力量的整合。 而對于具體治理的框架以及政策工具箱,不同學者有不同理解與建言,綜合各方觀點,基本要點如下:(1)信息與數(shù)據(jù)的收集。盡可能多地占有相關信息與數(shù)據(jù),提升公眾認知與幫助決策。(2)彌補政策“空白”。新技術往往帶來新問題,有的需要出臺新的政策,有的則需要明確新的職能部門。因此,必須加強政策的動態(tài)調(diào)整以及機制的適應性。(3)強化重點主體的責任。技術治理實踐表明,從事技術研發(fā)的專業(yè)機構與產(chǎn)業(yè)部門影響力巨大,強化這些重點主體的責任往往能夠取得以點帶面的良好效果。(4)堅持“多利益相關方”參與。不僅治理實踐需要相關方參與,更為重要的是在此過程中,可以搭建機制性的相關方溝通平臺,有助于更新信息、碰撞新想法以及建立公共信任,形成良好的治理生態(tài)。 需要特別指出的是,上述要點均貫穿新興技術治理全流程。以信息與數(shù)據(jù)的獲取為例,一般理解新興技術發(fā)展初期往往面臨“信息困境”,需要極早預判未來發(fā)展走向并作相應政策選擇,因此,找到有效方法予以緩解至關重要。這種方法可以是鼓勵各行業(yè)各機構之間的信息共享與交流,亦可以借助一些先進的科學技術手段,比如當前大數(shù)據(jù)與人工智能技術的發(fā)展就為更加高效的場景模擬與推演提供了契機,幫助政策制定者強化預判,有效決策。但這些措施與方法并不僅限于發(fā)展初期,前瞻性治理面對的未來并不確定,每一階段都是影響未來的節(jié)點,因此,不斷獲取最新信息、不斷校準政策甚至改變選擇才是應有之義。 (二)國家安全因素的“嵌套” 如上文所述,當前新興技術治理安全偏好,尤其是國家安全因素凸顯,而既有關于前瞻性治理的分析并未將此納入考慮,可以考慮將國家安全因素對應地“嵌套”入前瞻性治理的政策框架中。(如圖 2 所示) ![]() 這種“嵌套”的意義和益處主要體現(xiàn)在以下幾方面:一是提升公眾意識與塑造有益于安全的社會政策環(huán)境。對于當前新興技術發(fā)展所處的特殊歷史時期,國內(nèi)外公眾認知的敏感度有限,傳統(tǒng)技術自由發(fā)展的思維仍相當程度存在。很多情況下,公眾不能從國際戰(zhàn)略競爭與國家安全的角度去理解相關新興技術治理的政策,相關舉措甚至存在爭議。因此,要有意識地將國家安全相關信息點嵌入到信息與數(shù)據(jù)的收集中,加大相關政策宣傳與解釋力度,幫助形成更好的公眾意識與社會政策環(huán)境。 二是做出更加全面的政策預判與決定。鑒于新興技術治理涉及的領域廣泛、部門多元,實踐中綜合考慮各方因素的難度較大,尤其是對于專業(yè)機構與產(chǎn)業(yè)部門而言,涉及國家安全的信息相對匱乏,加入必要的國家安全信息點,可以幫助他們更好地完善多維度信息、校準政策并作出能夠平衡發(fā)展與安全的決策。當然,需要強調(diào)的是“必要的”國家安全信息點可以通過內(nèi)部或專門的渠道獲取,相關部門在確保安全的前提下進行必要的指導與交流,從而避免因信息缺失或忽視作出可能影響國家安全的決策。 三是推動新政策制定體現(xiàn)必要的國家安全訴求。新興技術治理的特點之一就是不斷根據(jù)新問題調(diào)整政策,尤其是彌補政策空白。為提升效率,新政策在設計之初就應有必要的國家安全考慮、體現(xiàn)相應的國家安全訴求,從而更好地適應形勢發(fā)展需要,也有利于保持政策的穩(wěn)定性。這一點已得到實踐證明。近年來,各國出臺的相關技術發(fā)展的戰(zhàn)略文件與法律法規(guī)都體現(xiàn)出明確的安全考慮。但需要關注的是,形勢總是在發(fā)展變化。隨著技術與應用的發(fā)展,一項新技術對國家安全的影響亦在變化。因此,應保持相關政策的彈性,及時評估并動態(tài)調(diào)整。 四是明晰與強化利益相關方的國家安全責任。包括專業(yè)機構與產(chǎn)業(yè)部門在內(nèi)的新興技術重要相關方,對于安全問題的關注多聚焦在與其專業(yè)或產(chǎn)品相關的安全問題。而對于包括國家安全在內(nèi)的社會公共責任,要么認知不到位,要么重視程度有限,亦是新興技術發(fā)展中責任“模糊性”的表現(xiàn)之一。這一方面需要治理部門借助相應政策與規(guī)章制度進一步明晰責任;另一方面,更為重要的是在實踐中加強政策指導,細化操作指南并提供配套的政策工具,使相關方能夠更好地履行相應職責。這既有利于增強相關方對政策的穩(wěn)定預期,也會幫助他們樹立發(fā)展的信心。 五是相關部門探索更加有效的參與方式?!岸嗬嫦嚓P方”參與更多是一種原則性表述,實踐中往往面臨一定的效率問題。尤其是考慮到國家安全往往有相當敏感度,且可能會給其他相關方正常的業(yè)務與活動帶來一定影響,因此,涉及國家安全議題的探討或合作均需謹慎與適度,不僅需要充分評估與精準把握,還要不斷探索和創(chuàng)新工作方式,在實現(xiàn)更有效參與的同時,奠定利于新興技術治理生態(tài)的信任基礎。 需要特別說明的是,所謂“嵌套”并不意味著過度安全的傾向與偏好,其“邊界”與“尺度”仍然需要進一步探析。比如如何貫徹必要性、合理性、科學性、透明性等各種原則,如何保持政策調(diào)整的實時性,如何構建暢通的信息反饋渠道幫助校準措施,如何確保在實施過程中有必要的評估與監(jiān)督機制等……這些配套問題不及時,不僅難以實現(xiàn)平衡安全與發(fā)展的初衷,反過來還會影響發(fā)展。 結語 Medium Governanc ![]() 本文在梳理相關國內(nèi)外研究的基礎上,闡述新興技術所具有的新穎性、高速增長、連貫性、重大社會影響以及不確定性與模糊性的特點,結合這些特點從“生命周期”的角度探索其發(fā)展規(guī)律中所蘊含的動態(tài)性與不安全特質。圍繞當前新一輪科技革命地緣政治競爭與博弈加劇的態(tài)勢,分析新興技術治理邏輯中的安全偏好,尤其是“國家安全”維度的凸顯,提出將國家安全要素嵌套入新興技術前瞻性治理框架。當然,這只是初步思路,關于新興技術治理的理論探索還處在發(fā)展初期,本文僅以國家安全為切入點,嘗試從理論與分析框架角度去初步解構新興技術的治理,很多問題留待進一步研究或在實踐中去繼續(xù)探尋答案。 本文發(fā)表于《國家安全研究》,推文為便于閱讀去掉引注。 |
|
|