美國高級研究計劃局（DARPA）為了提高人們對其人工智能研發(fā)工作的認識，于2019年3月6日至7日在弗吉尼亞州亞歷山大市舉辦了人工智能研討會（AIC）。此次活動匯集了國防部、研究界和國防利益相關(guān)者，以了解有關(guān)DARPA當前和未來AI項目的更多信息，并探索各種開發(fā)技術(shù)如何應(yīng)用于他們的各種任務(wù)。

據(jù)防務(wù)菌的好基友小智介紹，此次AIC活動強調(diào)了DARPA在推動人工智能技術(shù)發(fā)展方面的全面投資及最新研究成果，力求通過在全國學術(shù)和工業(yè)基地內(nèi)聘用廣泛的科學家、工程師和技術(shù)專家，加強和擴大DARPA的創(chuàng)新生態(tài)系統(tǒng)。研討會致力于在確保國家安全的背景下，向利益相關(guān)者通報DARPA對人工智能的愿景和將要發(fā)展的優(yōu)先事項，以更好地促進人工智能領(lǐng)域的技術(shù)合作和過渡。DARPA旨在通過該種形式的活動分享其研究成果及創(chuàng)新歷程，鼓勵技術(shù)研究團體、商業(yè)公司等尋求與DARPA建立或發(fā)展伙伴關(guān)系共同開展研究。

DARPA已經(jīng)在油管上po出了本次研討會有關(guān)視頻，小智童鞋對其進行了初步整理，共23個，內(nèi)容涉及AI在各領(lǐng)域的應(yīng)用，如在軟件工程、協(xié)同探索、物理、化學、頻譜作戰(zhàn)、戰(zhàn)術(shù)自主、網(wǎng)絡(luò)防御、射頻機器學習等領(lǐng)域的應(yīng)用項目，同時還包括腦-機接口、機器學習、自然語言理解等領(lǐng)域內(nèi)的細分技術(shù)等，基本涵蓋了DARPA近期對人工智能的關(guān)注重點和其開展的重點研究項目。

我們對這些視頻進行了整理，推出了一個《DARPA人工智能研討會視頻集萃》的東東。今天，先po一個“可解釋人工智能”出來。

DARPA人工智能研討會：可解釋人工智能（翻譯&字幕 by 防務(wù)菌）

演講者：美國海軍研究實驗室人工智能應(yīng)用研究中心代理主任，David Aha博士

 內(nèi)容簡介：機器學習（ML）的巨大成功引發(fā)了人工智能應(yīng)用（如交通、安全、醫(yī)學、金融和國防）的新浪潮，并帶來了巨大的收益。但是，當前的機器學習無法向用戶解釋其決策與行動。DARPA“可解釋人工智能”（XAI）項目致力于創(chuàng)建學習的模型和決策可以被最終用戶理解和適當信任的人工智能系統(tǒng)，實現(xiàn)這一點需要學習更多可解釋模型的方法，設(shè)計有效的解釋界面，以及理解有效解釋的心理需求。本演講將總結(jié)XAI項目并介紹該項目第一階段的要點。

額外附贈：“可解釋人工智能”（XAI）項目背景資料

機器學習的巨大成功產(chǎn)生了大量人工智能（AI）應(yīng)用項目。照此發(fā)展，其持續(xù)的進步有望產(chǎn)生能夠自我感知、學習、決策和行動的自主系統(tǒng)。然而，這些系統(tǒng)的有效性受到機器當前無法向人類用戶解釋其決策和行動的限制（如下圖）。美國國防部（DoD）面臨著需要更智能、自主和共生系統(tǒng)的挑戰(zhàn)。如果未來的戰(zhàn)士能夠理解，適當?shù)匦湃尾⒂行У毓芾硇乱淮斯ぶ悄軝C器協(xié)作伙伴，那么可解釋人工智能，特別是可解釋的機器學習，將是必不可少的。

XAI項目需求

“可解釋人工智能”（XAI）項目旨在創(chuàng)建一套機器學習技術(shù)：

• 產(chǎn)生更多可解釋的模型，同時保持高水平的學習成績（預(yù)測準確性）；

• 使人類用戶能夠理解，適當?shù)匦湃尾⒂行У毓芾硇乱淮斯ぶ悄芎献骰锇椤?/strong>

XAI項目強調(diào)區(qū)域

新的機器學習系統(tǒng)將能夠解釋它們的基本原理，表征它們的優(yōu)點和缺點，并傳達對它們將來如何表現(xiàn)的理解。實現(xiàn)該目標的策略是開發(fā)新的或改進機器學習技術(shù)，以產(chǎn)生更多可解釋的模型。這些模型將結(jié)合最先進的人機界面技術(shù)，能夠?qū)⒛Ｐ娃D(zhuǎn)化為最終用戶可理解和有用的解釋對話（如下圖）。DARPA研究團隊的策略是采用各種技術(shù)，以生成一系列方法，為未來的開發(fā)人員提供一系列涵蓋性能與可解釋性交易空間的設(shè)計方案。

XAI項目概念

XAI項目是當前DARPA正在推行的AI項目之一，旨在實現(xiàn)“第三波AI系統(tǒng)”，其中機器了解其運行的環(huán)境和環(huán)境，并隨著時間的推移構(gòu)建底層解釋模型，使其能夠表征現(xiàn)實世界現(xiàn)象。

XAI項目通過解決兩個技術(shù)領(lǐng)域的挑戰(zhàn)問題，專注于多系統(tǒng)的開發(fā)：

（1）機器學習問題，用于對異構(gòu)、多媒體數(shù)據(jù)中感興趣的事件進行分類；

（2）機器學習問題，為自主系統(tǒng)構(gòu)建決策策略，以執(zhí)行各種模擬任務(wù)。

XAI項目挑戰(zhàn)問題領(lǐng)域

這兩個挑戰(zhàn)問題領(lǐng)域被選擇來代表兩個重要的機器學習方法（分類和強化學習）和兩個重要的國防部操作問題領(lǐng)域（情報分析和自主系統(tǒng)）的交叉點。

XAI項目結(jié)構(gòu)

此外，研究人員正在研究解釋心理學。

XAI研究原型在整個項目過程中經(jīng)過測試和持續(xù)評估。在2018年5月，XAI研究人員展示了他們可解釋學習系統(tǒng)的初步實施，并展示了他們的第一階段評估的初步試點研究結(jié)果。隨后在2018年11月進行全階段1系統(tǒng)評估。

XAI項目評估工作

在項目結(jié)束時，最終交付將是一個工具包庫，包括機器學習和人機界面軟件模塊，可用于開發(fā)未來可解釋的AI系統(tǒng)。該項目完成后，這些工具包將可用于進一步完善并轉(zhuǎn)換為國防或商業(yè)應(yīng)用項目。

XAI項目推進時間表