|
自2015年以來(lái),德勤一直與世界經(jīng)濟(jì)論壇(WEF)合作,共同探討金融服務(wù)業(yè)變革的驅(qū)動(dòng)力量。2019年德勤與WEF聯(lián)合發(fā)布《智海領(lǐng)航:在金融服務(wù)領(lǐng)域使用 AI 進(jìn)行負(fù)責(zé)任創(chuàng)新的路線(xiàn)圖》報(bào)告,通過(guò)對(duì)五個(gè)廣泛關(guān)注的領(lǐng)域來(lái)審視金融機(jī)構(gòu)在應(yīng)用人工智能中所面臨的相關(guān)風(fēng)險(xiǎn),并對(duì)如何減輕這些風(fēng)險(xiǎn)給出建議。德勤同時(shí)對(duì)此份報(bào)告進(jìn)行了摘要《智海領(lǐng)航:洞悉人工智能在金融服務(wù)領(lǐng)域的戰(zhàn)略及監(jiān)管風(fēng)險(xiǎn)》,總結(jié)了報(bào)告全文的關(guān)鍵性信息,并著眼于金融機(jī)構(gòu)在應(yīng)用人工智能時(shí)需要考慮的一些重要事項(xiàng)。希望能對(duì)金融服務(wù)領(lǐng)域合理運(yùn)用人工智能有所啟示,并為企業(yè)在未來(lái)不確定性中平穩(wěn)前行保駕護(hù)航。 能否順利進(jìn)入人工智能驅(qū)動(dòng)時(shí)代,取決于是否具備以下能力: 合理部署現(xiàn)行人工智能系統(tǒng)。金融行業(yè)可能要采用新的治理方式,包括應(yīng)對(duì)人工智能風(fēng)險(xiǎn)事件所采取的例如檢測(cè)及預(yù)防等保障措施,風(fēng)險(xiǎn)發(fā)生時(shí)的補(bǔ)救機(jī)制和提供必要干預(yù)手段的流程。 合理擴(kuò)大人工智能在未來(lái)金融系統(tǒng)中的應(yīng)用。人工智能的應(yīng)用正推動(dòng)多個(gè)行業(yè)重新審視競(jìng)爭(zhēng)政策、隱私權(quán)和運(yùn)營(yíng)彈性。這一過(guò)程中的共同關(guān)注點(diǎn)是數(shù)據(jù)。客戶(hù)也逐漸意識(shí)到個(gè)人數(shù)據(jù)的價(jià)值。這將決定金融機(jī)構(gòu)如何部署人工智能,以及采用何種戰(zhàn)略。而潛在的影響不僅包括數(shù)據(jù)的應(yīng)用,還包括市場(chǎng)參與者、適用的商業(yè)模式和法規(guī)等方面的變化。行業(yè)的領(lǐng)導(dǎo)者應(yīng)當(dāng)積極地參與相關(guān)決策,以確保相關(guān)政策能對(duì)金融機(jī)構(gòu)產(chǎn)生正面的影響。 激發(fā)具備可靠人工智能技術(shù)的金融系統(tǒng)的潛力。審慎應(yīng)用人工智能不僅可規(guī)避風(fēng)險(xiǎn),還可以推動(dòng)行業(yè)向善。消費(fèi)者愈加關(guān)注其數(shù)據(jù)權(quán)利和數(shù)字主權(quán),這導(dǎo)致科技巨頭的優(yōu)勢(shì)被逐步削弱,而金融機(jī)構(gòu)則有機(jī)會(huì)利用更高客戶(hù)信任度這一優(yōu)勢(shì),實(shí)現(xiàn)客戶(hù)全新的價(jià)值主張。 金融領(lǐng)域運(yùn)用人工智能的五大關(guān)注點(diǎn):
人工智能的可解釋性 隨著深度學(xué)習(xí)及其他先進(jìn)方法的出現(xiàn),人工智能變得越來(lái)越復(fù)雜。不利于讓人們理解人工智能生成決策的邏輯。這促使金融機(jī)構(gòu)和監(jiān)管機(jī)構(gòu)尋求一個(gè)中間地帶—介于對(duì)人工智能盲目信任(將導(dǎo)致極大風(fēng)險(xiǎn))和對(duì)人工智能不屑一顧(將嚴(yán)重阻礙創(chuàng)新)之間。這種平衡關(guān)鍵在于向用戶(hù)提供充足的人工智能系統(tǒng)的相關(guān)信息,使用戶(hù)可以信任人工智能系統(tǒng)作出的決策。
換言之,可能需要向用戶(hù)解釋的原因有很多,并且每個(gè)原因相應(yīng)都需要對(duì)底層技術(shù)采用相應(yīng)的措施。 對(duì)高管的重要啟示 系統(tǒng)性風(fēng)險(xiǎn)和人工智能 全新風(fēng)險(xiǎn)來(lái)源 如今,人工智能將再次推動(dòng)金融市場(chǎng)進(jìn)行轉(zhuǎn)型。它廣泛適用于金融服務(wù)行業(yè)的各個(gè)領(lǐng)域,能積極推動(dòng)人與機(jī)器之間更加頻繁的互動(dòng)。同時(shí),人工智能的黑匣子效應(yīng)致使投資者更難解讀不斷變化的市場(chǎng)動(dòng)態(tài),也更難識(shí)別或洞悉新興風(fēng)險(xiǎn)。上述情況可以通過(guò)以下方式增加整個(gè)系統(tǒng)的風(fēng)險(xiǎn): 從眾行為 算法競(jìng)爭(zhēng) 信息真空 侵蝕現(xiàn)有防御措施 對(duì)高管的重要啟示 歧視與公平 來(lái)自人的歧視。 人類(lèi)思維的系統(tǒng)性錯(cuò)誤會(huì)影響人們的決策和判斷。這些歧視可能是有意或無(wú)意的。人工智能在系統(tǒng)設(shè)計(jì)和數(shù)據(jù)收集階段可能會(huì)引入來(lái)自人的歧視。此外,監(jiān)督式學(xué)習(xí)和模型應(yīng)用也會(huì)將人類(lèi)的歧視帶入人工智能系統(tǒng)。 數(shù)據(jù)歧視。 若使用不準(zhǔn)確、歪曲或其他歧視性數(shù)據(jù)進(jìn)行決策系統(tǒng)的開(kāi)發(fā)或訓(xùn)練,可能導(dǎo)致系統(tǒng)對(duì)特定人群產(chǎn)生扭曲的結(jié)果。模型歧視。計(jì)算能力、系統(tǒng)設(shè)計(jì)或編程邏輯方面的限制—更不必說(shuō)用戶(hù)造成的錯(cuò)誤等,均會(huì)導(dǎo)致人工智能系統(tǒng)的輸出結(jié)果存在歧視。模型歧視包括因果關(guān)系的混淆和對(duì)弱勢(shì)群體的過(guò)度保護(hù)。 間接歧視。 不幸地是,教育、就業(yè)和法律訴訟等生活的方方面面目前均存在不公平的歧視。這顯然增加了遭受歧視的個(gè)人可能面臨的金融風(fēng)險(xiǎn)。與其他歧視不同,構(gòu)建或使用給定模型的人不能直接控制間接歧視;為減少此類(lèi)歧視,可能需要機(jī)構(gòu)放棄一些對(duì)統(tǒng)計(jì)精確度的要求。這些間接歧視可能通過(guò)更具廣度和深度的數(shù)據(jù)(包括來(lái)自第三方的數(shù)據(jù)),輸入給人工智能。 對(duì)高管的重要啟示 其他不確定性 就金融領(lǐng)域的人工智能而言,可解釋性、系統(tǒng)性風(fēng)險(xiǎn)及歧視與公平是三大重點(diǎn)關(guān)注問(wèn)題。此外,還有兩大問(wèn)題值得提及:一是人工智能系統(tǒng)能否履行受托義務(wù),即始終以客戶(hù)的最佳利益行事;二是與算法合謀相關(guān),即人工智能系統(tǒng)學(xué)會(huì)從事反競(jìng)爭(zhēng)行為。 對(duì)高管的重要啟示
結(jié)語(yǔ) 人工智能涉及計(jì)算的全新形態(tài)。金融機(jī)構(gòu)需克服人工智能在可解釋性、系統(tǒng)性風(fēng)險(xiǎn)和公平等方面的挑戰(zhàn),進(jìn)而從中受益。金融行業(yè)應(yīng):
人工智能并非孤立存在,已經(jīng)與云和物聯(lián)網(wǎng)(IoT)等技術(shù)緊密結(jié)合,量子計(jì)算、5G和其他新興技術(shù)很快也將加入其中。在這一科技飛速發(fā)展的環(huán)境中,金融行業(yè)更加需要提前考慮人工智能的潛在影響。 人工智能的影響到底是什么?首先是戰(zhàn)略上的轉(zhuǎn)變。人工智能(及其他新興技術(shù))的普及正推動(dòng)金融機(jī)構(gòu)與監(jiān)管層更頻繁的對(duì)話(huà),重點(diǎn)探討如何對(duì)新技術(shù)進(jìn)行有效的部署和應(yīng)用。金融機(jī)構(gòu)若想有效制定其未來(lái)戰(zhàn)略,就應(yīng)主動(dòng)與所有利益相關(guān)者溝通。同樣地,該方法也適用于應(yīng)對(duì)監(jiān)管政策變化對(duì)運(yùn)營(yíng)、戰(zhàn)略和人力資本的影響。 其次是對(duì)優(yōu)先級(jí)事項(xiàng)的重新梳理。對(duì)于人工智能的應(yīng)用,其公司治理是首要工作——無(wú)論是為了應(yīng)對(duì)風(fēng)險(xiǎn)預(yù)警,還是為了與客戶(hù)的利益保持一致。重視公司治理不僅為金融機(jī)構(gòu)提供實(shí)現(xiàn)差異化的契機(jī),而且可以通過(guò)與監(jiān)管機(jī)構(gòu)和金融服務(wù)生態(tài)系統(tǒng)中的其他參與者建立協(xié)作文化來(lái)實(shí)現(xiàn)數(shù)據(jù)驅(qū)動(dòng)的決策。 最后,我們大可不必針對(duì)人工智能在金融服務(wù)領(lǐng)域的應(yīng)用而建立一套全新的道德標(biāo)準(zhǔn)。真正需要我們?nèi)プ龅模?span>以開(kāi)放的態(tài)度擁抱適用于人工智能應(yīng)用的新方法。需謹(jǐn)記,無(wú)論這些方法如何創(chuàng)新,我們都應(yīng)以公正性、穩(wěn)定性、透明度與可操作性四大標(biāo)準(zhǔn)予以權(quán)衡,并決定是否采納。正是這套標(biāo)準(zhǔn),使得金融行業(yè)能夠在過(guò)往的技術(shù)變革浪潮中脫穎而出。 |
|
|