作者：劉芳 編審：王新凱

排版：王落塵

在數(shù)據(jù)保護(hù)和人工智能技術(shù)監(jiān)管方面，歐盟一直走在立法實(shí)踐的最前端。當(dāng)?shù)貢r(shí)間 4 月 21 日，歐盟委員會(huì)公布了名為 “Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) And Amending Certain Union Legislative Acts” 的草案，對(duì)人工智能技術(shù)應(yīng)用進(jìn)行了風(fēng)險(xiǎn)評(píng)定。

根據(jù)這份草案，歐盟將全面禁止大規(guī)模監(jiān)控和利用人工智能技術(shù)的社會(huì)信用體系，同時(shí)對(duì)特定領(lǐng)域的 “高風(fēng)險(xiǎn)” 應(yīng)用進(jìn)行嚴(yán)格限制。

2020 年 2 月 19 日，歐盟委員會(huì)曾發(fā)布了名為 “White Paper on Artificial Intelligence - A European approach to excellence and trust” 的白皮書，就如何促進(jìn)人工智能發(fā)展及解決相關(guān)風(fēng)險(xiǎn)進(jìn)行了討論。而 21 日發(fā)布的這項(xiàng)草案正是白皮書的法律延伸，目的在于為實(shí)現(xiàn)可信賴的人工智能生態(tài)系統(tǒng)提供牢固的法律框架。

一旦得到通過，這項(xiàng)法案將在很大程度上對(duì)其他地區(qū)的人工智能治理帶來影響，就如 2018 年 5 月 25 日生效的《歐盟一般數(shù)據(jù)保護(hù)條例》（GDPR）一樣。

歐盟競(jìng)爭(zhēng)事務(wù)負(fù)責(zé)人 Margrethe Vestager 在公布草案時(shí)表示：“通過標(biāo)志性法規(guī)，歐盟正在確立全球規(guī)范，以確保人工智能是一項(xiàng)值得信賴的技術(shù)。通過制定標(biāo)準(zhǔn)，我們可以為符合倫理的人工智能技術(shù)鋪平道路，并確保歐盟在此過程中保持競(jìng)爭(zhēng)力?！?/span>

Politico 專門負(fù)責(zé) AI 報(bào)道的 Melissa Heikkil? 則認(rèn)為，這個(gè)草案有著一定的先發(fā)優(yōu)勢(shì)，它將在很大程度上影響由歐洲理事會(huì)、經(jīng)合組織、北約、聯(lián)合國(guó)教科文組織和七國(guó)集團(tuán)主導(dǎo)的全球人工智能伙伴關(guān)系 (Global Partnership on Artificial Intelligence) 的探討。

被全面禁止的人工智能應(yīng)用

在草案中，歐盟委員會(huì)首先討論了什么是人工智能這個(gè)問題。

由于技術(shù)錯(cuò)綜復(fù)雜，行業(yè)內(nèi)部一直沒有就這個(gè)問題給出確定的統(tǒng)一答案。歐盟委員會(huì)認(rèn)為，人工智能是一大類迅速發(fā)展技術(shù)的統(tǒng)稱。對(duì)于一組人類指定目標(biāo)，這項(xiàng)技術(shù)可以在物理或數(shù)字維度給出包括內(nèi)容、預(yù)測(cè)、建議或決策的輸出，從而對(duì)其交互的環(huán)境產(chǎn)生影響。人工智能系統(tǒng)或自己為終端產(chǎn)品（非嵌入式），或?yàn)楫a(chǎn)品的一個(gè)組成部分（嵌入式）。

為了提供必要的法律確定性，歐盟委員會(huì)在草案中用附件的形式詳細(xì)列舉出了屬于人工智能范圍內(nèi)的技術(shù)清單。不僅如此，該清單還會(huì)不斷更新，從而和最前沿的人工智能技術(shù)保持同步性。換言之，人工智能的定義在這項(xiàng)草案里具有靈活性和時(shí)效性，巧妙化解了法律滯后性和技術(shù)飛速發(fā)展之間的矛盾，為之后行業(yè)的合規(guī)帶來了便利。

草案將人工智能應(yīng)用分為了完全不可接受風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)和低風(fēng)險(xiǎn)等不同等級(jí)，其中有三種應(yīng)用被完全禁止。

第一種是在不知不覺中對(duì)人類意識(shí)進(jìn)行操控，從而影響其決定或扭曲其行為，進(jìn)而對(duì)人類造成身體或心理的傷害。有觀察家認(rèn)為，這項(xiàng)條例可以讓人聯(lián)想到 Facebook、Twitter、谷歌和亞馬遜的大部分商業(yè)模式，及虛假信息和極端主義等推薦算法。雖然沒有明確指出條例所針對(duì)的對(duì)象，但歐盟委員會(huì)是世界上首個(gè)以法律語言禁止人工智能系統(tǒng) “操控” 人類思想的機(jī)構(gòu)。

第二種情況是利用兒童或殘疾人的脆弱性對(duì)其造成傷害，這顯示了歐盟一貫的對(duì)弱勢(shì)群體的重視和保護(hù)。

第三項(xiàng)則是基于人工智能系統(tǒng)上的社會(huì)信用體系。歐盟委員會(huì)認(rèn)為，公共當(dāng)局根據(jù)自然人的社會(huì)行為或人格特征對(duì)其進(jìn)行信用評(píng)估會(huì)造成不可預(yù)見的后果，個(gè)人或特定群體的權(quán)益將受到損害。不同的社會(huì)語境會(huì)產(chǎn)生不同的算法偏見，而算法偏見將直接對(duì)信用評(píng)估產(chǎn)生影響。這樣的社會(huì)信用體系侵蝕社會(huì)公平公正的原則，因此需要被禁止。

對(duì)于很多人關(guān)注的面部識(shí)別技術(shù)，歐盟委員會(huì)在這份草案中留出了余地。作為 “實(shí)時(shí)遠(yuǎn)程生物識(shí)別技術(shù)” 的一種，面部識(shí)別在很大程度上侵犯了人們的隱私。因此，無差別的大規(guī)模監(jiān)控會(huì)被歐盟全面禁止，只有在三種特定情況下除外：尋找失蹤兒童；解除恐怖襲擊的威脅；以及在法律允許范圍內(nèi)追查特定的刑事犯罪嫌疑人。

“實(shí)時(shí)遠(yuǎn)程生物識(shí)別技術(shù)” 是這次歐盟委員會(huì)著重強(qiáng)調(diào)進(jìn)行限制的人工智能技術(shù)，它特指在沒有顯著延遲的情況下對(duì)個(gè)體生物數(shù)據(jù)的捕獲、比較和識(shí)別。這項(xiàng)技術(shù)的特點(diǎn)是將人的生物數(shù)據(jù)與數(shù)據(jù)庫(kù)進(jìn)行比較，并且事先并不確定目標(biāo)人物是否會(huì)出現(xiàn)。值得注意的是，在歐盟議會(huì)內(nèi)部有強(qiáng)烈的全面禁止這項(xiàng)技術(shù)的聲音。上周，40 名歐盟議會(huì)議員曾聯(lián)名上書，批評(píng)該草案對(duì) “實(shí)時(shí)遠(yuǎn)程生物識(shí)別” 技術(shù)網(wǎng)開一面。 

高風(fēng)險(xiǎn)應(yīng)用場(chǎng)景

除了以上被全面禁止的情況外，歐盟委員會(huì)還詳細(xì)列舉了人工智能的 “高風(fēng)險(xiǎn)” 應(yīng)用。草案稱，高風(fēng)險(xiǎn)的人工智能系統(tǒng)只有在符合歐盟強(qiáng)制性要求的情況下才能投入市場(chǎng)使用，否則公共利益會(huì)受到不可接受的風(fēng)險(xiǎn)。換言之，未來不符合準(zhǔn)入標(biāo)準(zhǔn)的人工智能系統(tǒng)將被無情地?fù)踉跉W盟市場(chǎng)之外。

首先是執(zhí)法系統(tǒng)和法院對(duì)人工智能的使用。草案稱，執(zhí)法當(dāng)局使用人工智能系統(tǒng)會(huì)導(dǎo)致權(quán)力嚴(yán)重失衡，侵犯?jìng)€(gè)人基本權(quán)益。如果訓(xùn)練這些算法的數(shù)據(jù)質(zhì)量不高，或算法的準(zhǔn)確性及魯棒性沒有達(dá)到要求，那么程序性正義，公平審判權(quán)，辯護(hù)權(quán)和無罪推定的權(quán)利就會(huì)受到?jīng)_擊。歐盟委員會(huì)尤其將個(gè)人風(fēng)險(xiǎn)評(píng)估、測(cè)謊儀、辨別情緒等應(yīng)用歸為高風(fēng)險(xiǎn)。在刑事訴訟中，基于人工智能技術(shù)對(duì)證據(jù)進(jìn)行可靠性評(píng)估，對(duì)嫌疑人的性格特征進(jìn)行判斷，或基于過去的犯罪行為進(jìn)行推定等行為同樣被歸為高風(fēng)險(xiǎn)范圍。

其他的高風(fēng)險(xiǎn)應(yīng)用場(chǎng)景主要集中在社會(huì)保障、就業(yè)和教育等與生活息息相關(guān)的方面。在就業(yè)方面，歐盟委員會(huì)考慮到了人工智能在招聘、升職、解雇及合同關(guān)系中可能扮演的重要角色。草案認(rèn)為，利用算法對(duì)工作人員進(jìn)行評(píng)估或監(jiān)測(cè)無疑屬于高風(fēng)險(xiǎn)，因?yàn)樗鼈儗?duì)員工的職業(yè)前景和基本生計(jì)有著難以把控的影響。同時(shí)因?yàn)樗惴ㄆ?，人工智能?duì)婦女、殘疾人或年齡的歧視也將繼續(xù)，人們的隱私權(quán)將不可避免地受到威脅。

在教育方面，歐盟委員會(huì)認(rèn)為利用算法進(jìn)行招生錄取及考試評(píng)定必須被視為高風(fēng)險(xiǎn)，因?yàn)檫@很可能會(huì)影響他們這一生受教育的機(jī)會(huì)，還將產(chǎn)生社會(huì)固化的問題。在社會(huì)保障系統(tǒng)方面，歐盟委員會(huì)認(rèn)為人工智能參與決策過程將對(duì)民生產(chǎn)生重大影響。例如，利用人工智能決定人們是否能獲得銀行貸款、財(cái)政補(bǔ)助、保障性住房、電力電信等基本服務(wù)。由于種族、殘疾、年齡、性取向等各種因素，算法很可能會(huì)延續(xù)目前社會(huì)已經(jīng)存在的廣泛歧視，從而使弱勢(shì)群體處于更加不利的地位。

草案中對(duì)于高風(fēng)險(xiǎn)人工智能的合規(guī)要求招來了一些歐盟組織的反對(duì)。雖然歐盟將通過質(zhì)量管理和評(píng)估程序嚴(yán)格管控，但一些人工智能技術(shù)供應(yīng)商將被允許進(jìn)行自我合規(guī)測(cè)評(píng)。數(shù)字權(quán)利組織 EDRi 的高級(jí)政策顧問 Sarah Chander 對(duì) Politico 表示：“歐盟委員會(huì)將合規(guī)交給了人工智能供應(yīng)商，這可能會(huì)損害（人們的）基本權(quán)利，甚至可能讓公共當(dāng)局逍遙法外。” 

對(duì)此某些科技行業(yè)的游說人士則感到寬慰，他們對(duì)高風(fēng)險(xiǎn)應(yīng)用的合規(guī)要求表示稱贊。計(jì)算機(jī)與通信行業(yè)協(xié)會(huì)（Computer & Communications Industry Association）的 Christian Borggreen 對(duì)法新社指出，歐盟委員會(huì)采用了基于風(fēng)險(xiǎn)的評(píng)估方法，這很好。該協(xié)會(huì)代表了包括亞馬遜、Facebook 和谷歌在內(nèi)的多家科技巨頭。違反此法案的公司可能被處于 2000 萬歐元或公司收入 4% 的罰款，與此前的反壟斷法規(guī)定類似。

隨著草案的出臺(tái)，關(guān)于數(shù)據(jù)主體基本權(quán)利與技術(shù)創(chuàng)新間關(guān)系的新一輪爭(zhēng)論也將隨之拉開序幕。要想獲得通過，這項(xiàng)法案必須得到代表歐盟 27 國(guó)政府的歐洲理事會(huì)和直接選舉產(chǎn)生的歐洲議會(huì)的批準(zhǔn)，整個(gè)過程可能需要數(shù)年時(shí)間。去年年底，以丹麥為首的 14 個(gè)國(guó)家發(fā)表了一份不具約束力的文件，呼吁建立一個(gè)更 “靈活” 的法律框架。但對(duì)于德國(guó)這樣更注重隱私的國(guó)家來說，這項(xiàng)草案的規(guī)定明顯還不夠深入。

人工智能技術(shù)的日新月異與歐盟繁瑣復(fù)雜的立法機(jī)制形成了鮮明的對(duì)比。但無論如何，人類已經(jīng)就人工智能的系統(tǒng)性風(fēng)險(xiǎn)已經(jīng)展開了實(shí)質(zhì)性的立法規(guī)劃。從這個(gè)意義上來看，歐盟再次在法治戰(zhàn)略上搶得先機(jī)。

參考資料：

https://digital-strategy.ec./en/library/proposal-regulation-european-approach-artificial-intelligence

https://www./

https://www./newsletter/ai-decoded/politico-ai-decoded-key-battles-for-the-eus-ai-law-ai-governance-twitters-algorithm/ 

https://news.yahoo.com/eu-unveils-ai-rules-temper-041250924.html

https://www./2021/04/16/business/artificial-intelligence-regulation.html  

學(xué)術(shù)頭條

一群熱愛科學(xué)的小伙伴，致力于學(xué)術(shù)傳播和科學(xué)普及，重點(diǎn)關(guān)注人工智能、生命科學(xué)等前沿科學(xué)進(jìn)展。

1082篇原創(chuàng)內(nèi)容

公眾號(hào)