|
文/陳根 不論技術(shù)用怎樣的特效打造了可供娛樂的智能換臉，其背后的風(fēng)險(xiǎn)都值得人們警惕。過去幾天，人工智能生成動圖的風(fēng)潮席卷了大半個(gè)互聯(lián)網(wǎng)。從抖音到微博，人們齊唱“螞蟻呀嘿”的畫面不斷刷屏。而其玩法則來于國外的一款AI軟件——Avatarify。盡管該軟件在短時(shí)間內(nèi)就登頂蘋果 App Store免費(fèi)榜，但很快，甚至還不滿一個(gè)星期之后，Avatarify就遭到了下架。而類似的玩法，相似的走紅，快速的下架，其實(shí)在2019年就已發(fā)生。2019年，換臉軟件ZAO正式上線。上線僅一天時(shí)間，這一產(chǎn)品就刷爆各大社交平臺，其在App Store的免費(fèi)App下載快速登頂，甚至服務(wù)器也因?yàn)橹谱髁窟^大而宕機(jī)。但是ZAO從上線到App被下架，僅僅用了3天時(shí)間。事實(shí)上，不論是Avatarify還是ZAO，其走紅可能是一場獵奇的意外，而下架卻是風(fēng)險(xiǎn)衡量后的必然。資本用技術(shù)特效打造了可供娛樂的智能換臉，但歡樂的背后卻往往需要更深的警惕。 智能換臉走紅可以追溯到 2017 年。當(dāng)時(shí)，國外論壇一個(gè)ID為“deepfakes”的用戶，發(fā)布了通過機(jī)器學(xué)習(xí)來更換視頻人臉的 AI 算法。但由于該算法還需要編譯代碼等操作，使其技術(shù)的使用門檻較高。一個(gè)月后，有用戶將其公開的的算法加以改造推出了簡易版 AI 換臉工具“FakeApp”，而這次，就算是普通用戶，也能夠順利操作。從技術(shù)角度來看，DeepFakes是“deep machine learming”（深度機(jī)器學(xué)習(xí)）和“Fake photos”（假照片）的組合，是依托大數(shù)據(jù)和人工智能深度學(xué)習(xí)機(jī)制，基于數(shù)據(jù)算法和人臉數(shù)據(jù)庫對既有視頻或圖片中的人物面部圖像進(jìn)行替換的技術(shù)工具。在開源代碼庫平臺CitHub上，DeepFakes被描述為“一種利用深度學(xué)習(xí)技術(shù)來識別和交換圖片、視頻中人物臉部圖像的工具”。只要有足夠的圖片視頻素材，有一定的硬件支持，DeepFakes就可以搭建算法匹配模型進(jìn)行換臉視頻的制作。其具體原理思路為：對于每張臉，都訓(xùn)練一套編碼器和相應(yīng)的解碼神經(jīng)網(wǎng)絡(luò)。編碼時(shí)，使用的是第一個(gè)人的圖片。而解碼時(shí)，卻是使用第二個(gè)人的解碼器。而其中主要包含數(shù)據(jù)預(yù)處理、圖片融合、圖像預(yù)處理、網(wǎng)絡(luò)模型、圖像融合等技術(shù)。此外，利用AI制作換臉視頻除了要借助已開源的DeepFakes技術(shù)，還需要兩個(gè)競爭AI系統(tǒng)的參與，一個(gè)是生成模型，另一個(gè)是判別模型。生成模型和判別模型的結(jié)合被稱為生成對抗網(wǎng)絡(luò)技術(shù)（CenerativeAderaril Netwoks，CAN），也是AI換臉最底層的邏輯。GAN是AI機(jī)器學(xué)習(xí)中較成熟的理論。在最開始的技術(shù)中，DepFakes正是借助生成對抗網(wǎng)絡(luò)，通過上萬張照片來替換視頻每秒鐘存在的30個(gè)畫面，最終通過GPU（CaphiesPoesing Unit，圖形處理器，簡稱“GPU”）訓(xùn)練完成“移花接木”，僅憑一張照片便可實(shí)現(xiàn)面部替換和視頻生成。GAN由生成器和識別器兩個(gè)相互競爭的系統(tǒng)組成。建立GAN的第一步是識別所需的輸出，并為生成器創(chuàng)建一個(gè)培訓(xùn)數(shù)據(jù)集。一旦生成器開始創(chuàng)建可接受的輸出內(nèi)容，就可以將視頻剪輯提供給識別器進(jìn)行鑒別；如果鑒別出視頻是假的，就會告訴生成器在創(chuàng)建下一個(gè)視頻時(shí)需要修正的地方。根據(jù)每次的“對抗”結(jié)果，生成器會調(diào)整其制作時(shí)使用到的參數(shù)，直到鑒別器無法辨別生成作品和真跡，以此將現(xiàn)有圖像和視頻組合并疊加到源圖像上，終于生成合成視頻。隨著“FakeApp”的開發(fā)，DeepFakes技術(shù)變得唾手可得，后來的ZAO和現(xiàn)在的Avatarify的出現(xiàn)正是基于這一技術(shù)。不同的是，對比DeepFakes需要大量的技術(shù)專業(yè)知識、龐大的數(shù)據(jù)集以及昂貴的GPU，ZAO和Avatarify都已經(jīng)更容易使用，也更容易訪問。以至于Avatarify相關(guān)話題播放在短短七天內(nèi)就已高達(dá) 27.8 億次，特效則被 785萬人使用。 社交媒體時(shí)代，人們經(jīng)常要為一些快樂付出代價(jià)。短視頻讓人們獲得了輕松、通俗、娛樂的時(shí)間，也更容易造成大眾對其斷章取義，對眾多事物產(chǎn)生過于簡單甚至錯(cuò)誤的認(rèn)知。信息流通的成本降低，速度加快，隨之而來的就是繁雜多樣的信息冗余以及真假參半的各類消息。人們在社交媒體時(shí)代有所選擇，也為此讓渡一部分權(quán)利，但有些風(fēng)險(xiǎn)卻過于沉重且往往帶著不可挽回的損失。智能換臉就是其中之一。首先，智能換臉進(jìn)一步增加侵犯肖像權(quán)和隱私權(quán)的可能。沒人愿意自己的臉龐出現(xiàn)在莫名其妙的視頻當(dāng)中。此次Avatarify的流行過程中，馬云、馬化騰、馬斯克等一眾商業(yè)巨頭們就成了娛樂的對象，以至于被迫組合在一起集體演唱神曲《螞蟻呀嘿》。除此之外，劉德華、張學(xué)友、郭富城和黎明也被召集演唱了神曲，網(wǎng)友吐槽“一打開抖音，好像捅了螞蟻窩。”娛樂之外，卻不得不讓人心生憂慮。披著娛樂外衣的AI換臉，冠冕堂皇地使用著他人的肖像，而其應(yīng)用對肖像權(quán)和隱私的侵害更將隨著技術(shù)的泛濫而放大。于是，借助一些低價(jià)乃至免費(fèi)的軟件，消費(fèi)者無需專業(yè)知識和技術(shù)能力，即可通過終端實(shí)現(xiàn)調(diào)整速度、攝像頭效果、更換背景、實(shí)現(xiàn)換臉等操作。而這些眨眼、搖頭等動態(tài)行為信息，都是用戶不可更改的敏感信息，一旦被非法使用，后果不堪設(shè)想。2019 年 3 月份，《華爾街日報(bào)》報(bào)道，有犯罪分子使用深度偽造技術(shù)成功模仿了英國某能源公司在德國母公司 CEO 的聲音，詐騙了220 000 歐元（約1 730 806人民幣），其破壞性可見一斑。其次，這也在一定程度上成為了色情視頻濫觴的源頭。值得一提的是，AI換臉最初的獵奇就是被應(yīng)用于色情行業(yè)。2017年，美國新聞網(wǎng)站 Reddit的用戶首先上傳了經(jīng)過數(shù)字化篡改的色情視頻，即這些視頻中的成人演員的臉被替換成了電影明星的臉。此后，Reddit網(wǎng)站就成了分享虛假色情視頻的一個(gè)陣地。2019年出現(xiàn)的一鍵生成裸照軟件DeepNude，只要輸入一張完整的女性圖片就可自動生成相應(yīng)的裸照。受害者通常沒有追索權(quán)，并且，照片上傳之后難再刪除。這種輕易生成的色情視頻將很大程度上損害女性的工作前途、人際關(guān)系、名譽(yù)和心理健康，造成污名化女性、色情報(bào)復(fù)的惡果，使女性暴露在某種集體監(jiān)視之中。最后，也是智能換臉帶來的最嚴(yán)重后果，就是對于信息的真實(shí)性形成的嚴(yán)峻挑戰(zhàn)。自從攝影術(shù)、視頻、射線掃描技術(shù)出現(xiàn)以來，視覺文本的客觀性就在法律、新聞以及其他社會領(lǐng)域被慢慢建立起來，成為真相的存在，或者說，是建構(gòu)真相的最有力證據(jù)。“眼見為實(shí)”成為這一認(rèn)識論權(quán)威的最通俗表達(dá)，在這個(gè)意義上，視覺客觀性產(chǎn)自一種特定的專業(yè)權(quán)威體制。 然而，PS 發(fā)明后，有圖不再有真相。智能換臉的出現(xiàn)和流行，讓視頻也開始變得鏡花水月了起來：人們普遍認(rèn)為視頻可以擔(dān)當(dāng)“實(shí)錘”，而現(xiàn)在這把實(shí)錘竟可憑空制造，當(dāng)真?zhèn)谓缦薇粩?shù)字化操縱，娛樂的趣味性與真相的真實(shí)性在混淆視聽的人工智能生成物問世后變得更加模糊。這對于本來就假消息滿天飛的互聯(lián)網(wǎng)來說，這無疑會造成進(jìn)一步的信任崩壞。如今“眼見為實(shí)”已不再適用，人類難以在日常的社會生活中區(qū)分?jǐn)?shù)字面孔與自然人，虛假內(nèi)容輕易取得信任，真?zhèn)沃骐y上加難，合理的猜測與過度猜忌的界限更加難以平衡。當(dāng)人工智能能自動生成以假亂真的面容、聲音乃至語言的時(shí)候，互聯(lián)網(wǎng)乃至整個(gè)社會又該如何應(yīng)對這種身份信息的混亂？可以說，不論是Avatarify還是ZAO，其走紅可能是一場獵奇的意外，而下架卻是風(fēng)險(xiǎn)衡量后的必然。不論是從法律規(guī)制的角度，還是技術(shù)應(yīng)對的角度，人們都尚未準(zhǔn)備好迎接這一技術(shù)帶來的挑戰(zhàn)。越是新技術(shù)時(shí)代，技術(shù)越應(yīng)該被善用，泛濫帶來的過度娛樂雖然利好了商業(yè)，卻是一種僭越。
|
