|
2月20日，美政府問責局（GAO）發(fā)布題為《深度造假》的科技評估與分析報告（下稱《報告》），簡述了深度造假的定義及其嚴重影響，總結了制作與檢測深度造假的相關技術，并分析了應對深度造假面臨的各方面挑戰(zhàn)。  一、深度造假的定義及其影響  深度造假是指看似真實，實則被人工智能操縱的音頻、視頻或圖片。深度造假相關技術可替代人臉、控制面部表情，甚至合成人臉及語音等。深度造假可用于支持娛樂、電子商務等領域發(fā)展，但也能用于生成虛假信息，導致政府公信力缺失、選舉混亂，甚至社會動蕩等嚴重后果。  二、深度造假的相關技術 深度造假的制作主要依賴于人工神經網絡，尤其是自動編碼器和生成對抗網絡（GAN）。其中，自動編碼器屬于一種經訓練的人工神經網絡，能夠重構輸入信息；生成對抗網絡由兩個競爭性人工神經網絡組成，一個人工神經網絡試圖造假，另一個試圖檢測，不斷迭代以生成更合理的虛假信息。 目前，相關研究機構和互聯網公司正積極開發(fā)深度造假檢測技術。例如，美國防高級研究計劃局（DARPA）的“媒體取證”項目尋求開發(fā)自動分析圖片和視頻完整性的算法，并提供虛假內容如何生成的信息；其“語義取證”項目旨在開發(fā)自動檢測、歸因并表征虛假媒體信息的創(chuàng)新性語義技術，為疑似深度造假確定人工審查優(yōu)先級。  由于計算機技術的普及，只要擁有基本計算機技能的人就可通過互聯網獲得深度造假制作教程，并自行制作深度造假。如不加以管控，深度造假可能會加速泛濫。 三、應對深度造假面臨的挑戰(zhàn) 《報告》認為，各界應對深度造假面臨多方面挑戰(zhàn)： ①開發(fā)深度造假檢測工具需要大量數據。深度造假檢測工具必須使用大量不同的數據集進行訓練，并且需要不斷更新，才可能有效檢測深度造假，但是目前研究人員可使用的數據集還遠遠不夠。 ②深度造假檢測還未實現自動化。目前，深度造假檢測工具還不能自動、完整地進行分析，難以高效檢測深度造假。 ③深度造假技術可能適應檢測。用于檢測深度造假的技術往往會促進深度造假技術發(fā)展。這意味著深度造假檢測工具必須定期更新以應對更復雜的深度造假。 ④單純檢測難以消除深度造假的影響。由于很多受眾不會甄別接收的信息是否真實，即使完美的檢測工具也難以消除深度造假的影響。 ⑤社交媒體對深度造假的判定標準不一致。各大社交媒體公司對深度造假的監(jiān)管標準各不相同，影響深度造假的統一應對。 ⑥法律問題。為應對深度造假擬議的法律法規(guī)可能使人們質疑言論自由和隱私權保護。另外，打擊深度造假的相關立法可能面臨有效執(zhí)法方面的挑戰(zhàn)。 來源：美國政府問責局網站/圖片來自互聯網 |
|
|
來自： 昵稱m5Gu5 > 《條例文件與法規(guī)政策》
