12月11日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》（簡稱《規(guī)定》），強調(diào)不得利用深度合成服務從事法律、行政法規(guī)禁止的活動，要求深度合成服務提供者落實信息安全主體責任，該《規(guī)定》將于2023年1月10日起施行。

所謂“深度合成技術”，是指利用以深度學習、虛擬現(xiàn)實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術，包括文本轉(zhuǎn)語音、音樂生成、人臉生成、人臉替換、圖像增強等技術。目前該技術已應用于傳媒、影視制作、社交娛樂、教育以及電子商務等行業(yè)，如AI合成主播、虛擬偶像、修復歷史老照片等。

近年來，伴隨技術的廣泛落地，以及一二級市場對相關賽道關注熱度的持續(xù)升溫，深度合成技術的濫用也隨之產(chǎn)生。在業(yè)界人士看來，《規(guī)定》的落地利于避免技術濫用于詐騙等不法行為。

(資料圖片)

深度合成技術已廣泛落地生活

自2019年11月起，我國先后出臺《網(wǎng)絡音視頻信息服務管理規(guī)定》《網(wǎng)絡信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》等文件，對生成合成類內(nèi)容提出不同程度的監(jiān)管要求。2022年1月28日，國家互聯(lián)網(wǎng)信息辦公室公布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定（征求意見稿）》，向社會公開征求意見，對深度合成內(nèi)容的用途、標記、使用范圍以及濫用處罰作出具體規(guī)定。

中國社科院哲學所科技哲學研究室主任段偉文表示，對深度合成技術引發(fā)的社會、法律和倫理問題，應展開有系統(tǒng)性、前瞻性的跨學科研究，對其可能出現(xiàn)的高風險應用場景進行有針對性的治理與監(jiān)管。

2022年2月，清華大學人工智能研究院與多家機構(gòu)聯(lián)合發(fā)布《深度合成十大趨勢報告（2022）》（簡稱《報告》）?！秷蟾妗凤@示，在國內(nèi)外主流音視頻網(wǎng)站、社交媒體平臺上，2021年新發(fā)布的深度合成視頻的數(shù)量較2017年已增長超過十倍。此外，深度合成內(nèi)容關注度也呈指數(shù)級增長，通過對互動數(shù)據(jù)進行統(tǒng)計，2021年新發(fā)布的深度合成視頻的點贊數(shù)已超過3億。

2022年深度合成技術落地也甚為火熱。截至發(fā)稿，抖音AI繪畫特效已有2568.1萬人使用；小紅書上，據(jù)灰豚數(shù)據(jù)，“AI繪畫”關鍵詞熱度值8.1萬，關聯(lián)筆記互動量76.1萬；騰訊近日也上線了“QQ小世界AI畫匠”活動，用戶上傳照片可一鍵生成專屬異次元形象，但生成結(jié)果參差，有的二次元結(jié)果符合原圖，有的則“謬以千里”。

國泰君安研報預計未來5年，AI繪畫在圖像內(nèi)容生成領域的滲透率將達到10%—30%，隨著AI繪畫將下一代互聯(lián)網(wǎng)作為關鍵著力點，該市場規(guī)模超600億元。

除了AI繪畫，近期火熱的聊天機器人ChatGPT，二級市場熱炒的數(shù)字人、虛擬主播、AIGC、元宇宙等，均屬于深度合成技術領域。但需注意的是，中國科學院院士、清華大學人工智能研究院創(chuàng)始院長張鈸在《報告》開篇寫道：“與其他技術不同，由于人工智能的安全性問題主要來源于算法本身的不安全，它更容易被誤用和濫用。以深度合成技術為例，不法分子可以利用它給社會帶來巨大的威脅。”如偽造音頻、視頻，實施誣陷、誹謗、詐騙、勒索等違法行為。

《規(guī)定》稱，近年來，深度合成技術快速發(fā)展，在服務用戶需求、改進用戶體驗的同時，也被一些不法人員用于制作、復制、發(fā)布、傳播違法和不良信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等，影響傳播秩序和社會秩序，損害人民群眾合法權(quán)益，危害國家安全和社會穩(wěn)定。出臺規(guī)定是防范化解安全風險的需要，也是促進深度合成服務健康發(fā)展、提升監(jiān)管能力水平的需要。段偉文對記者表示，深度合成技術落地應用中，AI換臉是較為典型的代表，如在短視頻中進行虛假視頻的傳播，可能引發(fā)謠言、對公眾產(chǎn)生不良影響等較為嚴重的結(jié)果。

避免技術濫用于不法行為

此次出臺的《規(guī)定》要求，深度合成服務提供者建立健全管理制度和技術保障措施，制定公開管理規(guī)則、平臺公約，對使用者進行真實身份信息認證，加強深度合成內(nèi)容管理，建立健全辟謠機制和申訴、投訴、舉報機制。同時明確深度合成服務提供者對使用其服務生成或編輯的信息內(nèi)容，應當添加不影響使用的標識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。

對于《規(guī)定》的出臺，人工智能技術行業(yè)人士對記者表示，《規(guī)定》對AIGC領域有規(guī)范作用，但主要是為了避免技術濫用于詐騙，平臺可能會加上水印技術后繼續(xù)運行，如同行業(yè)實行的手機號實名制一樣，對普通人影響不大。

易觀智慧院分析師陳一墨對記者表示，《規(guī)定》無疑是保證深度合成技術可以得到正確應用與推廣的保障，但總得來說利用深度合成技術進行違法犯罪活動的成本小，執(zhí)法難度大，因此需要各參與方均有相關法律與風險意識并做出行動。而這必然對各參與方存在不同程度的影響。影響最大的應該是相關服務的供應商。由于深度合成內(nèi)容涵蓋范圍廣，供應商需要加大力度進行相關審核，這會推高供應商的運營成本，且《規(guī)定》第十七條中所述的顯著標識定義較為模糊，而顯著標識也有可能影響相關服務的體驗。對于個人用戶來說，也需要加強自我審查，增加了應用相關技術的隱性成本。

上海大邦律師事務所游云庭律師對第一財經(jīng)表示，新規(guī)定主要是對與深度合成有關的人工智能進行監(jiān)管，涉及的產(chǎn)業(yè)包括人工智能元宇宙，發(fā)布的部門包括電信公安和網(wǎng)信。主要的監(jiān)管目的是為了防止這些新生事物對現(xiàn)有的社會秩序產(chǎn)生太大的沖擊。

而《規(guī)定》監(jiān)管的對象其中之一是深度合成人工智能的使用者。游云庭稱，《規(guī)定》要求其使用這些工具時不得用于違法的目的，另一個對象是深度合成服務提供者，也就是平臺的主體責任，要求其提供服務時，對使用者實名制登記，對合成的內(nèi)容進行監(jiān)管和審核，并且要建立違法和不良信息特征庫。同時對平臺要求在訓練人工智能時，如果訓練數(shù)據(jù)包含個人信息時，應遵守《個人信息保護》相關規(guī)定，如果使用生物識別信息的應當取得數(shù)據(jù)提供者單獨同意，對算法的倫理機制也進行了規(guī)定，重點規(guī)定了對深度合成服務生成的內(nèi)容應當進行顯著性的標識，對服務者還要求按現(xiàn)有互聯(lián)網(wǎng)管理規(guī)定進行備案由主管部門進行監(jiān)管。

游云庭認為，對普通人來說，這個規(guī)定要求用戶需要合法遵守倫理道德的使用人工智能。對平臺而言，不僅僅是監(jiān)管的問題，還要給人工智能設置倫理，這個挑戰(zhàn)其實很大。

段偉文對記者表示，《規(guī)定》將在短期內(nèi)促進相關企業(yè)加大在安全合規(guī)、倫理等方面的投入，以及相關經(jīng)驗的積累。具體落地過程中，究竟哪些技術層面需要進行安全評估、誰來進行等問題，均需要磨合探索。因此長遠來看，《規(guī)定》對行業(yè)的影響也需結(jié)合具體過程來觀察。

磨合過程中，段偉文認為，需有三點需要明確：第一是監(jiān)管部門在不同階段，應對企業(yè)提出相對明確的要求；其次，企業(yè)作為技術主體，應加強技術自律，及時發(fā)現(xiàn)問題，并進行復盤，將相關風險降到最低；作為用戶或消費者環(huán)節(jié)，全社會應該創(chuàng)造條件，加強人工智能與數(shù)字技術的社會法律倫理影響方面的教育傳播，促進公眾人工智能素養(yǎng)、數(shù)字素養(yǎng)的提升。

至于深度合成技術落地行業(yè)過程中如何進行精準鑒別，段偉文稱，需要監(jiān)管部門、企業(yè)與消費者三方努力，構(gòu)建協(xié)同共治的機制。從《規(guī)定（意見稿）》到《規(guī)定》最終落地，過程中已有很多企業(yè)參與其中，未來仍需讓消費者也參與進來，盡量減少對企業(yè)創(chuàng)新效率產(chǎn)生負面影響。