黨的十八大以來，以習(xí)近平同志為核心的黨中央主動順應(yīng)信息發(fā)展潮流，高度重視互聯(lián)網(wǎng)、發(fā)展互聯(lián)網(wǎng)、治理互聯(lián)網(wǎng)，推動網(wǎng)絡(luò)空間主旋律和正能量更加高昂，網(wǎng)絡(luò)綜合治理體系日益完善，網(wǎng)絡(luò)生態(tài)持續(xù)向好。黨的二十大報告指出，“健全網(wǎng)絡(luò)綜合治理體系，推動形成良好網(wǎng)絡(luò)生態(tài)”。在新一輪科技革命與產(chǎn)業(yè)變革中，深度合成技術(shù)為經(jīng)濟社會發(fā)展注入新動能，也帶來新的治理難題。為加強深度合成服務(wù)治理，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合出臺《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》），并于2023年1月10日正式生效實施?！兑?guī)定》聚焦前沿技術(shù)、著眼長遠發(fā)展，系統(tǒng)規(guī)范深度合成服務(wù)，完善深度合成治理體系，筑牢技術(shù)安全屏障，維護風(fēng)清氣正網(wǎng)絡(luò)生態(tài)，助力網(wǎng)信事業(yè)高質(zhì)量發(fā)展。
聚焦技術(shù)發(fā)展前沿，推出首部專門規(guī)章
出臺《規(guī)定》是深入貫徹落實黨中央決策部署的重要舉措。習(xí)近平總書記指出：“要堅持促進發(fā)展和依法管理相統(tǒng)一，既大力培育人工智能、物聯(lián)網(wǎng)、下一代通信網(wǎng)絡(luò)等新技術(shù)新應(yīng)用，又積極利用法律法規(guī)和標準規(guī)范引導(dǎo)新技術(shù)應(yīng)用?！敝泄仓醒胗“l(fā)的《法治社會建設(shè)實施綱要（2020-2025年）》明確提出制定完善對算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法?！兑?guī)定》的出臺是貫徹落實黨中央決策部署的重要舉措，彰顯依法管網(wǎng)、依法治網(wǎng)的精神內(nèi)核。深度合成服務(wù)治理是我國網(wǎng)絡(luò)綜合治理的重要內(nèi)容，《規(guī)定》作為我國首部針對深度合成服務(wù)的專門性部門規(guī)章，堅持安全與發(fā)展并重，將對新技術(shù)新應(yīng)用的發(fā)展起到固根本、穩(wěn)預(yù)期、利長遠的積極作用。
出臺《規(guī)定》是維護網(wǎng)絡(luò)空間良好生態(tài)的現(xiàn)實需要。近年來，深度合成技術(shù)發(fā)展迅猛，在推動產(chǎn)業(yè)變革、豐富人民群眾生活的同時，也給網(wǎng)絡(luò)生態(tài)治理帶來新風(fēng)險新挑戰(zhàn)。利用深度合成技術(shù)生成的虛假信息日益增多，滋生謠言、混淆視聽，大幅削弱社會信任度。一些不法分子利用深度合成技術(shù)惡意制作違法有害信息，并通過社交網(wǎng)絡(luò)發(fā)布、傳播，詆毀他人名譽、侵犯個人隱私，或利用深度合成技術(shù)仿冒他人身份實施詐騙，嚴重擾亂網(wǎng)絡(luò)傳播秩序和社會秩序，危害公眾利益、國家安全和社會穩(wěn)定。這類違法有害信息，難以追溯制作源頭，進一步增加網(wǎng)絡(luò)內(nèi)容管理的難度。為維護網(wǎng)絡(luò)空間良好生態(tài)，《規(guī)定》針對深度合成技術(shù)帶來的現(xiàn)實危害與潛在風(fēng)險，提出科學(xué)化、精細化、體系化的治理要求，劃定深度合成服務(wù)的“底線”和“紅線”，推進深度合成技術(shù)依法依規(guī)有效利用。
出臺《規(guī)定》是促進深度合成服務(wù)規(guī)范發(fā)展的有力保障。當(dāng)前，深度合成技術(shù)已經(jīng)成為全球信息領(lǐng)域創(chuàng)新的關(guān)鍵技術(shù)之一，特別是以生成型對抗網(wǎng)絡(luò)（GAN）、擴散模型（Diffusion Model）、生成預(yù)訓(xùn)練變換模型（GPT）等為代表的深度合成技術(shù)快速發(fā)展，為虛擬人、人機交互、元宇宙等應(yīng)用提供有力技術(shù)支撐，推動深度合成技術(shù)在教育、金融、醫(yī)療、服務(wù)等領(lǐng)域加速落地。為了讓深度合成技術(shù)發(fā)展態(tài)勢更加穩(wěn)健、更好造福社會，《規(guī)定》在網(wǎng)絡(luò)安全法、個人信息保護法等法律法規(guī)框架下，對使用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)的情形提出專門性、具體性要求，確保新技術(shù)新應(yīng)用“裝好剎車再上路”，為促進深度合成服務(wù)規(guī)范發(fā)展提供法制保障。
安全與發(fā)展并重，著力破解治理難題
清晰界定管理范圍，深度合成治理有的放矢。一是定邊界。針對深度合成技術(shù)覆蓋面廣的特點，《規(guī)定》劃定深度合成技術(shù)應(yīng)用的管理范圍，將深度合成技術(shù)界定為利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)。二是理場景。針對深度合成應(yīng)用形式多樣化的特點，《規(guī)定》從應(yīng)用形態(tài)的角度，囊括文本撰寫、問答對話、語音轉(zhuǎn)換、音樂生成、人臉操控、視頻編輯、數(shù)字人物合成等正在廣泛應(yīng)用或具有發(fā)展前景的典型場景，以及相關(guān)技術(shù)分支和產(chǎn)品形態(tài)。三是謀長遠。針對深度合成技術(shù)廣泛融合的特點，著眼于元宇宙等場景，前瞻布局三維重建、數(shù)字仿真、沉浸式擬真等發(fā)展前景廣闊但尚未深入應(yīng)用的深度合成業(yè)態(tài)，提前儲備、系統(tǒng)謀劃，以更好應(yīng)對未來形勢和挑戰(zhàn)?？偟膩碚f，《規(guī)定》立足抓重點、找要害、把方向，推動深度合成治理有的放矢，對癥下藥。
壓實各方主體責(zé)任，深度合成治理多層推進。一是立足源頭管理，明確技術(shù)支持者責(zé)任。技術(shù)支持者是深度合成服務(wù)的底層邏輯生產(chǎn)者，訓(xùn)練數(shù)據(jù)與合成模型決定深度合成內(nèi)容的質(zhì)量?！兑?guī)定》要求技術(shù)支持者從技術(shù)源頭上加強數(shù)據(jù)和算法管理，確保訓(xùn)練數(shù)據(jù)客觀公正、合成模型安全可控，特別要防范在建模過程中引入歧視性觀點或規(guī)則，帶來安全隱患。二是體現(xiàn)過程管理，強化服務(wù)提供者責(zé)任?！兑?guī)定》要求服務(wù)提供者應(yīng)嚴格落實信息安全主體責(zé)任，體現(xiàn)向上向善的價值觀，要在用戶注冊、信息發(fā)布、應(yīng)急處置、技術(shù)保障等多環(huán)節(jié)中，全面落實全流程管理責(zé)任。三是聚焦結(jié)果管理，規(guī)范服務(wù)使用者責(zé)任。深度合成技術(shù)的使用門檻越來越低，技術(shù)的工具化促進服務(wù)的大眾化。使用深度合成服務(wù)的組織和個人應(yīng)主動承擔(dān)起信息安全義務(wù)，不得利用深度合成服務(wù)從事侵犯個人隱私、制作傳播虛假信息等違法違規(guī)活動。四是突出渠道管理，細化分發(fā)平臺主體責(zé)任。互聯(lián)網(wǎng)應(yīng)用商店等應(yīng)用程序分發(fā)平臺應(yīng)落實平臺主體責(zé)任，主動核驗應(yīng)用程序的安全評估、備案等情況，發(fā)揮對深度合成應(yīng)用的上線把關(guān)作用。
守正創(chuàng)新多措并舉，深度合成治理標本兼治。一是摸底數(shù)，采取備案等審慎監(jiān)管手段，有效兼顧安全與發(fā)展?！兑?guī)定》緊密結(jié)合深度合成服務(wù)特點，要求具有輿論屬性或者社會動員能力的深度合成技術(shù)支持者和服務(wù)提供者履行雙主體備案義務(wù)?！兑?guī)定》生效以來，多家企業(yè)積極進行備案咨詢，落實備案要求，與監(jiān)管部門共同完善深度合成備案流程和細節(jié)，體現(xiàn)出合作治理、多元治理的理念。二是可追溯，創(chuàng)新內(nèi)容標識管理要求，解決證偽和識別難題?！兑?guī)定》要求對深度合成信息內(nèi)容添加不影響用戶使用的標識，并保障標識的真實性和唯一性，以利于溯源追蹤深度合成信息流向，及時阻斷有害合成信息傳播；同時要求在合理位置、區(qū)域進行顯著標識，防止公眾混淆或誤認，提升公眾識別合成內(nèi)容的能力，降低利用合成信息進行造謠、詐騙等違法行為的風(fēng)險。三是強認證，細化真實身份信息認證管理規(guī)范，保護用戶個人信息。《規(guī)定》明確要求建立健全用戶管理制度，嚴格落實對服務(wù)使用者的真實身份信息認證的主體責(zé)任，實行真實身份信息認證管理的多種方案，積極防范和應(yīng)對個人信息濫采濫用等問題。
以人民為中心，加快深度合成治理落地見效
習(xí)近平總書記指出：“網(wǎng)信事業(yè)發(fā)展必須貫徹以人民為中心的發(fā)展思想，把增進人民福祉作為信息化發(fā)展的出發(fā)點和落腳點?！碑?dāng)前，我國網(wǎng)民規(guī)模已超10億，形成了全球最為龐大的、生機勃勃的數(shù)字社會。為促進數(shù)字經(jīng)濟高質(zhì)量發(fā)展，我們聚焦前沿、著眼長遠、多措并舉，加快深度合成服務(wù)治理，全方位構(gòu)筑技術(shù)安全屏障。
堅持治本筑基，穩(wěn)步推動深度合成服務(wù)監(jiān)管落地。構(gòu)建網(wǎng)信、電信、公安等監(jiān)管機構(gòu)依職權(quán)分工的監(jiān)管協(xié)同機制，促進信息互通、工作聯(lián)動和成果共享，綱舉目張做好深度合成管理規(guī)定落地工作。制定配套實施細則，進一步深化管理要求，加快推進深度合成服務(wù)國家標準建設(shè)。持續(xù)開展境內(nèi)深度合成信息服務(wù)備案工作，督促相關(guān)主體履行備案和評估義務(wù)。有序推進深度合成技術(shù)監(jiān)管，及時發(fā)現(xiàn)違法問題，依法依規(guī)予以處置。
堅持多元共治，全面營造深度合成向上向善生態(tài)。全面推進企業(yè)落實主體責(zé)任，多方式、多渠道強化法律宣貫解讀，明確企業(yè)責(zé)任落實要點，加快提升深度合成服務(wù)提供者、技術(shù)支持者等相關(guān)主體的道德倫理意識，嚴格遵守事中、事前、事后各項管理要求，推動企業(yè)積極創(chuàng)新治理手段，主動承擔(dān)社會責(zé)任。加強宣傳引導(dǎo)，提高深度合成安全防范意識，有效甄別違法違規(guī)合成內(nèi)容，規(guī)避人身財產(chǎn)安全風(fēng)險，形成全社會尊崇法治、踐行法治的良好氛圍。暢通用戶投訴、舉報渠道，確保以主流價值觀為引領(lǐng)，形成全民共建共治共享的良好局面。
堅持規(guī)范發(fā)展，有力保障我國數(shù)字經(jīng)濟高質(zhì)量發(fā)展。深度合成技術(shù)與互聯(lián)網(wǎng)信息服務(wù)的深度融合，在變革互聯(lián)網(wǎng)信息制作模式、智能生產(chǎn)新聞媒體內(nèi)容、改善人機交互體驗等方面產(chǎn)生巨大影響，將進一步加速推動數(shù)字化、網(wǎng)絡(luò)化、智能化在更廣領(lǐng)域?qū)崿F(xiàn)更高質(zhì)量、更深層次的發(fā)展。我們持續(xù)跟蹤深度合成技術(shù)發(fā)展動態(tài)，強化數(shù)字技術(shù)倫理規(guī)范引導(dǎo)，堅持促進發(fā)展和監(jiān)管規(guī)范兩手抓，在發(fā)展中規(guī)范、在規(guī)范中發(fā)展，不斷完善新技術(shù)新應(yīng)用治理體系，依法保障數(shù)字經(jīng)濟健康發(fā)展。
發(fā)展永無止境，治理未有窮期?！兑?guī)定》的出臺標志著我國網(wǎng)絡(luò)綜合治理能力的進一步優(yōu)化提升，但深度合成技術(shù)應(yīng)用與治理尚處于起步階段，在技術(shù)支撐和能力建設(shè)方面有待于進一步加強。我們將按照“體系布局、重點突出”的思路，堅持統(tǒng)籌安全與發(fā)展，積極探索總結(jié)治理經(jīng)驗，持續(xù)創(chuàng)新理念手段，不斷提升深度合成治理水平，切實把健全網(wǎng)絡(luò)綜合治理體系作為貫徹落實黨的二十大精神的重要任務(wù)，抓緊抓好、抓出成效，助力中國式現(xiàn)代化數(shù)字經(jīng)濟高質(zhì)量發(fā)展，為網(wǎng)絡(luò)強國建設(shè)作出更大貢獻。
