近年來，人工智能各項技術(shù)飛速發(fā)展，應(yīng)用更加普及多元。其中，深度合成技術(shù)作為人工智能領(lǐng)域的創(chuàng)新應(yīng)用技術(shù)，以其較低的應(yīng)用門檻、較強的娛樂屬性、豐富的應(yīng)用場景受到廣泛關(guān)注。特別是在互聯(lián)網(wǎng)信息服務(wù)領(lǐng)域，深度合成技術(shù)豐富了網(wǎng)絡(luò)內(nèi)容形式，進一步釋放新技術(shù)新應(yīng)用發(fā)展活力。但是，部分深度合成技術(shù)應(yīng)用缺乏規(guī)范，對國家安全、社會穩(wěn)定和公民合法權(quán)益帶來風(fēng)險挑戰(zhàn)。黨的二十大報告強調(diào)，“健全網(wǎng)絡(luò)綜合治理體系，推動形成良好網(wǎng)絡(luò)生態(tài)”?！斗ㄖ紊鐣ㄔO(shè)實施綱要（2020-2025年）》明確要求，要制定完善算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法。為規(guī)范深度合成服務(wù)，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》）?！兑?guī)定》通過系統(tǒng)性、創(chuàng)新性制度設(shè)計，首次回應(yīng)了對深度合成服務(wù)的管理要求，為互聯(lián)網(wǎng)信息服務(wù)深度合成的規(guī)范發(fā)展提供了基本遵循和合法依據(jù)。
一、堅持系統(tǒng)觀念，完善互聯(lián)網(wǎng)信息服務(wù)法律體系
《規(guī)定》積極落實黨的二十大報告關(guān)于立法系統(tǒng)性、整體性、協(xié)同性、時效性的要求，對互聯(lián)網(wǎng)信息服務(wù)深度合成作出了科學(xué)全面的制度規(guī)范。一方面，《規(guī)定》有效銜接了相關(guān)法律法規(guī)。在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等上位法框架下，《規(guī)定》有效承接了《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等規(guī)章、規(guī)范性文件中關(guān)于網(wǎng)絡(luò)信息內(nèi)容管理、新技術(shù)新應(yīng)用安全評估、顯著標(biāo)識、備案管理等制度規(guī)定，對深度合成服務(wù)管理機制、主體責(zé)任等作出了銜接性制度安排。另一方面，《規(guī)定》構(gòu)建了統(tǒng)籌協(xié)調(diào)、多方參與的監(jiān)管體制?！兑?guī)定》明確，國家網(wǎng)信部門負責(zé)統(tǒng)籌協(xié)調(diào)全國深度合成服務(wù)的治理和監(jiān)督管理工作，國務(wù)院電信主管部門、公安部門依據(jù)各自職責(zé)負責(zé)深度合成服務(wù)的監(jiān)督管理工作。地方網(wǎng)信部門負責(zé)統(tǒng)籌協(xié)調(diào)本行政區(qū)域內(nèi)深度合成服務(wù)的治理和監(jiān)督管理工作，地方電信主管部門、公安部門依據(jù)各自職責(zé)負責(zé)本行政區(qū)域內(nèi)深度合成服務(wù)的監(jiān)督管理工作?！兑?guī)定》還鼓勵相關(guān)行業(yè)加強行業(yè)自律，搭建齊抓共管、協(xié)同共治的治理機制?！兑?guī)定》的出臺，全面貫徹落實了黨中央關(guān)于網(wǎng)絡(luò)綜合治理的最新要求，通過系統(tǒng)化的制度安排進一步構(gòu)建完善了我國網(wǎng)絡(luò)綜合治理法治體系。
二、堅持問題導(dǎo)向，精準(zhǔn)破解深度合成治理難題
近年來，深度合成技術(shù)在社交、影視、廣告、醫(yī)療、教育、科研等諸多領(lǐng)域不斷深化應(yīng)用，展現(xiàn)出較大的技術(shù)價值和商用潛力。同時，其“雙刃劍”效果明顯，在增加社會福祉的同時也帶來一系列風(fēng)險挑戰(zhàn)。一是深度合成技術(shù)被用于非法目的，侵犯個人合法權(quán)益。如有案例反映詐騙分子利用深度合成技術(shù)冒充公司高管的聲音，詐騙該公司另一名高管巨額款項，給個人財產(chǎn)權(quán)益造成了重大損失。二是深度合成虛假內(nèi)容引發(fā)信任危機，影響社會穩(wěn)定。利用深度合成技術(shù)形成的新聞信息本身真實性、客觀性難以保障，更有不法分子利用深度合成技術(shù)發(fā)布虛假新聞、散布謠言等，造成錯誤輿論導(dǎo)向，影響社會穩(wěn)定。三是深度合成技術(shù)可能被敵對勢力惡意利用，威脅國家安全。國外已出現(xiàn)多起利用深度合成技術(shù)偽造政治人物、公眾人物音頻和視頻的情形，不僅影響國內(nèi)政治穩(wěn)定，還可能會引發(fā)國家間的危機沖突。
《規(guī)定》聚焦深度合成服務(wù)中存在的主要風(fēng)險隱患進行針對性制度設(shè)計。一是明確深度合成服務(wù)不得用于非法目的。禁止任何組織和個人利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，或從事危害國家利益、社會公共利益或個人合法權(quán)益等違法活動。禁止深度合成服務(wù)提供者和使用者利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。二是強化對個人合法權(quán)益的保護?！兑?guī)定》強調(diào)深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)強化個人信息保護，提供人臉、人聲等生物識別信息編輯功能的，須提示使用者依法取得個人單獨同意。防止個人信息被非法利用，侵害個人合法權(quán)益。三是對深度合成服務(wù)提供者提出安全管理要求?！兑?guī)定》要求深度合成服務(wù)提供者進行用戶真實身份認證，建立信息發(fā)布審核、反電信網(wǎng)絡(luò)詐騙等管理制度?！兑?guī)定》通過相關(guān)制度設(shè)計，科學(xué)精準(zhǔn)地回應(yīng)了深度合成服務(wù)應(yīng)用發(fā)展對國家、社會及個人帶來的風(fēng)險挑戰(zhàn)，為促進新技術(shù)新應(yīng)用的規(guī)范發(fā)展提供了有益范例。
三、堅持規(guī)范發(fā)展，促進深度合成技術(shù)向上向善
隨著深度合成技術(shù)不斷優(yōu)化發(fā)展，其開發(fā)應(yīng)用的空間將更為廣闊。近幾年，深度合成信息內(nèi)容制作和傳播數(shù)量高速增長。同時，在“元宇宙”等新模式新場景下，深度合成技術(shù)將為智能化、視覺化、場景化、虛擬化的互聯(lián)網(wǎng)信息服務(wù)發(fā)展提供更多技術(shù)實現(xiàn)方案?！兑?guī)定》堅持統(tǒng)籌發(fā)展和安全，以促進技術(shù)在規(guī)范中發(fā)展為價值取向，在明確“紅線”的同時為技術(shù)發(fā)展留足空間。一是對深度合成服務(wù)明確技術(shù)向善要求?！兑?guī)定》要求提供深度合成服務(wù)應(yīng)當(dāng)尊重社會公德和倫理道德，堅持正確政治方向、輿論導(dǎo)向、價值取向，促進深度合成服務(wù)向上向善。同時要求深度合成服務(wù)提供者應(yīng)當(dāng)建立算法機制機理審核、科技倫理審查等管理制度。二是以技術(shù)手段保障深度合成內(nèi)容可溯源?！兑?guī)定》要求深度合成服務(wù)提供者通過有效技術(shù)措施對使用其服務(wù)所制作的信息內(nèi)容添加標(biāo)識，保證深度合成信息內(nèi)容可識別、可追溯。三是區(qū)分場景規(guī)定差異化管理要求?！兑?guī)定》要求深度合成服務(wù)提供者對其生成或編輯的信息內(nèi)容添加不影響用戶使用的標(biāo)識，但對于可能導(dǎo)致公眾混淆或誤認的深度合成信息內(nèi)容應(yīng)當(dāng)進行顯著標(biāo)識。同時，要求具有輿論屬性或者社會動員能力的深度合成服務(wù)提供者和技術(shù)支持者履行備案義務(wù)?！兑?guī)定》基于不同的應(yīng)用場景對深度合成服務(wù)進行區(qū)分管理，在實現(xiàn)監(jiān)管目的的同時也為技術(shù)發(fā)展提供了有效保障。
四、堅持底線原則，壓實深度合成服務(wù)相關(guān)主體責(zé)任
深度合成服務(wù)提供者和技術(shù)支持者，既是新技術(shù)新應(yīng)用的創(chuàng)造者、受益者，也應(yīng)是控制技術(shù)風(fēng)險、引導(dǎo)技術(shù)向善的責(zé)任踐行者?！兑?guī)定》圍繞明確各方責(zé)任義務(wù)進行了系統(tǒng)性制度設(shè)計。一方面，明確深度合成服務(wù)提供者的主體責(zé)任?！兑?guī)定》要求深度合成服務(wù)提供者建立健全算法機制機理審核、信息內(nèi)容管理、從業(yè)人員教育培訓(xùn)等管理制度，具備安全可控的技術(shù)保障措施。制定并公開管理規(guī)則和平臺公約，并提示深度合成服務(wù)技術(shù)支持者和使用者承擔(dān)信息安全義務(wù)。加強內(nèi)容管理，采取技術(shù)或者人工方式對輸入數(shù)據(jù)和合成結(jié)果進行審核，并建立健全相關(guān)特征庫。加強技術(shù)管理，定期審核、評估、驗證算法機制機理。提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具的，應(yīng)當(dāng)開展安全評估。加強訓(xùn)練數(shù)據(jù)管理，采取必要措施保障數(shù)據(jù)和個人信息安全。另一方面，明確深度合成服務(wù)技術(shù)支持者等主體的責(zé)任義務(wù)?！兑?guī)定》要求深度合成服務(wù)技術(shù)支持者應(yīng)承擔(dān)訓(xùn)練數(shù)據(jù)管理、算法機制機理審核、安全評估等義務(wù)。應(yīng)用程序分發(fā)平臺應(yīng)落實上架審核、日常管理、應(yīng)急處置等安全管理責(zé)任。
五、堅持守正創(chuàng)新，貢獻深度合成服務(wù)治理中國智慧
習(xí)近平總書記指出：“要深度參與全球科技治理，貢獻中國智慧，塑造科技向善的文化理念，讓科技更好增進人類福祉，讓中國科技為推動構(gòu)建人類命運共同體作出更大貢獻！”近年來，我國加快推進新技術(shù)新應(yīng)用創(chuàng)新發(fā)展，并對技術(shù)發(fā)展過程中帶來的挑戰(zhàn)及時回應(yīng)，針對區(qū)塊鏈信息服務(wù)、互聯(lián)網(wǎng)信息服務(wù)算法推薦活動、汽車數(shù)據(jù)安全管理等技術(shù)發(fā)展的新興領(lǐng)域加速出臺相關(guān)立法，為保障數(shù)字經(jīng)濟高質(zhì)量發(fā)展、提升我國數(shù)字治理能力提供了法治保障。
針對深度合成技術(shù)帶來的顛覆性風(fēng)險挑戰(zhàn)，多個國家和地區(qū)不斷探索深度合成服務(wù)的治理路徑。美國從聯(lián)邦和州層面推出立法提案，歐盟將深度合成涉及的個人數(shù)據(jù)保護問題納入《通用數(shù)據(jù)保護條例》（GDPR）的規(guī)制框架，德國、英國、新加坡、韓國等國將深度合成相關(guān)犯罪納入刑法范疇，但尚未有國家出臺規(guī)范深度合成服務(wù)的專門立法?！兑?guī)定》立足我國發(fā)展實踐，充分發(fā)揮法治固根本、穩(wěn)預(yù)期、利長遠的保障作用，率先通過體系化制度安排，構(gòu)建深度合成服務(wù)治理機制，塑造科技向善的治理理念，提供了保護與發(fā)展并行的中國方案。
作者：王志勤 中國信息通信研究院副院長
