隨著人工智能和大數(shù)據(jù)技術(shù)的飛速發(fā)展，深度合成技術(shù)在互聯(lián)網(wǎng)信息服務(wù)中得到廣泛應(yīng)用。這些技術(shù)在為用戶提供個性化、精準(zhǔn)化、智能化信息服務(wù)的同時，如非法應(yīng)用也容易引發(fā)侵害用戶合法權(quán)益、傳播違法信息、操縱社會輿論等一系列問題，給國家利益、社會公共利益和公民合法權(quán)益帶來巨大挑戰(zhàn)。11月25日，國家網(wǎng)信辦會同工業(yè)和信息化部、公安部發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（下文簡稱《規(guī)定》），以貫徹落實(shí)《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護(hù)法》和《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律、行政法規(guī)有關(guān)規(guī)定?！兑?guī)定》是我國第一部針對深度合成服務(wù)治理的專門性部門規(guī)章，對規(guī)范深度合成服務(wù)、促進(jìn)相關(guān)應(yīng)用健康發(fā)展具有重要時代意義。
一、深度合成成為重要技術(shù)應(yīng)用
深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、視頻、音頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)。深度合成技術(shù)最大的特點(diǎn)之一是“以假亂真”，其通過人工智能和大數(shù)據(jù)算法合成的虛擬數(shù)據(jù)具有極佳的視覺、聽覺等效果，能夠使人難辨真假。深度合成技術(shù)的代表性研究是在2014年提出的生成對抗網(wǎng)絡(luò)（GAN），其通過對抗式迭代訓(xùn)練生成器和判別器兩個部分，大幅提升數(shù)據(jù)生成的逼真程度，使得深度合成的結(jié)果難以被人眼辨別真?zhèn)?。伴隨著日益增長的應(yīng)用需求，深度合成技術(shù)在教育、影視、傳媒等領(lǐng)域扮演著愈發(fā)重要的角色，其面部替換、表情操縱、語音合成等不同技術(shù)分支，能夠升級傳統(tǒng)內(nèi)容制作方法，改善制作效果，提高制作效率，在各類商業(yè)化產(chǎn)品中使用比例顯著提升。
二、深度合成技術(shù)非法使用帶來嚴(yán)重安全風(fēng)險
深度合成技術(shù)在支持正向應(yīng)用的同時，也為我們帶來新的安全風(fēng)險。隨著深度合成技術(shù)的快速發(fā)展，其使用門檻愈發(fā)降低，呈現(xiàn)出“平民化”的趨勢。普通人可以利用簡單方便的軟件或工具，制作出真假難辨的合成內(nèi)容。若非法使用深度合成技術(shù)，將導(dǎo)致傳播違法和不良信息的亂象，對社會信任、媒體信任、政治信任造成沖擊。例如，不法分子通過制作虛假的視頻、圖像、音頻等，進(jìn)行誹謗、詐騙、勒索、誣陷，甚至通過從互聯(lián)網(wǎng)獲得明星、高管、學(xué)者、政要的視頻、圖像、音頻數(shù)據(jù)，利用深度合成技術(shù)對其進(jìn)行惡意攻擊。誤用、濫用以及惡意使用深度合成技術(shù)生成的數(shù)據(jù)，將為個人、企業(yè)帶來聲譽(yù)損害和財產(chǎn)損失，甚至對國家安全、社會穩(wěn)定造成威脅。因此，《規(guī)定》聚焦深度合成服務(wù)亂象問題，構(gòu)建算法安全治理體系，規(guī)范互聯(lián)網(wǎng)信息服務(wù)深度合成管理，意義重大，影響深遠(yuǎn)。
三、正確處理服務(wù)管理規(guī)范與技術(shù)研究發(fā)展的關(guān)系
深度合成技術(shù)研究應(yīng)在安全可靠的基礎(chǔ)上推進(jìn)，在規(guī)范中科學(xué)發(fā)展。深度合成技術(shù)已展現(xiàn)其強(qiáng)大的能力，在各個領(lǐng)域的加速應(yīng)用已成為趨勢。然而，在相關(guān)技術(shù)研究發(fā)展的同時，也須直面技術(shù)帶來的風(fēng)險，保證算法和數(shù)據(jù)的安全性、可靠性，最大程度做到技術(shù)進(jìn)步的趨利避害。《規(guī)定》在保護(hù)深度合成技術(shù)良性發(fā)展的基礎(chǔ)上，明確了生成合成類算法治理的對象，確立了算法治理的基本原則，并鼓勵相關(guān)行業(yè)組織加強(qiáng)行業(yè)自律，建立健全行業(yè)標(biāo)準(zhǔn)、行業(yè)準(zhǔn)則和自律管理制度，強(qiáng)化了深度合成服務(wù)提供者和技術(shù)支持者的主體責(zé)任，為安全可靠的深度合成技術(shù)發(fā)展指明了方向，并為技術(shù)的服務(wù)應(yīng)用提供指引和規(guī)范。
四、深度合成的安全性、可靠性保障對技術(shù)治理提出新要求
《規(guī)定》在規(guī)范互聯(lián)網(wǎng)信息服務(wù)深度合成管理的同時，也為相關(guān)安全性、可靠性保障提出了新的技術(shù)治理要求。一方面，深度合成服務(wù)提供者應(yīng)加強(qiáng)深度合成內(nèi)容管理，建立健全用于識別違法和不良信息的特征庫，在非人工審核情形下，則應(yīng)對使用者的輸入數(shù)據(jù)和合成成果進(jìn)行精準(zhǔn)有效的技術(shù)審核，進(jìn)而對違法和不良信息依法采取處置措施。另一方面，深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識。這要求服務(wù)提供者開發(fā)新的技術(shù)，在不影響用戶使用的前提下，在視頻、圖像、音頻、虛擬場景等深度合成信息上合理添加顯著標(biāo)識。此外，由于數(shù)據(jù)傳輸過程中，可能會出現(xiàn)如視頻幀率降低、圖像壓縮等常見處理，所添加標(biāo)識還須具備強(qiáng)魯棒性，避免在傳輸過程的正常處理中受到破壞。
綜上，《規(guī)定》的頒布標(biāo)志著我國深度合成服務(wù)的規(guī)范管理工作進(jìn)入新階段。深度合成服務(wù)提供者和技術(shù)支持者應(yīng)認(rèn)真學(xué)習(xí)和理解《規(guī)定》，明確主體權(quán)責(zé)，積極應(yīng)對深度合成安全性、可靠性技術(shù)要求。深度合成服務(wù)使用者也應(yīng)加強(qiáng)算法應(yīng)用的安全意識，保證使用的合規(guī)合法性，有效維護(hù)自身的合法權(quán)益。
作者：周杰 清華大學(xué)研究生院院長
