隨著人工智能的蓬勃發(fā)展，深度合成算法已經(jīng)成為廣泛應(yīng)用于人們生產(chǎn)生活中的常見技術(shù)，在推動(dòng)經(jīng)濟(jì)社會(huì)發(fā)展的同時(shí)，也帶來一定的社會(huì)管理潛在風(fēng)險(xiǎn)。在互聯(lián)網(wǎng)信息數(shù)據(jù)體量急劇膨脹的今天，用戶能夠獲取越來越多經(jīng)過深度合成的信息數(shù)據(jù)，其不正當(dāng)應(yīng)用也深深影響了正常的網(wǎng)絡(luò)環(huán)境和社會(huì)秩序，甚至危害到網(wǎng)民合法權(quán)益、社會(huì)公平公正以及意識(shí)形態(tài)安全。
為了加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)深度合成管理，弘揚(yáng)社會(huì)主義核心價(jià)值觀，維護(hù)國家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益，根據(jù)《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律、行政法規(guī)，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下稱《規(guī)定》）。《規(guī)定》是目前我國針對互聯(lián)網(wǎng)信息服務(wù)深度合成技術(shù)出臺(tái)的最為系統(tǒng)的專門性部門規(guī)章，為規(guī)范互聯(lián)網(wǎng)信息服務(wù)深度合成使用、促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展、推進(jìn)網(wǎng)絡(luò)空間治理、維護(hù)社會(huì)公平穩(wěn)定發(fā)展提供了重要的法制保障，影響深遠(yuǎn)，意義重大。
一、保障對算法正面正向的管理及應(yīng)用
《規(guī)定》著眼于互聯(lián)網(wǎng)信息內(nèi)容生態(tài)治理，防范深度合成技術(shù)的不合理應(yīng)用，保障網(wǎng)絡(luò)用戶的合法權(quán)益，聚焦于建立有效的深度合成服務(wù)監(jiān)管秩序，著重促進(jìn)發(fā)揮算法服務(wù)的正向傳播作用，營造風(fēng)清氣正的網(wǎng)絡(luò)空間?！兑?guī)定》從以下三個(gè)方面明確了深度合成算法應(yīng)用治理的總體方向。
首先，明確使用目的，堅(jiān)持正確導(dǎo)向。《規(guī)定》中明確了深度合成技術(shù)是指應(yīng)用于文本、圖像、音頻、視頻、虛擬場景等多個(gè)領(lǐng)域的生成合成技術(shù)，區(qū)分深度合成服務(wù)的提供者與使用者，并由此引出治理對象。《規(guī)定》中明確了技術(shù)應(yīng)用的底線，指明深度合成技術(shù)不能被用于制作與傳播危害國家與社會(huì)安全穩(wěn)定的信息，不能被用于侵害他人肖像權(quán)等合法權(quán)益，鼓勵(lì)以正向的目的使用深度合成技術(shù)，體現(xiàn)出正確的社會(huì)價(jià)值觀。
其次，加強(qiáng)監(jiān)督管理，確保安全可控。《規(guī)定》中明確全國范圍內(nèi)的深度合成服務(wù)應(yīng)接受國家網(wǎng)信部門的監(jiān)督與管理，地方網(wǎng)信部門負(fù)責(zé)統(tǒng)籌協(xié)調(diào)本行政區(qū)域內(nèi)的深度合成服務(wù)，確保深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播等關(guān)鍵環(huán)節(jié)接受監(jiān)督管理，并保障技術(shù)的安全可控。
最后，堅(jiān)持規(guī)范發(fā)展，防止算法濫用。《規(guī)定》鼓勵(lì)深度合成服務(wù)相關(guān)行業(yè)自律并遵循公正公平、公開透明、科學(xué)合理和誠實(shí)信用的原則，促進(jìn)深度合成技術(shù)在不觸及應(yīng)用底線且不違背原則的情況下蓬勃發(fā)展，支持行業(yè)內(nèi)自我監(jiān)管與自我約束。
二、明確主體責(zé)任，營造良好網(wǎng)絡(luò)服務(wù)秩序
《規(guī)定》的出臺(tái)是對維護(hù)網(wǎng)絡(luò)安全、社會(huì)安全、國家安全的有力保障。隨著基于深度學(xué)習(xí)的合成服務(wù)日益融入大眾生活，明確深度合成服務(wù)提供者的主體責(zé)任是護(hù)航社會(huì)正常有序運(yùn)轉(zhuǎn)的應(yīng)有之義。主要舉措包含以下四個(gè)方面：
首先，建立健全管理制度，保障深度合成服務(wù)安全有序進(jìn)行。《規(guī)定》明確要求深度合成服務(wù)提供者加強(qiáng)管理制度的建立，包括算法機(jī)制機(jī)理審核制度、信息內(nèi)容管理審核制度等?！兑?guī)定》涵蓋了深度合成服務(wù)的關(guān)鍵環(huán)節(jié)，體現(xiàn)了科學(xué)、安全、有序的治理思路。
其次，制定公開透明規(guī)則，保證深度合成服務(wù)有規(guī)可循。《規(guī)定》認(rèn)為深度合成服務(wù)提供者應(yīng)當(dāng)制定、公開管理規(guī)則及平臺(tái)公約，并對使用者依法進(jìn)行身份信息認(rèn)證。此項(xiàng)舉措能夠有效保證日后追責(zé)有規(guī)可循、有跡可查，進(jìn)一步為責(zé)任劃分作出明確指示。
第三，建立內(nèi)容審核機(jī)制，確保深度合成內(nèi)容合法合規(guī)。《規(guī)定》明確要求加強(qiáng)內(nèi)容管理，確保輸入數(shù)據(jù)處理正當(dāng)、合法，建立健全特征庫，針對深度合成結(jié)果進(jìn)行審核，切實(shí)確保深度合成服務(wù)被正確使用。這一要求有利于維護(hù)數(shù)據(jù)和個(gè)人的信息安全。
最后，定期開展安全評估，預(yù)防信息安全風(fēng)險(xiǎn)。《規(guī)定》強(qiáng)調(diào)應(yīng)避免深度合成服務(wù)被有心之人亂用，破壞社會(huì)和諧及安全穩(wěn)定，應(yīng)當(dāng)對涉及生物識(shí)別信息、國家安全、社會(huì)公共利益的模型開展安全評估，排查防范可能存在的風(fēng)險(xiǎn)漏洞。這就要求深度合成服務(wù)提供者應(yīng)不斷自查自省，提高自身的技術(shù)水平，降低系統(tǒng)性的安全風(fēng)險(xiǎn)，力求從根源杜絕服務(wù)濫用亂象。
三、明確深度合成內(nèi)容標(biāo)識(shí)管理制度，加強(qiáng)深度合成信息管理
《規(guī)定》聚焦深度合成信息內(nèi)容的規(guī)范化管理，確保深度合成內(nèi)容可識(shí)別、可追溯，保障人民群眾的財(cái)產(chǎn)安全，確?；ヂ?lián)網(wǎng)信息傳播秩序和國家安全、社會(huì)穩(wěn)定。《規(guī)定》從以下兩個(gè)方面明確了深度合成內(nèi)容標(biāo)識(shí)管理的具體要求。
首先，添加不影響使用的標(biāo)識(shí)，保障深度合成信息內(nèi)容可識(shí)別溯源。《規(guī)定》要求深度合成服務(wù)提供者對其提供的深度合成信息內(nèi)容添加不影響使用的標(biāo)識(shí)，保存日志信息，確保該合成信息的發(fā)布、傳播可被自身識(shí)別和溯源。一旦深度合成信息內(nèi)容被非法使用，相關(guān)部門可以迅速溯源追蹤信息流向、阻斷信息傳播、鎖定犯罪分子，提高執(zhí)法效率，減少因此造成的損失。
其次，使用顯著方式對顯著改變信息內(nèi)容的深度合成信息內(nèi)容進(jìn)行標(biāo)識(shí)，保障公眾知情權(quán)。《規(guī)定》要求對生成或者顯著改變信息內(nèi)容的深度合成信息內(nèi)容，應(yīng)當(dāng)使用顯著方式進(jìn)行標(biāo)識(shí)，向社會(huì)公眾有效提示信息內(nèi)容的合成情況。對其他深度合成信息內(nèi)容，應(yīng)當(dāng)提供進(jìn)行顯著標(biāo)識(shí)的功能，并提示使用者可以自行標(biāo)識(shí)。這一要求能夠有效防止不法分子利用他人生成的深度合成信息進(jìn)行造謠和詐騙等非法行為，有利于保障人民群眾的知情權(quán)、財(cái)產(chǎn)安全和社會(huì)的和諧穩(wěn)定。
四、堅(jiān)持依法管理，為科技應(yīng)用保駕護(hù)航
《規(guī)定》以深化互聯(lián)網(wǎng)信息服務(wù)依法管理的客觀要求為出發(fā)點(diǎn)，建立完善的深度合成信息服務(wù)管理體系，確保深度合成技術(shù)應(yīng)用過程中的信息安全。具體措施分為以下幾個(gè)方面：
首先，堅(jiān)決明確主體責(zé)任。《規(guī)定》要求互聯(lián)網(wǎng)應(yīng)用商店服務(wù)提供者應(yīng)依法依約履行安全管理責(zé)任，保障上線產(chǎn)品的合法化，建立健全辟謠機(jī)制并及時(shí)采取相應(yīng)的辟謠措施?！兑?guī)定》對深度合成技術(shù)的生產(chǎn)者和使用者進(jìn)行引導(dǎo)，使其遵守法律法規(guī)，樹立正確的價(jià)值取向，營造良好的網(wǎng)絡(luò)氛圍。
其次，堅(jiān)決落實(shí)管理制度。《規(guī)定》要求深度合成服務(wù)提供者應(yīng)當(dāng)設(shè)置便捷高效的用戶服務(wù)體系，按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》有關(guān)規(guī)定履行備案手續(xù)并予以公示，對具有輿論屬性或者社會(huì)動(dòng)員能力的相關(guān)產(chǎn)品按照國家有關(guān)規(guī)定開展安全評估?！兑?guī)定》從多個(gè)維度落實(shí)監(jiān)管措施，提高用戶服務(wù)體驗(yàn)，維護(hù)信息安全。
最后，堅(jiān)決履行監(jiān)管要求。《規(guī)定》要求各級網(wǎng)信部門對深度合成信息服務(wù)提供者履行深度合成信息內(nèi)容管理主體責(zé)任情況開展監(jiān)督檢查，深度合成服務(wù)提供者對網(wǎng)信部門依法實(shí)施的監(jiān)督檢查，應(yīng)當(dāng)予以配合，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助?！兑?guī)定》確保了互聯(lián)網(wǎng)信息服務(wù)管理有法可依、有法必依、執(zhí)法必嚴(yán)、違法必究。（作者：陶建華，中國科學(xué)院自動(dòng)化研究所研究員）
