深度合成服務是我國互聯(lián)網(wǎng)信息內容治理的重要領域，因其對互聯(lián)網(wǎng)信息內容安全存在巨大影響，是具有高敏感的算法推薦服務種類。中共中央印發(fā)的《法治社會建設實施綱要（2020-2025年）》中，明確提出將深度偽造立法作為完善網(wǎng)絡信息服務法律法規(guī)的重要項目?！痘ヂ?lián)網(wǎng)信息服務算法推薦管理規(guī)定》中將生成合成類算法作為五類算法推薦服務之首進行規(guī)制。由此可見，規(guī)范深度合成技術、應用及服務在我國互聯(lián)網(wǎng)治理中的重要地位?！痘ヂ?lián)網(wǎng)信息服務深度合成管理規(guī)定》（下文簡稱《規(guī)定》）的頒布實施，標志著我國算法安全治理體系的進一步完善?！兑?guī)定》將深度合成為代表的生成合成類算法作為算法安全治理體系細化的第一步，一方面是由于深度合成屬于高敏感性的與互聯(lián)網(wǎng)信息內容安全息息相關的技術應用，另一方面是因為深度合成技術將成為網(wǎng)絡虛擬空間與現(xiàn)實物理世界虛實結合、融為一體的關鍵技術應用，未來存在巨大發(fā)展空間。
一、聚焦深度合成信息內容安全
深度合成技術能否被合法應用，是關系互聯(lián)網(wǎng)信息內容安全的大事。虛假信息一直是互聯(lián)網(wǎng)治理的痛點與難點，深度合成技術的廣泛應用則對虛假信息的治理提出了更高的要求。俗語說“耳聽為虛，眼見為實”“有圖有真相”，可見照片、視頻在公眾潛意識中的真實性遠勝文字。而深度合成技術則恰恰顛覆了這一公眾認知，可以偽造音頻、圖片、視頻，捏造人物的行為與語言。作為人工智能深度學習領域的一個分支，深度合成技術在近幾年迅速興起，為政治、軍事、經(jīng)濟犯罪甚至恐怖活動等提供了新工具，帶來嚴峻安全挑戰(zhàn)。
基于深度合成一旦被濫用可能造成的巨大風險，近年來我國陸續(xù)頒布法律法規(guī)，回應深度合成技術帶來的挑戰(zhàn)。2020年，國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局三部門聯(lián)合頒布實施《網(wǎng)絡音視頻信息服務管理規(guī)定》，明確提出對基于深度學習、虛擬現(xiàn)實等新技術新應用上線具有媒體屬性或社會動員功能的音視頻信息服務開展安全評估，對非真實音視頻信息進行標識，不得利用深度學習技術制作并傳播虛假新聞信息，部署鑒別技術，盡快建立辟謠機制等措施。2020年，《網(wǎng)絡信息內容生態(tài)治理規(guī)定》要求網(wǎng)絡信息內容服務使用者和網(wǎng)絡信息內容生產(chǎn)者、網(wǎng)絡信息內容服務平臺不得利用深度學習、虛擬現(xiàn)實等新技術新應用從事法律、行政法規(guī)禁止的活動。2021年開始實施的《民法典》人格權編中明確規(guī)定，不論是否出于營利目的，均不得利用信息技術手段偽造他人肖像、聲音。2022年，《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》明確要求不得生成合成虛假新聞信息。
此次《規(guī)定》聚焦深度合成服務，與既往法律法規(guī)一脈相承，以保障互聯(lián)網(wǎng)信息內容安全為主要目標?！兑?guī)定》要求深度合成服務提供者和使用者不得利用深度合成服務制作、復制、發(fā)布、傳播虛假新聞信息。轉載基于深度合成服務制作發(fā)布的新聞信息的，應當依法轉載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息。《規(guī)定》同時要求任何組織和個人不得利用深度合成服務制作、復制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，并要求深度合成服務提供者建立健全辟謠機制。
以互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能為代表的數(shù)字領域是我國發(fā)展最快、創(chuàng)新最活躍、輻射最廣泛的新興領域，是公民聚集規(guī)模最大的領域。截至2022年6月，我國網(wǎng)民規(guī)模達10.51億，互聯(lián)網(wǎng)已成為參與人數(shù)最多的輿論場、意識形態(tài)斗爭的主戰(zhàn)場。確保深度合成服務應用在法律邊界內運行，落實深度合成服務提供者信息安全主體責任，建立深度合成信息內容的辟謠機制，都是《規(guī)定》為確保網(wǎng)絡信息內容安全建立的制度保障。
二、明晰深度合成產(chǎn)業(yè)合規(guī)框架
《規(guī)定》的亮點與特色是結合深度合成技術、服務、應用的特點，將監(jiān)管的觸角從信息內容服務層面深入到了技術開發(fā)應用層面，將監(jiān)管的對象從深度合成服務提供者拓展至深度合成技術支持者和使用者，同時對深度合成服務提供者和技術支持者提出了明確的技術要求。這些深度合成的合規(guī)要求主要體現(xiàn)于“數(shù)據(jù)和技術管理”規(guī)范專章。
第一，監(jiān)管從信息內容服務層面深入到技術開發(fā)應用層面。這是由于一方面深度合成技術的開源開放使得深度合成門檻越來越低，普通民眾僅需少量的圖像、視頻、音頻、文本等樣本數(shù)據(jù)，利用簡便易用的合成工具，就能得到深度合成內容。另一方面，深度合成的技術支持者如何使用訓練數(shù)據(jù)、如何設計算法機制機理、如何開發(fā)應用可搭載的模型模板工具，都直接對深度合成服務的功能應用結果產(chǎn)生影響。因此對互聯(lián)網(wǎng)信息內容的監(jiān)管必須將相關技術開發(fā)環(huán)節(jié)納入監(jiān)管范疇。
第二，監(jiān)管對象從服務提供者擴展到技術支持者與使用者。一是《規(guī)定》將深度合成服務提供者與技術支持者并置于監(jiān)管對象之列。這既要求深度合成服務提供者履行相關義務，也要求深度合成技術支持者在開發(fā)、測試、訓練相關技術時，就考慮到可能的風險與危害，履行相應的安全評估責任、數(shù)據(jù)安全管理義務等。二是《規(guī)定》尤其強調了服務提供者對使用者（用戶）的管理與提示義務。如要求深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示使用者（用戶）依法告知被編輯的個人并取得其單獨同意。又如要求服務提供者履行管理責任，提示技術支持者和使用者承擔信息安全義務，對使用者輸入數(shù)據(jù)和合成結果進行審核，并提示使用者應顯著標識。
第三，監(jiān)管時點從事后追責前移至技術開發(fā)、應用環(huán)節(jié)，實現(xiàn)問責可追溯。《規(guī)定》要求深度合成服務生成或者編輯的信息內容，必須進行隱式或者顯著標識。這從技術監(jiān)管層面解決了如何對深度合成信息內容進行識別、鑒偽、追蹤的關鍵問題。深度合成服務提供者需要采用技術措施，對深度合成信息內容添加隱式標識，可以實現(xiàn)鑒偽和追蹤的目的；如果達到了可能引起公眾混淆或者誤認的程度，則必須在合理位置區(qū)域打上顯著標識，向公眾提示該信息內容是深度合成的。任何組織和個人不得利用技術手段刪除、篡改、隱匿深度合成標識。
三、引導深度合成技術向上向善
技術原理是中立的，但技術的應用是蘊含著價值取向的。科技進步，不僅要挖掘科技力量為人類賦能，更應展現(xiàn)出人類駕馭與治理技術的智慧。深度合成技術的多樣化應用、縱深性發(fā)展為人類生活便利與科技變革提供了巨大的想象空間，《規(guī)定》的出臺則是我國推進科技倫理進步、加強技術治理、促進產(chǎn)業(yè)規(guī)范健康發(fā)展、引導技術向上向善的重要舉措。
深度合成技術應用多樣、領域多元、形態(tài)多變。定制表情、換裝換發(fā)型軟件給廣大用戶的生活帶來了樂趣和方便。深度合成技術向善使用，更可挽回經(jīng)濟損失，帶給人情感慰藉。如2019年某人工智能實驗室受一位母親所托，將其癌癥離世的女兒做成可以交互的軟件，合成了女兒的語音保存在互動終端設備中。深度合成技術也代表了未來人工智能產(chǎn)業(yè)發(fā)展的重要方向，重新定義了虛擬化數(shù)字生存空間。2021年“元宇宙”概念的爆發(fā)，為深度合成技術提供了更加寬廣的應用場景，同時也促進了深度合成技術的加速發(fā)展。從更廣泛的傳播學社會意義上看，一個新的人類生存場景將以深度合成為基石展開?！兑?guī)定》也回應了這一人工智能未來的發(fā)展方向，三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場景、沉浸式擬真場景的技術，是《規(guī)定》規(guī)制的深度合成技術的重要類別。
由此可見，《規(guī)定》既立足于信息內容安全，也順應了人工智能技術未來發(fā)展趨勢；既重視事后監(jiān)管，也將監(jiān)管的觸角延伸至數(shù)據(jù)訓練、技術開發(fā)等前期時點?！兑?guī)定》為防范深度合成技術風險、規(guī)范深度合成服務、引導深度合成產(chǎn)業(yè)健康持續(xù)有序發(fā)展奠定了堅實基礎。（作者：張凌寒，中國政法大學教授）
