近年來，大數(shù)據(jù)、物聯(lián)網(wǎng)、云計算等新一代信息技術(shù)快速發(fā)展，數(shù)字化、網(wǎng)絡(luò)化、智能化加速推進，新技術(shù)新應(yīng)用新業(yè)態(tài)蓬勃興起。作為數(shù)字經(jīng)濟時代的重要底層架構(gòu)，算法逐步成為影響內(nèi)容分發(fā)、服務(wù)提供、資源配置的基礎(chǔ)性力量，與此同時，算法也引發(fā)了群體歧視、算法合謀、信息繭房等一系列問題，給公眾利益、社會穩(wěn)定和國家安全帶來巨大挑戰(zhàn)。習(xí)近平總書記多次強調(diào)，要依法加強網(wǎng)絡(luò)社會管理，加強網(wǎng)絡(luò)新技術(shù)新應(yīng)用的管理，確保互聯(lián)網(wǎng)可管可控。2021年12月31日，國家網(wǎng)信辦聯(lián)合工業(yè)和信息化部、公安部、市場監(jiān)管總局出臺《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《規(guī)定》），針對當(dāng)前突出問題，全面搭建了算法綜合治理機制，邁出我國新技術(shù)新應(yīng)用立法的重要一步。
一、堅持問題導(dǎo)向，聚焦人民群眾反映強烈的算法問題
堅持以人民為中心，是習(xí)近平新時代中國特色社會主義思想的重要內(nèi)容，貫穿于習(xí)近平新時代中國特色社會主義思想的各個方面。全面貫徹落實以人民為中心，要求突出問題導(dǎo)向、目標(biāo)導(dǎo)向，積極回應(yīng)群眾強烈訴求和急難愁盼問題。當(dāng)前，算法技術(shù)廣泛滲入互聯(lián)網(wǎng)應(yīng)用，深入貼近人民生活，由算法引發(fā)的信息繭房、算法歧視、未成年人網(wǎng)絡(luò)沉迷、騎手安全、不正當(dāng)競爭等新問題層出不窮，引發(fā)社會廣泛關(guān)注。
《規(guī)定》聚焦重點、抓綱帶目，對上述新問題、新挑戰(zhàn)進行了全面、系統(tǒng)和具體回應(yīng)，進一步細化用戶權(quán)利，切實維護用戶自主權(quán)利。一是強化算法透明度，保障用戶知情權(quán)。算法透明是實施算法監(jiān)督、自主選擇的重要前提，也是在損害發(fā)生后用戶進行權(quán)利救濟的必要保障。《規(guī)定》明確了平臺應(yīng)用算法的告知義務(wù)，對算法基本原理、目的意圖和主要運行機制等的公示義務(wù)，并鼓勵平臺優(yōu)化對檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性。二是賦予用戶退出個性化推薦的權(quán)利。與《個人信息保護法》《電子商務(wù)法》相銜接，《規(guī)定》第十七條規(guī)定了平臺向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)選項的義務(wù)。三是創(chuàng)新性提出對用戶標(biāo)簽的管理權(quán)，確保用戶對輸入數(shù)據(jù)的適當(dāng)干預(yù)。根據(jù)《規(guī)定》的要求，用戶可選擇或刪除用于算法推薦服務(wù)的針對其個人特征的用戶標(biāo)簽，從輸入數(shù)據(jù)層面實現(xiàn)更大自主權(quán)。此外，《規(guī)定》重點強化對未成年人、老年人、勞動者、消費者等特定群體的權(quán)益保護。
二、堅持底線思維，夯實平臺算法安全治理的主體責(zé)任
當(dāng)前，人工智能、大數(shù)據(jù)等新技術(shù)新應(yīng)用體現(xiàn)出重大國家戰(zhàn)略意義，關(guān)系國家安全和公共利益，這更加要求我們堅持底線思維，著力防范化解算法帶來的政治安全、意識形態(tài)安全、社會秩序等方面重大風(fēng)險。在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護法》等頂層立法框架下，《規(guī)定》與近年國家網(wǎng)信辦出臺的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)用戶公眾賬號信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》等互聯(lián)網(wǎng)信息服務(wù)相關(guān)法律規(guī)范有效銜接、一脈相承。例如，《規(guī)定》對《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第十二條個性化算法推薦技術(shù)的人工干預(yù)和自主選擇機制，以及《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》第十條有關(guān)深度學(xué)習(xí)、虛擬現(xiàn)實等新技術(shù)新應(yīng)用的安全評估義務(wù)等制度，均作了進一步規(guī)定。
基于網(wǎng)絡(luò)平臺的技術(shù)、數(shù)據(jù)優(yōu)勢，強化網(wǎng)絡(luò)平臺在算法運行中的全流程主體責(zé)任，成為《規(guī)定》的重要內(nèi)容。一是《規(guī)定》以基于風(fēng)險的規(guī)制為基本理念，確立了算法定期審核、評估等要求。重點強調(diào)對算法相關(guān)的數(shù)據(jù)、模型等進行評估審查，規(guī)定平臺應(yīng)當(dāng)定期審核、評估、驗證算法機制機理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等內(nèi)容，應(yīng)當(dāng)建立健全安全評估監(jiān)測、安全事件應(yīng)急處置等管理制度。二是《規(guī)定》注重技術(shù)治理手段，并確立了負面清單制度。鼓勵平臺綜合運用內(nèi)容去重、打散干預(yù)等技術(shù)策略，積極化解信息繭房，實現(xiàn)信息多樣性，同時在不正當(dāng)競爭、勞動保障、大數(shù)據(jù)殺熟等方面確立了多項禁止性行為，為算法推薦服務(wù)劃定底線紅線。三是《規(guī)定》重點強調(diào)在網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理中的主體責(zé)任。要求平臺建立健全算法機制機理審核、科技倫理審查、用戶注冊、信息發(fā)布審核等管理制度，不得利用算法操縱榜單、控制熱搜等干預(yù)信息呈現(xiàn)，在各個重點環(huán)節(jié)積極呈現(xiàn)符合主流價值導(dǎo)向的信息等。
三、堅持良法善治，推進新技術(shù)新應(yīng)用監(jiān)管的中國路徑
當(dāng)前，算法等新技術(shù)新應(yīng)用已經(jīng)成為推動企業(yè)數(shù)字化轉(zhuǎn)型和國家治理能力現(xiàn)代化的重要力量，推動算法技術(shù)應(yīng)用中的良法善治意義重大。良法善治意味著應(yīng)堅持從中國實際出發(fā)，立足我國基本國情，統(tǒng)籌考慮經(jīng)濟社會發(fā)展?fàn)顩r、法治建設(shè)總體進程、人民群眾需求變化等綜合因素，借鑒國際社會有益經(jīng)驗，確保各項制度設(shè)計有效落實?！兑?guī)定》在借鑒國外經(jīng)驗基礎(chǔ)上，提出事前監(jiān)管、區(qū)分監(jiān)管、系統(tǒng)監(jiān)管等思路，貢獻了新技術(shù)新應(yīng)用監(jiān)管的中國智慧和中國方案。
一是事前監(jiān)管，確立算法備案、算法評估等制度。《規(guī)定》對具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者提出了備案要求，要求通過算法備案系統(tǒng)填報服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評估報告、擬公示內(nèi)容等信息，有效應(yīng)對算法黑箱問題。針對變更備案信息的要求進一步體現(xiàn)了監(jiān)管靈活性和敏捷性優(yōu)勢。二是區(qū)分監(jiān)管，確立分級分類的思路。《規(guī)定》從全局角度出發(fā)，在復(fù)雜多變局面下統(tǒng)籌發(fā)展和安全、效率和公平、活力和秩序，引導(dǎo)技術(shù)向上向善發(fā)展。其中，第二十三條確立了算法分級分類的標(biāo)準(zhǔn)，要求根據(jù)算法推薦服務(wù)的輿論屬性或者社會動員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對用戶行為的干預(yù)程度等，對算法推薦服務(wù)提供者進行差異化管理。三是系統(tǒng)監(jiān)管，建立多元共治的局面。《規(guī)定》著力完善治理體系，統(tǒng)籌各方建立完整制度鏈條。優(yōu)化監(jiān)管框架，實現(xiàn)事前事中事后全流程、全鏈條監(jiān)管，增強監(jiān)管系統(tǒng)性和權(quán)威性；注重充實算法監(jiān)管力量，培育算法治理的社會性支撐力量，如第三方評估機構(gòu)、外部專家團隊，推動行業(yè)自律和出臺標(biāo)準(zhǔn)指南；推進公眾監(jiān)督，暢通社會監(jiān)督和申訴渠道，并切實有效處理公眾訴求。
整體來看，在立法目的上，《規(guī)定》注重推動算法安全可信和技術(shù)創(chuàng)新之間的有效平衡。一方面建立健全算法安全治理機制，構(gòu)建完善的算法安全監(jiān)管體系，另一方面，注重推進算法自主創(chuàng)新，促進算法健康、有序、繁榮發(fā)展。在治理理念上，《規(guī)定》體現(xiàn)個人賦權(quán)和系統(tǒng)治理相結(jié)合的算法治理趨勢。在賦予用戶算法知情權(quán)、自主選擇權(quán)等權(quán)利的同時，注重從事前、事中、事后全流程對輸入數(shù)據(jù)、算法邏輯等全要素進行系統(tǒng)治理。在行為規(guī)范上，注重堅持正確導(dǎo)向和底線思維。強調(diào)算法應(yīng)遵循技術(shù)倫理，以主流價值觀為引領(lǐng)，強化算法透明度義務(wù)規(guī)范；同時建立算法運行的負面清單，禁止利用算法影響網(wǎng)絡(luò)輿論、實施壟斷和不正當(dāng)競爭等行為。下一步，建議進一步健全算法安全治理機制，強化監(jiān)管執(zhí)法和多元協(xié)同治理，落實平臺主體責(zé)任，推動數(shù)字經(jīng)濟發(fā)展行穩(wěn)致遠。（作者：王愛華，中國信息通信研究院副總工程師）
