在數(shù)字經(jīng)濟(jì)時代，算法是一種重要的生產(chǎn)工具。算法推薦技術(shù)被廣泛應(yīng)用于信息分發(fā)和媒體傳播領(lǐng)域，帶來“信息繭房”、“大數(shù)據(jù)殺熟”、“困在系統(tǒng)里”等社會隱憂，規(guī)范算法推薦活動迫在眉睫。習(xí)近平總書記在談媒體融合發(fā)展時強調(diào)，用主流價值導(dǎo)向駕馭“算法”，全面提高輿論引導(dǎo)能力。近日，國家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《規(guī)定》）正當(dāng)其時，為規(guī)范算法推薦服務(wù)提出了科學(xué)化、系統(tǒng)化、精細(xì)化的合規(guī)要求，織密了我國算法治理的法治之網(wǎng)，是構(gòu)建我國算法治理體系的重要一環(huán)。
一、《規(guī)定》的重要內(nèi)容和亮點
（一）明確了算法治理的對象。《規(guī)定》對應(yīng)用算法推薦技術(shù)進(jìn)行了界定，即指應(yīng)用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息?！兑?guī)定》針對算法調(diào)度場景、商品定價場景、個性化推薦場景等以負(fù)面清單的方式對算法推薦服務(wù)提供者提出了具體的合規(guī)要求，回應(yīng)了“騎手困在系統(tǒng)里”、“大數(shù)據(jù)殺熟”、“網(wǎng)絡(luò)沉迷”、“未成年人保護(hù)”等社會熱點問題。
（二）確立了算法治理的基本原則。在算法治理中堅持“硬法”和“軟法”相結(jié)合是國際通行做法，一方面防范重大風(fēng)險發(fā)生，另一方面激發(fā)市場主體主動合規(guī)的積極性?！兑?guī)定》要求算法推薦服務(wù)提供者既應(yīng)當(dāng)遵守法律法規(guī)，尊重社會公德和倫理，遵守商業(yè)道德和職業(yè)道德，也應(yīng)當(dāng)遵循公正公平、公開透明、科學(xué)合理和誠實信用的原則。
（三）重視自我合規(guī)，鼓勵行業(yè)自律。《規(guī)定》鼓勵相關(guān)行業(yè)組織加強行業(yè)自律，建立健全自律制度和行業(yè)準(zhǔn)則，組織制定行業(yè)標(biāo)準(zhǔn)。通過行業(yè)自律和制定行業(yè)標(biāo)準(zhǔn)的方式可以將各個參與主體納入其中，利于形成多元主體共治的格局，充分發(fā)揮社會公眾的監(jiān)督作用。
（四）堅持社會主義價值觀導(dǎo)向，促進(jìn)算法應(yīng)用向上向善。國際社會主張人工智能的“倫理設(shè)計”，即在人工智能設(shè)計研發(fā)階段就導(dǎo)入倫理規(guī)則，實現(xiàn)全生命周期的治理。我國強調(diào)社會主義核心價值觀，構(gòu)建符合我國國情的倫理道德標(biāo)準(zhǔn)?！兑?guī)定》要求算法推薦服務(wù)提供者應(yīng)當(dāng)堅持主流價值導(dǎo)向，優(yōu)化算法推薦服務(wù)機制，積極傳播正能量，促進(jìn)算法應(yīng)用向上向善。特別是在算法設(shè)計過程中，算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評估、驗證算法機制機理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，不得設(shè)置誘導(dǎo)用戶沉迷或者過度消費等違反法律法規(guī)或者違背倫理道德的算法模型。
（五）突出體現(xiàn)以人為本，重視對特殊群體的權(quán)益保護(hù)。《規(guī)定》對用戶權(quán)益保護(hù)進(jìn)行了專章規(guī)定，要求算法推薦服務(wù)提供者向用戶告知算法的基本原理、目的意圖和主要運行機制等，以提高算法的透明度。同時，要求算法推薦服務(wù)提供者充分保障用戶選擇關(guān)閉和獲得算法解釋的權(quán)利?！兑?guī)定》還重點強調(diào)算法推薦服務(wù)提供者應(yīng)當(dāng)向未成年人、老年人和勞動者履行特殊的保障義務(wù)，以確保各類社會主體均獲得法律保護(hù)。
二、《規(guī)定》明確了算法治理的主要制度工具
（一）以提高算法透明度和可解釋性為基本要求，增強算法可信。算法具有“黑箱”特征，自動化決策需要人工干預(yù)，避免因算法錯誤而導(dǎo)致決策錯誤。同時，為了增強人們對算法的信任度，應(yīng)以相對簡單、可理解的方式解釋算法規(guī)則。為此，《規(guī)定》要求算法推薦服務(wù)提供者應(yīng)該采取內(nèi)容去重、打散干預(yù)等策略，優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性。而且應(yīng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖、運行機制等。
（二）確立分級分類安全管理制度，實現(xiàn)精準(zhǔn)治理。《規(guī)定》指出應(yīng)根據(jù)算法推薦服務(wù)的輿論屬性或者社會動員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對用戶行為的干預(yù)程度等對算法推薦服務(wù)提供者實施分級分類管理。
（三）提出算法備案制度和安全評估制度，提高治理敏捷性。算法備案制度可以讓監(jiān)管機構(gòu)及時了解算法推薦服務(wù)的內(nèi)容，同時提高算法推薦服務(wù)提供者的責(zé)任意識和安全意識。《規(guī)定》要求具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者履行備案手續(xù)，備案的內(nèi)容包括服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評估報告、擬公示內(nèi)容等信息。
三、未來推進(jìn)算法治理的幾點思考
（一）加快具體制度的落地實施，出臺算法備案和算法安全評估實施細(xì)則。備案制度和安全評估制度是實現(xiàn)敏捷治理目標(biāo)的很好的制度設(shè)計，但具體程序、具體要求和實施機制需要明確，相關(guān)義務(wù)主體的標(biāo)準(zhǔn)也需要進(jìn)一步細(xì)化。
（二）推動建立機制健全、體系完善、規(guī)則明晰的算法治理體系。此次《規(guī)定》是對算法推薦應(yīng)用這一場景的治理嘗試，也是算法治理的中國方案。考慮到算法逐漸被廣泛應(yīng)用于各類場景，未來應(yīng)該為算法治理建立一套普遍適用的規(guī)則體系，從而切實有效規(guī)范各種應(yīng)用場景下的算法。
（三）完善多元主體協(xié)同共治的治理格局。算法治理是一項專業(yè)、復(fù)雜的長期工程，面臨挑戰(zhàn)和困境。算法治理應(yīng)該充分發(fā)揮多元主體的作用，讓各個主體參與其中，形成治理合力。
總之，《規(guī)定》的頒布意味著我國算法治理工作進(jìn)入新階段。算法推薦服務(wù)提供者應(yīng)該認(rèn)真學(xué)習(xí)和理解《規(guī)定》，并嚴(yán)格落實主體責(zé)任。廣大用戶也應(yīng)該積極提高算法素養(yǎng)，有效維護(hù)自身合法權(quán)益。（作者：梁正 清華大學(xué)公共管理學(xué)院教授，人工智能國際治理研究院副院長）
