隨著大數(shù)據(jù)和人工智能技術(shù)的快速發(fā)展，算法推薦技術(shù)在互聯(lián)網(wǎng)信息服務(wù)中得到廣泛應(yīng)用，與此同時算法應(yīng)用中存在的違法和不良信息傳播、侵害用戶權(quán)益、操縱社會輿論等亂象問題也屢次出現(xiàn)。2021年12月31日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)管總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《規(guī)定》）。作為互聯(lián)網(wǎng)信息服務(wù)領(lǐng)域貫徹落實《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護法》的重要舉措，《規(guī)定》聚焦算法推薦服務(wù)亂象問題，構(gòu)建算法安全治理體系，有效規(guī)范了互聯(lián)網(wǎng)信息服務(wù)算法推薦活動。
一、《規(guī)定》為應(yīng)對算法推薦亂象提供指引和規(guī)范
（一）聚焦違法和不良信息傳播問題，引導(dǎo)算法應(yīng)用合理規(guī)范
當(dāng)前，算法推薦服務(wù)提供者在開展新聞信息推送、熱點榜單、信息發(fā)布等活動時，存在傳播違法和不良信息的亂象：一是利用生成合成類算法自動合成新聞、帖子等，未作顯著標(biāo)識造成虛假信息夸大傳播；二是采用定向推送類算法在首頁首屏、彈窗等，扎堆推送惡性案件、災(zāi)難事故等負(fù)面信息誘發(fā)社會恐慌；三是利用排序精選類算法生成熱搜、榜單等，片面追求流量，大肆炒作娛樂八卦、低俗惡俗等有悖社會主義核心價值觀內(nèi)容。
針對違法和不良信息傳播問題，《規(guī)定》明確算法推薦服務(wù)向上向善的原則，提出算法推薦服務(wù)提供者應(yīng)建立健全用于識別違法和不良信息的特征庫、顯著標(biāo)識算法生成合成信息、加強版面頁面生態(tài)管理、重點環(huán)節(jié)積極呈現(xiàn)主流價值導(dǎo)向信息等多項措施，鼓勵符合主流價值導(dǎo)向的正能量傳播。
（二）聚焦侵害用戶權(quán)益亂象，引導(dǎo)算法應(yīng)用公正公平
當(dāng)前，算法推薦服務(wù)提供者在開展調(diào)度決策、個性化推薦等活動時，存在侵害用戶權(quán)益的亂象：一是大數(shù)據(jù)殺熟問題，即根據(jù)消費者的偏好、交易習(xí)慣等特征，在交易價格等交易條件上實行不合理的差別待遇；二是誘導(dǎo)沉迷網(wǎng)絡(luò)問題，即設(shè)置誘導(dǎo)用戶沉迷、過度消費的算法模型，尤其是利用算法推薦誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)；三是勞動權(quán)益保障問題，采用調(diào)度決策類算法進行工作調(diào)度時，未保障平臺內(nèi)勞動就業(yè)者（如網(wǎng)約配送員、網(wǎng)約車駕駛員等）在勞務(wù)報酬、休息休假等方面的勞動權(quán)益；四是偏見歧視問題，將違法和不良信息關(guān)鍵詞記入用戶興趣點，或者設(shè)置歧視性、偏見性用戶標(biāo)簽來推送信息內(nèi)容；五是未成年人和老年人權(quán)益保障問題，向未成年人推送可能影響身心健康的信息，未充分考慮老年人適老化需求等。
針對侵害用戶權(quán)益亂象，《規(guī)定》明確算法推薦服務(wù)公正公平的原則，提出算法推薦服務(wù)提供者應(yīng)定期審核評估算法、加強用戶模型和用戶標(biāo)簽管理、公開算法推薦服務(wù)相關(guān)規(guī)則、保障用戶選擇或退出使用算法推薦服務(wù)的權(quán)利、建立用戶申訴渠道等多種措施，保障未成年人、老年人、勞動者權(quán)益，引導(dǎo)算法應(yīng)用遵守社會公德和倫理，遵守商業(yè)道德和職業(yè)道德。
（三）聚焦操縱社會輿論亂象，引導(dǎo)算法應(yīng)用公開透明
當(dāng)前，算法推薦服務(wù)提供者在開展個性化推薦、熱點榜單、信息發(fā)布等活動時，存在操縱社會輿論亂象：一是采用個性化推薦算法按照用戶偏好頻繁推薦感興趣的內(nèi)容，久而久之形成用戶意見極化的“信息繭房”；二是利用算法注冊虛假賬號、雇傭網(wǎng)絡(luò)水軍，實施虛假點贊、轉(zhuǎn)發(fā)等流量造假，或者鼓動“飯圈”粉絲互撕謾罵、刷量控評等飯圈亂象；三是利用算法屏蔽信息、過度推薦，操縱干預(yù)熱搜、榜單或檢索結(jié)果排序；四是實施自我優(yōu)待，影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)管，如惡意屏蔽其他企業(yè)的網(wǎng)址鏈接等。
針對操縱社會輿論亂象，《規(guī)定》明確算法推薦服務(wù)公開透明的原則，鼓勵算法推薦服務(wù)提供者綜合運用內(nèi)容去重、打散干預(yù)等策略、增強規(guī)則透明度和可解釋性；明確規(guī)定算法推薦服務(wù)禁止行為，如不得利用算法對其他互聯(lián)網(wǎng)信息服務(wù)提供者進行不合理限制等，保障國家安全、公共利益及組織和個人合法權(quán)益。
二、《規(guī)定》為國家建立算法安全治理體系打下制度基礎(chǔ)
（一）強化企業(yè)主體責(zé)任，建立多方參與的算法推薦服務(wù)治理機制
《規(guī)定》圍繞算法推薦服務(wù)，建立政府、企業(yè)、行業(yè)組織和網(wǎng)民多方參與的治理機制。一是明確政府監(jiān)管職責(zé)?！兑?guī)定》明確國家網(wǎng)信部門負(fù)責(zé)統(tǒng)籌協(xié)調(diào)全國算法推薦服務(wù)治理和監(jiān)督管理工作，工信、公安、市場監(jiān)管等有關(guān)部門依據(jù)各自職責(zé)負(fù)責(zé)監(jiān)督管理工作，同時通過《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》建立網(wǎng)信、宣傳、教育、科技等多部門協(xié)同聯(lián)動長效機制，共同開展算法安全治理工作；二是強化企業(yè)主體責(zé)任?！兑?guī)定》要求算法推薦服務(wù)提供者應(yīng)當(dāng)落實算法安全主體責(zé)任，建立健全算法安全管理制度和技術(shù)措施，配備相應(yīng)的專業(yè)人員和技術(shù)支撐；三是鼓勵行業(yè)自律。《規(guī)定》鼓勵相關(guān)行業(yè)組織加強行業(yè)自律，建立健全行業(yè)準(zhǔn)則，督促指導(dǎo)算法推薦服務(wù)提供者接受社會監(jiān)督；四是倡導(dǎo)社會監(jiān)督。《規(guī)定》鼓勵廣大網(wǎng)民積極參與算法安全治理工作，要求算法推薦服務(wù)提供者設(shè)置公眾投訴舉報入口，及時處理網(wǎng)民投訴舉報請求。
（二）創(chuàng)新技術(shù)監(jiān)管模式，建立事前事中事后的算法推薦服務(wù)監(jiān)管措施
《規(guī)定》提出貫穿算法推薦服務(wù)事前事中事后的監(jiān)管體系。一是分級分類安全管理。《規(guī)定》根據(jù)算法推薦服務(wù)的輿論屬性或者社會動員能力、用戶規(guī)模、處理的數(shù)據(jù)敏感程度等對服務(wù)提供者實施分級分類管理，并對具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者提出更嚴(yán)格的管理要求；二是建立算法備案制度?！兑?guī)定》要求具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者在提供服務(wù)之日起十個工作日內(nèi)，對服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域等信息進行備案；三是建立算法安全評估機制?！兑?guī)定》要求具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)按照國家有關(guān)規(guī)定開展安全評估；四是開展算法監(jiān)督檢查?！兑?guī)定》規(guī)定網(wǎng)信部門會同有關(guān)部門開展算法安全評估和監(jiān)督檢查工作，同時嚴(yán)厲打擊算法推薦違法違規(guī)行為。
三、小結(jié)
互聯(lián)網(wǎng)信息服務(wù)算法安全管理以《規(guī)定》為基礎(chǔ)，打造政府監(jiān)管、企業(yè)履責(zé)、行業(yè)自律、社會監(jiān)督的算法安全多元共治局面，在促進算法健康、有序、繁榮發(fā)展，營造風(fēng)清氣正的網(wǎng)絡(luò)空間，弘揚社會主義核心價值觀的道路上邁出了重要的一步。下一步為貫徹落實《規(guī)定》可開展以下措施：
一是大力加強《規(guī)定》宣傳貫徹培訓(xùn)。做好《規(guī)定》宣傳推廣、普及培訓(xùn)，面向互聯(lián)網(wǎng)企業(yè)、人工智能企業(yè)、重點行業(yè)企業(yè)等開展針對性宣傳解讀，形成共識；鼓勵行業(yè)組織制定行業(yè)自律規(guī)則，指導(dǎo)會員加強算法推薦行業(yè)自律；針對廣大網(wǎng)民當(dāng)前最關(guān)心、反映最強烈的算法安全問題，積極開展算法安全科普培訓(xùn)，形成國家、企業(yè)、個人共同參與算法安全治理工作的良好局面。
二是建立算法安全檢查評估機制。盡快建立《規(guī)定》配套的算法安全檢查評估機制，推動算法推薦服務(wù)提供者開展算法安全自評估，督促具有輿論屬性或者社會動員能力的算法推薦服務(wù)者按照國家有關(guān)規(guī)定開展算法安全評估，建設(shè)安全檢查評估力量，支撐有關(guān)部門對算法推薦服務(wù)進行安全檢查，督促算法推薦服務(wù)提供者及時發(fā)現(xiàn)和整改相關(guān)問題。
三是開展算法安全技術(shù)能力建設(shè)。算法推薦技術(shù)作為一種新技術(shù)模式，面臨一些新型技術(shù)安全、應(yīng)用安全甚至倫理安全風(fēng)險，為支撐《規(guī)定》落地實施，亟需加強算法安全技術(shù)能力建設(shè)，深入研究生成合成、個性化推薦、排序精選、檢索過濾、調(diào)度決策等算法的安全問題，建設(shè)算法推薦服務(wù)備案、算法安全評估、算法安全風(fēng)險監(jiān)測等平臺，提升互聯(lián)網(wǎng)信息服務(wù)算法推薦技術(shù)監(jiān)管能力。
四是加強算法安全標(biāo)準(zhǔn)化工作。基于問題導(dǎo)向、急用先行原則，加快推動算法相關(guān)技術(shù)標(biāo)準(zhǔn)發(fā)布，研究制定算法安全評估、算法分級分類安全管理等標(biāo)準(zhǔn)，進一步發(fā)揮標(biāo)準(zhǔn)對算法安全評估等工作的支撐作用；積極開展新技術(shù)新應(yīng)用標(biāo)準(zhǔn)化前瞻研究，圍繞人工智能、區(qū)塊鏈等新技術(shù)新應(yīng)用帶來的安全問題和風(fēng)險挑戰(zhàn)，開展標(biāo)準(zhǔn)化前沿研究和標(biāo)準(zhǔn)化技術(shù)文件研制，不斷提升標(biāo)準(zhǔn)化工作的引領(lǐng)性、前瞻性。（作者：楊建軍，中國電子技術(shù)標(biāo)準(zhǔn)化研究院黨委書記）
