加強信息算法服務綜合治理，促進算法健康有序繁榮發展

◎《網信軍民融合》編輯部 整理

習近平總書記在談關于媒體融合發展時曾提出，我們要增強緊迫感和使命感，推動關鍵核心技術自主創新不斷實現突破，探索將人工智能運用在新聞采集、生產、分發、接收、反饋中，用主流價值導向駕馭“算法”，全面提高輿論引導能力。隨著大數據和人工智能技術的快速發展，算法推薦技術被廣泛應用于信息分發和媒體傳播中，它可以為用戶提個性化、精準化和智能化信息服務，但在它為我們帶來便利的同時，其不合理應用也帶來了“大數據殺熟”“信息繭房”“算法歧視”等問題，給維護意識形態安全、社會公平公正和網民合法權益等帶來諸多挑戰。

為規范互聯網信息服務算法應用生態，2021 年12 月，國家互聯網信息辦公室聯合工業和信息化部、公安部、市場監管總局發布《互聯網信息服務算法推薦管理規定》（下文簡稱《規定》），并將于2022 年3 月1 日起施行。這是我國第一部聚焦算法推薦服務來亂象問題象的部門規章，對我國構建算法安全體系，有效防范互聯網信息服務算法推薦活動，具有重要意義。

（一）完善算法規范體系，促進數據信息安全落地

作為一部由國家網信辦、工業和信息化部、公安部、市場監管總局聯合制定發布的部門規章，《規定》作為貫徹落實《網絡安全法》《數據安全法》《個人信息保護法》的重要舉措，既體現出了數據信息活動的特征，同時也是具有可操作性的行動指南。

一是，在違法和不良信息監管方面，《網絡安全法》第四十七條規定了網絡運營者應當加強對違法信息的管理，《規定》第九條第二款承接細化，規定“發現違法信息的，應當立即停止傳輸，采取消除等處置措施，防止信息擴散，保存有關記錄，并向網信部門和有關部門報告”，并進一步要求“發現不良信息的，應當按照網絡信息內容生態治理有關規定予以處置”。

二是，在數據安全保護義務方面，《規定》的第七條明確落實了《數據安全法》的第二十七條規定，明確了算法推薦服務提供者的算法安全主體責任，對建立健全數據安全和個人信息保護等的管理制度和技術措施、制定相關規則、配套相應人員和技術支撐等作出了要求。

三是，在自動化決策方面，《規定》第十七條第一款承接《個人信息保護法》第二十四條第二款和《電子商務法》第十八條第一款，規定用戶選擇關閉算法推薦服務的，算法推薦服務提供者應當“立即停止”提供相關服務；《規定》第十七條第二款承接落實了《個人信息保護法》中個人信息主體所享有的選擇、刪除等權利，第三款明確提出了算法推薦服務提供者應用算法對用戶權益造成重大影響的，應當依法予以說明并承擔相應責任。

四是，在特定領域的應用方面，按照《互聯網新聞信息服務管理規定》第五條要求，《規定》第十三條明確要求“算法推薦服務提供者提供互聯網新聞信息服務的，應當依法取得互聯網新聞信息服務許可”。

五是，在未成年人網絡保護方面，《未成年人保護法》第七十四條第一款規定網絡產品和服務提供者不得向未成年人提供誘導其沉迷的產品和服務，《規定》第八條和第十八條作了進一步細化，提出了“不得設置誘導用戶沉迷”的要求，并設置了保護未成年人的專門條款。

（二）引導算法合理使用，打造算法推薦治理方案

聚焦算法所帶來的種種亂象，《規定》提供了指引和規范。一是，算法推薦服務提供者在開展新聞信息推送、熱點榜單、信息發布等活動時，存在傳播違法和不良信息的亂象：一是利用生成合成類算法自動合成新聞、帖子等，未作顯著標識造成虛假信息夸大傳播；二是采用定向推送類算法在首頁首屏、彈窗等，扎堆推送惡性案件、災難事故等負面信息誘發社會恐慌；三是利用排序精選類算法生成熱搜、榜單等，片面追求流量，大肆炒作娛樂八卦、低俗惡俗等有悖社會主義核心價值觀內容。基于以上亂象，《規定》明確了算法推薦服務向上向善的原則，要求算法推薦服務提供者應當堅持主流價值導向，積極傳播正能量，不得利用算法推薦服務從事違法活動或者傳播違法信息，應當采取措施防范和抵制傳播不良信息等。

二是，算法推薦服務提供者在開展調度決策、個性化推薦等活動時，存在侵害用戶權益的亂象：一是大數據殺熟問題，即根據消費者的偏好、交易習慣等特征，在交易價格等交易條件上實行不合理的差別待遇；二是誘導沉迷網絡問題，即設置誘導用戶沉迷、過度消費的算法模型，尤其是利用算法推薦誘導未成年人沉迷網絡；三是勞動權益保障問題，采用調度決策類算法進行工作調度時，未保障平臺內勞動就業者（如網約配送員、網約車駕駛員等）在勞務報酬、休息休假等方面的勞動權益；四是偏見歧視問題，將違法和不良信息關鍵詞記入用戶興趣點，或者設置歧視性、偏見性用戶標簽來推送信息內容；五是未成年人和老年人權益保障問題，向未成年人推送可能影響身心健康的信息，未充分考慮老年人適老化需求等?；谝陨蟻y象，《規定》明確算法推薦服務公正公平的原則，建立健全用戶注冊、信息發布審核、數據安全和個人信息保護、安全事件應急處置等管理制度和技術措施，定期審核、評估、驗證算法機制機理、模型、數據和應用結果等。

三是，算法推薦服務提供者在開展個性化推薦、熱點榜單、信息發布等活動時，存在操縱社會輿論亂象：一是采用個性化推薦算法按照用戶偏好頻繁推薦感興趣的內容，久而久之形成用戶意見極化的“信息繭房”；二是利用算法注冊虛假賬號、雇傭網絡水軍，實施虛假點贊、轉發等流量造假，或者鼓動“飯圈”粉絲互撕謾罵、刷量控評等飯圈亂象；三是利用算法屏蔽信息、過度推薦，操縱干預熱搜、榜單或檢索結果排序；四是實施自我優待，影響網絡輿論、規避監管，如惡意屏蔽其他企業的網址鏈接等?；谝陨蟻y象，《規定》明確算法推薦服務公開透明的原則，加強算法推薦服務版面頁面生態管理，建立完善人工干預和用戶自主選擇機制，在重點環節積極呈現符合主流價值導向的信息；規范開展互聯網新聞信息服務，不得生成合成虛假新聞信息或者傳播非國家規定范圍內的單位發布的新聞信息；不得利用算法實施影響網絡輿論、規避監督管理以及壟斷和不正當競爭行為等。

（三）健全算法治理監管體系，促進算法健康發展

《規定》建立了涵蓋算法分級分類、算法備案管理、算法安全評估、算法風險監測等舉措的健全科學的監管體系，形成了算法治理長效機制。

一是力求標本兼職的算法安全評估?！兑幎ā芬笏惴ㄍ扑]服務提供者履行安全評估和配合監督檢查義務。算法推薦服務提供者應依法留存網絡日志，配合網信部門和電信、公安、市場監管等有關部門開展安全評估和監督檢查工作，并提供必要的技術、數據等支持和協助。

二是有章可循的備案制度。《規定》明確了具有答：《規定》明確，具有輿論屬性或者社會動員能力的算法推薦服務提供者應當在提供服務之日起十個工作日內通過互聯網信息服務算法備案系統填報服務提供者的名稱、服務形式、應用領域、算法類型等備案信息，履行備案手續。同時，明確了備案編號標注、備案信息變更、備案注銷等相關事宜。