國家治理演算法推薦

Ⅰ 2022年3月1日實施的網路新規

《互聯網信息服務演算法推薦管理規定》
國家網信辦等四部門聯合發布的《互聯網信息服務演算法推薦管理規定》，3月1日起正式施行
《規定》明確，應用演算法推薦技術，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等演算法技術向用戶提供信息。各類提供演算法推薦服務的互聯網公司幾乎都在監管范圍內，如各類短視頻平台、電商平台、社交平台及餐飲外賣平台等。
法律依據
《互聯網信息服務演算法推薦管理規定》
第三條 國家網信部門負責統籌協調全國演算法推薦服務治理和相關監督管理工作。國務院電信、公安、市場監管等有關部門依據各自職責負責演算法推薦服務監督管理工作。
地方網信部門負責統籌協調本行政區域內的演算法推薦服務治理和相關監督管理工作。地方電信、公安、市場監管等有關部門依據各自職責負責本行政區域內的演算法推薦服務監督管理工作。
第四條 提供演算法推薦服務，應當遵守法律法規，尊重社會公德和倫理，遵守商業道德和職業道德，遵循公正公平、公開透明、科學合理和誠實信用的原則。
第六條 演算法推薦服務提供者應當堅持主流價值導向，優化演算法推薦服務機制，積極傳播正能量，促進演算法應用向上向善。
演算法推薦服務提供者不得利用演算法推薦服務從事危害國家安全和社會公共利益、擾亂經濟秩序和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動，不得利用演算法推薦服務傳播法律、行政法規禁止的信息，應當採取措施防範和抵制傳播不良信息。
第七條 演算法推薦服務提供者應當落實演算法安全主體責任，建立健全演算法機制機理審核、科技倫理審查、用戶注冊、信息發布審核、數據安全和個人信息保護、反電信網路詐騙、安全評估監測、安全事件應急處置等管理制度和技術措施，制定並公開演算法推薦服務相關規則，配備與演算法推薦服務規模相適應的專業人員和技術支撐。
第八條 演算法推薦服務提供者應當定期審核、評估、驗證演算法機制機理、模型、數據和應用結果等，不得設置誘導用戶沉迷、過度消費等違反法律法規或者違背倫理道德的演算法模型。
第九條 演算法推薦服務提供者應當加強信息安全管理，建立健全用於識別違法和不良信息的特徵庫，完善入庫標准、規則和程序。發現未作顯著標識的演算法生成合成信息的，應當作出顯著標識後，方可繼續傳輸。
發現違法信息的，應當立即停止傳輸，採取消除等處置措施，防止信息擴散，保存有關記錄，並向網信部門和有關部門報告。發現不良信息的，應當按照網路信息內容生態治理有關規定予以處置。
第十條 演算法推薦服務提供者應當加強用戶模型和用戶標簽管理，完善記入用戶模型的興趣點規則和用戶標簽管理規則，不得將違法和不良信息關鍵詞記入用戶興趣點或者作為用戶標簽並據以推送信息。
第十一條 演算法推薦服務提供者應當加強演算法推薦服務版面頁面生態管理，建立完善人工干預和用戶自主選擇機制，在首頁首屏、熱搜、精選、榜單類、彈窗等重點環節積極呈現符合主流價值導向的信息。
第十二條 鼓勵演算法推薦服務提供者綜合運用內容去重、打散干預等策略，並優化檢索、排序、選擇、推送、展示等規則的透明度和可解釋性，避免對用戶產生不良影響，預防和減少爭議糾紛。
第十三條 演算法推薦服務提供者提供互聯網新聞信息服務的，應當依法取得互聯網新聞信息服務許可，規范開展互聯網新聞信息采編發布服務、轉載服務和傳播平台服務，不得生成合成虛假新聞信息，不得傳播非國家規定范圍內的單位發布的新聞信息。
第十四條 演算法推薦服務提供者不得利用演算法虛假注冊賬號、非法交易賬號、操縱用戶賬號或者虛假點贊、評論、轉發，不得利用演算法屏蔽信息、過度推薦、操縱榜單或者檢索結果排序、控制熱搜或者精選等干預信息呈現，實施影響網路輿論或者規避監督管理行為。
第十五條 演算法推薦服務提供者不得利用演算法對其他互聯網信息服務提供者進行不合理限制，或者妨礙、破壞其合法提供的互聯網信息服務正常運行，實施壟斷和不正當競爭行為。

Ⅱ 國家網信辦出台公眾賬號管理新規，增加了哪些內容

國家網信辦1月22日發布新修訂的《互聯網用戶公眾賬號信息服務管理規定》，對比2017年10月8日起施行的原規定，此次發布的新規定條目增加至23條，特別針對部分公眾賬號信息服務平台和生產運營者主體責任落實不到位、自律和他律意識淡漠、缺乏內容審核把關機制等問題，增加了相應監管內容。

據國家網信辦有關負責人介紹，目前，網上信息內容低俗庸俗、惡意炒作、情緒宣洩、惡意攻擊、抄襲剽竊等問題突出，嚴重影響網路生態、破壞網路文明。

尤其在新冠肺炎疫情防控期間，少數「自媒體」惡意編造傳播網路謠言、隨意散布他人隱私等，嚴重影響社會和諧穩定、損害他人合法權益。

該負責人表示，當前公眾賬號信息服務在信息流、演算法推薦、群圈分享、平台分發等網路傳播新技術新應用驅動下，加速呈現專業化生產、組織化傳播、商業化運營等新特徵，但同時網路水軍、惡意營銷、敲詐勒索、盜版侵權等頑疾毒瘤屢治不絕，嚴重影響輿論生態、擾亂傳播秩序。

為此，新規定進一步明確扶持和保護責任，引導和鼓勵公眾賬號信息服務平台和生產運營者大力生產向上向善、求真求美的優質信息內容。

(2)國家治理演算法推薦擴展閱讀

公眾賬號信息服務平台更好落實主體責任的規定：

新規定依據《中華人民共和國網路安全法》《網路信息內容生態治理規定》等法律法規和國家有關規定，新增了生態治理、數據保護、個人信息保護、知識產權保護、信用評價、分級分類管理等平台主體責任。

在此基礎上，新規定針對賬號分類注冊、真實身份注冊、主體資質核驗、賬號交易買賣、打擊網路謠言、賬號運營規范、數據流量造假等突出問題新增了多個條款。此外，公眾賬號信息服務平台還應當加強對本平台公眾賬號信息服務活動的監督管理，及時發現和處置違法違規信息或者行為。

而對於公眾賬號生產運營者，既是內容生產者，又是賬號運營者，具有一定的輿論生成能力和社會影響力，應當對其內容安全生產和賬號合法合規運營負責。

新規定指出，在內容安全方面，生產運營者建立健全編輯策劃、製作發布等全過程審核機制，加強內容導向性、真實性、合法性等「三個把關」，以維護良好傳播秩序。

Ⅲ 專家解讀《互聯網信息服務演算法推薦管理規定》

為規范互聯網信息服務演算法推薦活動，維護國家安全和 社會 公共利益，保護公民、法人和其他組織的合法權益，促進互聯網信息服務 健康 發展，近日，國家網信辦等四部門聯合發布《互聯網信息服務演算法推薦管理規定》（以下簡稱《規定》）。《規定》有哪些創新亮點？又有何重要意義？本文邀請專家為你解讀。

許可

對外經濟貿易大學數字經濟與法律創新研究中心主任

「演算法協同治理」的中國道路悄然成型

隨著信息技術的發展、商業應用的演進和政府管理的迭代，我們已經進入到了一個「演算法 社會 」。其中，演算法為我們規劃道路，為我們篩選搜索結果，為我們選擇朋友，甚至還能為我們打出 社會 信用分值，或者決定我們能否出行。在某種意義上，演算法決定了我們是誰，我們看到什麼，以及我們如何思考。

正因如此，新年伊始出爐的這個《規定》才顯得意義重大。從去年年初的研究醞釀，到去年10月份的徵求意見，再到新年的正式發布，中國對演算法推薦服務的治理路徑也日漸清晰，「演算法協同治理」的中國道路悄然成型。

一方面，演算法協作治理是各監管機構的協作。 作為一個通用技術，當今的演算法不但是一種商業活動，也是一種 社會 建構。演算法的復雜性使其治理必須依託於多個監管機構的分工合作。與徵求意見稿相比，正式稿第三條特別明確了「國家網信部門負責統籌協調，國務院電信、公安、市場監管各自監督管理」的監管框架，將保護消費者與 社會 公益的監管與攸關企業經營活動的監管相結合，使得演算法治理成為國家網信辦與其他機構共同的合作事業。

另一方面，演算法協作治理是技術、法律和 社會 規范的協作。 演算法的底層是技術，正所謂「解鈴還須系鈴人」，對於演算法黑箱、演算法歧視等痼疾，需要從技術入手為演算法安全內生機理、演算法安全風險評估、演算法全生命周期安全監測提供科學依據，就此而言，行業標准、行業准則、行業自律是治理的優先工具。同時，演算法並不中立，它始終帶有演算法開發者與使用者的價值立場。為此，正式稿第一條開宗明義，將「弘揚 社會 主義核心價值觀」作為首要的立法目標，鼓勵使用演算法傳播正能量、抵制違法和不良信息，不得設置誘導用戶沉迷、過度消費等有違倫理道德的演算法模型，推動演算法向上向善。

作為全球「第一部」全面規范「演算法推薦」的法規，《規定》的影響深遠。但是，這只是中國演算法治理的「第一步」，放眼未來，一系列演算法法律文件正在起草之中，我們期待著治理機制健全、監管體系完善、演算法生態規范的中國演算法協同治理格局早日形成。

方禹

中國信息通信研究院互聯網法律研究中心主任

科學構建演算法綜合治理體系

近年來，新一輪 科技 革命和產業變革快速興起，人工智慧、雲計算、大數據等新技術新應用新業態方興未艾。作為人工智慧的底層架構，演算法被廣泛應用於新聞傳媒、電子商務、生活出行等千行百業，在極大提升 社會 生產效率、豐富公眾生活形態的同時，也為公眾利益、 社會 穩定和國家安全帶來巨大挑戰。《規定》准確把握「時間差、空白區」，強化信息服務領域演算法推薦技術治理，科學構建了演算法綜合治理體系。

第一，明確了演算法治理體制機制。 演算法治理涉及信息內容管理、電信服務、網路犯罪、市場競爭等多方面內容，對此，《規定》確立了網信部門統籌協調，電信、公安、市場監管等有關部門依據各自職責負責的綜合治理格局，形成有法可依、多元協同、多方參與的治理機制。同時，《規定》創新性構建了演算法安全風險監測、演算法安全評估、 科技 倫理審查、演算法備案管理和涉演算法違法違規行為處置等多維一體的監管體系。

第二，明確了演算法推薦服務相關保護法益。 落實《個人信息保護法》、《數據安全法》等立法要求，《規定》針對演算法歧視、演算法霸權、演算法黑箱等問題進行回應，重點從三個層面維護用戶權益：一是維護個人自主權益，規定演算法透明度和用戶自主選擇機制，要求應當以適當方式公示演算法推薦服務的基本原理、目的意圖和主要運行機制等，並規定了退出演算法推薦、用戶標簽管理、演算法說明解釋義務等內容；二是維護用戶平等權益，規定不得利用演算法在交易價格等交易條件上實施不合理的差別待遇等違法行為；三是維護特殊群體權益，包括未成年人網路沉迷問題、老年人智能適老化服務、勞動者勞動權益保障等內容。

第三，將演算法監管納入網路綜合治理體系。 當前，我國以《網路安全法》《個人信息保護法》《數據安全法》等立法為基礎的網路法律體系初步建成，逐步形成較為完備的法律工具箱機制。《規定》以上述立法為依據，將演算法監管納入網路綜合治理體系，建立了演算法備案、巡查、評估等法律義務，強調企業風險責任意識，要求健全演算法安全管理組織機構，加強風險防控和隱患排查治理，提升應對演算法安全突發事件的能力和水平，科學構建了網路平台責任體系。

總體來看，《規定》聚焦重點、抓綱帶目，有效落實了黨中央關於壓實網路平台主體責任、加大輿論引導力度等方面的治理要求，對於推動演算法 健康 有序發展提供了堅實法治保障。

Ⅳ 互聯網信息服務演算法推薦管理規定

第一章總 則第一條為了規范互聯網信息服務演算法推薦活動，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，促進互聯網信息服務健康有序發展，根據《中華人民共和國網路安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《互聯網信息服務管理辦法》等法律、行政法規，制定本規定。第二條在中華人民共和國境內應用演算法推薦技術提供互聯網信息服務（以下簡稱演算法推薦服務），適用本規定。法律、行政法規另有規定的，依照其規定。

前款所稱應用演算法推薦技術，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等演算法技術向用戶提供信息。第三條國家網信部門負責統籌協調全國演算法推薦服務治理和相關監督管理工作。國務院電信、公安、市場監管等有關部門依據各自職責負責演算法推薦服務監督管理工作。

地方網信部門負責統籌協調本行政區域內的演算法推薦服務治理和相關監督管理工作。地方電信、公安、市場監管等有關部門依據各自職責負責本行政區域內的演算法推薦服務監督管理工作。第四條提供演算法推薦服務，應當遵守法律法規，尊重社會公德和倫理，遵守商業道德和職業道德，遵循公正公平、公開透明、科學合理和誠實信用的原則。第五條鼓勵相關行業組織加強行業自律，建立健全行業標准、行業准則和自律管理制度，督促指導演算法推薦服務提供者制定完善服務規范、依法提供服務並接受社會監督。第二章信息服務規范第六條演算法推薦服務提供者應當堅持主流價值導向，優化演算法推薦服務機制，積極傳播正能量，促進演算法應用向上向善。

演算法推薦服務提供者不得利用演算法推薦服務從事危害國家安全和社會公共利益、擾亂經濟秩序和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動，不得利用演算法推薦服務傳播法律、行政法規禁止的信息，應當採取措施防範和抵制傳播不良信息。第七條演算法推薦服務提供者應當落實演算法安全主體責任，建立健全演算法機制機理審核、科技倫理審查、用戶注冊、信息發布審核、數據安全和個人信息保護、反電信網路詐騙、安全評估監測、安全事件應急處置等管理制度和技術措施，制定並公開演算法推薦服務相關規則，配備與演算法推薦服務規模相適應的專業人員和技術支撐。第八條演算法推薦服務提供者應當定期審核、評估、驗證演算法機制機理、模型、數據和應用結果等，不得設置誘導用戶沉迷、過度消費等違反法律法規或者違背倫理道德的演算法模型。第九條演算法推薦服務提供者應當加強信息安全管理，建立健全用於識別違法和不良信息的特徵庫，完善入庫標准、規則和程序。發現未作顯著標識的演算法生成合成信息的，應當作出顯著標識後，方可繼續傳輸。

發現違法信息的，應當立即停止傳輸，採取消除等處置措施，防止信息擴散，保存有關記錄，並向網信部門和有關部門報告。發現不良信息的，應當按照網路信息內容生態治理有關規定予以處置。第十條演算法推薦服務提供者應當加強用戶模型和用戶標簽管理，完善記入用戶模型的興趣點規則和用戶標簽管理規則，不得將違法和不良信息關鍵詞記入用戶興趣點或者作為用戶標簽並據以推送信息。第十一條演算法推薦服務提供者應當加強演算法推薦服務版面頁面生態管理，建立完善人工干預和用戶自主選擇機制，在首頁首屏、熱搜、精選、榜單類、彈窗等重點環節積極呈現符合主流價值導向的信息。第十二條鼓勵演算法推薦服務提供者綜合運用內容去重、打散干預等策略，並優化檢索、排序、選擇、推送、展示等規則的透明度和可解釋性，避免對用戶產生不良影響，預防和減少爭議糾紛。第十三條演算法推薦服務提供者提供互聯網新聞信息服務的，應當依法取得互聯網新聞信息服務許可，規范開展互聯網新聞信息采編發布服務、轉載服務和傳播平台服務，不得生成合成虛假新聞信息，不得傳播非國家規定范圍內的單位發布的新聞信息。第十四條演算法推薦服務提供者不得利用演算法虛假注冊賬號、非法交易賬號、操縱用戶賬號或者虛假點贊、評論、轉發，不得利用演算法屏蔽信息、過度推薦、操縱榜單或者檢索結果排序、控制熱搜或者精選等干預信息呈現，實施影響網路輿論或者規避監督管理行為。