Ⅰ 2022年3月1日实施的网络新规
《互联网信息服务算法推荐管理规定》
国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》,3月1日起正式施行
《规定》明确,应用算法推荐技术,是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。各类提供算法推荐服务的互联网公司几乎都在监管范围内,如各类短视频平台、电商平台、社交平台及餐饮外卖平台等。
法律依据
《互联网信息服务算法推荐管理规定》
第三条 国家网信部门负责统筹协调全国算法推荐服务治理和相关监督管理工作。国务院电信、公安、市场监管等有关部门依据各自职责负责算法推荐服务监督管理工作。
地方网信部门负责统筹协调本行政区域内的算法推荐服务治理和相关监督管理工作。地方电信、公安、市场监管等有关部门依据各自职责负责本行政区域内的算法推荐服务监督管理工作。
第四条 提供算法推荐服务,应当遵守法律法规,尊重社会公德和伦理,遵守商业道德和职业道德,遵循公正公平、公开透明、科学合理和诚实信用的原则。
第六条 算法推荐服务提供者应当坚持主流价值导向,优化算法推荐服务机制,积极传播正能量,促进算法应用向上向善。
算法推荐服务提供者不得利用算法推荐服务从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动,不得利用算法推荐服务传播法律、行政法规禁止的信息,应当采取措施防范和抵制传播不良信息。
第七条 算法推荐服务提供者应当落实算法安全主体责任,建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施,制定并公开算法推荐服务相关规则,配备与算法推荐服务规模相适应的专业人员和技术支撑。
第八条 算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等,不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。
第九条 算法推荐服务提供者应当加强信息安全管理,建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序。发现未作显着标识的算法生成合成信息的,应当作出显着标识后,方可继续传输。
发现违法信息的,应当立即停止传输,采取消除等处置措施,防止信息扩散,保存有关记录,并向网信部门和有关部门报告。发现不良信息的,应当按照网络信息内容生态治理有关规定予以处置。
第十条 算法推荐服务提供者应当加强用户模型和用户标签管理,完善记入用户模型的兴趣点规则和用户标签管理规则,不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。
第十一条 算法推荐服务提供者应当加强算法推荐服务版面页面生态管理,建立完善人工干预和用户自主选择机制,在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。
第十二条 鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略,并优化检索、排序、选择、推送、展示等规则的透明度和可解释性,避免对用户产生不良影响,预防和减少争议纠纷。
第十三条 算法推荐服务提供者提供互联网新闻信息服务的,应当依法取得互联网新闻信息服务许可,规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务,不得生成合成虚假新闻信息,不得传播非国家规定范围内的单位发布的新闻信息。
第十四条 算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发,不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现,实施影响网络舆论或者规避监督管理行为。
第十五条 算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制,或者妨碍、破坏其合法提供的互联网信息服务正常运行,实施垄断和不正当竞争行为。
Ⅱ 国家网信办出台公众账号管理新规,增加了哪些内容
国家网信办1月22日发布新修订的《互联网用户公众账号信息服务管理规定》,对比2017年10月8日起施行的原规定,此次发布的新规定条目增加至23条,特别针对部分公众账号信息服务平台和生产运营者主体责任落实不到位、自律和他律意识淡漠、缺乏内容审核把关机制等问题,增加了相应监管内容。
据国家网信办有关负责人介绍,目前,网上信息内容低俗庸俗、恶意炒作、情绪宣泄、恶意攻击、抄袭剽窃等问题突出,严重影响网络生态、破坏网络文明。
尤其在新冠肺炎疫情防控期间,少数“自媒体”恶意编造传播网络谣言、随意散布他人隐私等,严重影响社会和谐稳定、损害他人合法权益。
该负责人表示,当前公众账号信息服务在信息流、算法推荐、群圈分享、平台分发等网络传播新技术新应用驱动下,加速呈现专业化生产、组织化传播、商业化运营等新特征,但同时网络水军、恶意营销、敲诈勒索、盗版侵权等顽疾毒瘤屡治不绝,严重影响舆论生态、扰乱传播秩序。
为此,新规定进一步明确扶持和保护责任,引导和鼓励公众账号信息服务平台和生产运营者大力生产向上向善、求真求美的优质信息内容。

(2)国家治理算法推荐扩展阅读
公众账号信息服务平台更好落实主体责任的规定:
新规定依据《中华人民共和国网络安全法》《网络信息内容生态治理规定》等法律法规和国家有关规定,新增了生态治理、数据保护、个人信息保护、知识产权保护、信用评价、分级分类管理等平台主体责任。
在此基础上,新规定针对账号分类注册、真实身份注册、主体资质核验、账号交易买卖、打击网络谣言、账号运营规范、数据流量造假等突出问题新增了多个条款。此外,公众账号信息服务平台还应当加强对本平台公众账号信息服务活动的监督管理,及时发现和处置违法违规信息或者行为。
而对于公众账号生产运营者,既是内容生产者,又是账号运营者,具有一定的舆论生成能力和社会影响力,应当对其内容安全生产和账号合法合规运营负责。
新规定指出,在内容安全方面,生产运营者建立健全编辑策划、制作发布等全过程审核机制,加强内容导向性、真实性、合法性等“三个把关”,以维护良好传播秩序。
Ⅲ 专家解读《互联网信息服务算法推荐管理规定》
为规范互联网信息服务算法推荐活动,维护国家安全和 社会 公共利益,保护公民、法人和其他组织的合法权益,促进互联网信息服务 健康 发展,近日,国家网信办等四部门联合发布《互联网信息服务算法推荐管理规定》(以下简称《规定》)。《规定》有哪些创新亮点?又有何重要意义?本文邀请专家为你解读。
许可
对外经济贸易大学数字经济与法律创新研究中心主任
“算法协同治理”的中国道路悄然成型
随着信息技术的发展、商业应用的演进和政府管理的迭代,我们已经进入到了一个“算法 社会 ”。其中,算法为我们规划道路,为我们筛选搜索结果,为我们选择朋友,甚至还能为我们打出 社会 信用分值,或者决定我们能否出行。在某种意义上,算法决定了我们是谁,我们看到什么,以及我们如何思考。
正因如此,新年伊始出炉的这个《规定》才显得意义重大。从去年年初的研究酝酿,到去年10月份的征求意见,再到新年的正式发布,中国对算法推荐服务的治理路径也日渐清晰,“算法协同治理”的中国道路悄然成型。
一方面,算法协作治理是各监管机构的协作。 作为一个通用技术,当今的算法不但是一种商业活动,也是一种 社会 建构。算法的复杂性使其治理必须依托于多个监管机构的分工合作。与征求意见稿相比,正式稿第三条特别明确了“国家网信部门负责统筹协调,国务院电信、公安、市场监管各自监督管理”的监管框架,将保护消费者与 社会 公益的监管与攸关企业经营活动的监管相结合,使得算法治理成为国家网信办与其他机构共同的合作事业。
另一方面,算法协作治理是技术、法律和 社会 规范的协作。 算法的底层是技术,正所谓“解铃还须系铃人”,对于算法黑箱、算法歧视等痼疾,需要从技术入手为算法安全内生机理、算法安全风险评估、算法全生命周期安全监测提供科学依据,就此而言,行业标准、行业准则、行业自律是治理的优先工具。同时,算法并不中立,它始终带有算法开发者与使用者的价值立场。为此,正式稿第一条开宗明义,将“弘扬 社会 主义核心价值观”作为首要的立法目标,鼓励使用算法传播正能量、抵制违法和不良信息,不得设置诱导用户沉迷、过度消费等有违伦理道德的算法模型,推动算法向上向善。
作为全球“第一部”全面规范“算法推荐”的法规,《规定》的影响深远。但是,这只是中国算法治理的“第一步”,放眼未来,一系列算法法律文件正在起草之中,我们期待着治理机制健全、监管体系完善、算法生态规范的中国算法协同治理格局早日形成。
方禹
中国信息通信研究院互联网法律研究中心主任
科学构建算法综合治理体系
近年来,新一轮 科技 革命和产业变革快速兴起,人工智能、云计算、大数据等新技术新应用新业态方兴未艾。作为人工智能的底层架构,算法被广泛应用于新闻传媒、电子商务、生活出行等千行百业,在极大提升 社会 生产效率、丰富公众生活形态的同时,也为公众利益、 社会 稳定和国家安全带来巨大挑战。《规定》准确把握“时间差、空白区”,强化信息服务领域算法推荐技术治理,科学构建了算法综合治理体系。
第一,明确了算法治理体制机制。 算法治理涉及信息内容管理、电信服务、网络犯罪、市场竞争等多方面内容,对此,《规定》确立了网信部门统筹协调,电信、公安、市场监管等有关部门依据各自职责负责的综合治理格局,形成有法可依、多元协同、多方参与的治理机制。同时,《规定》创新性构建了算法安全风险监测、算法安全评估、 科技 伦理审查、算法备案管理和涉算法违法违规行为处置等多维一体的监管体系。
第二,明确了算法推荐服务相关保护法益。 落实《个人信息保护法》、《数据安全法》等立法要求,《规定》针对算法歧视、算法霸权、算法黑箱等问题进行回应,重点从三个层面维护用户权益:一是维护个人自主权益,规定算法透明度和用户自主选择机制,要求应当以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等,并规定了退出算法推荐、用户标签管理、算法说明解释义务等内容;二是维护用户平等权益,规定不得利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为;三是维护特殊群体权益,包括未成年人网络沉迷问题、老年人智能适老化服务、劳动者劳动权益保障等内容。
第三,将算法监管纳入网络综合治理体系。 当前,我国以《网络安全法》《个人信息保护法》《数据安全法》等立法为基础的网络法律体系初步建成,逐步形成较为完备的法律工具箱机制。《规定》以上述立法为依据,将算法监管纳入网络综合治理体系,建立了算法备案、巡查、评估等法律义务,强调企业风险责任意识,要求健全算法安全管理组织机构,加强风险防控和隐患排查治理,提升应对算法安全突发事件的能力和水平,科学构建了网络平台责任体系。
总体来看,《规定》聚焦重点、抓纲带目,有效落实了党中央关于压实网络平台主体责任、加大舆论引导力度等方面的治理要求,对于推动算法 健康 有序发展提供了坚实法治保障。
Ⅳ 互联网信息服务算法推荐管理规定
第一章总 则第一条为了规范互联网信息服务算法推荐活动,弘扬社会主义核心价值观,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,促进互联网信息服务健康有序发展,根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规,制定本规定。第二条在中华人民共和国境内应用算法推荐技术提供互联网信息服务(以下简称算法推荐服务),适用本规定。法律、行政法规另有规定的,依照其规定。
前款所称应用算法推荐技术,是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。第三条国家网信部门负责统筹协调全国算法推荐服务治理和相关监督管理工作。国务院电信、公安、市场监管等有关部门依据各自职责负责算法推荐服务监督管理工作。
地方网信部门负责统筹协调本行政区域内的算法推荐服务治理和相关监督管理工作。地方电信、公安、市场监管等有关部门依据各自职责负责本行政区域内的算法推荐服务监督管理工作。第四条提供算法推荐服务,应当遵守法律法规,尊重社会公德和伦理,遵守商业道德和职业道德,遵循公正公平、公开透明、科学合理和诚实信用的原则。第五条鼓励相关行业组织加强行业自律,建立健全行业标准、行业准则和自律管理制度,督促指导算法推荐服务提供者制定完善服务规范、依法提供服务并接受社会监督。第二章信息服务规范第六条算法推荐服务提供者应当坚持主流价值导向,优化算法推荐服务机制,积极传播正能量,促进算法应用向上向善。
算法推荐服务提供者不得利用算法推荐服务从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动,不得利用算法推荐服务传播法律、行政法规禁止的信息,应当采取措施防范和抵制传播不良信息。第七条算法推荐服务提供者应当落实算法安全主体责任,建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施,制定并公开算法推荐服务相关规则,配备与算法推荐服务规模相适应的专业人员和技术支撑。第八条算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等,不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。第九条算法推荐服务提供者应当加强信息安全管理,建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序。发现未作显着标识的算法生成合成信息的,应当作出显着标识后,方可继续传输。
发现违法信息的,应当立即停止传输,采取消除等处置措施,防止信息扩散,保存有关记录,并向网信部门和有关部门报告。发现不良信息的,应当按照网络信息内容生态治理有关规定予以处置。第十条算法推荐服务提供者应当加强用户模型和用户标签管理,完善记入用户模型的兴趣点规则和用户标签管理规则,不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。第十一条算法推荐服务提供者应当加强算法推荐服务版面页面生态管理,建立完善人工干预和用户自主选择机制,在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。第十二条鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略,并优化检索、排序、选择、推送、展示等规则的透明度和可解释性,避免对用户产生不良影响,预防和减少争议纠纷。第十三条算法推荐服务提供者提供互联网新闻信息服务的,应当依法取得互联网新闻信息服务许可,规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务,不得生成合成虚假新闻信息,不得传播非国家规定范围内的单位发布的新闻信息。第十四条算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发,不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现,实施影响网络舆论或者规避监督管理行为。