互联网信息服务算法推荐管理规定修改建议

⑴ 最懂你的“算法”，如何不沦为“算计”

来源 摘编自《平台治理2.0：共同富裕时代数字经济治理转型》，电子工业出版社，2022年4月出版。

文 于凤霞 国家信息中心信息化和产业发展部处长

随着互联网、大数据、算法与人工智能等的发展日新月异，平台经济的崛起使得追求物美价廉、方便快捷的消费者与世界各地的商品和服务之间的距离只是点击几下鼠标而已。网络世界、新兴技术正在使我们更加便利、舒适，我们每天都在享受平台经济繁荣发展带来的福利。大数据和算法等技术功不可没。

克里斯托弗·斯坦纳在其着作《算法帝国》里对算法推崇备至，认为构建算法模仿、超越并最终取代人类，是21世纪最重要的能力，未来属于算法及其创造者。 科技 哲学家凯文·凯利在其着作《失控》中提到：“人们在将自然逻辑输入机器的同时，也把技术逻辑带到了生命之中……机器人、经济体、计算机程序等人造物也越来越具有生命属性。”

随着平台经济在人类经济 社会 各领域的快速渗透，我们的生活已经悄悄地被算法和数据控制，算法与数据接管了整个 社会 。算法为人类行为赋能，但受所输入数据的质量及算法模型本身的限制，内在地嵌入了人类正面或负面的价值观，并能动地制造着各种风险。

阿里尔·扎拉奇在其《算法的陷阱：超级平台、算法垄断与场景欺骗》一书中写道，精妙的算法与数据运算改变了市场竞争的本质，复杂多变的市场现实已在悄无声息中将权力移交到少数人的手中，因此，必须由监管机构及时采取可行的方法和政策，有效化解算法带来的各种风险，促使创新能够真正为 社会 带来正面意义。

经过长期的数据沉淀和算法优化，你的手机、你的常用App在某些方面确实会比你的家人、好友甚至你本人更了解你。这就意味着，当我们在利用算法的时候，也不自觉地成了被算法计算的对象。

“大数据杀熟”意指同样的产品或者服务，老客户看到的价格反倒比新客户所看到的更高。而且还存在同一用户信息在不同网络平台之间被共享的问题，许多用户都遇到过这样的情形：在一个网站浏览或搜索的内容很快会被另一个网站进行推荐或成为其广告客户。

在传统销售模式下，通常是老客户能够享受到更多的优惠，这些优惠往往通过会员卡、积分制等不同形式来实现，也广为大众所接受。

然而，通过网络平台开展的许多销售活动，却出现了相反的情况：随着用户在某个平台上消费次数的增加、消费金额的不断提高，其最开始能够享受到的各种优惠却会逐渐消失，甚至变成老用户可能要付出更高的价钱获得服务，而新用户则能够享受到各类优惠。

这种问题在美国早就引起过热议，2000年亚马逊曾对68款盘片进行类似的定价机制。新顾客购买价格为22.74美元，老顾客却需要26.24美元。在引起消费者广泛质疑后，亚马逊CEO贝佐斯回应这只是随机价格的一种测试，并向高价客户退还差价，这次风波才得以平息。2012年《华尔街日报》又爆料一家名为Staples的文具店的“差别定价”事件。

从某种意义上说，“大数据杀熟”属于大数据营销，部分平台在有了大数据这个强大的用户画像工具后，实现了千人千面的定价机制。利用大数据技术对用户资料进行细分，根据用户习惯建立用户画像，然后通过画像给用户推荐相应的产品与服务，并且进行差异化定价。

根据《中华人民共和国价格法》第十四条规定，经营者提供相同商品或者服务，不得对具有同等交易条件的其他经营者实行价格歧视。由于该法未针对“同等交易条件”进行详细解释，严格说来，网络平台依据大数据分析所做的“差别定价”并不能完全和“价格歧视”画等号。

人们之所以会对“大数据杀熟”产生怀疑甚至愤怒，根本上是因为平台定价机制和供需匹配规则不透明。

基于用户注册及个人信息、地理位置、消费记录、搜索习惯等行为数据，平台能够针对不同的用户形成独特的用户画像。这一画像有助于平台为用户提供精准的个性化服务，但也埋下了“大数据杀熟”的潜在风险。

针对新老用户或不同消费习惯的用户，一些平台提供的同一产品或服务，存在较为严重的价格歧视现象，引发广泛争议。平台定价机制和供需匹配规则的不透明，还使得消费者在权益遭到损害时陷入举证难、维权难的境地。

算法引发的第二个问题可以被称为“信息茧房”和“回声室效应”。

“信息茧房”可能带来的后果是，长期被禁锢在其中的个人，其思维甚至是生活可能呈现出一种定式化、程序化的状态，失去了解不同事物的能力和接触机会；另外，还可能加剧人与人的差异性、分化，甚至很有可能带来一大批 社会 极端分子，从而带来安全威胁，影响 社会 的稳定。

经济学家安东尼·唐恩斯认为，人们容易从观点相似的人那里获取信息，从而减少信息成本。网络虚拟社群一方面使爱好相似的人们聚集到一起，但高度同质化的聚集也减少了他们接受多元化声音的可能，从而形成封闭的“回声室”。

算法给用户推荐的信息内容，如新闻标题、内容、图片、评论等，都会影响用户的情绪，甚至改变用户的思想和观点。在这些场景中，算法本身只是从优化业务的角度出发进行推荐和内容分发，这些算法的长期高频率使用，在客观上深刻地影响着用户的思想和行为，甚至影响整个 社会 的价值传播。

因此，算法作为一种技术工具，或许是中立的无所谓正向或负向价值观，但如果算法技术与商业利益密切联系，或者被应用于与人和 社会 相关的场景时，必然会引发一系列 社会 问题，不容回避。

算法引发的第三个主要问题是流量造假和流量劫持。

一些平台或商家通过人为或机器操作手段提高关键词搜索量、平台用户数、广告点击量、视频播放量、产品购买量、服务评论数等，还有部分平台通过强制跳转、妨碍破坏等技术手段，或者使用定向引流、广告混淆等非技术手段劫持本应属于竞争对手的流量，诱导用户使用己方的产品或服务。

在直播电商领域中，2020年新华社曾报道，山东临沂电商从业者孙玲玲，在某电商平台经营一家销售糖果类产品的店铺，一个月内，孙玲玲找了多位带货主播，这些主播粉丝数量都超过百万，但几乎每场带货都以赔钱收场，流量造假问题也相当突出。

当前关于规范恶意流量竞争的制度尚不健全。一是法律规定较为模糊，尤其是对于流量不正当竞争行为的构成要件与法律责任缺乏明确界定；二是平台企业流量竞争手段越来越隐蔽和复杂，导致不正当竞争行为的举证、认定及对损害和赔偿额度的确定都存在较大难度。

随着网络技术的进步与平台经济的发展，如何规制流量恶意竞争等新型不正当竞争行为、营造公平竞争的市场环境，成为亟须深入研究的重要课题。

此外，还有操纵榜单和控制热搜等问题。“热搜”原本反映的是当前舆论最关切的热点问题，但在实践中我们发现，其后台算法有可能被滥用，出现操纵榜单、控制热搜、人为制造舆论热点等问题，严重影响着民众对热搜的信任。

卓别林的电影《摩登时代》对机器操控产业工人的讽刺，以及马克思着作《1844年经济学哲学手稿》对机器工业化时代人类“异化”的警示，无不提醒我们，就像机器流水线有可能凌驾于劳动工人之上一样，当今无处不在的算法若应用不当，也有可能成为一种凌驾于人之上的力量，为人和 社会 的发展带来新的风险。

为此，有效加强算法监管，积极应对新技术发展带来的挑战，让人类更好地享受新技术发展的福利，是顺应平台经济发展趋势的必然要求。

针对算法应用这一全新的治理课题，我国正在不断加强相关领域的制度建设和规范。如早在2018年，我国资管新规《关于规范金融机构资产管理业务的指导意见》就提出要避免智能算法的顺周期性风险，要求金融机构，应当根据不同产品投资策略，研发对应的人工智能算法或者程序化交易，避免算法同质化加剧投资行为的顺周期性，并针对由此可能引发的市场波动风险制订应对预案。

此外，新规提出，因算法同质化、编程设计错误、对数据利用深度不够等人工智能算法模型缺陷或者系统异常，导致“羊群效应”、影响金融市场稳定运行的，金融机构应当及时采取人工干预措施，强制调整或者终止人工智能业务。

2020年12月中共中央印发的《法治 社会 建设实施纲要（2020-2025年）》提出，制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法；加强对大数据、云计算和人工智能等新技术研发应用的规范引导。

尤其是2021年出台的系列制度，从反垄断等不正当竞争、保护消费者权益、保护个人信息安全等不同角度和侧重点，对算法应用引发的“大数据杀熟”行为提出了规范要求。

2021年2月，《关于平台经济领域的反垄断指南》规定，基于大数据和算法，根据交易相对人的支付能力、消费偏好、使用习惯等，实行差异性交易价格或者其他交易条件；对新老交易相对人实行差异性交易价格或者其他交易条件；实行差异性标准、规则、算法；实行差异性付款条件和交易方式等，都可能被认定为“大数据杀熟”等不正当竞争行为而面临更严格的监管。

2021年8月，国家市场监督管理总局公布的《禁止网络不正当竞争行为规定（公开征求意见稿）》第二十一条指出，经营者不得利用数据、算法等技术手段，通过收集、分析交易相对方的交易信息、浏览内容及次数、交易时使用的终端设备的品牌及价值等方式，对交易条件相同的交易相对方不合理地提供不同的交易信息，侵害交易相对方的知情权、选择权、公平交易权等，扰乱市场公平交易秩序。

从监管的角度来看，反不正当竞争法对“大数据杀熟”行为的规制的最大特点在于，企业并不需要具备市场支配地位，无论平台企业的市场地位如何，经营者利用技术手段，实施“二选一”行为，或者利用数据、算法等技术手段，侵害交易相对方的知情权、选择权、公平交易权等，扰乱市场公平交易秩序，实施“大数据杀熟”的行为，均会受到反不正当竞争法的限制。

2021年11月1日开始正式实施的个人信息保护法，第一次在法律文本中定义了“自动化决策”一词的含义，即“通过计算机程序自动分析、评估个人的行为习惯、兴趣爱好或者经济、 健康 、信用状况等，并进行决策的活动”。对利用个人信息进行自动化决策做了针对性的规范，要求个人信息处理者保证自动化决策的透明度和结果的公平、公正，不得通过自动化决策对个人在交易价格等交易条件上实行不合理的差别待遇，并在事前进行个人信息保护影响评估。个人认为自动化决策对其权益造成重大影响的，有权拒绝个人信息处理者仅通过自动化决策的方式做出决定。

可以说，这里的规定，更加强调对用户人格权益的保护，旨在保护个人信息安全。

算法规制的第二个重点是，算法在互联网信息服务领域的应用。

2021年8月，国家互联网信息办公室就《互联网信息服务算法推荐管理规定（征求意见稿）》向 社会 公开征求意见。征求意见稿中明确，所谓的算法推荐技术，是指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容。

这意味着，各类信息流平台、用户生成内容（UGC）平台都在被监管范围内。甚至在朋友圈内常见的信息流广告，亦是推荐算法的结果，也应该遵守相关规定。

征求意见稿第一次区分了生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类五类向用户提供信息内容的算法技术，并就算法推荐服务提供者的责任和义务、算法推荐服务公告和算法备案等制度、算法推荐未成年人模式做出了详细规定。

在网络信息内容生态方面，征求意见稿提出，算法推荐服务提供者应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善。

强调要“建立完善人工干预和用户自主选择机制”，也就是说，不能依赖算法进行内容推荐，要增加人工识别及筛选的过程，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容。

这意味着，在压实互联网信息服务平台主体责任方面，除了要求对谣言及其他不法信息进行治理，算法决策的合规化也是一个重要抓手。

在平台算法推荐服务过程中，依据何种算法和逻辑使用数据，将成为平台算法规制的重要内容。征求意见稿对算法推荐服务提供者在算法规则及公示方面都提出了要求。

2021年9月，国家互联网信息办公室印发《关于加强互联网信息服务算法综合治理的指导意见》，提出要用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。

在健全算法安全治理机制方面，《意见》提出要致力于打造形成政府监管、企业履责、行业自律、 社会 监督的算法安全多元共治局面。尤其是要强化平台企业主体责任，明确提出，企业应强化责任意识，对算法应用产生的结果负主体责任，并建立算法安全责任制度和 科技 伦理审查制度。

在促进算法生态规范发展方面，《意见》则提出要推动算法公开透明，督促企业及时、合理、有效地公开算法基本原理、优化目标、决策标准等信息，做好算法结果解释，畅通投诉通道。

《平台治理2.0》，于凤霞 着

电子工业出版社，2022年4月出版

近年来数字经济增加值在我国GDP中的占比不断提升，但相对经济总量而言还是偏低；新业态新模式发展过程中也出现了新的问题和挑战。因此，在推动和规范数字经济发展的同时，需要重构治理体系，进一步突出竞争政策基础地位，并构建起全方位、多层次、立体化的治理体系。本书围绕平台治理，分析我国在数字治理、反垄断等方面的 探索 ，平台经济在发展过程中的挑战和可能的应对之策。

⑵ 《互联网新闻信息服务管理规定》修订 有哪些新变化

1

多类新媒体纳入管理范围

此次修订内容最大的变化是将各类新媒体纳入管理范畴，修订后，除了网站，应用程序、论坛、博客、微博客、即时通信工具、搜索引擎以及其他具有新闻舆论或社会动员功能的应用都在管理范围内，这些应用向社会公众提供新闻信息采编发布、转载服务之前都应当取得互联网新闻信息服务许可。不仅如此，提供新闻信息发布平台服务的也应当提前获得互联网新闻信息服务许可。

需要指出的是，规定所称的互联网新闻信息，是指时政类新闻信息，包括有关政治、经济、军事、外交等社会公共事务的报道、评论，以及有关社会突发事件的报道、评论。

2

申请“门槛”提高，审批时间缩短

本次修订的另一个明显变化是申请互联网新闻信息服务许可的标准有所提高。修订后，申请许可至少要具备五个条件，包括主要负责人、总编辑是中国公民；有完备的服务方案；有健全的信息安全管理制度和技术保障措施；有与服务相适应的专职新闻编辑人员、新闻审核人员和技术保障人员；有与服务相适应的场所、设施和资金。申请时要配备上述条件的证明材料，还要递交严格履行本规定相关责任义务的承诺书。

修订征求意见稿虽然提高了申请标准，但也缩短了审批时间。相关网信办对符合规定的申请材料应在5个工作日内受理，并在20个工作日内作出决定。20个工作日内不能作出决定的，经本机关负责人批准，可以延长10个工作日。而此前审批周期40天到60天不等。

3

总编辑负责制，采访要持证

《征求意见稿》强调，互联网新闻信息服务提供者应当设立总编辑，总编辑对互联网新闻信息内容负总责。应当建立健全信息发布审核、公共信息实时巡查、应急处置等信息安全管理制度，采取安全防范措施。

此外，从业人员应当参加国家网信办组织开展或者委托省、自治区、直辖市网信办开展的培训、考核。从业人员从事新闻采访活动，应当持有国家统一颁发的新闻记者证。

4

新闻转载要规范，采编经营要分开

意见稿同时规定，互联网新闻信息服务提供者转载新闻信息，应当完整、准确，不得歪曲、篡改标题原意和新闻信息内容，在显着位置注明来源、原作者、原标题、编辑真实姓名，并保证新闻信息来源可追溯。

互联网新闻信息服务提供者采编业务和经营业务应当分开。新闻采编业务部门及其工作人员不得从事广告等经营性活动。互联网新闻信息服务提供者及其从业人员，不得通过采编、发布、转载、删除新闻信息，干预搜索结果，干预发布平台呈现结果等手段谋取不正当利益。

5

隐私保护，几方面都有要求

隐私保护方面，《征求意见稿》对网信办工作人员和互联网新闻信息服务提供者、用户都提出了要求。

各级网信办及其工作人员对在履行职责中知悉的用户身份信息和日志信息，负有保密的义务，不得泄露、篡改、非法毁损，不得出售或者非法向他人提供。

互联网新闻信息服务提供者收集用户身份信息，应当事先明示收集规则、留存期限;收集前款规定以外的用户信息的，应经用户同意。

互联网新闻信息服务提供者、用户不得制作、发布、传播能够识别他人身份和涉及他人隐私的信息，但法律、行政法规另有规定或者当事人同意公开的除外。

6

主管单位变更

《互联网新闻信息服务管理规定》于2005年9月正式发布，距今已经超过10年，此次修订后主管单位将由国务院新闻办公室变为国家互联网信息办公室。规定明确了其中所称互联网信息内容管理部门，是指国家网信办和地方网信办。并对各级网信办的职能有详细说明。

⑶ 互联网弹窗信息推送服务管理规定发布，该规定将对网络环境产生哪些变化

该规定将净化网络环境。

总体来说，互联网弹窗信息推送服务管理规定是由网信办，工信部，市场监督总局联合制定，非常具有权威性和规范性。通过这个管理规定发布，将会对网络环境起到净化作用。具体来说，该规定对网络环境将造成这些变化：弹窗信息显着减少，网络安全将会改善，网速会更快。以下将详细解释这些内容：

第三、互联网弹窗信息管理规定发布，对于网络环境来说网络速度将会显着增加：在没有推出这份信息管理规定之前，很多网站是网页未动，弹窗先行。打开一个网址，铺天盖地弹窗就会席卷而来，不但占用了网速，还妨碍了网页浏览。通过这份管理规定规范和限制，网络速度会显着增加。

⑷ 《互联网信息服务算法推荐管理规定》正式施行，这具体是如何规定的

3月1日开始施行的《互联网信息服务算法推荐管理规定》，主要从维护消费者利益、避免“暗箱”操作、理顺管理职责、保护劳动者合法权益、防止不良消费、健全监管体系等方面作出了详实的规定。

总之，《互联网信息服务算法推荐管理规定》可以让互联网服务交易更加有序、健康运行。

⑸ 工商局名字核准中其他互联网信息服务指的是什么经营范围

互联网其他信息服务的经营范围，包括经营性和非经营性两类。
1.经营性互联网信息服务，是指通过互联网向上网用户有偿提供信息或者网页制作等服务活动。
2.非经营性互联网信息服务，是指通过互联网向上网用户无偿提供具有公开性、共享性信息的服务活动。
国家局核准名称办理申请流程：
1.提供核准的名称以及注册地址、注册资金、经营范围、股东信息等。
2.注册资金5000万（认缴制）。
3.股东需在当地以外地区有两家以上控股公司。
根据国家网信办2021年1月8日发布的《互联网信息服务管理办法（修订草案征求意见稿）》，互联网信息服务，是指为用户提供互联网信息发布和应用平台，包括但不限于互联网新闻信息服务、搜索引擎、即时通讯、交互式信息服务、网络直播、网络支付、广告推广、网络存储、网络购物、网络预约、应用软件下载等互联网服务。
网信办就《互联网信息服务算法推荐管理规定》公开征求意见
证券时报2021年8月27日消息，网信办就《互联网信息服务算法推荐管理规定（征求意见稿）》公开征求意见。意见提出，参与算法推荐服务安全评估和监督检查的相关机构和人员应当对在履行职责中知悉的个人信息、隐私和商业秘密严格保密，不得泄露、出售或者非法向他人提供。
《互联网信息服务管理办法》公开征求意见
2021年1月8日获悉，国家网信办会同工信部、公安部起草了《互联网信息服务管理办法（修订草案征求意见稿）》，现向社会公开征求意见。意见稿提出，有关部门应当采取技术措施和其他必要措施，防范、制止和查处窃取或者以其他非法方式获取、出售或者非法向他人提供互联网信息服务提供者、互联网网络接入服务提供者所收集、记录的身份信息、日志信息的违法犯罪行为。

⑹ 互联网信息服务算法推荐管理规定

第一章总 则第一条为了规范互联网信息服务算法推荐活动，弘扬社会主义核心价值观，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务健康有序发展，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规，制定本规定。第二条在中华人民共和国境内应用算法推荐技术提供互联网信息服务（以下简称算法推荐服务），适用本规定。法律、行政法规另有规定的，依照其规定。

前款所称应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。第三条国家网信部门负责统筹协调全国算法推荐服务治理和相关监督管理工作。国务院电信、公安、市场监管等有关部门依据各自职责负责算法推荐服务监督管理工作。

地方网信部门负责统筹协调本行政区域内的算法推荐服务治理和相关监督管理工作。地方电信、公安、市场监管等有关部门依据各自职责负责本行政区域内的算法推荐服务监督管理工作。第四条提供算法推荐服务，应当遵守法律法规，尊重社会公德和伦理，遵守商业道德和职业道德，遵循公正公平、公开透明、科学合理和诚实信用的原则。第五条鼓励相关行业组织加强行业自律，建立健全行业标准、行业准则和自律管理制度，督促指导算法推荐服务提供者制定完善服务规范、依法提供服务并接受社会监督。第二章信息服务规范第六条算法推荐服务提供者应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善。

算法推荐服务提供者不得利用算法推荐服务从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动，不得利用算法推荐服务传播法律、行政法规禁止的信息，应当采取措施防范和抵制传播不良信息。第七条算法推荐服务提供者应当落实算法安全主体责任，建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施，制定并公开算法推荐服务相关规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。第八条算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。第九条算法推荐服务提供者应当加强信息安全管理，建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现未作显着标识的算法生成合成信息的，应当作出显着标识后，方可继续传输。

发现违法信息的，应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门和有关部门报告。发现不良信息的，应当按照网络信息内容生态治理有关规定予以处置。第十条算法推荐服务提供者应当加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。第十一条算法推荐服务提供者应当加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。第十二条鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。第十三条算法推荐服务提供者提供互联网新闻信息服务的，应当依法取得互联网新闻信息服务许可，规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务，不得生成合成虚假新闻信息，不得传播非国家规定范围内的单位发布的新闻信息。第十四条算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为。

⑺ 专家解读《互联网信息服务算法推荐管理规定》

为规范互联网信息服务算法推荐活动，维护国家安全和 社会 公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务 健康 发展，近日，国家网信办等四部门联合发布《互联网信息服务算法推荐管理规定》（以下简称《规定》）。《规定》有哪些创新亮点？又有何重要意义？本文邀请专家为你解读。

许可

对外经济贸易大学数字经济与法律创新研究中心主任

“算法协同治理”的中国道路悄然成型

随着信息技术的发展、商业应用的演进和政府管理的迭代，我们已经进入到了一个“算法 社会 ”。其中，算法为我们规划道路，为我们筛选搜索结果，为我们选择朋友，甚至还能为我们打出 社会 信用分值，或者决定我们能否出行。在某种意义上，算法决定了我们是谁，我们看到什么，以及我们如何思考。

正因如此，新年伊始出炉的这个《规定》才显得意义重大。从去年年初的研究酝酿，到去年10月份的征求意见，再到新年的正式发布，中国对算法推荐服务的治理路径也日渐清晰，“算法协同治理”的中国道路悄然成型。

一方面，算法协作治理是各监管机构的协作。 作为一个通用技术，当今的算法不但是一种商业活动，也是一种 社会 建构。算法的复杂性使其治理必须依托于多个监管机构的分工合作。与征求意见稿相比，正式稿第三条特别明确了“国家网信部门负责统筹协调，国务院电信、公安、市场监管各自监督管理”的监管框架，将保护消费者与 社会 公益的监管与攸关企业经营活动的监管相结合，使得算法治理成为国家网信办与其他机构共同的合作事业。

另一方面，算法协作治理是技术、法律和 社会 规范的协作。 算法的底层是技术，正所谓“解铃还须系铃人”，对于算法黑箱、算法歧视等痼疾，需要从技术入手为算法安全内生机理、算法安全风险评估、算法全生命周期安全监测提供科学依据，就此而言，行业标准、行业准则、行业自律是治理的优先工具。同时，算法并不中立，它始终带有算法开发者与使用者的价值立场。为此，正式稿第一条开宗明义，将“弘扬 社会 主义核心价值观”作为首要的立法目标，鼓励使用算法传播正能量、抵制违法和不良信息，不得设置诱导用户沉迷、过度消费等有违伦理道德的算法模型，推动算法向上向善。

作为全球“第一部”全面规范“算法推荐”的法规，《规定》的影响深远。但是，这只是中国算法治理的“第一步”，放眼未来，一系列算法法律文件正在起草之中，我们期待着治理机制健全、监管体系完善、算法生态规范的中国算法协同治理格局早日形成。

方禹

中国信息通信研究院互联网法律研究中心主任

科学构建算法综合治理体系

近年来，新一轮 科技 革命和产业变革快速兴起，人工智能、云计算、大数据等新技术新应用新业态方兴未艾。作为人工智能的底层架构，算法被广泛应用于新闻传媒、电子商务、生活出行等千行百业，在极大提升 社会 生产效率、丰富公众生活形态的同时，也为公众利益、 社会 稳定和国家安全带来巨大挑战。《规定》准确把握“时间差、空白区”，强化信息服务领域算法推荐技术治理，科学构建了算法综合治理体系。

第一，明确了算法治理体制机制。 算法治理涉及信息内容管理、电信服务、网络犯罪、市场竞争等多方面内容，对此，《规定》确立了网信部门统筹协调，电信、公安、市场监管等有关部门依据各自职责负责的综合治理格局，形成有法可依、多元协同、多方参与的治理机制。同时，《规定》创新性构建了算法安全风险监测、算法安全评估、 科技 伦理审查、算法备案管理和涉算法违法违规行为处置等多维一体的监管体系。

第二，明确了算法推荐服务相关保护法益。 落实《个人信息保护法》、《数据安全法》等立法要求，《规定》针对算法歧视、算法霸权、算法黑箱等问题进行回应，重点从三个层面维护用户权益：一是维护个人自主权益，规定算法透明度和用户自主选择机制，要求应当以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等，并规定了退出算法推荐、用户标签管理、算法说明解释义务等内容；二是维护用户平等权益，规定不得利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为；三是维护特殊群体权益，包括未成年人网络沉迷问题、老年人智能适老化服务、劳动者劳动权益保障等内容。

第三，将算法监管纳入网络综合治理体系。 当前，我国以《网络安全法》《个人信息保护法》《数据安全法》等立法为基础的网络法律体系初步建成，逐步形成较为完备的法律工具箱机制。《规定》以上述立法为依据，将算法监管纳入网络综合治理体系，建立了算法备案、巡查、评估等法律义务，强调企业风险责任意识，要求健全算法安全管理组织机构，加强风险防控和隐患排查治理，提升应对算法安全突发事件的能力和水平，科学构建了网络平台责任体系。

总体来看，《规定》聚焦重点、抓纲带目，有效落实了党中央关于压实网络平台主体责任、加大舆论引导力度等方面的治理要求，对于推动算法 健康 有序发展提供了坚实法治保障。

⑻ 《互联网新闻信息服务管理规定》修订 有哪些新变化

人民网北京1月14日电（传媒频道综合报道） 日前，国务院法制办官网发布国家互联网信息办公室修订后的《互联网新闻信息服务管理规定》（修订征求意见稿），目前正向社会公开征求意见。该规定从发布到此次修订已过去十年，《征求意见稿》将各类新媒体纳入管理范畴，强调总编辑负责制，明确规定转载新闻信息，应当完整、准确，不得歪曲、篡改标题原意和新闻信息内容。
■主管单位变更
《互联网新闻信息服务管理规定》是在2005年9月发布的，距此次修订已经超过10年，修订后主管单位也由国务院新闻办公室变为国家互联网信息办公室。
《征求意见稿》明确规定，国家互联网信息办公室负责全国互联网新闻信息服务的监督管理工作。各地方互联网信息办公室负责本行政区域内互联网新闻信息服务的监督管理工作。
■将各类新媒体纳入管理范畴
《征求意见稿》指出，本规定所称互联网新闻信息，是指时政类新闻信息，包括有关政治、经济、军事、外交等社会公共事务的报道、评论，以及有关社会突发事件的报道、评论。
此次修订内容最大的变化是将各类新媒体纳入管理范畴，之前的规定主要针对的是网站，修订后，包括应用程序、论坛、博客、微博客、即时通信工具、搜索引擎以及其他具有新闻舆论或社会动员功能的应用都在管理范围内，这些应用向社会公众提供新闻信息采编发布、转载服务之前都应当取得互联网新闻信息服务许可。不仅如此，提供新闻信息发布平台服务的也应当提前获得互联网新闻信息服务许可。
■提高申请“门槛儿”，缩短审批时间
本次修订的另一个明显变化是申请互联网新闻信息服务许可的标准有所提高。修订后，则至少要具备五个条件，包括主要负责人、总编辑是中国公民；有完备的服务方案；有健全的信息安全管理制度和技术保障措施；有与服务相适应的专职新闻编辑人员、新闻审核人员和技术保障人员；有与服务相适应的场所、设施和资金。申请时要配备上述条件的证明材料，还要递交严格履行本规定相关责任义务的承诺书。
修订征求意见稿虽然提高了申请标准，但也缩短了审批时间。相关网信办对符合规定的申请材料应在5个工作日内受理，并在20个工作日内作出决定。20个工作日内不能作出决定的，经本机关负责人批准，可以延长10个工作日。而此前审批周期40天到60天不等。
■总编辑对互联网新闻信息内容负总责
此次修订后新增加的内容包括强调总编辑负责，《征求意见稿》强调，互联网新闻信息服务提供者应当建立总编辑负责制，设立总编辑，总编辑对互联网新闻信息内容负总责。
还应当建立健全信息发布审核、公共信息实时巡查、应急处置等信息安全管理制度，采取安全防范措施。此外，从业人员应当参加国家互联网信息办公室组织开展或者委托省、自治区、直辖市互联网信息办公室开展的培训、考核。
■不得传播涉个人隐私信息
此次修订后新增加的内容还包括强调隐私方面的内容，《征求意见稿》对网信办工作人员和互联网新闻信息服务提供者、用户都提出了要求
此次意见稿要求，互联网新闻信息服务提供者为用户提供互联网新闻信息发布平台服务，应当要求用户提供真实身份信息，用户应当予以配合。互联网新闻信息服务提供者收集用户身份信息，应当事先明示收集规则、留存期限;收集前款规定以外的用户信息的，应经用户同意。
同时，各级互联网信息办公室及其工作人员对在履行职责中知悉的用户身份信息和日志信息，负有保密的义务，不得泄露、篡改、非法毁损，不得出售或者非法向他人提供。互联网新闻信息服务提供者、用户不得制作、发布、传播能够识别他人身份和涉及他人隐私的信息，但法律、行政法规另有规定或者当事人同意公开的除外。
■转载新闻不得歪曲、篡改标题原意
之前发布的《规定》要求，转载新闻信息或者向公众发送时政类通讯信息，应当注明新闻信息来源，不得歪曲原新闻信息的内容。
此次修订后的《征求意见稿》规定，今后，互联网新闻信息服务提供者转载新闻信息，应当完整、准确，不得歪曲、篡改标题原意和新闻信息内容，在显着位置注明来源、原作者、原标题、编辑真实姓名，并保证新闻信息来源可追溯。

⑼ 不得利用算法实施影响网络舆论，各部门对此作出了哪些举措

网络安全与社会公民生活息息相关，同时它与社会多个方面的利益相互影响。秉着“为人民服务”的理念。近日，国家互联网信息办公室联合多个部门发布了两个重要文件，为营造安全的网络环境保驾护航。

通过这一系列规定为国家互联网安全提供了保障。各部门相互努力，对不得利用算法对国家互联网安全进行影响作出了规定。这为国家其他行业的发展和事业的繁荣提供了信息安全基础。是非常的有利的。这些规定为国家互联网安全提供了法律保障和法律依据，为国家互联网科技发展保驾护航。相信国家的这一次出手扼杀了许多不法手段来获取公民消息的途径，也保障了国民的信息网络安全。

⑽ 算法推荐服务被戴“紧箍”，流量造假、控制热搜等有治了

算法推荐是把“双刃剑”

腾讯安全战略研究中心联合赛博研究院发布的《人工智能时代数字内容治理的机遇与挑战》报告显示，算法精准推荐已经占据信息流分发主导地位，算法能够实现数字内容聚合和精准推荐，快速匹配信息与人。基于算法的个性化内容推送在为用户提供精准化、个性化服务的同时，也带来了国家安全风险因素增高、不良信息泛滥风险增加以及传统权利保护难度加大等问题，已然成为一把“双刃剑”。

上海 财经 大学研究员崔丽丽表示，互联网平台作为消除信息不对称的先进技术代表，有责任维持技术手段的客观性，反映流量的自然状态，呈现真实的公众意见。不应该因为商业利益的驱使在流量上作假。过去曾发生过一些涉及到商业利益的新闻、信息被操控的情况，这样获取的商业利益是一种市场不公平的表现，甚至是不合法的。

提出算法“向善”新要求

根据征求意见稿，管理规定将适用于在境内应用算法推荐技术提供互联网信息服务的公司。这也意味着，以内容推荐算法为核心竞争力的短视频平台、UGC（用户生产内容）平台、推荐内容或是广告的电商和社交平台等主流互联网公司和平台的算法推荐技术都包含在此。

崔丽丽表示，不论是UGC还是PGC（专业生产内容）平台，内容的审核以及对于受众的推荐实际都有相应的规则，互联网信息平台已经在形态上取代了过去的传统媒体，因此，可能具备了一定的公共设施属性，所以信息的产生、审核和分发应该符合公允、客观以及符合事实等要求。

征求意见稿指出，算法推荐服务提供者应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用“向上向善”。算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型。

王娟表示，征求意见稿对算法的主体价值导向、个人数据用途、行业自律等提出了算法“向善”的要求，提出了算法提供者备案责任，明确了算法推荐服务提供者作为落实算法安全的主体责任 ，还对算法推荐服务日志等信息提出了留存要求，留存期限不少于六个月，并在相关执法部门依法查询时予以提供，对回溯求证环节进行了加强。

征求意见稿明确，算法推荐服务提供者应落实算法安全主体责任，建立健全用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等管理制度，制定并公开算法推荐相关服务规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。

从用户的角度来看，算法对数据的交互模式也提出了很多要求。征求意见稿提出，算法推荐服务提供者应当以显着方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。同时，算法推荐服务提供者应当向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能，以及不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。

而对于大数据“杀熟”等顽疾，征求意见稿强调，算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者合法权益，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。

网络热搜将被严管

近年来，网络热搜已经成为实时的舆情风向标和舆论的集散地，征求意见稿也特别对热搜作出了规范管理，明确算法推荐服务提供者应当加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容。

王娟表示，征求意见稿对热搜、虚假流量可谓“重拳出击”，核心仍是围绕互联网不是法外之地，建立清朗网络空间、树立良好 社会 价值观，微博热搜榜等各类“带节奏”式资本叠加流量的运作模式将受到重大挑战。

面对外界的质疑，微博也在近日发布了热搜管理规则，并对“花钱买热搜”“花钱压热搜”等质疑回应称，热搜根据微博用户的真实行为进行计算，并根据搜索量、发博量、互动量等数据指标，形成实时榜单。榜单算法中包含了严格的排水军和反垃圾机制，以确保公正客观。同时上半年热搜还将“减少 娱乐 占比”作为主要调控目标。