规范算法控制热搜

① 2022年3月1日实施的网络新规

《互联网信息服务算法推荐管理规定》
国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》，3月1日起正式施行
《规定》明确，应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。各类提供算法推荐服务的互联网公司几乎都在监管范围内，如各类短视频平台、电商平台、社交平台及餐饮外卖平台等。
法律依据
《互联网信息服务算法推荐管理规定》
第三条 国家网信部门负责统筹协调全国算法推荐服务治理和相关监督管理工作。国务院电信、公安、市场监管等有关部门依据各自职责负责算法推荐服务监督管理工作。
地方网信部门负责统筹协调本行政区域内的算法推荐服务治理和相关监督管理工作。地方电信、公安、市场监管等有关部门依据各自职责负责本行政区域内的算法推荐服务监督管理工作。
第四条 提供算法推荐服务，应当遵守法律法规，尊重社会公德和伦理，遵守商业道德和职业道德，遵循公正公平、公开透明、科学合理和诚实信用的原则。
第六条 算法推荐服务提供者应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善。
算法推荐服务提供者不得利用算法推荐服务从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动，不得利用算法推荐服务传播法律、行政法规禁止的信息，应当采取措施防范和抵制传播不良信息。
第七条 算法推荐服务提供者应当落实算法安全主体责任，建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施，制定并公开算法推荐服务相关规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。
第八条 算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。
第九条 算法推荐服务提供者应当加强信息安全管理，建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现未作显着标识的算法生成合成信息的，应当作出显着标识后，方可继续传输。
发现违法信息的，应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门和有关部门报告。发现不良信息的，应当按照网络信息内容生态治理有关规定予以处置。
第十条 算法推荐服务提供者应当加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。
第十一条 算法推荐服务提供者应当加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。
第十二条 鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。
第十三条 算法推荐服务提供者提供互联网新闻信息服务的，应当依法取得互联网新闻信息服务许可，规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务，不得生成合成虚假新闻信息，不得传播非国家规定范围内的单位发布的新闻信息。
第十四条 算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为。
第十五条 算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为。

② 3月1日起不得利用算法控制热搜，我们该如何严防刷量控评

人民群众要做起有效的监督，平时也要奉劝身边的人不要去做这样的事情，自己也不参与这样的活动，遇到这样的行为要举报。

③ 新浪微博公布热搜管理规则具体是怎么样的

由于受网友质疑，新浪微博8月23日公布了热搜管理规则，包括计算公式和产品机制。据悉，热搜词的热度计算公式为：（搜索热度+讨论热度+传播热度）×互动率。

1、搜索热度指搜索量，包括手动输入搜索和点击跳转搜索，反映用户对热点的关注和探索的程度。

2、讨论热度指讨论量，包括原创发博和转发讨论，反映用户热议和参与的热情。

3、传播热度指阅读量，反映热点在微博体系内的传播情况。

4、互动率指热搜结果页互动率，反映用户消费内容的意愿。

此外，微博指出，上半年将“减少娱乐占比”作为主要调控目标，并将继续从以下维度进行调控，加大对正向内容的宣推力度，同时，对榜单前列明星娱乐类话题总数也进行适度调控。

公告称，热搜榜排序之外，存在两个广告资源位，一个在第3位热搜词之下，一个在第6位热搜词之下。热搜排序中，不存在任何商业售卖位置。

热搜经历的变革

1、2014年，热搜在客户端上线实时榜，用每十分钟一次的更新速度，让用户能随时随地看到最新热点资讯。

2、2017年，实时热搜榜提速至分钟级更新，创行业先河，为用户提供更实时新鲜的热点内容。

3、2018年，热搜全面升级算法，在搜索热度基础上，将热点的讨论、传播、互动数据一并纳入计算，更全面客观地反映微博热点排行。同年，热搜开设置顶位和要闻榜，放大主流声音，加强平台正能量传播氛围。

4、2020年，热搜建设同城榜单，让更多的区域热点也能被发现和关注。

④ 新浪微博公布热搜管理规则是什么

根据微博用户的真实行为进行计算，实时发现微博平台内正受到广泛关注的热点内容，并形成实时榜单，包括被大量网友搜索和讨论的关键词或者话题词，以及算法机制计算所有热词的综合热度等。

新浪微博曾多次被社会舆论指出“买热搜”等问题，热搜的公平公正性饱受质疑。微博方面表示，热搜坚决打击“黑灰产”伪造热点热度、污染热点生态、谋取不正当流量或经济利益的行为，持续升级热搜防刷机制，为用户提供更良性的热点生态。

如发现有关情况，欢迎广大用户通过举报投诉前台“恶意营销”分类，或者直接私信微博管理员的方式，进行监督举报，站方将依据事实情况作出相应处理。后续将推出热搜专属举报通道和流程，以进一步完善热搜管理机制。

热搜关键词：

热搜关键词通常反映一段时间内的各界大事与流行话题。

热搜分两种：

1、短期热搜关键词。本类事件、人物或者话题出现快，但是也消失快。期内吸引。例如：一部新出的电影，一个新出的电视剧。

2、长期热搜关键词。本类事件、人物或者话题比较长久，在相当长的一段时间内都属于比较热的搜索关键词，不会轻易改变。

⑤ 互联网信息服务算法推荐管理规定

第一章总 则第一条为了规范互联网信息服务算法推荐活动，弘扬社会主义核心价值观，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务健康有序发展，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规，制定本规定。第二条在中华人民共和国境内应用算法推荐技术提供互联网信息服务（以下简称算法推荐服务），适用本规定。法律、行政法规另有规定的，依照其规定。

前款所称应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。第三条国家网信部门负责统筹协调全国算法推荐服务治理和相关监督管理工作。国务院电信、公安、市场监管等有关部门依据各自职责负责算法推荐服务监督管理工作。

地方网信部门负责统筹协调本行政区域内的算法推荐服务治理和相关监督管理工作。地方电信、公安、市场监管等有关部门依据各自职责负责本行政区域内的算法推荐服务监督管理工作。第四条提供算法推荐服务，应当遵守法律法规，尊重社会公德和伦理，遵守商业道德和职业道德，遵循公正公平、公开透明、科学合理和诚实信用的原则。第五条鼓励相关行业组织加强行业自律，建立健全行业标准、行业准则和自律管理制度，督促指导算法推荐服务提供者制定完善服务规范、依法提供服务并接受社会监督。第二章信息服务规范第六条算法推荐服务提供者应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善。

算法推荐服务提供者不得利用算法推荐服务从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动，不得利用算法推荐服务传播法律、行政法规禁止的信息，应当采取措施防范和抵制传播不良信息。第七条算法推荐服务提供者应当落实算法安全主体责任，建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施，制定并公开算法推荐服务相关规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。第八条算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。第九条算法推荐服务提供者应当加强信息安全管理，建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现未作显着标识的算法生成合成信息的，应当作出显着标识后，方可继续传输。

发现违法信息的，应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门和有关部门报告。发现不良信息的，应当按照网络信息内容生态治理有关规定予以处置。第十条算法推荐服务提供者应当加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。第十一条算法推荐服务提供者应当加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。第十二条鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。第十三条算法推荐服务提供者提供互联网新闻信息服务的，应当依法取得互联网新闻信息服务许可，规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务，不得生成合成虚假新闻信息，不得传播非国家规定范围内的单位发布的新闻信息。第十四条算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为。

⑥ 国家网信办拟规定不得利用算法控制热搜，你如何看待这个规定

近日，一则关于国家网信办发布了一条新的规定，不允许利用算法来控制热搜这件事情也是引发了很多网友们的关注，因为近几年来，很多人都非常注重所谓的流量，而热搜就是很多人获取流量的一个主要途径，那么怎么样来看待这个规定，接下来可以一起来了解一下。

一、抵制恶意流量

很多人都说现在是一个流量世界，处于一个流量时代，几乎人人都认为只要获得了流量，就可以获得更高的知名度，可以为自己带来更多的利益，但这样的一个背景驱动下，也会导致很多人去恶意利用这种流量。

还有值得一提就是现在很多饭圈，文化，饭圈，文化中的流量效应，已经对社会，对青少年的健康发展都产生了一个不良的影响，所以国家发布这个规定，在某种程度上也是对于网络风气的一种整治

⑦ 算法推荐服务被戴“紧箍”，流量造假、控制热搜等有治了

算法推荐是把“双刃剑”

腾讯安全战略研究中心联合赛博研究院发布的《人工智能时代数字内容治理的机遇与挑战》报告显示，算法精准推荐已经占据信息流分发主导地位，算法能够实现数字内容聚合和精准推荐，快速匹配信息与人。基于算法的个性化内容推送在为用户提供精准化、个性化服务的同时，也带来了国家安全风险因素增高、不良信息泛滥风险增加以及传统权利保护难度加大等问题，已然成为一把“双刃剑”。

上海 财经 大学研究员崔丽丽表示，互联网平台作为消除信息不对称的先进技术代表，有责任维持技术手段的客观性，反映流量的自然状态，呈现真实的公众意见。不应该因为商业利益的驱使在流量上作假。过去曾发生过一些涉及到商业利益的新闻、信息被操控的情况，这样获取的商业利益是一种市场不公平的表现，甚至是不合法的。

提出算法“向善”新要求

根据征求意见稿，管理规定将适用于在境内应用算法推荐技术提供互联网信息服务的公司。这也意味着，以内容推荐算法为核心竞争力的短视频平台、UGC（用户生产内容）平台、推荐内容或是广告的电商和社交平台等主流互联网公司和平台的算法推荐技术都包含在此。

崔丽丽表示，不论是UGC还是PGC（专业生产内容）平台，内容的审核以及对于受众的推荐实际都有相应的规则，互联网信息平台已经在形态上取代了过去的传统媒体，因此，可能具备了一定的公共设施属性，所以信息的产生、审核和分发应该符合公允、客观以及符合事实等要求。

征求意见稿指出，算法推荐服务提供者应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用“向上向善”。算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型。

王娟表示，征求意见稿对算法的主体价值导向、个人数据用途、行业自律等提出了算法“向善”的要求，提出了算法提供者备案责任，明确了算法推荐服务提供者作为落实算法安全的主体责任 ，还对算法推荐服务日志等信息提出了留存要求，留存期限不少于六个月，并在相关执法部门依法查询时予以提供，对回溯求证环节进行了加强。

征求意见稿明确，算法推荐服务提供者应落实算法安全主体责任，建立健全用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等管理制度，制定并公开算法推荐相关服务规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。

从用户的角度来看，算法对数据的交互模式也提出了很多要求。征求意见稿提出，算法推荐服务提供者应当以显着方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。同时，算法推荐服务提供者应当向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能，以及不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。

而对于大数据“杀熟”等顽疾，征求意见稿强调，算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者合法权益，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。

网络热搜将被严管

近年来，网络热搜已经成为实时的舆情风向标和舆论的集散地，征求意见稿也特别对热搜作出了规范管理，明确算法推荐服务提供者应当加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容。

王娟表示，征求意见稿对热搜、虚假流量可谓“重拳出击”，核心仍是围绕互联网不是法外之地，建立清朗网络空间、树立良好 社会 价值观，微博热搜榜等各类“带节奏”式资本叠加流量的运作模式将受到重大挑战。

面对外界的质疑，微博也在近日发布了热搜管理规则，并对“花钱买热搜”“花钱压热搜”等质疑回应称，热搜根据微博用户的真实行为进行计算，并根据搜索量、发博量、互动量等数据指标，形成实时榜单。榜单算法中包含了严格的排水军和反垃圾机制，以确保公正客观。同时上半年热搜还将“减少 娱乐 占比”作为主要调控目标。

⑧ 最懂你的“算法”，如何不沦为“算计”

来源 摘编自《平台治理2.0：共同富裕时代数字经济治理转型》，电子工业出版社，2022年4月出版。

文 于凤霞 国家信息中心信息化和产业发展部处长

随着互联网、大数据、算法与人工智能等的发展日新月异，平台经济的崛起使得追求物美价廉、方便快捷的消费者与世界各地的商品和服务之间的距离只是点击几下鼠标而已。网络世界、新兴技术正在使我们更加便利、舒适，我们每天都在享受平台经济繁荣发展带来的福利。大数据和算法等技术功不可没。

克里斯托弗·斯坦纳在其着作《算法帝国》里对算法推崇备至，认为构建算法模仿、超越并最终取代人类，是21世纪最重要的能力，未来属于算法及其创造者。 科技 哲学家凯文·凯利在其着作《失控》中提到：“人们在将自然逻辑输入机器的同时，也把技术逻辑带到了生命之中……机器人、经济体、计算机程序等人造物也越来越具有生命属性。”

随着平台经济在人类经济 社会 各领域的快速渗透，我们的生活已经悄悄地被算法和数据控制，算法与数据接管了整个 社会 。算法为人类行为赋能，但受所输入数据的质量及算法模型本身的限制，内在地嵌入了人类正面或负面的价值观，并能动地制造着各种风险。

阿里尔·扎拉奇在其《算法的陷阱：超级平台、算法垄断与场景欺骗》一书中写道，精妙的算法与数据运算改变了市场竞争的本质，复杂多变的市场现实已在悄无声息中将权力移交到少数人的手中，因此，必须由监管机构及时采取可行的方法和政策，有效化解算法带来的各种风险，促使创新能够真正为 社会 带来正面意义。

经过长期的数据沉淀和算法优化，你的手机、你的常用App在某些方面确实会比你的家人、好友甚至你本人更了解你。这就意味着，当我们在利用算法的时候，也不自觉地成了被算法计算的对象。

“大数据杀熟”意指同样的产品或者服务，老客户看到的价格反倒比新客户所看到的更高。而且还存在同一用户信息在不同网络平台之间被共享的问题，许多用户都遇到过这样的情形：在一个网站浏览或搜索的内容很快会被另一个网站进行推荐或成为其广告客户。

在传统销售模式下，通常是老客户能够享受到更多的优惠，这些优惠往往通过会员卡、积分制等不同形式来实现，也广为大众所接受。

然而，通过网络平台开展的许多销售活动，却出现了相反的情况：随着用户在某个平台上消费次数的增加、消费金额的不断提高，其最开始能够享受到的各种优惠却会逐渐消失，甚至变成老用户可能要付出更高的价钱获得服务，而新用户则能够享受到各类优惠。

这种问题在美国早就引起过热议，2000年亚马逊曾对68款盘片进行类似的定价机制。新顾客购买价格为22.74美元，老顾客却需要26.24美元。在引起消费者广泛质疑后，亚马逊CEO贝佐斯回应这只是随机价格的一种测试，并向高价客户退还差价，这次风波才得以平息。2012年《华尔街日报》又爆料一家名为Staples的文具店的“差别定价”事件。

从某种意义上说，“大数据杀熟”属于大数据营销，部分平台在有了大数据这个强大的用户画像工具后，实现了千人千面的定价机制。利用大数据技术对用户资料进行细分，根据用户习惯建立用户画像，然后通过画像给用户推荐相应的产品与服务，并且进行差异化定价。

根据《中华人民共和国价格法》第十四条规定，经营者提供相同商品或者服务，不得对具有同等交易条件的其他经营者实行价格歧视。由于该法未针对“同等交易条件”进行详细解释，严格说来，网络平台依据大数据分析所做的“差别定价”并不能完全和“价格歧视”画等号。

人们之所以会对“大数据杀熟”产生怀疑甚至愤怒，根本上是因为平台定价机制和供需匹配规则不透明。

基于用户注册及个人信息、地理位置、消费记录、搜索习惯等行为数据，平台能够针对不同的用户形成独特的用户画像。这一画像有助于平台为用户提供精准的个性化服务，但也埋下了“大数据杀熟”的潜在风险。

针对新老用户或不同消费习惯的用户，一些平台提供的同一产品或服务，存在较为严重的价格歧视现象，引发广泛争议。平台定价机制和供需匹配规则的不透明，还使得消费者在权益遭到损害时陷入举证难、维权难的境地。

算法引发的第二个问题可以被称为“信息茧房”和“回声室效应”。

“信息茧房”可能带来的后果是，长期被禁锢在其中的个人，其思维甚至是生活可能呈现出一种定式化、程序化的状态，失去了解不同事物的能力和接触机会；另外，还可能加剧人与人的差异性、分化，甚至很有可能带来一大批 社会 极端分子，从而带来安全威胁，影响 社会 的稳定。

经济学家安东尼·唐恩斯认为，人们容易从观点相似的人那里获取信息，从而减少信息成本。网络虚拟社群一方面使爱好相似的人们聚集到一起，但高度同质化的聚集也减少了他们接受多元化声音的可能，从而形成封闭的“回声室”。

算法给用户推荐的信息内容，如新闻标题、内容、图片、评论等，都会影响用户的情绪，甚至改变用户的思想和观点。在这些场景中，算法本身只是从优化业务的角度出发进行推荐和内容分发，这些算法的长期高频率使用，在客观上深刻地影响着用户的思想和行为，甚至影响整个 社会 的价值传播。

因此，算法作为一种技术工具，或许是中立的无所谓正向或负向价值观，但如果算法技术与商业利益密切联系，或者被应用于与人和 社会 相关的场景时，必然会引发一系列 社会 问题，不容回避。

算法引发的第三个主要问题是流量造假和流量劫持。

一些平台或商家通过人为或机器操作手段提高关键词搜索量、平台用户数、广告点击量、视频播放量、产品购买量、服务评论数等，还有部分平台通过强制跳转、妨碍破坏等技术手段，或者使用定向引流、广告混淆等非技术手段劫持本应属于竞争对手的流量，诱导用户使用己方的产品或服务。

在直播电商领域中，2020年新华社曾报道，山东临沂电商从业者孙玲玲，在某电商平台经营一家销售糖果类产品的店铺，一个月内，孙玲玲找了多位带货主播，这些主播粉丝数量都超过百万，但几乎每场带货都以赔钱收场，流量造假问题也相当突出。

当前关于规范恶意流量竞争的制度尚不健全。一是法律规定较为模糊，尤其是对于流量不正当竞争行为的构成要件与法律责任缺乏明确界定；二是平台企业流量竞争手段越来越隐蔽和复杂，导致不正当竞争行为的举证、认定及对损害和赔偿额度的确定都存在较大难度。

随着网络技术的进步与平台经济的发展，如何规制流量恶意竞争等新型不正当竞争行为、营造公平竞争的市场环境，成为亟须深入研究的重要课题。

此外，还有操纵榜单和控制热搜等问题。“热搜”原本反映的是当前舆论最关切的热点问题，但在实践中我们发现，其后台算法有可能被滥用，出现操纵榜单、控制热搜、人为制造舆论热点等问题，严重影响着民众对热搜的信任。

卓别林的电影《摩登时代》对机器操控产业工人的讽刺，以及马克思着作《1844年经济学哲学手稿》对机器工业化时代人类“异化”的警示，无不提醒我们，就像机器流水线有可能凌驾于劳动工人之上一样，当今无处不在的算法若应用不当，也有可能成为一种凌驾于人之上的力量，为人和 社会 的发展带来新的风险。

为此，有效加强算法监管，积极应对新技术发展带来的挑战，让人类更好地享受新技术发展的福利，是顺应平台经济发展趋势的必然要求。

针对算法应用这一全新的治理课题，我国正在不断加强相关领域的制度建设和规范。如早在2018年，我国资管新规《关于规范金融机构资产管理业务的指导意见》就提出要避免智能算法的顺周期性风险，要求金融机构，应当根据不同产品投资策略，研发对应的人工智能算法或者程序化交易，避免算法同质化加剧投资行为的顺周期性，并针对由此可能引发的市场波动风险制订应对预案。

此外，新规提出，因算法同质化、编程设计错误、对数据利用深度不够等人工智能算法模型缺陷或者系统异常，导致“羊群效应”、影响金融市场稳定运行的，金融机构应当及时采取人工干预措施，强制调整或者终止人工智能业务。

2020年12月中共中央印发的《法治 社会 建设实施纲要（2020-2025年）》提出，制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法；加强对大数据、云计算和人工智能等新技术研发应用的规范引导。

尤其是2021年出台的系列制度，从反垄断等不正当竞争、保护消费者权益、保护个人信息安全等不同角度和侧重点，对算法应用引发的“大数据杀熟”行为提出了规范要求。

2021年2月，《关于平台经济领域的反垄断指南》规定，基于大数据和算法，根据交易相对人的支付能力、消费偏好、使用习惯等，实行差异性交易价格或者其他交易条件；对新老交易相对人实行差异性交易价格或者其他交易条件；实行差异性标准、规则、算法；实行差异性付款条件和交易方式等，都可能被认定为“大数据杀熟”等不正当竞争行为而面临更严格的监管。

2021年8月，国家市场监督管理总局公布的《禁止网络不正当竞争行为规定（公开征求意见稿）》第二十一条指出，经营者不得利用数据、算法等技术手段，通过收集、分析交易相对方的交易信息、浏览内容及次数、交易时使用的终端设备的品牌及价值等方式，对交易条件相同的交易相对方不合理地提供不同的交易信息，侵害交易相对方的知情权、选择权、公平交易权等，扰乱市场公平交易秩序。

从监管的角度来看，反不正当竞争法对“大数据杀熟”行为的规制的最大特点在于，企业并不需要具备市场支配地位，无论平台企业的市场地位如何，经营者利用技术手段，实施“二选一”行为，或者利用数据、算法等技术手段，侵害交易相对方的知情权、选择权、公平交易权等，扰乱市场公平交易秩序，实施“大数据杀熟”的行为，均会受到反不正当竞争法的限制。

2021年11月1日开始正式实施的个人信息保护法，第一次在法律文本中定义了“自动化决策”一词的含义，即“通过计算机程序自动分析、评估个人的行为习惯、兴趣爱好或者经济、 健康 、信用状况等，并进行决策的活动”。对利用个人信息进行自动化决策做了针对性的规范，要求个人信息处理者保证自动化决策的透明度和结果的公平、公正，不得通过自动化决策对个人在交易价格等交易条件上实行不合理的差别待遇，并在事前进行个人信息保护影响评估。个人认为自动化决策对其权益造成重大影响的，有权拒绝个人信息处理者仅通过自动化决策的方式做出决定。

可以说，这里的规定，更加强调对用户人格权益的保护，旨在保护个人信息安全。

算法规制的第二个重点是，算法在互联网信息服务领域的应用。

2021年8月，国家互联网信息办公室就《互联网信息服务算法推荐管理规定（征求意见稿）》向 社会 公开征求意见。征求意见稿中明确，所谓的算法推荐技术，是指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容。

这意味着，各类信息流平台、用户生成内容（UGC）平台都在被监管范围内。甚至在朋友圈内常见的信息流广告，亦是推荐算法的结果，也应该遵守相关规定。

征求意见稿第一次区分了生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类五类向用户提供信息内容的算法技术，并就算法推荐服务提供者的责任和义务、算法推荐服务公告和算法备案等制度、算法推荐未成年人模式做出了详细规定。

在网络信息内容生态方面，征求意见稿提出，算法推荐服务提供者应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善。

强调要“建立完善人工干预和用户自主选择机制”，也就是说，不能依赖算法进行内容推荐，要增加人工识别及筛选的过程，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容。

这意味着，在压实互联网信息服务平台主体责任方面，除了要求对谣言及其他不法信息进行治理，算法决策的合规化也是一个重要抓手。

在平台算法推荐服务过程中，依据何种算法和逻辑使用数据，将成为平台算法规制的重要内容。征求意见稿对算法推荐服务提供者在算法规则及公示方面都提出了要求。

2021年9月，国家互联网信息办公室印发《关于加强互联网信息服务算法综合治理的指导意见》，提出要用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。

在健全算法安全治理机制方面，《意见》提出要致力于打造形成政府监管、企业履责、行业自律、 社会 监督的算法安全多元共治局面。尤其是要强化平台企业主体责任，明确提出，企业应强化责任意识，对算法应用产生的结果负主体责任，并建立算法安全责任制度和 科技 伦理审查制度。

在促进算法生态规范发展方面，《意见》则提出要推动算法公开透明，督促企业及时、合理、有效地公开算法基本原理、优化目标、决策标准等信息，做好算法结果解释，畅通投诉通道。

《平台治理2.0》，于凤霞 着

电子工业出版社，2022年4月出版

近年来数字经济增加值在我国GDP中的占比不断提升，但相对经济总量而言还是偏低；新业态新模式发展过程中也出现了新的问题和挑战。因此，在推动和规范数字经济发展的同时，需要重构治理体系，进一步突出竞争政策基础地位，并构建起全方位、多层次、立体化的治理体系。本书围绕平台治理，分析我国在数字治理、反垄断等方面的 探索 ，平台经济在发展过程中的挑战和可能的应对之策。

⑨ 不得利用算法实施影响网络舆论，各部门对此作出了哪些举措

网络安全与社会公民生活息息相关，同时它与社会多个方面的利益相互影响。秉着“为人民服务”的理念。近日，国家互联网信息办公室联合多个部门发布了两个重要文件，为营造安全的网络环境保驾护航。

通过这一系列规定为国家互联网安全提供了保障。各部门相互努力，对不得利用算法对国家互联网安全进行影响作出了规定。这为国家其他行业的发展和事业的繁荣提供了信息安全基础。是非常的有利的。这些规定为国家互联网安全提供了法律保障和法律依据，为国家互联网科技发展保驾护航。相信国家的这一次出手扼杀了许多不法手段来获取公民消息的途径，也保障了国民的信息网络安全。