用价值观统领算法强化责任

Ⅰ 主播说算法得有价值观是怎么回事

近日，央视主播评互联网用户画像整治时表示：用数据给用户画像，然后精准推送，这是算法的一项重要应用。国家网信办近日发布了《互联网信息服务算法推荐管理规定（意见稿）》。新规明确，平台不得将违法和不良信息作为关键词给用户画像，更不得向其推送相关信息。也就是说，即便用户搜索过这样的信息，算法也不能据此就不断推荐此类信息。

很明确，这是要为算法加装价值瞄准镜。说白了，算法得有价值观。算法决定了供给内容，也在塑造用户。所以算法不能只自动响应或迎合用户，还得主动引领，对违法、低俗需求必须说不。算法必须守法。一是法律、二是法度。这样的算法才能把账算明白。这是一笔事关平台和社会未来发展的大账。

《互联网信息服务算法推荐管理规定（征求意见稿）》明确的内容

8月27日，国家互联网信息办公室发布了关于《互联网信息服务算法推荐管理规定（征求意见稿）》（下称“征求意见稿”）公开征求意见的通知。

征求意见稿明确，算法推荐服务提供者应优化规则的透明度和可解释性，公示算法推荐原理，设置关闭算法推荐选项。 算法推荐服务者的定期审核义务，建立识别违法和不良信息的特征库。这意味着用户可以拒绝并改变平台的推荐算法，自己决定自己看到的内容，同时从技术上打击“大数据杀熟”行为。

“征求意见稿通过对平台方的信息分发模式的规制，对算法推荐的所导致的‘信息偏食’进行明晰界定，加大传播领域的信息监管力度，以‘算法透明’为基点，建立‘算法问责’的责任追究制度，借助法规改善用户与平台的信息交互过程，推动双方向阳而生，向善而行。”暨南大学法学院副教授仲春对新京报贝壳财经记者表示。

Ⅱ 快手怎么回应被网信办约谈

4月6日晚间，快手科技通过官方微博对网信办约谈一事进行回应。快手科技称，公司将认真接受批评，深刻反思自身在管理制度和责任意识方面的不足，并推出多种整改措施。

此前，“快手”等直播短视频平台因传播涉未成年人低俗不良信息，被国家网信办约谈，引发社会舆论的高度关注。

对此，快手科技回应表示，公司将推出系列整改措施，包括连续5天在发现页进行固定视频引导，将目前的审核团队从2000人扩大至5000人；同时建立未成年人保护体系，严禁未满18岁用户开通直播权限。

此外，快手科技将无限期关闭推荐相似用户的功能，并优化算法推荐及举报处置流程。

感谢社会各界对我们的关心和指正，感谢监管部门对快手的指导和帮助，使得我们认识到自身的不足，以及作为平台型企业我们肩负的责任和使命 。此次整改将成为我们变得更好的契机，我们会坚持正确的价值观导向，利用自身的平台优势和技术优势不断传播正能量，弘扬社会主义核心价值观。快手渴望跟所有的用户一起，与这个国家、这个时代共同成长。

希望快手早日完成整改。

Ⅲ 信也科技王春平：价值观在前的人工智能算法发展

9月27日,由玛娜数据基金会主办的“促进人工智能算法性别平等”报告发布会暨政策研讨会在上海举行,联合国妇女署驻华办公室高级项目官员马雷军、上海市浦东新区妇女联合会副主席国云丹、玛娜数据基金会秘书长张唯、玛娜数据基金会课题组专家负责人周旅军、专家况琨,以及小米集团 科技 委员会技术向善议题召集人朱汐、信也集团首席算法科学家王春平、Thought Works(中国)数据智能团队解决方案架构师任添石等各界嘉宾出席了本次会议,共同探讨如何促进人工智能算法中的性别平等。

作为金融 科技 企业信也 科技 集团的代表,也是在人工智能领域取得优秀成就的女性从业者,王春平博士在会上阐述了其对于人工智能在研究、应用中对于数据伦理、性别平等的观点与建议。

人工智能时代加速,促进性别平等即发展大前提

人工智能自1956年被提出以来,短短60余年的时间中,这项科学技术的飞速发展给人类 社会 带来了不小的变化。人工智能算法是以数学方式或计算机代码表达的意见,由算法模型和数据输入决定着预测的后果。

随着人工智能时代的加速到来,人类将生活在一个算法无所不在的世界,随着算法决策开始介入并主导人类 社会 事务,算法对人类的生活和未来都将产生不可估量的影响。基于此,由算法偏见可能带来的伦理风险也开始引起人们重视。单就性别角度而言,由于目前人工智能领域目前仍处于男性主导的状况,使得人工智能算法在日常应用中不自觉就容易出现 “性别歧视“的争议。

据当日发布的《促进人工智能算法性别平等》报告(后文简称《报告》)介绍,目前人工智能算法的诸多应用场景中均存在一定的性别歧视现象。以人工智能开放平台为例,一张“端着水果篮的男性”图片被AI人脸识别平台检测为“女性”,单独截出头像却能够被检测为“男性”。在就业场景中,2018年亚马逊公司的自动招聘算法倾向于给关键词含“女”字的简历打低分,降低了女性工作申请成功率,最后弃用了该招聘算法。

信也 科技 首席科学家王春平表示:“人工智能算法的基础是数据,但在实际生活中因为种种原因,沉淀下来的很多数据分布是有偏的,从而可能将 社会 中的一些偏见渗透进算法中。作为人工智能算法的女性从业者,我认为需要通过多种方式去消除这些偏见。”

消除偏见与歧视,数据算法从业者新课题

2019年,国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》,提出了人工智能治理的框架和行动指南,明确提出要在数据获取、算法设计、技术开发、产品研发和应用过程中消除偏见和歧视。该委员会近日又发布了《新一代人工智能伦理规范》,第十三条特别强调避免偏见歧视,在数据采集和算法开发中,加强伦理审查,充分考虑差异化诉求,避免可能存在的数据与算法偏见,努力实现人工智能系统的普惠性、公平性和非歧视性。

“算法中存在性别歧视问题,主要源于训练AI的数据集反映了人类 社会 存在的性别偏见,而算法工程师对这一问题缺乏意识,未将解决性别偏见纳入开发需求,从而使得算法放大了性别歧视。“玛娜数据基金会课题组专家况坤表示。

据《报告》中专题 社会 调研的数据显示,58%的人工智能算法从业者不知道算法当中存在的性别偏见问题,73%的从业者不知道存在专门针对女性的恶意算法。从业者对算法性别平等的意识及能力亟需提升。

王春平博士表示,“对于在人工智能算法中尽可能地促进性别平等,我们认为首先需要从研发者的意识与环境培养开始。比如在信也 科技 集团内部,我们有很多公司政策都在保证并促进不同性别员工得到平等的机会。比如说我们会有比较完善针对人工智能领域或数字化应用相关的培训课程,这些课程包含了业务场景、算法学习、工程化落地,会开放给所有职位的员工,并且会尽可能地帮助公司内部对于人工智能算法有兴趣的员工参与一些实验性的创新项目,为其提供平等的岗位机会。我们认为保障女性员工获得公平的职业机会,为算法开发团队营造没有明显两性区分的环境,并有意识消除算法工程师们的性别偏见,对于人工智能算法在应用中尽可能实现性别平等是有益的。”

商业与伦理的平衡,价值观在前的人工智能算法未来

人工智能算法独特的运行逻辑导致人们 社会 生活的结构性场景发生了重大变化,加剧了决策者与相对人之间的“数字鸿沟”,人工智能算法独特的运行逻辑正在深刻地改变着以往的生产方式和生活方式,并与人的行为形成了支配关系。这也表示,人们的行为可以借助于数据算法来预测甚至被改变。

对于企业来说,人工智能算法的准确为商业行为的执行提供了准确的预判,但同时算法发展带来的伦理问题、性别歧视问题同样也是企业需要考虑的问题。

王春平博士认为,目前为止,人工智能算法在应用中反映的依然是相关性,在开发过程中考虑的因素与得到的决策结果之间,很大程度上只是相关。在很多应用里,性别可能是被引入的一个带有相关性的干扰项,如何排除偏见,公平地看待不同的性别,但是又不会影响到最终的商业判断准确性,具有不小挑战。目前这个问题已经引起了重视,有很多从不同角度试图解决这个问题的尝试,比如基于因果推理理论,寻找与期望预测结果拥有直接因果关系的因素;通过创新性地构造特征表征空间,抑制某些带有偏见的因素,比如由于性别带来差异。

“虽然很多时候,基于商业行为,我们很难判定部分情况下算法在偏好与偏见之间的界限,但是在算法的创新开发过程中,作为人工智能算法工程师如果拥有正确的价值观,就能尽可能提前审视并察觉歧视偏见的存在,很好地利用对于算法的不断更新去调整它带来的问题,这是我们作为算法开发者的使命与责任,也是人工智能算法发展的重要前提。” 王春平如是说到。

信也 科技 作为国内领先的金融 科技 企业之一,一直致力于推进 科技 应用与 社会 发展的互相融合与发展,尤其是在人工智能领域,信也 科技 通过在开发过程中纳入 社会 性别多元化视角,尽己所能为促进算法中的性别平等而努力。作为企业,信也 科技 致力推动在内部技术开发中的客观认识和理性反思,从而更好地促进 科技 发展。未来,信也 科技 将继续通过技术的不断创新,以确立正确价值观,助力促进人工智能时代的性别平等。

Ⅳ 课程目标的三个维度 [解析“算法与程序设计”的课程目标]

在素质教育背景下，以颁布《普通高中技术课程标准（实验）》（以下简称“新课标”）为标志，我国信息技术教育实现了由计算机教育到信息技术教育的根本性转变。作为计算机教育主要内容达十六年之久的“程序设计”，变成了新课标中的“算法与程序设计”选修模块（以下简称“编程模块”）。有关教学目标变成了课程目标，并规定为：“旨在使学生进一步体验算法思想，了解算法和程序设计在解决问题过程中的地位和作用；能从简单问题出发，设计解决问题的算法，并能初步使用一种程序设计语言编制程序，实现算法解决问题”。该目标较原程序设计的教学目标已经发生了革命性的变化。这种历史的渊源对“算法与程序设计”模块的课程目标（以下简称“课程目标”）在教学实践中的接受和理解产生了严重的负面影响。为了解疑释惑，启发对课程目标的深入思考，促使我国信息技术教育的改革走向深入，本文认为有必要对教学实践中片面理解课程目标的问题以及由此带来的教学困惑进行全面的剖析，从不同的角度对该课程目标进行全方位的诠释。


曲解课程目标的事实及由此产生的教学困惑

所谓课程目标是某一课程学习完以后，学习者在情感与态度、过程与方法、知识与技能等方面发生的变化，是培养目标在特定课程中具体化、操作化的表述。与广大一线教师习惯了的教学目标相比，课程目标要求全面体现素质教育的精神，从知识目标的一维表述，发展成为“知识与技能”、“过程与方法”、“情感态度与价值观”的三维呈现。这种三维目标的大革命使得从一维目标的传统中走来的广大教师，对新课标中编程模块课程目标的理解和把握存在诸多困难，出现了不少问题，引出了许多困惑，概括起来有以下几种情况。
1.编程能力说
把编程模块理解成培养程序员的基础课，着重强调编程能力的培养。在长达十六年的教学过程中，我国信息技术课就是程序设计，就是学习BASIC语言。其课程目标（教学目标）是训练和培养学生使用计算机语言进行程序设计的能力。从这一传统中走来的广大教师很容易有意无意地继续把培养编程能力当成新课标中信息技术课程目标的全部。这种课程目标在教学实践中带来许多困惑。有人质疑：“有必要为了1%的程序员，让99%的人陪着学习他们终生不用的课程吗？”还有人困惑：“现在的应用软件层出不穷，有必要人人都自己编写程序么？”在教学实践中，编程能力说表现为讲不完的编程技巧、说不尽的软件产业……其结果是强化了学生对程序设计的神秘感、恐惧感，使学生们感到程序设计遥不可及、高不可攀。这导致编程模块在教学实践中教师难教、学生难学、学生厌学、学难致用。有些教师甚至用“骑虎难下”、“味如嚼蜡”等词汇来形容编程模块的教学。
2.编程工具说
对课程目标的理解偏执于让学生掌握一种编程工具，强调编程语言的教学。受1997年的《中小学计算机课程指导纲要（修订稿）》明显带有“计算机工具论”倾向的影响，许多人把“程序设计的课程目标主要是让学生了解计算机，学会使用计算机解决问题”理解成：为了能够使用计算机这个工具而掌握计算机的编程工具。这种课程目标的理解虽然看起来近于荒唐，但却较为广泛，影响很深。以致在计算机语言的选择上，盲目攀高、求新的现象比较普遍。受其影响，许多教师面对编程模块的三十几个课时不知所措，不知是应该让学生熟悉界面和工具，还是应该让学生学习语句和函数。在编程语言的选择上更是无所适从：选择简单的VB怕学生的开发能力弱，选择JAVA、C++又怕课时不够，更怕学生听不懂。无怪乎有人讲：教了十几年的程序设计，面对新课标的编程模块，突然不会上课了……
3.解决实际问题说
对课程目标的理解偏执于解决实际问题。为了达到这个目标，把新课标中的“简单问题”演变成了“学生生活中的实际问题”。而系统地解决这些问题往往超出中学生知识结构和心智模式的限制，算法成为课堂教学中难以逾越的障碍，绝大多数学生听不懂。笔者专门与许多一线教师谈及编程模块的教学，大家一致反映：“现在的学生能力差，很‘简单’的问题无论你怎么讲他就是不明白。”我们应该反过来思考这个问题：学生“都”听不明白的问题，还是简单问题吗？像这样把基础教育的算法与程序设计当成高校软件工程课来讲的课，中学生只能听天书了，其结果只能使学生丧失对编程模块的学习兴趣，使编程模块成为信息技术课程的“老大难”。

多方位诠释“课程目标”

编程模块的课程目标不在于培养和发展学生的编程能力，而是“使学生进一步去体验算法思想，了解算法和程序设计在解决问题过程中的地位和作用”，最终目标是提高学生的信息素养。
编程模块的课程目标也不在于使学生通过编程去解决学习和生活中所遇到的实际问题，而是要求学生“能从简单问题出发，设计解决问题的算法”。这里的所谓“简单问题”就是中学生容易理解，或由教师稍加讲解就能全面理解的问题，只有这样，学生才有能力、时间和精力去“设计解决问题的算法”，并以此为手段，实现让学生“去体验算法思想，了解算法在解决问题过程中的地位和作用”的目的。
编程模块的课程目标更不在于掌握一种编程工具，而是要求学生“能初步使用一种程序设计语言编制程序，实现算法解决问题”。这里“初步使用一种程序设计语言编制程序”实现的“算法”是解决“简单”问题的“简单”算法。所以，新课标要求的“初步使用”与人们普遍追求的“基本掌握”相去甚远。而且“实现算法解决问题”的目的是为了让学生“了解程序设计在解决问题过程中的地位和作用”。
编程语言的教学是实现课程目标的手段而不是课程目标本身。正如南京师范大学的李艺教授所说：“在基础教育阶段，‘程序设计’课程的关键是要帮助学生建立合理的算法与程序设计的认知结构，而不在于要求学生掌握多少语法知识与编程技巧，进一步的目标在于提升学生的信息素养，为其终身发展奠定良好的基础。”
笔者认为要想深刻领会专家的诠释和更加准确地把握算法与程序设计课程目标的真正内涵，促进算法与程序设计模块的教学改革，应该从以下几个方面来思考。
1.算法与程序设计的教学是准备性教学
基础教育具有发展性和未完成性。这就是说基础教育的教学是准备性教学，它的价值取向是受教育者的准备性学习所约束的。无论基础教育教学的准备性是导向继续深造学习，还是导向生活与社会实践，无论以何种具体的价值取向、何种规定的教学内容、何种模式与方法来实施，都不应当具有严格意义上的终结性。所以理解该课程目标必须充分注意该课程教学的准备性和非终结性。即该课程不是让学生掌握一种开发工具，也不是通过具有或接近实用意义的项目的开发执意去培养学生的编程能力，而是让学生通过“简单的问题”、“简单问题的简单算法”、“简单算法的简单程序”这样一个“简单”的活动链条“让学生从中体验算法思想，了解算法和程序设计在解决问题过程中的地位和作用”。
2.编程模块的技术基础性
在新课标中编程模块是作为计算机应用的技术基础设置的一个选修模块。这个“技术基础”包含两方面的含义：一方面是指编程模块使学生掌握程序设计的基础知识和基本技能，这是对传统教学目标的继承。与过去程序设计的“工具性教学”相比，淡化了语言与技巧，更注重过程与方法。另一方面是指编程模块对信息技术课程体系中其他模块的技术支持性。使学生通过编程、调试、编译、安装、运行的整体实践来领会存储程序式计算机的工作原理；理解计算机系统各组成部分的功能和相互关系。如果说计算机是作为一个智能型的工具而存在的，那么，操作、使用计算机的过程就是一个人机交流的过程，“理解”是使用计算机的技术基础。另外编程模块还通过常量、变量、函数、代码等内容直接支持或支撑其他模块，这也是算法与程序设计课程技术基础性的又一价值取向。
3.编程模块渗透的素质教育
素质教育的中心是德育，即素质教育是教人做人的教育。所以，素质教育要求教师既教书又育人。当然，教编程模块的教师也不能例外。所以编程模块的课程目标不单纯是教书的目标，也应该包含育人的目标。只有这样才能使育人的目标通过有目的、有措施、讲方法的行为，落实在课堂上。而不是像过去那样，把育人当成教师的即兴发挥，或临场赠送。同时，素质教育也是没有显性课程的教育。素质教育的目标只能整合到每一门具体的课程目标中。所以，编程模块的课程目标也必然要蕴含素质的目标成分和教育职责。
笔者倡导站在基础教育的立场，以素质教育的高度，在深刻反思传统程序设计教学的基础上，分析、研究算法与程序设计的课程目标。在正确理解和全面把握的基础上，澄清问题、指导教学。为推进算法与程序设计的课程改革而努力。