用價值觀統領演算法強化責任

Ⅰ 主播說演算法得有價值觀是怎麼回事

近日，央視主播評互聯網用戶畫像整治時表示：用數據給用戶畫像，然後精準推送，這是演算法的一項重要應用。國家網信辦近日發布了《互聯網信息服務演算法推薦管理規定（意見稿）》。新規明確，平台不得將違法和不良信息作為關鍵詞給用戶畫像，更不得向其推送相關信息。也就是說，即便用戶搜索過這樣的信息，演算法也不能據此就不斷推薦此類信息。

很明確，這是要為演算法加裝價值瞄準鏡。說白了，演算法得有價值觀。演算法決定了供給內容，也在塑造用戶。所以演算法不能只自動響應或迎合用戶，還得主動引領，對違法、低俗需求必須說不。演算法必須守法。一是法律、二是法度。這樣的演算法才能把賬算明白。這是一筆事關平台和社會未來發展的大賬。

《互聯網信息服務演算法推薦管理規定（徵求意見稿）》明確的內容

8月27日，國家互聯網信息辦公室發布了關於《互聯網信息服務演算法推薦管理規定（徵求意見稿）》（下稱「徵求意見稿」）公開徵求意見的通知。

徵求意見稿明確，演算法推薦服務提供者應優化規則的透明度和可解釋性，公示演算法推薦原理，設置關閉演算法推薦選項。 演算法推薦服務者的定期審核義務，建立識別違法和不良信息的特徵庫。這意味著用戶可以拒絕並改變平台的推薦演算法，自己決定自己看到的內容，同時從技術上打擊「大數據殺熟」行為。

「徵求意見稿通過對平台方的信息分發模式的規制，對演算法推薦的所導致的『信息偏食』進行明晰界定，加大傳播領域的信息監管力度，以『演算法透明』為基點，建立『演算法問責』的責任追究制度，藉助法規改善用戶與平台的信息交互過程，推動雙方向陽而生，向善而行。」暨南大學法學院副教授仲春對新京報貝殼財經記者表示。

Ⅱ 快手怎麼回應被網信辦約談

4月6日晚間，快手科技通過官方微博對網信辦約談一事進行回應。快手科技稱，公司將認真接受批評，深刻反思自身在管理制度和責任意識方面的不足，並推出多種整改措施。

此前，「快手」等直播短視頻平台因傳播涉未成年人低俗不良信息，被國家網信辦約談，引發社會輿論的高度關注。

對此，快手科技回應表示，公司將推出系列整改措施，包括連續5天在發現頁進行固定視頻引導，將目前的審核團隊從2000人擴大至5000人；同時建立未成年人保護體系，嚴禁未滿18歲用戶開通直播許可權。

此外，快手科技將無限期關閉推薦相似用戶的功能，並優化演算法推薦及舉報處置流程。

感謝社會各界對我們的關心和指正，感謝監管部門對快手的指導和幫助，使得我們認識到自身的不足，以及作為平台型企業我們肩負的責任和使命 。此次整改將成為我們變得更好的契機，我們會堅持正確的價值觀導向，利用自身的平台優勢和技術優勢不斷傳播正能量，弘揚社會主義核心價值觀。快手渴望跟所有的用戶一起，與這個國家、這個時代共同成長。

希望快手早日完成整改。

Ⅲ 信也科技王春平：價值觀在前的人工智慧演算法發展

9月27日,由瑪娜數據基金會主辦的「促進人工智慧演算法性別平等」報告發布會暨政策研討會在上海舉行,聯合國婦女署駐華辦公室高級項目官員馬雷軍、上海市浦東新區婦女聯合會副主席國雲丹、瑪娜數據基金會秘書長張唯、瑪娜數據基金會課題組專家負責人周旅軍、專家況琨,以及小米集團 科技 委員會技術向善議題召集人朱汐、信也集團首席演算法科學家王春平、Thought Works(中國)數據智能團隊解決方案架構師任添石等各界嘉賓出席了本次會議,共同探討如何促進人工智慧演算法中的性別平等。

作為金融 科技 企業信也 科技 集團的代表,也是在人工智慧領域取得優秀成就的女性從業者,王春平博士在會上闡述了其對於人工智慧在研究、應用中對於數據倫理、性別平等的觀點與建議。

人工智慧時代加速,促進性別平等即發展大前提

人工智慧自1956年被提出以來,短短60餘年的時間中,這項科學技術的飛速發展給人類 社會 帶來了不小的變化。人工智慧演算法是以數學方式或計算機代碼表達的意見,由演算法模型和數據輸入決定著預測的後果。

隨著人工智慧時代的加速到來,人類將生活在一個演算法無所不在的世界,隨著演算法決策開始介入並主導人類 社會 事務,演算法對人類的生活和未來都將產生不可估量的影響。基於此,由演算法偏見可能帶來的倫理風險也開始引起人們重視。單就性別角度而言,由於目前人工智慧領域目前仍處於男性主導的狀況,使得人工智慧演算法在日常應用中不自覺就容易出現 「性別歧視「的爭議。

據當日發布的《促進人工智慧演算法性別平等》報告(後文簡稱《報告》)介紹,目前人工智慧演算法的諸多應用場景中均存在一定的性別歧視現象。以人工智慧開放平台為例,一張「端著水果籃的男性」圖片被AI人臉識別平台檢測為「女性」,單獨截出頭像卻能夠被檢測為「男性」。在就業場景中,2018年亞馬遜公司的自動招聘演算法傾向於給關鍵詞含「女」字的簡歷打低分,降低了女性工作申請成功率,最後棄用了該招聘演算法。

信也 科技 首席科學家王春平表示:「人工智慧演算法的基礎是數據,但在實際生活中因為種種原因,沉澱下來的很多數據分布是有偏的,從而可能將 社會 中的一些偏見滲透進演算法中。作為人工智慧演算法的女性從業者,我認為需要通過多種方式去消除這些偏見。」

消除偏見與歧視,數據演算法從業者新課題

2019年,國家新一代人工智慧治理專業委員會發布《新一代人工智慧治理原則——發展負責任的人工智慧》,提出了人工智慧治理的框架和行動指南,明確提出要在數據獲取、演算法設計、技術開發、產品研發和應用過程中消除偏見和歧視。該委員會近日又發布了《新一代人工智慧倫理規范》,第十三條特別強調避免偏見歧視,在數據採集和演算法開發中,加強倫理審查,充分考慮差異化訴求,避免可能存在的數據與演算法偏見,努力實現人工智慧系統的普惠性、公平性和非歧視性。

「演算法中存在性別歧視問題,主要源於訓練AI的數據集反映了人類 社會 存在的性別偏見,而演算法工程師對這一問題缺乏意識,未將解決性別偏見納入開發需求,從而使得演算法放大了性別歧視。「瑪娜數據基金會課題組專家況坤表示。

據《報告》中專題 社會 調研的數據顯示,58%的人工智慧演算法從業者不知道演算法當中存在的性別偏見問題,73%的從業者不知道存在專門針對女性的惡意演算法。從業者對演算法性別平等的意識及能力亟需提升。

王春平博士表示,「對於在人工智慧演算法中盡可能地促進性別平等,我們認為首先需要從研發者的意識與環境培養開始。比如在信也 科技 集團內部,我們有很多公司政策都在保證並促進不同性別員工得到平等的機會。比如說我們會有比較完善針對人工智慧領域或數字化應用相關的培訓課程,這些課程包含了業務場景、演算法學習、工程化落地,會開放給所有職位的員工,並且會盡可能地幫助公司內部對於人工智慧演算法有興趣的員工參與一些實驗性的創新項目,為其提供平等的崗位機會。我們認為保障女性員工獲得公平的職業機會,為演算法開發團隊營造沒有明顯兩性區分的環境,並有意識消除演算法工程師們的性別偏見,對於人工智慧演算法在應用中盡可能實現性別平等是有益的。」

商業與倫理的平衡,價值觀在前的人工智慧演算法未來

人工智慧演算法獨特的運行邏輯導致人們 社會 生活的結構性場景發生了重大變化,加劇了決策者與相對人之間的「數字鴻溝」,人工智慧演算法獨特的運行邏輯正在深刻地改變著以往的生產方式和生活方式,並與人的行為形成了支配關系。這也表示,人們的行為可以藉助於數據演算法來預測甚至被改變。

對於企業來說,人工智慧演算法的准確為商業行為的執行提供了准確的預判,但同時演算法發展帶來的倫理問題、性別歧視問題同樣也是企業需要考慮的問題。

王春平博士認為,目前為止,人工智慧演算法在應用中反映的依然是相關性,在開發過程中考慮的因素與得到的決策結果之間,很大程度上只是相關。在很多應用里,性別可能是被引入的一個帶有相關性的干擾項,如何排除偏見,公平地看待不同的性別,但是又不會影響到最終的商業判斷准確性,具有不小挑戰。目前這個問題已經引起了重視,有很多從不同角度試圖解決這個問題的嘗試,比如基於因果推理理論,尋找與期望預測結果擁有直接因果關系的因素;通過創新性地構造特徵表徵空間,抑制某些帶有偏見的因素,比如由於性別帶來差異。

「雖然很多時候,基於商業行為,我們很難判定部分情況下演算法在偏好與偏見之間的界限,但是在演算法的創新開發過程中,作為人工智慧演算法工程師如果擁有正確的價值觀,就能盡可能提前審視並察覺歧視偏見的存在,很好地利用對於演算法的不斷更新去調整它帶來的問題,這是我們作為演算法開發者的使命與責任,也是人工智慧演算法發展的重要前提。」 王春平如是說到。

信也 科技 作為國內領先的金融 科技 企業之一,一直致力於推進 科技 應用與 社會 發展的互相融合與發展,尤其是在人工智慧領域,信也 科技 通過在開發過程中納入 社會 性別多元化視角,盡己所能為促進演算法中的性別平等而努力。作為企業,信也 科技 致力推動在內部技術開發中的客觀認識和理性反思,從而更好地促進 科技 發展。未來,信也 科技 將繼續通過技術的不斷創新,以確立正確價值觀,助力促進人工智慧時代的性別平等。

Ⅳ 課程目標的三個維度 [解析「演算法與程序設計」的課程目標]

在素質教育背景下，以頒布《普通高中技術課程標准（實驗）》（以下簡稱「新課標」）為標志，我國信息技術教育實現了由計算機教育到信息技術教育的根本性轉變。作為計算機教育主要內容達十六年之久的「程序設計」，變成了新課標中的「演算法與程序設計」選修模塊（以下簡稱「編程模塊」）。有關教學目標變成了課程目標，並規定為：「旨在使學生進一步體驗演算法思想，了解演算法和程序設計在解決問題過程中的地位和作用；能從簡單問題出發，設計解決問題的演算法，並能初步使用一種程序設計語言編製程序，實現演算法解決問題」。該目標較原程序設計的教學目標已經發生了革命性的變化。這種歷史的淵源對「演算法與程序設計」模塊的課程目標（以下簡稱「課程目標」）在教學實踐中的接受和理解產生了嚴重的負面影響。為了解疑釋惑，啟發對課程目標的深入思考，促使我國信息技術教育的改革走向深入，本文認為有必要對教學實踐中片面理解課程目標的問題以及由此帶來的教學困惑進行全面的剖析，從不同的角度對該課程目標進行全方位的詮釋。


曲解課程目標的事實及由此產生的教學困惑

所謂課程目標是某一課程學習完以後，學習者在情感與態度、過程與方法、知識與技能等方面發生的變化，是培養目標在特定課程中具體化、操作化的表述。與廣大一線教師習慣了的教學目標相比，課程目標要求全面體現素質教育的精神，從知識目標的一維表述，發展成為「知識與技能」、「過程與方法」、「情感態度與價值觀」的三維呈現。這種三維目標的大革命使得從一維目標的傳統中走來的廣大教師，對新課標中編程模塊課程目標的理解和把握存在諸多困難，出現了不少問題，引出了許多困惑，概括起來有以下幾種情況。
1.編程能力說
把編程模塊理解成培養程序員的基礎課，著重強調編程能力的培養。在長達十六年的教學過程中，我國信息技術課就是程序設計，就是學習BASIC語言。其課程目標（教學目標）是訓練和培養學生使用計算機語言進行程序設計的能力。從這一傳統中走來的廣大教師很容易有意無意地繼續把培養編程能力當成新課標中信息技術課程目標的全部。這種課程目標在教學實踐中帶來許多困惑。有人質疑：「有必要為了1%的程序員，讓99%的人陪著學習他們終生不用的課程嗎？」還有人困惑：「現在的應用軟體層出不窮，有必要人人都自己編寫程序么？」在教學實踐中，編程能力說表現為講不完的編程技巧、說不盡的軟體產業……其結果是強化了學生對程序設計的神秘感、恐懼感，使學生們感到程序設計遙不可及、高不可攀。這導致編程模塊在教學實踐中教師難教、學生難學、學生厭學、學難致用。有些教師甚至用「騎虎難下」、「味如嚼蠟」等詞彙來形容編程模塊的教學。
2.編程工具說
對課程目標的理解偏執於讓學生掌握一種編程工具，強調編程語言的教學。受1997年的《中小學計算機課程指導綱要（修訂稿）》明顯帶有「計算機工具論」傾向的影響，許多人把「程序設計的課程目標主要是讓學生了解計算機，學會使用計算機解決問題」理解成：為了能夠使用計算機這個工具而掌握計算機的編程工具。這種課程目標的理解雖然看起來近於荒唐，但卻較為廣泛，影響很深。以致在計算機語言的選擇上，盲目攀高、求新的現象比較普遍。受其影響，許多教師面對編程模塊的三十幾個課時不知所措，不知是應該讓學生熟悉界面和工具，還是應該讓學生學習語句和函數。在編程語言的選擇上更是無所適從：選擇簡單的VB怕學生的開發能力弱，選擇JAVA、C++又怕課時不夠，更怕學生聽不懂。無怪乎有人講：教了十幾年的程序設計，面對新課標的編程模塊，突然不會上課了……
3.解決實際問題說
對課程目標的理解偏執於解決實際問題。為了達到這個目標，把新課標中的「簡單問題」演變成了「學生生活中的實際問題」。而系統地解決這些問題往往超出中學生知識結構和心智模式的限制，演算法成為課堂教學中難以逾越的障礙，絕大多數學生聽不懂。筆者專門與許多一線教師談及編程模塊的教學，大家一致反映：「現在的學生能力差，很『簡單』的問題無論你怎麼講他就是不明白。」我們應該反過來思考這個問題：學生「都」聽不明白的問題，還是簡單問題嗎？像這樣把基礎教育的演算法與程序設計當成高校軟體工程課來講的課，中學生只能聽天書了，其結果只能使學生喪失對編程模塊的學習興趣，使編程模塊成為信息技術課程的「老大難」。

多方位詮釋「課程目標」

編程模塊的課程目標不在於培養和發展學生的編程能力，而是「使學生進一步去體驗演算法思想，了解演算法和程序設計在解決問題過程中的地位和作用」，最終目標是提高學生的信息素養。
編程模塊的課程目標也不在於使學生通過編程去解決學習和生活中所遇到的實際問題，而是要求學生「能從簡單問題出發，設計解決問題的演算法」。這里的所謂「簡單問題」就是中學生容易理解，或由教師稍加講解就能全面理解的問題，只有這樣，學生才有能力、時間和精力去「設計解決問題的演算法」，並以此為手段，實現讓學生「去體驗演算法思想，了解演算法在解決問題過程中的地位和作用」的目的。
編程模塊的課程目標更不在於掌握一種編程工具，而是要求學生「能初步使用一種程序設計語言編製程序，實現演算法解決問題」。這里「初步使用一種程序設計語言編製程序」實現的「演算法」是解決「簡單」問題的「簡單」演算法。所以，新課標要求的「初步使用」與人們普遍追求的「基本掌握」相去甚遠。而且「實現演算法解決問題」的目的是為了讓學生「了解程序設計在解決問題過程中的地位和作用」。
編程語言的教學是實現課程目標的手段而不是課程目標本身。正如南京師范大學的李藝教授所說：「在基礎教育階段，『程序設計』課程的關鍵是要幫助學生建立合理的演算法與程序設計的認知結構，而不在於要求學生掌握多少語法知識與編程技巧，進一步的目標在於提升學生的信息素養，為其終身發展奠定良好的基礎。」
筆者認為要想深刻領會專家的詮釋和更加准確地把握演算法與程序設計課程目標的真正內涵，促進演算法與程序設計模塊的教學改革，應該從以下幾個方面來思考。
1.演算法與程序設計的教學是准備性教學
基礎教育具有發展性和未完成性。這就是說基礎教育的教學是准備性教學，它的價值取向是受教育者的准備性學習所約束的。無論基礎教育教學的准備性是導向繼續深造學習，還是導向生活與社會實踐，無論以何種具體的價值取向、何種規定的教學內容、何種模式與方法來實施，都不應當具有嚴格意義上的終結性。所以理解該課程目標必須充分注意該課程教學的准備性和非終結性。即該課程不是讓學生掌握一種開發工具，也不是通過具有或接近實用意義的項目的開發執意去培養學生的編程能力，而是讓學生通過「簡單的問題」、「簡單問題的簡單演算法」、「簡單演算法的簡單程序」這樣一個「簡單」的活動鏈條「讓學生從中體驗演算法思想，了解演算法和程序設計在解決問題過程中的地位和作用」。
2.編程模塊的技術基礎性
在新課標中編程模塊是作為計算機應用的技術基礎設置的一個選修模塊。這個「技術基礎」包含兩方面的含義：一方面是指編程模塊使學生掌握程序設計的基礎知識和基本技能，這是對傳統教學目標的繼承。與過去程序設計的「工具性教學」相比，淡化了語言與技巧，更注重過程與方法。另一方面是指編程模塊對信息技術課程體系中其他模塊的技術支持性。使學生通過編程、調試、編譯、安裝、運行的整體實踐來領會存儲程序式計算機的工作原理；理解計算機系統各組成部分的功能和相互關系。如果說計算機是作為一個智能型的工具而存在的，那麼，操作、使用計算機的過程就是一個人機交流的過程，「理解」是使用計算機的技術基礎。另外編程模塊還通過常量、變數、函數、代碼等內容直接支持或支撐其他模塊，這也是演算法與程序設計課程技術基礎性的又一價值取向。
3.編程模塊滲透的素質教育
素質教育的中心是德育，即素質教育是教人做人的教育。所以，素質教育要求教師既教書又育人。當然，教編程模塊的教師也不能例外。所以編程模塊的課程目標不單純是教書的目標，也應該包含育人的目標。只有這樣才能使育人的目標通過有目的、有措施、講方法的行為，落實在課堂上。而不是像過去那樣，把育人當成教師的即興發揮，或臨場贈送。同時，素質教育也是沒有顯性課程的教育。素質教育的目標只能整合到每一門具體的課程目標中。所以，編程模塊的課程目標也必然要蘊含素質的目標成分和教育職責。
筆者倡導站在基礎教育的立場，以素質教育的高度，在深刻反思傳統程序設計教學的基礎上，分析、研究演算法與程序設計的課程目標。在正確理解和全面把握的基礎上，澄清問題、指導教學。為推進演算法與程序設計的課程改革而努力。