演算法一味迎合用戶

㈠ 演算法給我們帶來了巨大的影響，演算法到底改變了什麼

一、演算法改變了我們接受信息的方式。演算法技術應用在生活中的方方面面，無論我們是通過瀏覽器接受新聞，還是通過微博、微信、資訊類APP接受新聞，我們都不自覺地受著演算法給我們帶來的影響。基於大數據的演算法，通過掌握用戶以往的瀏覽記錄和搜索歷史推測用戶可能感興趣的內容。於是主動給用戶推薦相關內容，我們接收信息的方式從偶然看到或是刻意檢索，變成了各種APP主動給我們推薦。從這個角度來說，演算法讓我們接收信息的方式由主動變得被動起來。

我們享受著技術帶來的便捷，同時我們也要警惕技術可能存在的問題。就像是演算法技術可能存在的隱患，凡是有利有弊，一體有兩面。因此，無論即便演算法本身沒有錯，我們依然要謹慎使用該技術，並且要將此技術關在籠子里，不讓居心叵測之人運用來侵害大多數的權益。

㈡ 知識+數據+算力：演算法進化升級的路徑是什麼|德外獨家

演算法融入信息傳播，帶來了傳播的深刻變革。推薦演算法基於大數據和人工智慧技術，通過演算法模型，進行信息與用戶的匹配，成為智能傳播中的主導力量。

然而，經過演算法過濾選擇後，匹配給用戶的信息對個人認知、判斷以及 社會 性的負面影響，引起了廣泛的關注和擔憂。

作者從智能傳播中演算法的缺陷入手，圍繞演算法優化和升級，與人工智慧行業專家、國家廣播電視總局廣播電視科學研究信息與安全技術研究所王磊博士，展開探討，以期為演算法進化找到可行路徑。

以下為兩人對談的詳細內容。

推薦演算法只能依從用戶

個人的偏好、需求嗎？

於烜： 演算法融入信息傳播，改變了信息採集、生產、分發和反饋等過程，帶來了傳播的深刻變革。在移動互聯網時代，演算法主導信息分發，演算法的個性化推薦（簡稱推薦演算法），有效應對了信息超載帶來的分發危機，解決了海量信息與用戶間的供需匹配問題，優化了生產和消費的資源配置效率，無疑是一種先進的技術和生產力。

但是， 推薦演算法存在一個明顯的缺陷。 我們知道在現代 社會 中，傳播的一個重要功能是實現 社會 整合，以傳統媒體為代表的大眾傳播發揮了 社會 整合的作用，傳媒能夠把不同階層、人群、族群凝聚起來，形成 社會 共識，這就是媒體公共性的體現。

然而，個性化演算法推薦，依據的是網路中用戶本人或相似人群的個人興趣、愛好、習慣、需求，只體現了個性，缺少公共性， 公共性缺席是演算法主導信息傳播的一個明顯的缺陷。推薦演算法只能依從用戶個人的偏好、需求嗎？

王磊：從技術上說，演算法是一種中介， 通過演算法模型，將信息與用戶進行匹配，本質是要解決信息和用戶的精準匹配問題。無論是傳統的機器學習演算法，還是近年來興起的深度學習演算法，通過用戶個人屬性和網路應用使用過程中的數據記錄，挖掘用戶個人興趣、需求， 最終達成個人信息需求的精準匹配，這就是演算法的使命。

當演算法融入傳播，演算法主導的短視頻平台、資訊平台成為了媒體，作為媒體，需要傳播主流價值觀，需要承擔媒體公共性責任， 除了個性化的推薦，在演算法中應該體現出公共性，這是從媒體角度、傳播角度，對演算法的要求。

於烜： 目前的智能傳播中，演算法並沒有回應這樣的要求。也就是說，從傳播角度看，目前普遍應用的個性化推薦演算法技術自身是有缺憾的，換句話說， 僅僅依靠推薦演算法技術進行的傳播，是有缺陷的，需要進化。

王磊： 對，可以這樣理解。

於烜： 近年來，智能傳播中，經過演算法過濾選擇後匹配給用戶的信息，對個人認知、判斷以及 社會 性的負面影響，引起了傳播學研究的關注，比如信息繭房、演算法囚徒、圈層化，這些研究都提示了演算法帶來的風險。所以無論是從演算法技術自身的缺憾，還是演算法在現實傳播中帶來的問題兩個層面看，演算法需要升級。

王磊： 確實如此， 推薦類演算法需要從演算法技術路線和網路架構上進一步升級， 以嘗試解決上述問題。

演算法是否能夠發現用戶更全面多樣的內容？

於烜： 大眾傳播時代的信息也是要過經過媒體過濾選擇的，但是在新聞專業主義的准則下，信息選擇有明確的標准，要求客觀、平衡，以盡可能反映 社會 現實。

但是，演算法的根本邏輯是流量，以流量為目的進行信息匹配。研究表明，流量偏向情緒性、故事性、戲劇性內容，客觀、平衡這一新聞傳播大廈的基石已經被流量沖垮了。

100年後的今天，被演算法選擇的信息失衡、失真，擬態環境和現實世界不是越來越接近，相反卻是越來越偏離了。

演算法模型中，是否可以將客觀、平衡等專業價值觀要素導入進去？也就是說不僅僅找到迎合用戶表面的喜好，也能發現他潛在的需要，或者是他願意了解、也應該了解的更全面的這樣一些內容？在實現過程中面臨的困難和挑戰又是什麼？

王磊： 我想可以嘗試突破信息傳播失衡、失真的現狀，但是實現起來難度很大。 一種辦法是演算法+規則，即以現有深度學習演算法模型為基礎，將專業價值觀理念設定為相應規則，兩者結合形成新的計算模型，進行相應信息匹配。 但是，現實中難度很大。

還有一個辦法，需要通過技術演進來實現。從人工智慧發展歷程看， 現在正處於弱人工智慧時代， 即「數據+演算法」的時代，這一時期通過大量投喂數據，演算法精度較過去提高了很多，但是 存在一個難以破解的核心問題——無法解決海量數據之間的深層次語義層面的關聯關系，演算法的泛化能力比較差， 簡單說就是在一個數據集中的模型，運用在另一個相似數據集中，其效果會變差。

只有當技術演進到 「知識圖譜+演算法」 階段，能夠在數據間找到並建立起相應的關聯關系，破解數據語義層面的聯系，才有可能挖掘出用戶潛在的、多層次的需要，改變目前簡單迎合的狀況。

清華大學張鈸院士提出的第三代人工智慧，即 知識+數據+演算法+算力， 或許未來可以從這個方面突破，一定程度上彌補當前信息傳播中推薦類演算法的缺陷。

第二代人工智慧階段，

如何推動綜合評價體系建立？

於烜： 演算法驅動的內容平台通過組織生產和演算法分發，已然成為了智能傳播時代的主體，因此說需要通過規則導入，促使演算法進化。

目前個性化推薦演算法，強調的是迎合用戶個人個性化的精度，是不是可以從內容端的廣度進行考量， 比如說，內容的多樣性，讓觀點多樣、信源多樣、品類多樣的內容達到用戶？也就說是否可以通過內容的廣度，來體現新聞傳播客觀、平衡。

王磊： 是的， 除了精度，演算法的廣度應該成為一個評價指標，如對內容的非歧視性關聯推薦等。現階段綜合評價指標的合理設計將引導演算法不斷地優化升級。 當然，這些評價標準的制定也需要傳播學的專家加入，共同探討。

於烜： 如果要對今天的對話做一簡短小結，我想說，面對演算法技術的缺憾及引發的問題，演算法無疑需要進化。而演算法進化有賴於演算法技術自身的演進，有賴於演算法掌控者的倫理培養，有賴於監管部門的標准規范。同時，這需要學界、業界、政府共同努力。

編者按：

作者：於烜，北京廣播電視台高級編輯、新聞傳播學博士，德外5號特約作者。

㈢ 主播說演算法得有價值觀是怎麼回事

近日，央視主播評互聯網用戶畫像整治時表示：用數據給用戶畫像，然後精準推送，這是演算法的一項重要應用。國家網信辦近日發布了《互聯網信息服務演算法推薦管理規定（意見稿）》。新規明確，平台不得將違法和不良信息作為關鍵詞給用戶畫像，更不得向其推送相關信息。也就是說，即便用戶搜索過這樣的信息，演算法也不能據此就不斷推薦此類信息。

很明確，這是要為演算法加裝價值瞄準鏡。說白了，演算法得有價值觀。演算法決定了供給內容，也在塑造用戶。所以演算法不能只自動響應或迎合用戶，還得主動引領，對違法、低俗需求必須說不。演算法必須守法。一是法律、二是法度。這樣的演算法才能把賬算明白。這是一筆事關平台和社會未來發展的大賬。

《互聯網信息服務演算法推薦管理規定（徵求意見稿）》明確的內容

8月27日，國家互聯網信息辦公室發布了關於《互聯網信息服務演算法推薦管理規定（徵求意見稿）》（下稱「徵求意見稿」）公開徵求意見的通知。

徵求意見稿明確，演算法推薦服務提供者應優化規則的透明度和可解釋性，公示演算法推薦原理，設置關閉演算法推薦選項。 演算法推薦服務者的定期審核義務，建立識別違法和不良信息的特徵庫。這意味著用戶可以拒絕並改變平台的推薦演算法，自己決定自己看到的內容，同時從技術上打擊「大數據殺熟」行為。

「徵求意見稿通過對平台方的信息分發模式的規制，對演算法推薦的所導致的『信息偏食』進行明晰界定，加大傳播領域的信息監管力度，以『演算法透明』為基點，建立『演算法問責』的責任追究制度，藉助法規改善用戶與平台的信息交互過程，推動雙方向陽而生，向善而行。」暨南大學法學院副教授仲春對新京報貝殼財經記者表示。