1月4日，我國算法推薦政策明確落地。網(wǎng)信中國公眾號公布《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》（簡稱《規(guī)定》），由國家網(wǎng)信辦、工信部、公安部和市場監(jiān)管總局等四部門聯(lián)合制訂，于2021年11月16日經(jīng)網(wǎng)信辦審議通過，并經(jīng)工信部等四部委同意后公布，將自2022年3月1日起施行。

《規(guī)定》要求，算法推薦服務提供者應當向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關閉算法推薦服務的選項。用戶選擇關閉算法推薦服務的，算法推薦服務提供者應當立即停止提供相關服務。

多位接受第一財經(jīng)記者采訪的行業(yè)人士表示，作為我國首部聚焦于算法治理的部門規(guī)章，《規(guī)定》的落地給到用戶更多自主選擇權，矯正過去平臺商業(yè)利益最大化的傾向。其背后有對《反不正當競爭法》《數(shù)據(jù)安全條例》《個人信息保護法》（簡稱《個保法》）《未成年人保護法》的延續(xù)，也意味著2022年，我國進入算法監(jiān)管元年。

算法監(jiān)管元年

近年來，算法應用在給政治、經(jīng)濟、社會發(fā)展注入新動能的同時，算法歧視、“大數(shù)據(jù)殺熟”、誘導沉迷等算法不合理應用導致的問題也深刻影響著正常的傳播秩序、市場秩序和社會秩序，給維護意識形態(tài)安全、社會公平公正和網(wǎng)民合法權益帶來挑戰(zhàn)。在互聯(lián)網(wǎng)信息服務領域出臺具有針對性的算法推薦規(guī)章制度，是防范化解安全風險的需要，也是促進算法推薦服務健康發(fā)展、提升監(jiān)管能力水平的需要。

此次《規(guī)定》明確，應用算法推薦技術，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術向用戶提供信息。深度科技研究院院長張孝榮對第一財經(jīng)記者表示，無論是網(wǎng)站還是移動APP，都屬于算法規(guī)定規(guī)制范圍。重點來看，受此次《規(guī)定》影響較大的包括拼多多與淘寶等 電商類、頭條抖音系的內(nèi)容類、百度搜索類以及其它行業(yè)等。算法規(guī)定涵蓋了信息服務規(guī)范、用戶權益保護、 監(jiān)督管理、法律責任等多方面內(nèi)容，對維護用戶權益保障行業(yè)有序發(fā)展起到了積極推動作用。

透鏡公司研究創(chuàng)始人況玉清對第一財經(jīng)記者表示，《規(guī)則》是國內(nèi)首個有明確界限和操作指引的算法監(jiān)管規(guī)則。之前行業(yè)內(nèi)雖出過不得大數(shù)據(jù)殺熟等規(guī)定，但較為籠統(tǒng)，沒有明確的監(jiān)管細則配套。而這種發(fā)展規(guī)律在況玉清看來，是大數(shù)據(jù)行業(yè)應用普及到一定程度的必然結果——行業(yè)發(fā)展規(guī)律便是商業(yè)化走在監(jiān)管之前，任何創(chuàng)新行業(yè)皆是如此。

世輝律師事務所合伙人王新銳將2022年稱為“算法監(jiān)管元年”，他稱，無論是中國的《個人信息保護法》，還是歐盟的GDPR，均對自動化決策作出了原則性規(guī)定，而類似《電子商務法》《反壟斷法》等法律及配套規(guī)則，也對大數(shù)據(jù)殺熟、濫用算法排除競爭作出了原則性限制。但上述法律規(guī)則無論是對行為還是結果進行規(guī)制，目前都非常抽象，操作性不強。

過去數(shù)年，算法技術實際一直應用于商業(yè)方面，服務于平臺方與企業(yè)方的利益，甚至持續(xù)發(fā)生騎手被困算法系統(tǒng)、大數(shù)據(jù)殺熟、飯圈亂象、信息繭房、用戶隱私泄露等問題。Marteker創(chuàng)始人馮祺對第一財經(jīng)記者表示，算法作為技術本身，并未起到真正的“科技向善”作用，甚至對消費者造成騷擾。《規(guī)定》的落地本質上來說是一件好事，讓廣告營銷人“帶著鐐銬跳舞”，讓行業(yè)從野蠻生長到有法可依，讓平臺更側重于保護用戶的權益，推出用戶真正需要的內(nèi)容與服務。

當然，平臺需要一定的適應期，馮祺稱，比如通過聯(lián)邦學習技術多維度參考，從群體中提取共性；另外，通過內(nèi)容營銷、KOL營銷、廣告植入等方式，也具備較好的效果。

要推薦，不要霸權

一位長期關注互聯(lián)網(wǎng)行業(yè)的人士對第一財經(jīng)記者表示，此次監(jiān)管重點選擇落地在算法層面，一大原因在于算法對應的恰恰是用戶權益——《規(guī)定》內(nèi)容中提到，網(wǎng)信部門會同電信、公安、市場監(jiān)管等有關部門建立算法分級分類安全管理制度，同時根據(jù)算法推薦服務的輿論屬性或者社會動員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術處理的數(shù)據(jù)敏感程度以及對用戶行為的干預程度，對算法推薦服務提供者實行分類分級管理，一定程度上體現(xiàn)了精準治理的立法理念。

這其中，該人士稱，“輿論屬性”包含了用戶評論與發(fā)言，“社會動員能力”則是指平臺所服務的用戶基數(shù)。而互聯(lián)網(wǎng)營銷區(qū)別于常規(guī)營銷的最大特點，正是用戶畫像，算法的目的就是找到最精確的衡量標準。

此前行業(yè)有“算法沒有價值觀”的觀點，引發(fā)一番辯論。但隨著平臺規(guī)模的擴大，算法價值觀也被動附帶上平臺的傾向性。“先有傾向性目標，后有傾向性算法。向善的服務提供向善的算法，‘不善’的服務提供‘不善’的算法”，上述人士表示。

近年來，以金融行業(yè)為例，為了獲得平臺公司的金融服務，中國消費者往往需要向其提供個人信息，進而產(chǎn)生過度采集數(shù)據(jù)的問題，如在2016年至2017年“現(xiàn)金貸”高速增長期間，出現(xiàn)買賣借款人信息的情況。

此前在第三屆外灘金融峰會上，中國金融四十人論壇資深研究員、清華大學五道口金融學院院長張曉慧表示，算法的復雜性以及算法使用者的刻意隱瞞，使得絕大多數(shù)人無法理解算法的工作原理，導致作為算法使用者的大型科技公司，特別是那些幾乎控股了所有與個人生活行為相關的數(shù)字平臺公司得以處于事實上的支配地位，形成“算法霸權”，從而嚴重危害了算法相對人也就是消費者的合法權益。

貴州數(shù)據(jù)寶產(chǎn)品研究院院長李可順對記者表示，《規(guī)定》的落地，一個比較明顯的影響在于通過算法高強度曝光某些視頻或商品，讓消費者過度消費甚至做出錯誤消費決策的行為得到收斂。而不好的內(nèi)容或商品將無法獲得算法紅利加成，平臺非“合規(guī)”收入增速將趨緩。

當然，李可順認為個性化推薦只是算法推薦的其中一方面，從技術角度看，算法分可解釋性強與可解釋性弱兩類，前者的更易于審查，因此現(xiàn)階段實際并沒有非常完善的算法標準過渡方案，讓消費者掌握是否個性化推薦的主動權，是解決方案可選項之一。

王新銳表示，算法本身并不是新技術，但因算法應用產(chǎn)生一些社會問題近幾年日益受到各界關注。《規(guī)定》正是回應了這些社會熱點問題，尤其針對算法歧視、大數(shù)據(jù)殺熟、誘導沉迷等。相比數(shù)據(jù)，算法的技術性更強，更不容易被描述和感知，因此如何制定和執(zhí)行規(guī)則就更為困難。

行業(yè)“算”什么？

算法濫用對行業(yè)、對消費者的負面影響早已暗自滋長。

此前微博發(fā)布公告稱將加大力度處理熱搜榜熱門話題榜刷榜行為，對刷榜行為的直接受益者進行處罰。為的是確保熱搜榜、熱門話題榜的真實可信，不斷對產(chǎn)品本身進行算法升級，并設置了以大數(shù)據(jù)識別為基礎的防刷體系。對于存在作弊特征的行為，系統(tǒng)都會實時進行識別和攔截。

但據(jù)記者從娛樂行業(yè)以及接近微博方面人士了解到，微博外有大批供應商企業(yè)，可以通過小號刷贊等方式，進行輿論引導。

當時微博調(diào)整的核心便是引入編輯人工干預的模式，將算法挖掘作為基礎，在排序和選擇上放棄純粹算法的方式，引入編輯對違反有關法律法規(guī)的內(nèi)容、社會負能量的信息、過度娛樂化的信息進行人工干預。

微博之外，電商與短視頻行業(yè)也在算法監(jiān)管逐漸落地期間進行自我調(diào)整。2021年10月，天貓、京東在發(fā)貨環(huán)節(jié)上對消費者訂單中涉及個人的敏感信息進行加密處理，軟件服務商與商家從淘寶開發(fā)平臺或訂單推動服務中已無法獲得收件人隱私信息。

《數(shù)據(jù)安全條例》出臺后，微信更新《隱私保護指引》，添加“視頻號、公眾號、看一看、搜一搜個性化推薦或展示機制”，增加個性化自主控制路徑。包括抖音、快手、今日頭條、B站、小紅書等平臺均在2021年11月初完成針對隱私政策的更新。記者體驗發(fā)現(xiàn)，抖音與快手均將個性化廣告選擇按鍵設置在明顯位置。

聚焦于算法政策主要影響到的短視頻與電商行業(yè)，李可順對第一財經(jīng)記者表示，在短視頻等場景，算法會偏向于大V賬號，而非優(yōu)質內(nèi)容小號，形成平臺內(nèi)的流量壟斷行為，而這將直接影響用戶對于信息的公平獲取及知情權。

同時，平臺的流量也會偏向于部分頭部電商號，這些賬戶商家的產(chǎn)品未必優(yōu)質，但在內(nèi)容算法的不斷轟炸下，用戶易受引導、進而做出異常的購買行為，甚至形成了普遍的沖動消費。

中國電子技術標準化研究院信息安全研究中心審查部總監(jiān)何延哲對第一財經(jīng)記者表示，短視頻根據(jù)用戶喜好數(shù)據(jù)進行信息推送，便需要對推送內(nèi)容進行評估，是否會導致真正的沉迷。何延哲認為，現(xiàn)在到了對短視頻信息推送踩剎車的時間，預防信息繭房效應過重，為消費者的選擇權更換更大的空間，對算法透明度與用戶選擇權進行引導。

何延哲稱，此前各平臺已根據(jù)《個保法》對個性化推薦功能進行修正，結合當下的《規(guī)定》，平臺需要給到用戶更多的選擇權，過去的推薦個性化往往是商業(yè)利益最大化，而非真正的站到用戶角度為其提供個性化的高質量的推送服務。

此次《規(guī)定》明確了算法推薦服務提供者的用戶權益保護要求，包括保障算法知情權，要求告知用戶其提供算法推薦服務的情況，并公示服務的基本原理、目的意圖和主要運行機制等；保障算法選擇權，應當向用戶提供不針對其個人特征的選項，或者便捷的關閉算法推薦服務的選項。對向未成年人、老年人、勞動者和消費者等主體提供算法推薦服務的，《規(guī)定》要求不得利用算法推薦服務誘導未成年人沉迷網(wǎng)絡，應當便利老年人安全使用算法推薦服務。

只是，面對算法，個體如何進行監(jiān)督和舉證，還顯得勢單力薄，寄希望于行業(yè)自身的完善也略顯。