如何遠(yuǎn)離算法之“算計(jì)”？

　　——新規(guī)之下的網(wǎng)民算法素養(yǎng)調(diào)研

　　編者按

　　3月1日，國(guó)家互聯(lián)網(wǎng)信息辦公室等四部門(mén)聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(簡(jiǎn)稱(chēng)《規(guī)定》)正式實(shí)施?！兑?guī)定》對(duì)算法推薦服務(wù)做出全面規(guī)范，明確了算法治理體制機(jī)制，科學(xué)構(gòu)建了網(wǎng)絡(luò)平臺(tái)問(wèn)責(zé)體系。隨之啟動(dòng)的2022年“清朗·算法綜合治理”專(zhuān)項(xiàng)行動(dòng)，要求督促整改算法不合理應(yīng)用帶來(lái)的“信息繭房”“算法歧視”“大數(shù)據(jù)殺熟”等問(wèn)題。上述新規(guī)及舉措是在數(shù)字化變革時(shí)代對(duì)算法治理的有效回應(yīng)。在“與算法共存”的時(shí)代中，網(wǎng)民作為網(wǎng)絡(luò)行為主體，如何提升自身的算法素養(yǎng)，遠(yuǎn)離算法之“算計(jì)”，更加安全自主地享受網(wǎng)絡(luò)生活？鑒此，光明日?qǐng)?bào)聯(lián)合中央民族大學(xué)調(diào)研組，進(jìn)行了問(wèn)卷調(diào)查(有效問(wèn)卷912人次)及深度訪(fǎng)談，就個(gè)人用戶(hù)的使用體驗(yàn)，梳理了算法化生存中的困境、挑戰(zhàn)及具體應(yīng)對(duì)表現(xiàn)，并就如何提升算法素養(yǎng)提出建議。

　　“以前總是被‘安排’看到自己‘想看’的內(nèi)容，關(guān)閉個(gè)性化推薦后，感覺(jué)看到了更廣闊的世界?！薄伴_(kāi)了推薦，網(wǎng)購(gòu)平臺(tái)似乎比我更懂我，總讓我忍不住買(mǎi)買(mǎi)買(mǎi)；不開(kāi)吧，又怕錯(cuò)過(guò)合適的商品?！薄瓣P(guān)閉推薦之前，常刷到的短視頻總讓我欲罷不能，有美妝教程、精致生活，關(guān)閉之后刷到的竟是情景惡搞、土味情話(huà)……我趕緊又默默打開(kāi)了個(gè)性化推薦。”

　　…………

　　隨著《規(guī)定》發(fā)布，抖音、微信、淘寶、百度、京東、微博等App均已上線(xiàn)“個(gè)性化推薦”一鍵關(guān)閉功能。然而，調(diào)查中部分用戶(hù)對(duì)于“個(gè)性化推薦”關(guān)不關(guān)表示糾結(jié)：有人覺(jué)得關(guān)閉后“打開(kāi)了新世界的大門(mén)”，也有人覺(jué)得關(guān)閉后降低了用戶(hù)體驗(yàn)，難以適應(yīng)。

　　從疫情防控中的行程追蹤到智能出行中的路況計(jì)算，從符合口味的資訊內(nèi)容到滿(mǎn)足個(gè)性喜好的商品推薦……大數(shù)據(jù)時(shí)代，須臾不可離的算法已廣泛滲透到社會(huì)各個(gè)層面，成為人的“技術(shù)伴侶”。我們需要算法的存在，享受它所帶來(lái)的便利；同時(shí)又要對(duì)其帶來(lái)的控制和其他風(fēng)險(xiǎn)有足夠的識(shí)別與反抗能力。調(diào)查結(jié)果顯示，有56.9%的受訪(fǎng)者認(rèn)為算法程序提升了電子產(chǎn)品使用體驗(yàn)，但北京大學(xué)互聯(lián)網(wǎng)發(fā)展研究中心發(fā)布的《中國(guó)大安全感知報(bào)告(2021)》也顯示，70%的調(diào)研對(duì)象擔(dān)心個(gè)人喜好與興趣被算法“算計(jì)”，50%表示在算法束縛下想要逃離網(wǎng)絡(luò)、遠(yuǎn)離手機(jī)。

　　隱憂(yōu)：

　　身處算法社會(huì)，我們正遭遇哪些困境？

　　潛藏在算法推薦之下的“差別化待遇”。3月初，北京市消協(xié)發(fā)布的互聯(lián)網(wǎng)消費(fèi)大數(shù)據(jù)“殺熟”問(wèn)題調(diào)查顯示，其在調(diào)查了16個(gè)平臺(tái)、提取了32個(gè)模擬消費(fèi)體驗(yàn)樣本后發(fā)現(xiàn)，有14個(gè)樣本新老賬戶(hù)的價(jià)格不一致。調(diào)研發(fā)現(xiàn)，用戶(hù)與算法平臺(tái)之間存在著鮮明的“信息溝壑”，平臺(tái)掌握著算法的模型公式和呈現(xiàn)規(guī)則，通過(guò)對(duì)信息篩選標(biāo)準(zhǔn)的個(gè)性化設(shè)計(jì)，以及對(duì)其他平臺(tái)的“數(shù)據(jù)跟蹤”，讓用戶(hù)處在信息金字塔的底端。精準(zhǔn)推薦的背后來(lái)自平臺(tái)對(duì)個(gè)人數(shù)據(jù)的標(biāo)簽化運(yùn)算，進(jìn)而是將用戶(hù)消費(fèi)能力劃分為“三六九等”，形成算法歧視。

　　算法歧視不僅損害用戶(hù)利益，更會(huì)激化社會(huì)的原有偏見(jiàn)。調(diào)研發(fā)現(xiàn)，新聞推送中的女性、老年人等弱勢(shì)群體更容易受到人們的關(guān)注，有68.7%的受訪(fǎng)者認(rèn)為“女司機(jī)”“女大學(xué)生”等帶有性別指向的詞匯更容易上熱搜，性別議題更易激起討論。平臺(tái)利用“用戶(hù)畫(huà)像”和“貼標(biāo)簽”區(qū)別個(gè)體、扁平化用戶(hù)，強(qiáng)化現(xiàn)實(shí)生活中的刻板印象，可能引發(fā)社會(huì)輿論。

　　無(wú)處可逃的信息收集與“隱私威脅”。熱播的黑色幽默短劇《大媽的世界》中有這樣一段情節(jié)：廣場(chǎng)舞大媽們正發(fā)愁買(mǎi)什么顏色的演出服，此時(shí)王大媽隨口說(shuō)了一句晚上吃西紅柿炒蛋，并拜托楊大媽去接“熊貓班”的外孫，結(jié)果手機(jī)購(gòu)物App就分別給她推送了紅黃相間、黑白配色的衣服。平臺(tái)以“偷聽(tīng)”的方式竊取數(shù)據(jù)用以計(jì)算用戶(hù)的偏好，再“突襲式”地進(jìn)行信息推薦，已引起普遍關(guān)注。調(diào)研中多位被訪(fǎng)者表示，置身于平臺(tái)與算法聯(lián)手建立的系統(tǒng)中，被“偷聽(tīng)”已成“家常便飯”。很多企業(yè)、App、第三方機(jī)構(gòu)在共享用戶(hù)的個(gè)人信息之際，試圖掌控更多的個(gè)人隱私。訪(fǎng)談中，不少用戶(hù)表示，瀏覽器總能“記住”其搜索歷史并且同步到其他設(shè)備上，在首頁(yè)反復(fù)推送搜索過(guò)的同類(lèi)內(nèi)容，讓人有一種“被泄密”的不安感。

　　基于收集個(gè)人信息的算法推薦服務(wù)帶來(lái)的困擾不止于此。一方面，不當(dāng)?shù)耐扑]表現(xiàn)在“量”上，過(guò)多同質(zhì)化的內(nèi)容形成了信息冗余，容易使個(gè)體產(chǎn)生心理疲勞與隱私焦慮；另一方面，算法推薦的“度”也常常超出應(yīng)該推薦的內(nèi)容范圍，色情、低俗等有違主流價(jià)值觀(guān)的內(nèi)容常常被置入開(kāi)機(jī)頁(yè)誘導(dǎo)用戶(hù)點(diǎn)擊。

　　被算法過(guò)濾與掌控的“漸進(jìn)式依賴(lài)”。“平時(shí)吃飯、遛娃我都會(huì)找App上排序靠前的餐廳和游樂(lè)場(chǎng)”，31歲的二胎媽媽孫穎表示，依靠應(yīng)用平臺(tái)推薦雖然也“踩過(guò)雷”，但這樣的選擇對(duì)于她而言更省時(shí)省力?；ヂ?lián)網(wǎng)時(shí)代，不少網(wǎng)民越來(lái)越多地將事物的優(yōu)劣判斷交給算法。算法憑借著“優(yōu)先”“分類(lèi)”“聯(lián)想”“過(guò)濾”等機(jī)制在很大程度上建構(gòu)了“人們?cè)诨ヂ?lián)網(wǎng)上的感知與現(xiàn)實(shí)”。調(diào)查顯示，超六成的受訪(fǎng)者會(huì)根據(jù)平臺(tái)的排名、評(píng)分等數(shù)據(jù)做出個(gè)人決策，盡管他們并不認(rèn)同排名靠前的商品或內(nèi)容一定是更好的。

　　調(diào)研還發(fā)現(xiàn)，不少提供算法推薦服務(wù)的平臺(tái)，更是通過(guò)將相關(guān)內(nèi)容放在突出位置、屏蔽其他平臺(tái)鏈接等方式，實(shí)現(xiàn)“入口壟斷”與“自我優(yōu)待”。這些平臺(tái)在熱搜榜、首屏、彈窗等重點(diǎn)環(huán)節(jié)，通過(guò)設(shè)置關(guān)鍵詞、定向推送等方式將特定內(nèi)容推至榜單前列，暗中控制人們可關(guān)注的信息范圍。72.1%的被訪(fǎng)者認(rèn)為平臺(tái)會(huì)推薦與自身興趣相似的內(nèi)容。當(dāng)人們習(xí)慣由平臺(tái)供應(yīng)信息時(shí)，有可能陷入算法設(shè)置的“過(guò)濾氣泡”中，人委身成為數(shù)據(jù)的“附屬品”，漸漸喪失接觸多元信息的機(jī)會(huì)。

　　應(yīng)對(duì)：

　　從“逃避”到“棲身”的用戶(hù)生存之道

　　從對(duì)“大數(shù)據(jù)殺熟”的詬病，到對(duì)“信息繭房”的熟知，普通用戶(hù)在強(qiáng)勢(shì)的算法技術(shù)應(yīng)用面前，不得不選擇以妥協(xié)的方式忍受算法帶來(lái)的種種問(wèn)題。調(diào)查中，超過(guò)半數(shù)受訪(fǎng)者表示自己意識(shí)到了平臺(tái)或商家對(duì)個(gè)人信息的收集，但如果不勾選“用戶(hù)知情同意書(shū)”，就無(wú)法使用軟件所提供的功能。讓渡隱私來(lái)?yè)Q取服務(wù)，成為普通人與算法共存時(shí)“無(wú)奈而自洽”的心態(tài)。然而，在“受制于算法”的大多數(shù)情形之外，仍有不少用戶(hù)選擇同算法“斗智斗勇”，規(guī)避算法的消極影響。

　　善用“反追蹤”策略的“數(shù)字隱身”。大學(xué)生高宇是社交平臺(tái)的“重度用戶(hù)”，在和算法推薦日復(fù)一日的相處中，她練就了一身“躲避”算法的本領(lǐng)：“我每次在首頁(yè)刷到不想看的內(nèi)容就會(huì)‘以迅雷不及掩耳之勢(shì)’劃過(guò)?！贝送猓€在同一個(gè)社交平臺(tái)注冊(cè)了“小號(hào)”，“大號(hào)用來(lái)追逐熱點(diǎn)資訊，小號(hào)用來(lái)發(fā)日常，這樣不想看到相關(guān)內(nèi)容的時(shí)候就有個(gè)地方可以‘躲’了”。

　　當(dāng)下，身處各類(lèi)默認(rèn)設(shè)置協(xié)議中的普通個(gè)體，發(fā)展出多元的“算法回避”策略。他們或更換手機(jī)號(hào)碼、建立多個(gè)賬號(hào)，以此迷惑算法；或采取不點(diǎn)贊、不發(fā)表、不評(píng)論的方式，減少在互聯(lián)網(wǎng)中的數(shù)字痕跡；或因不喜歡某些軟件的推薦機(jī)制而選擇關(guān)閉或停用，直至尋求到算法友好的替代性產(chǎn)品；或想辦法關(guān)閉手機(jī)收音功能，從硬件設(shè)備端對(duì)可能的算法監(jiān)聽(tīng)予以阻隔。這些方式呈現(xiàn)出共性的算法化生存之策——“斷連”與“隱形”。然而，調(diào)研中許多用戶(hù)表示雖然可以遠(yuǎn)離算法軟件，卻無(wú)法躲避算法思維的連鎖反應(yīng)。調(diào)查顯示，只有54.9%的人認(rèn)為這種逃避產(chǎn)生了效果，霸王條款、偷用隱私、強(qiáng)行定位等情況依然難以靠個(gè)體力量得到緩解。

　　“因地制宜”投喂算法的“反向規(guī)訓(xùn)”。依據(jù)算法情境“因地制宜”地制定使用策略，主動(dòng)探究算法運(yùn)作的規(guī)則與思維方式，通過(guò)意圖鮮明的點(diǎn)贊、收藏、點(diǎn)擊“不感興趣”等行為設(shè)置自主偏好，甚至在感興趣的帖子下留言稱(chēng)“大數(shù)據(jù)請(qǐng)記住我，多向我推送這樣的(帖子)”……調(diào)研發(fā)現(xiàn)，部分用戶(hù)選擇以主動(dòng)“喂養(yǎng)”的方式尋求與算法的相處之道。

　　其中，一度活躍于“飯圈”的“數(shù)據(jù)粉”就是依靠與算法的“你來(lái)我往”試圖影響信息排序的一群人?！皵?shù)據(jù)粉”群體通常通過(guò)組織信息點(diǎn)擊和發(fā)布，對(duì)偶像的作品點(diǎn)贊、帶話(huà)題轉(zhuǎn)發(fā)等，提高相關(guān)內(nèi)容的熱度，從而影響算法，令與偶像相關(guān)的內(nèi)容躋身更顯著的位置，高調(diào)搶占大眾注意力。

　　借算法平臺(tái)謀取紅利的“棲身式共存”?！耙郧拔抑贿x感興趣的內(nèi)容創(chuàng)作，但有一次偶然剪輯制作了一部爆款影視劇介紹，流量特別好，自此以后我開(kāi)始琢磨怎么才能更火。”余家豪是一名業(yè)余的視頻網(wǎng)站內(nèi)容創(chuàng)作者，受和他類(lèi)似感受的牽引，越來(lái)越多的MCN(多頻道網(wǎng)絡(luò))及自媒體創(chuàng)作者全心“棲身”于算法主導(dǎo)的內(nèi)容世界，迎合代碼規(guī)則、抓住流量密碼、實(shí)現(xiàn)商業(yè)變現(xiàn)，構(gòu)成了算法化生存的另一種模式。調(diào)研中，在“是否主動(dòng)迎合推薦機(jī)制發(fā)布內(nèi)容”的回答中，選擇“是”的比重超過(guò)三分之二。調(diào)研也發(fā)現(xiàn)，部分內(nèi)容生產(chǎn)者不惜使用“三俗內(nèi)容”“打擦邊球”等方式迎合算法準(zhǔn)則。

　　反思：

　　走出算法困境究竟難在哪里？

　　平臺(tái)價(jià)值觀(guān)嵌入算法程序，增加了普通個(gè)體察覺(jué)偏見(jiàn)的難度。調(diào)研中，接受訪(fǎng)談的算法工程師表示，算法并不是絕對(duì)客觀(guān)中立的技術(shù)，數(shù)據(jù)采集的范圍與平臺(tái)的市場(chǎng)意圖等都會(huì)寫(xiě)進(jìn)代碼、影響樣本分布或數(shù)據(jù)集，從而將“傾向”與“立場(chǎng)”嵌入程序設(shè)計(jì)中。對(duì)于普通用戶(hù)而言，由于算法本身以數(shù)字、公式的方式呈現(xiàn)，具有“技術(shù)無(wú)意識(shí)”的特征，因此，個(gè)體更難察覺(jué)和追溯價(jià)值偏見(jiàn)的源頭。例如以“流量至上”為代表的畸形的內(nèi)容評(píng)價(jià)體系就是算法邏輯潛移默化作用的結(jié)果。

　　算法設(shè)計(jì)方與社會(huì)公眾之間存在知識(shí)鴻溝，導(dǎo)致算法難以被理解和詮釋。按照行業(yè)慣例，大部分算法設(shè)計(jì)者并不會(huì)將運(yùn)算的細(xì)節(jié)公之于眾，算法存在著看不見(jiàn)的“黑箱”。長(zhǎng)期以來(lái)，這種不透明的機(jī)制被看作是“自然化”的存在，很少有人去質(zhì)疑其合理性，嚴(yán)重影響了社會(huì)對(duì)算法的監(jiān)督。算法工程師與其他社會(huì)主體之間缺少公開(kāi)而持續(xù)的算法解釋環(huán)節(jié)，建立相關(guān)的多方算法溝通機(jī)制迫在眉睫。

　　算法使用者處于弱勢(shì)地位，加劇了個(gè)體維權(quán)難題。調(diào)研組發(fā)現(xiàn)，真正了解算法運(yùn)行機(jī)制的人并不多，僅有43.0%的人認(rèn)為自己熟悉算法，更多被訪(fǎng)者表示自己對(duì)算法“一知半解”“知道又好像不太熟悉”。在我國(guó)當(dāng)下有關(guān)媒介素養(yǎng)的教育中，“算法素養(yǎng)”培育仍然缺位。歐盟委員會(huì)于2020年開(kāi)始呼吁成員國(guó)各國(guó)培育公眾對(duì)算法系統(tǒng)功能及其影響的意識(shí)和素養(yǎng)。

　　開(kāi)展算法治理的配套措施和機(jī)制尚未到位。作為日常技術(shù)，算法深刻改變了人們的生活，但社會(huì)尚未跟上算法發(fā)展的步伐。換言之，技術(shù)的發(fā)展并沒(méi)有完善的“基礎(chǔ)設(shè)施”來(lái)配套。同時(shí)，算法行業(yè)的倫理意識(shí)尚顯薄弱，缺少行業(yè)自治的倫理標(biāo)準(zhǔn)。有關(guān)算法推薦信息服務(wù)的管理規(guī)定雖然已經(jīng)出臺(tái)，但是與之相配套的治理算法的體制機(jī)制、保障措施還有待完善，整個(gè)社會(huì)對(duì)算法開(kāi)展“協(xié)同共治”的氛圍意識(shí)和參與渠道，都需要持續(xù)探索、切實(shí)推進(jìn)。

　　未來(lái)：

　　全面提升算法素養(yǎng)，與《規(guī)定》形成互補(bǔ)

　　《規(guī)定》出臺(tái)讓自上而下的算法治理有了法理依據(jù)，但在自下而上的算法素養(yǎng)提升方面仍有較大差距，需從以下方面著手開(kāi)展相關(guān)工作。

　　融通多元渠道，上好全民的“算法普及課”，形成社會(huì)共識(shí)與知識(shí)共享，打破“算法崇拜”。算法思維不僅應(yīng)用于算法領(lǐng)域，也在更廣泛的層面上影響著實(shí)踐。增強(qiáng)算法思維，一方面要深入理解算法邏輯，提高運(yùn)用計(jì)算思維、數(shù)據(jù)思維分析和解決問(wèn)題的能力；另一方面，要防止走入“算法崇拜”的誤區(qū)，著力培養(yǎng)算法素養(yǎng)與人文素養(yǎng)兼容的新思維。如今，系統(tǒng)化的算法思維教育仍然缺位，亟須全民共上“算法普及課”，補(bǔ)上算法思維教育的缺口。2018年起，算法相關(guān)課程已寫(xiě)進(jìn)高中“新課標(biāo)”，未來(lái)還需增加中小學(xué)算法課程，“從娃娃抓起”培養(yǎng)算法思維；加強(qiáng)算法科普讀物與影視作品創(chuàng)作，以文化產(chǎn)業(yè)助推算法思維教育；建立算法思維評(píng)價(jià)指標(biāo)體系，推動(dòng)算法思維教育科學(xué)化發(fā)展。

　　將提升算法素養(yǎng)與現(xiàn)有消費(fèi)權(quán)益、隱私權(quán)益、特殊人群權(quán)利保護(hù)體系“有效對(duì)接”“精準(zhǔn)匹配”，構(gòu)建向上向善的算法傳播格局。配合《規(guī)定》對(duì)透明性、可解釋的算法規(guī)則的要求，基于公開(kāi)的算法機(jī)制，增強(qiáng)用戶(hù)對(duì)算法過(guò)濾信息的辨別力，同時(shí)加強(qiáng)對(duì)熱點(diǎn)排序等功能的人工干預(yù)；在應(yīng)對(duì)“隱私危機(jī)”方面，樹(shù)立個(gè)體信息保護(hù)意識(shí)，厘清個(gè)人普通信息與個(gè)人敏感信息邊界；在個(gè)人信息輸入頁(yè)面設(shè)置隱私泄露提醒，防止盲目泄露個(gè)人信息；加強(qiáng)隱私權(quán)相關(guān)案例的媒體報(bào)道，樹(shù)立公眾維權(quán)意識(shí)；加強(qiáng)理性消費(fèi)、公平消費(fèi)等知識(shí)宣傳，開(kāi)通差異化定價(jià)投訴渠道，明確獎(jiǎng)懲機(jī)制，嚴(yán)格整治“大數(shù)據(jù)殺熟”等侵犯消費(fèi)者權(quán)益行為，幫助大眾避開(kāi)“消費(fèi)陷阱”。

　　構(gòu)建“主流價(jià)值觀(guān)+行業(yè)倫理+公共監(jiān)管”的協(xié)同治理體系，強(qiáng)化算法問(wèn)責(zé)，營(yíng)造合法規(guī)、有情懷、可追溯的算法開(kāi)發(fā)環(huán)境。算法素養(yǎng)主體既包括算法使用者，也包括算法開(kāi)發(fā)者。提升算法開(kāi)發(fā)者的算法素養(yǎng)，更需要多元協(xié)力、攜手共治。應(yīng)追蹤《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等法規(guī)的實(shí)施效果，對(duì)違規(guī)應(yīng)用算法技術(shù)的企業(yè)進(jìn)行處罰、約談等，實(shí)現(xiàn)剛性約束；在行業(yè)內(nèi)廣泛開(kāi)展對(duì)算法倫理的宣傳與討論，加強(qiáng)主流價(jià)值觀(guān)的行業(yè)內(nèi)宣傳，將社會(huì)公德和職業(yè)道德引入行業(yè)價(jià)值體系，實(shí)現(xiàn)柔性制約；督促互聯(lián)網(wǎng)行業(yè)建立實(shí)踐層面的操作規(guī)范，著意防范“算法偏見(jiàn)”“算法歧視”等現(xiàn)象，從開(kāi)發(fā)設(shè)計(jì)環(huán)節(jié)追求算法公平，實(shí)現(xiàn)技術(shù)創(chuàng)新與倫理之間的平衡；推進(jìn)算法開(kāi)發(fā)過(guò)程公開(kāi)化、透明化，引入公眾監(jiān)督，營(yíng)造依法、審慎、道德的行業(yè)環(huán)境。

　　作者：光明日?qǐng)?bào)聯(lián)合調(diào)研組

　　(執(zhí)筆人：北京市習(xí)近平新時(shí)代中國(guó)特色社會(huì)主義思想研究中心特約研究員毛湛文、本報(bào)記者白雪蕾；調(diào)研組其他成員：趙安琪、聶一丹、于昊、季蕓、代寧)