“不去了，機(jī)票漲這么多，虧我那么信任你，天天看，越看越漲，辜負(fù)了我對(duì)你的期待?！?/p>

臨近春節(jié)假期，社交媒體上出現(xiàn)了很多“決定取消出行計(jì)劃”的留言。網(wǎng)友們買(mǎi)機(jī)票、訂酒店、囤年貨時(shí)還發(fā)現(xiàn)，有的線上平臺(tái)會(huì) “看人下菜碟”“同貨不同價(jià)”。

不甘心被宰一刀的年輕人開(kāi)始“反向馴化”大數(shù)據(jù)。有人說(shuō)“哭窮”，就能刷到“便宜貨”；有人說(shuō)卸載APP后重裝，或換個(gè)便宜手機(jī)就能搶到優(yōu)惠券；還有不少人披上了“momo”的馬甲，隱藏個(gè)人信息……

這些“以彼之道還施彼身”的做法真的有用嗎？平臺(tái)究竟是如何進(jìn)行算法推薦的？當(dāng)越來(lái)越多的人開(kāi)始反抗大數(shù)據(jù)，他們反抗的到底是什么？

新年第一期節(jié)目，《湃客Talk》邀請(qǐng)了復(fù)旦大學(xué)哲學(xué)學(xué)院教授、人工智能哲學(xué)研究者徐英瑾，以及前大廠算法工程師譚峰，揭秘大數(shù)據(jù)算法那些事。

*點(diǎn)擊下方收聽(tīng)本期節(jié)目

 【本期主播】

陳玉坤 澎湃新聞·湃客高級(jí)編輯

【本期嘉賓】

徐英瑾 復(fù)旦大學(xué)哲學(xué)學(xué)院教授

譚峰 前大廠算法工程師

【內(nèi)容節(jié)選】

*以下內(nèi)容為基于節(jié)目錄音的口述稿，僅對(duì)語(yǔ)法與用詞稍作修改。

“反向馴化”大數(shù)據(jù)，可能嗎？

徐英瑾：“大數(shù)據(jù)殺熟”就在你我身邊 

澎湃新聞?dòng)浾咴鲞^(guò)一個(gè)測(cè)試，結(jié)果顯示，不同品牌的手機(jī)購(gòu)買(mǎi)同樣商品時(shí)，由于手機(jī)本身的運(yùn)行歷史和數(shù)據(jù)存在差異，平臺(tái)顯示的商品價(jià)格可能會(huì)不一樣。這一現(xiàn)象顛覆了我們對(duì)于買(mǎi)賣(mài)公平的常識(shí)認(rèn)知。

以我作為普通消費(fèi)者的日常體驗(yàn)來(lái)說(shuō)，只要在網(wǎng)上搜索某些物品，與之相關(guān)的商品推薦便會(huì)立刻出現(xiàn)在手機(jī)上，這種情況屢見(jiàn)不鮮。更糟糕的是，我經(jīng)常接到各種各樣的詐騙電話，以至于我現(xiàn)在基本不接陌生來(lái)電。

至于我們?yōu)楹螘?huì)收到如此多的推薦，根本原因在于，所有推薦算法背后都是基于休謨式假設(shè)，即認(rèn)為人類(lèi)行為總是重復(fù)過(guò)去，人是習(xí)慣的動(dòng)物。但人有時(shí)候是要追求新奇性的，算法對(duì)于怎樣用新奇性來(lái)抓住大家的注意力，是沒(méi)有能力的。 

譚峰：電商平臺(tái)的“殺熟”行為很難被徹底杜絕

對(duì)互聯(lián)網(wǎng)平臺(tái)而言，“大數(shù)據(jù)殺熟”是一種商業(yè)化運(yùn)營(yíng)手段?；ヂ?lián)網(wǎng)平臺(tái)通過(guò)手機(jī)設(shè)備端收集用戶行為產(chǎn)生的各類(lèi)消費(fèi)數(shù)據(jù)，依據(jù)用戶的瀏覽興趣，以及與親友、陌生人在網(wǎng)上的互動(dòng)關(guān)系，對(duì)用戶行為和個(gè)性展開(kāi)分析，進(jìn)而調(diào)整商品價(jià)格，或進(jìn)行誘導(dǎo)性推薦，刺激用戶消費(fèi)。

在“大數(shù)據(jù)殺熟”之下，老用戶優(yōu)惠少、價(jià)格高，而新用戶則能享受優(yōu)惠。

為了規(guī)避大數(shù)據(jù)的影響，在面對(duì)新平臺(tái)時(shí)，可以盡可能減少注冊(cè)以及關(guān)聯(lián)用戶行為，或者使用不同的設(shè)備操作不同事務(wù)。比如，一臺(tái)設(shè)備專(zhuān)門(mén)用于購(gòu)買(mǎi)機(jī)票，另一臺(tái)設(shè)備瀏覽小紅書(shū)，以此減少用戶行為數(shù)據(jù)的共享。

消費(fèi)者通過(guò)自身行為，比如對(duì)自己不感興趣的內(nèi)容點(diǎn)擊“不喜歡”、定期清空購(gòu)物車(chē)等，可以在一定程度上影響算法。平臺(tái)會(huì)據(jù)此調(diào)整算法工具，以適配用戶的偏好變化。

但從長(zhǎng)遠(yuǎn)角度出發(fā)，電商平臺(tái)的殺熟行為很難被徹底杜絕，只能在短期內(nèi)盡量降低其影響。

大部分手機(jī)APP，尤其是安卓手機(jī)上的APP，在安裝或使用過(guò)程中常常會(huì)索要諸多權(quán)限，其中就可能包括錄音權(quán)限，進(jìn)而在后臺(tái)進(jìn)行聲音收集。

至于收集到的聲音信息是僅用于用戶行為分析，還是會(huì)分享給第三方，這很難保證。不過(guò)，經(jīng)過(guò)蘋(píng)果等公司聲明不會(huì)默認(rèn)開(kāi)啟語(yǔ)音收集權(quán)限的智能手機(jī)，其應(yīng)用大概率不會(huì)進(jìn)行偷聽(tīng)行為。

除了應(yīng)用算法，社交平臺(tái)以及新媒體平臺(tái)也會(huì)對(duì)內(nèi)容篩選進(jìn)行人為干預(yù)。每個(gè)平臺(tái)都有自己的商業(yè)化路徑和偏好，不完全依賴(lài)用戶的個(gè)人行為或者群體行為。目前，國(guó)內(nèi)外大廠都在內(nèi)容審核方面投入了大量的人力和物力。

算法和大數(shù)據(jù)，為何叫人“又愛(ài)又恨” 

徐英瑾：算法讓你看不到世界的另一面，最后導(dǎo)致“腦腐化”

在原始的算法概念里面，算法和錢(qián)沒(méi)有一點(diǎn)關(guān)系，但進(jìn)入了大數(shù)據(jù)時(shí)代，我個(gè)人認(rèn)為算法的含義已經(jīng)發(fā)生了改變。以前算法是為了解決一個(gè)能夠被清楚定義的數(shù)學(xué)問(wèn)題，現(xiàn)在就是為了增加商家的利潤(rùn)。

以前的算法有關(guān)機(jī)器，現(xiàn)在的算法是機(jī)器和人類(lèi)心理的某種共謀。而我們?nèi)祟?lèi)有一個(gè)特點(diǎn)，就是缺乏耐心。比如，在美國(guó)，TikTok超越Y(jié)outube贏得了更多市場(chǎng)，就是因?yàn)閺V大網(wǎng)友沒(méi)有耐心看完一兩個(gè)小時(shí)的節(jié)目，他們就愛(ài)刷短視頻。所以，人類(lèi)心智的某些特點(diǎn)和 TikTok的算法構(gòu)成了某種共謀，最后促成了它在美國(guó)的相對(duì)成功。

不幸的是，現(xiàn)在這種相互作用在往消極的方向轉(zhuǎn)變。很多心理學(xué)研究表明，沉迷于短視頻的人，各種認(rèn)知能力和學(xué)習(xí)成績(jī)都在下降。我也發(fā)現(xiàn)，在教授大學(xué)生的過(guò)程中，同學(xué)們閱讀長(zhǎng)文本的能力耐心、一般的語(yǔ)文能力都在逐年下降，我認(rèn)為短視頻沉迷是一個(gè)很重要的原因。

最近有一個(gè)詞“腦腐化”，它產(chǎn)生的機(jī)制是什么？人要聰明，就要有對(duì)話性，要有敞開(kāi)性，要聽(tīng)不同的意見(jiàn)。但算法不會(huì)讓你看到這個(gè)世界的另一面，這樣一來(lái)，人的能力就沒(méi)有機(jī)會(huì)得到鍛煉，最后導(dǎo)致了腦腐化。

隨著受眾認(rèn)知能力的下降，可能促使未來(lái)的算法進(jìn)一步投喂類(lèi)似的資料，使人繼續(xù)或者更深入地困在信息繭房里。

最近我看了一份資料，全球16歲至64歲的網(wǎng)民，平均每天“黏”在網(wǎng)上的時(shí)間是6個(gè)多小時(shí)，美國(guó)人是7個(gè)多小時(shí)，而日本人只有3個(gè)小時(shí)。

所以，今天所說(shuō)的算法是個(gè)開(kāi)放的東西，它會(huì)和人類(lèi)的心理、和一個(gè)國(guó)家的文化以及國(guó)民對(duì)于線上線下活動(dòng)的看法產(chǎn)生微妙的互動(dòng)。

今天我們面對(duì)的算法，是一個(gè)我們好像僅僅“知其然卻不知其所以然”的技術(shù)工具，這是人類(lèi)自瓦特改良蒸汽機(jī)以來(lái)從來(lái)沒(méi)有發(fā)生過(guò)的事情，由此帶來(lái)社會(huì)風(fēng)險(xiǎn)和倫理風(fēng)險(xiǎn)。 

譚峰：大數(shù)據(jù)與算法涉及“公平”與“效率”的問(wèn)題 

算法并非新生事物，像如今熱門(mén)的深度學(xué)習(xí)，其前提假設(shè)基于神經(jīng)網(wǎng)絡(luò)，而神經(jīng)網(wǎng)絡(luò)早在上世紀(jì)六七十年代第一波人工智能熱潮時(shí)就已出現(xiàn)。但當(dāng)時(shí)并未像現(xiàn)在這樣蓬勃發(fā)展，我覺(jué)得主要原因在于數(shù)據(jù)積累不足。數(shù)據(jù)采集方式和維度受限，致使算法的有效性未能被充分激發(fā)。

算法的發(fā)展使我們對(duì)生活、社會(huì)以及客觀規(guī)律有了全新的認(rèn)識(shí)。比如，隨著算法技術(shù)的不斷演進(jìn)，我們現(xiàn)在能夠運(yùn)用算法對(duì)生命體的行為和生物機(jī)制運(yùn)行進(jìn)行建模。這無(wú)疑為人類(lèi)社會(huì)的發(fā)展積累了技術(shù)力量。

大數(shù)據(jù)和算法的應(yīng)用程度，直接關(guān)聯(lián)著“公平”與“效率”的平衡。畢竟，大型平臺(tái)公司在科技與技術(shù)方面具有優(yōu)勢(shì)，獲取數(shù)據(jù)的渠道更廣、門(mén)檻更低。

如果對(duì)大數(shù)據(jù)和算法的管控過(guò)于嚴(yán)格，許多便民的APP、小程序等數(shù)字化應(yīng)用可能就不會(huì)出現(xiàn)。在行業(yè)發(fā)展初期，會(huì)存在利用灰色地帶數(shù)據(jù)進(jìn)行商業(yè)化拓展與創(chuàng)新的情況。然而，如果對(duì)此完全不加約束或約束力度過(guò)弱、單純追求效率，普通民眾和消費(fèi)者的生活習(xí)慣、購(gòu)物習(xí)慣以及對(duì)社會(huì)輿論現(xiàn)象的認(rèn)知，就極有可能被平臺(tái)操控。 

AI制圖

徐英瑾：基于大數(shù)據(jù)的人工智能并非唯一的發(fā)展方向

平臺(tái)的數(shù)據(jù)運(yùn)作依賴(lài)于數(shù)據(jù)獲取。放眼世界范圍內(nèi)，歐盟有一套內(nèi)部數(shù)據(jù)管理法規(guī)，即GDPR（《通用數(shù)據(jù)保護(hù)條例》），對(duì)個(gè)人隱私監(jiān)管要求頗高。然而，也正因歐盟監(jiān)管?chē)?yán)苛，其互聯(lián)網(wǎng)發(fā)展速度也相對(duì)緩慢。

這便是典型的“魚(yú)與熊掌不可兼得”的情況：若要保護(hù)隱私，互聯(lián)網(wǎng)發(fā)展勢(shì)必受到影響，畢竟當(dāng)下大數(shù)據(jù)技術(shù)依賴(lài)海量數(shù)據(jù)支撐。

基于此，我對(duì)解決該問(wèn)題的思路與多數(shù)人不同。畢竟大數(shù)據(jù)算法就像老虎，本性食肉，無(wú)法改變。因此，我主張發(fā)展小數(shù)據(jù)人工智能。

它是更像人類(lèi)，人類(lèi)做出決策的時(shí)候，不需要那么多數(shù)據(jù)。比如你要了解一個(gè)城市的經(jīng)濟(jì)情況，其實(shí)只要對(duì)這個(gè)城市的用電量、用煤量進(jìn)行了解，就能夠抓到關(guān)鍵性的數(shù)據(jù)。我現(xiàn)在就希望人工智能具有這種少量取樣數(shù)據(jù)、利用自己的追因推理能力進(jìn)行舉一反三的能力。

作為哲學(xué)研究者，我常站在少數(shù)派立場(chǎng)反思問(wèn)題。如今大數(shù)據(jù)如此火熱，它是否就代表著通用人工智能發(fā)展的康莊大道？抑或只是人工智能發(fā)展歷程中的“飛艇階段”？我認(rèn)為尚無(wú)定論。 

譚峰：大數(shù)據(jù)時(shí)代下，個(gè)人隱私的界定與留存具有多樣性

在當(dāng)今時(shí)代，大數(shù)據(jù)的廣泛應(yīng)用在一定程度上加劇了人們的不安全感。隨著對(duì)數(shù)據(jù)采集與使用機(jī)制加深了解，人們?cè)桨l(fā)擔(dān)憂自己的行為乃至思想是否在不知不覺(jué)中被他人所洞察、干預(yù)。

由此衍生出一個(gè)關(guān)鍵問(wèn)題：在大數(shù)據(jù)的籠罩下，個(gè)人隱私究竟還能在多大程度上得以留存？

在我看來(lái)，隱私的界定具有相對(duì)性。例如，那些公開(kāi)發(fā)布在網(wǎng)絡(luò)上的行為與評(píng)論，顯然不具備隱私屬性。然而，人的內(nèi)心世界往往是復(fù)雜多面的，網(wǎng)絡(luò)行為和言論未必等同于現(xiàn)實(shí)生活中的表現(xiàn)。倘若人們更為關(guān)注自身在現(xiàn)實(shí)社會(huì)中的真實(shí)行為和想法，那這部分隱私在一定程度上仍有可能得到保護(hù)。

AI時(shí)代，如何不被算法“掌控”？

徐英瑾：養(yǎng)成長(zhǎng)閱讀習(xí)慣是對(duì)抗信息繭房的良藥 

推動(dòng)算法朝著更好的方向發(fā)展，一方面，要對(duì)用戶進(jìn)行教育，不要沉浸在自己的認(rèn)知中不斷重復(fù)，這是在浪費(fèi)時(shí)間。另一方面，要引導(dǎo)大廠或互聯(lián)網(wǎng)巨頭更多地關(guān)注長(zhǎng)期利益，不能僅為了追求短期利益而采用“殺熟”這類(lèi)手段，因?yàn)檫@會(huì)極大地?fù)p害消費(fèi)者體驗(yàn)，引發(fā)消費(fèi)者反制，還會(huì)降低平臺(tái)的社會(huì)聲譽(yù)。

對(duì)于普通人來(lái)說(shuō)，如何擺脫信息繭房、更客觀地認(rèn)識(shí)世界？我有一個(gè)相對(duì)傳統(tǒng)的建議，就是在網(wǎng)上要盡量閱讀篇幅較長(zhǎng)、論據(jù)充分的深度分析文章，養(yǎng)成長(zhǎng)閱讀的習(xí)慣，并以長(zhǎng)閱讀為榮。

就個(gè)體而言，在信息繭房日益嚴(yán)重的當(dāng)下，我們能做的是進(jìn)行自我認(rèn)知和自我塑造。要有求知的欲望，渴望在復(fù)雜多變的社會(huì)中看到更多可能性，為自身發(fā)展創(chuàng)造更多機(jī)會(huì)，這樣才能自覺(jué)抵制信息繭房。

所以，欲望先于行動(dòng)，只有明確自己想成為什么樣的人，才能決定突破信息繭房的程度。 

譚峰：沖破信息繭房需要克服個(gè)人惰性 

在當(dāng)下平臺(tái)算法的作用下，多數(shù)人難以擺脫信息繭房的束縛，這很大程度上源于人的惰性。平臺(tái)往往會(huì)在短短15-30秒內(nèi)，向用戶呈現(xiàn)它們認(rèn)為有趣的內(nèi)容，從而讓用戶獲得極大的滿足感。

我們很少看到平臺(tái)推薦議論文，大多數(shù)推送的內(nèi)容是直接給出結(jié)論，而非提供充分的理由，情緒渲染類(lèi)的內(nèi)容更是備受歡迎，因?yàn)檫@類(lèi)內(nèi)容迎合了人的惰性。人的惰性就體現(xiàn)在希望以最小的付出獲取最大的滿足。平臺(tái)應(yīng)用算法的目標(biāo)恰好與之契合，否則便難以留存用戶。

所以，若想擺脫信息繭房，人們就需要克服自身惰性，比如廣泛涉獵多渠道的信息和內(nèi)容，并進(jìn)行比對(duì)，分辨其中是事實(shí)陳述，還是觀點(diǎn)表達(dá)或情緒宣泄。

不過(guò)，這對(duì)普通人而言要求過(guò)高，畢竟多數(shù)人瀏覽數(shù)字化平臺(tái)內(nèi)容只是為了放松，而非像上課一樣進(jìn)行批判性思考或深度推理。 

【時(shí)間軸】

02:48 信息泄漏，讓大學(xué)教授不想接陌生電話

07:34 算法工程師親身“欺騙”算法，效果如何？

12:53 離譜的算法推薦，你遇到過(guò)多少？

23:30 TikTok能贏Youtube，你的“貢獻(xiàn)”功不可沒(méi)

29:55 “腦腐化”成年度詞匯，怎么回事？

33:50 大廠的算法推薦，有多少人為因素？

38:07 社會(huì)“原子化”，推動(dòng)了算法的流行

46:25 保護(hù)隱私，小數(shù)據(jù)人工智能是一種可能嗎？

53:23 對(duì)抗信息繭房，沖繩書(shū)店的啟示

在小宇宙·荔枝·喜馬拉雅APP，

搜索“湃客 Talk”關(guān)注我們 

策劃、主播 / 陳玉坤

監(jiān)制 / 徐婉

實(shí)習(xí)生 / 張耀英 黃昕妍