在科幻世界里，人們常用預(yù)言警示未來；但在現(xiàn)實(shí)世界中，人類的未來到底會(huì)走向何方？

曾有一位享譽(yù)世界的歷史學(xué)家預(yù)言，生態(tài)崩潰與技術(shù)顛覆，是除核戰(zhàn)爭外，人類所面臨的兩個(gè)最重要的問題。當(dāng)下的現(xiàn)狀也印證了這句話——生態(tài)方面，氣候持續(xù)變暖，各地災(zāi)難頻發(fā)，疫情肆虐全球；技術(shù)方面，AI等技術(shù)不斷顛覆我們的生活方式，也在不知不覺中改變我們的思維方式。對(duì)于這些挑戰(zhàn)，我們?nèi)祟惖拿\(yùn)會(huì)走向何方呢？

2020年11月20日，中信出版集團(tuán)舉辦的2020“年度觀念”劇場演講中，世界知名歷史學(xué)家、《人類簡史》《未來簡史》《今日簡史》三部曲作者尤瓦爾·赫拉利（Yuval Noah Harari）與北京大學(xué)新媒體研究院研究員吳伯凡先生就“我所看到的未來——當(dāng)前人類最重要的兩個(gè)問題”進(jìn)行了跨國連線探討。

以下是論壇部分內(nèi)容紀(jì)要，啟人深思。

吳伯凡對(duì)話赫拉利

人類未來的命運(yùn)

取決于現(xiàn)在的決定

文 | 赫拉利、吳伯凡

01

警惕技術(shù)“黑入人心”

吳伯凡（北京大學(xué)新媒體研究院研究員）：赫拉利教授說過一句話我印象非常深刻：

在今天，你聽從內(nèi)心的聲音比以往任何時(shí)候都危險(xiǎn)，因?yàn)槟悴恢滥銉?nèi)心的需求。你的聲音不過是一些洗腦術(shù)和廣告，悄悄地植入到你內(nèi)心。你想要的其實(shí)是別人想給的，但你自己是不知道的。

我想到了一個(gè)詞，“新黑客”。以前的黑客攻擊你的電腦、手機(jī)，去解鎖你的銀行密碼。

今天，出現(xiàn)了一種更強(qiáng)大的黑客，它直接解碼你的內(nèi)心，攻擊你的大腦，你在不知不覺中就被它操縱，而這種操縱的感覺你是一點(diǎn)都沒有意識(shí)的。你反而覺得是出于你的自由意志，這是我們今天人類在重新被技術(shù)定義的一個(gè)表現(xiàn)。

尤瓦爾·赫拉利（以色列歷史學(xué)家）：因?yàn)楝F(xiàn)在的技術(shù)是有“黑入人心”的能力，這可能是我們這個(gè)時(shí)代最大的革命。這種“黑入人心”的能力意味著它可以獲取海量個(gè)人數(shù)據(jù)，并有足夠的運(yùn)算能力來分析數(shù)據(jù)，最終它能夠比你更了解你自己，它能夠預(yù)測你的行為，可以操縱你的決定和選擇，甚至被操縱的人都不知道自己被操縱了。

所以人們常常說自由意志，好像就是我們完全可以自己做決定，實(shí)際上自由意志就是被操縱的決定，你對(duì)自己做決定并不會(huì)深思，你會(huì)說這是我想要的，但其實(shí)你是在被操縱的過程，自由意志只是體現(xiàn)你背后被操縱的過程，你會(huì)在這個(gè)過程越來越陷進(jìn)去。

越是認(rèn)為自己擁有自由意志的人，越容易被操縱，而這一現(xiàn)象會(huì)越來越極端。因?yàn)榈侥壳盀橹?，大多?shù)我們能夠收集到的個(gè)人信息都還是“表層信息”（above the skin），是外在行為，包括你看什么電視，你到哪里去，跟誰見面，跟誰吃飯。

現(xiàn)在到了一個(gè)分水嶺的時(shí)間，數(shù)據(jù)可以檢測到我們的“皮下信息”（under theskin），也就是過去是從身體外部拿數(shù)據(jù)，現(xiàn)在的技術(shù)完全可以從人體內(nèi)部，從大腦和身體里獲得數(shù)據(jù)，拿到你的溫度數(shù)據(jù)、血壓、大腦的反應(yīng)，甚至一些生物的表征。

我們身體里面的這些信息是我們自己不知道的，我們自己不知道我們的血壓是多少，但是操縱我們的人只要看一下我們這些數(shù)據(jù)就真的能夠看透我們的內(nèi)心和大腦，然后他們就可以操縱我們的行為，這是歷史上從未有過的。

吳伯凡：過去我的信息不想讓你知道，這叫隱私，而今天的隱私是很多我自己不知道，但是你通過數(shù)據(jù)、算法，你比我更了解我不愿意別人知道的信息。

這種情況下，它就像一個(gè)特工、一個(gè)間諜，在我的內(nèi)心不斷地把我的所需所求全部告訴我不愿意被告訴的那些人，然后這些人以很巧妙的方式來影響我，這就是第四次革命——數(shù)據(jù)革命、智能化革命，所導(dǎo)致的一個(gè)新的不一樣，這個(gè)不一樣就是以前的技術(shù)只是在改變我們的政治經(jīng)濟(jì)面貌，今天的技術(shù)在改變我們的身體，改變我們的內(nèi)心。

02

社會(huì)進(jìn)一步分化

將導(dǎo)致人類更加不平等

1、當(dāng)下面臨的生態(tài)危機(jī)

吳伯凡：我們今天面臨著兩種生態(tài)危機(jī)。

第一種危機(jī)是我們已經(jīng)意識(shí)到的由于氣候變暖導(dǎo)致的一系列危機(jī)。如果氣候變暖，沿海城市有可能被海水浸沒，一些病毒有可能開始蘇醒并進(jìn)入到我們的世界，這將會(huì)引發(fā)一系列未知的災(zāi)難。

第二種生態(tài)危機(jī)就是我們社會(huì)的生態(tài)會(huì)出現(xiàn)一系列問題，比如顛覆性的技術(shù)——數(shù)據(jù)技術(shù)、生物技術(shù)等，會(huì)改變我們?nèi)吮旧怼?/p>

以前技術(shù)是在改變我們的社會(huì)，改變我們的經(jīng)濟(jì)，現(xiàn)在改變?nèi)吮旧恚热缒愕搅?0歲的時(shí)候，突然有一種技術(shù)可以讓你回到20歲的身體狀況，但是只有比較少的人才能享有這樣的特權(quán)。以前人類整體上在壽命上都是平等的，不管富有還是貧窮，大家都是活這么大歲數(shù)。

如果這種技術(shù)發(fā)展起來，會(huì)導(dǎo)致人與人之間的終級(jí)不平等。比如你可以花2000萬美元給自己的孩子在基因上做一些改造，你的孩子一出生就智力比別人高，長得比別人漂亮，沒有錢的人就只能忍受因?yàn)樨毟F帶來的這種不平等，這會(huì)導(dǎo)致一系列社會(huì)生態(tài)的改變，這是我們今天必須面臨的兩大危機(jī)。

2、顛覆性技術(shù)，會(huì)使社會(huì)生態(tài)發(fā)生哪些改變？

尤瓦爾·赫拉利：我們沒有辦法預(yù)測未來到底會(huì)怎樣，因?yàn)檫@取決于我們今天所做的決定。每一項(xiàng)技術(shù)都可以被用來創(chuàng)造完全不同的社會(huì)類型，在20世紀(jì)，完全相同的技術(shù)可以被用來創(chuàng)造像納粹德國這樣的極權(quán)統(tǒng)治，也可以被用來創(chuàng)造自由民主主義，它們背后是相同的技術(shù)，但使用方式卻大相徑庭。

現(xiàn)在21世紀(jì)的新技術(shù)，包括人工智能、生物工程技術(shù)，這些技術(shù)有可能會(huì)導(dǎo)致一個(gè)極其不平等的社會(huì)。在這個(gè)社會(huì)中，極少數(shù)的特權(quán)階級(jí)正在獲得新的人工智能技術(shù)產(chǎn)生的巨大權(quán)力和財(cái)富，然后利用這種權(quán)力和財(cái)富，通過基因編輯技術(shù)在生物上提升自己，使自己變成某種超人。

這不僅僅是我們?cè)跉v史上看到的社會(huì)階層之間的分化，而是更深層次的生物鴻溝，會(huì)把那些掌握了生物技術(shù)的人和沒有掌握生物技術(shù)的人完全分化開來，這是一種以前從未存在過的不平等。

這不是預(yù)言，如果我們不小心，如果我們不明智地使用這些技術(shù)，就會(huì)導(dǎo)致這樣上述社會(huì)狀況產(chǎn)生，但這并非不可避免。作為一個(gè)社會(huì)，作為一個(gè)群體，我們一定要去認(rèn)真考量人工智能所產(chǎn)生的巨大能量，它不應(yīng)被社會(huì)精英獨(dú)享，而應(yīng)該被社會(huì)共享。

同時(shí)，我們還應(yīng)將重點(diǎn)放在生物工程的新技術(shù)上，而不是把少數(shù)精英升級(jí)為超級(jí)人類，應(yīng)該通過這樣的技術(shù)來治療大多數(shù)人所面臨的疾病，為所有人創(chuàng)造良好的醫(yī)療體系。

問題不在于這些新技術(shù)本身，而在于我們能用這些新技術(shù)做些什么。我們作為人類應(yīng)該做出正確的選擇，否則結(jié)果可能是災(zāi)難性的，我們今天的技術(shù)比過去任何時(shí)候都強(qiáng)大，如果我們不能明智地使用它們，所導(dǎo)致的后果也會(huì)更嚴(yán)重。

03

科技向善

是個(gè)人和社會(huì)共同的命題

1、智能手機(jī)的魔咒

尤瓦爾·赫拉利：我并不是反對(duì)技術(shù)，拒絕用智能手機(jī)，我認(rèn)為這項(xiàng)技術(shù)對(duì)于我們?nèi)祟悂碚f有很多好處，帶來很多的便利，只要我們清楚自己的目標(biāo)是什么，更好地了解自己進(jìn)而更好地利用技術(shù)，而不是淪為技術(shù)的奴隸。我們應(yīng)該有一個(gè)明確的目標(biāo)：技術(shù)服務(wù)于人類。

因?yàn)槲沂亲骷液退枷爰?，我需要很多時(shí)間來沉浸在特定的書中，特定的問題上，需要有很多沉浸在自己世界里的思考時(shí)間。但智能手機(jī)是人類社會(huì)有史以來最讓人分心的東西之一，因?yàn)槭澜缟献盥斆鞯娜硕嗄陙硪恢痹谘芯咳绾挝土糇∥覀兊淖⒁饬Α?/p>

智能手機(jī)會(huì)分散我的注意力，碎片化的知識(shí)、紛繁復(fù)雜的信息可能沒有辦法讓我更好地沉浸下來去思考問題，我很清楚知道自己的目標(biāo)是考慮更廣泛、更深度的問題，我需要留給自己深度思考的時(shí)間，我需要集中精力。

我知道自己的自控能力不夠，我傾向于對(duì)自己的弱點(diǎn)有更現(xiàn)實(shí)的看法。我們不能高估自己控制思想的能力，更不能低估這些設(shè)計(jì)設(shè)備的工程師的能力。

如果我不能強(qiáng)大到抵制這種器械和科技給我?guī)淼睦_，我寧愿拒絕這種器械和科技帶來的便利性，所以我比較小心謹(jǐn)慎。

2、我們應(yīng)該跟技術(shù)保持距離

吳伯凡：我記得赫拉利教授講過在人工智能等各種顛覆性技術(shù)出現(xiàn)的時(shí)候，我們的教育應(yīng)該是什么樣子的，他提到了4個(gè)C：

第一個(gè)C是critical thinking，批判性思考；

第二個(gè)C是communication，溝通和交流；

第三個(gè)C是collaboration，合作，

第四個(gè)C是creativity，創(chuàng)造性。

溝通的能力、創(chuàng)造的能力、批判的能力往往需要有洞察的時(shí)間，你不能被外在的零零散散的各種信息牽著鼻子走，而是應(yīng)該針對(duì)一個(gè)問題深入地去挖掘它，或者要全身心地跟一個(gè)人溝通交流。

我們不是要去獲取更多的信息，而是要提高自己的創(chuàng)造性，所以赫拉利教授的這種態(tài)度雖然是個(gè)人化的，但我相信我們每個(gè)人，如果想在4C上有所作為的話，都應(yīng)該跟技術(shù)保持一定的距離。

同時(shí)，他的主張讓我想到他在《人類簡史》提到的一個(gè)很有意思的觀點(diǎn)，人類自從使用火以后就開啟了一種很矛盾的狀態(tài)，你可以去使用火，但火最終造成的后果是你無法控制的，比如說一個(gè)身體很弱的婦女，她只要手里有一塊打火石，她就能夠讓一片林子在兩三個(gè)小時(shí)燒成灰燼，這完全超出她的體力。

這個(gè)事件預(yù)示著人類20世紀(jì)出現(xiàn)的核危機(jī)，一個(gè)飛行員在飛機(jī)上只需要按上一個(gè)按鈕，這是非常小的身體動(dòng)作，但是造成的后果是毀滅性的。

這意味著，人類擁有的技術(shù)會(huì)越來越強(qiáng)大，但人類管理技術(shù)、如何讓自己去使用技術(shù)的能力并沒有隨之而變強(qiáng)，這是非常要命的事情。

我們今天創(chuàng)造的信息越來越多，但管理信息、管理自己行為的能力并沒有比古人強(qiáng)多少，這是我們今天要保持一個(gè)良好的個(gè)人生態(tài)和社會(huì)生態(tài)必須要考慮的問題。

3、如何避免成為技術(shù)的奴隸？

尤瓦爾·赫拉利：其實(shí)我們可以有不同層面的行動(dòng)計(jì)劃，比如個(gè)體層面、公司層面，工程師層面、政府層面和整個(gè)全球的層面。

從個(gè)人層面來說，我覺得最重要的使命就是認(rèn)識(shí)和克服自己的弱點(diǎn)，因?yàn)檫@是我們的一個(gè)可能被技術(shù)操縱的門戶。這個(gè)處理的方法有很多，很多書中早有闡述，在過去幾千年里有各種各樣的哲學(xué)家、智者、預(yù)言家發(fā)出警告，我們必須非常了解自己的弱點(diǎn)，克服自己的弱點(diǎn)。

現(xiàn)在，這比以往任何時(shí)候都更緊迫，因?yàn)槟阌斜纫酝魏螘r(shí)候都更強(qiáng)大的競爭對(duì)手。

千年前，孔子和佛祖都勸誡人們要更了解自己，但當(dāng)時(shí)并沒有一個(gè)外在的力量或個(gè)人可以真正進(jìn)入你的內(nèi)心，與你去比拼到底誰更了解你自己。

現(xiàn)在我們有新的挑戰(zhàn)，也有很多好的技巧來更清晰地了解自己：有些人會(huì)接受專業(yè)的心理咨詢，有些人會(huì)利用藝術(shù)、展覽、作品，有些人會(huì)去戶外運(yùn)動(dòng)，或者是自己出行兩個(gè)星期獨(dú)處來了解自己，最重要的是在有限的時(shí)間內(nèi)很好地了解到我們自己的弱點(diǎn)，這是個(gè)人層面的建議。

個(gè)人層面你是可以自己來進(jìn)行改善，但如果已經(jīng)成了一個(gè)全球的問題，或者是成了一個(gè)巨大的問題，個(gè)體無能為力去解決的話，我們也需要來自創(chuàng)造這項(xiàng)技術(shù)的企業(yè)和工程師的幫助。

企業(yè)應(yīng)該加強(qiáng)社會(huì)責(zé)任感，不光為了掙錢，還要考慮會(huì)給社會(huì)帶來什么后果，要對(duì)社會(huì)負(fù)責(zé)。我們現(xiàn)在遇到的很多問題都是社交媒體和智能手機(jī)的問題，這背后沒有什么邪惡的意圖，對(duì)企業(yè)來說只是創(chuàng)收的生意。

企業(yè)CEO可能會(huì)跟工程師說，我們的用戶每天在我們平臺(tái)只花20分鐘是不夠的，希望到今年年底，他們可以每天花40分鐘。這對(duì)工程師來說是任務(wù)，然后，一幫聰明的人開始研究如何吸引我們的注意力，如何操縱并攻擊我們的思想和精神。

所以，我們?yōu)楣こ處熼_設(shè)程序員課程時(shí)，必須把道德作為學(xué)習(xí)的一部分，程序員要有基本的道德和準(zhǔn)則，你在編程的時(shí)候，其實(shí)你可以帶來整個(gè)世界和人類的改變，你正在創(chuàng)造一個(gè)全新的世界。正如同在醫(yī)學(xué)上，沒有學(xué)習(xí)過醫(yī)學(xué)倫理課程的人，是不能成為醫(yī)生的。

最后，我們需要政府的監(jiān)管，不僅僅是某個(gè)國家的政府，而是全球的政府，如果放任不管的話，有可能會(huì)造成一個(gè)大的危機(jī)，到最后誰也無法制止它的壞影響。特別是當(dāng)涉及到最危險(xiǎn)的事態(tài)發(fā)展時(shí)，我們需要某種國際協(xié)議。

比如，機(jī)器人殺手是非常危險(xiǎn)的技術(shù)，全球各個(gè)國家政府應(yīng)該達(dá)成規(guī)則協(xié)議。不然會(huì)出現(xiàn)這樣的情況：我們安分守己，但是我們害怕競爭對(duì)手，在核武器或者AI的實(shí)驗(yàn)中違背協(xié)議，做一些可能對(duì)我們產(chǎn)生威脅的事情，這是一場AI軍備競賽。在這一場競賽中，無論誰勝利了，最終傷害的都會(huì)是人類自己。

每一個(gè)人都害怕自己的競爭對(duì)手變得邪惡，然后自己就沒有辦法獨(dú)善其身，這樣會(huì)形成一個(gè)非常壞的惡性循環(huán)。

同樣，在數(shù)據(jù)所有權(quán)領(lǐng)域，信息和數(shù)據(jù)該由誰來掌握？

我們正在經(jīng)歷另一場軍備競賽——數(shù)據(jù)軍備競賽，競爭的雙方是中國和美國，中美之間到底誰來擁有全世界最主流核心的關(guān)鍵數(shù)據(jù)，大家彼此之間有很多的恐懼。現(xiàn)在如果想控制一個(gè)國家，并不需要派兵駐扎，只需要掌控這個(gè)國家的數(shù)據(jù)就可以。

設(shè)想一下，20年后世界上的某個(gè)小國，沒有外來的軍事駐地或軍事威脅，但是這個(gè)國家的所有數(shù)據(jù)都被存放在別的地方，包括所有政治家、記者、軍官的全部個(gè)人信息和醫(yī)療記錄，這樣的數(shù)據(jù)一旦泄露，這個(gè)國家就變成了數(shù)據(jù)殖民化的國家，不需要派兵，不需要打仗就能被別的國家控制。

所以，數(shù)據(jù)不僅是一種資源，而且是國與國之間競爭的一種非常重要的力量。過去的戰(zhàn)爭都是圍繞土地，而今天數(shù)據(jù)正在成為一種新的競相爭奪的資源。我們需要在國際層面來達(dá)成協(xié)議，避免出現(xiàn)數(shù)據(jù)殖民主義或者數(shù)據(jù)帝國主義。

04

逆全球化的時(shí)代更需要合作

尤瓦爾·赫拉利：過去這幾年，因?yàn)楦鞣N原因，全球的國際合作在退化。所以我們能夠看到全球在應(yīng)對(duì)新冠疫情的時(shí)候，科學(xué)界和政治界對(duì)疫情的態(tài)度存在著巨大的差別。

在科學(xué)方面，我們看到世界各地的科學(xué)家和醫(yī)生進(jìn)行著令人驚嘆的合作，他們共享信息，然后共同研究這個(gè)病毒，找到病毒的源頭，發(fā)現(xiàn)疫苗，提出解決方案。

在這次疫情期間，在科學(xué)層面上，人類合作的程度超過了歷史上對(duì)任何一次流行病的應(yīng)對(duì)。但是我們政治層面的合作非常糟糕，從疫情開始到現(xiàn)在差不多一年的時(shí)間了，但是在全球我們沒有一個(gè)強(qiáng)有力的領(lǐng)導(dǎo)，也沒有全球性的行動(dòng)計(jì)劃，國與國相互指責(zé)，故意散布錯(cuò)誤信息和陰謀論。

我們也看到了對(duì)資源的爭奪，各個(gè)國家打疫苗戰(zhàn)，都想成為第一個(gè)擁有疫苗的國家，并利用疫苗來獲得經(jīng)濟(jì)和政治優(yōu)勢。

我們?nèi)祟惉F(xiàn)在共同面對(duì)的敵人是病毒，你可能覺得在這個(gè)共同的敵人面前我們合作應(yīng)該很容易，但國際層面并進(jìn)行沒有很好的合作來對(duì)抗病毒和經(jīng)濟(jì)危機(jī)。此外，人工智能和氣侯變化方面的合作也并不樂觀。國際社會(huì)需要合作，但并不是說人類愿意合作。

我是一個(gè)歷史學(xué)家，我太了解人性了，人是世界上最聰明的動(dòng)物，我們都知道正確的方向是什么，但往往我們會(huì)往相反的方向發(fā)展。在20世紀(jì)的兩次世界大戰(zhàn)，還有其他重大災(zāi)難中，人類真的可以以愚蠢的方式行事。

我們現(xiàn)在最大的危險(xiǎn)是人工智能和生物工程等新技術(shù)，以及氣候變化的危險(xiǎn)。隨著技術(shù)的發(fā)展我們犯錯(cuò)的能力雖然看起來好像是減弱了，但實(shí)際上并不是。

歷史上的前一次重大技術(shù)革命是始于19世紀(jì)的工業(yè)革命，在過去的一兩百年里，人類一直在用不同的方式努力構(gòu)建一個(gè)更繁榮、更好的工業(yè)社會(huì)，用蒸汽機(jī)，用汽車、火車、無線電為我們創(chuàng)造更好的生活，最終建出來的社會(huì)的確更好，21世紀(jì)初的世界比以往任何時(shí)候都更加和平和繁榮。

但同時(shí)我們也有一些巨大的失誤，在工業(yè)革命之后我們經(jīng)歷了殖民主義，歐洲工業(yè)強(qiáng)國殖民和剝削了世界大部分地區(qū)。

我們還經(jīng)歷了兩次世界大戰(zhàn)、大屠殺、冷戰(zhàn)，在經(jīng)歷一系列的失誤后，我們終于得到了正確的結(jié)果。如果我們未來有第三次世界大戰(zhàn)，以今天這樣的技術(shù)，幾乎沒有人能幸存。

我希望人們能夠做出正確的決定，但現(xiàn)在云端也沒有一個(gè)上帝來告訴我們應(yīng)該怎么做，也沒有對(duì)我們有利的自然法則，曾經(jīng)在地球上存在過的99%的物種已經(jīng)滅絕了，所以對(duì)一個(gè)物種來說，最自然的事情就是滅絕。

我希望在接下來的一個(gè)世紀(jì)里，我們能夠找到合作的方式，能夠真正的做一些應(yīng)該做的事情，從我們的力量中拯救自己，因?yàn)槲覀兊牧α勘旧硪呀?jīng)威脅到我們的存在，我希望人類真正有智慧地去使用這種強(qiáng)大的力量。