2025年9月7日，哥倫比亞大學(xué)終身人文講席教授劉禾、清華大學(xué)教授汪暉、作家格非齊聚上海圖書館東館閱劇場，以“數(shù)字時代和人的未來”為主題進行對談。本場活動為“我們時代的思想者”開幕論壇，特別邀請華東師范大學(xué)副校長雷啟立致開幕辭。

在數(shù)字技術(shù)深入滲透日常的當(dāng)下，情感、記憶與無意識正不可避免地與算法發(fā)生糾纏，人機之間的界限也愈發(fā)曖昧?！案ヂ逡恋聶C器人”這一概念的浮現(xiàn)，不僅是技術(shù)發(fā)展的必然，更是人類潛意識的投射與映照。當(dāng)智能機器不斷從“模仿人”走向“成為人”，我們不得不追問：在人機糾纏的回路中，“人”的意義是否正在悄然改變？今天，三位學(xué)者齊聚一堂，以不同的學(xué)科立場與經(jīng)驗，重新思考人類與機器的共生困境，引出對當(dāng)下與未來的深層追問。

本場活動由上海圖書館、華東師范大學(xué)國際漢語文化學(xué)院、華東師范大學(xué)中國語言文學(xué)系主辦，上海圖書館講座中心、華東師范大學(xué)遠(yuǎn)讀批評中心、華東師范大學(xué)全球中文發(fā)展研究中心承辦。

華東師范大學(xué)副校長雷啟立致開幕辭

劉禾教授發(fā)言

華東師范大學(xué)遠(yuǎn)讀批評中心同學(xué)帶來表演

以下為對談內(nèi)容：

活動現(xiàn)場

汪暉：剛才我們看到了一場精彩的表演，劉禾老師在新書中也寫到過一位年輕的女病人和“伊莉莎”的人機對話。和機器對話很大程度上是和我們自己對話，就像照鏡子一樣。AI不僅能和我們對話，還能根據(jù)指令生成文章、繪畫和音樂，它仿佛成為了一面能動的、有生產(chǎn)能力的“魔鏡”。當(dāng)我們越來越依賴機器這面魔鏡來表達(dá)和創(chuàng)造時，我們是在借助工具擴展自我，還是在將自我的定義權(quán)讓渡給一個由他人算法所定義的反射？我們該如何與這個“鏡中之我”保持一種健康、清醒的距離？如果像剛才這樣的對話繼續(xù)持續(xù)下去，是否可能變成我們看待自我的一種新的方式？劉禾教授，您怎么看待這個現(xiàn)象？

劉禾：約瑟夫·魏岑鮑姆（Joseph Weizenbaum）將歷史上第一個聊天軟件開發(fā)出來后，曾在采訪中提到，他有一天在辦公室發(fā)現(xiàn)自己的助手在和程序?qū)υ?，正要湊近看時，助手說：“你別接近我！這是個人隱私。”魏岑鮑姆開玩笑說，這個隱私其實不那么隱私，因為他可以從后端了解聊天內(nèi)容，結(jié)果助手大發(fā)雷霆。魏岑鮑姆說，人們，包括他的助手，都誤解了聊天程序的本質(zhì)。在他看來，用戶和程序互動時，其實把自身的愿望、幻想和期待投射到了機器上。機器生成的文本語言非常模糊，這為用戶提供了廣闊的詮釋空間，就像人們?nèi)ニ忝?，在解讀算命先生話語的過程中，仍然會回到內(nèi)心早已存在的答案。

汪暉

汪暉：讓我們從文學(xué)的角度回答一下這個問題。劉禾老師的書里談到了喬伊斯的《芬尼根守靈夜》，并指出現(xiàn)代主義文學(xué)的先鋒性與某種語言文字的隨機性相關(guān)，而這種隨機性如今已然可以技術(shù)化。格非老師，從您的寫作經(jīng)驗來看，您認(rèn)為文學(xué)創(chuàng)作中最核心的、最無法被技術(shù)替代的價值是什么？當(dāng)世界的“真實性”越來越被數(shù)字幻象所中介，人類還有獨屬于“人類”的未來嗎？對于人類“認(rèn)識自身”而言，講故事和形式實驗，何者更為重要？

格非：這是非常重要的問題。我花了十天時間讀這本書，其中有幾個方面和這個問題是密切相關(guān)的。第一，無意識與技術(shù)的關(guān)系。第二，從口語到書寫，再到計算機的信息處理，這個漫長的語言學(xué)過程中發(fā)生了什么？第三，現(xiàn)代主義文學(xué)和技術(shù)到底是什么關(guān)系？回到汪暉老師的提問，昨天我和李陀老師聊到這個話題，李陀老師說，他在讀馬克思的《關(guān)于費爾巴哈的提綱》時有一個信念，同時也是馬克思的經(jīng)典說法，即認(rèn)為我們認(rèn)識世界的目的，就是為了改變這個世界。可是德國學(xué)者君特·安德斯的說法與此不同，他認(rèn)為，我們認(rèn)識世界的目的不是為了改變世界，因為世界一直在改變。劉禾老師在書里提到了《莊子》中關(guān)于機械、機事和機心的寓言，這恐怕是海森堡特別關(guān)注的一個問題，其中就涉及語言和無意識。我作為一個小說家，如何理解喬伊斯？比如他為什么寫出了所有作家都公認(rèn)的寫實主義力作《都柏林人》《青年藝術(shù)家的畫像》后，還要重新尋找新路去寫《尤利西斯》？《尤利西斯》實際上做了非常巨大的冒險，這個冒險在世界范圍內(nèi)引起了爭議，但他后來又去做了關(guān)于《芬尼根守靈夜》的更極端的嘗試。劉禾在書中把它稱作語言內(nèi)部機制的極端冒險。我經(jīng)常說，如果把我心中的文學(xué)壓縮成兩本小說，一本是列夫·托爾斯泰的《戰(zhàn)爭與和平》，第二本就是《尤利西斯》，或者《芬尼根守靈夜》。前面一本代表了整個現(xiàn)實主義的最高成就，而喬伊斯涉及了最核心的東西，即“什么東西不能被AI取代”的問題。我認(rèn)為一個人，作為個體的生存體驗，那些剎那間的感覺和感知，是機器所不能取代的。并且我們的體驗并不能隨時取用，而是把它存入記憶當(dāng)中?？墒菑哪岵?，到弗洛伊德，再到德國古典哲學(xué)觀念論時期的謝林，他們都有一個共同的說法——記憶從一開始就是無意識。我們不能認(rèn)為記憶是一個完全理性的、不受控于意識的行為。寫作最迷人的部分就是記憶的無意識部分，因為人在行為當(dāng)中，比如談戀愛，你覺得高興，但這些事情很快就會被遺忘。如果某個行為在大腦中留下印記，那這個印記就會被歸入無意識的范疇，比如受到窘迫、挫折、巨大的悲傷，或是不能直視的生活場景。當(dāng)然，如果人的精神出現(xiàn)問題，這是因為無意識的內(nèi)容侵入了意識的領(lǐng)域。文學(xué)在某種意義上就是如此，里面有一個巨大的無意識空間，人們無法完全按照基本語義和它表達(dá)的內(nèi)容來呈現(xiàn)。真正迷戀喬伊斯的人不一定是文學(xué)家，而是科學(xué)家。法國大革命有一批革命者，他們大部分原先都是色情小說作家，所以文學(xué)和技術(shù)、政治，從來都是不能分開的。回到汪暉老師的問題，我們需要去探索一個空間，即拉康后來揭示的，無意識的茫茫黑夜。文學(xué)的一部分受理性控制，更多的部分是尼采說的，狄奧尼索斯的創(chuàng)造性智慧，它被黑暗所籠罩，需要通過寫作把它召喚出來，才能獲得喬伊斯式的、真正意義上的書寫自由。

格非

劉禾：文學(xué)在我這本書中占有很大的比重，而我之所以在這本書中加入文學(xué)，并不是把文學(xué)作為語料庫使用。我在書中提到俄國數(shù)學(xué)家馬爾可夫（Markov），他的“馬爾可夫鏈”（Markov Chain）是很早期的數(shù)學(xué)模型，而這來自于對普希金的詩《葉甫蓋尼·奧涅金》中元音和輔音的計算。文學(xué)是先于數(shù)字技術(shù)的，尤其是現(xiàn)代主義文學(xué)。喬伊斯在《芬尼根守靈夜》這本幾乎不可讀的小說里做了一個數(shù)學(xué)實驗，而這就是為什么“信息論之父”克勞德·香農(nóng)把喬伊斯這本書拿來計算熵（entropy）和冗余度（redundancy），喬伊斯這本書在他的通信理論研究中起了巨大作用。另一個話題關(guān)于人和工具。教科書給“人”的定義通常是“能夠制造和使用工具的動物”，后來我們發(fā)現(xiàn)鳥類和別的動物也會使用工具時，很少反省教科書的定義存在錯誤，而是反過來贊美那些動物和鳥類的智慧。但仔細(xì)想想，我們真的在贊美動物和鳥類嗎？不，我們贊美的是自己，好像人類是世間萬物的衡量標(biāo)準(zhǔn)。這是一個哲學(xué)問題。

劉禾

汪暉：兩位都提到了無意識，提到了某些經(jīng)驗和感性。不過劉禾老師提到一個新的無意識概念——“控制論無意識”，也就是格非老師剛才提到的，作為作家所受到的一個挑戰(zhàn)，就來自于控制論無意識。劉禾老師，我們能夠用心理分析的方法對機器人進行分析嗎？

劉禾：我認(rèn)為用精神分析的方法分析機器人，就等于分析我們自己。

汪暉：劉禾老師在書中提到“人機擬像”的無限反饋回路，即機器模仿人，人再模仿機器，這個過程循環(huán)往復(fù)，最終使得“自然人”的概念變得可疑。我們今天討論的是人的未來，這讓我想起更早時期的哲學(xué)辯論，比如笛卡爾說動物是機器，人不是機器。為什么？首先因為人有理性。他所說的理性是能夠計算，能夠通過人的精神表達(dá)出一種完美的宇宙世界。第二個是人有語言。理性和語言在當(dāng)時構(gòu)成了人區(qū)別于動物的標(biāo)記。在這個意義上，他模糊了有機和無機，動物如果是機器的話，有機和無機的邊界就被突破了。但是他守護著人和動物之間、理性和語言的邊界。后來的拉美特利，既從笛卡爾的理論來，又反駁了笛卡爾，提出人也是機器，因為人有感性。比如夢幻，睡夢中的幻覺和人清醒時的狀態(tài)之間，也沒有清晰的邊界，所以那一部分是依托于人的肉身的。換句話說，精神和肉身無法分離?，F(xiàn)如今“人機擬像”的無限反饋回路造成了人和機器的并存，似乎能夠隱隱約約地感受到邊界的動搖。所以，我們是否正在經(jīng)歷一個二者邊界徹底溶解的“后人類”過程？在這樣的圖景下，建立在人類例外論和個體自主性基礎(chǔ)上的傳統(tǒng)倫理框架，是否正在面臨挑戰(zhàn)？我們需要怎樣的新倫理來應(yīng)對這種根本性的轉(zhuǎn)變？

劉禾：我始終在焦慮人的主體性的安置問題，因為現(xiàn)在人和機器的界限很不明確。但這并不是說我們分不清人和機器，而是如果要重新定義“人”的話，人已經(jīng)不是一個脫離機器存在的主體，必須存在一個加號。比如我和我的手機是一體的，如果手機突然丟了，就好像是自己掉了一塊肉，因為我的記憶全都在手機里，已經(jīng)沒有辦法界定我和機器之間的界限在哪里了。很多人說人機融合了，人可以植芯片，人類可以不朽，但我不那么樂觀。這本書提出的是一種哲學(xué)的批判，人完全有可能會變成“弗氏人偶”。就像情侶在一起坐在一起喝咖啡的時候，兩個人都對著自己的手機，這個圖景是值得我們深思的。

劉禾著《弗洛伊德機器人》

汪暉：接著從另一個角度問格非老師?！叭藱C擬像”或它的增強，現(xiàn)在能不能實現(xiàn)、何時實現(xiàn)，還依舊是一個問題，不必要馬上回答。但是人工智能創(chuàng)造的虛擬現(xiàn)實，這一定程度上已經(jīng)成為年輕人生活中的一部分。所謂“虛擬現(xiàn)實”、“增強現(xiàn)實”、“元宇宙”等概念都在模糊現(xiàn)實世界和鏡像世界的關(guān)系，人工智能似乎變成了有自己生命、思維、方式的另外一種東西。作為一個長期通過“虛構(gòu)”來探尋“真實”的小說家，您如何看待這種技術(shù)帶來的現(xiàn)實感變遷？這是人類想象力的偉大延伸，還是一種令人擔(dān)憂的、對現(xiàn)實世界的逃避甚至替代？在這樣的背景下，小說家的虛構(gòu)世界還能為我們理解現(xiàn)實提供怎樣的獨特價值？

格非：我和劉禾老師在某種意義上有相似點，就是悲觀。在文學(xué)這個領(lǐng)域，我覺得我們可以做的部分已經(jīng)很有限了。剛才我提到喬伊斯，喬伊斯為什么要做這么大膽的實驗？我覺得是因為技術(shù)的進步和發(fā)展。剛才汪暉老師提到的“人機擬像”等問題，這些都不是到現(xiàn)代社會才發(fā)生的，從古至今一直有漫長的討論。有一個很重要的物理概念叫“涌現(xiàn)”（emergence），即在一定的系統(tǒng)條件下，事物本身會發(fā)生突變。最近帶清華的學(xué)生們重讀了《戰(zhàn)爭與和平》，我認(rèn)為《戰(zhàn)爭與和平》寫的是突變，是通過拿破侖的戰(zhàn)爭、通過法國大革命、通過啟蒙運動，讓整個世界發(fā)生巨變。戰(zhàn)爭把一個從西向東的歷史運動帶到俄羅斯，然后由于庫圖佐夫擊敗了拿破侖，俄國軍隊又從東向西打到了巴黎。然后他們受到巴黎進入現(xiàn)代世界的誘惑，回到俄國以后成立了十二月黨人，開始起義。所以托爾斯泰在寫《戰(zhàn)爭與和平》的時候，已經(jīng)準(zhǔn)確預(yù)料到了1917年的革命。我們在討論這些革命的時候，會討論很多歷史運動、社會變革等，但我們很少討論技術(shù)問題，比如遠(yuǎn)洋貿(mào)易、資本主義的產(chǎn)生、蒸汽機的發(fā)明。如果從這個角度看《戰(zhàn)爭與和平》，就能發(fā)現(xiàn)托爾斯泰寫的是對一個歷史運動本身的描述。用兩個概念概括的話，就是“系統(tǒng)”和“個人”。雖然相隔時間不長，但在喬伊斯的筆下，系統(tǒng)和個人的關(guān)系又發(fā)生了根本性巨變。所以我認(rèn)為，技術(shù)變革所導(dǎo)致的社會的系統(tǒng)性變革，其速率會越來越快，甚至快得讓人無法想象?！案ヂ逡恋聶C器人”的背后，實際上是一個死亡驅(qū)動力，是一種無意識。去年，有一位科學(xué)家在《科學(xué)》雜志上發(fā)表了一篇關(guān)于熱力學(xué)第二定律的論文，他在討論人類未來時提出，人的技術(shù)只不過加快了這個進程而已。在這樣一個科學(xué)技術(shù)不斷發(fā)生突變，整個社會、人與人之間的交往、信息傳播等所有領(lǐng)域都發(fā)生根本性扭轉(zhuǎn)的狀況下，我們的身份都成了問題。比如，我是什么身份？我到底是誰？對于系統(tǒng)來說，系統(tǒng)不認(rèn)為你是男的、女的、官員、教師，或父親，系統(tǒng)只認(rèn)為你是龐大系統(tǒng)里的一個小點。在這樣的情況下，如果文學(xué)在進入社會現(xiàn)實時不尋求變化，而仍然用四平八穩(wěn)的老方式來描述現(xiàn)實，你不覺得可笑嗎？法國哲學(xué)家德勒茲對“奇點”（Singularity）一詞做了很重要的解釋，今天的文學(xué)如果找不到奇點，創(chuàng)作就沒有了意義。喬伊斯實際上也在尋找這個奇點。比如上次和汪暉老師聚會時，我聊到了麥爾維爾的《白鯨》，他為什么要寫《白鯨》？因為他找到了白鯨自動奔赴某個地方去毀滅的點。麥爾維爾還寫過一篇更奇怪的小說，就是《抄寫員巴特比》。今天重讀《抄寫員巴特比》這篇短篇小說，我們也會發(fā)現(xiàn)他介入了一個點。鮑德里亞說，你做任何事情，系統(tǒng)都不會有反應(yīng)。一個人可以反抗所有人，但是反抗不了系統(tǒng)。系統(tǒng)非常強大，只有找到奇點才能突破。按照鮑德里亞的說法，巴特比在美國、歐洲都被認(rèn)為是一個恐怖主義分子，為什么？因為他不消費。不消費對于系統(tǒng)的影響是最大的，一個人不消費、不工作，什么都不干，就在律師事務(wù)所呆著，這是他寫的點。喬伊斯是一種方法，麥爾維爾也是一種方法。我覺得當(dāng)代作家如果要繼續(xù)寫作的話，一定需要找到這個奇點，使得創(chuàng)作和系統(tǒng)的關(guān)系變得更加有意義。

列夫·托爾斯泰著《戰(zhàn)爭與和平》

劉禾：現(xiàn)在的問題是，如果AI可以做藝術(shù)，那我們就得問藝術(shù)變成了什么？如果AI能寫作，寫作變成了什么？如果AI能冒充人，那人又是什么？人工智能發(fā)展所提出的最根本的哲學(xué)問題就在這里。我們現(xiàn)有的關(guān)于人生、生活的意義，關(guān)于人類文明創(chuàng)造的各方面的文化、社會、政治等所有東西，會不會在這個系統(tǒng)面前變成另外一種東西？這是需要思考的問題，而不是簡單地認(rèn)為AI可以畫畫了、可以寫作了、可以替人翻譯了。寫作是什么？藝術(shù)是什么？人是什么？每次面對新技術(shù)時，我們都必須重新提這些古老的問題。

汪暉：格非老師提到了《戰(zhàn)爭與和平》，提到了解釋《戰(zhàn)爭與和平》的技術(shù)因素，我們可以想象托爾斯泰對此的回應(yīng)。托爾斯泰對和平的理解，及其背后的宗教關(guān)懷，存在一個想象中的世界。格非老師還提到了系統(tǒng)，讓系統(tǒng)中斷的最大威脅來自于停止消費。但我們也知道，今天的貿(mào)易戰(zhàn)在一定程度上與此相關(guān)。換句話說，所有尖端技術(shù)，尤其是智能技術(shù)，越來越像是軍事競爭邏輯背后牽動的。這個話題和劉禾老師直接有關(guān)，劉禾老師在書中指出，“控制論無意識”網(wǎng)絡(luò)實則有一個源自冷戰(zhàn)軍事需求的技術(shù)理性作為根基，通過全球性的知識流通與翻譯，構(gòu)建了一種跨越東西方的普遍性。在如今的后冷戰(zhàn)世代，當(dāng)人工智能技術(shù)本身正在演化為新一輪全球競爭的焦點時，我們是否還有可能超越這種冷戰(zhàn)技術(shù)邏輯？這種超越是在某種對立的基礎(chǔ)上越走越遠(yuǎn)，還是有可能在《莊子》寓言和海森堡的反思之上重建另一種總體性？我們該從哪里尋找？

汪暉

劉禾：這個非常困難，相當(dāng)于在競爭之外尋找另一個可能性。我寫這本書時做了大量的檔案研究，通信技術(shù)，包括AI背后的各種控制論等，所有技術(shù)都是冷戰(zhàn)的產(chǎn)物。90年代時，我在伯克利加州大學(xué)任教，有人告訴我，70年代、80年代在伯克利畢業(yè)的理工科學(xué)生，如果想在硅谷一帶找到工作的話，沒有辦法繞開軍事技術(shù)，也就是說找不到任何一個和軍事研究沒有關(guān)系的科技領(lǐng)域的工作?，F(xiàn)在中美在AI研究方面存在競爭，我看不出來在競爭之外還有什么發(fā)展的可能性，這很危險。冷戰(zhàn)時期是美國和蘇聯(lián)之間的競爭，當(dāng)時的機器翻譯就是為了處理情報，美國國防投入大量資金來發(fā)展機器翻譯。現(xiàn)在的ChatGPT等工具翻譯得很流暢，其實這背后和地緣政治等方面有密切的互動。

格非：我稍做一點補充。技術(shù)有一個很大的特性，它涉及到權(quán)力，而且是根本性的霸權(quán)。各個國家都心照不宣地把所有技術(shù)都隱蔽起來，大家在做一個非?？膳碌母傎?，就像當(dāng)年的曼哈頓計劃一樣。原子彈剛發(fā)明的時候，大家都爭先恐后，所有技術(shù)的意圖都很清晰，誰先發(fā)明原子彈誰勝。在今天的技術(shù)層面，如果有國家率先掌握遠(yuǎn)超其他國家的新技術(shù)，那么大家可以想見其帶來的力量和權(quán)力。如果所有人都這么思考問題的話，確實會帶來剛才劉禾老師說的那種可怕的場景。杰弗里·辛頓到中國來提了一個方案，我覺得很有道理。他說，每個國家在發(fā)展自己的核心技術(shù)，這是可以理解的，因為發(fā)展技術(shù)的目的是為了避免被別人奴役，但是大量的其他技術(shù)應(yīng)該及時分享。我覺得應(yīng)該對技術(shù)進行不同的分層，比如今天這樣的討論就特別重要。文化、文學(xué)上的討論，使得我們在關(guān)心技術(shù)發(fā)展時，不僅僅關(guān)注技術(shù)迭代的速度，更要像劉禾老師所倡導(dǎo)的那樣，從哲學(xué)、心理學(xué)、歷史學(xué)的角度，來認(rèn)真思考技術(shù)對當(dāng)今社會帶來的諸多問題。

劉禾

汪暉：感謝兩位老師的發(fā)言。下面的的問題和語言有關(guān)。劉禾老師在書中批判了以“機識英文”為代表的拼音文字表意化所蘊含的帝國普世主義，它試圖將一切語言和生命形式都納入其可計算的單一系統(tǒng)。中文作為一種非拼音文字系統(tǒng)，在數(shù)字時代面臨著被這種普世主義“收編”（如通過編碼和輸入法）的強大壓力。您認(rèn)為，中文的文字特性及其背后的思維模式，是否可能為抵抗這種數(shù)字普世主義提供某種可能性？第二個問題問格非老師，在這樣一個背景下，持續(xù)性的、具有創(chuàng)造性的漢語寫作，在數(shù)字時代具有什么樣的意義和可能性？

劉禾：從理論上來說，香農(nóng)當(dāng)年發(fā)明通信數(shù)學(xué)公式的時候，往26個英文字母里加了一個字母，這第27個字母是“空格”。他說，英文的字母表是27個字母，在這個基礎(chǔ)上，才有通信的數(shù)學(xué)模式。所有的語言和文字最后都會納入編碼模式，因此它在機器里是具有普適性的。當(dāng)然，每個漢字也有自己獨特的編碼，能夠進入統(tǒng)一的系統(tǒng)，在這個意義上，漢字不能作為一種另外的資源來思考普適性問題。但是另一方面，漢字在早期人工智能的研究中起了很大的作用。50年代，英國劍橋語言研究小組在做機器翻譯研究時，發(fā)現(xiàn)漢字和漢語主要依靠組合邏輯（combinatorial logic），而非命題邏輯（propositional logic）。對比來說，英文和法文很難將詞與詞、句與句對應(yīng)，因為詞是多義的。因此他們提出了一系列語義網(wǎng)絡(luò)，如今的向量空間等方面的人工智能研究，都和他們曾經(jīng)的這類工作有關(guān)。從這個角度來看，漢語對人工智能的貢獻是持久的，因為它建立在對語義的理解之上。

克勞德·艾克伍德·香農(nóng)

格非：我個人認(rèn)為，我們今天的寫作，尤其是使用語言的策略，遇到了多重的挑戰(zhàn)。比如，我們很多作家根本不像過去那些作家一樣，要通過自己的經(jīng)驗積累才能獲得寫作素材。例如新聞媒體信息就能提供很多素材，這讓寫作在某種意義上變得非常容易，因為它提供素材的同時，還提供大量的附加信息。比如你對醫(yī)療行業(yè)不了解，通過Deepseek或其他軟件，完全可以把自己變成一個專家，可以描述一個原本不熟悉的門類或一種社會生活，這在過去是不敢想象的。但它同時也造成一個問題，那就是，如果AI也能做的東西，做得會比一般作家好。這樣一來，一個人通過長期的語言培訓(xùn)產(chǎn)生的語感會消失，語感不僅僅代表語言訓(xùn)練得多好，更重要的是代表了一個人和世界的特殊關(guān)系。第二，寫作過程中，經(jīng)常會有突發(fā)奇想，進入一個自由的狀態(tài)。?？掠幸粋€非常著名的說法，如果你找到了一個很好的詞，你怎么知道這個詞不是從遠(yuǎn)方飄過來，經(jīng)過了你的大腦？博爾赫斯有一句更加精簡的名言：“作家是神的抄寫員”，神就是靈感。當(dāng)人處在出神的狀態(tài)，語言的敏感性是不一樣的。但是大家也都知道，這樣的寫作在今天沒有前途，因為能夠精細(xì)把握語言的讀者越來越少。在這種情況下，一般性的寫作會被人工智能取代，如果要做精深的探索，表達(dá)個性，將會變得非常困難。當(dāng)然，我認(rèn)為寫作是絕對有意義的，這個沒什么好商量的，萬一有一天機器寫得比我好，我也不會放棄寫作，因為寫作是我的權(quán)利，它給我?guī)砭薮蟮目鞓?。唯一的問題是，我們的作品很可能會回到李白、杜甫的那個時代，只被很少的人閱讀，但這也沒什么不好。今天有一些年輕的寫作者，他們寫了很多不發(fā)表的作品，給朋友們看一看，印個一兩百冊，這種寫作在將來會變得非常普遍。寫作不是一種比賽，而是為了把你從焦慮中、從無聊中拯救出來的一種游戲，這個權(quán)利你不能放棄。我覺得只需要我們在被讀者認(rèn)可這方面適當(dāng)降低一點期待值就可以了，全國有14億人，如果有10萬人買你的書，這個數(shù)量也不小。我們需要重新調(diào)整跟時代的關(guān)系，憑著自己的內(nèi)心，從中來確定我們的語言策略，否則的話，寫什么都沒有意義。我很迷戀寫作帶給我的巨大激情，所以我覺得盡管我們面對很多困難，但還是有辦法克服的。

汪暉：格非老師的話給了我們一點信心。清華大學(xué)曾經(jīng)有一個討論人工智能的活動，我觀察發(fā)現(xiàn)，從事技術(shù)的科學(xué)家到今天為止，主要還都在從事著工具性的發(fā)展項目。而哲學(xué)家、倫理學(xué)家更傾向于把人工智能看作是和人類幾乎并置的他者，這是人類歷史上從未出現(xiàn)過的現(xiàn)象。但這個現(xiàn)象背后存在著對所謂通用人工智能，和超級人工智能的恐懼，因為它不但能夠達(dá)到人的智能水平，甚至可能超過人。劉禾老師的書中也提到了“恐惑”（uncanny）這個概念。弗洛伊德提的傳統(tǒng)的“恐惑”體驗中，那個“詭異的他者”既熟悉又陌生，但其“他者性”的邊界是清晰的。然而，當(dāng)前AI的目標(biāo)是創(chuàng)造“無所不知、無所不能”的通用智能，其本質(zhì)是一種沒有內(nèi)在性、沒有潛意識、卻又能完美模擬所有人類表達(dá)形式的存在。我們不知道人工智能發(fā)展的奇點有沒有到來，至少到今天，恐怕很難作肯定的回答，但它的速度之快使人們感覺它要到來了。像剛才劉禾教授提到的“控制論無意識”一樣，它帶來的是無意識，但這又不是我們通常所說的意識和無意識。也就是說，它沒有所謂內(nèi)在性，沒有真正的“自我”（self），沒有所謂的“內(nèi)在深度”（inwardness）。這是否會導(dǎo)致我們傳統(tǒng)的關(guān)于他者性的討論也消失，轉(zhuǎn)化為另一種東西？我們過去講“他者”都是講其他的宗教、其他的民族、其他的地區(qū)，我們討論像愛德華·薩義德（Edward Said）討論的那些他者化問題?？墒俏覀兘裉烀媾R的是完全不一樣的他者，那他所帶來的對人類的不安全感，一定程度上也會塑造我們的自我意識。我們該怎么去理解這個自我意識？此外，劉禾教授在書中非常強調(diào)人與機器持續(xù)的循環(huán)模仿，我們都知道，人工智能帶來了很多便利，但同時也帶來很多危險?？陀^地講，我們面臨的危險包括兩類，一是日常社會化的系統(tǒng)問題，比如高效率的人工智能導(dǎo)致大規(guī)模的失業(yè)，我們該怎么處理失業(yè)問題？又比如無人駕駛的汽車撞死人了，如何認(rèn)定法律糾紛和責(zé)任問題？二是技術(shù)性的人工智能失控，機器人“發(fā)瘋”等等。今年暑假前，圖靈獎得主姚期智教授說，現(xiàn)在的問題不是理論上的，而是實際上已經(jīng)出現(xiàn)了。那么接下來，社會科學(xué)家要提出對這個問題的治理模式，以及一系列人工智能的治理方式；哲學(xué)家和倫理學(xué)家要討論新的AI倫理該如何成型。德國的倫理學(xué)家曾提出過一個問題，我認(rèn)為跟劉禾教授討論的問題具有相似性。他們都強調(diào)，AI倫理無法運用迄今為止已經(jīng)發(fā)展出的規(guī)范倫理學(xué)、實踐倫理學(xué)，只能在互相模擬和相互互動中產(chǎn)生。這一方面提出了巨大的挑戰(zhàn)，但另一方面，這使我們對它的把握具有高度的不確定性，又會增強“恐惑”現(xiàn)象，您能否分析這個現(xiàn)象？

機器人與“恐怖谷效應(yīng)”

劉禾：我們平時看到的機器人形象大多是非?？蓯鄣?，但其實從70年代開始，一些制造機器人的公司和大學(xué)實驗室，已經(jīng)在討論一個叫“恐怖谷”（the uncanny valley）的概念。最早提出這個概念的是一位日本的機器人工程師，叫森昌弘。森昌弘從弗洛伊德得到啟發(fā)，他說，我們可以把機器人的手做得跟人一樣，靜脈、肌肉、肌腱、指甲，甚至膚色，全都一模一樣，但是當(dāng)你去和它握手的時候，它是冰涼的。這是非常恐怖的。森昌宏說，機器人產(chǎn)業(yè)必須制造一個標(biāo)準(zhǔn)，一個衡量在什么情況下，人類和機器人之間的互動會落入恐怖谷的標(biāo)準(zhǔn)。后來，好萊塢電影工業(yè)也納入這個標(biāo)準(zhǔn)，他們用這類技術(shù)生產(chǎn)電影，思考怎樣能讓數(shù)字演員像真的，但又不落入恐怖谷。這是機器人實驗室里出現(xiàn)的理論思考，而這個理論思考背后，也有很多關(guān)于人和機器的關(guān)系、人的倫理如何被納入機器人設(shè)計的思考和討論。倫理這個問題經(jīng)常被大眾探討，尤其是有一些事件發(fā)生的時候。例如埃隆·馬斯克的Grok系統(tǒng)，前一陣突然冒出了白人至上主義、種族主義特征的語句，大家會問“你怎么能讓你的AI系統(tǒng)說這樣的話”。但我認(rèn)為，最大的問題不是AI系統(tǒng)，而是我們?nèi)祟愖约旱膫惱硭伎疾坏轿弧Ｎ覀冏约荷星覜]有解決種族主義、白人至上主義這些巨大的社會問題和心理問題，憑什么把它轉(zhuǎn)嫁給AI系統(tǒng)？AI反照的是我們自己，讓我們得以重新審視什么叫人類的能力。

全場留影

【直播回放】劉禾、汪暉和格非談數(shù)字時代和人的未來