中文字幕欧美乱伦|手机AV永久免费|澳门堵场日韩精品|日本性爱欧美激情|蜜桃狠狠狠狠狠狠狠狠狠|成人免费视频 国|欧美国产麻豆婷婷|99久久久国产精品福利姬喷水|婷婷内射精品视频|日本欧洲一区二区

澎湃Logo
下載客戶端

登錄

  • +1

徐英瑾|大語言模型的軟肋:今天我們?yōu)楹稳砸x塞爾?

復旦大學哲學學院教授 徐英瑾
2025-10-20 12:03
來源:澎湃新聞
? 上海書評 >
字號

約翰·塞爾(1932.7.31-2025.9.17)

2025年9月17日,美國著名哲學家塞爾(John Rogers Searle)去世,享年九十三歲。我本人翻譯過塞爾的《心靈導論》,也在翻譯過程中與塞爾本人交流過,而且,我本人的治學風格在一定程度上也受到了他的影響。從這個角度看,我雖未與他謀過面,但神交已久,故聽聞噩耗那一刻,難免神傷。

一言以蔽之,塞爾的學術特點在于:第一,盡量用最通俗的英語(說得更精確一點,是遠比麥克道威爾與布蘭敦通俗的英語),以及最少的技術符號,來表達最深刻的思想;第二,他比一般英美學者更傾向于讓他的哲學帶一點歐陸味——比如,盡管他曾坦誠承認自己未深讀胡塞爾,但是其在《意向性》中提出的“言語行為奠基于意向活動”的觀點,卻被歐陸學界普遍認為是在向胡塞爾致敬;他也說過他未深讀過涂爾干,但很多歐陸背景的批評家依然從其關于“社會實在”的理論架構(gòu)中嗅出了涂爾干的味道。然而,由于塞爾的文筆通俗性遠超過胡塞爾與涂爾干,他的上述學術風格其實是為一種擬似胡塞爾或涂爾干的思想在英語世界的傳播,提供了更多的可能性。第三,在塞爾所從事的心靈哲學研究領域,大多數(shù)學者的主流本體論預設乃是物理主義(即認為心靈事項是隨附在諸如神經(jīng)元激發(fā)之類的物理事件之上的),而與之相較,塞爾則盡可能在尊重科學的同時為常識的心靈觀爭取話語空間,并為“意識”與“自由意志”在認識論層面上的不可還原性竭力辯護。很顯然,這種辯護也就蘊含了對于一種對于徹底的科學主義立場的拒絕,并由此從另一個角度保護了分析哲學與歐陸哲學之間本就不多的對話通道。

塞爾著《心靈導論》

在下面的文字中,我想集中談談一個看似老舊卻依然值得重溫的問題:塞爾通過其發(fā)表于1980年的“中文屋”論證而發(fā)動的對人工智能的批評。從表面上看來,這個論證似乎已是學術研究中的“棄子”:對于該論證的討論是如此之多,文獻是如此之繁雜,而對于塞爾論證的可能的反駁,是如此瘋狂地占據(jù)了問題討論的邏輯空間中的每一立方厘米,以至于全世界范圍內(nèi)的心靈哲學領域的教授,都不太會推薦自己的研究生再去做這個話題——但隨著大語言模型的出現(xiàn),這個話題的新意義其實已被激活。

首先要聲明的是,我在多年前出版的著作《心智、語言和機器》中早就指出,我在學理上并不認為“中文屋”論證對強人工智能論題的批評是有效的?!皬娙斯ぶ悄堋痹谌麪栒Z境中指的是一種通過得到恰當編程的機器而實現(xiàn)的、貨真價實的人類智能,而非人類智能的模擬物。而塞爾則認為,無論我們怎么做,我們都無法通過任何一種得到恰當編程的機器實現(xiàn)真正的人工智能,或換言之,我們只能通過機器來模擬智能的某個面相,正如某種氣象預測軟件可以模擬颶風,卻不能制造颶風一樣。塞爾用以支持上述看似決絕的觀點的核心論點是:任何人工智能程序只能搬運符號,卻不能在符號與外部世界的對象之間建立因果關系。譬如,一種程序或許能在看到“你吃過飯了嗎?”之后,通過某種規(guī)則匯編而輸出“我吃過了,那你呢?”——但程序本身永遠不能真正理解小羊排的鮮嫩與茅臺的甘醇,因此,人工智能在符號的世界里打轉(zhuǎn),而無法真正成為嚴格意義上的“行動者”。

從純粹學理的意義上說,塞爾的上述論證無法回應這樣一種反駁:我們完全可以讓人工智能技術與機器人技術結(jié)合,讓其裝備大量的傳感器與行動裝置,由此使得其能在真實的物理世界內(nèi)行動。塞爾固然想到了該反駁,但是他對該反駁的再反駁其實并不那么有力。他認為,即使我們將人工智能徹底機器人化,這樣的程序依然是在做符號搬運的工作,即將某種來自傳感器的數(shù)碼化數(shù)據(jù)映射為某種輸出。而我的擔憂是:他的這一回復意見會傷及人類自身的智能的真實性,因為從某種意義上,我們?nèi)祟愐仓徊贿^是按照某種生物學程序?qū)δ承┩獠看碳みM行應對的生物學機器罷了。那么,為何碳基的生物學機器能產(chǎn)生智能,而硅基的人工智能機器卻不能呢?

“中文屋”

然而,若我們放寬標準,即不從任何一種可能的人工智能形態(tài)出發(fā),而僅僅以現(xiàn)有的主流人工智能為參照系,那么我們就會立即發(fā)現(xiàn):塞爾的“中文屋”論證其實恰好擊中了目下如火如荼的大語言模型的軟肋。從某種意義上說,主流的大語言模型其實就是某種統(tǒng)計學機器,即通過耗資巨大的預訓練進程,從輸入的一個文本中的一些詞元出發(fā),預測哪些詞元會繼續(xù)出現(xiàn)。比如,它若看到“路遙知馬力”,就會根據(jù)其習得的數(shù)據(jù)預測到:在下面的文本中,會有“日久見人心”出現(xiàn),并由此給不懂行的用戶以一種“機器的漢語很不錯”的印象。但是,由于其程序運行并未深入物理世界,其運作就會帶有一種“原罪”層面上的局限性:它無法在不依賴既有大數(shù)據(jù)的前提下進行獨立的探索。譬如,假設由于某種復雜的原因,網(wǎng)絡上關于某事的數(shù)據(jù)都被污染(比如將曹操的所有缺點都強力消除掉,然后將其描述為另外一個心系漢室的劉備),那么,我們現(xiàn)有的人工智能是無法像電影的《楚門的世界》中的男主人公那樣,根據(jù)成體系的信息偽造中暴露出的少數(shù)破綻,自動推理出一個獨立于“楚門的世界”的真實世界的存在。道理很簡單:統(tǒng)計學的人工智能機制采取的是“少數(shù)服從多數(shù)”的庸俗原則:只要大多數(shù)人說曹操愛漢獻帝超過愛他自己,人工智能也會這么看——甚至它還會依賴這種數(shù)據(jù)慣性,在一個嚴肅的史學家輸入關于“曹操所部193年于徐州發(fā)動的大屠殺”的嚴肅調(diào)查報告時,不斷批評這一報告“過于偏激”。好吧,幸好在哥白尼與伽利略的時代,人類尚且沒有大語言模型,否則,真難想象一個得到大語言模型加強的托勒密式成見會變得多么難被推翻。

有人或許會說,塞爾的論證或許能證明現(xiàn)有的大語言模型路徑不對頭,但是他無法論證一些尚在實驗階段的路徑——如圖靈獎獲得者楊立昆(Yann André Le Cun)提出的“世界模型”路徑——的不可能性。對于這種意見,我的回復是:是的,正如我前文所說的,塞爾哲學對那些更具有具身化色彩的人工智能路線的批評,的確力度不足。但同時需要指出的是,具身化路線的支持者也不要由此洋洋得意,認為只要給機器裝一個身體,問題就得到了完美的解決,因為世界與心智之間的聯(lián)系,不僅僅是身體,而且還有心智對物理世界的內(nèi)部表征(其實,即使是楊立昆本人的世界模型,本質(zhì)上也不是對客觀世界的完美表征,而是為行動服務的一種主觀表征)。在這個問題上,塞爾哲學還是能為人工智能的研究提供某些重要啟發(fā)的,甚至是一劑清醒劑:此即對于“理由間隙”的重視。

楊立昆

什么叫理由空隙?按照一種完美的理性人假設,如果你有一個目標,而且你知道做某事是達到這個目標的最佳方式,你就應該去做。換言之,據(jù)此行動模式,一個人的行動理由只要足夠充分,在理由的表征與行動的給出之間就應當沒有“理由間隙”——換言之,理由應當非常順暢地將行動分泌出來,正如脹鼓鼓的乳房能立即分泌出乳汁一樣。但真實情況真是如此嗎?士兵即使得到了絕好的戰(zhàn)術機會,也會在朝著敵人扣動扳機的那一刻猶豫;金融家即使知道這是投入資金獲利的絕好獲利窗口,也會在買入相關股票時猶豫哪怕一秒。最后促使他們做出決策的,究竟是更多的理由的羅列,還是仇恨與貪欲呢?塞爾的行動哲學的要點就在這里:他并不認為欲望是人類行動中一個可以被消除的因素,而欲望本身的不可被表征性,就是上述“理由間隙”得以浮現(xiàn)的根本原因。

上述哲學理論對人工智能的意義是什么呢?很顯然,按照傳統(tǒng)的理性模型,做出一臺沒有“理由間隙”的推理機器是相對容易的,而這也是好萊塢所描述的未來機器人的典型運作模式:基于純粹冷酷的功利主義計算,為了所謂大多數(shù)人類的利益,對少數(shù)人類進行殘酷消滅。然而,既然塞爾認為這種傳統(tǒng)的理性模型無法彰顯智能的本質(zhì),所以,一個依然心懷強人工智能理想的工程師就應當在未來的人工智能的編程軟件中植入“理由空隙”。但怎么做到這一點呢?是讓機器人自身的準生理需要——如充滿電量——通過對某種目標函數(shù)的刻畫,成為人類欲望的對應物?還是植入一個隨機函數(shù),讓任何一種貌似完美的行動理由都能乘上偶然性的因子,由此偏離行動輸出之彼岸?根據(jù)我對塞爾哲學的閱讀體會,他或許不會贊成上面任何一種建模方式,甚至還有可能發(fā)展出一種針對強人工智能之可能性的新否定性論證。其中的要害問題,便在于“自由意志”這個關鍵詞。

請注意,在行動哲學的語境中,塞爾并不是在本體論的層面上討論自由意志的,換言之,他并不那么關心世界中的事態(tài)的因果聯(lián)接是否已經(jīng)在形而上學意義上排除了自由意志的地位。他的論點是:“理由間歇”是“自由意志”存在于表征系統(tǒng)中的地位的征兆,前者的不可消除性,與后者的不可消除性,其實是一回事。說得再通俗一點:是否有某種全能的神能知道是你為何報考A大學而不是B大學,不是塞爾關心的,塞爾關心的是:你必須將你做出去報考B大學的決定,視為你的自由意志的產(chǎn)物,否則,你就不是理性的。換言之,理性人假設必須預設自由意志假設,并因此多少與對欲望的肯定關聯(lián)。塞爾可能沒意識到,他這種觀點其實是在向黑格爾在《法哲學原理》中提出的理性人假設致敬,因為后者也認為,只有自由意志的承載者才有權進入法權體系,由此去購買房產(chǎn),甚至因犯罪而被歸責。從這個角度看,前面所提到的那些“理由間歇”在機器中的建模思路——無論是訴諸目標函數(shù)還是隨機函數(shù)——都不能滿足重構(gòu)自由意志的需要,因為沒人會在社會生活中懲罰一頭因“吃飽”這一目標函數(shù)未被滿足而去偷吃糧食的豬,或一塊因純粹的隨機性從山上落下砸傷人的石頭。反之,我們只會懲罰沒看好豬的養(yǎng)殖戶,或沒固定好石頭的護林員,等等——因為只有后者才是自由意志的承載者。那么,在純粹的目標函數(shù)或隨機函數(shù)與真正的自由意志之間,究竟又有什么區(qū)別呢?答案是:后者是與某種制度性事實相伴相生的:養(yǎng)殖戶應當根據(jù)某種制度安排看好養(yǎng)殖的豬,盡管其沒有履行職責的可能性是不可消除的。換言之,自由意志應當由此被視為“應當根據(jù)某社會規(guī)則做某事”與“違背該規(guī)則的可能性”所構(gòu)成的辯證性的概念矩陣,而不能被理解為將個體剝離于社會規(guī)則的某種原子化概念裝置。而人工智能要將這種辯證性的概念矩陣重建出來,就需要為所謂的“社會規(guī)則”尋找一種工程學上的落地方式。

塞爾著《社會實在的建構(gòu)》

但這種落地方式并不是那么容易找。我們先來看看塞爾是如何討論社會規(guī)則的。他反對將社會規(guī)則所代表的“應然性”視為一種康德式的懸空于物理世界的道理律令——相反,他認為社會規(guī)則乃是社會建制的一部分,而后者又是社會實在的一部分,并因此是客觀世界的一部分。但需要注意的是,盡管塞爾說了那么多有利于客觀主義的規(guī)則觀的話,但是他依然不會贊同現(xiàn)在主流人工智能研究者讓大語言模型的輸出符合社會規(guī)則的做法:通過大量的人為的有監(jiān)督學習進程,使得輸出強行符合既有規(guī)范——這種做法取消了“理由間隙”與“自由意志”。毋寧說,社會規(guī)則與社會個體的聯(lián)系方式,是迥異于物理法則與同一個人的身體的聯(lián)系方式的:一個人的身體之被牛頓力學所左右,是不需要這個人去理解牛頓力學的,但一個人去尊重私有產(chǎn)權,是需要他預先在主觀世界中理解私有產(chǎn)權的。換言之,是“理解”的加入產(chǎn)生了所謂的“間隙”:張三對某物權的理解與李四不同,由此才產(chǎn)生了他們之間的糾紛,而這種糾紛本身,其實反而使得糾紛的調(diào)解者將張三與李四都理解為“自由意志的承載者”,而不是某種碳基人形機器。換言之,那種通過野蠻的數(shù)據(jù)投入來強行糾正機器之價值規(guī)范的做法,其實是消除了機器在特定的語境中根據(jù)特定的情況做出適量微調(diào)的可能性,由此反而會造成其輸出與真正的人類價值直覺的差異。也就是說,強行瞄準“人機對齊”的任何研究課題,若脫離對一個牽涉到“理由間隙”與“自由意志”的廣泛哲學背景的研究,反而會永遠導致“人機對不齊”的窘境。

塞爾哲學能為上述這些背景貢獻的另一塊——若不是最后一塊——哲學拼圖,則是其意向性理論。大致而言,根據(jù)其意向性理論,之所以張三與李四對同一事物的理解不同,乃是同一個事物會在不同的面相中得到表征:刺刀會在戰(zhàn)場上被視為武器,被收藏家視為文物,而在某些情況下則會被視為廚具。同樣的道理,貌似同樣的表征規(guī)則的符號,也會在不同理解者的語境系統(tǒng)中,經(jīng)由對不同理解者自身的背景知識的激活,而被賦予不同的被表征面相,由此形成不同的意向性狀態(tài)。換言之,若沒有意向投射的多重面相性,我們就很難真正了解“理由間歇”與“自由意志”的成因。但必須看到的是,目前的大語言模型把握上述這種多面相性的能力是非常有限的:它們固然能通過提示詞與文本的上下文,根據(jù)自己積累的“詞向量”數(shù)據(jù)大致了解應該如何刻畫它們看到的一個新詞元,但是,這種做法是無法在缺乏提示詞的幫助下實現(xiàn)少年司馬光的那種智能的:司馬光即使缺乏“石頭可以用來砸缸”的外來提示詞,也能將石頭表征為“砸缸物”,由此智慧地解救出了落入水缸的小伙伴。而從塞爾哲學的立場上看,司馬光對石頭的意向方式的突然轉(zhuǎn)換,就是其自由意志存在的最好證明,因為“必須解救同伴”這一抽象規(guī)則與具體實現(xiàn)(甚至違背)該規(guī)則所構(gòu)成的辯證矩陣,恰恰就是司馬光的意向轉(zhuǎn)向方式得以產(chǎn)生的重要背景框架。而同樣為該背景框架做出貢獻的,或許還有司馬光本人特殊的學習經(jīng)歷——這些經(jīng)歷極可能并非來自對大量同類數(shù)據(jù)的被動吸收,而僅僅來自對某次單次性的石頭砸物事件的主動觀察,并因此無法被現(xiàn)有的大模型所重演。

塞爾著《意向性》

上面的討論,其實已經(jīng)通過對塞爾哲學的各個板塊——心靈哲學、人工智能哲學、行動哲學、價值哲學與意向性理論——的掛一漏萬的選擇性回顧,向讀者重構(gòu)出了一個遠比初始版本的“中文屋”論證復雜的新論證的雛形,以便對現(xiàn)有的主流大語言模型的人工智能路徑提出更嚴厲的拷問。這一拷問雖然肯定得不出否定抽象意義上的強人工智能論題的意見,但也至少已經(jīng)告訴我們:現(xiàn)有的主流人工智能學界對超強算力與超大數(shù)據(jù)的迷戀,如此病入膏肓,以至于他們已經(jīng)拿不出哪怕一點點耐心來關心那些與真正的智能之實現(xiàn)相關的行動哲學、價值哲學與意向性理論了。而在全世界范圍內(nèi)用以學習的互聯(lián)網(wǎng)資料日益被“學”完的當下,人工智能主流學界對除了“中文屋”論證之外更廣義的塞爾哲學的這種無知狀態(tài),即將讓其付出其所不希望看到的代價。

    責任編輯:丁雄飛
    圖片編輯:張穎
    校對:張亮亮
    澎湃新聞報料:021-962866
    澎湃新聞,未經(jīng)授權不得轉(zhuǎn)載
    +1
    收藏
    我要舉報
            查看更多

            掃碼下載澎湃新聞客戶端

            滬ICP備14003370號

            滬公網(wǎng)安備31010602000299號

            互聯(lián)網(wǎng)新聞信息服務許可證:31120170006

            增值電信業(yè)務經(jīng)營許可證:滬B2-2017116

            ? 2014-2025 上海東方報業(yè)有限公司

            反饋