理性是激情的奴隸?！笮l(wèi)·休謨

324格的棋盤，一邊坐著李世石——當(dāng)世頂尖的棋手，另一邊是AlphaGo——號稱在挑戰(zhàn)人類智力極限的人工智能程序。這一幕被包裝得充滿了儀式感，好像是人類智慧與人工智能的終極對決，這場對決的結(jié)果可能意味著一個時代的開始或者另一個時代的結(jié)束。第一場，李世石就敗下陣來，似乎意味著電影《終結(jié)者》所描述的人類的宿命正離我們越來越近。這一次，在對弈之外，人們普遍對于人工智能的未來產(chǎn)生了恐懼，計算機(jī)是否已經(jīng)可以比人類更加“聰明”了？有人疑惑，如果AlphaGo在對弈中的失誤是故意賣給李世石的破綻是否更加可怕？而事實(shí)上，這些擔(dān)心其實(shí)都沒有抓住人工智能相關(guān)科技倫理的癥結(jié)。

第一場賽前就有人問我，你覺得李世石和AlphaGo，誰能贏。我的回答是：不重要。大勢不可擋，即使這次李世石贏了，他也會在不久的將來被類似的人工智能擊敗。本次人機(jī)大戰(zhàn)充滿了各種噱頭，Google公司對它進(jìn)行了精心的商業(yè)炒作，這無疑是一則完美的軟廣告。它備受矚目由科技倫理而起：大家都想知道人工智能是否已經(jīng)可以戰(zhàn)勝人類智能，它到底預(yù)示著一個更加智能化的科技時代的到來，還是人類自掘墳?zāi)沟谋瘎∷廾拈_始。無論再多的人從圍棋的角度抑或人工智能算法的角度解讀這場對弈，大家都不得不承認(rèn)，這已經(jīng)不單單是一場圍棋比賽了。大家關(guān)心的不只是圍棋，而是李世石所代表的人類智慧是否真的要低頭了。但是大部分人并沒有意識到，這次人機(jī)對戰(zhàn)并沒有創(chuàng)造任何新的有關(guān)人工智能的科技倫理問題，只是大家不熟悉這些問題的癥結(jié)。

本次人機(jī)對戰(zhàn)，本質(zhì)上仍是人與人之間智慧的較量——一邊是李世石，一邊是AlphaGo團(tuán)隊。就像兩個人比賽伐木，一個人力大無窮卻沒有工具，但另一個人有刀斧。我們稱AlphGo為人工智能，而它實(shí)際上和人類發(fā)明的其他的工具并無本質(zhì)區(qū)別。從深藍(lán)到AlphaGo，人工智能的計算能力在不斷增強(qiáng)，分析網(wǎng)絡(luò)不斷復(fù)雜化，但他們卻仍然只是計算能力極強(qiáng)的工具，沒有成為我們想象中的“終結(jié)者”。大衛(wèi)·休謨告訴我們：理性是激情的奴隸。現(xiàn)在的人工智能只有工具理性而不能隨機(jī)設(shè)定目標(biāo)，它至多是人類意志的一種延伸。而一種擁有隨機(jī)設(shè)定目標(biāo)的能力并擁有無比強(qiáng)大的分析計算能力以實(shí)現(xiàn)目的的智能，將是一種“上帝”式的存在。這種智能一旦存在，可能地球的文明形式確實(shí)要改寫。

兩個思想實(shí)驗(yàn)

關(guān)于能隨機(jī)設(shè)定目標(biāo)的人工智能是否能夠到來，涉及的論證太過復(fù)雜，在此只給讀者講兩個思想實(shí)驗(yàn)來解釋。

1950年，計算機(jī)之父圖靈發(fā)表了一篇題為《機(jī)器能夠思維嗎？》的論文，論文中設(shè)計了一種非常巧妙的檢測智能的方法：一個人在不接觸對方的情況下，通過某種特殊的方式，與對方進(jìn)行一系列的問答，如果最終他無法根據(jù)這些問題判斷出對方是人還是計算機(jī)，那么，就可以認(rèn)為這臺計算機(jī)具有與人相當(dāng)?shù)闹悄?。美國著名心靈哲學(xué)家約翰·賽爾認(rèn)為這樣的判斷太過簡單狹隘，他在1980年提出了著名的所謂“中文屋”的思想實(shí)驗(yàn)。該實(shí)驗(yàn)是這樣設(shè)計的：塞爾設(shè)想他只懂英文不懂中文，被關(guān)在一間屋子里。屋子里有各種各樣的紙片，上面有一些字符。通過屋子的窗口，屋外的中國人可以遞給他有中國字符的紙片提問，他也可以通過窗口把另外一些紙片遞出來“回答”。屋內(nèi)有一本英文的規(guī)則書告訴他怎樣為這些中文字符配對。于是屋外的中國人發(fā)現(xiàn)：屋內(nèi)人對于用中文提出的問題總能給出恰當(dāng)?shù)幕卮?，看起來似乎懂得中文。如此一來?u>賽爾就通過了圖靈測試，但他依然不懂中文。他所做的只是按照規(guī)則進(jìn)行形式的匹配。塞爾由此指出：“程序本身不能夠構(gòu)成心靈，程序的形式句法本身不能確保心智內(nèi)容的出現(xiàn)?！憋@然，在賽爾眼中，任何計算機(jī)程序都是不具有理解力的，再復(fù)雜的程序本質(zhì)上都是在完成句法的設(shè)定，屋外的人錯誤地認(rèn)為屋內(nèi)的人理解了中文，而屋內(nèi)的人僅僅是做了簡單的符號對應(yīng)工作。計算機(jī)程序終究是沒有目標(biāo)的，有目標(biāo)的是“屋外”的人。

賽爾的思想實(shí)驗(yàn)很快遭遇了反駁。一個叫“發(fā)光屋”的思想實(shí)驗(yàn)應(yīng)運(yùn)而生：1864年麥克斯韋提出光的本質(zhì)是一種電磁波的理論，假如此時有人反對麥克斯韋的理論，要求他在一個漆黑的屋子里擺動磁鐵棒，看看在漆黑的屋子里是否會有發(fā)光現(xiàn)象，麥克斯韋將無法反駁。后來我們知道，電磁棒搖擺頻率低于1015Hz的情況下，不足以產(chǎn)生發(fā)光現(xiàn)象，這并不是麥克斯韋錯了，而是我們對于自然的認(rèn)識還不夠深入。我們不能靜止地看待人工智能，認(rèn)為它只是完成一些句法任務(wù)的工具。隨著這項技術(shù)的不斷發(fā)展，它遲早會超越人類現(xiàn)在的認(rèn)識局限，可能這項技術(shù)將發(fā)生革命性的變化，甚至人類在不經(jīng)意之間可能早就這種智能。對于“發(fā)光屋”思想實(shí)驗(yàn)，賽爾的反駁不能使我信服。

兩個思想實(shí)驗(yàn)引起了美國社會對于人工智能倫理的大討論，以《霹靂五號》、《終結(jié)者》等為代表的的一系列相關(guān)電影應(yīng)運(yùn)而生。前者溫情脈脈，認(rèn)為具有感情的機(jī)器和人具有相似的人格，可以類似少數(shù)族裔融入人類社會；后者就不那么樂觀了，認(rèn)為一旦打開了潘多拉魔盒，人類的“審判日”也就到來了。國人對于相關(guān)問題的認(rèn)識，也大多源于這幾部電影。

2012年，已經(jīng)80歲高齡的賽爾來到北大，我向他請教了關(guān)于“發(fā)光屋”實(shí)驗(yàn)的看法。他告訴我：其實(shí)類似“發(fā)光屋”實(shí)驗(yàn)的命題是基本不可反駁的，因?yàn)檎l也看不到幾百年后的世界，理論不斷被懷疑和反駁才有價值。他開了一個“牛頓實(shí)驗(yàn)”的玩笑：如果幾百年前有人對牛頓說，你的理論是有局限的，只不過要等幾百年后人類對于世界的認(rèn)識更加深入，你不覺得很可笑嗎？

的確，在我們現(xiàn)在的認(rèn)識局限內(nèi)，“終結(jié)者”還難以實(shí)現(xiàn)，但是這樣的倫理擔(dān)憂還是有必要的。

“終結(jié)者”何以實(shí)現(xiàn)

關(guān)于“真正的”人工智能將如何出現(xiàn)，學(xué)界當(dāng)然會給出各種各樣的預(yù)言。英國物理學(xué)家彭羅斯的理論被廣泛推崇。不同于哲學(xué)家、心理學(xué)家和生物學(xué)家，物理學(xué)家提出的認(rèn)識理論似乎是在計算機(jī)領(lǐng)域更易實(shí)踐的。

我們還是講故事。當(dāng)一個人接受全身麻醉之后，他會在一段時間之內(nèi)喪失意識，這似乎可以證明意識是一種可以通過廣義的物理方法阻斷的生理過程。既然如此，我們可以認(rèn)為意識的本質(zhì)就是一個廣義物理過程。彭羅斯試圖用量子理論還原這一過程。這個時代，無論多快的計算機(jī)都在進(jìn)行二進(jìn)制計算，這完全是建立在經(jīng)典物理學(xué)理論基礎(chǔ)上的。彭羅斯認(rèn)為，人腦顯然不可能按這種簡單的經(jīng)典計算方式來處理信息。那么，人腦只能靠更深一層次的物理學(xué)，即量子力學(xué)來處理信息，產(chǎn)生意識。簡而言之，人腦是一臺量子計算機(jī)。彭羅斯隨后和神經(jīng)學(xué)家哈梅羅夫合作，提出了所謂Orch-OR理論，認(rèn)為人腦中能夠產(chǎn)生量子計算的單元是神經(jīng)細(xì)胞的微管，因?yàn)槭羌{米尺度的蛋白質(zhì)結(jié)構(gòu)，量子效應(yīng)顯著。他們甚至認(rèn)為，這可以解釋何為“靈魂”：心臟停止跳動，血液停止流動，微管失去了它們的量子態(tài)，但微管內(nèi)的量子信息并沒有遭到破壞，也無法被破壞，離開肉體后重新回到宇宙。如果患者蘇醒過來，這種量子信息又會重新回到微管，患者會說‘我體驗(yàn)了一次瀕死經(jīng)歷’。如果沒有蘇醒過來，患者便會死亡，這種量子信息將存在于肉體外，以靈魂的形式。

盡管這一理論一經(jīng)出世就遭遇了大量質(zhì)疑，但隨著量子信息學(xué)的發(fā)展，意識起源于人腦的量子計算這個未經(jīng)證實(shí)的假說逐漸潛移默化到了很多領(lǐng)域。也就意味著如果這個假說正確，量子計算機(jī)可以完美模擬人腦。如《變形金剛》之類的好萊塢的科幻電影，在提到真正人工智能時都會用到“量子”這個詞。最近一些機(jī)器人影片也在熱炒這個概念。當(dāng)然，谷歌這樣的科技公司更不會放過量子計算機(jī)這個噱頭。

一大批科技企業(yè)熱衷于量子計算的概念。但至少在當(dāng)前階段，還沒有經(jīng)典算法不能轉(zhuǎn)化的量子算法。也就是說：如果有一個量子算法能夠產(chǎn)生人類的意識，也一定存在一個模擬人類意識的經(jīng)典算法，反之亦然?？此埔磺卸际强萍冀绲膭尤送獍b。

當(dāng)然，人工智能的力量還很弱小，它再理性也必須接受人類的意志。機(jī)器，依然是人類的奴隸。倫理學(xué)家擔(dān)心的是，一切是否一定會在人類控制之下。須知，人類在其他科研領(lǐng)域經(jīng)常有種花得柳的表現(xiàn)：我們想制造一種對抗心臟病的新藥，但最終這種新藥成為了萬艾可。我們當(dāng)然不希望創(chuàng)造一個我們不能控制的怪物，而這個怪物會不會降臨我們確實(shí)不得而知。因而，各國的人工智能倫理研究所紛紛成立，對于相關(guān)研究的界限也有待劃清。

我們的科技觀

在我們的語境下，“科學(xué)”往往是個褒義詞?！翱茖W(xué)規(guī)劃”、“科學(xué)治理”這樣的字眼常常被寫入政策性文件，我們也并未覺得這有何不妥。本質(zhì)上，這是一個從前現(xiàn)代到現(xiàn)代過度的國家對于現(xiàn)代性的一種崇拜。

我們崇拜科學(xué)，因?yàn)樗哂懈脑熳匀煌苿由a(chǎn)力發(fā)展的偉大力量。但我們中的大多數(shù)卻還沒能建立科學(xué)本身所蘊(yùn)含的理性思維方式。只有足夠理性并了解科學(xué)才能對科學(xué)形成反思。

與人工智能影響力類似的科技倫理問題還有很多。比如基因改造。我們可以通過檢測發(fā)現(xiàn)一些可以造成先天性疾病的基因，并把受精卵中的相應(yīng)基因置換掉?？此剖枪Φ乱患暮檬?，但是如果沒有倫理約束會變得非常可怕：如果我們認(rèn)為其他的基因也不夠完美需要置換呢？走到極端，我們會創(chuàng)造身高相貌智力都無比優(yōu)越的人，這樣的人走到社會上會對其他人形成壓倒性的競爭優(yōu)勢。于是不服氣的父母們會把試管定為每個嬰兒的起跑線。長此以往，會有太多具有類似“優(yōu)勢基因”的人來到這個世界上。他們太像了，就像工廠的產(chǎn)物一樣，他們會破壞這個因多樣而美好的世界。類似對于科技的反思往往智能因出現(xiàn)在好萊塢電影里被我們所知。我們習(xí)慣性地功利化看待科技，而“科學(xué)文化”卻難以形成。中國人并非不對科學(xué)進(jìn)行反思——往往學(xué)者們的討論很熱烈，但觀點(diǎn)往往難以走出校門。

這些反思并非只屬于小部分人。人工智能的長足進(jìn)步必然引發(fā)大量工作崗位的消失，如果把它看成一個必然的歷史過程，那么這一歷史過程會極為殘酷，甚至造成劇烈的社會動蕩。不止是低端腦力工作行業(yè)，法務(wù)、金融、醫(yī)療這些高端服務(wù)行業(yè)的大量工作機(jī)會都將消失。如果對此沒有清醒的認(rèn)識，沒有相應(yīng)的政策早作計劃和應(yīng)對，結(jié)果將是災(zāi)難性的。

科學(xué)崇拜背后，是一種傲慢的現(xiàn)代性。我們實(shí)際上已經(jīng)在品嘗這種現(xiàn)代性帶來的苦果：重度污染、產(chǎn)能過剩都是它的具體體現(xiàn)。有人說，這是每個國家從現(xiàn)代走向后現(xiàn)代必須經(jīng)歷的過程，都要痛過，才能學(xué)會反思。我們正在痛著，但是真的在反思嗎？

對于科技，不只是決策者，每個人的思考都應(yīng)當(dāng)更為立體。科技并非科技本身，它一經(jīng)出世就已經(jīng)離不開與社會的互動。希望這次人機(jī)大戰(zhàn)能夠引發(fā)足夠多的討論，為全民上一場科技倫理教育課。人類應(yīng)該更加理性地使用自己的“激情”，不是嗎？