21世紀剛剛來臨時，當(dāng)時著名的太陽微系統(tǒng)公司的創(chuàng)始人、首席科學(xué)家 比爾?喬伊（Bill Joy）發(fā)表了一篇《為什么未來不需要我們》 （Why the Future Doesn’t Need Us） 的文章。 他指出，在21世紀，人類擁有的最強大的三種技 術(shù)———機器人技術(shù)、基因工程技術(shù)和納米技術(shù)———正在使人類自身成為瀕危 物種。與此同時，雷?庫茲韋爾（Ray Kurzweil）在《靈魂機器的時代》《奇點 臨近》等書中則樂觀地指出，人類將在機器的幫助下獲得永生。

在當(dāng)前的人工智能熱潮中，機器人和人工智能會不會超過人類智能，是否會取代人的問題 再次備受關(guān)注。 樂觀主義者認為，全面超越人類智能的超級人工智能一旦出現(xiàn)，將為人類帶來新的文明躍遷。 悲觀主義者則認為，人工智能對人類智能的超越將打破人類智能在地球的絕對優(yōu)勢，即便不會出現(xiàn)“機器覺醒”——機器人和人工智能統(tǒng)治人的情形，人工智能的發(fā)展也可能使人類自身變成多余的物種或無用的人。

不論這些觀點所描述的未來是烏托邦還是反烏托邦，可以都以它們?yōu)閰⒄?，立足人工智能發(fā)展的現(xiàn)實，系統(tǒng)地展開人文或哲學(xué)社會科學(xué)的反思，以此深入思考人工智能等未來科技發(fā)展的上限和下限，找到人類可以普遍接受的深度科技化的前景。

人類未來究竟會是一幅怎樣的圖景？ 未來圖景一是融合科技與后人類發(fā)展。 依照這一圖景，除了人工智能可能發(fā)展出超級人工智能之外，納米、生命、認知和信息等融合科技將使人類的認知與智能增強成為可能，甚至與人工智能和機器人融為一體，乃至可以通過意識上傳和身體替代而獲得永生。

例如，可以通過藥物、基因技術(shù)等實現(xiàn)認知與智能增強，如服用聰明藥可以使人的智能得到改善。 此外，可以通過讀心術(shù)、讀腦術(shù)、認知介入技術(shù)、人機融合的“賽博格”技術(shù)等，走向超人類或后人類。 例如，不僅人的而且動物的記憶都有可能被移植。 但這些技術(shù)若能得到開發(fā)并付諸應(yīng)用，必將帶來一些難以回避的問題。

人類不得不思考的是，人之所以為人，一個最重要的因素是具有自主性，認知介入技術(shù)的發(fā)展會不會使人的自主性受到?jīng)_擊？ 人還有沒有認知上的自由？ 把別人的記憶移植到某人的大腦以后，怎么知道認知是移植過來的還是自身的？

未來圖景二是機器掌控世界。 機器智能超越人類智能，機器可以在無人監(jiān)督的情況下自主學(xué)習(xí)、自行決策甚至自動升級，人類的命運因此可能在很大程度上為機器所掌握。 如果機器智能在功能上超越人類智能，甚至從其心智中涌現(xiàn)出意識和自我意識，人類是否會被機器消滅，取決于人類賦予機器智能的倫理架構(gòu)是否能在終極意義上，使智能機器遵循機器人三定律等倫理義務(wù)或絕對的道德命令。

如果機器智能在功能上超越人類，但不可能生成意識和自我意識，人類很可能因為對機器的依賴越來越強，而將越來越多和越來越復(fù)雜的任務(wù)交給機器處理，最終越來越無力掌控維持人類社會運轉(zhuǎn)的復(fù)雜決策和行動，不得不逐漸將命運在事實上完全托付給機器。 在此不可逆的未來情境中，即便人類認識到不應(yīng)該由機器掌控世界，也會因為對機器的高度依賴而無法通過關(guān)閉機器重獲主導(dǎo)權(quán)。

未來圖景三是人類依然保持對機器的控制，但出現(xiàn)了難以消弭和日漸擴大的智能化鴻溝。 在此未來情境中，機器和社會為少數(shù)掌握權(quán)力、資本和創(chuàng)新的精英所控制，人口中的大多數(shù)越來越多地放棄工作而成為社會系統(tǒng)中不必要的“累贅”，即所謂“無用階層”的出現(xiàn)。

而“無用階層”無疑會對社會治理帶來巨大的挑戰(zhàn)。 如何對其進行心理疏導(dǎo)和社會管控？ 如何從心理和精神層面對其進行智能化的引導(dǎo)和校正？ 由此也可能會帶來更為復(fù)雜的問題，特別是可能出現(xiàn)智能算法的非人格化權(quán)力在對不同群體的賦能和授權(quán)上的不平等，以及由此形成的漸行漸遠的智能化鴻溝等根本性分歧。

透過這些可能的情景構(gòu)想，人工智能和智能化的未來發(fā)展將呈現(xiàn)諸多不易解決的難題。 首先，人工智能與智能化發(fā)展可能會導(dǎo)致社會不平等的激化與極端化。 與以往的自動化及網(wǎng)絡(luò)信息技術(shù)一樣，人工智能和智能化的發(fā)展日益呈現(xiàn)出對就業(yè)的沖擊，“機器換人”可謂愈演愈烈，而這一沖擊很可能加劇甚至激化社會群體的不平等。

一般而言，自動化與信息化的發(fā)展替代了一些勞動力，其創(chuàng)新紅利也帶來了就業(yè)的增加。 從作為智能化先導(dǎo)的自動化與信息化的發(fā)展可以看到，的確出現(xiàn)了低報酬的簡單技術(shù)職位與高報酬的高新科技職位同時增加的現(xiàn)象。

但問題是，一方面，資本對利潤的追逐使得高收入與低收入之間的差距越來越大。 在巨大的資本投入的影響下，網(wǎng)絡(luò)與金融結(jié)合下的科技金融進一步放大了這種不平等，使得互聯(lián)網(wǎng)和金融等行業(yè)的分配體系十分扭曲。 在網(wǎng)紅經(jīng)濟中，網(wǎng)紅與明星不合理的高收入，也是拜當(dāng)下網(wǎng)絡(luò)媒體或智能化的發(fā)展背后的巨大資本投入所賜。 當(dāng)前的大數(shù)據(jù)、人工智能熱潮與互聯(lián)網(wǎng)的發(fā)展一脈相承，在很多人工智能的應(yīng)用領(lǐng)域，收入的差異與不平等也呈現(xiàn)出類似的兩極化趨勢。

另一方面，智能化的發(fā)展將使職業(yè)變更日益頻繁，由于低報酬的簡單技術(shù)職位的知識與科技含量不高，相關(guān)從業(yè)者的學(xué)習(xí)能力有限，轉(zhuǎn)換新職業(yè)的能力較弱。 因此，人工智能等智能化技術(shù)的發(fā)展對就業(yè)適應(yīng)能力差的低收入從業(yè)人員的沖擊尤其值得關(guān)注。

其次，人工智能對就業(yè)的沖擊難免進一步引發(fā)人們對智能化未來帶有一種根本性的憂思：面對人工智能與智能化的發(fā)展，人類還剩下哪些不會被機器取代的優(yōu)勢？ 這也可以說是一種危機意識。 為此，不妨列一個所謂的“人類剩余優(yōu)勢清單”：智能化時代來臨以后，到目前為止，人類至少在創(chuàng)造性與變通性、社會知覺、談判藝術(shù)和論證能力等方面勝機器一籌。

最后，信息化與智能化的發(fā)展已經(jīng)或可能會帶來一系列困擾人類的疾患，如虛擬現(xiàn)實成癮、辨別現(xiàn)實障礙、身份認同焦慮、機械移植排異、超智能精神失常、機器人恐懼癥、自我刺激成癮、壽命延長倦怠等。

在這些問題背后更為根本的一個問題是，近半個多世紀以來，多元主義與反基礎(chǔ)主義等思想的濫觴固然有治療激進主義與獨斷論之功效，人類文明似乎已經(jīng)在思想層面放棄了對人的發(fā)展和演進具有一定之規(guī)的統(tǒng)一陳述。 毫不夸張地說，面對深度科技化的沖擊與挑戰(zhàn)，人類的各種利益紛爭和價值糾結(jié)愈益盤根錯節(jié)，人類在整體上其實已經(jīng)迷失了發(fā)展的目標和方向，而只能一邊在經(jīng)驗主義、功利主義和實用主義的裹挾下盲目前行，一邊祈禱宙斯和雅典娜繼續(xù)賦予人類得以幸存的好運氣。

-----

本文節(jié)選自作者刊于《當(dāng)代美國評論》2019年第1期的論文“面向人工智能時代的倫理策略”。作者段偉文系中國社科院哲學(xué)所研究員。“澎湃”經(jīng)授權(quán)選編。