“未來100年后，我們看現(xiàn)在的人類，就像人類看四萬年前的山頂洞人。未來一定是人工智能和機器融合的時代，我們必須正視AI（人工智能）帶來的風(fēng)險，如果不加以引導(dǎo)控制，可能會引起生存危機?！?/p>

伴隨Sora、ChatGPT等接連誕生，人工智能正在引爆新一輪產(chǎn)業(yè)革命，在2024年博鰲年會上，中國工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院院長張亞勤談到他心中的人工智能發(fā)展趨勢。

“這是我第八年參加博鰲，也是第八次在現(xiàn)場討論人工智能?！毙集團(tuán)董事長兼首席執(zhí)行官袁輝袁輝笑稱，在他第一次參加時，當(dāng)時的科技圈普遍認(rèn)為人工智能的“奇點”還很遙遠(yuǎn)，如今科技發(fā)展瞬息萬變，人工智能已成為人類需要思考和警惕的巨大挑戰(zhàn)。

第四范式聯(lián)合創(chuàng)始人胡時偉則在接受澎湃新聞記者采訪時表示：“新質(zhì)生產(chǎn)力是定義人工智能的模式和路徑，人工智能是新質(zhì)生產(chǎn)力重要的技術(shù)手段支撐和發(fā)展的重要引擎。這是國家戰(zhàn)略層面的重要方向，我們要做的事情就是積極地去實現(xiàn)這個方向?！?/p>

人工智能的未來究竟會走向何方？現(xiàn)場，多位學(xué)者和企業(yè)家展開熱議。

大語言模型就像“黑匣子”

“現(xiàn)在的AI只是一個看似智能的信息處理工具，并不具備真正的人類理解能力?！敝袊茖W(xué)院自動化研究所研究員、聯(lián)合國人工智能高層顧問機構(gòu)專家曾毅表示。

人工智能作為學(xué)科出現(xiàn)時，普遍被認(rèn)為能精確描述人類的智能學(xué)習(xí)或是方方面面，當(dāng)前的人工智能在行為上看起來有接近人類水平的表現(xiàn)，但在一些關(guān)鍵的人類從不犯錯誤的領(lǐng)域，人工智能不停犯錯，這說明現(xiàn)在的人工智能系統(tǒng)還只是一個看似智能但還沒有真正的智能能力的系統(tǒng)。

在曾毅看來，機器人如今仍然是通過行為的模擬，盡可能和人類的接近?！暗词谷酥荒茏龅?0%，機器能做到99%，那百分之一就是人和機器的差別?！?/p>

“人工智能是賦能所有行業(yè)的，現(xiàn)在已經(jīng)像感覺空氣一樣感覺到它的存在，而且一旦斷開就再也沒有生存可能，如今人工智能已經(jīng)浸潤人們生活的每個方面，滲透到思考、呼吸以及每個動作，沒有一個產(chǎn)業(yè)有理由拒絕人工智能。”袁輝表示，通用人工智能（AGI）最早的定義就是未來何時會具備人類一樣的自我意識，那將是對人類產(chǎn)生終級挑戰(zhàn)的物種。

“未來人類如何更好利用AI，將會是每個個體、乃至企業(yè)跑贏大盤的關(guān)鍵?！痹x認(rèn)為。

加州大學(xué)伯克利分校計算機科學(xué)教授斯圖爾特·羅素表示，當(dāng)前的人工智能系統(tǒng)仍然存在技術(shù)缺口，簡單的模型擴展和數(shù)據(jù)增量并不能完全彌補這些差距。在他看來，現(xiàn)有的大語言模型像是一個“黑匣子”，其內(nèi)部機制和運作方式并不透明，這使得人們難以確定其真正的目標(biāo)和潛在風(fēng)險。

人類在面對比自己更強大的機器時，應(yīng)該如何保持掌控權(quán)？羅素呼吁，應(yīng)當(dāng)在人工智能領(lǐng)域進(jìn)行更深入的研究，以實現(xiàn)所謂的“可證明的AI”，即能夠證明其行為對人類有益的系統(tǒng)。

張亞勤則坦言，未來AI發(fā)展風(fēng)險需要引起重視，人工智能加速了人類腦力的進(jìn)化，未來一定是人工智能和機器智能融合。但風(fēng)險很大，我們必須正視風(fēng)險，如果不加以引導(dǎo)控制，這個風(fēng)險會轉(zhuǎn)化成為人類生存的風(fēng)險。

談國際差距：有能力未來對標(biāo)國際頂尖

在中美AI差距方面，袁輝表示，本質(zhì)上從算法、數(shù)據(jù)和應(yīng)用場景來看，各個國家有不同的優(yōu)勢?！爸袊鴱幕ヂ?lián)網(wǎng)開始，在應(yīng)用領(lǐng)域是全球領(lǐng)先的。但我們需要在基礎(chǔ)核心的技術(shù)研發(fā)領(lǐng)域進(jìn)一步發(fā)力。”同時他表示，近年來無論是在專利、知識產(chǎn)權(quán)申請還是論文發(fā)表方面，從數(shù)量和質(zhì)量方面都有很大的躍升。

科大訊飛副總裁劉聰則告訴澎湃新聞記者，中國確實和國際頂尖的AI水平存在一定差距，這是共識，但是這樣的差距正在持續(xù)地追趕，在他看來，通用大模型的主戰(zhàn)場還是底座大模型，中國大模型底座能力需要依托自主可控平臺進(jìn)行創(chuàng)新?？拼笥嶏w去年與華為聯(lián)合推出的首個支持萬億浮點參數(shù)訓(xùn)練的國產(chǎn)算力訓(xùn)練平臺“飛星一號”，科大訊飛在今年1月30日發(fā)布訊飛星火大模型V3.5，同步推出星火語音大模型。訊飛星火V3.5七大核心能力全面提升，其中語言理解、數(shù)學(xué)能力超過GPT-4 Turbo，代碼達(dá)到GPT-4 Turbo 96%，多模態(tài)理解達(dá)到GPT-4V 91%。

劉聰認(rèn)為，中國有能力在算力平臺上對標(biāo)國際頂尖水平，目前，對標(biāo)GPT-4當(dāng)前能力的訊飛星火V4.0正在訓(xùn)練中，預(yù)計在2024年6月發(fā)布，將在中文能力上實現(xiàn)完全對標(biāo)。

而在曾毅看來，中國未來人工智能發(fā)展不僅僅是要在最基礎(chǔ)模型上進(jìn)行顛覆式創(chuàng)新，更關(guān)鍵的是全自主的軟硬件協(xié)同創(chuàng)新，雖然人工智能趨勢是全球化產(chǎn)業(yè)鏈，但是中國要做好軟硬件基礎(chǔ)設(shè)施上不依賴于可能會脫鉤斷鏈技術(shù)的準(zhǔn)備。不過，人工智能“脫鉤斷鏈”的做法可能得到全球反對，這會對全球產(chǎn)生更大的數(shù)字鴻溝。

他認(rèn)為，為了避免這樣的趨勢，中國發(fā)展人工智能模型算法算力，未來應(yīng)當(dāng)它共享給全球。

“AI人才最緊缺，機會才剛開始”

對于大模型和生成式AI的關(guān)系，張亞勤表示，前者是技術(shù)、后者是能力。因為有了預(yù)訓(xùn)練的、超大規(guī)模的、自監(jiān)督式的大模型，生成式AI才具有巨大能量，未來大模型的走向?qū)⒎譃槿齻€方向，其中，第一個是多模態(tài)，第二個是自主智能，第三個是邊緣智能。

張亞勤表示，AI大模型走向自主智能，就可以制定目標(biāo)、規(guī)劃任務(wù)、自我制定路徑、自我完成方案、自我編碼。

在談到AI是否會取代人類工作時，高通公司中國區(qū)董事長孟樸坦言，他并不焦慮，“我不太相信我們自己創(chuàng)造人工智能把我們完全替代，我倒更擔(dān)心的是一部分掌握人工智能的人會搶占先機，人工智能時代，我們要利用人工智能，把最新的技術(shù)、最新的教育帶到鄉(xiāng)村，讓所有的人都能掌握這些技術(shù)?！?/p>

在發(fā)展大模型產(chǎn)業(yè)中，算力、算法、數(shù)據(jù)和人才哪個最重要？

胡時偉告訴澎湃新聞記者，目前AI產(chǎn)業(yè)人才稀缺，“目前能解決超大規(guī)模集群的這些人才，肯定是稀缺的。另外，產(chǎn)業(yè)內(nèi)還稀缺具備數(shù)字化思維，能夠用人工智能的技術(shù)能夠去解決行業(yè)問題，定義行業(yè)問題，并解決行業(yè)問題的人才。”

張亞勤則表示，上面這些因素都很重要，但長期來看的話，還是人才最重要，“現(xiàn)在人工智能發(fā)展階段還處于42公里馬拉松的第5公里，機會才剛剛開始。