10月22日，中美兩國(guó)人工智能領(lǐng)域的頂尖專(zhuān)家和技術(shù)領(lǐng)袖聯(lián)名發(fā)起一項(xiàng)呼吁，在科學(xué)界達(dá)成“安全可控開(kāi)發(fā)超級(jí)智能的廣泛共識(shí)”前，應(yīng)暫?！俺?jí)智能”的研發(fā)。

中外頂尖科技專(zhuān)家聯(lián)名簽署情況

該聲明由非營(yíng)利組織未來(lái)生命研究所發(fā)起，包括人工智能先驅(qū)杰弗里·辛頓（Geoffrey Hinton）、蘋(píng)果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）、維珍集團(tuán)董事長(zhǎng)理查·布蘭森（Richard Branson）、經(jīng)濟(jì)學(xué)家達(dá)龍·阿西莫格魯（Daron Acemoglu）以及前美國(guó)國(guó)家安全顧問(wèn)蘇珊·賴(lài)斯（Susan Rice），都參與了簽名。

值得一提的是，哈里王子及其妻子梅根、薩塞克斯公爵和公爵夫人、史蒂夫·班農(nóng)（Steve Bannon）和等知名人士也參與了聯(lián)合簽署聲明。

截至10月23日中午，這份聲明的簽署人數(shù)已經(jīng)達(dá)3193人。中國(guó)科學(xué)院院士、圖靈獎(jiǎng)得主姚期智、清華大學(xué)智能科學(xué)講席教授、智能產(chǎn)業(yè)研究院院長(zhǎng)張亞勤，以及清華大學(xué)戰(zhàn)略與安全研究中心學(xué)術(shù)委員、蘇世民書(shū)院院長(zhǎng)薛瀾等中國(guó)學(xué)者也位列其中。

聲明 來(lái)源：官網(wǎng)截圖

“超級(jí)智能”是一種在所有認(rèn)知任務(wù)上都超過(guò)人類(lèi)的人工智能形式。有別于當(dāng)下絕大多數(shù)公司研發(fā)通用人工智能，“超級(jí)智能”的前景引發(fā)業(yè)界擔(dān)憂(yōu)。該聲明稱(chēng)，許多頂尖AI企業(yè)將要打造超級(jí)智能，“引起了人們的擔(dān)憂(yōu)，從人類(lèi)經(jīng)濟(jì)過(guò)時(shí)和被剝奪權(quán)力、自由、公民自由、尊嚴(yán)和控制的喪失，到國(guó)家安全風(fēng)險(xiǎn)，甚至潛在的人類(lèi)滅絕?！?/p>

參與這一呼吁的北京前瞻人工智能安全與治理研究院院長(zhǎng)，中國(guó)科學(xué)院自動(dòng)化研究所研究員曾毅告訴澎湃科技（m.dbgt.com.cn），目前我們還沒(méi)有堅(jiān)實(shí)的科學(xué)證據(jù)和切實(shí)可行的方法來(lái)確保超級(jí)智能的安全，使其不會(huì)給人類(lèi)帶來(lái)災(zāi)難性的風(fēng)險(xiǎn)。世界尚未準(zhǔn)備好迎接不是可控工具的超級(jí)智能。

當(dāng)前，超級(jí)智能已成為人工智能領(lǐng)域的熱門(mén)詞匯。從埃隆·馬斯克（Elon Musk）的xAI到薩姆·奧特曼（Sam Altman）的OpenAI等公司都在競(jìng)相推出更先進(jìn)的大語(yǔ)言模型。Meta甚至將其LLM部門(mén)命名為“Meta超級(jí)智能實(shí)驗(yàn)室”。

科技界的人們對(duì)人工智能的看法越來(lái)越兩極分化：一方認(rèn)為它是推動(dòng)社會(huì)進(jìn)步的強(qiáng)大力量，理應(yīng)不受限制地發(fā)展；另一方則擔(dān)憂(yōu)其潛在風(fēng)險(xiǎn)，主張加強(qiáng)監(jiān)管。

然而，即使是馬斯克和奧特曼等世界領(lǐng)先人工智能公司的領(lǐng)導(dǎo)人，過(guò)去也曾警告過(guò)超級(jí)智能的危險(xiǎn)。在擔(dān)任OpenAI首席執(zhí)行官之前，奧特曼在2015年的一篇博客文章中寫(xiě)道：“發(fā)展超人類(lèi)機(jī)器智能（SMI）可能是對(duì)人類(lèi)持續(xù)存在的最大威脅?！?/p>

曾毅認(rèn)為，絕大多數(shù)公司研發(fā)的只是通用人工智能工具，這并不是超級(jí)智能。但是超級(jí)智能的風(fēng)險(xiǎn)是并沒(méi)有科學(xué)依據(jù)可以控制的。美國(guó)企業(yè)，例如Meta建立超級(jí)智能實(shí)驗(yàn)室，以及阿里聲稱(chēng)的開(kāi)發(fā)超級(jí)智能，這并不只是通用人工智能工具。

澎湃科技注意到，據(jù)《紐約時(shí)報(bào)》報(bào)道，10月22日聯(lián)合聲明發(fā)布當(dāng)天，Meta在超級(jí)智能實(shí)驗(yàn)室裁員 600人。該部門(mén)擁有約 3000 名員工，他們被授權(quán)開(kāi)發(fā)“超級(jí)智能”，即超越人腦的人工智能。

Ｍeta新任首席人工智能官亞歷山大·王 （Alexandr Wang）表示，裁員旨在清理因三年來(lái)過(guò)快建立Meta人工智能工作而導(dǎo)致的組織臃腫，從而幫助Meta更快地開(kāi)發(fā)人工智能產(chǎn)品。Meta高管強(qiáng)調(diào)，裁員并不意味著他們正在縮減人工智能方面的工作，超級(jí)智能仍然是扎克伯格公司的首要任務(wù)之一。