【編者按】

美國外交關(guān)系委員會（CFR）主辦的國際智庫理事會（COCs）年會5月7至9日在紐約舉行，上海國際問題研究院作為理事會創(chuàng)始成員，是本次年會唯一線下參會的中方智庫。上海國際問題研究院院長陳東曉及該院多位學(xué)者出席年會并發(fā)言。此次會議討論的話題涉及數(shù)字時(shí)代的技術(shù)治理、俄烏沖突、可持續(xù)發(fā)展目標(biāo)、朝核問題等領(lǐng)域。澎湃新聞（m.dbgt.com.cn）獲授權(quán)刊發(fā)上海國際問題研究院部分學(xué)者在會上的發(fā)言。

伴隨著ChatGPT的走紅，基于大語言模型（LLM）、高算力資源的人工智能生成內(nèi)容產(chǎn)品（AIGC）如雨后春筍般涌現(xiàn)，標(biāo)志著人工智能的應(yīng)用和治理進(jìn)入了一個(gè)新的階段。在這一階段中，人工智能產(chǎn)品的采用率迅速提升、應(yīng)用場景極度豐富、安全風(fēng)險(xiǎn)愈發(fā)多樣和隱蔽。這既為產(chǎn)業(yè)發(fā)展提供了機(jī)遇，也為治理帶來了挑戰(zhàn)。

一、LLM與AIGC的發(fā)展態(tài)勢

自ChatGPT發(fā)布以來，這個(gè)由Open AI發(fā)布的人工智能產(chǎn)品因其廣泛適用性和強(qiáng)大功能性，僅用了兩個(gè)月就吸引了1億用戶，而根據(jù)Sensor Tower的數(shù)據(jù)，F(xiàn)acebook用了4年半才獲得了同等的用戶量。一方面，激增的用戶數(shù)據(jù)顯示出了人們對以ChatGPT為代表的大語言模型抱有熱情；但另一方面，從各平臺的反饋來看，人們對AIGC時(shí)代的技術(shù)和影響喜憂參半，主要有以下幾個(gè)方面：

首先，從宏觀上看，AIGC代表著人工智能技術(shù)發(fā)展方向，但也帶來了更大的不確定性。在人工智能領(lǐng)域，建設(shè)通用型人工智能（AGI）一直是研究人員追求的最高目標(biāo)。雖然目前的AIGC技術(shù)尚未帶領(lǐng)我們進(jìn)入AGI時(shí)代，但其LLM框架已初步展現(xiàn)出跨模態(tài)潛力。這意味著它能夠跨越不同的形式產(chǎn)生探索性和組合性創(chuàng)造力，這是實(shí)現(xiàn)AGI的關(guān)鍵能力之一。

盡管當(dāng)前的AIGC無法完全深度模擬人類智能，但其技術(shù)已經(jīng)呈現(xiàn)出明顯的“類人性”特征，能夠識別物體、理解語言等。這種“類人性”特征為AIGC產(chǎn)品的應(yīng)用帶來了廣泛的可能性，人們期待這些產(chǎn)品能夠?yàn)樯詈凸ぷ鲙韼椭玑t(yī)療診斷、智能交通、自然語言處理等領(lǐng)域。而伴隨著人工智能技術(shù)的進(jìn)一步發(fā)展，人工智能技術(shù)的不確定性也在增強(qiáng)，人們擔(dān)心機(jī)器是否會超越人類智能并具備自我意識？機(jī)器是否會替代人類的工作，從而導(dǎo)致大量的失業(yè)？機(jī)器是否會失控，導(dǎo)致無法預(yù)測的后果？

其次，從現(xiàn)實(shí)中看，AIGC賦能多種應(yīng)用場景，但也帶來了新的安全風(fēng)險(xiǎn)。LLM架構(gòu)下的AIGC能夠進(jìn)行文本的生成、處理，資料的檢索、整合。匹配了資訊行業(yè)、教育行業(yè)、金融行業(yè)等多重需求，但也引發(fā)了政府和社會對于AIGC的不良使用和未來發(fā)展的憂慮：首先，人工智能的生成內(nèi)容是否具有版權(quán)、版權(quán)歸誰所有尚具有爭議。一方面，具有創(chuàng)造力的AIGC很難再被視為一套單純的工具；另一方面，AIGC的創(chuàng)作基于大量的數(shù)據(jù)喂養(yǎng)，很難論證其原創(chuàng)性。就當(dāng)前而言，已經(jīng)有國家提出所有人工智能生成內(nèi)容均不具有版權(quán)保護(hù)的資質(zhì)。

而在內(nèi)容治理領(lǐng)域，AIGC產(chǎn)品可以輕松進(jìn)行惡意程序的編寫，或者進(jìn)行虛假信息的杜撰，這種大規(guī)模、低成本的行為將為本就復(fù)雜的網(wǎng)絡(luò)內(nèi)容治理增添新的困難；此外，在意識形態(tài)領(lǐng)域，AIGC則可以進(jìn)行大規(guī)模、低成本的意識形態(tài)宣傳，長期對民眾進(jìn)行理念灌輸和思想滲透。ChatGPT會選擇性回答某些敏感性問題，對用戶做出不平衡的引導(dǎo)。長此以往，ChatGPT的政治立場和意識形態(tài)將會潛移默化地影響其數(shù)以億計(jì)的用戶群體，成為西方價(jià)值觀和意識形態(tài)最為龐大的宣傳機(jī)器。這給我國當(dāng)前的意識形態(tài)和話語體系帶來了巨大的隱憂。

再次，AIGC存在更加難以察覺的價(jià)值觀導(dǎo)向。對于AIGC時(shí)代的治理新挑戰(zhàn)和ChatGPT等產(chǎn)品可能存在的安全風(fēng)險(xiǎn)，企業(yè)并非沒有預(yù)料，也做了一些初步的準(zhǔn)備。比如說在ChatGPT內(nèi)被置入了一個(gè)“不良內(nèi)容過濾器”（Undesirable Content Filter）。這一過濾器結(jié)合使用機(jī)器學(xué)習(xí)和自然語言處理技術(shù)，避免將欺詐信息、仇恨言論和病毒性網(wǎng)站鏈接呈現(xiàn)給用戶。這一過濾器確實(shí)發(fā)揮了一定的作用，布魯金斯學(xué)會研究員Darrell M. West通過對谷歌新出品的生成式人工智能“Bard”和ChatGPT的對比研究后提出，ChatGPT在面對政治和道德敏感信息時(shí)表現(xiàn)更為客觀，它會強(qiáng)調(diào)自己只是人工智能語言模型，并就相關(guān)事實(shí)進(jìn)行正反兩方面的梳理，不會直接提出判斷性結(jié)論。

但也有文章分析后指出，ChatGPT傳達(dá)的引導(dǎo)性敏感信息更加隱晦，在政策立場上傾向于環(huán)保主義和左翼自由主義，這實(shí)際上與Open AI研發(fā)團(tuán)隊(duì)的政治立場相似。3月28日，Open AI的聯(lián)合創(chuàng)始人馬斯克與其他1000余位人工智能專家簽署聯(lián)名信，提出由于LLM和AIGC的發(fā)展影響超出預(yù)期，應(yīng)該暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能，把重點(diǎn)轉(zhuǎn)移到安全和倫理治理方向上。

最后，政府開始加強(qiáng)對AIGC的治理：美國國家標(biāo)準(zhǔn)技術(shù)研究所幾乎在ChatGPT問世的同時(shí)也公布了首份《人工智能風(fēng)險(xiǎn)管理框架》（AI-RMF 1.0）。但在相關(guān)學(xué)者看來，這一框架還不足以有效治理人工智能技術(shù)帶來的數(shù)據(jù)隱私和內(nèi)容審核問題。美國國會應(yīng)建立一個(gè)永久性的框架，提供消費(fèi)者保護(hù)，建立公眾對人工智能系統(tǒng)的信任，并為其產(chǎn)品路線圖創(chuàng)造所需的監(jiān)管規(guī)則。因此美國商務(wù)部近期也開始就如何制定法規(guī)以保證AIGC的安全性、減少潛在危害向公眾征求意見，有望在未來出臺更加專業(yè)化的法規(guī)。

此外，4月11日，我國也發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見稿）》對人工智能生成內(nèi)容的制作、審核、管理、披露等程序進(jìn)行了明確，顯示出我國加強(qiáng)網(wǎng)絡(luò)內(nèi)容治理、應(yīng)對技術(shù)挑戰(zhàn)的決心，但同時(shí)也缺乏對于LLM和AIGC更加綜合性和專業(yè)化的治理措施；意大利個(gè)人數(shù)據(jù)保護(hù)局也于3月31日宣布就涉嫌違反歐盟通用數(shù)據(jù)保護(hù)條例（GDPR）的行為對ChatGPT展開調(diào)查，并命令Open AI停止處理意大利的本地?cái)?shù)據(jù)，直到該公司在4月30日和5月15日之前分別完成一系列合規(guī)清單，包括：信息透明化、增加年齡限制、刪除虛假信息、通過廣播電視和網(wǎng)絡(luò)宣傳等方式對意大利公眾開展規(guī)則宣傳等；意大利的做法也引發(fā)了歐洲其他國家的關(guān)注，愛爾蘭數(shù)據(jù)保護(hù)委員會、法國數(shù)據(jù)隱私監(jiān)管機(jī)構(gòu)CNIL也開始就數(shù)據(jù)隱私和虛假信息等問題對AIGC產(chǎn)品展開調(diào)查，以保證其滿足GDPR的數(shù)據(jù)保護(hù)要求。

二、創(chuàng)新治理思路以迎接AIGC的發(fā)展機(jī)遇

LLM和AIGC的發(fā)展雖然伴隨著風(fēng)險(xiǎn)和憂慮，但也蘊(yùn)含著賦能產(chǎn)業(yè)發(fā)展的機(jī)遇。要在危中尋機(jī)，通過治理思路的調(diào)整和治理手段的創(chuàng)新化危為機(jī)。具體可以從以下兩方面著手：

第一，以敏捷思維構(gòu)建新型治理生態(tài)。LLM和AIGC相對于前一階段的AI而言，技術(shù)更為復(fù)雜、倫理問題更加突出、風(fēng)險(xiǎn)更為隱蔽。傳統(tǒng)的“事后治理”思路不僅難以識別AIGC蘊(yùn)含在模型和框架內(nèi)的安全紕漏，而且難以匹配倫理治理的需求，甚至以往的依據(jù)關(guān)鍵詞識別的網(wǎng)絡(luò)內(nèi)容監(jiān)測機(jī)制也會被AIGC基于強(qiáng)化學(xué)習(xí)而生成的“差異化和定制化”的內(nèi)容輕而易舉地規(guī)避。在此情況下，政府需要及時(shí)轉(zhuǎn)變治理思路、建立新型有效的敏捷治理機(jī)制，將科技企業(yè)等AIGC的設(shè)計(jì)方和LLM的開發(fā)方深度納入到治理程序中，并通過政企之間敏捷的咨詢-反饋互動及時(shí)獲取企業(yè)的研發(fā)動態(tài)和市場情報(bào)，設(shè)計(jì)前瞻性的治理框架。比如說，如果美國政府能夠以敏捷思維與Open AI開展合作，就能夠進(jìn)一步了解ChatGPT的不良內(nèi)容過濾器是如何發(fā)揮作用的，政府可以從國家和社會安全的宏觀角度給予企業(yè)改進(jìn)內(nèi)容過濾裝置的實(shí)時(shí)指導(dǎo)，也能夠從政策和立法方面對技術(shù)無法預(yù)防的漏洞進(jìn)行補(bǔ)充，更有針對性地進(jìn)行AIGC的網(wǎng)絡(luò)內(nèi)容治理。

第二，加強(qiáng)數(shù)據(jù)治理，提升數(shù)據(jù)質(zhì)量。目前，ChatGPT等AIGC產(chǎn)品依舊是以模型為中心的人工智能，即更加側(cè)重于神經(jīng)網(wǎng)絡(luò)模型的設(shè)計(jì)和優(yōu)化。但是，數(shù)據(jù)的數(shù)量和質(zhì)量對于AIGC未來發(fā)展也是重要因素。從Open AI的第一代GPT模型——2018年發(fā)布的GPT-1到ChatGPT所配置的GPT-3，模型的參數(shù)量提升了約1700倍，預(yù)訓(xùn)練數(shù)據(jù)量則提升了約9000倍，并由LLM推動了半監(jiān)督學(xué)習(xí)向無監(jiān)督學(xué)習(xí)的轉(zhuǎn)變。

這種基于模型的人工智能產(chǎn)品（Model-Centric AI）可以更加靈活和高效地產(chǎn)生回應(yīng)，但卻產(chǎn)生了兩方面的問題：第一是大模型必須匹配大數(shù)據(jù)，而在海量的數(shù)據(jù)庫中則存在著數(shù)據(jù)良莠不齊的現(xiàn)象，并且有可能受到數(shù)據(jù)投毒和有偏見的數(shù)據(jù)影響，增加了治理的困難度；第二是在特定領(lǐng)域中，本身就無法產(chǎn)生大量數(shù)據(jù)來進(jìn)行模型訓(xùn)練。針對這種情況，吳恩達(dá)提出了“以數(shù)據(jù)為中心的人工智能”（Data-Centric AI）。這種人工智能的訓(xùn)練方式則更加關(guān)注優(yōu)質(zhì)數(shù)據(jù)，而非大數(shù)據(jù)，目前更被擁有專業(yè)數(shù)據(jù)的醫(yī)療行業(yè)所青睞，但也蘊(yùn)含著未來人工智能的發(fā)展機(jī)遇。因此，對于在LLM等大模型領(lǐng)域喪失先機(jī)的我國而言，如果能夠更加關(guān)注數(shù)據(jù)治理，提升數(shù)據(jù)質(zhì)量，設(shè)計(jì)一套規(guī)范來明確專業(yè)數(shù)據(jù)的采集和訓(xùn)練，率先進(jìn)入數(shù)據(jù)為中心的人工智能發(fā)展賽道，則不僅能夠規(guī)避LLM和AIGC當(dāng)前的風(fēng)險(xiǎn)，也能在更多行業(yè)中發(fā)揮出優(yōu)質(zhì)人工智能的賦能價(jià)值。

第三，建立AIGC相關(guān)的國際對話交流機(jī)制。在面對AIGC的治理這一新問題時(shí)，各國都缺少既有經(jīng)驗(yàn)，也都需要信息和情況的及時(shí)共享，以應(yīng)對新技術(shù)的不確定性難題。在此背景下，建立和完善相關(guān)的國際對話交流機(jī)制就成為了實(shí)現(xiàn)AIGC有效治理的重要環(huán)節(jié)。首先，各國可以依托既有的多邊機(jī)制，利用其平臺和資源增設(shè)專業(yè)化工作組與信息共享機(jī)制。比如說可以在聯(lián)合國框架下，仿照人工智能倫理建議特設(shè)專家組(AHEG)的實(shí)踐經(jīng)驗(yàn)，建設(shè)一個(gè)新的、旨在解決AIGC治理問題的特設(shè)專家組，為各國的治理實(shí)踐提供原則性指引。或者利用OECD人工智能治理工作組長期積累研究資源和積攢的研究經(jīng)驗(yàn)，進(jìn)行對AIGC治理的專題研究，為各國政策制定者提供更充分、透明的情報(bào)和信息。

各國還可以以共識為導(dǎo)向、以安全為準(zhǔn)繩進(jìn)行更加深度的雙邊治理合作。比如：聯(lián)合進(jìn)行AIGC的管理標(biāo)準(zhǔn)制定，聯(lián)合進(jìn)行AIGC的合規(guī)審查，聯(lián)合披露AIGC中的虛假信息等。國家間的雙邊治理合作有能夠針對AIGC的不確定性、涌現(xiàn)性和差異化等復(fù)雜的技術(shù)特點(diǎn)，制定更科學(xué)的審核標(biāo)準(zhǔn)和更完善的審核機(jī)制。

最后，加強(qiáng)國家之間的二軌合作也同樣是實(shí)現(xiàn)AIGC治理的有效途徑，為政府提供更加科學(xué)、客觀、系統(tǒng)的AIGC治理建議。二軌合作可以凝聚多利益攸關(guān)方的力量，以專業(yè)化和多維度的視角從技術(shù)風(fēng)險(xiǎn)、產(chǎn)業(yè)生態(tài)、社會影響等多重方面審視AIGC的發(fā)展態(tài)勢，有助于各國治理能力和治理水平的提升。

（魯傳穎，上海國際問題研究院公共政策與創(chuàng)新研究所副所長、研究員。本文標(biāo)題為編者所擬。）