“作為計(jì)算機(jī)科學(xué)教授，1984年我就做了一個(gè)關(guān)于人工智能的項(xiàng)目，可想而知AI的發(fā)展經(jīng)歷了多么漫長(zhǎng)的討論?！?英國(guó)南安普敦大學(xué)教授溫迪·霍爾（Wendy Hall）近日在第十二屆世界和平論壇上說(shuō)到這里時(shí)，臺(tái)上同席而坐的幾位專(zhuān)家笑稱那時(shí)候他們還是孩子。

霍爾上大學(xué)的時(shí)候還幾乎接觸不到電腦，在數(shù)學(xué)專(zhuān)業(yè)讀到博士畢業(yè)后，她對(duì)新出現(xiàn)的微型計(jì)算機(jī)頗感興趣，于是轉(zhuǎn)而攻讀計(jì)算機(jī)科學(xué)碩士，并在畢業(yè)時(shí)寫(xiě)了一個(gè)智能教學(xué)程序。她7月7日在北京接受澎湃新聞（m.dbgt.com.cn）專(zhuān)訪時(shí)說(shuō)，“那時(shí)我只是想眺望一下未來(lái)，看看我們可以怎樣依靠電腦來(lái)使用人工智能?！北藭r(shí)，全球范圍內(nèi)的人工智能正在從理論研究走向?qū)嶋H應(yīng)用。

英國(guó)南安普敦大學(xué)教授溫迪·霍爾（Wendy Hall）接受澎湃新聞專(zhuān)訪。

自那一眺望之后，霍爾帶領(lǐng)的團(tuán)隊(duì)在1988年開(kāi)發(fā)出微觀世界超媒體系統(tǒng)（Microcosm Hypermedia System），將文檔之間的鏈接存儲(chǔ)在單獨(dú)的數(shù)據(jù)庫(kù)中，來(lái)構(gòu)建一個(gè)更加互聯(lián)的網(wǎng)絡(luò)，那時(shí)候萬(wàn)維網(wǎng)還未出現(xiàn)。

“此后，我的職業(yè)生涯一直在使用人工智能。”霍爾說(shuō)道。

上世紀(jì)80年代末，霍爾在南安普頓大學(xué)計(jì)算機(jī)科學(xué)專(zhuān)業(yè)教了3年書(shū)之后，意識(shí)到一個(gè)奇怪的現(xiàn)象，這個(gè)專(zhuān)業(yè)的學(xué)生當(dāng)中沒(méi)有女性，英國(guó)其他高校也基本如此。她回憶，那個(gè)時(shí)候計(jì)算機(jī)被包裝為男孩的玩具進(jìn)行銷(xiāo)售，似乎與女性沒(méi)什么關(guān)系?！拔覀兙瓦@樣讓一代女性對(duì)計(jì)算機(jī)失去了興趣，之后此學(xué)科的性別比例也沒(méi)有完全恢復(fù)平衡，所以相應(yīng)的做人工智能的女性就更少了?！?/p>

不過(guò)，令她感到欣喜的是，聯(lián)合國(guó)層面的AI咨詢系統(tǒng)注意到了多樣性問(wèn)題。2023年霍爾入選聯(lián)合國(guó)人工智能高級(jí)別咨詢機(jī)構(gòu)（High-level Advisory Body on Artificial Intelligence），39名專(zhuān)家中包含20名女性和19名男性，代表33個(gè)國(guó)家。她強(qiáng)調(diào)，如果開(kāi)發(fā)人工智能的團(tuán)隊(duì)不具有多樣性，很有可能存在偏見(jiàn)和不公，因?yàn)橹皇怯脝我环绞剿伎肌?/p>

霍爾曾在2017年受英國(guó)政府之邀為國(guó)家撰寫(xiě)AI產(chǎn)業(yè)發(fā)展路線圖，兩周前還與時(shí)任英國(guó)首相蘇納克一起討論人工智能安全問(wèn)題。近一年，她和聯(lián)合國(guó)人工智能咨詢機(jī)構(gòu)的團(tuán)隊(duì)成員一起撰寫(xiě)《以人為本的人工智能治理》報(bào)告，報(bào)告最終版將于今夏發(fā)布。對(duì)于人工智能的治理與監(jiān)管，這位教授從英國(guó)和聯(lián)合國(guó)機(jī)構(gòu)的視角闡述了見(jiàn)解。

人工智能領(lǐng)域的女性角色

澎湃新聞：您從1984年就涉足人工智能領(lǐng)域，至今已經(jīng)有40年，這期間人工智能的技術(shù)和商業(yè)應(yīng)用已經(jīng)發(fā)生了翻天覆地的變化，您一直堅(jiān)守在這個(gè)學(xué)科進(jìn)行研究工作的動(dòng)力是什么？

溫迪·霍爾：我曾是一名數(shù)學(xué)家，博士畢業(yè)正值微型計(jì)算機(jī)開(kāi)始出現(xiàn)，當(dāng)時(shí)我想要在研究型大學(xué)工作，但因?yàn)樘贻p了找不到合適的崗位，也發(fā)現(xiàn)自己的能力無(wú)法與微型計(jì)算機(jī)的記憶力與算力匹敵。當(dāng)我了解到除了通過(guò)程序代碼之外，還可以與計(jì)算機(jī)進(jìn)行交互，在計(jì)算機(jī)上放置圖形和多媒體時(shí)，我對(duì)如何將其應(yīng)用于教育很感興趣，之后對(duì)超媒體（hypermedia）也變得非常感興趣，便開(kāi)始了研究的道路。

二三十年前，人們覺(jué)得計(jì)算機(jī)科學(xué)家杰弗里·辛頓（Jeffery Hinton）瘋了，因?yàn)樗粩嗵岢鲂曼c(diǎn)子，但這通常就是研究的方式，也是我為什么喜歡做研究的原因。我樂(lè)于被告知自己所做的研究永遠(yuǎn)不會(huì)實(shí)現(xiàn)，然后時(shí)隔多年我可以對(duì)人們說(shuō)，“看，我30年前所做的研究現(xiàn)在已經(jīng)實(shí)現(xiàn)?！蔽覍?duì)此感到非常自豪。比如在1990年代我就談?wù)撨^(guò)可穿戴計(jì)算機(jī)設(shè)備，并有視頻記錄，當(dāng)時(shí)人們問(wèn)我為什么需要可穿戴計(jì)算機(jī)，而現(xiàn)在智能穿戴已經(jīng)普及。

我不想為科技巨頭工作，因?yàn)楫a(chǎn)業(yè)界是利益驅(qū)動(dòng)的，必須專(zhuān)注于讓股價(jià)上漲和銷(xiāo)售產(chǎn)品。我在上世紀(jì)90年代確實(shí)創(chuàng)辦了一些初創(chuàng)公司，它們?nèi)〉昧瞬煌潭鹊某晒?，但并沒(méi)讓我變得富有。我在大學(xué)可以自由地思考，可以做感興趣的研究，是很棒的體驗(yàn)。

澎湃新聞：在人工智能領(lǐng)域，像您這樣的女性研究者并不多見(jiàn)，如何提高女性的參與度？

溫迪·霍爾：我認(rèn)為人工智能不應(yīng)該被視為計(jì)算機(jī)科學(xué)的一個(gè)子集，它比計(jì)算機(jī)科學(xué)要大得多。當(dāng)我們討論它時(shí)，不僅僅是在談?wù)摼幊蹋€在談?wù)撍膫惱?、治理、政策，我們需要立法者、人文學(xué)科研究者、商業(yè)人士、哲學(xué)家和心理學(xué)家。所以，性別、年齡、種族方面的多樣性非常重要，因?yàn)槿斯ぶ悄苁菫槿澜绱蛟斓摹?/p>

我非常擔(dān)心人工智能通過(guò)計(jì)算機(jī)科學(xué)來(lái)篩選人才，而研究計(jì)算機(jī)科學(xué)的女性非常少。所以相應(yīng)的，做人工智能的女性就更少了。從進(jìn)入人工智能領(lǐng)域至今40年，我仍然是該領(lǐng)域中少數(shù)女性之一。

澎湃新聞：人工智能領(lǐng)域中女性研究者較少是否會(huì)導(dǎo)致多樣性的缺失，進(jìn)而引發(fā)其他問(wèn)題？

溫迪·霍爾：我非常強(qiáng)烈地主張多樣性，如果只是單一文化，那么生產(chǎn)的任何東西，無(wú)論是研究還是產(chǎn)品，都更有可能存在偏見(jiàn)和不公，因?yàn)橹皇且砸环N方式思考。如果開(kāi)發(fā)人工智能的團(tuán)隊(duì)不具有多樣性，那從道德的層面來(lái)看是有問(wèn)題的。

當(dāng)然，聯(lián)合國(guó)人工智能高級(jí)別咨詢機(jī)構(gòu)的團(tuán)隊(duì)是極具多樣性的，不僅男女比例對(duì)半分，在年齡、種族、商業(yè)背景方面也非常多樣化。所以這是一個(gè)很棒的團(tuán)隊(duì)，是多樣性的一個(gè)典范。

AI規(guī)則制定應(yīng)由誰(shuí)主導(dǎo)

澎湃新聞：人工智能高級(jí)別咨詢機(jī)構(gòu)的39名專(zhuān)家分布在33個(gè)不同國(guó)家，每個(gè)大洲都有代表。當(dāng)不同國(guó)家、學(xué)科和背景的專(zhuān)家一起制定報(bào)告時(shí)會(huì)有怎樣的分歧？

溫迪·霍爾：因?yàn)樾〗M具有多樣性，各個(gè)地區(qū)的專(zhuān)家都非常深入地參與其中，所有專(zhuān)家都敢于說(shuō)出自己的想法，因此我們不是在每件事上都意見(jiàn)一致。但之所以機(jī)構(gòu)運(yùn)行成功，很大程度上歸功于聯(lián)合國(guó)的領(lǐng)導(dǎo)，尤其是聯(lián)合國(guó)秘書(shū)長(zhǎng)技術(shù)特使阿曼迪普?吉爾，他是一個(gè)非常有影響力的人物，但他并不顯得高高在上，通常能讓每個(gè)人以自己的方式行事，他鼓勵(lì)人們發(fā)言，讓人們真正參與到討論中。通常來(lái)說(shuō)每個(gè)人都會(huì)發(fā)聲，這就是全面的多樣性，這讓我深有感觸。

我特別喜歡聽(tīng)團(tuán)隊(duì)中的法律從業(yè)者以不同的方式去思考世界，非常合乎邏輯。我們彼此了解，已經(jīng)進(jìn)行了多次線上和線下會(huì)議，包括一些深入的探討，包括開(kāi)源、人工智能的和平，以及兒童和性別等各種議題。

澎湃新聞：聯(lián)合國(guó)人工智能高級(jí)別咨詢機(jī)構(gòu)去年12月發(fā)布了《以人為本的人工智能治理》中期報(bào)告，呼吁將國(guó)際規(guī)范與人工智能的開(kāi)發(fā)和推廣方式更緊密地結(jié)合起來(lái)。最終報(bào)告尚未發(fā)布，現(xiàn)在的工作進(jìn)展如何？

溫迪·霍爾：最終報(bào)告已經(jīng)基本完成了并提交給了聯(lián)合國(guó)秘書(shū)長(zhǎng)，還會(huì)有一些反饋意見(jiàn)，可能后期會(huì)更新和迭代，最重要的是聯(lián)合國(guó)領(lǐng)導(dǎo)層是否樂(lè)于接受我們所提出的內(nèi)容，我們必須要以他們能接受的方式堅(jiān)定地說(shuō)出想說(shuō)的話。這份報(bào)告將作為今年9月未來(lái)峰會(huì)（Summit of the Future）上將討論的全球數(shù)字契約的一部分。我們非常希望報(bào)告中的大部分內(nèi)容被納入契約。

對(duì)于報(bào)告的細(xì)節(jié)，我們?yōu)槁?lián)合國(guó)和人工智能機(jī)構(gòu)留有探討的空間和其他可能性，我們?cè)L問(wèn)了世界衛(wèi)生組織、知識(shí)產(chǎn)權(quán)組織、人權(quán)組織、國(guó)際電信聯(lián)盟（ITU），他們都在推進(jìn)有關(guān)人工智能的工作，但往往只能看到自己關(guān)注的那一部分，我們正試圖跨越這個(gè)障礙，構(gòu)建一個(gè)網(wǎng)絡(luò)是一種解決方案。

澎湃新聞：小到科研機(jī)構(gòu)、科技公司，大到國(guó)家政府和聯(lián)合國(guó)，都在不同層面討論和制定人工智能相關(guān)的規(guī)則來(lái)盡可能地確保安全，那么究竟哪一方享有規(guī)則制定的主導(dǎo)權(quán)？

溫迪·霍爾：國(guó)家政府在規(guī)則制定方面有很大的影響力，比如英國(guó)去年成立了人工智能安全研究所，旨在提高對(duì)人工智能安全的認(rèn)識(shí)。但我并不是很贊同這種做法，因?yàn)樗^(guò)多地帶有政府部門(mén)的色彩，缺乏學(xué)術(shù)界的參與。而聯(lián)合國(guó)是世界上唯一真正具有普遍性的全球組織，可以處理各種問(wèn)題，盡管它可能是不完美的，但是我們可以利用這樣一個(gè)平臺(tái)來(lái)構(gòu)建一個(gè)AI治理的網(wǎng)絡(luò)。

澎湃新聞：英國(guó)去年主辦了一次國(guó)際人工智能安全峰會(huì)，時(shí)任首相蘇納克說(shuō)：“目前唯一測(cè)試人工智能模型安全性的是開(kāi)發(fā)它的公司?！彼J(rèn)為這是遠(yuǎn)遠(yuǎn)不夠的。那么如何讓更多人參與到人工智能安全性的檢測(cè)和提升當(dāng)中？

當(dāng)?shù)貢r(shí)間2023年11月2日，英國(guó)倫敦，人工智能安全峰會(huì)期間，英國(guó)時(shí)任首相蘇納克與特斯拉CEO馬斯克出席一場(chǎng)對(duì)話活動(dòng)。視覺(jué)中國(guó) 圖

溫迪·霍爾：談到去年在英國(guó)舉辦的人工智能峰會(huì)，非常坦率地講，讓我惱火的是有很多國(guó)家沒(méi)有被邀請(qǐng)，受邀的標(biāo)準(zhǔn)并不清楚，而且很多學(xué)者完全被排除在外。

關(guān)于人工智能的安全性，在很多行業(yè)，一般是行業(yè)開(kāi)發(fā)測(cè)試工具對(duì)產(chǎn)品進(jìn)行檢測(cè)，然后提交報(bào)告給政府接受監(jiān)管，這也是目前人工智能遵循的一套規(guī)則。在英國(guó)，人工智能安全研究所都不一定能夠訪問(wèn)那些科技公司的數(shù)據(jù)，更不用說(shuō)其他機(jī)構(gòu)和個(gè)人。我認(rèn)為公司管理安全性和政府監(jiān)管的平衡需要更進(jìn)一步優(yōu)化。

兩周前，我見(jiàn)了蘇納克首相，當(dāng)時(shí)和他談?wù)摿巳斯ぶ悄?，我?wèn)他試圖通過(guò)AI安全研究所達(dá)成什么目標(biāo)。他充滿熱情，希望英國(guó)能成為人工智能安全領(lǐng)域的領(lǐng)導(dǎo)者，但實(shí)際上這是一個(gè)全球性問(wèn)題。而且我認(rèn)為很多研究應(yīng)該在大學(xué)里進(jìn)行，由商業(yè)公司來(lái)支付費(fèi)用，然后由政府來(lái)監(jiān)管技術(shù)的開(kāi)發(fā)，而且政府需要派人到人工智能的最前沿，以便了解正在發(fā)生什么并進(jìn)行監(jiān)管。

別讓ChatGPT做簡(jiǎn)單數(shù)學(xué)題

澎湃新聞：您既參與了2017年英國(guó)人工智能獨(dú)立報(bào)告的制定，也參與了聯(lián)合國(guó)人工智能高級(jí)別咨詢機(jī)構(gòu)的AI治理工作，如何看待歐盟最新發(fā)布的人工智能法案？一些科技公司指責(zé)這樣的法案會(huì)打擊創(chuàng)新，您怎么看？

溫迪·霍爾：我們必須在創(chuàng)新和監(jiān)管之間找到正確的平衡。我認(rèn)為英國(guó)的手段太軟了，當(dāng)然也對(duì)創(chuàng)新比較友好。實(shí)際上不管是歐盟還是英國(guó)制定的監(jiān)管方案，確保安全的目標(biāo)是一致的，只是實(shí)現(xiàn)的手段不同。

我們必須要有強(qiáng)力的法規(guī)，如果只是科技公司自我監(jiān)管是不夠的。就像煙草行業(yè)，人們都知道吸煙的害處，但如果不制定相關(guān)法規(guī)，煙草公司為了盈利會(huì)以自己的方式制造和銷(xiāo)售香煙。不同國(guó)家的法律會(huì)有所不同，但我們需要在聯(lián)合國(guó)層面上形成一定的原則，各國(guó)可以在這樣的原則基礎(chǔ)上制定自己的法規(guī)。

澎湃新聞：您在社交平臺(tái)上分享了一份有關(guān)深度偽造（Deepfake）的聯(lián)名書(shū)，呼吁制定新的法律法規(guī)，保護(hù)人們免受深度造假的危害?，F(xiàn)在深度偽造帶來(lái)的哪些危害值得重點(diǎn)關(guān)注？應(yīng)該從哪些方面努力去應(yīng)對(duì)這種危害？

溫迪·霍爾：可以看到今年有很多國(guó)家舉行選舉，我們很擔(dān)心深度偽造會(huì)改變?nèi)藗冊(cè)谶x舉中的投票，現(xiàn)在通過(guò)任何法律或技術(shù)都很難解決這個(gè)問(wèn)題。比如有專(zhuān)家提到可以運(yùn)用水印來(lái)防止偽造，實(shí)際上水印也很容易破解。

我認(rèn)為每個(gè)人都應(yīng)該意識(shí)到人工智能能做什么以及它如何被濫用來(lái)制造虛假信息和深度偽造。我們不能期望政府做所有事情，而且也不希望政府和科技公司成為審查者。真正困難的是，誰(shuí)來(lái)判定某件事或某個(gè)信息的真實(shí)性，而且這也涉及到言論自由和隱私的問(wèn)題。因此還是要回歸到人們的意識(shí)問(wèn)題，需要每個(gè)人都認(rèn)識(shí)到人工智能應(yīng)該如何被正當(dāng)使用。

澎湃新聞：您在演講中提到生成式人工智能工具ChatGPT改變了很多，在開(kāi)發(fā)和使用生成式人工智能的進(jìn)程中有哪些需要關(guān)注的風(fēng)險(xiǎn)或盲區(qū)？

溫迪·霍爾：我想強(qiáng)調(diào)人工智能的耗能問(wèn)題，它的龐大電力需求是一個(gè)值得關(guān)注的問(wèn)題。人們很多時(shí)候不正當(dāng)?shù)厥褂蒙墒饺斯ぶ悄?，?duì)ChatGPT提出極其簡(jiǎn)單的請(qǐng)求，比如輸入簡(jiǎn)單的算術(shù)題，這太瘋狂了。我們需要負(fù)責(zé)任地使用人工智能，一些在搜索引擎中可以查找的信息不需要用資源密集型的生成式人工智能來(lái)完成。當(dāng)公司銷(xiāo)售產(chǎn)品時(shí)，不應(yīng)該說(shuō)現(xiàn)在可以用這個(gè)來(lái)做所有事情，而應(yīng)該思考如何確保以一種負(fù)責(zé)任的方式使用它。

當(dāng)然，對(duì)于人工智能的發(fā)展我還是比較樂(lè)觀的，重要的是要看怎么樣和人工智能進(jìn)行合作，比如AI在糧食安全、氣候變化、能源、醫(yī)療衛(wèi)生方面已經(jīng)有很多突破，這是很棒的進(jìn)展。我們要支持人工智能向好的方向發(fā)展，要建立一個(gè)機(jī)制去確保安全，這是一個(gè)漫長(zhǎng)的旅程，我們不應(yīng)該反對(duì)人工智能，而是要和人工智能進(jìn)行協(xié)作，因?yàn)槿斯ぶ悄芸梢詭椭祟?lèi)有一個(gè)更好的未來(lái)。