“作為計算機科學(xué)教授，1984年我就做了一個關(guān)于人工智能的項目，可想而知AI的發(fā)展經(jīng)歷了多么漫長的討論?！?英國南安普敦大學(xué)教授溫迪·霍爾（Wendy Hall）近日在第十二屆世界和平論壇上說到這里時，臺上同席而坐的幾位專家笑稱那時候他們還是孩子。

霍爾上大學(xué)的時候還幾乎接觸不到電腦，在數(shù)學(xué)專業(yè)讀到博士畢業(yè)后，她對新出現(xiàn)的微型計算機頗感興趣，于是轉(zhuǎn)而攻讀計算機科學(xué)碩士，并在畢業(yè)時寫了一個智能教學(xué)程序。她7月7日在北京接受澎湃新聞（m.dbgt.com.cn）專訪時說，“那時我只是想眺望一下未來，看看我們可以怎樣依靠電腦來使用人工智能?！北藭r，全球范圍內(nèi)的人工智能正在從理論研究走向?qū)嶋H應(yīng)用。

英國南安普敦大學(xué)教授溫迪·霍爾（Wendy Hall）接受澎湃新聞專訪。

自那一眺望之后，霍爾帶領(lǐng)的團隊在1988年開發(fā)出微觀世界超媒體系統(tǒng)（Microcosm Hypermedia System），將文檔之間的鏈接存儲在單獨的數(shù)據(jù)庫中，來構(gòu)建一個更加互聯(lián)的網(wǎng)絡(luò)，那時候萬維網(wǎng)還未出現(xiàn)。

“此后，我的職業(yè)生涯一直在使用人工智能?！被魻栒f道。

上世紀80年代末，霍爾在南安普頓大學(xué)計算機科學(xué)專業(yè)教了3年書之后，意識到一個奇怪的現(xiàn)象，這個專業(yè)的學(xué)生當中沒有女性，英國其他高校也基本如此。她回憶，那個時候計算機被包裝為男孩的玩具進行銷售，似乎與女性沒什么關(guān)系?！拔覀兙瓦@樣讓一代女性對計算機失去了興趣，之后此學(xué)科的性別比例也沒有完全恢復(fù)平衡，所以相應(yīng)的做人工智能的女性就更少了?！?/p>

不過，令她感到欣喜的是，聯(lián)合國層面的AI咨詢系統(tǒng)注意到了多樣性問題。2023年霍爾入選聯(lián)合國人工智能高級別咨詢機構(gòu)（High-level Advisory Body on Artificial Intelligence），39名專家中包含20名女性和19名男性，代表33個國家。她強調(diào)，如果開發(fā)人工智能的團隊不具有多樣性，很有可能存在偏見和不公，因為只是用單一方式思考。

霍爾曾在2017年受英國政府之邀為國家撰寫AI產(chǎn)業(yè)發(fā)展路線圖，兩周前還與時任英國首相蘇納克一起討論人工智能安全問題。近一年，她和聯(lián)合國人工智能咨詢機構(gòu)的團隊成員一起撰寫《以人為本的人工智能治理》報告，報告最終版將于今夏發(fā)布。對于人工智能的治理與監(jiān)管，這位教授從英國和聯(lián)合國機構(gòu)的視角闡述了見解。

人工智能領(lǐng)域的女性角色

澎湃新聞：您從1984年就涉足人工智能領(lǐng)域，至今已經(jīng)有40年，這期間人工智能的技術(shù)和商業(yè)應(yīng)用已經(jīng)發(fā)生了翻天覆地的變化，您一直堅守在這個學(xué)科進行研究工作的動力是什么？

溫迪·霍爾：我曾是一名數(shù)學(xué)家，博士畢業(yè)正值微型計算機開始出現(xiàn)，當時我想要在研究型大學(xué)工作，但因為太年輕了找不到合適的崗位，也發(fā)現(xiàn)自己的能力無法與微型計算機的記憶力與算力匹敵。當我了解到除了通過程序代碼之外，還可以與計算機進行交互，在計算機上放置圖形和多媒體時，我對如何將其應(yīng)用于教育很感興趣，之后對超媒體（hypermedia）也變得非常感興趣，便開始了研究的道路。

二三十年前，人們覺得計算機科學(xué)家杰弗里·辛頓（Jeffery Hinton）瘋了，因為他不斷提出新點子，但這通常就是研究的方式，也是我為什么喜歡做研究的原因。我樂于被告知自己所做的研究永遠不會實現(xiàn)，然后時隔多年我可以對人們說，“看，我30年前所做的研究現(xiàn)在已經(jīng)實現(xiàn)?！蔽覍Υ烁械椒浅Ｗ院馈１热缭?990年代我就談?wù)撨^可穿戴計算機設(shè)備，并有視頻記錄，當時人們問我為什么需要可穿戴計算機，而現(xiàn)在智能穿戴已經(jīng)普及。

我不想為科技巨頭工作，因為產(chǎn)業(yè)界是利益驅(qū)動的，必須專注于讓股價上漲和銷售產(chǎn)品。我在上世紀90年代確實創(chuàng)辦了一些初創(chuàng)公司，它們?nèi)〉昧瞬煌潭鹊某晒?，但并沒讓我變得富有。我在大學(xué)可以自由地思考，可以做感興趣的研究，是很棒的體驗。

澎湃新聞：在人工智能領(lǐng)域，像您這樣的女性研究者并不多見，如何提高女性的參與度？

溫迪·霍爾：我認為人工智能不應(yīng)該被視為計算機科學(xué)的一個子集，它比計算機科學(xué)要大得多。當我們討論它時，不僅僅是在談?wù)摼幊?，還在談?wù)撍膫惱怼⒅卫?、政策，我們需要立法者、人文學(xué)科研究者、商業(yè)人士、哲學(xué)家和心理學(xué)家。所以，性別、年齡、種族方面的多樣性非常重要，因為人工智能是為全世界打造的。

我非常擔心人工智能通過計算機科學(xué)來篩選人才，而研究計算機科學(xué)的女性非常少。所以相應(yīng)的，做人工智能的女性就更少了。從進入人工智能領(lǐng)域至今40年，我仍然是該領(lǐng)域中少數(shù)女性之一。

澎湃新聞：人工智能領(lǐng)域中女性研究者較少是否會導(dǎo)致多樣性的缺失，進而引發(fā)其他問題？

溫迪·霍爾：我非常強烈地主張多樣性，如果只是單一文化，那么生產(chǎn)的任何東西，無論是研究還是產(chǎn)品，都更有可能存在偏見和不公，因為只是以一種方式思考。如果開發(fā)人工智能的團隊不具有多樣性，那從道德的層面來看是有問題的。

當然，聯(lián)合國人工智能高級別咨詢機構(gòu)的團隊是極具多樣性的，不僅男女比例對半分，在年齡、種族、商業(yè)背景方面也非常多樣化。所以這是一個很棒的團隊，是多樣性的一個典范。

AI規(guī)則制定應(yīng)由誰主導(dǎo)

澎湃新聞：人工智能高級別咨詢機構(gòu)的39名專家分布在33個不同國家，每個大洲都有代表。當不同國家、學(xué)科和背景的專家一起制定報告時會有怎樣的分歧？

溫迪·霍爾：因為小組具有多樣性，各個地區(qū)的專家都非常深入地參與其中，所有專家都敢于說出自己的想法，因此我們不是在每件事上都意見一致。但之所以機構(gòu)運行成功，很大程度上歸功于聯(lián)合國的領(lǐng)導(dǎo)，尤其是聯(lián)合國秘書長技術(shù)特使阿曼迪普?吉爾，他是一個非常有影響力的人物，但他并不顯得高高在上，通常能讓每個人以自己的方式行事，他鼓勵人們發(fā)言，讓人們真正參與到討論中。通常來說每個人都會發(fā)聲，這就是全面的多樣性，這讓我深有感觸。

我特別喜歡聽團隊中的法律從業(yè)者以不同的方式去思考世界，非常合乎邏輯。我們彼此了解，已經(jīng)進行了多次線上和線下會議，包括一些深入的探討，包括開源、人工智能的和平，以及兒童和性別等各種議題。

澎湃新聞：聯(lián)合國人工智能高級別咨詢機構(gòu)去年12月發(fā)布了《以人為本的人工智能治理》中期報告，呼吁將國際規(guī)范與人工智能的開發(fā)和推廣方式更緊密地結(jié)合起來。最終報告尚未發(fā)布，現(xiàn)在的工作進展如何？

溫迪·霍爾：最終報告已經(jīng)基本完成了并提交給了聯(lián)合國秘書長，還會有一些反饋意見，可能后期會更新和迭代，最重要的是聯(lián)合國領(lǐng)導(dǎo)層是否樂于接受我們所提出的內(nèi)容，我們必須要以他們能接受的方式堅定地說出想說的話。這份報告將作為今年9月未來峰會（Summit of the Future）上將討論的全球數(shù)字契約的一部分。我們非常希望報告中的大部分內(nèi)容被納入契約。

對于報告的細節(jié)，我們?yōu)槁?lián)合國和人工智能機構(gòu)留有探討的空間和其他可能性，我們訪問了世界衛(wèi)生組織、知識產(chǎn)權(quán)組織、人權(quán)組織、國際電信聯(lián)盟（ITU），他們都在推進有關(guān)人工智能的工作，但往往只能看到自己關(guān)注的那一部分，我們正試圖跨越這個障礙，構(gòu)建一個網(wǎng)絡(luò)是一種解決方案。

澎湃新聞：小到科研機構(gòu)、科技公司，大到國家政府和聯(lián)合國，都在不同層面討論和制定人工智能相關(guān)的規(guī)則來盡可能地確保安全，那么究竟哪一方享有規(guī)則制定的主導(dǎo)權(quán)？

溫迪·霍爾：國家政府在規(guī)則制定方面有很大的影響力，比如英國去年成立了人工智能安全研究所，旨在提高對人工智能安全的認識。但我并不是很贊同這種做法，因為它過多地帶有政府部門的色彩，缺乏學(xué)術(shù)界的參與。而聯(lián)合國是世界上唯一真正具有普遍性的全球組織，可以處理各種問題，盡管它可能是不完美的，但是我們可以利用這樣一個平臺來構(gòu)建一個AI治理的網(wǎng)絡(luò)。

澎湃新聞：英國去年主辦了一次國際人工智能安全峰會，時任首相蘇納克說：“目前唯一測試人工智能模型安全性的是開發(fā)它的公司?！彼J為這是遠遠不夠的。那么如何讓更多人參與到人工智能安全性的檢測和提升當中？

當?shù)貢r間2023年11月2日，英國倫敦，人工智能安全峰會期間，英國時任首相蘇納克與特斯拉CEO馬斯克出席一場對話活動。視覺中國 圖

溫迪·霍爾：談到去年在英國舉辦的人工智能峰會，非常坦率地講，讓我惱火的是有很多國家沒有被邀請，受邀的標準并不清楚，而且很多學(xué)者完全被排除在外。

關(guān)于人工智能的安全性，在很多行業(yè)，一般是行業(yè)開發(fā)測試工具對產(chǎn)品進行檢測，然后提交報告給政府接受監(jiān)管，這也是目前人工智能遵循的一套規(guī)則。在英國，人工智能安全研究所都不一定能夠訪問那些科技公司的數(shù)據(jù)，更不用說其他機構(gòu)和個人。我認為公司管理安全性和政府監(jiān)管的平衡需要更進一步優(yōu)化。

兩周前，我見了蘇納克首相，當時和他談?wù)摿巳斯ぶ悄埽覇査噲D通過AI安全研究所達成什么目標。他充滿熱情，希望英國能成為人工智能安全領(lǐng)域的領(lǐng)導(dǎo)者，但實際上這是一個全球性問題。而且我認為很多研究應(yīng)該在大學(xué)里進行，由商業(yè)公司來支付費用，然后由政府來監(jiān)管技術(shù)的開發(fā)，而且政府需要派人到人工智能的最前沿，以便了解正在發(fā)生什么并進行監(jiān)管。

別讓ChatGPT做簡單數(shù)學(xué)題

澎湃新聞：您既參與了2017年英國人工智能獨立報告的制定，也參與了聯(lián)合國人工智能高級別咨詢機構(gòu)的AI治理工作，如何看待歐盟最新發(fā)布的人工智能法案？一些科技公司指責(zé)這樣的法案會打擊創(chuàng)新，您怎么看？

溫迪·霍爾：我們必須在創(chuàng)新和監(jiān)管之間找到正確的平衡。我認為英國的手段太軟了，當然也對創(chuàng)新比較友好。實際上不管是歐盟還是英國制定的監(jiān)管方案，確保安全的目標是一致的，只是實現(xiàn)的手段不同。

我們必須要有強力的法規(guī)，如果只是科技公司自我監(jiān)管是不夠的。就像煙草行業(yè)，人們都知道吸煙的害處，但如果不制定相關(guān)法規(guī)，煙草公司為了盈利會以自己的方式制造和銷售香煙。不同國家的法律會有所不同，但我們需要在聯(lián)合國層面上形成一定的原則，各國可以在這樣的原則基礎(chǔ)上制定自己的法規(guī)。

澎湃新聞：您在社交平臺上分享了一份有關(guān)深度偽造（Deepfake）的聯(lián)名書，呼吁制定新的法律法規(guī)，保護人們免受深度造假的危害?，F(xiàn)在深度偽造帶來的哪些危害值得重點關(guān)注？應(yīng)該從哪些方面努力去應(yīng)對這種危害？

溫迪·霍爾：可以看到今年有很多國家舉行選舉，我們很擔心深度偽造會改變?nèi)藗冊谶x舉中的投票，現(xiàn)在通過任何法律或技術(shù)都很難解決這個問題。比如有專家提到可以運用水印來防止偽造，實際上水印也很容易破解。

我認為每個人都應(yīng)該意識到人工智能能做什么以及它如何被濫用來制造虛假信息和深度偽造。我們不能期望政府做所有事情，而且也不希望政府和科技公司成為審查者。真正困難的是，誰來判定某件事或某個信息的真實性，而且這也涉及到言論自由和隱私的問題。因此還是要回歸到人們的意識問題，需要每個人都認識到人工智能應(yīng)該如何被正當使用。

澎湃新聞：您在演講中提到生成式人工智能工具ChatGPT改變了很多，在開發(fā)和使用生成式人工智能的進程中有哪些需要關(guān)注的風(fēng)險或盲區(qū)？

溫迪·霍爾：我想強調(diào)人工智能的耗能問題，它的龐大電力需求是一個值得關(guān)注的問題。人們很多時候不正當?shù)厥褂蒙墒饺斯ぶ悄埽瑢hatGPT提出極其簡單的請求，比如輸入簡單的算術(shù)題，這太瘋狂了。我們需要負責(zé)任地使用人工智能，一些在搜索引擎中可以查找的信息不需要用資源密集型的生成式人工智能來完成。當公司銷售產(chǎn)品時，不應(yīng)該說現(xiàn)在可以用這個來做所有事情，而應(yīng)該思考如何確保以一種負責(zé)任的方式使用它。

當然，對于人工智能的發(fā)展我還是比較樂觀的，重要的是要看怎么樣和人工智能進行合作，比如AI在糧食安全、氣候變化、能源、醫(yī)療衛(wèi)生方面已經(jīng)有很多突破，這是很棒的進展。我們要支持人工智能向好的方向發(fā)展，要建立一個機制去確保安全，這是一個漫長的旅程，我們不應(yīng)該反對人工智能，而是要和人工智能進行協(xié)作，因為人工智能可以幫助人類有一個更好的未來。