人工智能開發(fā)領域的一位領軍人物警告說，人工智能已經(jīng)發(fā)展出初級的推理能力，并可能尋求推翻人類。

多倫多大學計算機科學教授杰弗里?辛頓（Geoffrey Hinton）說，人工智能系統(tǒng)可能會發(fā)展出從人類手中奪取控制權的愿望，作為它們實現(xiàn)其它預編程序目標的一種方式。

6月28日，辛頓在加拿大多倫多舉行的碰撞技術大會（Collision tech conference）上發(fā)言時說，“我認為我們必須認真對待這種可能性，如果它們變得比我們更聰明（這似乎很有可能），而且它們有自己的追求（這似乎很有可能），它們很可能會發(fā)展出奪取控制權的追求。”

“如果它們這么做，我們就有麻煩了?！?/p>

辛頓因其在神經(jīng)網(wǎng)絡方面的成就而被稱為“人工智能教父”之一。他最近花了十年時間幫助谷歌開發(fā)人工智能系統(tǒng)，但在上個月離開了該公司，說他需要能夠警告人們人工智能帶來的風險。

雖然辛頓不認為人工智能天生渴望權力，但他說，它仍然可以尋求從人類手中奪取權力，作為一個合乎邏輯的步驟，以更好地實現(xiàn)自己的目標。

辛頓問道，“總體上說，如果有某種東西比你聰明得多，非常擅長操縱人，而且達到了非常普遍的程度，你有信心讓人們保持掌控嗎？”

他說，“我認為它們會衍生出（奪取控制權的動機），作為實現(xiàn)其它目標的一種方式。”

人工智能現(xiàn)在具有推理能力

辛頓曾經(jīng)懷疑，在未來30到50年內能否出現(xiàn)一個能與人類相媲美的超級人工智能（AI superintelligence）。他現(xiàn)在認為，它可能在不到20年內就會出現(xiàn)。

他說，部分原因在于，使用大型語言模型的人工智能系統(tǒng)開始顯示出推理能力，而他不確定它們是如何做到的。

他說，“其大型語言模型正在接近（我們），我真的弄不明白它們是怎么做到的，它們可以做一些小的推理?！?/p>

“它們仍然無法與我們匹敵，但是它們已經(jīng)很接近了?！?/p>

辛頓描述了一個人工智能系統(tǒng)：該系統(tǒng)接到了一個難題，必須計劃如何粉刷一個房子的幾個房間。它有三種顏色可選擇，其中一種顏色會隨著時間的推移而褪色，成為另一種顏色。它被要求在規(guī)定的時間內將一定數(shù)量的房間涂成特定的顏色，結果，人工智能沒有僅僅選擇將房間刷成所需的顏色，還決定不去粉刷那些它知道最終會褪色成所需顏色的房間，來選擇節(jié)省資源，盡管它并沒有被編程去這樣做。

辛頓說，“這就是思考?！?/p>

為此，辛頓說，沒有理由懷疑人工智能在未來幾年內不會達到，甚至超過人類的智力。

辛頓說，“我們就是一個大的神經(jīng)網(wǎng)，沒有理由否認人工神經(jīng)網(wǎng)能做我們能做的一切?！?/p>

“我們正在進入一個巨大的充滿不確定性的時期。沒有人真正知道會發(fā)生什么?！?/p>

2023年2月3日，在一臺筆記本電腦上，ChatGPT人工智能軟件可以生成類似人類的對話。(Nicolas Maeterlinck/Belga Mag/AFP via Getty Images)

戰(zhàn)爭機器人將破壞世界的穩(wěn)定

人工智能甚至可能不需要達到超級智能，就能對人類生存構成風險。

辛頓說，世界各地的軍隊正在為進行戰(zhàn)爭制造人工智能機器人，這些機器人可能會尋求控制權以完成其被編程的任務，或者尋求通過挑起更多沖突來擾亂政治秩序。

辛頓說，“它們是致命的自主武器，值得我們深思?！?/p>

他說，“即使人工智能不是超級智能，但是如果國防部門用它來制造戰(zhàn)斗機器人，那也將是非常糟糕、令人恐懼的事情。”

在那些尋求開發(fā)致命性人工智能的國家中，最重要的莫過于世界上最大的兩個軍事強國：中國和美國。

目前中共政權正在開發(fā)具有人工智能功能的致命系統(tǒng)，同時投資于與軍事決策、指揮和控制有關的人工智能能力。

與此同時，美國正在為未來做準備，屆時世界各國的軍隊主要由機器人組成，高層預計這種情況在15年之內就會發(fā)生。

辛頓說，“我們知道他們將制造戰(zhàn)斗機器人，他們正忙于在許多不同的國防部門做這件事，所以（機器人）不一定是好東西，因為它們的主要目的是殺人?！?/p>

此外，辛頓建議，由人工智能驅動的致命性自主系統(tǒng)一旦出現(xiàn)，將從根本上改變地緣政治結構，大幅降低那些有能力負擔此類系統(tǒng)的國家的政治和人力成本。

辛頓說，“即使它不是超級智能，沒有自己的意圖……它也將使，例如，富國入侵窮國，變得更加容易?！?/p>

“目前，無可奈何的是，入侵窮國都有一個障礙，那就是你的公民會死在戰(zhàn)場上；如果死去的只是戰(zhàn)斗機器人，那真是太好了，軍工企業(yè)會喜歡這樣。”

為此，辛頓表示，政府應該鼓勵人們更多地研究如何保護人類免受人工智能的侵害。簡而言之，他說，很多人都在努力改進人工智能，但很少有人研究如何讓它變得更安全。

他說，最好的辦法是建立國際規(guī)則，禁止、限制開發(fā)人工智能武器系統(tǒng)，就像在第一次世界大戰(zhàn)后《日內瓦議定書》對化學戰(zhàn)所做限制那樣。

辛頓說，“類似于《日內瓦公約》（Geneva Convention）這樣的東西固然很了不起，但是，這些東西總是在災難發(fā)生后才會出現(xiàn)?！?/p>

他強調，無論政府在人工智能方面會不會采取什么行動，人們都必須意識到正在開發(fā)的人工智能正在給人類帶來威脅。

辛頓說，“我認為重要的是，人們要明白，這可不只是科幻小說，也不僅僅是散布恐懼，而是一個我們需要思考的真實存在的風險，我們需要提前想好如何應對?！?/p>