(資料圖片僅供參考)

6月10日，在2023北京智源大會(huì)上，圖靈獎(jiǎng)得主、中國科學(xué)院院士姚期智與加州伯克利分校教授Stuart Russell在AI安全與對(duì)齊專題論壇進(jìn)行了專家對(duì)談。

姚期智認(rèn)為，在考慮如何控制AI的問題前，人類需要先真正解決自身的問題。對(duì)于AI技術(shù)，當(dāng)前正是一個(gè)重要窗口。在AGI被創(chuàng)造之前、在軍備競賽開展之前，我們急需形成共識(shí)，共同合作搭建一個(gè)AI治理結(jié)構(gòu)。

“我們應(yīng)該如何阻止人類生產(chǎn)強(qiáng)大的AI機(jī)器，以免以犧牲他人為代價(jià)來實(shí)現(xiàn)他們的個(gè)人目標(biāo)？”在對(duì)談中，姚期智表示，“我們不應(yīng)該假設(shè)機(jī)器是公正的，機(jī)器可能會(huì)試圖改變?nèi)祟惖男袨椋鼫?zhǔn)確來說，可能是機(jī)器的所有者想要改變其他人的行為，而這種意圖隱藏在某些復(fù)雜程序背后?！?/strong>

加州伯克利分校教授Stuart Russell在會(huì)上表示，通用人工智能（AGI）還沒達(dá)到，大語言模型只是其中一塊拼圖，我們連拼圖最終會(huì)是什么樣子，缺哪些還不確定。

他表示，ChatGPT和GPT-4沒有在“回答”問題，它們不理解世界。

Russell認(rèn)為，人工智能應(yīng)該是一門科學(xué)，在某種意義上，我們理解我們構(gòu)建的結(jié)構(gòu)如何與我們想要它們擁有的屬性相關(guān)聯(lián)。就像我們制造飛機(jī)一樣，飛機(jī)有物理形狀和發(fā)動(dòng)機(jī)等等。我們可以展示這與我們想要的屬性之間的關(guān)系，那就是留在空氣中：

目前，特別是大型語言模型領(lǐng)域，并不是一門這樣的科學(xué)。我們不知道它為什么會(huì)帶來財(cái)產(chǎn)。它存在我們甚至不知道它有什么屬性。我們當(dāng)然不能將這些與內(nèi)部發(fā)生的事情聯(lián)系起來，因?yàn)槲覀儾涣私鈨?nèi)部發(fā)生的事情。因此從這個(gè)意義上說，人工智能是一門更深層次的科學(xué)。

Russell指出，最重要的擔(dān)憂來自于科技公司之間似乎不受約束的競爭，他們已經(jīng)表示不會(huì)停止開發(fā)越來越強(qiáng)大的系統(tǒng)，無論風(fēng)險(xiǎn)如何。人類可能會(huì)失去對(duì)世界和我們自己未來的控制，就像大猩猩因?yàn)槿祟惗チ藢?duì)自己未來的控制一樣。