Geoff Hinton speaking by video at MIT Technology Review"s EmTech Digital conference in Boston

(資料圖)

鈦媒體注：近日，鈦媒體特約作者、"Eye on AI"播主Craig Smith參加了由《麻省理工技術(shù)評(píng)論》雜志主辦的EmTech Digital 2023會(huì)議。在會(huì)議上，作為人工智能發(fā)展的開創(chuàng)性人物，杰弗里·埃弗里斯特·辛頓（Geoffrey Everest Hinton）一改往日對(duì)待AI的態(tài)度，描述了他所參與創(chuàng)造的技術(shù)給人們帶來的可怕景象，這讓科學(xué)界感到震驚。

“我敲響的警鐘與強(qiáng)大AI帶來的生存威脅有關(guān)，它們可能會(huì)掌控一切。我曾經(jīng)認(rèn)為這種情況還遙不可及，但現(xiàn)在我認(rèn)為這是一個(gè)嚴(yán)重且相當(dāng)迫切的問題?！毙令D通過視頻在大會(huì)上發(fā)言時(shí)表示。

自半個(gè)世紀(jì)前嘗試從事木匠工作失敗以來，辛頓一直走在機(jī)器學(xué)習(xí)研究的最前沿。在經(jīng)歷了這段短暫的彎路之后，他又回到了與杰出祖輩們，喬治·布爾（George Boole，布爾邏輯之父）和喬治·埃弗里斯特（George Everest，英國(guó)印度測(cè)量總督以及世界最高峰的命名者）相一致的道路上。

辛頓與同事 Yoshua Bengio、Yann LeCun 共同獲得了2018年圖靈獎(jiǎng)，他們發(fā)展了一種基于多層神經(jīng)網(wǎng)絡(luò)的人工智能，這些連接的算法模仿了大腦中的信息處理。這項(xiàng)被辛頓稱為“深度學(xué)習(xí)”的技術(shù)正在改變?nèi)蚪?jīng)濟(jì)。然而，正是這樣的成功讓他對(duì)其超越人類智能的潛力感到恐懼。

在短短20多年的時(shí)間里，深度學(xué)習(xí)從能識(shí)別圖像的簡(jiǎn)單模型發(fā)展為像 OpenAI 的GPT-4這樣高度復(fù)雜的大型語言模型，這些模型吸收了大量的人類文本知識(shí)。上個(gè)月，正是GPT-4的強(qiáng)大促使成千上萬名關(guān)注AI的科學(xué)家簽署了一封公開信，呼吁暫停開發(fā)更強(qiáng)大的AI。然而，辛頓并未在這封公開信上簽名。

辛頓表示，阻止人工智能的進(jìn)一步發(fā)展幾乎是不可能的。

“如果你像我現(xiàn)在一樣重視人類的生存風(fēng)險(xiǎn)，那么停止繼續(xù)發(fā)展這些東西或許是明智的。但我認(rèn)為，這樣做太天真了。”

在辛頓看來，沒有有什么方法能阻止這些AI的發(fā)展。我們不應(yīng)該停止開發(fā)它們，因?yàn)樗鼈儗?shí)在太有用了。

他認(rèn)為公開信呼吁暫停AI開發(fā)是荒謬的。

深度學(xué)習(xí)基于誤差反向傳播算法，幾十年前，辛頓就意識(shí)到這種算法可以用來讓計(jì)算機(jī)學(xué)習(xí)。諷刺的是，他在該算法上取得的第一個(gè)成功是在一個(gè)語言模型中，盡管這個(gè)模型比他現(xiàn)在所擔(dān)憂的要小得多。

他回憶說：“我們證明了它可以形成良好的內(nèi)部表征，奇怪的是，我們是通過實(shí)現(xiàn)一個(gè)微型語言模型做到這一點(diǎn)的。它有著僅包含六個(gè)成分的嵌入向量，訓(xùn)練集有112個(gè)樣本，但它是一個(gè)語言模型，試圖預(yù)測(cè)一串符號(hào)中的下一個(gè)術(shù)語。”

辛頓指出，GPT-4擁有約一萬億個(gè)神經(jīng)連接，盡管人腦擁有大約100萬億個(gè)連接，但它所掌握的知識(shí)仍然超過任何一個(gè)人類?！八趦H僅一萬億個(gè)連接中獲取大量知識(shí)的能力遠(yuǎn)遠(yuǎn)超過我們所擁有的。反向傳播算法可能比我們現(xiàn)有的學(xué)習(xí)算法更為優(yōu)越。”

辛頓一生的主要追求就是揭示大腦的工作原理，盡管他在這個(gè)領(lǐng)域取得了突破，但仍未達(dá)到自己的目標(biāo)。他將在這個(gè)過程中開發(fā)的強(qiáng)大算法和架構(gòu)稱為“有益的副產(chǎn)品”。然而，隨著最近大型語言模型的飛速發(fā)展，他擔(dān)憂這些副產(chǎn)品可能會(huì)失控。

“過去我一直認(rèn)為，我們所研發(fā)的計(jì)算機(jī)模型不如大腦，目標(biāo)是通過觀察改進(jìn)計(jì)算機(jī)模型所需的條件來更深入地了解大腦?！毙令D在英國(guó)的家中表示，“但在過去的幾個(gè)月里，我的看法徹底改變了?！?/p>

就在本周早些時(shí)候，辛頓從谷歌辭職，他自2013年起在那里工作，此前一年他取得了深度學(xué)習(xí)的重大突破。他表示，自己辭職的部分原因是因?yàn)榈搅送诵莸哪昙o(jì)——辛頓已經(jīng)75歲了，但他還想自由地表達(dá)自己的擔(dān)憂。

辛頓分享了他最近與GPT-4的一段互動(dòng)經(jīng)歷。

“我告訴它，我希望兩年后家里所有的房間都是白色。目前我有一些白色房間，一些藍(lán)色房間和一些黃色房間，而黃色油漆會(huì)在一年內(nèi)逐漸褪成白色。那么，我應(yīng)該怎么做？它回答說，你應(yīng)該把藍(lán)色房間涂成黃色?！?/p>

“這種常識(shí)推理非常令人印象深刻，在AI領(lǐng)域?qū)崿F(xiàn)這一點(diǎn)一直非常困難。”他繼續(xù)說道，該模型正確理解了在這種情境下“褪色”的含義，并且明白了時(shí)間維度的概念。

這些模型的推理能力相當(dāng)于智商80或90的人類，但如果它們的智商達(dá)到210，會(huì)發(fā)生什么呢？

辛頓認(rèn)為，像GPT-4這樣的大型語言模型“會(huì)通過閱讀所有人寫過的小說，以及馬基雅維利關(guān)于如何操縱人的全部著作，從我們身上學(xué)習(xí)。結(jié)果，它們會(huì)變得非常擅長(zhǎng)操縱我們，而我們卻察覺不到這一點(diǎn)?！?/p>

“如果你能操縱別人，你甚至可以在不親自去華盛頓的情況下，入侵那里的建筑，”這是在提及2021年1月6日發(fā)生在美國(guó)國(guó)會(huì)大廈的騷亂事件，當(dāng)時(shí)有人錯(cuò)誤地聲稱民主黨“竊取”了2020年的大選?！奥斆鞯氖挛锟赡軙?huì)愈發(fā)聰明，以至于我們無法應(yīng)對(duì)，”

辛頓表示，我們需要進(jìn)行更多研究，以了解如何控制AI，而非讓AI控制我們。

“我們希望找到一種方法，確保即使AI比我們更聰明，它們也能為我們帶來好處——這就是所謂的對(duì)齊問題，”他說，“我希望能找到一個(gè)簡(jiǎn)單的解決方案來應(yīng)對(duì)這個(gè)問題，但實(shí)際上我沒有。”

辛頓表示，設(shè)置“防護(hù)欄”和其他安全措施聽起來可行，但一旦AI系統(tǒng)遠(yuǎn)比人類更聰明，這些措施是否還有效?！跋胂笠幌履銉蓺q的孩子說，我爸爸做了我不喜歡的事情，所以我要給他制定一些規(guī)矩?！彼凳玖巳祟惡虯I之間可能存在的智力差距?！澳憧赡軙?huì)設(shè)法在遵守這些規(guī)則的同時(shí)，依然實(shí)現(xiàn)自己想要的目標(biāo)。”

“我們是經(jīng)過演化的生物，我們有一些內(nèi)在的目標(biāo)，我們很難擺脫。比如，我們會(huì)盡量避免傷害自己的身體，這就是痛苦存在的意義。但這些數(shù)字智能并沒有經(jīng)歷演化，而是由我們創(chuàng)造，所以它們并沒有這些內(nèi)在目標(biāo)。如果我們能將這些目標(biāo)植入其中，也許一切都會(huì)好起來。但我最大的擔(dān)憂是，遲早有人會(huì)把制定子目標(biāo)的能力植入到這些AI中……如果你賦予某個(gè)AI為實(shí)現(xiàn)其他目標(biāo)而制定子目標(biāo)的能力，它們很快就會(huì)意識(shí)到，獲得更多的控制權(quán)是一個(gè)非常好的子目標(biāo)，因?yàn)檫@有助于實(shí)現(xiàn)其他目標(biāo)。”

他說，如果真的發(fā)生這種情況，“我們將面臨巨大的麻煩。”

“我認(rèn)為人們團(tuán)結(jié)起來，深入思考這個(gè)問題并尋找解決方案是非常重要的，”但對(duì)此，他并不樂觀。事實(shí)上，我們還不能確定是否存在解決方案。

“我覺得，人類有可能僅僅是智能演化過程中的一個(gè)過渡階段?！彼硎?。

辛頓指出，谷歌率先研發(fā)了大型語言模型，并對(duì)這項(xiàng)技術(shù)非常謹(jǐn)慎，因?yàn)樵摴局浪赡軐?dǎo)致嚴(yán)重的后果。但是，當(dāng)OpenAI和微軟決定推出這項(xiàng)技術(shù)時(shí)，谷歌實(shí)際上別無選擇，“你無法阻止谷歌與微軟展開競(jìng)爭(zhēng)?！?/p>

辛頓在講話最后呼吁在控制這項(xiàng)技術(shù)方面進(jìn)行國(guó)際合作。

“我的一個(gè)希望是，由于我們放任AI控制一切對(duì)所有人都不利，我們可以讓美國(guó)和中國(guó)在這個(gè)問題上達(dá)成一致，就像我們?cè)诤宋淦鲉栴}上達(dá)成共識(shí)一樣，因?yàn)楹宋淦鲗?duì)所有人都是危險(xiǎn)的。在這個(gè)生存威脅問題上，我們都同處于一個(gè)戰(zhàn)船上。”

（本文首發(fā)鈦媒體App，作者 | Craig S. Smith）

關(guān)鍵詞：