女人久久久,最近更新中文字幕在线,成人国内精品久久久久影院vr,中文字幕亚洲综合久久综合,久久精品秘?一区二区三区美小说

原創(chuàng)生活

國內(nèi) 商業(yè) 滾動(dòng)

基金 金融 股票

期貨金融

科技 行業(yè) 房產(chǎn)

銀行 公司 消費(fèi)

生活滾動(dòng)

保險(xiǎn) 海外 觀察

財(cái)經(jīng) 生活 期貨

當(dāng)前位置:科技 >

語言不再為人類所獨(dú)有?AI處理語言的方式直接打破喬姆斯基的觀點(diǎn) 當(dāng)前關(guān)注

文章來源:鈦媒體APP  發(fā)布時(shí)間: 2023-06-21 11:11:51  責(zé)任編輯:cfenews.com
+|-

人工神經(jīng)網(wǎng)絡(luò)(ANN)是在計(jì)算機(jī)上構(gòu)建的復(fù)雜網(wǎng)絡(luò)算法,它模擬了生物神經(jīng)系統(tǒng)中神經(jīng)元之間的連接和信息傳遞,但它們之間是否具有更深層次的相似性,我們尚未可知。

比如,它們是否正在以相似的方式處理輸入信息?

“長(zhǎng)期以來,人們一直爭(zhēng)論著人工神經(jīng)網(wǎng)絡(luò)是否像人類一樣學(xué)習(xí)?!?/strong>


【資料圖】

——俄勒岡大學(xué)的語言學(xué)家維謝沃德·卡帕辛斯基(Vsevolod Kapatsinski)

而最近的一項(xiàng)新研究證實(shí),自然神經(jīng)網(wǎng)絡(luò)和人工神經(jīng)網(wǎng)絡(luò)在語言學(xué)習(xí)上具有相似之處。這項(xiàng)研究由加州大學(xué)伯克利分校的計(jì)算語言學(xué)家加什珀·貝古什(Ga?per Begu?)領(lǐng)銜,他將人類聽取簡(jiǎn)單聲音時(shí)的腦電波與人工神經(jīng)網(wǎng)絡(luò)分析相同聲音所產(chǎn)生的信號(hào)進(jìn)行了比較后發(fā)現(xiàn),二者竟出奇的相似。他表示,“因聲音刺激所產(chǎn)生的腦電波和ANN信號(hào),是迄今為止報(bào)道的最相似的腦電波和ANN信號(hào)?!?/p>

研究人員還測(cè)試了由通用型神經(jīng)元(適用于各種任務(wù))構(gòu)建的網(wǎng)絡(luò),發(fā)現(xiàn)即使是非常通用,且沒有為語音或任何其他聲音進(jìn)化出偏好的人工神經(jīng)網(wǎng)絡(luò),依舊呈現(xiàn)出了它與人類神經(jīng)元編碼的對(duì)應(yīng)關(guān)系。研究者表示,這些結(jié)果不僅有助于解開神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的神秘面紗,還暗示著人類大腦其實(shí)并沒有為語言產(chǎn)生特化的結(jié)構(gòu)。

研究人員為14名英語使用者和15名西班牙語使用者連續(xù)播放了一個(gè)音節(jié)“bah”,每次播放時(shí)長(zhǎng)為8分鐘,共進(jìn)行了兩組實(shí)驗(yàn)。在聲音播放過程中,研究人員記錄到每位聽者腦干(處理聲音的第一個(gè)部位)的神經(jīng)元的平均電活動(dòng)。研究人員還將相同的“bah”聲音輸入到兩組不同的神經(jīng)網(wǎng)絡(luò)中,一組經(jīng)過英語聲音數(shù)據(jù)集訓(xùn)練,另一組經(jīng)過西班牙語聲音數(shù)據(jù)集訓(xùn)練。研究人員記錄了神經(jīng)網(wǎng)絡(luò)的處理活動(dòng),其重點(diǎn)關(guān)注神經(jīng)網(wǎng)絡(luò)中首次分析聲音的卷積層(與腦干活動(dòng)相對(duì)應(yīng))。結(jié)果發(fā)現(xiàn),其中的信號(hào)與人腦電波高度匹配。

?圖注:輸入“bah”后,人工神經(jīng)網(wǎng)絡(luò)與人類大腦產(chǎn)生信號(hào)的比較

大家知道,人類腦電的采集和監(jiān)測(cè)是容易實(shí)現(xiàn)的。那么,要如何讓人工智能“聽”到聲音并收集它“大腦”的反饋信號(hào)呢?在實(shí)驗(yàn)中,研究者選擇了一種被稱為生成對(duì)抗網(wǎng)絡(luò)(GAN)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)作為人工神經(jīng)網(wǎng)絡(luò)的被試,其最初于2014年用于生成圖像。GAN由兩個(gè)競(jìng)爭(zhēng)的神經(jīng)網(wǎng)絡(luò)組成,分別是鑒別器(discriminator)和生成器(generator)。生成器創(chuàng)建一個(gè)樣本,可以是圖像或聲音。鑒別器則用于確定該樣本與訓(xùn)練樣本的接近程度并提供反饋,而生成器會(huì)再次嘗試生成樣本,直到GAN能夠輸出所需的結(jié)果。

在這項(xiàng)研究中,鑒別器最初是在一組英語或西班牙語聲音集合上進(jìn)行訓(xùn)練的。生成器(從未聽過這些聲音)必須找到一種產(chǎn)生這些聲音的方法。它開始時(shí)會(huì)產(chǎn)生隨機(jī)的聲音,但經(jīng)過大約40000輪與鑒別器的交互后,生成器逐漸改進(jìn),最終能夠產(chǎn)生正確的聲音。由于這種訓(xùn)練,鑒別器也變得更擅長(zhǎng)區(qū)分真實(shí)聲音和生成的聲音。在鑒別器完全訓(xùn)練之后,研究人員再向其播放“bah”的聲音,成功測(cè)量了人工神經(jīng)元平均活動(dòng)水平的波動(dòng)。正如上文介紹的那樣,這些波動(dòng)產(chǎn)生了與人類腦電波非常相似的信號(hào)。

這個(gè)實(shí)驗(yàn)還揭示了人類和機(jī)器之間的另一個(gè)有趣的相似之處。腦電波顯示,說英語和說西班牙語的參與者聽到“bah”聲音的方式不同(西班牙語使用者更多地聽到了“pah”聲),而生成對(duì)抗網(wǎng)絡(luò)的信號(hào)也顯示出,在處理聲音時(shí),經(jīng)過英語訓(xùn)練的網(wǎng)絡(luò)與經(jīng)過西班牙語訓(xùn)練的網(wǎng)絡(luò)略顯不同。

“而且,這些差異的方向是相同的”研究者補(bǔ)充道。說英語的人的腦干對(duì)“bah”聲的響應(yīng)比說西班牙語的人稍早一些。對(duì)相同聲音的響應(yīng)而言,經(jīng)過英語訓(xùn)練的生成對(duì)抗網(wǎng)絡(luò)也比經(jīng)過西班牙語訓(xùn)練的模型稍早一些。人類和機(jī)器在時(shí)間上的差異幾乎完全相同,大約是一秒的千分之一。由此可見,人類和人工網(wǎng)絡(luò)很可能以相似的方式進(jìn)行信息處理。

語言學(xué)家諾姆·喬姆斯基(Noam Chomsky)曾在1950年代提出,人類天生具有理解語言的獨(dú)特能力,是因?yàn)槿祟惔竽X的特定結(jié)構(gòu)。然而,此次的研究結(jié)果卻支持了與此相反的觀點(diǎn)——處理語言實(shí)則并不需要特殊內(nèi)在機(jī)制和獨(dú)特的人類特征。

當(dāng)然,很多人認(rèn)為一項(xiàng)證據(jù)還遠(yuǎn)遠(yuǎn)不夠印證這個(gè)觀點(diǎn)。因此,研究者正在進(jìn)一步探索人腦和神經(jīng)網(wǎng)絡(luò)之間的相似之處,例如,通過測(cè)試大腦皮層(在腦干完成其任務(wù)后進(jìn)行聽覺處理的區(qū)域)產(chǎn)生的腦電波是否與GAN深層產(chǎn)生的信號(hào)相對(duì)應(yīng)。同時(shí),他們也希望開發(fā)一個(gè)可靠的語言學(xué)習(xí)模型,用來描述機(jī)器和人類如何學(xué)會(huì)語言,從而利用該模型進(jìn)行人類被試無法參與的實(shí)驗(yàn)。

“我們可以創(chuàng)造一個(gè)不良環(huán)境(類似于被忽視的嬰兒),然后觀察模型是否會(huì)出現(xiàn)類似語言障礙的情況。當(dāng)然,我們還需要更多的工作來擴(kuò)大和增強(qiáng)我們的計(jì)算架構(gòu)使得人工神經(jīng)網(wǎng)絡(luò)達(dá)到人類的水平。而即使在目前相對(duì)早期的階段,我們?nèi)詫?duì)人類和人工神經(jīng)網(wǎng)絡(luò)這兩個(gè)系統(tǒng)之間內(nèi)部運(yùn)作的相似性感到驚訝。”研究者說道。

:https://www.quantamagazine.org/some-neural-networks-learn-language-like-humans-20230522/

關(guān)鍵詞: