人類從幾個(gè)語(yǔ)法示例中學(xué)習(xí)新詞的基礎(chǔ)和組合表示。我們依賴于上下文，例如視覺(jué)感知，并且我們知道這些詞在構(gòu)成句子的含義時(shí)是如何相互關(guān)聯(lián)的。

最近關(guān)于arXiv.org的一篇論文依賴于這些關(guān)于機(jī)器學(xué)習(xí)語(yǔ)言的想法。

提出了基于語(yǔ)法的基礎(chǔ)詞匯學(xué)習(xí)，一種用于基礎(chǔ)語(yǔ)言習(xí)得的神經(jīng)符號(hào)框架。研究人員研究聯(lián)合學(xué)習(xí)基于神經(jīng)符號(hào)的詞典條目以及從基于語(yǔ)言數(shù)據(jù)的單個(gè)概念的基礎(chǔ)，例如通過(guò)同時(shí)查看圖像和閱讀平行的問(wèn)答對(duì)。

系統(tǒng)評(píng)估表明，該方法能夠以強(qiáng)大的數(shù)據(jù)效率和對(duì)新語(yǔ)言結(jié)構(gòu)和更深語(yǔ)言結(jié)構(gòu)的組合泛化進(jìn)行學(xué)習(xí)。

我們提出了基于語(yǔ)法的扎根詞典學(xué)習(xí)(G2L2)，這是一種詞匯主義方法，用于從扎根數(shù)據(jù)(例如成對(duì)的圖像和文本)中學(xué)習(xí)語(yǔ)言的組合和扎根意義表示。G2L2的核心是詞匯條目的集合，它們將每個(gè)單詞映射到句法類型的元組和神經(jīng)符號(hào)語(yǔ)義程序。例如，閃亮這個(gè)詞有一個(gè)句法類型的形容詞;它的神經(jīng)符號(hào)語(yǔ)義程序具有符號(hào)形式{\lambda}x。filter(x,SHINY)，其中SHINY概念與神經(jīng)網(wǎng)絡(luò)嵌入相關(guān)聯(lián)，用于對(duì)閃亮對(duì)象進(jìn)行分類。給定一個(gè)輸入句子，G2L2首先查找與每個(gè)標(biāo)記關(guān)聯(lián)的詞典條目。然后，它通過(guò)組合基于句法的詞匯含義，將句子的含義推導(dǎo)出為可執(zhí)行的神經(jīng)符號(hào)程序?；謴?fù)的意義程序可以在接地輸入上執(zhí)行。為了促進(jìn)在指數(shù)增長(zhǎng)的組合空間中學(xué)習(xí)，我們引入了一種聯(lián)合解析和預(yù)期執(zhí)行算法，該算法對(duì)推導(dǎo)進(jìn)行局部邊緣化以減少訓(xùn)練時(shí)間。我們?cè)趦蓚€(gè)領(lǐng)域評(píng)估G2L2：視覺(jué)推理和語(yǔ)言驅(qū)動(dòng)的導(dǎo)航。結(jié)果表明，G2L2可以從少量數(shù)據(jù)泛化到新的單詞組合。

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場(chǎng)無(wú)關(guān)。財(cái)經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險(xiǎn)自擔(dān)。 如有侵權(quán)請(qǐng)聯(lián)系刪除！