人類從幾個語法示例中學(xué)習(xí)新詞的基礎(chǔ)和組合表示。我們依賴于上下文，例如視覺感知，并且我們知道這些詞在構(gòu)成句子的含義時是如何相互關(guān)聯(lián)的。

最近關(guān)于arXiv.org的一篇論文依賴于這些關(guān)于機(jī)器學(xué)習(xí)語言的想法。

提出了基于語法的基礎(chǔ)詞匯學(xué)習(xí)，一種用于基礎(chǔ)語言習(xí)得的神經(jīng)符號框架。研究人員研究聯(lián)合學(xué)習(xí)基于神經(jīng)符號的詞典條目以及從基于語言數(shù)據(jù)的單個概念的基礎(chǔ)，例如通過同時查看圖像和閱讀平行的問答對。

系統(tǒng)評估表明，該方法能夠以強(qiáng)大的數(shù)據(jù)效率和對新語言結(jié)構(gòu)和更深語言結(jié)構(gòu)的組合泛化進(jìn)行學(xué)習(xí)。

我們提出了基于語法的扎根詞典學(xué)習(xí)(G2L2)，這是一種詞匯主義方法，用于從扎根數(shù)據(jù)(例如成對的圖像和文本)中學(xué)習(xí)語言的組合和扎根意義表示。G2L2的核心是詞匯條目的集合，它們將每個單詞映射到句法類型的元組和神經(jīng)符號語義程序。例如，閃亮這個詞有一個句法類型的形容詞;它的神經(jīng)符號語義程序具有符號形式{\lambda}x。filter(x,SHINY)，其中SHINY概念與神經(jīng)網(wǎng)絡(luò)嵌入相關(guān)聯(lián)，用于對閃亮對象進(jìn)行分類。給定一個輸入句子，G2L2首先查找與每個標(biāo)記關(guān)聯(lián)的詞典條目。然后，它通過組合基于句法的詞匯含義，將句子的含義推導(dǎo)出為可執(zhí)行的神經(jīng)符號程序?；謴?fù)的意義程序可以在接地輸入上執(zhí)行。為了促進(jìn)在指數(shù)增長的組合空間中學(xué)習(xí)，我們引入了一種聯(lián)合解析和預(yù)期執(zhí)行算法，該算法對推導(dǎo)進(jìn)行局部邊緣化以減少訓(xùn)練時間。我們在兩個領(lǐng)域評估G2L2：視覺推理和語言驅(qū)動的導(dǎo)航。結(jié)果表明，G2L2可以從少量數(shù)據(jù)泛化到新的單詞組合。

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場無關(guān)。財經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險自擔(dān)。 如有侵權(quán)請聯(lián)系刪除！