基于深度學(xué)習(xí)的替代模型的性能優(yōu)于模擬器并可能加快科學(xué)發(fā)現(xiàn)
勞倫斯·利弗莫爾國(guó)家實(shí)驗(yàn)室 (LLNL)的科學(xué)家報(bào)告說(shuō),由神經(jīng)網(wǎng)絡(luò)支持的替代模型在性能上和在某些方面要比計(jì)算上昂貴的模擬器好,并且在某些方面要好一些,并且可以導(dǎo)致對(duì)諸如慣性約束聚變(ICF)等復(fù)雜物理問(wèn)題的新見解 。
在美國(guó)國(guó)家 科學(xué)院院刊(PNAS)上 發(fā)表 的 一篇論文中,LLNL研究人員描述了深度學(xué)習(xí)驅(qū)動(dòng)的流形與循環(huán)一致(MaCC)替代模型的開發(fā),該模型結(jié)合了能夠快速準(zhǔn)確模擬的多模式神經(jīng)網(wǎng)絡(luò)。復(fù)雜的科學(xué)過(guò)程,包括ICF中涉及的高能密度物理學(xué)。
該研究小組將該模型應(yīng)用于在國(guó)家點(diǎn)火設(shè)施 (NIF)進(jìn)行的ICF爆破中,該 爆破中使用了計(jì)算成本很高的數(shù)值模擬器來(lái)預(yù)測(cè)由該設(shè)施的高能激光所產(chǎn)生的沖擊波所爆破的目標(biāo)的能量產(chǎn)出。將神經(jīng)網(wǎng)絡(luò)支持的替代結(jié)果與現(xiàn)有模擬器進(jìn)行比較,研究人員發(fā)現(xiàn)該替代可以充分復(fù)制該模擬器,并且在廣泛的指標(biāo)范圍內(nèi),其替代模型的性能明顯優(yōu)于當(dāng)前的最新水平。
“我們正在處理的一個(gè)主要問(wèn)題是'當(dāng)您擁有大量不同類型的數(shù)據(jù)時(shí),我們?nèi)绾伍_始使用機(jī)器學(xué)習(xí)?” LLNL的計(jì)算機(jī)科學(xué)家兼第一作者Rushil Anirudh說(shuō)。“我們提出的建議是通過(guò)找到一個(gè)公共空間來(lái)簡(jiǎn)化該問(wèn)題,在該公共空間中所有這些模式(例如高壓或高溫)都可以在該空間中進(jìn)行并進(jìn)行分析。我們說(shuō)的是,深度學(xué)習(xí)可以捕獲所有這些不同數(shù)據(jù)源之間的重要關(guān)系,并為我們提供所有這些數(shù)據(jù)源的緊湊表示。
“這樣做的好處不僅在于它使分析更加容易,因?yàn)楝F(xiàn)在您擁有所有這些模式的共同空間,而且我們還表明,以這種方式進(jìn)行操作實(shí)際上可以為您提供更好的模型,更好的分析并且客觀上更好結(jié)果比基線方法要好。” Anirudh補(bǔ)充說(shuō)。
Anirudh解釋說(shuō),使用神經(jīng)網(wǎng)絡(luò)可以在一秒鐘內(nèi)完成同樣通常需要數(shù)值模擬器半小時(shí)才能完成的模擬。計(jì)算機(jī)科學(xué)家和合著者Timo Bremer解釋說(shuō),也許比節(jié)省計(jì)算時(shí)間更有價(jià)值的是深度學(xué)習(xí)替代模型在ICF測(cè)試用例中分析大量復(fù)雜的高維數(shù)據(jù)的能力。用于庫(kù)存現(xiàn)代化工作。結(jié)果表明,該方法可能會(huì)導(dǎo)致新的科學(xué)發(fā)現(xiàn),以及用于執(zhí)行和分析仿真的全新技術(shù)類別,Bremer說(shuō)。
Bremer解釋說(shuō),這在NIF上尤其重要,因?yàn)榭茖W(xué)家尚未完全理解為什么模擬和實(shí)驗(yàn)之間存在差異。將來(lái),深度學(xué)習(xí)模型可能會(huì)激發(fā)出以前不存在的功能,并為科學(xué)家提供一種方法來(lái)分析從每個(gè)NIF鏡頭的診斷收集的大量X射線圖像,傳感器數(shù)據(jù)和其他信息,包括布雷默說(shuō),之所以沒(méi)有被合并是因?yàn)槠渲刑嗟臇|西無(wú)法由人類單獨(dú)進(jìn)行分析。
布雷默說(shuō):“該工具為我們提供了一種將模擬與實(shí)驗(yàn)聯(lián)系起來(lái)的根本不同的方式。” “通過(guò)建立這些深度學(xué)習(xí)模型,它使我們能夠直接預(yù)測(cè)模擬數(shù)據(jù)的全部復(fù)雜性。利用這個(gè)共同的潛在空間將所有這些不同的方式和診斷方法關(guān)聯(lián)起來(lái),并利用該空間將實(shí)驗(yàn)與仿真聯(lián)系起來(lái),將不僅對(duì)這一特定的科學(xué)領(lǐng)域,而且對(duì)于試圖將計(jì)算科學(xué)與實(shí)驗(yàn)科學(xué)。這可能會(huì)以一種目前不可行的方式潛在地帶來(lái)新的見解。”
將替代模型所做的預(yù)測(cè)結(jié)果與通常用于ICF實(shí)驗(yàn)的模擬器進(jìn)行比較,研究人員發(fā)現(xiàn),MaCC替代在誤差和預(yù)期的能量產(chǎn)出量方面與模擬器幾乎沒(méi)有區(qū)別,并且比其他類型的替代模型更準(zhǔn)確。研究人員說(shuō),MaCC模型成功的關(guān)鍵是正向和反向模型的耦合以及對(duì)它們的數(shù)據(jù)訓(xùn)練。代理模型使用數(shù)據(jù)輸入進(jìn)行預(yù)測(cè),然后通過(guò)逆模型運(yùn)行這些預(yù)測(cè),以從輸出中估計(jì)輸入可能是什么。Anirudh說(shuō),在訓(xùn)練過(guò)程中,代理人的神經(jīng)網(wǎng)絡(luò)學(xué)會(huì)了與逆模型兼容,這意味著錯(cuò)誤的累積量沒(méi)有以前那么大。
“我們正在探索這種自洽的概念,”阿尼魯?shù)?Anirudh)解釋說(shuō)。“我們發(fā)現(xiàn)將反問(wèn)題納入代理建模過(guò)程實(shí)際上是必不可少的。它使問(wèn)題的數(shù)據(jù)效率更高,并且健壯性更高。將這兩部分(逆模型和所有模態(tài)的公共空間)放在一起時(shí),您將獲得具有所有其他這些理想屬性的宏偉的替代模型-效率更高,數(shù)據(jù)量更少,性能更好,并且具有彈性采樣文物。”
該團(tuán)隊(duì)表示,基于機(jī)器學(xué)習(xí)的替代方法的好處在于,它們可以加快極其復(fù)雜的計(jì)算,并有效地比較各種數(shù)據(jù)源,而無(wú)需科學(xué)家掃描大量數(shù)據(jù)。研究人員說(shuō),隨著模擬器變得越來(lái)越復(fù)雜,產(chǎn)生更多的數(shù)據(jù),這種替代模型將成為科學(xué)發(fā)現(xiàn)的基本補(bǔ)充工具。
“即使模擬變得更加復(fù)雜,我們構(gòu)建的工具也將很有用,”計(jì)算機(jī)科學(xué)家和合著者Jayaraman Thiagarajan說(shuō)。“明天,我們將獲得新的計(jì)算能力,更大的超級(jí)計(jì)算機(jī)和更準(zhǔn)確的計(jì)算,并且這些技術(shù)將仍然適用。我們驚奇地發(fā)現(xiàn),您可以為基礎(chǔ)的復(fù)雜仿真生產(chǎn)非常強(qiáng)大的仿真器,而這在其中變得非常重要。
“只要您可以使用數(shù)學(xué)模型來(lái)近似基礎(chǔ)科學(xué),我們探索太空的速度就會(huì)變得非常非???rdquo;,Thiagarajan繼續(xù)說(shuō)道。“這有望在將來(lái)幫助我們更快,更有效地進(jìn)行科學(xué)發(fā)現(xiàn)。我們相信,即使我們將其用于特定的應(yīng)用程序,該方法仍可廣泛應(yīng)用于一般的科學(xué)保護(hù)傘。”
研究人員說(shuō),MaCC替代模型可以適應(yīng)模式,新類型的傳感器或成像技術(shù)的任何未來(lái)變化。由于其靈活性和準(zhǔn)確性,該模型及其深度學(xué)習(xí)方法(在LLNL中稱為“認(rèn)知模擬”或簡(jiǎn)稱為CogSim)正被應(yīng)用于實(shí)驗(yàn)室內(nèi)的許多其他項(xiàng)目,并正在過(guò)渡到計(jì)劃性工作,包括努力在不確定性量化,武器物理設(shè)計(jì),磁約束聚變和其他激光項(xiàng)目中。
MaCC是實(shí)驗(yàn)室更廣泛的認(rèn)知模擬總監(jiān)倡議的關(guān)鍵產(chǎn)品,由首席研究員和LLNL物理學(xué)家Brian Spears領(lǐng)導(dǎo),并通過(guò)實(shí)驗(yàn)室定向研究與開發(fā)(LDRD)計(jì)劃資助。該計(jì)劃旨在推進(jìn)廣泛的AI技術(shù)和計(jì)算平臺(tái),這些技術(shù)和計(jì)算平臺(tái)旨在通過(guò)更有效地將精確度仿真與實(shí)驗(yàn)數(shù)據(jù)結(jié)合來(lái)改善科學(xué)預(yù)測(cè)。通過(guò)關(guān)注關(guān)鍵任務(wù)空間的需求以及AI帶來(lái)的機(jī)遇和計(jì)算進(jìn)步,該計(jì)劃幫助了LLNL在將AI應(yīng)用于科學(xué)方面的領(lǐng)先地位。
Spears說(shuō):“ MaCC結(jié)合多個(gè)與科學(xué)相關(guān)的數(shù)據(jù)流的能力為各種新分析打開了大門。” “這將使我們能夠從迄今為止尚無(wú)法訪問(wèn)的最有價(jià)值且關(guān)鍵任務(wù)的實(shí)驗(yàn)和仿真數(shù)據(jù)集中提取信息。與新的相關(guān)CogSim工具套件一起充分利用這些信息將迅速而直接地導(dǎo)致改進(jìn)的預(yù)測(cè)模型。”
標(biāo)簽: 模擬器