訓(xùn)練AI模型的計(jì)算量非常大。研究人員經(jīng)常使用超級計(jì)算機(jī)來準(zhǔn)備模型，其影響可能是嚴(yán)重的：單個模型的訓(xùn)練過程可能足夠密集，以產(chǎn)生五輛汽車在整個汽車壽命內(nèi)產(chǎn)生的碳排放量。除了前期成本和影響之外，這種計(jì)算強(qiáng)度還會增加AI模型的進(jìn)入壁壘-對于那些旨在為研究問題提供更有效，成本更低的解決方案的模型，這有點(diǎn)自相矛盾?，F(xiàn)在，來自南加州大學(xué)(USC)和英特爾實(shí)驗(yàn)室的研究人員開發(fā)了一種在單個臺式機(jī)工作站上訓(xùn)練AI模型的新方法。

在2020年國際機(jī)器學(xué)習(xí)會議(ICML)上作為論文提出的新方法，可訓(xùn)練深度強(qiáng)化學(xué)習(xí)(RL)算法。南加州大學(xué)的研究生Aleksei Petrenko在他的英特爾實(shí)習(xí)期結(jié)束后就開始了該項(xiàng)目，并且他無法訪問迄今為他正在進(jìn)行的RL工作提供動力的強(qiáng)大計(jì)算集群。為了消除使用這種計(jì)算能力的必要性，Petrenko和他的同事開始從事“樣品工廠”的工作，該工廠將通常捆綁在一起的RL作業(yè)拆分開，以便可以對其進(jìn)行單獨(dú)優(yōu)化并在計(jì)算機(jī)的單獨(dú)組件上運(yùn)行。研究人員還將來自進(jìn)程的所有數(shù)據(jù)放入共享內(nèi)存中，以便進(jìn)程更快地進(jìn)行訪問。

通過教授AI玩經(jīng)典的第一人稱射擊游戲Doom以及DeepMind提供的其他30個3D挑戰(zhàn)，對Sample Factory進(jìn)行了測試。在具有一個(高核數(shù))CPU和一個GPU的單個工作站上，該團(tuán)隊(duì)每秒可完成140,000幀分析，是次佳方法的兩倍。當(dāng)擴(kuò)展到功能更強(qiáng)大的計(jì)算機(jī)時，Sample Factory的性能甚至更好：四GPU的計(jì)算機(jī)能夠快速應(yīng)對DeepMind的30個挑戰(zhàn)，從而勝過DeepMind在其上測試自己的挑戰(zhàn)的AI，后者在功能更強(qiáng)大的計(jì)算機(jī)上進(jìn)行了訓(xùn)練。

“根據(jù)我的經(jīng)驗(yàn)，很多研究人員無法使用尖端的高端硬件，” Petrenko在接受 IEEE Spectrum的Edd Gent 采訪時說。“我們意識到，只要重新考慮最大程度地提高硬件利用率，您實(shí)際上就可以達(dá)到通常即使在單個工作站上也可以從大型集群中擠出的性能。”

盡管實(shí)驗(yàn)所用的工作站是一個相對強(qiáng)大的臺式機(jī)，但研究人員還看到了消費(fèi)級計(jì)算機(jī)的發(fā)展：例如，Petrenko在他的中檔筆記本電腦上進(jìn)行了深入的RL實(shí)驗(yàn)-他說這是“聞所未聞的飛躍”的。”

標(biāo)簽： AI培訓(xùn)方法