昆侖萬維旗下Opera全新AI服務(wù)器集群成功落地 大模型推理速度提高30倍
發(fā)布日期:2024-04-09 11:00:32
導(dǎo)讀 哈嘍,阿瀾今天發(fā)現(xiàn)不少朋友對于昆侖萬維旗下Opera全新AI服務(wù)器集群成功落地 大模型推理速度提高30倍,這個(gè)還不是很了解,那么現(xiàn)在讓我們一...
哈嘍,阿瀾今天發(fā)現(xiàn)不少朋友對于昆侖萬維旗下Opera全新AI服務(wù)器集群成功落地 大模型推理速度提高30倍,這個(gè)還不是很了解,那么現(xiàn)在讓我們一起來看看吧。
近日,昆侖萬維(300418)旗下海外信息分發(fā)及元宇宙平臺(tái)Opera宣布,公司在冰島凱夫拉維克部署了一套全新的、完全由綠色能源驅(qū)動(dòng)的人工智能(AI)服務(wù)器集群。該AI服務(wù)器集群搭載英偉達(dá)DGX SuperPOD AI數(shù)據(jù)中心解決方案,配置了最新NVIDIA H100Tensor Core GPU和NVIDIA AI Enterprise軟件平臺(tái),支持更大規(guī)模、更復(fù)雜的AI工作負(fù)載。與上一代GPU相比,搭載NVIDIA H100Tensor Core GPU的方案能讓AI訓(xùn)練速度提高4倍,大語言模型推理速度提高30倍。(昆侖萬維集團(tuán))
以上就是關(guān)于【昆侖萬維旗下Opera全新AI服務(wù)器集群成功落地 大模型推理速度提高30倍】的相關(guān)內(nèi)容,希望對大家有幫助!
標(biāo)簽: