AI難逃“能源危機”？GPT-6或被電力卡脖子
發(fā)布日期：2024-03-27 17:31:37
導讀 哈嘍,阿瀾今天發(fā)現(xiàn)不少朋友對于AI難逃“能源危機”？GPT-6或被電力卡脖子,這個還不是很了解，那么現(xiàn)在讓我們一起來看看吧。
據(jù)財聯(lián)社，...
哈嘍,阿瀾今天發(fā)現(xiàn)不少朋友對于AI難逃“能源危機”？GPT-6或被電力卡脖子,這個還不是很了解，那么現(xiàn)在讓我們一起來看看吧。
據(jù)財聯(lián)社，GPT-5尚未面世，OpenAI似乎已開始著手訓練GPT-6，不過電力或許已成為了一個“卡脖子”難題。
AI初創(chuàng)公司OpenPipe聯(lián)合創(chuàng)始人、CEO Kyle Corbitt透露，自己最近與一位負責GPT-6訓練集群項目的微軟工程師談過，后者抱怨稱，在跨區(qū)域GPU之間部署infiniband級別鏈接，實在是一件痛苦的事。
Corbitt問到為何不將訓練集群集中在同一區(qū)域，這位微軟工程師回答，“哦我們已經(jīng)嘗試過那么做了，但是如果在一個州放置超過10萬片H100GPU，電網(wǎng)就會崩潰。”
10萬片H100是什么概念？作為參考，市場調查機構Factorial Funds的一份報告顯示，OpenAI的文生視頻模型Sora在峰值期間需要72萬片H100——按上述工程師的說法，這個數(shù)量足以讓七個州的電網(wǎng)崩潰。
以上就是關于【AI難逃“能源危機”？GPT-6或被電力卡脖子】的相關內容，希望對大家有幫助！
標簽：
免責聲明：本文由用戶上傳，如有侵權請聯(lián)系刪除！