近年來,人工智能(AI)的崛起引起了廣泛的討論和擔(dān)憂,很多人擔(dān)心 AI 會造成失業(yè)率飆升,而有些樂觀的朋友則戲稱“只要電費貴過饅頭,AI 就永遠不能完全代替人”。
雖然這是句玩笑話,但背后則是實實在在的AI能耗問題,越來越多的人擔(dān)憂高能耗將成為制約 AI 發(fā)展的瓶頸。就在不久前,技術(shù)創(chuàng)業(yè)者、前谷歌工程師凱爾·科比特(Kyle Corbitt)在社交媒體 X 上表示,微軟已經(jīng)遇到了這方面的難題。
AI 到底有多費電?
科比特稱,訓(xùn)練 GPT-6 的微軟工程師們正忙著搭建 IB 網(wǎng)絡(luò)(InfiniBand),把分布在不同地區(qū)的 GPU 連接起來。這項工作很困難,但他們別無選擇,因為如果把超過 10 萬塊 H100 芯片部署在同一個地區(qū),電網(wǎng)就會崩潰。http://m.sxtianfeng.com