在江蘇無錫人工智能協(xié)同創(chuàng)新基地的算力機房中,訓練處理器正在高速運轉(zhuǎn)。實時數(shù)據(jù)顯示正有52家企業(yè)上線使用由昇騰AI基礎(chǔ)軟硬件平臺支持的算力。
據(jù)悉,無錫人工智能協(xié)同創(chuàng)新基地的總規(guī)劃算力規(guī)模為400PetaFLOPS(PetaFLOPS是指每秒千萬億次浮點運算次數(shù)),目前已經(jīng)上線100PetaFLOPS,大約相當于5萬臺高性能電腦的算力之和。今年基地開放后3個月,企業(yè)紛紛入駐使用,100PetaFLOPS算力資源已經(jīng)供不應求。
由于算力運行所需的處理器、顯卡等高性能硬件價格高昂,系統(tǒng)運行的電力和設備散熱成本同樣不菲,因此在哪里租用到高性能且價格合理的算力設施對于企業(yè)至關(guān)重要。
創(chuàng)新基地所在的無錫梁溪科技城內(nèi),集聚了多家人工智能、半導體等行業(yè)的科技企業(yè),其中不少是初創(chuàng)企業(yè)。比如,蔻町智能科技就是梁溪科技城引入的首個原生代碼自動生成大模型企業(yè),能夠提供從產(chǎn)品需求文檔到代碼自動生成的工具。
從需求描述到代碼自動生成,需要大規(guī)模端到端模型訓練場景來提升自研模型的泛化能力和準確性,背后自然離不開強大的算力支持。蔻町科技總經(jīng)理宿文表示,選擇梁溪科技城正是看中其可靠且不斷發(fā)展的算力生態(tài),以及科技城對企業(yè)的階梯式算力補貼政策。
據(jù)無錫市梁溪科技城發(fā)展集團總裁周敏華介紹,對于算力需求大的企業(yè),算力優(yōu)惠政策可以為企業(yè)節(jié)約近百萬元的成本,截至目前,基地已對接摸排552家企業(yè)客戶,申請測試使用客戶共70余家。
“我們希望擴充算力用于更大規(guī)模的集群訓練模型,未來會繼續(xù)和科技城合作。”宿文說。
2023年10月,工信部聯(lián)合中央網(wǎng)信辦、教育部、國家衛(wèi)生健康委、中國人民銀行、國務院國資委六部門印發(fā)《算力基礎(chǔ)設施高質(zhì)量發(fā)展行動計劃》。結(jié)合算力基礎(chǔ)設施產(chǎn)業(yè)現(xiàn)狀和發(fā)展趨勢,《行動計劃》提出了完善算力綜合供給體系、提升算力高效運載能力、強化存力高效靈活保障、深化算力賦能行業(yè)應用、促進綠色低碳算力發(fā)展、加強安全保障能力建設6個方面重點任務,著力推動算力基礎(chǔ)設施高質(zhì)量發(fā)展。http://m.sxtianfeng.com