廣州熱線

1度電可實現(xiàn)多少次AI推理計算?寧暢的答案是:上百萬次!

11月4日,2022云棲大會上,寧暢公司首席技術(shù)官趙雷介紹,依托“全系統(tǒng)定制液冷服務(wù)器方案”,寧暢可讓1度電能實現(xiàn)上百萬次的AI模型推理計算,讓高能耗AI產(chǎn)業(yè)順應(yīng)“低碳”政策要求。

伴隨AI產(chǎn)業(yè)高速發(fā)展,數(shù)據(jù)中心建設(shè)迎來熱潮,但對更高算力的需求,也給數(shù)據(jù)中心行業(yè)帶來能耗難題,伴隨多項政策出臺,降低PUE數(shù)據(jù)中心能源效率指標成為IT企業(yè)追求目標。

2022云棲大會上,寧暢首席技術(shù)官趙雷在遠程分享《場景化綠色算力發(fā)展與實踐》報告時表示,寧暢“全系統(tǒng)定制液冷方案”不僅可讓數(shù)據(jù)中心PUE值降低至1.2以下,還可滿足服務(wù)器單芯片500W功耗的散熱,讓單機柜功率得到提升并節(jié)省部署空間80,噪音低于50分貝。

2022云棲大會寧暢報告現(xiàn)場

“通過總負載10MW的數(shù)據(jù)機房來看,采用寧暢液冷方案,相比傳統(tǒng)風冷模式,其年均節(jié)省電費可高達1580萬元,節(jié)省的電能,每1度都可進行數(shù)百萬次AI推理計算?！?/p>

趙雷介紹基于MLPerf-training2.0、MLPerf-inference2.1人工智能測試標準,寧暢新款液冷服務(wù)器,僅1度電就可實現(xiàn)16870314次目標識別分類、435343次重量級目標分析,能效比位列行業(yè)頭部。

2022年9月,在國際權(quán)威AI性能基準測試平臺MLPerf的最新推理Inference 2.1結(jié)果中,寧暢兩款液冷服務(wù)器共獲得13項的奪冠成績,該成績背后是每秒可完成679915個樣本處理的世界頂級性能。

另據(jù)IDC最新發(fā)布的《2022上年度H2中國加速計算服務(wù)器市場分析報告》顯示,寧暢Nettrix已位列中國區(qū)加速服務(wù)器市場第二名。

如今,寧暢作為智能算力定制專家,已承接定制化服務(wù)器項目近千個,其中液冷方案眾多。