廣州熱線

原標(biāo)題：CPU也支持AI加速，英特爾發(fā)布第3代至強(qiáng)處理器，推理速度提升80，阿里騰訊云都在用

曉查發(fā)自凹非寺

量子位報(bào)道|公眾號(hào)QbitAI

AI時(shí)代，英特爾最擔(dān)心的是什么？當(dāng)然是自家的CPU被GPU、TPU等AI硬件的沖擊?，F(xiàn)在英特爾的新一代CPU也帶來了全新的AI加速能力。

今天，英特爾發(fā)布了三款硬件產(chǎn)品，都是為了AI而準(zhǔn)備：第三代至強(qiáng)（Xeon）可擴(kuò)展處理器、新一代的傲騰（Optane）存儲(chǔ)器以及StratixAIFPGA。

至強(qiáng)可擴(kuò)展CPU

首先，英特爾發(fā)布了CooperLake至強(qiáng)可擴(kuò)展處理器，也就是英特爾的第三代至強(qiáng)可擴(kuò)展服務(wù)器CPU。

在英特爾的路線圖中，還有IceLake至強(qiáng)處理器將在今年晚些時(shí)候推出，也屬于第三代，只是支持的CPU數(shù)量比CooperLake更少，應(yīng)該是一款面向中低端的產(chǎn)品。

對(duì)于CooperLake平臺(tái)，英特爾加入了一項(xiàng)重要更新，增加了基于AVX-512的BF16指令，引入了全新的BF16數(shù)字格式。

現(xiàn)在，用于“深度學(xué)習(xí)增強(qiáng)”（DLBoost）的AVX-512指令集也支持全新的BF16數(shù)據(jù)類型。

過去，英特爾在CPU上的AI訓(xùn)練主推INT8整數(shù)格式，在精度要求不高的模型中，使用INT8還是可以的。但是許多高精度模型需要使用FP32浮點(diǎn)數(shù)格式。

新一代的至強(qiáng)CPU加入了對(duì)16位浮點(diǎn)數(shù)支持，不過此16位浮點(diǎn)并非常見的FP16，而是英特爾稱之為bfloat16（BF16）的格式。

BF16將FP32模型的位寬減少一半，除了加速處理速度外，更重要的是，它將模型保留在內(nèi)存中所需的空間減少了一半。

△圖片來自AnandTech

BF16可以執(zhí)行許多通常在FP32或FP16中實(shí)現(xiàn)的AI任務(wù)，它只是比FP32的范圍稍低，但是卻能有與FP16幾乎相同的吞吐量。

國(guó)內(nèi)的阿里云、騰訊云都已經(jīng)在其數(shù)據(jù)集上使用了支持BF16的CPU，實(shí)現(xiàn)了1.6倍左右的吞吐量加速和1.8倍左右的推理加速。

英特爾還對(duì)CooperLake處理器之間的互連進(jìn)行了升級(jí)。

至強(qiáng)處理器使用超路徑互連（UPI）將多個(gè)CPU連接在一起。在CooperLake中，每個(gè)CPU到CPU的連接現(xiàn)在都包含兩個(gè)UPI鏈接，鏈接速度達(dá)到了20.8GT/s。

傲騰SSD和StratixFPGA

英特爾還宣布了新一代的傲騰（Optane）“持久內(nèi)存”200系列，帶寬相比前代提升了25％。

200系列傲騰提供128GB、256GB和512GB三個(gè)不同存儲(chǔ)容量，并且將以與DDR4-2666內(nèi)存相同的速度運(yùn)行。

該系列為每個(gè)插槽提供高達(dá)4.5TB的內(nèi)存支持，以更好地處理數(shù)據(jù)密集型的AI工作負(fù)載。

最后，英特爾發(fā)布了Stratix10NXFPGA，這是英特爾第一個(gè)針對(duì)AI優(yōu)化的FPGA。

Stratix10NXFPGA加入了為AI設(shè)計(jì)的張量模塊，在INT8數(shù)據(jù)類型上，相比現(xiàn)在的Stratix10MXFPGA帶來了15倍的運(yùn)算加速。

參考鏈接：

https://www.anandtech.com/show/15862/intel-launches-cooper-lake-3rd-generation-xeon-scalable-for-4p8p-servers

作者系網(wǎng)易新聞·網(wǎng)易號(hào)“各有態(tài)度”簽約作者

—完—

「數(shù)據(jù)庫(kù)」系列公開課開啟，快來免費(fèi)報(bào)名！

6月23號(hào)第二期直播，浪潮信息數(shù)據(jù)庫(kù)產(chǎn)品線總經(jīng)理--喬鑫分享「?jìng)鹘y(tǒng)企業(yè)互聯(lián)網(wǎng)下的數(shù)據(jù)平臺(tái)升級(jí)」，將講述HTAP數(shù)據(jù)庫(kù)的技術(shù)原理、優(yōu)化方案以及開發(fā)部署概要等技術(shù)問題，以此帶給廣泛關(guān)注者一些前瞻指導(dǎo)。

掃碼報(bào)名，可加入直播交流群，還可獲取系列課程直播回放、分享PPT：

量子位QbitAI·頭條號(hào)簽約作者

???追蹤AI技術(shù)和產(chǎn)品新動(dòng)態(tài)

喜歡就點(diǎn)「在看」吧!