目前，數(shù)據(jù)中心在異構(gòu)計(jì)算和算法標(biāo)準(zhǔn)上不斷變化，越來越多的應(yīng)用領(lǐng)域需要專用的架構(gòu)，使得硬件能夠和算法去進(jìn)行匹配以達(dá)到最佳運(yùn)行效果或者是提高它的運(yùn)行速度。網(wǎng)絡(luò)上有很多不同的數(shù)據(jù)，這些數(shù)據(jù)在運(yùn)行過程當(dāng)中有不同的要求，而且網(wǎng)絡(luò)自身也在不斷迭代，計(jì)算、網(wǎng)絡(luò)和存儲(chǔ)對(duì)加速的要求都在水漲船高。對(duì)于硬件而言，理想的方式是能在不改變硬件的情況下，加速任何工作負(fù)載，并能降低總體擁有成本。

針對(duì)這一需求趨勢(shì)，去年10月份的時(shí)候，賽靈思推出了Alveo系列加速卡。賽靈思數(shù)據(jù)中心業(yè)務(wù)部產(chǎn)品規(guī)劃和市場(chǎng)營(yíng)銷總監(jiān)Jamon u280 Bowen將這一系列產(chǎn)品的規(guī)劃目的總結(jié)為三個(gè)：快速、靈活應(yīng)變和方便易用。即高吞吐量同時(shí)具有超低時(shí)延，能夠?yàn)槎喾N工作負(fù)載進(jìn)行加速，并且可以運(yùn)用于云和本地各種場(chǎng)景。Alveo系列包括U200、U250和U280,區(qū)別主要是FPGA中的LUT規(guī)模和總線資源。今天，該公司宣布推出了Alveo系列最新的一款加速卡Alveo U50。

輕

輕量級(jí)加速

和該系列之前的產(chǎn)品不同，Alveo U50是業(yè)界首款輕量級(jí)PCIe Gen4自適應(yīng)計(jì)算加速卡，并且面向所有服務(wù)器、各種云和邊緣的數(shù)據(jù)中心應(yīng)用，包括網(wǎng)絡(luò)和存儲(chǔ)加速?！斑@是之前的產(chǎn)品做不到的。”Bowen說。

nb200奔牛SGTNB 2

圖：從賽靈思提供的資料看，U50似乎是U280的迷你版。

Alveo U50支持PCIe Gen4這一最新的服務(wù)器總線和CCIX互聯(lián)標(biāo)準(zhǔn)，不同于GPU加速器的尺寸，U50要小的多，“GPU加速器的尺寸適合電腦，但不適用于網(wǎng)絡(luò)和存儲(chǔ)，”Bowen說，“采用賽靈思UltraScale+架構(gòu)以及集成超高帶寬的HBM2存儲(chǔ)器技術(shù)大大減少了U50的尺寸。”

采用HBM2這種片上存儲(chǔ)不僅僅是出于體積的考慮，還在于這能提升性能——HBM性能是DDR的10倍。U50內(nèi)置8GB HBM2,可實(shí)現(xiàn)超過400Gbps的數(shù)據(jù)傳輸速度。PCIe Gen4也是目前最快的總線技術(shù)，這些都是存儲(chǔ)加速的要素。在網(wǎng)絡(luò)端口方面，U50的QSFP28端口可以實(shí)現(xiàn)100Gbps的網(wǎng)絡(luò)連接，并支持多種前沿應(yīng)用，如VMe-oF（NVM Express over Fabrics）、解耦計(jì)算存儲(chǔ)和專業(yè)金融服務(wù)應(yīng)用。滿足所有u280這些性能只需要不到75W的功耗，這可以讓很多應(yīng)用不再為功耗預(yù)算而擔(dān)心。

在一組針對(duì)語音翻譯（深度學(xué)習(xí)推斷加速）、數(shù)據(jù)庫(kù)分析（數(shù)據(jù)分析加速）、數(shù)據(jù)壓縮（計(jì)算存儲(chǔ)加速）、電子交易（網(wǎng)絡(luò)加速）和金融建模（網(wǎng)格計(jì)算）的加速測(cè)試中，與GPU和CPU加速相比，U50的表現(xiàn)優(yōu)異。

其中，語音翻譯的時(shí)延降低25倍，吞吐量擴(kuò)大10倍，在翻譯性能方面，和英偉達(dá)T4 相比，U50 性能提升高達(dá)10倍；

在運(yùn)行TPC-H Query基準(zhǔn)測(cè)試（數(shù)據(jù)庫(kù)分析）時(shí)，相比CPU，U50每小時(shí)吞吐量提升4倍，運(yùn)營(yíng)成本降低3倍；

在數(shù)據(jù)壓縮上，U50將壓縮/解壓縮吞吐量提高了20倍，實(shí)現(xiàn)了更快的Hadoop和大數(shù)據(jù)分析，同時(shí)相比僅CPU節(jié)點(diǎn)將每節(jié)點(diǎn)成本降低了40%；

在電子交易中，U50相比僅CPU的10us延時(shí)，能將時(shí)延降低20%，交易時(shí)間不到500ns；

在金融建模時(shí)，運(yùn)行蒙特卡洛模擬，U50的功效相比GPU提升了7倍。

圖：U50在吞吐量，延遲和功效方面實(shí)現(xiàn)了10-20倍的改善

總的來說，U50在吞吐量，延遲和功效方面實(shí)現(xiàn)了10-20倍的改善。“我們的戰(zhàn)略是致力于讓賽靈思靈活應(yīng)變的加速技術(shù)應(yīng)用于數(shù)據(jù)中心的所有領(lǐng)域，具體來說就是計(jì)算、網(wǎng)絡(luò)和存儲(chǔ)，”Bowen說，“所有的計(jì)算工作負(fù)載都是這三個(gè)領(lǐng)域的一部分，這也是我們看到Alveo可以大展宏圖的地方?！?/p>

重

兩個(gè)重要堆棧

計(jì)算、網(wǎng)絡(luò)和存儲(chǔ)為什么需要加速？因?yàn)橹T如AlexNet、GoogleNet、DenseNet這些網(wǎng)絡(luò)結(jié)構(gòu)都需要不同的硬件架構(gòu)來實(shí)現(xiàn)高吞吐量、低時(shí)延和高效率。對(duì)于應(yīng)用而言，加速可以靈活適應(yīng)不同的需求。而數(shù)據(jù)中心要優(yōu)化性能，需要定制數(shù)據(jù)路徑、定制精度和定制存儲(chǔ)器層級(jí)，沒有比可編程的硬件更適合來進(jìn)行定制化的加速了。不過，對(duì)于數(shù)據(jù)中心開發(fā)者而言，F(xiàn)PGA編程是個(gè)令人頭痛的事情。

“我們從數(shù)據(jù)中心的客戶那里聽到的一個(gè)最大的抱怨就是FPGA的編程非常困難，”Bowen說，“Alveo提供開放的平臺(tái)和開發(fā)環(huán)境，讓開發(fā)者能夠更加便捷地使用，隨著越來越多的開發(fā)者到這個(gè)平臺(tái)上來開發(fā)，會(huì)有更多的云和相關(guān)產(chǎn)品加入，并且能夠?qū)崿F(xiàn)原來只有在軟件部分才有可能實(shí)現(xiàn)的硬件IP的靈活應(yīng)變能力?！?/p>

對(duì)于賽靈思而言，這個(gè)開放平臺(tái)正在形成一個(gè)解決方案的堆棧，好消息是，自去年10月份推出Alveo以來，目前已發(fā)布的應(yīng)用已經(jīng)是當(dāng)初的2倍，而其培訓(xùn)的開發(fā)者已經(jīng)是當(dāng)初的4倍。

圖：解決方案堆棧

開發(fā)堆棧解決了FPGA加速卡的開發(fā)難題，接下來就是大規(guī)模部署落地的難題。Alveo系列的應(yīng)用領(lǐng)域包括數(shù)據(jù)分析、視頻與圖象處理、機(jī)器學(xué)習(xí)、生命科學(xué)和金融計(jì)算——不僅是云的覆蓋，還要部署落地。在諸多調(diào)動(dòng)IT業(yè)者積極性的因素中，“充分商業(yè)化的標(biāo)準(zhǔn)化產(chǎn)品”是重要的一個(gè)，這使得賽靈思的標(biāo)準(zhǔn)產(chǎn)品的開源框架很容易被Kubernetes和docker這類免費(fèi)的微服務(wù)內(nèi)容平臺(tái)連接。

“因?yàn)槲覀兪且粋€(gè)非常標(biāo)準(zhǔn)化的產(chǎn)品，所以Kubernetes可以在系統(tǒng)內(nèi)反映出Alveo插件，開發(fā)者也可以把它和docker配合起來，通過對(duì)Alveo進(jìn)行編程而在系統(tǒng)中體現(xiàn)出加速應(yīng)用?！盉owen解釋道，“所有編排、云管理和應(yīng)用都和這些免費(fèi)的生態(tài)系統(tǒng)結(jié)合，如果沒有這樣一個(gè)標(biāo)準(zhǔn)化的產(chǎn)品配置，客戶可能需要花費(fèi)大量的投資才能夠?qū)崿F(xiàn)這樣一個(gè)功能，這對(duì)于一些超大規(guī)模數(shù)據(jù)中心的應(yīng)用來說是非常有必要的，既可以在云端，也可以用Alveo在本地進(jìn)行加速，而且是一個(gè)非常開放式的框架，可以進(jìn)行全面的加速?！?/p>

這個(gè)生態(tài)就是一個(gè)大規(guī)模部署堆棧，賽靈思在其中開發(fā)了一個(gè)標(biāo)準(zhǔn)框架，然后提供Alveo產(chǎn)品，讓開發(fā)者像加速軟件那樣給服務(wù)器加速——重要的是，通過開發(fā)這個(gè)標(biāo)準(zhǔn)框架，賽靈思決定了應(yīng)用場(chǎng)景的加速方式。

圖：大規(guī)模部署堆棧

據(jù)悉，賽靈思選擇在今天（8月7日）發(fā)布Alveo U50，是因?yàn)檫@兩天（8月6-8日），閃存峰會(huì)（Flash Memory Summit (FMS) 2019）正在美國(guó)加州圣克拉拉會(huì)議中心舉辦，賽靈思執(zhí)行副總裁兼數(shù)據(jù)中心部總經(jīng)理Salil Raje將發(fā)表有關(guān)高速存儲(chǔ)系統(tǒng)加速的的主題演講，該公司同時(shí)也會(huì)在現(xiàn)場(chǎng)演示這款最新的產(chǎn)品。

2404華夏2404輪式拖拉機(jī)