阿里云ECS 第九代Intel實例:AI普惠時代的“平民化”算力推手
隨著AI技術(shù)滲透千行百業(yè),算力已成為驅(qū)動企業(yè)創(chuàng)新發(fā)展的核心引擎。英特爾? 至強? 6處理器的推出,正是為了滿足AI時代多樣化且日益增長的算力需求。近日,搭載英特爾? 至強? 6性能核(P-core)處理器的阿里云ECS第九代企業(yè)級實例g9i全球發(fā)布并開啟 商業(yè) 化,標(biāo)志著雙方合力為AI時代打造算力新標(biāo)桿邁出了堅實一步。
至強? 6性能核:為計算密集型負(fù)載而生
英特爾? 至強? 6處理器采用性能核(P-core)和能效核(E-core)兩種不同的CPU微架構(gòu)。其中,率先發(fā)布的至強? 6性能核處理器(代號Granite Rapids)專為計算密集型和AI工作負(fù)載量身打造。
該處理器基于先進(jìn)的Intel 3制程工藝,最高可配備128個核心,擁有高達(dá)504MB的三級共享緩存。內(nèi)存方面,支持多達(dá)12通道的DDR5(最高6400 MT/s)及高達(dá)8800 MT/s的MRDIMM。連接性上,提供96條PCIe 5.0通道和64條CXL 2.0通道。這些強大的硬件規(guī)格,為運行AI推理、機器學(xué)習(xí)、數(shù)據(jù)庫、Web服務(wù)等高性能計算任務(wù)提供了堅實基礎(chǔ)。
AMX技術(shù)再升級,FP16加速AI計算
AI性能是至強? 6性能核處理器的核心優(yōu)勢之一。其內(nèi)置的英特爾? 高級矩陣擴展(AMX)技術(shù),是專為加速深度學(xué)習(xí)訓(xùn)練和推理而設(shè)計的加速引擎。除了已支持的INT8和BF16數(shù)據(jù)類型外,此次更新增了對FP16數(shù)據(jù)格式的支持,能夠進(jìn)一步提升AI計算性能和精度。
英特爾? AMX
可顯著提升基于CPU的深度學(xué)習(xí)訓(xùn)練和推理性能,除INT8和BF16外,進(jìn)一步支持基于FP16數(shù)據(jù)格式的模型以提升AI性能。
這一提升在阿里云的PolarDB for AI數(shù)據(jù)庫服務(wù)中得到了驗證。利用英特爾AMX技術(shù)進(jìn)行數(shù)據(jù)庫內(nèi)模型算子加速,部署在阿里云ECS g9i實例上的PolarDB for AI:
對于基于DNN的在線推薦模型,可獲得30%的加速效果。
對于基于Transformer架構(gòu)的模型,可獲得50%的加速效果。
這些實測數(shù)據(jù)充分證明了至強? 6性能核處理器及其AMX技術(shù)在加速實際AI應(yīng)用方面的卓越能力。憑借出色的AI性能,至強? 6性能核處理器也成為全球眾多AI加速平臺優(yōu)選的數(shù)據(jù)處理“機頭”CPU。
更強勁、更穩(wěn)定、更劃算 , 共筑AI未來
英特爾與阿里云的緊密合作,將至強? 6處理器的領(lǐng)先技術(shù)快速轉(zhuǎn)化為云上客戶的計算實例,讓ECS g9i更強勁、更穩(wěn)定、更劃算。未來,雙方將繼續(xù)通過創(chuàng)新的軟硬件組合,賦能企業(yè)抓住AI機遇,共同鋪就AI應(yīng)用的“繁花”之路。