發(fā)布時(shí)間:2024-12-29 12:55:32 來(lái)源:下愚不移網(wǎng) 作者:探索
搭載 P-core(性能核)的英特英特爾®至強(qiáng)® 6900 系列處理器現(xiàn)已推出。從計(jì)算密集型人工智能和高性能計(jì)算用例到關(guān)鍵任務(wù)關(guān)系數(shù)據(jù)庫(kù)和分析應(yīng)用程序,爾至而構(gòu)對(duì)數(shù)據(jù)中心性能的強(qiáng)專(zhuān)需求從未如此之強(qiáng)烈。英特爾®至強(qiáng)® 6 處理器旨在為 IT 團(tuán)隊(duì)提供面向各種工作負(fù)載的分析負(fù)載有針對(duì)性的增強(qiáng)功能,它主要借助于兩種產(chǎn)品線:P-core(性能核)和 E-core(能效核)。工作
P-core(性能核)采用超線程內(nèi)核,英特內(nèi)置矩陣引擎可加速計(jì)算密集型人工智能、爾至而構(gòu)高性能計(jì)算和數(shù)據(jù)服務(wù)工作負(fù)載,強(qiáng)專(zhuān)而 E-core(能效核)則省去了矩陣引擎,分析負(fù)載以支持更高的工作單線程內(nèi)核密度。
所有英特爾®至強(qiáng)®6處理器,英特?zé)o論是爾至而構(gòu)P-core(性能核)還是E-core(能效核),都采用相同的強(qiáng)專(zhuān)指令集、BIOS和內(nèi)置I/O加速器,分析負(fù)載包括英特爾®數(shù)據(jù)保護(hù)與壓縮加速技術(shù)(英特爾®QAT),工作英特爾®Data Streaming Accelerator(英特爾®DSA),英特爾®In-Memory Analytics Accelerator(英特爾®IAA)和英特爾®Dynamic Load Balancer(英特爾®DLB)。
它們還支持相同的驅(qū)動(dòng)程序、操作系統(tǒng)和應(yīng)用程序,以及數(shù)據(jù)中心所依賴(lài)的相同可靠性、可用性和可維護(hù)性 (RAS) 功能。
探索具有P-core(性能核)優(yōu)勢(shì)的英特爾®至強(qiáng)® 6 處理器
企業(yè)希望在部署用于語(yǔ)言、視覺(jué)和圖像識(shí)別以及推薦系統(tǒng)的最先進(jìn)人工智能模型時(shí)節(jié)省資金和時(shí)間,并從高性能計(jì)算驅(qū)動(dòng)的模擬和高級(jí)分析中獲得更深入的見(jiàn)解。采用 P-core(性能核)的英特爾®至強(qiáng)® 6 處理器通過(guò)提供大量具有創(chuàng)新矩陣和向量引擎以及超高內(nèi)存和 I/O 帶寬的高性能內(nèi)核,使企業(yè)能夠抓住這些機(jī)遇。
為廣泛的工作負(fù)載實(shí)現(xiàn)高性能
采用 P-core(性能核)的英特爾®至強(qiáng)® 6 處理器,每個(gè)插槽可靈活擴(kuò)展至 128 個(gè)內(nèi)核、12 個(gè)內(nèi)存通道和 96 個(gè) PCIe 通道,幫助企業(yè)滿(mǎn)足不同的應(yīng)用需求。對(duì)于希望緩解內(nèi)存帶寬瓶頸的 IT 團(tuán)隊(duì)來(lái)說(shuō),創(chuàng)新的多路合并陣列 (MRDIMM) 可提供高達(dá)每秒 8,800 兆 (MT/s) 的傳輸速度,同時(shí)通過(guò)快速完成工作來(lái)降低總體擁有成本。內(nèi)置加速器為目標(biāo)工作負(fù)載提供額外的提升,實(shí)現(xiàn)更高的性能和效率。
利用CPU 的強(qiáng)大 AI 性能
采用 P-core(性能核)的英特爾®至強(qiáng)® 6 處理器旨在支持許多要求嚴(yán)苛的 AI 用例。P-core(性能核)通過(guò)英特爾® Advanced Matrix Extensions(英特爾® AMX)等加速功能,擴(kuò)大了英特爾在內(nèi)置 AI 領(lǐng)域四代產(chǎn)品的領(lǐng)先優(yōu)勢(shì),目前支持 int8、BF16 和 FP16(新)數(shù)據(jù)類(lèi)型。因此,P-core(性能核)可幫助滿(mǎn)足從目標(biāo)檢測(cè)到中型 GenAI 等多種人工智能模型的服務(wù)級(jí)別協(xié)議 (SLA),同時(shí)提供開(kāi)放標(biāo)準(zhǔn)、高性能、RAS 功能,并根據(jù)需要支持其他加速器。
優(yōu)化通用工作負(fù)載的性能
采用 P-core(性能核)的英特爾®至強(qiáng)® 6 處理器在全范圍工作負(fù)載上表現(xiàn)出色,其主流系列產(chǎn)品擁有 8-86 個(gè)內(nèi)核,在基于雙 CPU 的系統(tǒng)中,網(wǎng)絡(luò)和存儲(chǔ)外接卡擁有多達(dá) 176 個(gè) PCIe 5.0 通道,而基于單 CPU 的系統(tǒng)中,單插槽產(chǎn)品則擁有 136 個(gè) PCIe 通道。所有英特爾®至強(qiáng)® 6 處理器都能隨著服務(wù)器利用率的增加而提供可擴(kuò)展的每瓦性能,在整個(gè)負(fù)載線路上提供近乎線性的功耗-性能消耗,這凸顯了所有英特爾®至強(qiáng)® 6 處理器的高效性。對(duì)于性能要求苛刻的工作負(fù)載,這意味著平臺(tái)在高負(fù)載下有效地利用能耗,以幫助快速完成工作。
Performance-core(性能核)工作負(fù)載性能優(yōu)勢(shì):
與第五代英特爾® 至強(qiáng)® 處理器相比:
● 借助英特爾® AMX,Llama2 性能提升高達(dá) 3 倍
● HammerDB MySQL 性能提升高達(dá) 2 倍
● 利用 MRDIMM,HPCG 基準(zhǔn)測(cè)試的性能提升高達(dá) 2.5 倍
與第二代英特爾®至強(qiáng)® 處理器相比:
● 采用 INT8 的 ResNet – 50 BSX 的性能提升高達(dá) 17 倍
與競(jìng)爭(zhēng)對(duì)手相比:
● 與 AMD EPYC 相比,借助 MRDIMM 的 AI 推理性能提升高達(dá) 5.5 倍
利用增強(qiáng)的安全功能跟上業(yè)務(wù)增長(zhǎng)的步伐
在本地、邊緣和云服務(wù)器上追求新的業(yè)務(wù)模式和數(shù)據(jù)共享,即使在處理敏感數(shù)據(jù)或受監(jiān)管數(shù)據(jù)時(shí)也是如此?;诳尚艌?zhí)行環(huán)境 (TEE) 的機(jī)密計(jì)算能夠幫助在使用過(guò)程中保護(hù)數(shù)據(jù)和 AI 模型。采用 P-core(性能核)的英特爾®至強(qiáng)® 6 處理器允許客戶(hù)選擇最符合其業(yè)務(wù)和監(jiān)管要求的機(jī)密計(jì)算技術(shù)。
應(yīng)用程序隔離:英特爾® Software Guard Extensions(英特爾® SGX)提供旨在保護(hù)使用中數(shù)據(jù)的應(yīng)用程序隔離。英特爾® SGX 是目前市場(chǎng)上研究和更新最多的數(shù)據(jù)中心機(jī)密計(jì)算技術(shù)。
虛擬機(jī)(VM) 級(jí)隔離:英特爾® Trust Domain Extensions(英特爾® TDX) 在虛擬機(jī)級(jí)別提供隔離和機(jī)密性。在基于英特爾® TDX 的機(jī)密虛擬機(jī)中,客戶(hù)機(jī)操作系統(tǒng)和虛擬機(jī)應(yīng)用程序被隔離開(kāi)來(lái),無(wú)法被云端主機(jī)、虛擬機(jī)管理程序和平臺(tái)的其他虛擬機(jī)訪問(wèn)。
增強(qiáng)針對(duì)P-core(性能核)優(yōu)化的目標(biāo)工作負(fù)載
為 AI 、高性能計(jì)算和關(guān)系數(shù)據(jù)庫(kù)等用例管理計(jì)算密集型工作負(fù)載的 IT 決策者,將從部署采用 P-core(性能核)的英特爾®至強(qiáng)® 6 處理器中獲得最大收益。增加對(duì) MRDIMM 內(nèi)存的支持,還有助于緩解超大內(nèi)存占用的內(nèi)存數(shù)據(jù)庫(kù)或大型語(yǔ)言模型 (LLM) 等用例的內(nèi)存訪問(wèn)限制。
加速AI 工作流程,以保持競(jìng)爭(zhēng)力
采用 P-core(性能核)的英特爾®至強(qiáng)® 6 處理器由于配備了增強(qiáng)的內(nèi)核、更大的內(nèi)存帶寬和強(qiáng)大的矩陣引擎,可提供充足的算力,以支持中小規(guī)模生成式人工智能模型的推理、微調(diào)和檢索增強(qiáng)生成 (RAG) 用例。此外,針對(duì)英特爾®至強(qiáng)® 處理器的優(yōu)化已集成到 TensorFlow 和 PyTorch 等在內(nèi)的流行深度學(xué)習(xí)框架的主流發(fā)行版。
管理日益復(fù)雜的高性能計(jì)算和模擬
除內(nèi)置矩陣引擎外,采用 P-core(性能核)的英特爾® 至強(qiáng)® 6 處理器還具有英特爾® Advanced Vector Extensions 512(英特爾® AVX-512),可加速科學(xué)模擬中常見(jiàn)的基于矢量的數(shù)學(xué)運(yùn)算。由該平臺(tái)提供支持的集群可幫助釋放 3D 渲染、科學(xué)研究、金融模擬和計(jì)算機(jī)輔助工程的威力,以加快取得成果。
將基礎(chǔ)架構(gòu)和存儲(chǔ)優(yōu)化提升到新的水平
由于 P-core(性能核)和 E-core(能效核)共享相同的硬件平臺(tái),企業(yè)可以混合使用具有每種類(lèi)型內(nèi)核的系統(tǒng)來(lái)管理其基礎(chǔ)設(shè)施中的各種工作負(fù)載,同時(shí)不超出功率預(yù)算,并遵守?cái)?shù)據(jù)隱私和主權(quán)法規(guī)。計(jì)算密集型 P-core(性能核)可以支持 SAS 等高強(qiáng)度業(yè)務(wù)分析軟件,而 E-core(能效核)可用于運(yùn)行系統(tǒng)備份和軟件更新等低強(qiáng)度、高空閑時(shí)間的工作負(fù)載。
提高工作效率,幫助消除邊緣的延遲
通過(guò)將高性能計(jì)算資源置于更靠近終端用戶(hù)和設(shè)備的位置,從而提高邊緣生產(chǎn)力和延遲。采用 P-core(性能核)的英特爾® 至強(qiáng)® 6 處理器能夠在邊緣服務(wù)器中部署先進(jìn)的人工智能模型,并提供所需的算力,以便從數(shù)千個(gè)物聯(lián)網(wǎng)設(shè)備中快速獲得洞察力。具有 136 個(gè) PCIe 通道的單插槽選件還允許每個(gè)處理器使用更多的擴(kuò)展卡,從而有助于在空間有限的部署中整合基礎(chǔ)設(shè)施。
在保持快速、響應(yīng)式分析的同時(shí)發(fā)展關(guān)系型數(shù)據(jù)庫(kù)
P-core(性能核)處理器中的高級(jí)矢量引擎允許有效運(yùn)行高級(jí)數(shù)據(jù)庫(kù)和分析用例中常見(jiàn)的基于單指令、多數(shù)據(jù) (SIMD) 的工作負(fù)載。英特爾® 至強(qiáng)® 6 處理器還能利用高水平的超低延遲緩存,幫助避免與資源爭(zhēng)奪有關(guān)的延遲。利用該平臺(tái)和英特爾® QAT 等加速器的多功能配置,可以在分析和存儲(chǔ)復(fù)雜數(shù)據(jù)類(lèi)型時(shí)快速得出結(jié)果。
相關(guān)文章
隨便看看