最強服務器CPU來了!AI性能直接翻倍
服務器CPU領域持續多年的核心數量大戰,被一舉終結了!
英特爾最新發布的至強®6性能核處理器(P-core系列),超越了過去單一維度的競爭,通過“升維”定義了新的游戲規則:
>算力、存力,要全方位提升。不能做到這一點的CPU,不是智算時代的好U。
在過去,CPU升級換代往往要在單個芯片上集成更多的核心,但這難免會受到工藝和芯片尺寸的限制,更別提與IO和內存的匹配難題。
這一次,至強®6性能核處理器采用了計算芯片單元與I/O芯片單元解耦的分離式模塊化設計,可以靈活組合不同數量的計算單元,實現核心數量的擴展及內存和IO的同步強化,保證更優的整體性能和能效。
用最直觀的方式感受一下:
2023年12月15日,英特爾數據中心與人工智能集團副總裁陳葆立從褲兜里掏出第五代至強®可擴展處理器,還只有64個核心。
2024年9月26日,還是陳葆立,同樣從褲兜里掏出至強®6性能核處理器,卻直接翻倍到128核心。
兩款處理器外形大小相似,都能輕松放入口袋,但性能卻發生了質的飛躍。
具體來說,剛剛登場的是至強®6性能核處理器大家族中的先鋒+頂級戰力——英特爾®至強®6900P系列。
擁有多達128個性能核和504MB的超大L3緩存,更大、更寬的內存支持,更多、更快的IO能力。非常適用于各種數據和計算密集型應用任務,比如科學計算、海量數據處理,還有AI。
看到這里,可能很多人會有疑問:你們又要說用CPU跑AI?是GPU它不香了么?
NoNoNo,我們是想說:有了這款CPU,你的GPU或其他的AI加速器,會更香!
談到這個話題,就要先說說AI服務器。
在生成式AI應用百花齊放的當下,AI服務器的重要性可謂是不言而喻,無論是對于大規模的訓練、推理,亦或是RAG等任務,都對其提出了更高的要求。
也正如綜合市場預測數據從側面反應出來的那般:
>AI服務器市場規模已經達到了211億美元,預計2025年達到317.9億美元,2023-2025年的CAGR為22.7%。
我們都知道AI服務器里GPU或AI加速器很重要,卻很容易忽視其中CPU的作用。一個真正為AI服務器或AI數據中心基礎設施設計的出色的CPU,應該是什么樣的?
英特爾®至強®6性能核處理器,可以說是給出了一個正解。
外媒甚至評測過后,對英特爾這次的新CPU給予了極高的評價:
>不僅僅是Xeon,更是XEON。
嗯,用中文來說的話,就是英特爾至強,這次是真的至強(達到最強)了。
那么英特爾®至強®6性能核處理器是如何解鎖這種認同的呢?
至強,何以至強
首先要說的是算力。
英特爾®至強®6900P系列產品此次最亮眼的128核(三個計算芯片單元),這就是它看似符合此前游戲規則的一大技術亮點。
通過核心數量的不同排列組合方式,至強®6性能核處理器可以應對不同的場景來提供不同核心的型號,除了最高128核的產品系列(6900P)外,還有最高86核(2個計算芯片單元),最高48核(1個計算芯片單元)和16核(1個計算芯片單元)的產品系列。
用來做這種排列組合的模塊中,計算芯片單元采用的是Intel 3制程,包含一體式網格、核心、緩存、內存控制器等,可以保證數據傳輸的一致性。
I/O芯片單元則是采用Intel 7制程,包含UPI、PCIe、CXL和加速器引擎等。
不同于第五代英特爾®至強®產品,至強®6是將I/O和計算兩個單元進行了解耦,不僅易于做核數的擴展,還有利于驗證、重復和靈活使用。
除此之外,英特爾®至強®6性能核處理器的亮點還包括:
6400 MT/s DDR5
8800 MT/s MRDIMM內存
6條UPI 2.0鏈路;速率高達24 GT/s
96條PCIe 5.0/ 64條 CXL 2.0通道
L3緩存高達504MB
支持FP16數據格式的英特爾® AMX
接下來要說的是存力。
至強®6性能核處理器超脫此前游戲規則的亮點就藏在其中。
它同時支持了更快的DDR5內存(6400MT/s)和更“寬”的MRDIMM內存(8800MT/s)。
僅把前者替換成后者,就已經能讓科學計算和AI場景的多項任務提升7%-33%不等了。而且相比此前至強® CPU Max采用的HBM,MRDIMM內存的引入,不僅帶寬和速度優勢更明顯,它與CPU解耦的型態,也更利于用戶的靈活采購、配置與升級。
存力除了內存本身的性能,還包含CPU與內存之間的互連技術,至強®6導入了最新的Compute Express Link 2.0 (CXL 2.0) 。
CXL 2.0支持多種設備類型,且可向后兼容,實現對內存和存儲設備的靈活擴展。
支持鏈路分叉、更強的CXL內存分層支持,以及以受控熱插拔的方式添加/移除設備,為未來的數據中心架構帶來了更多可能性。
更值得一提的是至強®6獨占的“Flat”內存模式,CXL內存和DRAM內存被視為單一的內存層,讓操作系統可以直接訪問這一統一的內存地址空間。
這樣的分層管理可以確保最大限度地提升內存使用效率,并且實現利用好CXL內存擴展而無需修改軟件。
如此這般能對內存速度、帶寬、容量和可擴展性全面兼顧,已經形成了至強®6性能核處理器獨樹一幟的競爭力。
具體到服務器設計上,CLX2.0可以支持每機提供8TB內存容量擴展,同時提供384GB/s的內存帶寬擴展。
當然,作為CPU的至強®6性能核處理器并沒有忘記自己的本份,把存力與算力的硬指標優勢結合起來,轉化成真正的優勢,才是它被看好的底氣。
在算力方面,除了更多內核,它還有內置加速器與指令集更新帶來的加成。
主攻AI加速的英特爾®高級矩陣擴展(Intel® AMX)新增對FP16數據類型的支持,現已全面覆蓋 int8、BF16和FP16數據類型。
其在每個內核中的矩陣乘加(MAC)運算速度可達 2048 FLOPS(int8)和1024 FLOPS(BF16/FP16),能大幅提升 AI 推理和訓練性能。
英特爾® 高級矢量擴展 512(AVX-512)雖然是員老將了,但在得到如此豐沛的內核資源支持后,也依然是科學計算、數據庫和 AI 任務中的矢量計算擔當。
這些加速器的升級與煥新帶來的成果就是下圖這種多負載性能表現普遍倍增的現象,在AI領域,尤其是在Llama2-7B上的提升直接達到了前一代產品的3.08倍。
最后在硬件增強的安全特性方面,英特爾早期的方案為SGX,但從第五代至強® 開始新增了TDX方案。這些看似難以通過Benchmark數值來證明自身價值的技術,實則不可或缺,是確保關鍵數據和應用更為安全可靠的壓艙石。
而安全,恰恰是目前AI數據中心或智算中心這種涉及海量數據、關系萬千機密和隱私的環境中較少提及,卻最應補足和鞏固的一環。
說了這么多,如果要用一句話總結至強®6性能核處理器,尤其是6900P系列產品的定位,那就是“更強通用計算,兼顧AI加速”了。
那么新處理器具體都有哪些用法,表現又如何呢?
還請繼續往下看。
全能型CPU:加速AI推理,統領異構計算
首先,至強®6性能核處理器可以做“獨行俠”,直接加速AI推理,助力AI應用普及。
用CPU做AI推理加速,其意義并非在于與GPU或其他專用加速器競爭極致的速度或效率,而是要在一些成本、采購、環境等條件受限的情況下,借助CPU部署更廣泛、人才儲備更扎實和應用更便捷的優勢,讓AI能夠更快、更有效地落地。
帶著這樣的整體目標,英特爾在軟件生態和工作負載優化方面投入了大量精力,以確保用戶能夠充分發揮至強®6性能核處理器的潛力。
例如,英特爾與TensorFlow和PyTorch等主流深度學習框架進行深度合作,將針對英特爾CPU的優化集成到官方發行版中,從而使得在英特爾CPU上運行深度學習模型時,性能得到顯著提升。上文提到的Llama2-7B成績便是這些努力的成果之一。
另外,至強®6性能核處理器還可以做“指揮官”,強化AI系統整體實力。
這其實是很多用戶更為熟悉,也是至強®6性能核處理器更主打的應用方式,所謂“指揮官”,另一個名稱就是機頭(head-node)CPU或主控CPU。
如果將至強®6性能核處理器用作AI服務器的機頭CPU,那么其在算力(更強的單線程性能)、存力(對MRDIMM內存和CXL內存擴展能力的支持)以及 I/O(更多的PCIe 5.0通道)等方面的優勢和潛能就能更加充分地發揮和釋放出來。
使其能夠與GPU或專用的AI加速器高效協作,出色地處理數據預處理、數據傳輸分享和混合工作負載。
我們最初的設問,至此終于拼湊出了一個更為完整的答案,即為何至強®6性能核處理器能夠被稱作AI服務器或AI數據中心的“嚴選”,甚至是優選CPU ?
這正是由于它既能夠單槍匹馬地加速AI推理,又可以居中協調以提升異構系統的整體性能輸出。
更不必說,它還能夠兼顧眾多傳統但同樣不可或缺的應用負載,例如前文提及的科學計算和數據庫,以及高性能云基礎設施構建等任務。
以Flatiron Institute的案例來說,作為一家科研機構,他們對科學計算有著強烈的需求。通過測試得知,至強®6性能核處理器在常見科學計算負載上表現優異。
他們還覺得對MRDIMM內存的支持將進一步突破傳統DDR內存的性能瓶頸,推動數據密集型科學發現。
在本次至強®6性能核處理器的發布會上,英特爾也展示了本地數據庫軟件合作伙伴——科藍軟件的成果。
英特爾市場營銷集團副總裁、中國區&行業解決方案和數據中心銷售部總經理梁雅莉在介紹生態系統支持狀況時表示:
>基于我們的新品,科藍軟件構建了高性能國產分布式數據庫,其吞吐較第五代至強®可擴展處理器提升達到 198%。
值得一提的是,在她分享中出現的中國合作伙伴數量眾多且都是各領域的核心力量,英特爾雖然在產品研發上有了更多創新,但在商業模式上仍然非常依賴開放架構平臺之上的產業合力。
十數家OEM、ODM、OSV和ISV在至強®6性能核處理器發布時同步推出新產品,以及多家云服務提供商的支持,在英特爾看來,才是新品真正走近用戶和價值放大的基礎。
建好AI服務器,CPU不能是短板
從前面列舉的眾多數據和用例可以看出,在當前AI應用加速落地、新推理計算范式和合成數據等趨勢的推動下,AI算力需求越來越注重推理和復合工作負載。
在這之中GPU或專用加速器固然重要,但CPU作為整個系統的“指揮官”,絕不能成為短板。
大家需要真正兼顧通用計算,以及AI服務器及AI數據中心場景的CPU產品。它不僅能支持廣泛的第三方GPU及AI加速器,與它們組合形成強大的異構計算平臺,還能在其中補足GPU或專用加速器覆蓋不到或不足的地方,為更多樣和復雜的場景提供靈活的算力選擇,并增強整個AI平臺的穩定性、安全性和擴展性。
英特爾®至強®6性能核處理器的出現,就為AI計算帶來了這樣一個全新的支點。(來源:量子位 作者:夢晨 金磊)
免責聲明:市場有風險,選擇需謹慎!此文僅供參考,不作買賣依據。
標簽:
推薦
財富更多》
-
印尼民眾“零距離”體驗雅萬高鐵列車
印尼民眾“零距離”體驗雅萬高鐵列車---...
-
人民幣兌美元中間價報7.1986 調升162個基點
人民幣兌美元中間價報7 1986調升162個...
-
茶飲“卷”到健康戰
茶飲“卷”到健康戰---從卷規模、卷價格...
-
我國清潔能源建設景氣持續向好 電力建設呈現結構優化發展態勢
我國清潔能源建設景氣持續向好電力建設...
-
劉玉民任北京密云區委常委
劉玉民任北京密云區委常委---中國經濟網...
動態更多》
熱點
- realme10系列正式宣布 采用雙曲面屏正面頂部居中挖孔
- 五菱全新微型電動車內飾官圖發布 座椅采用星際形打孔工藝
- 努比亞Z40星空典藏版正式開售 采用微米級油畫筆觸紋理技術
- iQOO11系列正式官宣 首批搭載驍龍8Gen2機型之一
- 海信34英寸帶魚屏顯示器發布 支持165Hz刷新率
- OPPO明年將商用240W超級閃充 新一代電芯支持更高倍率充電
- 第一款Android手機渲染圖曝光 橫向滑蓋設計和全尺寸鍵盤
- 吉利首款純電皮卡11月9日上市 車輛續航里程超過610公里
- 努比亞Z40SPro星空典藏版正式公布 堪稱窄邊框天花板
- vivo無線運動耳機2今日正式上市 首銷只要119元
- 首批通過“國字號”3C認證,ARROW箭牌衛浴開啟行業質量新篇章
- 龍城整裝一站式家裝新體驗,實現設計圖“所見即所得”
- KVB推出全新交易APP,開啟全球金融市場新時代
- 中軟國際教育攜長江鯤鵬,聯合打造華為云數字化人才培養特色專班
- 蒙牛乳業以中國乳業“國家隊”力量支持香港繁榮發展努力成果
- 戴爾科技攜手合作伙伴,共繪智能時代新藍圖
- 科大訊飛AI學習機T20 Pro:讓每個孩子都能享受個性化的學習之旅
- 車損是否可以按照客戶意愿提升保額!
- 擁有前瞻視野,浙江溫盛等企業率先入駐印查查平臺
- 時代強國欄目重點推薦時代影響力人物趙金華
- 蒙牛乳業助力首屆銀川“村BA”圓滿舉辦,為鄉村振興添磚加瓦
- 降本增效,法奧機器人助力CNC自動化升級提速
- 人保車險-車險與駕駛員年齡的關系
- 科技之光閃耀璧山:7月26日解鎖AI新動力
- 蒙牛乳業營養健康AI模型成功備案,推動數智化戰略創新
- 蒙牛乳業深度參與中國奶業大會,堅持打造新質生產力助力奶業振興
- 一嗨租車全面取消車輛押金 開啟0壓自由行
- 東軟蟬聯中國醫保信息化市場份額第一
- 共話全域營銷滲透及運營,君潤人力專題私享會圓滿舉辦
- 蒙牛高飛總裁與焦作市政府洽談合作,共謀地方經濟高質量發展
- 知名公眾人物患癌事件:對年輕一代的健康警示
- 首批試點城市公布 東軟助推“車路云一體化”場景落地
- 通用技術集團戰略投資東軟醫療
- 人大金倉成立25周年專題片——《大有可為》
- 友邦人壽首款稅優健康險產品上市 持續以普惠方向書寫“養老金融”大文章
- 東軟再次榮獲兩項國家科技進步獎
- 跨境電商下南洋,已被驗證的贏家哲學
- 運動耳機怎么選?世界冠軍孫瑜推薦的Cleer ARC 3 音弧運動版了解一下!
- 一加性能天團正式發布,一加Ace 3 Pro 售價 3199 元起
- 蒙牛乳業積極鄉村體育公益,共創首屆銀川“村BA”盛事
- 一加Ace 3 Pro 首發安卓原生 120 幀,開啟安卓手游歷史一刻
- Moka Ascend 2024|勢在·人為,技術創新,激發企業管理內在效能
- 智平方亮相2024全球人工智能技術大會
- 征服“地獄級”重載場景,性能猛獸一加 Ace 3 Pro 兇猛來襲
- 與任賢齊一“齊”過生日,Cleer直播間驚喜滿滿送蛋糕
- 仰韶彩陶坊攜手張學友60+巡回演唱會燃動今夏,演繹跨界合作新篇章!
- 一加夏季性能生態發布會定檔 6 月 27 日,開啟性能體驗新時代
- 技術加持、產品立身“商查利器”愛企查持續助力誠信社會建設
- 一加攜手寧德新能源打造高性能冰川電池,一加 Ace 3 Pro 首發
- 世界冠軍孫瑜“回家”開播,Cleer直播間秒變羽毛球課堂
- 2024年全國中小企業服務月北京“益企京彩”服務行動暨創客北京大賽啟動會在京舉辦
- 618驚喜預告,兩位大咖空降Cleer抖音直播間送千元壕禮!
- 618遇父親節!Cleer ARC 3 音弧 快快安排上
- 東軟睿馳在武漢持續布局,跑出智能化“加速度”
- 蒙牛中糧攜手合作,開啟青少年營養教育新征程
- 聯想拯救者攜手《黑神話:悟空》,開啟國產單主機巨作的新時代
- 車險報案次數多了,對保費有影響嗎?
- 6分鐘2600單!董宇輝攜手Cleer開放式耳機竟只是機緣巧合?
- 浴霸哪個品牌質量好?618放心購
- 東軟OneCoreGo 5.0導航族群產品斬獲大單
- 蒙牛乳業持續推動綠色采購,“零毀林”大豆彰顯環保決心
- 全國農村二輪土地承包合同電子化簽署正式啟動,數字認證提供技術支持
- 君品談|王堅:群居而不倚,獨立而不懼
- Cleer大師音質王牌電競官一諾,攜Cleer ARC 3音弧送寵粉福利
- 蒙牛乳業開展技術幫扶活動,助力牧場降本增效
- 數字認證攜手華為鴻蒙生態,升級智慧辦公新體驗
- 一諾空降Cleer抖音直播間,引爆ARC 3 音弧開放式AI耳機游戲新體驗
- 互聯互通新進展-聯通支付與微信實現商戶收款碼互聯互通!
- 東軟醫療光子計數CT首獲人體圖像,國產醫學影像重大突破!
- 亞薩合萊開門解決方案助力企業“上云”轉型
- 武漢東軟軟件園開園 東軟加速智能化和數據價值化解決方案在武漢落地
- 深圳私域俠科技發展有限公司:引領科技前沿,打造智能獲客新模式
- 2024上海國際焙烤展啟幕,膳印科技X5食品印花機新品首發
- 億達科創打造供應鏈金融系統,助力重工大企“產融結合”
- 大促想要推新即爆?巨量云圖帶來新品打爆通關指南2.0
- 第七屆數字中國建設峰會現場體驗區開放,釋放數字科技“向新力”
- FOLLOWME“交易大賽·年中盛會”2024香港站線下活動圓滿落幕
- 用“愛”和“AI”,開開華彩構建銀齡美好新生活
- 隋響推薦|Cleer ARC 3音弧的聽音體驗,就是大師音質
- 一加618燃價到底:三大熱門機型全網補貼5億,全能體驗、全面普及
- 蒙牛學生奶:踐行品牌使命,攜手百城千校共筑營養健康夢
- 一嗨租車成為年輕人自駕出行的新寵 租車優選無需猶豫
- 億達科創獲 AI 金雁獎“領軍企業大獎”
- 520來了,快給你的對象送上朗朗吉娜都在用的耳機
- 東軟高階智能座艙域控位居高工榜單首位
- OPPO K12x上線預售,同檔罕見80W超級閃充+5500mAh超大電池
- 新車每年必須購買哪些保險?
- 以關懷之名,Cleer ARC 3 音弧開放式AI耳機獻禮母親節
- GOLD強勢進駐主流交易所,黃金金融新篇章璀璨啟航
- 2024年信任互聯大會順利召開,推動商用密碼高質量發展正當時
- NVC雷士電工DP7系列軌道插座,解鎖自由靈活用電新方式
- 智者無畏!Vidda發布X Ultra系列AI電視和C2系列三色激光投影
- 發揮數字創新,體驗文化魅力 ——聯通支付傾力打造臻寬帶30年數字藏品
- 東軟攜手ACCESS 打造一站式車載智能出行解決方案
- 算力點亮AI 東軟攜手生態伙伴共創算力網絡產業鏈
- Cleer ARC 3開放式AI耳機上新,致敬最美勞動者
- 1799元起!OPPO K12正式開售,引領百瓦閃充超長續航雙普及
- 東軟亮相Japan IT Week 2024
- 東軟發布OneCoreGo?全球車載智能出行解決方案5.0
- 劉積仁獲評中國軟件產業40年功勛人物
- 星耀共創聯合堅決維護商業名譽和法定權益
- 我們開源啦!一鍵部署免費使用!Kubernetes上直接運行大數據平臺!
- 影像佳作 有融乃大 佳能攜豐富的專業影像設備及多樣化專業影像解決方案亮相CCBN2024
- Form 4:Formlabs 3D打印機的全新力作,速度、精度與可靠性的卓越展現
- 超長續航十面耐摔,OPPO K12售價1799元起
- 專業與智能的完美融合:訊飛智能錄音筆SR702引領職場新風潮
- AI「攪動」云計算,阿里云推動算力底層變革
- 震撼首發,Cleer推出全球首款開放式AI 耳機Cleer ARC 3 音弧!
- OPPO K12開啟「百瓦閃充」+「超長續航」雙普及時代
- 佳能EOS青年影像學院暨第二屆佳能大學生影像節在廣州盛大啟幕
- 聚焦宇視合作伙伴大會,直面變革,探索新質發現
- 聽見花開——湯寧容繪畫藝術展在上海寶龍藝術中心開幕
- 香港WEB3峰會助力GOLDAR繪制宏偉藍圖,踏上戰略新征程
- 派克漢尼汾攜新品亮相2024中國制冷展,賦能高效、節能、智能化制冷新生態
- 3E飛龘,七星越朤!AOC顯示器2024年渠道大會在河內召開,攜手伙伴「齊聚升龍?新篇」
- 港知交所攜手深圳技術大學成功開展《深圳市高校大學生知識產權意識提升活動成果發布講座》
- 申請香港身份,選優世出國值得信賴
- 后代無憂以中醫智慧賦能農業,助力農民實現財富增長新篇章!
- 后代無憂:引領綠色發展風尚,“中醫”比化肥更懂中國耕地
- 后代無憂:勇擔中醫農業人使命,開創中國特色生態農業之路
- 后代無憂引領中醫農業創業潮,萬億市場等你來戰!
- 后代無憂:傳承中醫智慧,化解化肥農藥難題
- 何為中醫農業人?后代無憂開創中醫農業,助推農業高質量發展
- 東軟相繼獲批遼寧省和沈陽市大語言模型創新平臺
- 天貓魔屏C2新品發布,終身會員投影儀引領行業格局, 亮相中國網絡視聽大會
- 車險中的道路邊援助
- 打造垂類“芒果大模型”,AI應用于芒果內容生產全鏈路
- 官宣!仰韶彩陶坊酒連續十一年榮膺“黃帝故里拜祖大典”供奉用酒!
- 聚拍網積極探索廢舊基建物資回收與新質生產力發展新業態 推動廢棄物循環利用
- 墨水屏平板怎么選?這些因素你必須考慮
- 新手駕駛員如何選擇保險公司
- 雙榜領先 東軟T-BOX穩居中國供應商首位
- 極氪007讓我秒變“飆車黨”,加速破百僅需3.1秒,爽翻了!
- 全國人大代表、中國移動遼寧公司總經理劉宏志:推動數字鄉村建設、激發鄉村振興“數智力量”
- 又一爆款!魅族21 PRO首銷場面火爆,99%好評度銷冠拿到手軟