近日,專註Arm雲原生服務器CPU的Ampere Computing在2023年度戰略和產品路線圖更新分享中表示,Ampere推出了全新的AmpereOne系列處理器,基於5nm工藝節點製造,擁有多達192個單線程Ampere核,再一次創造業內最高核心記錄。
這一核心數量遠遠超過英特爾和AMD服務器CPU的核心數,如果放在一個具體的場景中,在雲環境中運行虛擬機(VM),將192核的AmpereOne、96核的AMD Genoa、60核的英特爾Sapphire Rapids進行對比,AmpereOne每機架運行的虛擬機數量是AMD Genoa的2.9倍,是英特爾Sapphire Rapids的4.3倍。
「AmpereOne現已投產並交付給客戶,AmpereOne能夠為雲工作負載提供更高的性能、更高的可擴展性以及更高的密度,這是第一款基於Ampere新自研核的產品。」Ampere Computing首席產品官Jeff Wittich說到。
192自研核再創紀錄,針對更大規模數據中心
Ampere發展至今已經有將近7年歷史,此前的兩年,已經推出了幾款不同的產品,核數從32核到128核不等,今年又將核數進一步提升,最高可達192核,對比隔壁X86陣營的英特爾至強開始強調「多放10 個核數,不如多放一個加速器」,Ampere的產品升級似乎執着於核心數的提升。
這對數據中心市場而言意味着什麼?
」全新推出的AmpereOne系列處理器並不是要取代Ampere Altra系列,而是在它原本的基礎之上進行持續擴張。我們的出發點是希望能夠滿足不同客戶的不同需求。」Jeff Wittich說到。
AmpereOne系列處理器因為擁有更高的核數,不僅在計算性能上有所擴展,還擴展了內存容量、帶寬和IO帶寬,採用了PCIe 5.0 和 DDR5。這些新增的功能主要是為對算力有更高需求的用戶提供服務,主要針對大規模的數據中心,而對於邊緣計算場景,只需要部署32核、功耗40瓦的Ampere Altra處理器就能滿足需求。
另外,考慮到生成式AI算力需求爆發,提升對AI工作負載需求是此次AmpereOne升級的重點。
三年前,Ampere收購了專註於創建AI軟件的OnSpecta公司,通過創建AI軟件助力硬件在AI負載之下運行更快,過去幾年,Ampere的AI團隊也已經建立了形成標準框架的Libraries,能夠更高性地運行Ampere Altra。
而Ampere提供的產品,非常適合AI推理,特別是大規模的雲推理,目前已經有不少客戶在使用Ampere提供的處理器進行AI推理工作負載,比如Matoha,其鑒別特定材料的應用程序模型就在Ampere上運行,用以鑒別玻璃、金屬或織物以實現便捷回收。
Ampere提供的測試數據顯示,相比AMD Genoa,AmpereOne可每秒多提供2.3倍的幀數(圖像),在運行穩定的擴散模型中勝出。此外在運行DLRM模型的推薦系統中,通過AmpereOne響應的查詢數量是AMD Genoa的每秒查詢數量的兩倍多。
值得注意的是,通過Ampere雲原生處理器進行AI推理,不僅能打破效率瓶頸,也可以解決雲服務提供商(CSPs)的行業痛點——使用GPU實現AI推理所產生的高能耗,以及容量擴展和可部署的服務器數量都會受到制約。
採用Chiplet設計,解決內存不均衡問題
為避免內存牆問題更加嚴重,除了擁有高達192個內核,AmpereOne還擁有128通道的PCIe Gen5和8通道的DDR5,以此提升內存帶寬,獲得更高的內存速度。
值得注意的是,AmpereOne還大量採用了Chiplet設計,以解決內存不均衡的問題。
」我們在Chiplet設計中實現了特定的拓撲結構以及單一的計算裸片,同時還有單一大網格結構,這樣可以助力我們為客戶提供平衡的高性能。反之,其他設計則要求從一個計算的小芯片傳輸到另一個小芯片,這種設計則會帶來延遲問題。」Jeff Wittich解釋道。
也就是說,AmpereOne採用的是一個大的計算Chiplet被數個控制Chiplet包圍的設計方式,且64MB的System Level Cache(系統級緩存)被放在計算芯片上,這樣能夠輕易實現內存到內存的訪問,同時避免造成訪問時間和系統級緩存之間的不平衡,不需要為處理器引入額外的HOPs。
那麼,採用了Chiplet設計和自研核心的AmpereOne是否會出現於過去Neoverse核心的Ampere Altra處理器不兼容的問題?
Jeff Wittich表示,因為AmpereOne系列處理器和Ampere Altra系列處理器都是基於ARM ISA的,所以所有能夠在Ampere Altra系列處理器上運行的代碼,在全新的AmpereOne系列處理器上也能運行,不需要做任何改動。
Ampere針對雲原生研發的Arm服務器CPU,已經再次證明了Arm ISA在數據中心的潛力。不過面對X86在數據中心建立起的生態,為雲原生而生的Ampere還有很長的路要走。
Ampere也表示,Ampere有許多目標,用某個單獨的目標並不足以概括,其中的一個目標是希望繼續擴展生態合作,讓Ampere的產品面向更多的用戶,觸手可及。(雷峰網)