硬體平台

全球各地的組織都在部署 AI 提升營運效率，提升自身市場競爭力。我們與 Intel 的網路與邊緣事業群產品管理副總裁 Mike Masci 以及 Intel Xeon 與運算產品副總裁兼總經理 Ryan Tabrah, Vice President & General 進行訪談，討論全新的 Intel^® Xeon^® 6 處理器。Mike 和 Ryan 談到幾項關鍵進展，能以更永續的方式支援執行邊緣到資料中心 AI 需要的順暢、可擴充基礎架構。

為什麼推出 Intel Xeon 6 處理器對 Intel、合作夥伴和客戶這麼重要？

Ryan Tabrah：這次的推出集結了很多要素，包括回歸我們的初衷，從製程技術出發，去實現未來 AI 資料中心的技術。我覺得 Intel Xeon 6 推出的時機非常剛好，讓我們的客戶可以持續透過解決方案創新，而且用前所未有的方式建立資料中心。有了 Intel Xeon 6 處理器，E-core 針對每瓦最佳效能最佳化，P-core 就幫現在資料中心普遍存在的運算密集型工作負載帶來每核心最佳效能。

Mike Masci：對我們來說，Xeon 6 不只是一次升級，還是 AI 驅動運算基礎架構必要的條件。現有的資料中心沒有每瓦效能特性，資料沒辦法針對 AI 時代的需求去擴充。只要是需要處理大量資料的網路，不管是從邊緣 AI 還是雲端 AI，Xeon 6 都能夠用更高效率、高效能的方式完成任務。在資料中心裡面，這款處理器還可以讓基礎架構支援 AI 的效能需求，同時又能夠線性擴充。

Xeon 6 從邊緣到雲端保有一致性，而且能從高階產品擴充到以成本和功率為主的低階產品，這就是開發者期待的功能。他們希望能有非常順暢的體驗，避免混搭不同的架構和系統，因為只要減慢速度或產生摩擦，實質上就是在浪費他們開發 AI 技術的時間。

Intel Xeon 6 是第一款搭載效率核心與效能核心的 Intel Xeon。這款處理器在不同工作負載和相關使用案例有哪些例子？

Mike Masci：首先，效率核心是專門為資料中心級的工作負載來設計和打造的，在最佳化的密度和功率等級上效能很高。這帶給客戶很大的優勢，讓他們可以靈活組合產品，不用承擔管理和部署的複雜度和成本，就能在對的地點幫合適的工作負載分配正確的的產品。

在網路邊緣部署跟資料中心深處執行的相同工作負載越來越常見。大家希望兩邊都用相同的基礎架構，這樣部署就變得更快、更簡單，而且長期下來還能節省費用。

雲端原生是最關鍵的工作負載。這個部分就是 Intel Xeon 6 E-core 的強項。談到這項優勢的使用案例，5G 無線核心在網路和邊緣方面是我們最重要的領域之一。在以前的年代，這些公司用的是固定功能的專有硬體，現在他們已經採用 NFV（網路功能虛擬化）和 SDN（軟體定義網路）的原則，而且朝著雲端原生技術邁進。這個時候，Intel Xeon 6 處理器在每瓦執行緒效能最佳化的方面就變得非常重要。

我們在研究搭載 P-core 的 Intel Xeon 6 其他邊緣應用的時候，客戶都非常期待 Intel^® Advanced Matrix Extensions (Intel^® AMX) 技術。具體來說，這款處理器在效能核心裡面有專門的向量 ISA 指令，能在邊緣執行輕量級推理，這些環境可能功率預算不夠，沒辦法支援通常用在訓練叢集的大規模 GPU。AMX 的好處就是使用過程對開發者來說很順暢，透過像 OpenVINO^™ 這種工具還有我們的 AI 套件，他們不用去學特定的 ISA 編程就可以充分利用 AMX。

Ryan Tabrah：其實特別在邊緣，客戶沒辦法用一些更耗電或佔空間的加速器，所以我們只能靠已經整合到 Intel Xeon 6 效能核心系列的更高密度解決方案。

影片也是一個很好的使用案例。沒辦法輕鬆擴充、擷取影片，然後傳輸給終端使用者，就不能賺錢。這也是我們專注在影片工作負載的機架整合能力的原因之一。從相同效能可以同時串流的影片數量來看，我們的機架整合是前面幾代的三倍。這表示在資料中心的效能和省電效率都更高，能用更少的機器、更高的密度服務更多客戶。相同的基礎架構可以進一步應用到 5G 網路，延伸到網路邊緣，然後快取影片，接下來部署給終端使用者。

可以從特定垂直市場和使用案例的角度來談談 Intel Xeon 6 嗎？

Mike Masci：拿醫療保健來舉例，訓練醫學影像模型需要大量的資料。要得到可行的資料和深入解析，就要在雲端訓練模型，還要在邊緣高效執行。你需要執行像 RAG（擷取增強生成）這樣的功能，來確保模型可以達到預期效果，譬如說在診斷輔助的領域就特別重要。那需要重新訓練的時候會怎麼處理？邊緣機器會把更多資料傳到雲端去重新訓練，然後再把資料回傳到邊緣機器。對 DevOps 和 MLOps 的開發者來說，這整個流程是一門完整的學科，而且這個學科可能是目前 AI 最重要的部分。

我們相信把訓練好的模型部署到邊緣上，再利用邊緣的新資料在雲端重新訓練模型，這樣才能充分發揮 AI 真正的價值。而且對開發者來說，模型可以在擴充系統上執行非常重要。

Ryan Tabrah：世界各地的醫療機構有很多舊版的程式碼、應用程式在他們不願意升級或維護的核心上執行。這些醫療機構希望可以轉移，甚至是容器化這些工作負載，放在一個可以穩定執行的系統上，而且不需要做任何操作。我們透過開放原始碼工具來更新他們基礎架構的部分，建立新的資料中心，讓現代技術跟舊版的應用基礎融合、連接。

這就是見證奇蹟的時刻，使用者根本不需要從零開始。醫療機構有這麼多舊版資料和應用程式，又得要執行新的任務。就像 Mike 前面講到的，只要在邊緣、實際開發的實際雲端，甚至是電腦的平台都一致，他們就不用擔心。

Xeon 6 可以幫客戶帶來哪些永續發展上的優勢？

Mike Masci：有幾個我們網路和邊緣工作負載的每瓦效能提升很多。Xeon 6 的效能是第 2 代 Intel^® Xeon^® 可擴充處理器的 3 倍。簡單來說，如果每瓦效能提高 3 倍，你需要的伺服器數量就能減少三分之一。這樣不只能夠減少 CPU 功率，還能夠節省整個系統的電力，包括交換器、機架本身的電源供應器還有周邊裝置的耗能。

推動這種永續發展的機制是 Intel 的使命，因為 CPU 每瓦效能對整體硬體部署的選擇有很大的影響。

我們跟 5G 核心 ISV 供應商龍頭 Ericsson 的合作就是一個很好的例子。在他們對 5G 使用者平面功能 UPF 的實際測試裡面，每瓦效能比前一代還要高 2.7 倍。而且在 Ericsson 對 200 萬訂閱者的控制平面的測試裡面，跟支援一樣多訂閱者的前一代比起來，耗電量少了 60％。這就回到了每瓦效能跟永續發展上。不過，同時也能夠節省大量的營運成本，還對這個地球帶來很多正面的影響。跟 Ericsson 的合作證明了這個目標不只是理論上可行，實際上我們也已經達成了。

在這個領域上，我們的基礎架構電源管理器可以根據實際使用情況動態調整 CPU 的功耗和效能。譬如負載比較低的時候，CPU 就會自動降低功耗。這個背後的基礎是整個產品線在所謂的負線效能方面有很大的改善。現在大多數的伺服器都不會一直用百分之百的使用率來執行。像 Intel Xeon 6 這種 Intel CPU 在低使用率的情況下能夠有效降低功耗，這樣可以減少整體的電力需求，提升平台的永續發展。

這聽起來很基本，但要做到比想像還難。需要最佳化作業系統層級，才能充分利用這些電源狀態。還要保證達到服務品質、SLA 還有運作時間，這些都非常關鍵。

Ryan Tabrah：我們在製造、驗證實驗室、供應鏈和其他各方面的努力，都展現了我們在永續發展的領導地位。客戶知道自己在用 Intel 矽晶片的時候，他們可以確定這些產品在生產、測試、驗證和製造的每一步都是用最永續的方式進行的。我們在打造產品的同時，也一直在世界各地推動水資源的再利用還有其他回饋環境的做法。

Intel Xeon 6 讓我們的客戶有實現永續發展目標的機會。有了 Intel Xeon 6 的高核心數量和高效率，我們的客戶可以換掉資料中心老舊的伺服器，整合到更少的伺服器上，省下能源消耗還有機房空間。

那我們來談談資料安全還有 Intel Xeon 6 的增強功能，讓開發者更輕鬆建構安全性更高的解決方案。

Mike Masci：在研究對網路和邊緣特別重要的安全性增強功能的時候，我們推出了重大新增內容 SGX 還有 TDX 技術。但是對客戶來說，安全生態系統的技術成熟度非常重要，在 AI 驅動的世界更是關鍵。你需要有模型安全性。譬如說，在現在雲端原生驅動的世界裡面，如果要執行多租用戶的話，就要有安全指定位址空間，這一點變得很重要。整體上，我們看到 Intel Xeon 6 的安全技術程度的確是一個獨特的優勢。

Ryan Tabrah：從一開始，安全性就是我們打造 Intel Xeon 6 和平台的基礎。這是我們在好幾代 Xeon 產品裡面持續發展的方向，而且我們也努力讓機密運算在合作夥伴生態系統變得更簡單、更基本。隨著 Intel Xeon 6 的推出，我們在量子抗性和平台強化方面有了新的進展，讓客戶用安全性、隱私和合規性來達成業務目標。

最後有什麼想要補充的嗎？

Mike Masci：Intel Xeon 6 對邊緣 AI 和網路來說不可或缺。對我們來說，打造一個簡單順暢、能輕鬆支援很多工作負載，又可以組合的平台，這樣的構想非常成功。我覺得這就是 Intel Xeon 6 的重點。這款處理器順暢又可以擴充，不用擔心執行的硬體架構，就可以在邊緣跟資料中心執行一樣的應用程式。

Ryan Tabrah：沒錯。特別是在不同的環境跟地區，資料中心基本上電力是不夠的，原因可能是資料中心建得不夠快，或是受到新的限制跟潔淨能源要求影響。我們有從邊緣到資料中心的解決方案，輕輕鬆鬆就能體驗到這些方案的優勢。

我覺得最好的驗證就是客戶的意見回饋。我們的客戶期待有更多產品。他們希望有更進一步的合作。他們不只想幫我們提升處理器，還希望能盡快打造出下一代產品。他們對 Intel 在電信、邊緣建設、基礎架構建設和資料中心這些關鍵領域的領導地位非常期待，我們也很高興能和他們一起引領產業。

由 insight.tech 編輯總監 Christina Cardoza 編輯。