Skip to main content

擴充 HPC,為 5G、AI,以及未來的嶄新技術做好準備

在過去十年間,新技術的發展有如雨後春筍一般。物聯網中的大量分散式系統引領出了 5G 網路的新功能。這些連線裝置所產生的大數據帶動了 AI 的興起,有助於自動化分析。

隨著陸續迎來的各種進步,運算的需求也增加了。因此,只要是資料導向的組織,無論其類型與規模,都發現自己需要高效能運算 (HPC) 平台。

讓我們來看看這對系統工程師的影響。

邊緣分析的來臨︰5G 網路案例研究

考量 5G 網路的需求。國際電訊聯盟 (International Telecommunications Union, ITU) 在 2017 年宣佈,5G 行動基地台必須支援高達每平方公里 1 百萬台裝置。他們也必須提供至少 20 Gbps 的總下載能力,以及 10 Gbps 的總上傳能力。相對而言,4G 小型基地台約可支援每平方英哩 100,000 台裝置,尖峰資料速率約為 1 Gbps。

圖 1 顯示主要大型都市區域的預估 5G 網路資料密度。為了避免這種量級的資料堵塞回傳網路,營運商很可能會將大規模資料分析功能移近至網路邊緣。未採用 5G 網路邊緣分析策略的營運商,可能會因於他們所產生的流量,使得成本增加。

圖 1. 根據 5G 資料密度預估,需要在邊緣網路提供更高的處理與儲存效能以進行分析,特別是在市中心區域。(資料來源︰Fierce Wireless

但如此大量的資料,使得將分析移至邊緣變得十分困難。5G 邊緣分析的工作負載與大數據系統相去無幾,而大數據系統通常都在雲端或資料中心內。在這樣的環境中,工作負載可分散至大量的運算、儲存,以及網路資源中。相對地,5G 分析必須更輕量地分散至大量的邊緣網路端點中。

以 AI 為主軸的效能強化

在 5G 邊緣分析方面,AI 是越來越受歡迎的一種解決方案。這可用於在整個 5G 基礎架構中自動化中等到大型規模的資料過濾。若要為這些快速變化的網路工作負載需求提供具有 AI 功能的流量過濾能力,便需要可擴充的多核心解決方案。在這種情況中,Intel® Xeon® 可擴充處理器便是實用的合適選項。

Intel Xeon 可擴充處理器為 HPC 平台提供由 4 個至 28 個核心,加上一至八個插槽配置的處理能力。舉例來說,在八插槽系統中,Intel Xeon 白金級裝置可支援最多 224 個核心。

處理器提供多種適合 HPC 的功能,與高核心數相輔相成。舉例來說,他們整合了 Intel® Advanced Vector Extensions 512 (Intel® AVX-512)。這 512 位元的向量指令可在每個時脈週期執行 32 個雙精度或 64 個單精度浮點運作。根據特定指令集,此技術亦可新增最多兩個積和熔加單元 (Fused Multiply-Add Unit),以加速需要大量數學功能的運作。

Intel AVX 512 可為主成分分析 (PCA) 等使用案例提供大幅優勢。這種機器學習的方法可用於將一系列的值轉換為線性變數,供網路營運商用於流量塑型,或是讓企業用於獲得大數據洞見。

可使用 MLlib 等運行於 Apache Spark 上的熱門機器學習 (ML) 程式庫執行 PCA。但大型資料集可能很快就會拖慢 MLlib。Intel® Data Analytics Acceleration Library (Intel® DAAL) 等運用 Intel AVX 512 的程式庫可解決此問題。如圖 2 所示,以 MLlib 程式碼將一雙簡單的叫用導入 Intel DAAL 時進行 PCA 時,會導致明顯的工作負載增加,並隨著資料集的大小成倍數增長。

圖 2. 運行於 Apache Spark 上的 MLlib 機器學習 (ML) 程式庫可用於資料分析中的主成份分析 (PCA),但效能無法隨著資料量增加而擴張。(資料來源:Intel®

這些處理器亦具有經過調整的網狀快取與記憶體架構,可降低延遲並更快存取資料集,滿足 AI 與大數據資料分析應用的需求。此外,此裝置提供比前一代處理器更多百分之 50 的記憶體通道,以及更多百分之 20 的 PCIe 線道,以支援較小規模的運算叢集。

保持 5G 資料流動

這些只是一部分讓 5G 和其他 HPC 應用受惠的功能。舉例來說,透過 5G 網路傳遞的資料流量總量與多樣性不停增加,這需要不同等級的服務品質 (QoS)。Intel® 虛擬化技術可為多種流量類型將核心分配至特定控制與資料平面網路工作。

此外,5G 網路必須支援大量節點,需要能比現在支援更多裝置、且不會流失效能或可靠度的交換架構。Intel® Omni-Path Architecture (Intel® OPA) 架構支援超過 10,000 個節點,同時亦能以大幅提高的 8 位元訊息傳遞介面 (Message Passing Interface, MPI) 速率,提供較 InfiniBand 增強資料傳輸率 (Enhanced Data Rate,EDR) 更低數個層次的位元錯誤率 (Bit Error Rate, BER)(圖 3)。

圖 3. Intel® Omni-Path Architecture (Intel® OPA) 提供較增強資料傳輸率 (EDR) InfiniBand 大幅提高的 8 位元訊息傳遞介面 (MPI) 速率。(資料來源:Intel®

隨著流量增加,為了協助擴充 5G 網路的邊緣運算功能,工程師傾向於選擇類似 WIN EnterprisesPL-81890 HPC 等平台。PL-81890 HPC 是高密度的控制伺服器,搭載雙 Intel Xeon 白金級或黃金級處理器及 12 個磁碟機槽,濃縮在輕巧的 2U 機身內(圖 4)。此系統亦支援 WIN Enterprises 的可信任平台控制 (Trusted Platform Control) 模組,以協助維持系統處理敏感通訊的完整性。

圖 4. WIN Enterprises 的 PL-81890 HPC 是 2U 的可信任平台,適合嚴苛的 5G 網路、資料分析,以及人工智慧工作。(資料來源:WIN Enterprises

PI-81890 HPC 等平台可使用第 3 代 PCIe x16 插槽,安裝 Intel OPA Host Fabric Interface 介面卡。除了 Intel Xeon 可擴充處理器提供的獨立系統效能以外,這些擴充選項還可為主機提供 100 Gbps 的乙太網路頻寬,以連接大規模的 HPC 系統叢集。

更進一步擴充

雖然這樣的效能指標對許多應用來說已經足夠高階,但根據過去 50 年間的技術軌跡來看,我們馬上就會需要更強大的處理效能與更快速的網路能力。對想要從小規模著手的組織來說,Intel Xeon 黃金級、白銀級,以及青銅級處理器很適合作為進入點,並可提供未來的擴充性。

無論是什麼裝置,Intel Xeon 可擴充處理器皆可提供滿足現代 5G 網路、大數據分析,以及 AI 應用所需的運算、儲存、虛擬化,以及網路架構,不管未來技術的樣貌如何,都能擁有處理與應對的方向。

作者簡介

Brandon is a long-time contributor to insight.tech going back to its days as Embedded Innovator, with more than a decade of high-tech journalism and media experience in previous roles as Editor-in-Chief of electronics engineering publication Embedded Computing Design, co-host of the Embedded Insiders podcast, and co-chair of live and virtual events such as Industrial IoT University at Sensors Expo and the IoT Device Security Conference. Brandon currently serves as marketing officer for electronic hardware standards organization, PICMG, where he helps evangelize the use of open standards-based technology. Brandon’s coverage focuses on artificial intelligence and machine learning, the Internet of Things, cybersecurity, embedded processors, edge computing, prototyping kits, and safety-critical systems, but extends to any topic of interest to the electronic design community. Drop him a line at techielew@gmail.com, DM him on Twitter @techielew, or connect with him on LinkedIn.

Profile Photo of Brandon Lewis