Skip to main content

為什麼邊緣運算的軟體追不上硬體的發展

工作負載整合

嵌入式運算產業總是不斷在硬體發展領先和軟體發展領先之間循環。在兩側的工程團隊們輪流上場,然後等待另一方的功能組追上這邊的進度。

以現在來說,硬體的層面因為有了 12 代 Intel® Core 等的處理器而處於領先,藉著其效能與效率兼具的核心,提供了能夠優化不同邊緣與企業工作負載的基礎結構。特別是將這些處理器與可以適應更高效能與更高散熱設計功率(TDP)的內嵌式硬體,像是 PICMG COM-HPC 模組等裝置結合在一起時,便能將多個軟體工作負載整合到單一硬體目標上。

現在便是讓軟體基礎來擴充進階硬體規模的時候了。而這樣的進步只能以虛擬機器監視器的形式來實現。

最新的核心處理器能實現工作負載的整合

基本上,工作負載整合會將多個作業集中到較少的平台上,從而優化作業並提升平台的可擴充性。這通常意味著確定性的應用程式在單一核心上運行,而企業或 AI 核心則在其他核心運行。這種分離有助於最大化效能,並於此同時讓關鍵資產更加安全。它還能提供更高的可靠性,因為元件變少代表會故障的地方也跟著變少,同時也能降低系統的總成本。

但要注意的是,原廠設備製造商(OEM)與系統整合商必須以能夠妥善運用工作負載整合優勢的方式來實作軟體堆疊,也就是說他們必須將系統以最大程度進行分割。分割的數量通常取決於終端應用程式的需求,包括使用建構在微處理器的多核心架構上的虛擬機器監視器。具體來說,也就是專為 Intel Atom®、Intel® Core 與 Intel® Xeon® 處理器所調校的,來自 Real-Time Systems(RTS)的 Real-Time Hypervisor,它能夠在像是 Congatec COM-HPC 模組這樣的主板上的邊緣環境進行工作負載整合。

根據 Congatec 產品行銷總監 Christian Eder 的說法,「RTS Hypervisor 可以輕鬆地調整成完全符合您系統的需求,」。「通過基本上就是個能夠輕鬆編寫完成的文字檔案的設定檔,您能準確地將電腦的資源與作業系統(OS)指派給不同的 CPU 核心,並為執行階段環境依您的喜好指定設定。它被用作開機載入程式的輸入源,以將該系統分割成多個系統。」

RTS Hypervisor 也為其他裝置提供了對於像是 Intel® 虛擬化技術(Intel® VT-x)與適用於導向式 I/O 的 Intel® 虛擬化技術(Intel® VT-d)等虛擬化技術的支援。它能確保與其它作業系統並行運行的即時作業系統能有著確實、無損且即時的效能,而又不會干擾到具有時效性的功能,且不會增加任何延遲。針對客製應用需求,RTS 會直接與客戶合作來調整虛擬機器監視器以滿足特定需求。這可能包括以多個作業系統組成的確定性解決方案。

COM-HPC 上的核心專用工作負載

COM-HPC 模組能從工作負載整合中獲益的其中一個例子便是 conga-HPC/cALS,其適合用於工業環境中(圖 1)。它擁有多達 16 處理器核心,最大記憶體耗用量達 128 GB,連線能力高達 2x 2.5 GbE,並且支援時效性網路(TSN)。

Congatec 公司 conga-HPC/cALS 的圖片,搭載 Intel® Xeon® D 處理器
圖 1. Congatec conga-HPC/cALS 支援最多達 16 個處理器核心以及 128 GB 的記憶體作為工作負載整合部署使用。(資料來源:congatec

機板上的第 12 代 Intel® Core 處理器藉由使用搭載於近期發表的 COM-HPC 平台上的 PCI Gen 5,超越了前代的效能,並為最快的顯示卡與先進 AI 功能打開了大門。AI 加速因為使用了 Intel® 發行版 OpenVINO 工具組而得以實現(並簡化)且能夠在一個工作負載整合的系統下使用,而這都多虧了 Intel 處理器與像是 RTS 所提供的即時虛擬機器監視器所帶來的嚴格管理與分離效果。

有些限制可能會使拖慢效能。舉例來說,Ethernet 技術現在可以支援 100 Gbits 以上,而 COM-HPC 能夠以伺服器型的模組來處理。循著這樣的思路,TSN 藉由切分頻寬並減少所需的線路來簡化設計,幫助了該設計的即時通訊能力,而種能力對許多自動化與機器人使用案例來說至關重大。

在許多應用程式中,即時通訊會以 5G 媒介來執行。借助網路切片,平台便能以無線方式在工業 4.0 即時部署中運作。無論如何,網路堆疊都需要由作業系統來管理,而該作業系統控制的若是機械自動化系統等的項目,便不能在過程中受到干擾中斷,或是受到資源限制。在這種情況下,第 12 代處理與硬體虛擬化支援及 RTS 虛擬機器監視器的結合,便能確保能有充足的系統資源供眼下的作業使用。

「Real-Time Hypervisor 的最新修訂版本已經將效能與效率核心都納入考量了。設計師可以為他們的即時應用程式定義最適合的核心類型。舉例來說,他能夠為亟需效能的即時應用程式定義一顆 P-Core,或是將高效率的 E-Core 指派給 RTOS 以供較小的工作負載使用。同時也應該要固定時脈速度,以便保證即時作業的時間表始終能夠預測,」Eder 表示。

追上軟體堆疊

如您所見,將 Intel 的第 12 代 Core 處理器與包含工作負載整合的策略相結合,使系統配備了真正的物聯網超聚合能力,用於關鍵任務邊緣與企業應用程式。這甚至適用於執行關鍵任務的自動化系統,以減少設備因為故障或不當操作而對人造成傷害,或是造成財產損失的風險。

「當然,只擁有一個系統而不是多個系統也能提升可靠性;想想 MTBF 就知道了,」Eder 表示。「擁有的元件越多,可能故障的元件也就越多。假如原本是兩個個別的系統,只有一個系統的 MTBF 將會是前者的一半。」

第 12 代 Intel Core 處理器能夠有效率地處理工作負載,意味著可以使用動態的時脈與核心指派。任何即時執行緒都託管在一個獨立的虛擬機器上,並按照應用程式的要求在一個固定頻率的核心上運行,而任務關鍵性較低的非即時執行緒,則能夠「視需要」時再進行處理。

通過使用像是 Intel Thread Director 和堅實的虛擬機器監視器等技術,希望透過工作負載整合來充分運用其系統的開發人員能夠更有效率地管理系統功率,並在同時提供全面的即時功能。藉由將現代硬體的能力發揮到極致,軟體團隊或許總算是追上了。

 

本文由 insight.tech 編輯副總監 Christina Cardoza 編輯。

作者簡介

Brandon is a long-time contributor to insight.tech going back to its days as Embedded Innovator, with more than a decade of high-tech journalism and media experience in previous roles as Editor-in-Chief of electronics engineering publication Embedded Computing Design, co-host of the Embedded Insiders podcast, and co-chair of live and virtual events such as Industrial IoT University at Sensors Expo and the IoT Device Security Conference. Brandon currently serves as marketing officer for electronic hardware standards organization, PICMG, where he helps evangelize the use of open standards-based technology. Brandon’s coverage focuses on artificial intelligence and machine learning, the Internet of Things, cybersecurity, embedded processors, edge computing, prototyping kits, and safety-critical systems, but extends to any topic of interest to the electronic design community. Drop him a line at techielew@gmail.com, DM him on Twitter @techielew, or connect with him on LinkedIn.

Profile Photo of Brandon Lewis