Fill form to unlock content
Error - something went wrong!
獲得製造業物聯網與網路邊緣的最新消息。
謝謝
SR-IOV:釋放 GPU 在工業物聯網的威力
圖形處理器(GPU)已成為工業物聯網(IIoT)的重要資源。嵌入式解決方案供應商 DFI 的解決方案產品經理 Waterball Liu 表示,凡是需要高度密集運算的應用程式,例如機器視覺處理、資料分析或機器學習應用程式,皆可從 GPU 受益。
然而,在單一系統結合上述這類要求嚴苛工作負載的多功能平台,格外迫切需要效能。將圖形顯示這類整合式系統中的常見功能加入組合時,GPU 甚至更顯關鍵。
此時的難題於是變成如何分享 GPU。
新式工業物聯網系統通常利用虛擬化或容器結合工作負載,但這兩種技術都在 GPU 層級形成效能限制瓶頸。追根究底都與複雜度有關。久而久之,虛擬技術逐漸擴大範圍,包含了記憶體、I/O 裝置、網路與儲存空間,但是並非所有硬體元件都能輕易虛擬化。
圖形技術正是最好的例子:新式 3D 彩現管道錯綜複雜、不同製造商的 GPU 缺乏統一的指令集標準,加上 3D 應用程式開發介面高度可程式化,因此 GPU 驅動程式變得與高階語言編譯器類似,隨之也提高了 GPU 虛擬化的技術需求。
工業物聯平台開發者的主要目標是以最低成本和資源使用率,讓單一系統發揮更高效益,因此在他們眼中,這些障礙往往會使得基於 GPU 技術建置工作負載整合系統得不償失。
SR-IOV 在 GPU 虛擬化的角色
然而,如果問題無法解決,科技必然會找到解決之道。
舉例來說,PCIe 標準 Single-Root I/O Virtualization (SR-IOV) 將實體裝置分割為虛擬功能,定義了分享實體裝置的方法。SR-IOV 這個虛擬化網路介面卡的方式,使用廣泛,也就是說它提供的程式設計模型,經過充分理解及徹底的現場測試。
然而,在新情境將這項技術應用於 GPU 時,每個虛擬機器(VM)或容器皆可存取圖形功能,並且締造近乎原生的效能。
Liu 說明:「SR-IOV 可降低虛擬化環境的例行成本。」「虛擬化應用程式幾乎可享有 100% 的 GPU 效能。」
SR-IOV 實際示範:開創效能新局的助力
工業工作負載整合需要的高效能 GPU,過去只能透過昂貴的獨立的晶片獲得,平添了不必要的工業系統成本。然而,現今的主流處理器,例如第 12 代 Intel® Core™ 嵌入式處理器,在其整合式顯示晶片引擎提供了 SR-IOV,而且效能非凡。Liu 表示:「Intel® 處理器的整合式 GPU,為工業運算提供了符合成本效益的可靠解決方案,不需要額外使用獨立 GPU。」
這個簡化的 GPU 加速方式,為最佳化工業工作負載創造了全新的可能性。Liu 以檢測系統為例。他表示:「這些系統處理 AI 相關工作時,例如缺陷偵測與影像識別,需要龐大的運算效能。透過整合式顯示晶片與 SR-IOV,這些系統可在複雜度最低的情況下,高效執行這些應用程式。」
舉例來說,配備 SR-IOV 的第 12 代 Core 處理器,最多可支援四部獨立顯示器及七個虛擬化功能。圖 1 描繪七部 VM(上限)可如何獨立存取這些功能。
![Intel® Graphics SR-IOV 實現了高效共用 GPU。](https://insighttech.intel.com/wp-content/uploads/sites/45/2023/06/industrial-IoT-1-2-613x400.png)
就真實世界應用程式而言,SR-IOV 的影響不容小覷,Liu 解釋。DFI 率先在搭載整合式顯示晶片的 Intel 處理器驗證 SR-IOV,透過在自家的 ADS310 microATX 主機板執行兩個虛擬化 Windows 10 作業系統(一個配備 SR-IOV,一個沒有),展現了效能的提升。
概念驗證透過兩個作業系統,經由 Wi-Fi 與 100 Mbps HDBaseT 乙太網路,將影片檔案從本機儲存裝置串流至遠端顯示器。未配備 SR-IOV 的安裝方式,圖形處理能力約 28 fps,而配備 SR-IOV 的安裝方式,則是以 60 fps 執行,而這正是流暢圖形彩現常見的目標。
當然,SR-IOV 締造的效能強化並不侷限於影片串流;這項技術還可應用於工業環境中大量的人工智慧物聯網(AIoT)工作負載。舉例來說,這項技術是 DFI 虛擬化工業自動化與零售解決方案的核心。
Liu 說明:「現在只要有一部電腦就能輸出至多個螢幕。」「請想像一下工業產品線,它的每個製造階段都有專屬的顯示器。每個階段的顯示器可能只會暫時執行。」
他繼續說道:「這類應用程式過去需要多部電腦,或是一部搭載更強大昂貴獨立顯示晶片介面卡的電腦。」「如今則可以使用一個 Intel 嵌入式處理器。」
高效人工智慧物聯網光明的未來
Intel® Graphics SR-IOV 正逐漸成為工業自動化與人工智慧物聯網應用中,極有潛力改變競爭態勢的助力。它支援高效能應用程式在整合式 GPU 高效執行,為效率與功能另闢蹊徑。
AI 的潛在效益尤其誘人。Liu 表示:「越來越多 AI 應用需要強大的運算能力。」「應用漸趨複雜,功能也各不相同。因此,新一代處理器與顯示晶片將為 AI 和其他應用需求,提供更彈性強大的解決方案。」
他最後說道:「透過 SR-IOV,我們將在工業物聯網發展寫下嶄新的篇章。」