Skip to main content

人工智慧

SR-IOV:釋放 GPU 在工業物聯網的威力

工業物聯網

圖形處理器(GPU)已成為工業物聯網(IIoT)的重要資源。嵌入式解決方案供應商 DFI解決方案產品經理 Waterball Liu 表示,凡是需要高度密集運算的應用程式,例如機器視覺處理、資料分析或機器學習應用程式,皆可從 GPU 受益。

然而,在單一系統結合上述這類要求嚴苛工作負載的多功能平台,格外迫切需要效能。將圖形顯示這類整合式系統中的常見功能加入組合時,GPU 甚至更顯關鍵。

此時的難題於是變成如何分享 GPU。

新式工業物聯網系統通常利用虛擬化或容器結合工作負載,但這兩種技術都在 GPU 層級形成效能限制瓶頸。追根究底都與複雜度有關。久而久之,虛擬技術逐漸擴大範圍,包含了記憶體、I/O 裝置、網路與儲存空間,但是並非所有硬體元件都能輕易虛擬化。

圖形技術正是最好的例子:新式 3D 彩現管道錯綜複雜、不同製造商的 GPU 缺乏統一的指令集標準,加上 3D 應用程式開發介面高度可程式化,因此 GPU 驅動程式變得與高階語言編譯器類似,隨之也提高了 GPU 虛擬化的技術需求。

工業物聯平台開發者的主要目標是以最低成本和資源使用率,讓單一系統發揮更高效益,因此在他們眼中,這些障礙往往會使得基於 GPU 技術建置工作負載整合系統得不償失。

SR-IOV 在 GPU 虛擬化的角色

然而,如果問題無法解決,科技必然會找到解決之道。

舉例來說,PCIe 標準 Single-Root I/O Virtualization (SR-IOV) 將實體裝置分割為虛擬功能,定義了分享實體裝置的方法。SR-IOV 這個虛擬化網路介面卡的方式,使用廣泛,也就是說它提供的程式設計模型,經過充分理解及徹底的現場測試。

然而,在新情境將這項技術應用於 GPU 時,每個虛擬機器(VM)或容器皆可存取圖形功能,並且締造近乎原生的效能。

Liu 說明:「SR-IOV 可降低虛擬化環境的例行成本。」「虛擬化應用程式幾乎可享有 100% 的 GPU 效能。」

SR-IOV 實際示範:開創效能新局的助力

工業工作負載整合需要的高效能 GPU,過去只能透過昂貴的獨立的晶片獲得,平添了不必要的工業系統成本。然而,現今的主流處理器,例如第 12 代 Intel® Core 嵌入式處理器,在其整合式顯示晶片引擎提供了 SR-IOV,而且效能非凡。Liu 表示:「Intel® 處理器的整合式 GPU,為工業運算提供了符合成本效益的可靠解決方案,不需要額外使用獨立 GPU。」

這個簡化的 GPU 加速方式,為最佳化工業工作負載創造了全新的可能性。Liu 以檢測系統為例。他表示:「這些系統處理 AI 相關工作時,例如缺陷偵測與影像識別,需要龐大的運算效能。透過整合式顯示晶片與 SR-IOV,這些系統可在複雜度最低的情況下,高效執行這些應用程式。」

舉例來說,配備 SR-IOV 的第 12 代 Core 處理器,最多可支援四部獨立顯示器及七個虛擬化功能。圖 1 描繪七部 VM(上限)可如何獨立存取這些功能。

Intel® Graphics SR-IOV 實現了高效共用 GPU。
圖 1. Intel® Graphics SR-IOV 實現了高效共用 GPU。(資料來源:Intel

就真實世界應用程式而言,SR-IOV 的影響不容小覷,Liu 解釋。DFI 率先在搭載整合式顯示晶片的 Intel 處理器驗證 SR-IOV,透過在自家的 ADS310 microATX 主機板執行兩個虛擬化 Windows 10 作業系統(一個配備 SR-IOV,一個沒有),展現了效能的提升。

概念驗證透過兩個作業系統,經由 Wi-Fi 與 100 Mbps HDBaseT 乙太網路,將影片檔案從本機儲存裝置串流至遠端顯示器。未配備 SR-IOV 的安裝方式,圖形處理能力約 28 fps,而配備 SR-IOV 的安裝方式,則是以 60 fps 執行,而這正是流暢圖形彩現常見的目標。

當然,SR-IOV 締造的效能強化並不侷限於影片串流;這項技術還可應用於工業環境中大量的人工智慧物聯網(AIoT)工作負載。舉例來說,這項技術是 DFI 虛擬化工業自動化與零售解決方案的核心。

Liu 說明:「現在只要有一部電腦就能輸出至多個螢幕。」「請想像一下工業產品線,它的每個製造階段都有專屬的顯示器。每個階段的顯示器可能只會暫時執行。」

他繼續說道:「這類應用程式過去需要多部電腦,或是一部搭載更強大昂貴獨立顯示晶片介面卡的電腦。」「如今則可以使用一個 Intel 嵌入式處理器。」

高效人工智慧物聯網光明的未來

Intel® Graphics SR-IOV 正逐漸成為工業自動化與人工智慧物聯網應用中,極有潛力改變競爭態勢的助力。它支援高效能應用程式在整合式 GPU 高效執行,為效率與功能另闢蹊徑。

AI 的潛在效益尤其誘人。Liu 表示:「越來越多 AI 應用需要強大的運算能力。」「應用漸趨複雜,功能也各不相同。因此,新一代處理器與顯示晶片將為 AI 和其他應用需求,提供更彈性強大的解決方案。」

他最後說道:「透過 SR-IOV,我們將在工業物聯網發展寫下嶄新的篇章。」
 

本文由 insight.tech 編輯副總監 Christina Cardoza 編輯。

作者簡介

Brandon is a long-time contributor to insight.tech going back to its days as Embedded Innovator, with more than a decade of high-tech journalism and media experience in previous roles as Editor-in-Chief of electronics engineering publication Embedded Computing Design, co-host of the Embedded Insiders podcast, and co-chair of live and virtual events such as Industrial IoT University at Sensors Expo and the IoT Device Security Conference. Brandon currently serves as marketing officer for electronic hardware standards organization, PICMG, where he helps evangelize the use of open standards-based technology. Brandon’s coverage focuses on artificial intelligence and machine learning, the Internet of Things, cybersecurity, embedded processors, edge computing, prototyping kits, and safety-critical systems, but extends to any topic of interest to the electronic design community. Drop him a line at techielew@gmail.com, DM him on Twitter @techielew, or connect with him on LinkedIn.

Profile Photo of Brandon Lewis