嚴苛環境中的 AI 與邊緣伺服器

October 1, 2019 John Koon

邊緣計算,IIoT,工業物聯網,工業物聯網

物聯網邊緣不斷成長,但不一定變得更有智慧。更多的感應器代表有更多的資料,但這情況未必能讓這些資料更有價值、可據以行動,甚至有具關聯性。為了達到這些目的,必須更快速地將資料轉換成有用資訊。這需要將運算智慧功能與分析能力延伸到邊緣上。

對自動化、航空和國防工程來說,資料過載是一種習以為常的狀況。大型渦輪機、幫浦和其他設備可能在幾個小時內就會產生數 TB 的資料。如果沒有高效能的邊緣運算能力,這樣的大量資料會過於雜亂,並隨著時間失去價值。

開發者在設計邊緣分析功能時,面對的挑戰包括整合 IT 和 OT、處理時需要均衡的每瓦效能 (PPW),以及強固的設計需求。

生命週期較長的應用程式需要在遠端邊緣部署強大的智能,而嵌入式微伺服器就是適合的解決方案。

適合物聯網邊緣的架構

隨著 SoC 開始在單晶片上整合更多系統功能,嵌入式微伺服器也隨之誕生。這讓「輕型伺服器」平台能部署在更多樣化的環境中。

但傳統的微伺服器無法滿足真正的邊緣智慧功能需求,即:

  • 工作負載整合。低延遲邊緣分析代表直接與感應器和其他輸入裝置對接。在講求大小與耗電量的應用中,工程師需要將這所有功能整合至同一個平台上。若 OT 和 IT 軟體位於同一個系統上,則必須有硬體虛擬化與安全關鍵監管軟體。
  • 確定性的 IT 與 OT 通訊能力。微伺服器需要存取即時運作資料以執行嵌入式控制任務,同時要支援非確定性的企業應用程式。但需要具確定性、以 IP 為基礎的連線能力,才能讓效率最大化並達到低延遲。
  • 強固設計。邊緣微伺服器必須能承受廣泛的溫度範圍、衝擊與震動,以及其他可能影響應用資料或裝置本身的狀況。

伺服器等級的嵌入式技術

伺服器級嵌入式處理器等解決方案經過大幅度的強化,可滿足這些不斷增長的需求。SoC 提供企業級的效能、網路功能及虛擬化能力,加上傳統的嵌入式環境與生命週期支援。16 核心、16 執行緒的 Intel Atom® 處理器 C3958 便是一個範例。

Atom C 系列最顯著的特點,就是它的運算效能。此處理器的散熱設計功率 (TDP) 僅 31 W,卻能為邊緣分析提供充足的運算能力。相較之下,八核心的 Intel® Xeon® D 處理器的 TDP 則是 35 W。

但使這個裝置能成為伺服器級嵌入式處理器的原因,是其虛擬化支援能力。Intel® 虛擬化技術 (Intel® VT-x) 提供硬體協助,透過運用監管程式,安全地分割 IT 與 OT 軟體。這也是 Intel® Virtualization Technology for Directed I/O (Intel® VT-d) 的基礎。

Intel VT-d 是 VT-x 的延伸,可為虛擬機器配置 I/O 頻寬。這能讓虛擬化作業系統與應用程式透過 VMM/監管程式存取資源時,避免折損輸送量效能(圖 1)。

Intel Virtualization Technology for Directed I/O (Intel VT-d) 使用硬體重新對應,最大化系統輸送量
圖 1。Intel® Virtualization Technology for Directed I/O (Intel® VT-d) 使用硬體重新對應,最大化系統輸送量。(資料來源:Intel® Corp.

最後,為了使邊緣微伺服器平衡 IT 和 OT 工作負載,確定性的乙太網路則是改變規則的重要角色。以 IEEE 1588 精確時間協定 (PTP) 為基礎,確定性的乙太網路使感應器與致動器能偵測時間,以提供 IP 通訊。

這也有助於同步在運作層級與企業軟體之間流通的應用程式資料。配置了足夠的頻寬,確定性的乙太網路便能提供可靠、低延遲的通訊,支援即時的邊緣分析。

若要進一步瞭解乙太網路 TSN 的詳細資訊,請參閱時效性網路:炒作 vs. 現實

更小但更強大的標準

這些嶄新技術為微伺服器提供邊緣分析所需的效能。

其中一個解決方案為 VersaLogic Corp. 所推出的 Grizzly VL-ESU-5070。Grizzly 是一種 COM Express Extended 嵌入式伺服器單元 (ESU),採用 Atom C3958 處理器(圖 2)。

VersaLogic 的 Grizzly 平台是工業級的嵌入式伺服器單元
圖 2。VersaLogic 的 Grizzly 平台是工業級的嵌入式伺服器單元。(資料來源:VersaLogic Corp.

這是 155 公釐 x 110 公釐的 ESU 為雙主機板解決方案,結合運算模組與載板。COM 機板的處理器側裝有散熱板,確保能在高溫環境中有效散熱。

即使採用多主機板架構,Grizzly 平台還是符合 MIL-STD-202H 衝擊與震動要求,可部署於極端嚴苛的環境中。

Grizzly 整合了 128 GB 的 ECC 記憶體,確保在嚴苛環境中的資料可靠度。這有助於對抗在嚴苛部署環境中可能會發生的單位元錯誤。

VersaLogic Corporation 產品經理 Bob Buxton 說:「發生單位元錯誤的原因通常是因為記憶體位元翻轉,而不是硬體的緣故。這通常為放射性來源所導致,像是 α 粒子或宇宙射線。因此,在飛行器部署,以及高海拔、長航程的無人機部署中,ECC 記憶體格外重要。」

主機板亦具備 M.2 插槽,以供額外的非揮發性儲存設備使用。

Grizzly 具有兩個 10 GbE 與四個 1 GbE 連接埠,皆支援 IEEE 1588 精確時間同步。這讓邊緣微伺服器可在資料流量流程中維持可靠、確定性的通訊。兩個 1 GbE 介面為 PoE 連接埠,可為攝影機、HMI、無線存取點等多種設備供電。

Buxton 繼續說道:「10 個 Gigabit 乙太網路連接埠可連接 IT 網路,並透過網路連接到雲端。Gigabit 乙太網路連接埠可在網路的 OT 端運作。因此,Grizzly 當然也具有可用於連接 OT 端之感應器與制動器的 GPIO。」

而可支援 Windows 和 Linux,也意味著開發者可輕易運用上述的虛擬化技術優勢。

輕鬆駕馭邊緣 AI

當邊緣擁有更多智能,組織便能找到新方法,收集更優異的資料。以 Grizzly 等平台為基礎的邊緣微伺服器架構,提供了一種移轉的進化路徑。

Buxton 解釋:「實際上,AI 推斷可在多種裝置上進行。我們現在已經可以在 Intel Atom 產品上進行這樣的運作,因此 Grizzly C 系列上的 16 核心應能輕鬆處理這樣的工作負載。」

在需要更多效能處理 AI 與分析工作負載的情況下,可於 Grizzly 其中一個內建插槽上安裝額外的處理器,例如 mini-PCIe 卡上的 Intel® Myriad 裝置。

從軟體角度來看,整合於 Intel Atom C3958 中的虛擬化技術可確保未來能順利新增、更新或取代較新的企業應用程式,而不會影響到現有的應用程式。透過 Intel 和 VersaLogic 的長生命週期支援,將這些功能設計至嵌入式微伺服器內,可將平台的使用壽命延長許多年。

邊緣分析已能運用「伺服器等級的嵌入技術」。您準備好掌握這項優勢了嗎?

作者簡介

John Koon

John Koon’s current roles include embedded technology research and publication. He was the Editor-in-Chief of the RTC Magazine and COTS Journal. Additionally, he has published numerous technical articles, blogs, and ebooks. His areas of research include aviation, AI, autonomous driving, robotics, automation, medical innovations, wireless technology (including 5G and low-power WAN, fog computing (beyond cloud), IoT, NB-IoT, and LoRaWAN), cybersecurity, blockchain, M2M, software, aerospace, manufacturing, and COTS advancements. He holds a BS in engineering (California State Polytechnic University, Pomona) and an MBA (San Diego State University), and had 20 years of management experience.

More Content by John Koon
上個文章
AI 效能標竿:建置前的參考
AI 效能標竿:建置前的參考

準備好讓範例轉移 AI 演算法上市了嗎?判斷其是否應在 GPU、FPGA 或 VPU 上執行,如此可節省電力、成本及延遲,同時改善系統精確性。查看效能標竿。

下個文章
系統整合商如何解決龐大的物聯網挑戰
系統整合商如何解決龐大的物聯網挑戰

複雜問題需要複合解決方案。以下為系統整合商與經銷商聯手運用物聯網發揮創意的方法。

×

名字
Company Name
Phone Number
Country/Region
提交本網站上的表單,即表示你確認你是一個年滿18週歲的成人,且你同意受Intel(英特爾)和 Intel® 物聯網解決方案聯盟成員透過與營銷相關的電子郵件或電話與您聯絡。你可以隨時取消訂閱。英特爾的網站和通信受制於我們的隱私政策和使用條款
我希望這篇公司聯絡我: -可選
!
Thank you!
Error - something went wrong!
×

獲得最即時的物聯網新訊,掌握最新動態。

Country/Region
insightTechOptIn
Intel GDPR Optin
提交本網站上的表單,即表示你確認你是一個年滿18週歲的成人,且你同意受Intel(英特爾)和 Intel® 物聯網解決方案聯盟成員透過與營銷相關的電子郵件或電話與您聯絡。你可以隨時取消訂閱。英特爾的網站和通信受制於我們的隱私政策和使用條款
認購。
Error - something went wrong!