Skip to main content

邊緣運算

機器製造商透過下一代產品獲得優勢

Published Date
Author Nick Leon Ruiz

AI application development

幾乎在每個產業都找得到新的邊緣 AI 和電腦視覺技術使用案例。在工廠裡面，自動光學檢測（AOI）和工業機器人等應用提高了作業效率。在醫療保健領域，這些技術增強了醫學影像和診斷的能力。還實現了我們的城市更智慧化的交通管理，以及提升辦公室和公共空間的安全性。

這麼多不同產業採用 AI 的現象也改變了企業領袖對未來的展望。AI 不再被視為在遙遠的未來才會實現的技術。AI 已經開始為各種類型的組織帶來正面的成果。研華科技（Advantech） 的產品經理劉家懿表示：「AI 正在被應用於現實世界的各種情境中。」研華科技（Advantech） 是邊緣 AI 平台和 AIoT 解決方案的供應商。「在當今的決策者的眼中， AI 是保持競爭力的『必須品』。」

現在是 AI 解決方案開發者絕佳的機會，但他們面對需要克服的挑戰，例如採用 AI 運算解決方案、整合軟體 SDKs、AI 模型訓練等等。

可喜可賀的是，嵌入式硬體夥伴關係讓強大、開發就緒的 AI 運算能力成為可能，像是華研科技（Advantech）的 GPU 卡 EAI-3101，設計搭載 Intel® Arc™ A380 GPU 。GPU 主要提供視覺影像最佳化，是目前用於增強 AI 運算能力的主要加速器之一。 

最新嵌入式 GPU 卡支援多種 AI 使用案例

EAI 系列產品提供全方位的 AI 加速和顯示晶片解決方案，包括多款搭載 Intel Arc 顯示晶片的 PCIe 和 MXM GPU 卡。隨著即將亮相的 Intel Arc A380E，研華科技（Advantech）推出了 EAI-3101，這是一款全新嵌入式 PCIe GPU 卡，搭載 Intel Arc A380E，而且壽命長達五年。這款 GPU 卡採用 128 個 Intel Xe Matrix AI 引擎，提供 5.018 TFLOPS 的 AI 運算能力。透過最佳化的散熱解決方案和自動智慧風扇，這些 GPU 卡可以滿足各種使用案例，例如遊戲、醫療分析等。這些設計經證明在 AI 推斷功能和顯示晶片運算方面超越競爭對手。

豐富的選擇代表不管預期的使用案例是什麼， OEM、ODM 和機器製造商更有可能找到符合需求的運算平台。例如，工業領域的機器製造商最有可能選擇其中一種常用的 PCIe 配置卡，而醫療設備製造商可能會偏好 MXM 卡小巧的外型規格和抗震抗振性。

「Intel® Dynamic Power Share Arc GPU 和 Intel GPU 可以自動而且動態（重新）分配組理引擎之間的電源，為各種邊緣負載工作提升穩定、高效能的運算，」劉家懿表示。「Intel® OpenVINO™ 工具組幫助我們加速 AI 推斷時間、減少 AI 模型佔用空間，還有最佳化硬體使用率。」

華研科技 （Advantech）和 Intel® 的 開發夥伴關係能讓 Intel 的最新產品更快上市，因為他們可以提早取用最新一代的處理器。 即使華研科技（Advantech）的客戶已經全面部署現有解決方案，這對他們來說是一大利好。例如智慧交通管理解決方案的製造商 ISSD Electronics 在土耳其部署了智慧交通管理系統，他們最近升級這項解決方案， 加入研華科技（Advantech）的EAI-3100 系列。劉家懿表示，這間製造商因此改善了系統的準確性、減少 AI 推斷延遲，構造成本也降低了 33％。

研華科技（Advantech）也宣布了 AIR 邊緣 AI 推斷設備的新模型：

  • AIR-150：採用第 13 代 Intel® Core™ 處理器的小型、無風扇邊緣 AI 推斷系統
  • AIR-310：搭載 MXM-GPU 卡以及第 14 代 Intel® Core™ 處理器支援的邊緣 AI 盒
  • AIR-510：採用第 14 代 Intel® Core™ 處理器和 RTX 6000 Ada 的邊緣 AI 工作站

這些邊緣 AI 平台 採用最新的 Intel 平台，適用於各種情境。企業可能會為辦公室選擇相對輕巧的 AIR-150。為了實現工廠的 AMR 自動化管理，AIR-310 提供所需的工業協定和具有可擴充性的 GPU 運算能力。至於可能需要更高顯示晶片運算的視覺輔助醫療解決方案，更強大的 AIR-510 是比較合適的選擇。

推動 AI 應用程式開發公平的競爭環境

除了硬體產品外，研華科技（Advantech）還提供跨平台邊緣 AI 軟體開發工具組（SDK）SDK 提供了評估 AI 應用程式在解決方案開發過程中早期硬體需求的基準工具。這有助於開發者選擇最適合解決方案的硬體，防止在過度的運算能力上超支。另外，SDK 還支援部署後的即時監控和無線（OTA）AI 模型更新。

OpenVINO 作為 SDK 的一部分，提供了模型最佳化和硬體加速的優勢。 開放原始碼推斷工具組還透過支援 PyTorch、TensorFlow和 PaddlePaddle等多種 AI 模型框架，幫助 AI 開發者簡化模型部署和軟體開工作流程。

開放原始碼工具組和 SDK 的可用性，再加上成熟的邊緣 AI 產品生態系統，能夠幫助更多的機器製造商、OEM 和 ODM 在穩定、開發就緒的 AI 運算環境以更有效的方式競爭。有助於縮短整體解決方案的開發時間，讓設計師更快推出創新產品。

研華科技（Advantech）也提供了邊緣 AI SDK，這是一款 AI 工具組，用於建立友善環境，從評估、採用 SDK，到在前面提到的 EAI 和 AIR 系列產品上部署。未來幾年，我們會看到更公平的 AI 應用開發競爭環境，有些人說這是「AI 民主化」。

劉家懿認為，以 AI 越來越發達的世界來說，這是應該走的正確道路。「AI 的力量不應該只掌握在少數公司手上。像我們的邊緣運軟平台、SDK 和 OpenVISO 這樣的資源都應該讓所有人運用，」劉家懿說道。「未來 AI 會無所不在，這就是為什麼我們需要這些開放又強大的解決方案。」
 

本文由 insight.tech 編輯總監妮．貝內施（Georganne Benesch）編輯。