機器製造商透過下一代產品獲得優勢
幾乎在每個產業都找得到新的邊緣 AI 和電腦視覺技術使用案例。在工廠裡面,自動光學檢測(AOI)和工業機器人等應用提高了作業效率。在醫療保健領域,這些技術增強了醫學影像和診斷的能力。還實現了我們的城市更智慧化的交通管理,以及提升辦公室和公共空間的安全性。
這麼多不同產業採用 AI 的現象也改變了企業領袖對未來的展望。AI 不再被視為在遙遠的未來才會實現的技術。AI 已經開始為各種類型的組織帶來正面的成果。研華科技(Advantech) 的產品經理劉家懿表示:「AI 正在被應用於現實世界的各種情境中。」研華科技(Advantech) 是邊緣 AI 平台和 AIoT 解決方案的供應商。「在當今的決策者的眼中, AI 是保持競爭力的『必須品』。」
現在是 AI 解決方案開發者絕佳的機會,但他們面對需要克服的挑戰,例如採用 AI 運算解決方案、整合軟體 SDKs、AI 模型訓練等等。
可喜可賀的是,嵌入式硬體夥伴關係讓強大、開發就緒的 AI 運算能力成為可能,像是華研科技(Advantech)的 GPU 卡 EAI-3101,設計搭載 Intel® Arc™ A380 GPU 。GPU 主要提供視覺影像最佳化,是目前用於增強 AI 運算能力的主要加速器之一。
最新嵌入式 GPU 卡支援多種 AI 使用案例
EAI 系列產品提供全方位的 AI 加速和顯示晶片解決方案,包括多款搭載 Intel Arc 顯示晶片的 PCIe 和 MXM GPU 卡。隨著即將亮相的 Intel Arc A380E,研華科技(Advantech)推出了 EAI-3101,這是一款全新嵌入式 PCIe GPU 卡,搭載 Intel Arc A380E,而且壽命長達五年。這款 GPU 卡採用 128 個 Intel Xe Matrix AI 引擎,提供 5.018 TFLOPS 的 AI 運算能力。透過最佳化的散熱解決方案和自動智慧風扇,這些 GPU 卡可以滿足各種使用案例,例如遊戲、醫療分析等。這些設計經證明在 AI 推斷功能和顯示晶片運算方面超越競爭對手。
豐富的選擇代表不管預期的使用案例是什麼, OEM、ODM 和機器製造商更有可能找到符合需求的運算平台。例如,工業領域的機器製造商最有可能選擇其中一種常用的 PCIe 配置卡,而醫療設備製造商可能會偏好 MXM 卡小巧的外型規格和抗震抗振性。
「Intel® Dynamic Power Share Arc GPU 和 Intel GPU 可以自動而且動態(重新)分配組理引擎之間的電源,為各種邊緣負載工作提升穩定、高效能的運算,」劉家懿表示。「Intel® OpenVINO™ 工具組幫助我們加速 AI 推斷時間、減少 AI 模型佔用空間,還有最佳化硬體使用率。」
華研科技 (Advantech)和 Intel® 的 開發夥伴關係能讓 Intel 的最新產品更快上市,因為他們可以提早取用最新一代的處理器。 即使華研科技(Advantech)的客戶已經全面部署現有解決方案,這對他們來說是一大利好。例如智慧交通管理解決方案的製造商 ISSD Electronics 在土耳其部署了智慧交通管理系統,他們最近升級這項解決方案, 加入研華科技(Advantech)的EAI-3100 系列。劉家懿表示,這間製造商因此改善了系統的準確性、減少 AI 推斷延遲,構造成本也降低了 33%。
研華科技(Advantech)也宣布了 AIR 邊緣 AI 推斷設備的新模型:
- AIR-150:採用第 13 代 Intel® Core™ 處理器的小型、無風扇邊緣 AI 推斷系統
- AIR-310:搭載 MXM-GPU 卡以及第 14 代 Intel® Core™ 處理器支援的邊緣 AI 盒
- AIR-510:採用第 14 代 Intel® Core™ 處理器和 RTX 6000 Ada 的邊緣 AI 工作站
這些邊緣 AI 平台 採用最新的 Intel 平台,適用於各種情境。企業可能會為辦公室選擇相對輕巧的 AIR-150。為了實現工廠的 AMR 自動化管理,AIR-310 提供所需的工業協定和具有可擴充性的 GPU 運算能力。至於可能需要更高顯示晶片運算的視覺輔助醫療解決方案,更強大的 AIR-510 是比較合適的選擇。
推動 AI 應用程式開發公平的競爭環境
除了硬體產品外,研華科技(Advantech)還提供跨平台邊緣 AI 軟體開發工具組(SDK)SDK 提供了評估 AI 應用程式在解決方案開發過程中早期硬體需求的基準工具。這有助於開發者選擇最適合解決方案的硬體,防止在過度的運算能力上超支。另外,SDK 還支援部署後的即時監控和無線(OTA)AI 模型更新。
OpenVINO 作為 SDK 的一部分,提供了模型最佳化和硬體加速的優勢。 開放原始碼推斷工具組還透過支援 PyTorch、TensorFlow和 PaddlePaddle等多種 AI 模型框架,幫助 AI 開發者簡化模型部署和軟體開工作流程。
開放原始碼工具組和 SDK 的可用性,再加上成熟的邊緣 AI 產品生態系統,能夠幫助更多的機器製造商、OEM 和 ODM 在穩定、開發就緒的 AI 運算環境以更有效的方式競爭。有助於縮短整體解決方案的開發時間,讓設計師更快推出創新產品。
研華科技(Advantech)也提供了邊緣 AI SDK,這是一款 AI 工具組,用於建立友善環境,從評估、採用 SDK,到在前面提到的 EAI 和 AIR 系列產品上部署。未來幾年,我們會看到更公平的 AI 應用開發競爭環境,有些人說這是「AI 民主化」。
劉家懿認為,以 AI 越來越發達的世界來說,這是應該走的正確道路。「AI 的力量不應該只掌握在少數公司手上。像我們的邊緣運軟平台、SDK 和 OpenVISO 這樣的資源都應該讓所有人運用,」劉家懿說道。「未來 AI 會無所不在,這就是為什麼我們需要這些開放又強大的解決方案。」