透過工作負載整合解鎖應對客戶的邊緣 AI

現金消費者和企業的互動方式有所改變。全球嵌入式主機板與工業電腦領導者友通資訊（DFI）產品中心總經理張家益解釋道：「後疫情時代強調的是把實體接觸降到最低和簡化客戶服務。」

正因如此，零售領域對邊緣 AI 應用整合的需求日益增長。例如， AI 支援的自動服務機和報到解決方案可以讓客戶自行完成交易，協助減少實體接觸和等待時間。這些解決方案還能即時分析顧客行為和偏好，讓零售商提供個人化體驗，提升顧客滿意度和忠誠度，同時促進銷售。

張家益表示：「這些需求推動邊緣 AI 的轉變，讓處理過程更靠近資料來源，減少延遲還有增強隱私保護。即時決策的需求和邊緣產生的資料量成長是這個轉變的幕後推手。」

推動邊緣 AI 發展

但是問題在於，企業往往難以找到最佳方法，在現有的基礎架構和流程周圍部署 AI 應用程式。

雖然邊緣 AI 可以大幅減輕網路和資料中心的負載，但同時也可能對本機造成新的負擔，因為資源本來就已經有限。問題來了：要如何在不增加成本和複雜性的情況下部署邊緣 AI？

工作負載整合是因應這些挑戰的解方，讓單一硬體平台結合 AI 和其他功能。一款多功能邊緣裝置就此誕生。張家益解釋：「透過資源分割、隔離和遠端管理等功能，能利用有限的資源同時執行多個工作負載。」

友通資訊（DFI）這次在 2024 年嵌入式世界大會演示了結合電動車充電器和資訊站的範例，展現工作負載整合的可能性（影片 1）。資訊站部分採用了生物識別、語音識別和內建聊天機器人，推薦駕駛在車輛充電時可享受的附近購物和餐飲選擇。駕駛離開後，螢幕會切換到數位招牌模式，顯示附近商家引人注目的廣告。

DFI RPS630 工業主機板利用^第 13 代 Intel^® Core™ 處理器的硬體虛擬化技術，無縫整合 AI 功能與內容管理系統、電動車充電控制和付款處理系統。友通資訊（DFI）同時採用 Intel^® Arc™ GPU ，為 AI 元件提供高效、符合成本效益的加速。

公司同樣利用 Intel^® OpenVINO™ 工具組進行 GPU 最佳化，減少 AI 記憶體空間，讓主機板能在小於 6 GB 的記憶體執行複雜的大型語言模型。另外，透過將邊緣複雜的 AI 任務卸載到 Intel Arc GPU，友通資訊（DFI）能夠支援多種 AI 工作負載，同時縮短 66％ 的回應時間。

全力邁向智慧系統未來

友通資訊（DFI）的工作整合技術遠遠超越電動汽車充電應用。這個平台整合了工業級產品和合作夥伴的軟體、AI 解決方案，放眼全球自助服務產業，應用範圍包括零售、醫療保健、運輸、智慧工廠、餐旅等。

透過整合 Hypervisor 虛擬機，友通資訊（DFI）將所有客戶的工作負載集中到單一工業電腦上。這項系統支援多種資源分配，讓各式作業系統平台同時運作。

張家益表示：「這些邊緣 AI 使用案例都需要工作負載整合平台，才能實現客戶資料的即時處理和高效作業。隨著越來越多的產業和組織採用這項技術，我們預期會看到更近一步的發展。

邊緣 AI 和工作負載整合平台的融合對邊緣運算的發展非常重要。」張家益繼續談到：「隨著硬體、軟體和其他邊緣 AI 技術持續發展，工作負載整合絕對會越來越普遍，最終開啟新一代邊緣運算應用的可能性。」

邊緣協同合作的價值

邊緣 AI 對許多產業來說是大好機會。張家益解釋，我們目前才剛開始接觸這個領域。透過結合高效的加速和合適的工作負載整合平台，我們可以開始探索技術真正可以達到的境界。

友通資訊（DFI）和 Intel 的合作提供了洞察，揭示支援持續進步的必要條件就是協同合作。現代邊緣 AI 應用需要結合硬體、軟體、AI 和產業專業知識的跨領域方法。

張家益解釋：「嵌入式虛擬化需要在硬體和軟體方面建立強大的合作關係。開發和部署工作負載整合技術要求大量的研究和開發資源。透過跟虛擬整合軟體供應商和其他公司合作，我們可以大幅縮短開發和上市時間。」

張家益總結道：「有了像友通資訊（DFI）和 Intel 這樣的合作關係，就能夠探索和開發新技術，協助塑造邊緣運算的未來。一路走來合作取得的成果讓我們很驕傲。我們也非常期待未來跟 Intel 在工作負載整合、AI 和其他方面更深入的合作。」
 

本文由 insight.tech 編輯總監 Christina Cardoza 編輯。