Skip to main content

人工智慧

透過工作負載整合解鎖應對客戶的邊緣 AI

邊緣人工智慧

現金消費者和企業的互動方式有所改變。全球嵌入式主機板與工業電腦領導者友通資訊(DFI)產品中心總經理張家益解釋道:「後疫情時代強調的是把實體接觸降到最低和簡化客戶服務。」

正因如此,零售領域對邊緣 AI 應用整合的需求日益增長。例如, AI 支援的自動服務機和報到解決方案可以讓客戶自行完成交易,協助減少實體接觸和等待時間。這些解決方案還能即時分析顧客行為和偏好,讓零售商提供個人化體驗,提升顧客滿意度和忠誠度,同時促進銷售。

張家益表示:「這些需求推動邊緣 AI 的轉變,讓處理過程更靠近資料來源,減少延遲還有增強隱私保護。即時決策的需求和邊緣產生的資料量成長是這個轉變的幕後推手。」

推動邊緣 AI 發展

但是問題在於,企業往往難以找到最佳方法,在現有的基礎架構和流程周圍部署 AI 應用程式。

雖然邊緣 AI 可以大幅減輕網路和資料中心的負載,但同時也可能對本機造成新的負擔,因為資源本來就已經有限。問題來了:要如何在不增加成本和複雜性的情況下部署邊緣 AI?

工作負載整合是因應這些挑戰的解方,讓單一硬體平台結合 AI 和其他功能。一款多功能邊緣裝置就此誕生。張家益解釋:「透過資源分割、隔離和遠端管理等功能,能利用有限的資源同時執行多個工作負載。」

友通資訊(DFI)這次在 2024 年嵌入式世界大會演示了結合電動車充電器和資訊站的範例,展現工作負載整合的可能性(影片 1)。資訊站部分採用了生物識別、語音識別和內建聊天機器人,推薦駕駛在車輛充電時可享受的附近購物和餐飲選擇。駕駛離開後,螢幕會切換到數位招牌模式,顯示附近商家引人注目的廣告。

影片 1。友通資訊(DFI)在 2024 嵌入式世界大會展現工作負載整合的可能性。(來源:insight.tech

DFI RPS630 工業主機板利用 13 代 Intel® Core™ 處理器的硬體虛擬化技術,無縫整合 AI 功能與內容管理系統、電動車充電控制和付款處理系統。友通資訊(DFI)同時採用 Intel® Arc™ GPU ,為 AI 元件提供高效、符合成本效益的加速。

公司同樣利用 Intel® OpenVINO™ 工具組進行 GPU 最佳化,減少 AI 記憶體空間,讓主機板能在小於 6 GB 的記憶體執行複雜的大型語言模型。另外,透過將邊緣複雜的 AI 任務卸載到 Intel Arc GPU,友通資訊(DFI)能夠支援多種 AI 工作負載,同時縮短 66% 的回應時間。

全力邁向智慧系統未來

友通資訊(DFI)的工作整合技術遠遠超越電動汽車充電應用。這個平台整合了工業級產品和合作夥伴的軟體、AI 解決方案,放眼全球自助服務產業,應用範圍包括零售、醫療保健、運輸、智慧工廠、餐旅等。

透過整合 Hypervisor 虛擬機,友通資訊(DFI)將所有客戶的工作負載集中到單一工業電腦上。這項系統支援多種資源分配,讓各式作業系統平台同時運作。

張家益表示:「這些邊緣 AI 使用案例都需要工作負載整合平台,才能實現客戶資料的即時處理和高效作業。隨著越來越多的產業和組織採用這項技術,我們預期會看到更近一步的發展。

邊緣 AI 和工作負載整合平台的融合對邊緣運算的發展非常重要。」張家益繼續談到:「隨著硬體、軟體和其他邊緣 AI 技術持續發展,工作負載整合絕對會越來越普遍,最終開啟新一代邊緣運算應用的可能性。」

邊緣協同合作的價值

邊緣 AI 對許多產業來說是大好機會。張家益解釋,我們目前才剛開始接觸這個領域。透過結合高效的加速和合適的工作負載整合平台,我們可以開始探索技術真正可以達到的境界。

友通資訊(DFI)和 Intel 的合作提供了洞察,揭示支援持續進步的必要條件就是協同合作。現代邊緣 AI 應用需要結合硬體、軟體、AI 和產業專業知識的跨領域方法。

張家益解釋:「嵌入式虛擬化需要在硬體和軟體方面建立強大的合作關係。開發和部署工作負載整合技術要求大量的研究和開發資源。透過跟虛擬整合軟體供應商和其他公司合作,我們可以大幅縮短開發和上市時間。」

張家益總結道:「有了像友通資訊(DFI)和 Intel 這樣的合作關係,就能夠探索和開發新技術,協助塑造邊緣運算的未來。一路走來合作取得的成果讓我們很驕傲。我們也非常期待未來跟 Intel 在工作負載整合、AI 和其他方面更深入的合作。」
 

本文由 insight.tech 編輯總監 Christina Cardoza 編輯。

作者簡介

Brandon is a long-time contributor to insight.tech going back to its days as Embedded Innovator, with more than a decade of high-tech journalism and media experience in previous roles as Editor-in-Chief of electronics engineering publication Embedded Computing Design, co-host of the Embedded Insiders podcast, and co-chair of live and virtual events such as Industrial IoT University at Sensors Expo and the IoT Device Security Conference. Brandon currently serves as marketing officer for electronic hardware standards organization, PICMG, where he helps evangelize the use of open standards-based technology. Brandon’s coverage focuses on artificial intelligence and machine learning, the Internet of Things, cybersecurity, embedded processors, edge computing, prototyping kits, and safety-critical systems, but extends to any topic of interest to the electronic design community. Drop him a line at techielew@gmail.com, DM him on Twitter @techielew, or connect with him on LinkedIn.

Profile Photo of Brandon Lewis