Skip to main content

營運效率

嵌入式系統:在功率、效能與 AI 之間取得平衡

農業機器人在菜園裡噴灑肥料。

嵌入式系統產業的真諦在於找到平衡:邊緣相較於雲端;軟體相較於晶片;高效能相較於速度;耗電量相較於效率。別忘了還有成本!目前有許多選項可用於全面強化各行各業不同的應用方案,尤其是邊緣和 AI 技術日益普及,選項更是琳瑯滿目。

我們就嵌入式系統請教了 Avnet 與 Tria Technologies(前身為 Avnet Embedded)全球行銷總監 Alex Wood。他談及仰賴嵌入式系統的各行各業、AI 對整個產業的重要性,以及在處理器功率與成果之間尋求恰到好處的平衡(影片 1)。儘管公司有能力擁有最新且最快的處理器,但是有其必要性嗎?雖然公司部署了最新的處理器,打造出新穎的技術或應用程式,但客戶買單嗎?

影片 1. Tria Technologies 的 Alex Wood 探討了真實世界邊緣 AI 應用案例,以及大眾對這類應用的需求。(資料來源:insight.tech

目前嵌入式系統領域的技術有哪些趨勢?

我認為我們正處於產業的轉折點。AI 問世以來,雲端成了儲存重鎮,但主張以邊緣為儲存位置的人紛紛反對。雲端與邊緣各有各的難題和潛在的阻礙。客戶跟我們說:「我們想採用這項技術,但對於採用方式不太有把握。」

推對邊緣人工智慧的難題有哪些?

我認為電力是關鍵所在,左右了 AI 的成敗。AI 消耗大量資料,而且對於電力需求極大。如今相形之下,比特幣顯得節能多了。很多企業對於這類應用案例在邊緣消耗多少電源渾然不知。他們將需求外包給了資料中心,因此未親眼見證這些難題。

因此我認為,降低執行這些應用案例的功率需求將是一大難題。功率需求將決定 AI 是否能持續成為當紅炸子雞,同時也取決於 AI 的定義及其運作方式。這類應用案例取用及吸收大型資料模型並即時處理,需要更節能且散熱效率更高的處理方式。

您的客戶目前正在開發什麼樣的應用案例?

我們目前與客戶合力推動很多不同的工作。例如新的農業應用案例,像是將永久危險化學物質灑在土壤,或者單純提高農業效率這類工作,都能使用人工智慧代勞。

您可以訓練 AI 機器人辨識田野間的雜草,以及分辨雜草和害蟲以及作物與非有害動物。否則,人類必須親自下田野拍攝不同植物的相片,然後指導在田野工作的人。您可以打造 AI 應用程式代替您檢查作物。

您希望能夠將邊緣機器人的程式設計為能夠執行邊緣型 AI 辨識,但您未必希望將所有相關內容都儲存於資料中心。在那種情況下,您也未必有可靠的行動網路數據連線。視覺技術就處理需求而言進展神速,即時視覺 AI 能儘快辨識眼前的東西,然後迅速就辨識結果採取行動,過程中無需將訊號傳回資料中心處理。

另一方面,自動割草機這類工具則可讓居家人士規劃草坪周圍的最佳路徑。即時視覺技術是符合未來需求的利他解決方案,自動割草機則是偏實用的真實生活解決方案。然而,真實世界的實際難題,才能真正彰顯出這項技術的實力。

就高效能處理器而言,使用者應該考慮哪些面向?

我們有很多客戶為不同市場打造了不同層級的產品。大規模農業的客戶,例如田野面積廣大的美國,他們希望能速戰速決,因此會準備能覆蓋廣大農地的頂級解決方案。此外,他們也有能力和資金可投資這類方案。市面上還有速度稍慢、價格稍便宜的中階應用方案,以及更低階的選項。

在我看來,實際應用方案是產業進步的推手。我腦中總是浮現這個在網路廣傳的畫面:田野外圍環繞著一條人工小徑。然後還有條眾人足跡踩踏出來的小徑斜切穿過田野。這個畫面體現了設計與使用者體驗之間的差異。

近期的 AI/物聯網領域便是最佳寫照,一方面,大家興致勃勃地探討各種可能性,但是到頭來,設計成功與否取決於使用者是否覺得設計實用。我最近將老舊的冰箱升級為半物聯網的機型,冰箱會告訴我冰箱門沒關,或是溫度過高或過低。我不需要冰箱配備提供天氣相關資訊的螢幕,因為我的廚房另外有一台顯示器提供天氣資訊,我也不需要冰箱內建攝影機。但我很需要冰箱提醒我門沒關。這類真實世界應用案例已經廣泛流行。

處理器-RAM 組合有多重要?

這個組合與我之前提到的電源效率息息相關。如果我要打造遊戲電腦,我希望幀率越高越好,才能以更快的速度彩現影片。但是上回我升級顯示卡時,必須搭載比先前那個 PSU 大一倍的供應器。我為了跑合適的電腦裝備,供應了一千瓦的電力,過去則是 300 瓦就足足有餘了。儘管不乏創新技術、眾人歡欣鼓舞,還有無限的可能性,但實際上,新技術必須消耗大量電力才能締造心目中的效能。有捨才有得。

以電動車為例:車子加裝大量配備之後越來越重,以致於續航哩程隨之下降。如果想要續航哩程長的車款,就必須提升空氣動力,意味著,為了減輕重量,必須拿掉電動椅這類裝備。因此必須找出這類應用案例恰到好處的狀態,也就是所謂的甜蜜點。

客戶多半不講究是否配備更強大的處理器或最強大的處理器,而是追求在耗電量、使用壽命以及特定應用案例功能之間取得平衡。當然,其他客戶的確會考慮行銷因素:雖然可能不需要,但是卻想購買最頂級系列的旗艦處理器。不過,他們偶爾可能因為應用案例,確實有這方面的需求。我寧可與客戶詳談,跟對方說:「請告訴我您到底想打造什麼。」我不會跟客戶說:「您需要最頂級的產品。您必須立即選購 i9。」

Avnet/Tria Technologies 如何滿足使用者的各種需求?

我認為我們的產品範圍恰到好處,涵蓋小巧的低功耗運算應用方案,以及搭載伺服器級 Intel 處理器的 COM-HPC。這些產品是專為邊緣型影像處理和 AI 應用方案設計,但體積也更大。因此,您必須在尺寸、耗電量與功能之間取得平衡。

COM-HPC 模組跟主機板尺寸一樣,是體積偏大的模組,因此必須放進專用機箱。這種模組無法直接嵌入產品,除非是大型產品。大眾運輸是我們目前致力研究的重要產品。針對這類應用,必須有現場伺服器,才能從火車或火車站的大量感應器擷取資料、分析所有資料,以及即時回應所有資料。此外,資料網路的可靠性有時靠不住。

您可以聊聊 Avent/Tria 與 Intel 的合作關係嗎。

協作機器人是我們與客戶之一 Intel 合作的其中一個例子:在協作機器人環境建置即時影像感應器,讓機器人跟人類在同一個空間安全作業。如果人類進入機器人的空間,機械手臂就會停止移動;如果人類拿起物品,機器人就會知道那個物品的所在位置,然後可以再從人類手上將物品拿走。

我們今年在紐倫堡的 Embedded World 展示了一項初期範例。影像處理的建置基礎結合 Intel 技術的 SMARC 模組,以及 Intel 技術的 COM-HPC 模組。這兩個模組互相通訊,分析攝影機傳出的訊號,然後也與機器人即時通訊。

我們為客戶採用哪種處理器,取決於安裝處理器的模組大小和形狀。我們在伺服器端通常提供 Intel Atom®,以及 Intel® Core 系列與 Intel® Xeon® 系列。親眼目睹產品團隊工作將元件整合至這麼小的產品,過程實在令人讚嘆。我在主機板和主機板製程有多年經驗,在我看來,在如此小巧的體積實現這種運算應用案例,並且兼顧散熱管理,宛如鬼斧神工。

在預計要使用產品的環境開發應用案例雖然是一大挑戰,但卻也樂趣十足。我們能夠在用於邊緣的小巧產品中,部署 Intel 處理器及其功能,以及我們研發中的全新 AI 型流程,是頗為令人興奮的體驗。

最新的 AI 技術如何協助推進嵌入式系統產業?

我最近參加了一場 Intel AI 活動,其中側重於 AI 如何加速邊緣應用的應用程式非常吸引人。舉例來說,有自動辨識顧客手中產品的超市結帳應用程式,以及超市隊伍管理自動化。

在活動中,Dell 上台展示了即將上市的筆記型電腦,因為內建 AI 應用程式,所以屬於 AI 裝置而非運算裝置,是真正側重於協作式 AI 應用環境的筆記型電腦。Intel 展示的影片中,該案例研究以影像處理平台為基礎,在非洲尋覓有奧運潛力的運動員。這個案例實在很棒,激發了我的想像力。

我認為 AI 和邊緣運算目前都處於轉折點,能夠將 AI 應用程式從雲端移至裝置。此時此刻能投身於將 AI 整合至小外型規格運算的研究,實在是令人興奮又期待。

相關內容

若要進一步瞭解最新的邊緣 AI 創新技術,請見證 Intel 全球合作夥伴在各自產業的表現,並且收聽我們的網路廣播節目《揭開宣傳炒作的面紗:真實世界邊緣 AI 應用案例》。若要掌握 Tria Technologies 最新的創新技術,請追蹤他們的 LinkedIn 帳號。

 

本文由 Erin Noble 編審。

作者簡介

Christina Cardoza is an Editorial Director for insight.tech. Previously, she was the News Editor of the software development magazine SD Times and IT operations online publication ITOps Times. She received her bachelor’s degree in journalism from Stony Brook University, and has been writing about software development and technology throughout her entire career.

Profile Photo of Christina Cardoza