Fill form to unlock content
Error - something went wrong!
再一個步驟就能完成您的內容。 請於下方提交。
謝謝!
嵌入式系統:在功率、效能與 AI 之間取得平衡
嵌入式系統產業的真諦在於找到平衡:邊緣相較於雲端;軟體相較於晶片;高效能相較於速度;耗電量相較於效率。別忘了還有成本!目前有許多選項可用於全面強化各行各業不同的應用方案,尤其是邊緣和 AI 技術日益普及,選項更是琳瑯滿目。
我們就嵌入式系統請教了 Avnet 與 Tria Technologies(前身為 Avnet Embedded)全球行銷總監 Alex Wood。他談及仰賴嵌入式系統的各行各業、AI 對整個產業的重要性,以及在處理器功率與成果之間尋求恰到好處的平衡(影片 1)。儘管公司有能力擁有最新且最快的處理器,但是有其必要性嗎?雖然公司部署了最新的處理器,打造出新穎的技術或應用程式,但客戶買單嗎?
目前嵌入式系統領域的技術有哪些趨勢?
我認為我們正處於產業的轉折點。AI 問世以來,雲端成了儲存重鎮,但主張以邊緣為儲存位置的人紛紛反對。雲端與邊緣各有各的難題和潛在的阻礙。客戶跟我們說:「我們想採用這項技術,但對於採用方式不太有把握。」
推對邊緣人工智慧的難題有哪些?
我認為電力是關鍵所在,左右了 AI 的成敗。AI 消耗大量資料,而且對於電力需求極大。如今相形之下,比特幣顯得節能多了。很多企業對於這類應用案例在邊緣消耗多少電源渾然不知。他們將需求外包給了資料中心,因此未親眼見證這些難題。
因此我認為,降低執行這些應用案例的功率需求將是一大難題。功率需求將決定 AI 是否能持續成為當紅炸子雞,同時也取決於 AI 的定義及其運作方式。這類應用案例取用及吸收大型資料模型並即時處理,需要更節能且散熱效率更高的處理方式。
您的客戶目前正在開發什麼樣的應用案例?
我們目前與客戶合力推動很多不同的工作。例如新的農業應用案例,像是將永久危險化學物質灑在土壤,或者單純提高農業效率這類工作,都能使用人工智慧代勞。
您可以訓練 AI 機器人辨識田野間的雜草,以及分辨雜草和害蟲以及作物與非有害動物。否則,人類必須親自下田野拍攝不同植物的相片,然後指導在田野工作的人。您可以打造 AI 應用程式代替您檢查作物。
您希望能夠將邊緣機器人的程式設計為能夠執行邊緣型 AI 辨識,但您未必希望將所有相關內容都儲存於資料中心。在那種情況下,您也未必有可靠的行動網路數據連線。視覺技術就處理需求而言進展神速,即時視覺 AI 能儘快辨識眼前的東西,然後迅速就辨識結果採取行動,過程中無需將訊號傳回資料中心處理。
另一方面,自動割草機這類工具則可讓居家人士規劃草坪周圍的最佳路徑。即時視覺技術是符合未來需求的利他解決方案,自動割草機則是偏實用的真實生活解決方案。然而,真實世界的實際難題,才能真正彰顯出這項技術的實力。
就高效能處理器而言,使用者應該考慮哪些面向?
我們有很多客戶為不同市場打造了不同層級的產品。大規模農業的客戶,例如田野面積廣大的美國,他們希望能速戰速決,因此會準備能覆蓋廣大農地的頂級解決方案。此外,他們也有能力和資金可投資這類方案。市面上還有速度稍慢、價格稍便宜的中階應用方案,以及更低階的選項。
在我看來,實際應用方案是產業進步的推手。我腦中總是浮現這個在網路廣傳的畫面:田野外圍環繞著一條人工小徑。然後還有條眾人足跡踩踏出來的小徑斜切穿過田野。這個畫面體現了設計與使用者體驗之間的差異。
近期的 AI/物聯網領域便是最佳寫照,一方面,大家興致勃勃地探討各種可能性,但是到頭來,設計成功與否取決於使用者是否覺得設計實用。我最近將老舊的冰箱升級為半物聯網的機型,冰箱會告訴我冰箱門沒關,或是溫度過高或過低。我不需要冰箱配備提供天氣相關資訊的螢幕,因為我的廚房另外有一台顯示器提供天氣資訊,我也不需要冰箱內建攝影機。但我很需要冰箱提醒我門沒關。這類真實世界應用案例已經廣泛流行。
處理器-RAM 組合有多重要?
這個組合與我之前提到的電源效率息息相關。如果我要打造遊戲電腦,我希望幀率越高越好,才能以更快的速度彩現影片。但是上回我升級顯示卡時,必須搭載比先前那個 PSU 大一倍的供應器。我為了跑合適的電腦裝備,供應了一千瓦的電力,過去則是 300 瓦就足足有餘了。儘管不乏創新技術、眾人歡欣鼓舞,還有無限的可能性,但實際上,新技術必須消耗大量電力才能締造心目中的效能。有捨才有得。
以電動車為例:車子加裝大量配備之後越來越重,以致於續航哩程隨之下降。如果想要續航哩程長的車款,就必須提升空氣動力,意味著,為了減輕重量,必須拿掉電動椅這類裝備。因此必須找出這類應用案例恰到好處的狀態,也就是所謂的甜蜜點。
客戶多半不講究是否配備更強大的處理器或最強大的處理器,而是追求在耗電量、使用壽命以及特定應用案例功能之間取得平衡。當然,其他客戶的確會考慮行銷因素:雖然可能不需要,但是卻想購買最頂級系列的旗艦處理器。不過,他們偶爾可能因為應用案例,確實有這方面的需求。我寧可與客戶詳談,跟對方說:「請告訴我您到底想打造什麼。」我不會跟客戶說:「您需要最頂級的產品。您必須立即選購 i9。」
Avnet/Tria Technologies 如何滿足使用者的各種需求?
我認為我們的產品範圍恰到好處,涵蓋小巧的低功耗運算應用方案,以及搭載伺服器級 Intel 處理器的 COM-HPC。這些產品是專為邊緣型影像處理和 AI 應用方案設計,但體積也更大。因此,您必須在尺寸、耗電量與功能之間取得平衡。
COM-HPC 模組跟主機板尺寸一樣,是體積偏大的模組,因此必須放進專用機箱。這種模組無法直接嵌入產品,除非是大型產品。大眾運輸是我們目前致力研究的重要產品。針對這類應用,必須有現場伺服器,才能從火車或火車站的大量感應器擷取資料、分析所有資料,以及即時回應所有資料。此外,資料網路的可靠性有時靠不住。
您可以聊聊 Avent/Tria 與 Intel 的合作關係嗎。
協作機器人是我們與客戶之一 Intel 合作的其中一個例子:在協作機器人環境建置即時影像感應器,讓機器人跟人類在同一個空間安全作業。如果人類進入機器人的空間,機械手臂就會停止移動;如果人類拿起物品,機器人就會知道那個物品的所在位置,然後可以再從人類手上將物品拿走。
我們今年在紐倫堡的 Embedded World 展示了一項初期範例。影像處理的建置基礎結合 Intel 技術的 SMARC 模組,以及 Intel 技術的 COM-HPC 模組。這兩個模組互相通訊,分析攝影機傳出的訊號,然後也與機器人即時通訊。
我們為客戶採用哪種處理器,取決於安裝處理器的模組大小和形狀。我們在伺服器端通常提供 Intel Atom®,以及 Intel® Core™ 系列與 Intel® Xeon® 系列。親眼目睹產品團隊工作將元件整合至這麼小的產品,過程實在令人讚嘆。我在主機板和主機板製程有多年經驗,在我看來,在如此小巧的體積實現這種運算應用案例,並且兼顧散熱管理,宛如鬼斧神工。
在預計要使用產品的環境開發應用案例雖然是一大挑戰,但卻也樂趣十足。我們能夠在用於邊緣的小巧產品中,部署 Intel 處理器及其功能,以及我們研發中的全新 AI 型流程,是頗為令人興奮的體驗。
最新的 AI 技術如何協助推進嵌入式系統產業?
我最近參加了一場 Intel AI 活動,其中側重於 AI 如何加速邊緣應用的應用程式非常吸引人。舉例來說,有自動辨識顧客手中產品的超市結帳應用程式,以及超市隊伍管理自動化。
在活動中,Dell 上台展示了即將上市的筆記型電腦,因為內建 AI 應用程式,所以屬於 AI 裝置而非運算裝置,是真正側重於協作式 AI 應用環境的筆記型電腦。Intel 展示的影片中,該案例研究以影像處理平台為基礎,在非洲尋覓有奧運潛力的運動員。這個案例實在很棒,激發了我的想像力。
我認為 AI 和邊緣運算目前都處於轉折點,能夠將 AI 應用程式從雲端移至裝置。此時此刻能投身於將 AI 整合至小外型規格運算的研究,實在是令人興奮又期待。
相關內容
若要進一步瞭解最新的邊緣 AI 創新技術,請見證 Intel 全球合作夥伴在各自產業的表現,並且收聽我們的網路廣播節目《揭開宣傳炒作的面紗:真實世界邊緣 AI 應用案例》。若要掌握 Tria Technologies 最新的創新技術,請追蹤他們的 LinkedIn 帳號。
本文由 Erin Noble 編審。