Skip to main content

視覺

將邊緣人工智慧帶入醫療照護物聯網應用

HPEC

人工智慧從醫院實驗室與手術室轉移到現場的最初照護點,使醫療照護物聯網應用向前邁進一大步。

想像一下救護車配備了一台可移動強固型邊緣電腦。這種電腦在效能與電源效率間達到良好平衡,現場急救人員可將攜帶式超音波之類的醫療儀器之輸出直接傳送到電腦,讓電腦裡的邊緣人工智慧演算法對不平整物體掃描資料進行分析。然後,救護車在行駛途中,這些推斷就會無線傳送至醫院的醫師,抵達時可節省寶貴的時間,使患者的治療成果更加完善。

這類設備開啟了在許多邊緣環境中強化病患照護之未開發領域的機會,這些環境遍及醫師辦公室到鄉間診所,一直到突發性救災工作。

傳統上來說,配備在大型醫療院所的高階醫療成像儀,負責分析大量的感測資料。這些儀器需要大量的運算能力,因此體積龐大、非常笨重而且相當耗電。它們也非常昂貴。

目前大部分的邊緣裝置都具有一定的邊緣處理能力,需要將資料透過雲端傳輸至資料中心以進行分析。然後,答案再傳回邊緣裝置。這個程序會經歷延遲,需要可靠的連線,而連線有時並不順暢。以這種方式傳送大量資料,也顯得不實用而且成本昂貴。因此,邊緣醫療裝置需要在各地具備自己的運算能力,而這通常是由人工智慧技術來協助。

這兩項技術問題可由全新一代的微處理器加以解決,此種微處理器搭載擴充的原始運算能力、執行效率以及廣泛的資料移動功能,這些功能對於縮小機器尺寸與消耗更少電力都不可或缺,可作為更廣泛部署的先決條件。

物聯網解決方案開發商 SECO USA 擔任 業務開發暨行銷副總裁的羅德尼•費爾德曼(Rodney Feldman) 解釋:「傳統的邊緣智慧運算模式不適用於邊緣醫療成像裝置。透過可靠度不佳的通訊通路傳輸大量的感測資料,會使患者面臨風險。而且這種分散式處理系統之開發太過複雜且耗時太長。它需要仔細的演算法分割、對邊緣裝置與雲端軟體進行個別執行與測試,然後對整個系統進行最終徹底測試。這項解決方案就是在邊緣端儘可能以具有智慧的方式去執行,並減少資料傳輸。」

更快到達邊緣人工智慧的途徑

醫療使用案例是物聯網開發商轉而尋求現成的高效能嵌入式運算(HPEC)解決方案之絕佳範例,這些解決方案具備足夠的運算能力與效率,可將雲端的功能移至邊緣。但若要提供與雲端相同等級的服務,這些解決方案也必須配備高速 I/O,以處理來自像是超音波探針和其它醫療成像儀等高階裝置每秒數十億位元組的資料量。

目前,醫療 OEM 與系統整合商可以從搭載第 12 代 Intel® Core 處理器(前身為「Alder Lake」)的平台獲得這些功能。

這些全新的處理器採用異質運算架構,具備高達 14 個效能核心與效率核心,以及 96 個 Intel® Iris® Xe 顯示晶片執行單元。在強固型醫療邊緣伺服器這類的使用案例中,整合式智慧型、低延遲的硬體排程器將複雜的人工智慧工作負載傳送至效能核心與顯示晶片單元,而負荷較輕的系統管理工作則傳送至效率核心。

在資料獲取前端,第 12 代 Intel® Core 桌上型處理器象徵第一次採用 PCIe 5.0 介面。這款處理器的 16 個 PCIe 5.0 連線能力可支援每秒 32 倍的十億次傳輸 (GTps),為獲取自診斷和其它設備的超高速、高解析度感測器資料提供了充足的頻寬。

強大的安全性與先進的虛擬化技術在這些系統中也至關重要,尤其是考慮到醫療應用的本質。它們不僅必須確保關鍵手術以可靠而確定的方式執行,而且還能保護敏感的患者資料不遭洩漏或揭露。

所有這些要求結合在一起,能在相同的整合式 HPEC 平台上,支援各種嚴苛的應用(例如這些醫療應用範例)。

費爾德曼(Feldman)表示:「這些處理器的效能以及各種相輔相成技術的整合程度,能讓全新的應用比以往更加全面性地部署到邊緣。他們以更少的硬體推出更具智慧的功能,這當然意味著體積更小、重量更輕、功耗更低、成本更節省。」

嵌入板件並進入現場

儘管處理器的效率很高,但開發一款外型小巧功能強固的邊緣伺服器仍會遇到散熱及電磁干擾 (EMI) 設計的嚴重影響。而且處理器越先進,通常它的針腳就越多、訊號也越快、聲音也越吵雜,同時,也消耗更多功率。

瞭解了這些潛在挑戰以及朝向 HPEC 平台部署的趨勢,國際工業計算機製造者聯合會 (PICMG) 發佈了 COM-HPC 模組電腦的標準。COM-HPC 與其他 COM 一樣,利用包含處理器模組與載板的兩板式架構,但不同的是,COM-HPC 的設計是用以支援 PCIe Gen 5 這類高速介面和 25 Gbps 的乙太網路、高達 150 W 的處理器,並包含兩個 400 針腳連接器,可實現極佳連線功能。

費爾德曼(Feldman)提及 COM-HPC 的最大優勢時表示:「在一個經過設計驗證的模組中封裝更多的針腳與電力」。「很大的創新之一,正是它能夠透過 COM-HPC 連接器,運用這些高速介面。利用像是 PCIe 5 與 USB 4 等介面、以及像是第 12 代 Intel Core 這種高速處理器之電路系統之開發,需要具備對於訊號與電源完整性、以及應用至電路板設計之高度專業知識。使用 COM-HPC 模組,可減少設計核心運算平台的需求。」

SECO 的 Orion 解決方案是一款 COM-HPC 客戶端 A 尺寸模組,搭載第 12 代 Intel Core H 系列筆記型處理器,現在已上市。然而,該公司也設計並製造搭載第 12 代 Intel Core S 系列桌上型處理器的客製化 COM-HPC 模組、載板以及其它解決方案,可加快上市時間並降低風險。

而且 SECO 甚至有一個由專家演算法開發人員與資料科學家所組成的垂直導向應用程式軟體小組,可協助成功推展邊緣人工智慧系統。

重新定義醫療邊緣(與雲端)

早年以來有件事一直很明顯,就是物聯網應用跟以往相比,需要在各處配備更多的分散式智慧型運用。當時,許多關注事項都與減少橫跨網路收集與傳輸資料量有關,但增加的是原因已經改變。現在則關注從分散式智慧的功能中能夠發揮什麼優勢。

在搭載像是第 12 代 Intel Core 處理器與 COM-HPC 模組技術的邊緣人工智慧伺服器中,醫療 OEM 與整合商可將以往的多處理器整合成體積更小、操作散熱更低、功耗更少、重量更輕且更為便宜的設備。

費爾德曼(Feldman)表示:「一旦這麼做,您就可以將更多的診斷設備推向現場。」「功能強大的強固型系統可部署在救護車中,而且對現場急救人員來說,更有自主能力可更快地做出決策並立即採取行動。」

 

本文由 insight.tech 編輯副總監喬治妮.貝內施(Georganne Benesch)編輯。

作者簡介

Brandon is a long-time contributor to insight.tech going back to its days as Embedded Innovator, with more than a decade of high-tech journalism and media experience in previous roles as Editor-in-Chief of electronics engineering publication Embedded Computing Design, co-host of the Embedded Insiders podcast, and co-chair of live and virtual events such as Industrial IoT University at Sensors Expo and the IoT Device Security Conference. Brandon currently serves as marketing officer for electronic hardware standards organization, PICMG, where he helps evangelize the use of open standards-based technology. Brandon’s coverage focuses on artificial intelligence and machine learning, the Internet of Things, cybersecurity, embedded processors, edge computing, prototyping kits, and safety-critical systems, but extends to any topic of interest to the electronic design community. Drop him a line at techielew@gmail.com, DM him on Twitter @techielew, or connect with him on LinkedIn.

Profile Photo of Brandon Lewis