Skip to main content

在三週內打造城市規模的邊緣推斷能力

編者註:insight.tech 支持終結種族主義、不平等與社會不正義行為。我們不容忍我們贊助商的產品用於侵犯人權,包括但不限於政府濫用視覺化技術。insight.tech 上所提到的產品、技術和解決方案皆假定為以負責且合乎道德的方式使用人工智慧以及電腦視覺工具、技術和方法。

 


 

視訊應用正疾速成長,自動化分析的迫切需求也相應而生。城市與其他大規模使用者正在部署具有數百、甚至數千台攝影機的系統,這產生大量的影片串流,遠遠超過人力所能監看的範圍。

為了協助城市更妥善運用這樣的資料,Agent Video Intelligence (Agent Vi) 等企業已提供可分析大量影片串流的雲端式 AI。但隨著攝影機的數量增加,加上解析度與畫面播放速率也不斷提高,雲端式系統面臨多種限制,包括:

  • 將 HD 影片串流傳輸至雲端的相關頻寬成本
  • 雲端式系統的回應延遲
  • 通過多個網路的安全性弱點

為了解決這些問題,Agent Vi 與 Intel® 合作,在邊緣部署深度學習能力(圖 1)。透過在邊緣進行推斷等功能,可捨棄對無活動場景的視訊內容,或將其標記為低優先度,同時標示令人感興趣的影片,並立即傳輸至更強大的雲端式分析系統。

圖 1。Intel® Distribution of the OpenVINO toolkit 能讓 Agent Vi 將其 innoVi 深度學習視訊分析功能擴充到任何裝設的 IP 或類比攝影機上。(資料來源:Agent Vi

因為資料較少,可有效降低傳輸成本,同時減少資料遺失或遭竊的可能性。

將深度學習功能延伸至舊式系統

然而,智慧城市視訊系統需要更長的使用壽命,且必須部署在各式各樣的環境中。這代表 Agent Vi 必須提供多種搭載深度學習技術的新舊設備,包括攝影機、編碼器,以及影片管理系統 (VMS) 等。

舉例來說,有一間公司想要升級他們為固定式 IP 與類比攝影機提供視覺解碼的 innoVi Edge 設備。此公司也想要讓他們的軟體能在各種第三方系統上運作。

要實現這樣的目標,Agent Vi 的影片分析演算法必須加以調整,以適用於多種 CPU、GPU 和其他硬體加速器。為了在各式新舊攝影機上實現此目標,Agent Vi 利用 Intel® 發行的 OpenVINO 工具組。

OpenVINO 是一種架構診斷開發套件,可協助工程師在 CPU、GPU、FPGA,以及視覺處理器 (VPU) 上部署深度學習能力。此外,此工具組整合一系列的圖形與影像資料庫,以最佳化推斷效能(圖 2)。

圖 2。Intel® Distribution of the OpenVINO toolkit 支援多種開發架構、視覺/圖形資料庫與硬體架構,讓開發人員能在幾乎任何位置部署經過最佳化的演算法。(資料來源:Intel® 公司

將 OpenVINO 工具組與 innoVi 配對,可為 Agent Vi 及其客戶帶來許多優勢。舉例來說,這能讓 innoVi Edge 設備立即具備深度學習能力,讓分散式影片分析推斷更靠近邊緣。相較於直接將多個 Full HD 智慧城市視訊影片串流至雲端,這能降低網路傳輸成本,同時減少延遲。

而在效能方面,OpenVINO 不僅改善了邊緣設備的視覺分析準確度,同時強化了開發者的生產力。根據該公司的技術長暨共同創辦人 Zvika Ashani 表示,此工具組改善了開發速度與容量。

「透過 OpenVINO 工具組,我們獲得令人印象深刻的成果,讓我們在三週的時間內,從每位開發者支援三台攝影機,提高到每位 14 台,」他說:「採用 Intel® Movidius Myriad VPU 和 Intel® FPGA 解決方案,我們可透過合適的每元效能,將解決方案完整擴充到邊緣。」

最後,因為 OpenVINO 提供的彈性,可確保無論是現在或未來,innoVi 軟體都能在多種設備上運作。Agent Vi 的演算法不僅相容於多種運算架構,更能滿足未來基礎架構升級的需求;在之前的情況下,這可能需要重新打造整個軟體。

這不僅可輕鬆與目前的現場環境和運算平台整合,亦能確保解決方案能因應未來需求,滿足通常需要全新或經修改軟體的基礎架構升級。

簡而言之,innoVi 所提供的龐大擴充性非常適合智慧城市應用,例如公共安全、關鍵基礎架構監控,以及交通管理等。

深度學習讓城市更加智慧

隨著 innoVi 平台延伸到邊緣,智慧城市的工程師可透過多種方法運用此技術,轉變都市的生活。

舉例來說,交通攝影機可運用深度學習能力,追蹤路上車輛的數量與類型,然後建議智慧運輸系統 (ITS) 重設商用卡車的路線。監控某個區域的視訊系統可針對預期外的活動即時警告市政人員,以快速採取行動,不需專門的人力警備。

若邊緣不具備深度學習能力,來自這些系統的資料可能會用於歷史分析或追溯掃描,而不是即時推斷。這也會提高成本。

運用 innoVi 和 Intel Distribution of the OpenVINO toolkit 等解決方案,安全系統營運商、運輸業者和其他智慧城市利害關係人就能透過真正的邊緣智慧受益。

作者簡介

Brandon is a long-time contributor to insight.tech going back to its days as Embedded Innovator, with more than a decade of high-tech journalism and media experience in previous roles as Editor-in-Chief of electronics engineering publication Embedded Computing Design, co-host of the Embedded Insiders podcast, and co-chair of live and virtual events such as Industrial IoT University at Sensors Expo and the IoT Device Security Conference. Brandon currently serves as marketing officer for electronic hardware standards organization, PICMG, where he helps evangelize the use of open standards-based technology. Brandon’s coverage focuses on artificial intelligence and machine learning, the Internet of Things, cybersecurity, embedded processors, edge computing, prototyping kits, and safety-critical systems, but extends to any topic of interest to the electronic design community. Drop him a line at techielew@gmail.com, DM him on Twitter @techielew, or connect with him on LinkedIn.

Profile Photo of Brandon Lewis