在邊緣部署工業人工智慧的完整範疇

July 25, 2022

Christina Cardoza

工業人工智能

在過去的幾年裡，智慧製造領域一直在迅速發展，以跟上數位時代的需求。邊緣運算是數位化轉型歷程的重要環節。但邊緣不是一個固定的目的地，只是過程的一部分。

而企業在這一歷程中可能仍需方向指引。那麼路線圖由誰掌握呢？這些企業如何得知他們何時實現了必要的目標？全球高效能運算領導品牌 Lenovo 全球 ThinkEDGE 事業總經理 Blake Kerrigan，和 IoT 與邊緣運算服務供應商 ZEDEDA 生態系統副總裁 Jason Shepherd 認為沒有一體適用的方法。

他們探討邊緣運算的整合協調，將公用雲端體驗的最佳優勢帶入邊緣，以及最初雲端運算與邊緣運算之間的關係。

現今製造業領域的數位化轉型是什麼樣貌？

Blake Kerrigan：在過去 15 到 20 年中，大多數工業客戶把重點放在自動化，但現在就我們的觀察，最重大的趨勢都圍繞著電腦視覺和人工智慧使用案例。其他諸如缺陷偵測和安全應用也是我常在製造業和通路業所觀察到的使用趨勢。

問題是：您如何提高現有流程的效率？我們開始發現獨特的解決方案百家爭鳴，客戶也愈來愈容易採納。

這會如何改變邊緣運算和雲端的角色？

Jason Shepherd：只有那些想推銷網路連線的人，才會認為將原始影片直接傳送到雲端是個好主意。重點是能透過電腦視覺，在邊緣查看即時攝影機或影片串流，讓人持續監控，並在需要時以內建智慧觸發人為介入。

製造商如何在這段邊緣歷程中取得最大的成功？

Jason Shepherd：邊緣是一個從極為受限的裝置一路到內部的連續體。最終您會進入雲端，而在這個連續體中執行工作負載是在效能成本、安全性和延遲問題之間取得平衡。

對製造商而言，最重要的是要先了解它是一個連續體，接著理解各種的權衡取捨。如果您位於安全的資料中心，情況會與在廠房時不同，比方對安全性有不同的需求。首要問題是對整體環境有個概念。

若要實際部署，一定要從使用案例開始著手，然後執行 POC。在這個階段，我們看到了很多實驗。但將實驗室的實驗原封不動地搬到現實世界可能非常棘手，例如攝影機的角度改變、光照變化、內容切換等。

重點是要把問題切分成細項，將對於基礎架構和應用層面的投資分開。與能夠靈活設計的供應商合作，並由此展開後續作業。最終彙總為具有一致基礎架構的特定領域專業知識，就像我們與 Lenovo、ZEDEDA 與 Intel^® 所做的一致性基礎架構。

Blake Kerrigan：您可以在實驗室中建構一些東西，但通常工程師都不太會考慮開發或部署解決方案的成本。規模化的最大障礙包含部署、生命週期管理，以及經年累月需要轉換晶片。

第一步是瞭解您想推動怎樣的業務成果，再瞭解與該成果相關的成本。客戶必須先瞭解整個解決方案生命週期中的反覆運算程序，才能選擇正確的硬體。我們在 Lenovo 與大家一同研究解決方案架構，並思考人們現在需要什麼類型的資源，然後考慮明天、下週、明年甚至未來五年該如何拓展？

告訴我們更多如何處理邊緣運算的方法。

Jason Shepherd：有很多針對特定目的而打造的特殊垂直解決方案。我老是說所有新興市場都是先垂直發展，然後才水平發展。這與領域的專業知識有關。

不同的是，一切都變成由軟體定義，也就是從基礎結構中抽出應用程式。在製造業中，控制系統歷來都非常封閉，他們用這種方式增加黏附性來控制供應商。當然，如果在安全性和程序正常運作時間上沒有嚴格控制，則會產生一些影響。

而在邊緣中，我們能夠利用公用雲端元素，包括平台獨立性、雲端原生開發、持續交付不斷更新和創新的軟體，並將這些工具帶回邊緣。基本上，我們已經採用公用雲端體驗，並將其擴展到廠房中。

我們在 ZEDEDA 所做的是，雖然我們從管理的角度和安全性的角度協助擴展這些工具，但仍必須考慮一件事，那就是儘管套用相同的原則，但在實體安全的資料中心起不了作用。當您在資料中心時，您會有一個經過定義的網路邊界；如果沒有，我們就會假設您部署在不受信任的網路上。此外，當您不在資料中心時，則必須假設有時會失去和雲端的連線，並且必須能夠承受這種情況。這種情況並沒有一體適用的方法。

那麼何時該使用雲端而不是邊緣呢？

Blake Kerrigan：雲端對不同的人有不同的意義。在 Lenovo，我們認為邊緣最終將成為雲端的延伸。邊緣運算就是將有意義的資料儲存起來，或是應用更密集的人工智慧；我們在做的事，就是試圖梳理平淡無奇或缺乏見解的資料。

有兩個重要考量。第一個是協調：如何遠端建立和協調一個可以在現場外管理應用程式的環境？第二個是進行初始訓練，讓這些模型經年累月更臻完美。訓練是人工智慧和電腦視覺的重要部分，而且訓練所需的資源量和時間都被嚴重低估。最有效率的方法之一是在雲端中協同合作。

讓我們以缺陷偵測為例。假設您在全美有 50 家不同的工廠，每家都在工廠內部執行缺陷偵測電腦視覺應用程式。最終，您會希望將從一家工廠獲得的訓練和知識和另一家工廠分享。唯一可行的方法就是在雲端中進行。

因此，我認為雲端在邊緣運算方面也是不可或缺的，說得更具體一點，是邊緣人工智慧，以處理邊緣運算或邊緣分析資料的巨量資料為形式。然後，訓練人工智慧工作負載以重新分配回邊緣，進而更有效率、更具影響力，並提升使用者的洞察力。

Jason Shepherd：我們在 ZEDEDA 都說邊緣是最後一個要建構的雲端，是雲端的邊緣。有三種方法。一種是以雲端為中心，採用輕量級邊緣運算，然後在雲端中進行大量繁重的運算。第二種是運用雲端的力量來訓練模型，然後將推斷模型部署到邊緣以進行內部操作。所以這是一個雲端支援或雲端輔助的模型。第三種有一個以邊緣為中心的模型，可能在雲端中訓練，但所有繁重的資料工作都在內部進行。正如 Blake 所說，這不是一體適用的。

如果製造商缺乏適當的 IT 專業知識，哪些工具或技術可能會有所幫助？

Jason Shepherd：ZEDEDA 會是正確的解答嗎？

重點是要找到合適的工具，然後在工具中應用領域的專業知識。有很多人擁有領域專業知識，廠房裡的人就是專家。然而，嘗試在現實世界中進行部署時，通常沒有熟稔編寫指令碼且在資料中心空間工作的員工。此外，現實世界也比廠房大得多。這就是 ZEDEDA 存在的原因：簡化這個程序，並提供直通現場的公用雲端體驗。

Lenovo 及其合作夥伴為何在這領域選擇與 Intel^® 合作？

Blake Kerrigan：與 Intel 合作的價值不僅侷限於邊緣運算，就邊緣運算而言，從矽晶片的角度來看，Intel 是我們最大且實力最雄厚的合作夥伴。它在嵌入式領域、工業電腦領域擁有大量堅實的傳統基礎。另一方面，Intel 持續處於業界領先地位。它不斷投資對邊緣而言重要的特性功能，不光只針對資料中心和電腦。

OpenVINO^™ 位於 Intel 較大的工具生態系統中，但 Intel DevCloud 也深受我的青睞，因為它可以幫助我們的客戶快速入門，無須寄送四五台不同的機器給他們。它可讓這些客戶在雲端式開發環境中立即作業。他們可以控制各種不同的參數，然後在環境中執行應用程式和工作負載。這提高了上市或部署方面的效率。

在 Lenovo，我們希望能為嘗試在邊緣部署基礎結構的客戶打造最順暢的體驗，這就是 Lenovo 和 ZEDEDA 與 Intel 結盟時能彼此截長補短的原因。

Jason Shepherd：ZEDEDA 基本上是一家 SaaS 公司：以軟體為主，但來自硬體領域。硬體很複雜，所以與 Lenovo 合作雙方便能相得益彰。與建構可靠基礎結構的人合作非常重要。

最後是否能總結一下邊緣運算歷程的重點？

Blake Kerrigan：正如 Jason 所說，硬體可能會很棘手。依我看，很多人都是從硬體開始著手的，雖然我來自硬體公司，但這麼做未必是最好的第一步。但在 Lenovo，我們仍希望能參與這趟歷程的第一步。聯絡我們的專家，看看我們能如何幫助您瞭解潛在的障礙。然後，我們也會向您開放合作夥伴生態系統，無論是 Intel、ZEDEDA，還是其他公司。

把您的問題，最大和最艱鉅的難題丟給我們，讓我們幫您設計、執行、部署及實現這些深入見解和成果。

Jason Shepherd：重點是生態系統。投資社群，這樣您就可以專注於創造更多價值。

重點不在於免費，重點在於賺錢。夥伴關係也是重要的一環。