和 Microsoft 一起減少 IoT 開發上的摩擦
各大公司目前正在加速開發 IoT 應用程式專案，而疫情也加快了這種趨勢。但是，每一個組織是否都擁有順利擴展這些專案所需的技能和資源？AI 又將在其中扮演什麼樣的角色？您要如何在舊硬體現實與新軟體創新之間取得平衡？
我們與 Microsoft Azure Edge Devices Platform and Services Group 的 Silicon and Telecom 資深總監 Pete Bernard，討論了 IoT 開發的主要趨勢與挑戰、如何讓 IoT 開發人員的生活更輕鬆，以及這些努力的重要性。
現今，商業 IoT 應用程式有哪些主要趨勢或挑戰？
這是一個非常以解決方案導向的市場，尤其是在我認知中的邊緣生態系統中。在和商業客戶交談時，他們會遇到一些非常複雜的問題，這些問題無法透過單一裝置或單一應用程式解決。如果要解決問題，通常需要深入探索這些系統的協作方式。系統如何安全協作？如何管理系統？如何部署系統？
方式極其多樣化。舉例來說，某些 AI 模型可能會在雲端和 Azure 上進行訓練，然後部署到邊緣。但是，它們要如何針對邊緣矽晶片進行最佳化？我們使用了 Intel® 的 OpenVINO™，並且在 3 月推出的 Azure Percept 的平台上大量合作。這只是其中一個例子，我們利用了矽晶片的特性和功能，來取得效能與解決問題的能力。
您能談談這些密集工作負載的興起，以及為什麼需要在邊緣完成嗎？
我們都看到了獨立系統（或稱未連線系統）的革新，以及只能將資料傳送至簡單感應器的雲端連線系統革新。現在，我們讓雲端與邊緣通訊，讓邊緣與雲端交流。基本上，您可以在邊緣和雲端上以非同步執行大量運算，且您必須釐清這些系統的協作方式。
許多新情境都需要相當高效能的邊緣運算，原因可能是隱私，也有可能是頻寬。但是看到那些持續發生的創新，以及使用者的用法，真的很激勵人心。
疫情是否改變了公司對 IoT 應用程式的看法？
我認為是的。我認為網際網路是疫情期間的英雄之一，因為網路讓所有人得以保持聯繫並持續工作。但是，一切也隨之加速。我們準備在兩三年後進行的所有實驗，現在全都已經投入部署。
而且，未來你會看到更多的 AI 視覺工作。疫情期間，自動化的發展確實大幅加速。而且，健康照護領域還有相當大的最佳化空間——在邊緣利用更多資訊，確保人們可以獲得流暢且經驗證的體驗。疫情讓許多原本仍在準備階段的事情大幅加速發展。
我們該如何在這種加速的基礎上繼續前進？尤其是以全新方式將系統整合在一起的方面。
部署中的系統不能是一次性的特製系統，對吧？你不能在今年把你的解決方案寫死，然後明年再把另一個解決方案寫死。您必須考慮目前要解決哪些問題，而不是兩三年後的問題，然後加入越來越多的功能。
其中一個例子就是零售業的銷售點終端——現在非常普及。人們常說「我有這些銷售點平台——我還能用它們做什麼？我可以加入 AI 視覺，在商店中提供某種安全監控嗎？」於是，我們會看到這種不起眼的平台，實際上變成了可以進行大量運算的邊緣端點。
我們注意到的另一點是，許多人都有舊式設備。最近我們和一間超市交流，他們說的第一句話是「去年我們買了這些攝影機，現在全都放在箱子裡賦閒。」所以，您要如何連接舊式設備，讓這些設備更具備 AI 功能、更加安全且更易於管理？
您必須系統地思考。如果您有需要解決的問題，目前有哪些設備可以用來解決問題？然後，不可避免的是，當晶片升級、速度越快且價格越便宜時，您要如何擴充設備。到了明年或後年，將會有更精良的設備連接到系統上。
Microsoft 打算如何提供協助？
顯然，Azure 是一項不可思議的雲端業務。我認為《Fortune》雜誌 500 大企業中，有 95 % 都在 Azure 上執行業務。而我們團隊所做的努力，確實在邊緣提供了協助。
我們有一個名叫 EFLOW 的系統，在這個系統中，您可以在 Windows 上執行 Linux 工作負載。因此，您可以擁有一個安全且受管理的 Windows 平台——每個人都知道如何管理和部署——而且最重要的是，您現在可以從雲端執行舊式 Linux 工作負載，無需另外擁有一部機器就能執行 Linux。這就是我們團隊的工作案例之一，這能夠確實協助客戶解決手邊的設備問題——只要使用一點點的新軟體——這真的非常酷。
好消息是，我們有許多不同方法，能以高成本效益、低資本支出的方式解決問題。但是這種做法的缺點——我想這就是我們能夠賺取報酬的原因——就是非常複雜。您必須使用開發人員工具，消除各平台間的摩擦。這就是我們真正想要做的事情，努力消除摩擦，讓使用者能利用所有選項，同時又不會太過複雜。
您認為 IoT 應用程式的發展是否更偏向軟體模型，而非硬體性質？
我是這麼認為的。因為軟體必須跨越系統的各個部分運作。不同的硬體都必須協作，而這就是軟體真正發揮作用的時候。如果您的商務邏輯和強大的應用程式，以及所有的一切都在硬體上執行，那麼一切行為都會由軟體所驅動。大約有 7% 的 Tesla 員工是軟體工程師。我記得在 General Motors 中，大約 1% 或 2% 是軟體工程師。
我曾指導過很多大學生，他們總是問我「如果我想從事科技業，我應該去哪些公司上班？」我總是回答他們「這個嘛，現在幾乎所有公司都是科技業。」所有人都必須具備技術能力，並且您必須擁有所有公司內建的軟體能力。所以，從就職的角度來看，這對許多大學畢業生來說是令人興奮的消息，因為如果他們具備軟體能力，他們幾乎可以在任何地方工作。
我們正在利用許多新的半導體功能——更低功率、更高上限、更高效能、更低成本——所以還有相當大的發展空間，而且我認為硬體還有加速發展的機會。或許在消費領域沒有這麼嚴重，但是在商業領域方面，所有人都在追求更高的效能、更低的功耗、更低的耗電和更低的成本。而且，這樣的追求永無止盡。不過，軟體確實可以解鎖一些驚人的情境。
您認為擴充升級的關鍵痛點是什麼？Microsoft 打算如何減少相關摩擦？
這是個好問題。「向你的老闆示範你的相機可以識別香蕉」，然後才能實際部署。我們一直在嘗試做一件事，那就是盡量減少向老闆示範和部署之間的步驟。Azure Percept 採用了一些超酷的 Intel 技術；這種開發工具套件能讓使用者快速輕鬆地識別香蕉，並匯入自己的 AI 模型，或使用各種開箱即用的模型。
我們正在努力提供一種方法，能讓開發人員將概念性驗證 (POC) 階段的工作直接收成，無需再次執行任何動作即可進入完整部署階段。生產硬體可能會改變——您可能會想變更模型，或是增強防寒效能之類的。但是您開發和訓練的軟體和 AI 模型，以及您的管理和部署方式——這些都是生產級代碼。當您想要進行完整的生產部署時，在 Azure 上開發和部署能讓您走得更遠。
現今，IT 部署可能會非常複雜。公司是否應該確保鞏固特定的技能或資源？
我們嘗試透過我們的工具，以及 Visual Studio 和整個 Azure 平台，釐清如何使嵌入式開發人員成為更聰明的 AI 開發人員，反之亦然，所以您不必擁有兩個不同類型的軟體開發人員。一名軟體開發人員能夠提升技能，並且具備處理以下內容的能力——開發和訓練 AI 模型，並且編寫代碼以在嵌入式或邊緣裝置上開發和部署應用程式。但可以肯定的是，資料科學和 AI 能力是當今許多公司真正需要的新技能。
過去，IT 部門會在半開的門後面，你會走過去說你的筆記型電腦壞了之類的。然後，他們會從拿走電腦，並且告訴你可以在幾個小時後回來領取。現在不再是這樣了。
您的 IT 部門專注於安全性和生產力，並且可能會進行一些自訂應用程式開發，並希望購買某些解決方案或採購一些解決方案，並在您的特定業務之上加入他們的強大應用程式和其他商務邏輯。我認為對現在的開發人員來說，這是一個難得的機會，他們可以稍微走出舒適區，開始嘗試 AI 之類的內容。
從中長期來看，您認為 IoT 生態系統將走向何方？
每間公司都有自己的問題，每間公司都有自己的設備。因此，我們看到許多行動的目標是「我如何在棕地而非綠地中，利用我的舊設備？」我們會看到許多活動：「我如何編寫新的軟體和應用程式，讓它們在這些平台上運作？」
同時，人們正在規劃下一個大型硬體週期：「我如何使用 5G 和私人 5G？我如何使用 Wi-Fi 6？我如何利用新的視覺處理器，完成各種新的工作？」所以，這一切都是平行發生的，但我認為棕地是有很多近期行動的地方。
在連線能力方面確實發生了很大的變化。關於這個，你能夠多談一點嗎？
談到連線能力，我的建議是保持開放的心態。所以，我們有 Wi-Fi，也有 5G。有一種叫做 LPWA 或低功率無線存取的東西。還有「藍牙低功耗」，現在已經發展得很成熟了。我們有各種不同的方法能夠將這些技術連結在一起，所以對於什麼是最佳的方法，人們應該保持開放的態度，因為現在的選擇實在太多了。
關於如何讓 IoT 開發人員的生活更輕鬆，您認為重點是什麼？
我們必須「執著於客戶」。聽起來是陳腔濫調，但確實別具深意。「執著於客戶」代表必須考慮解決方案，而不僅僅是著重於科技。因此，請考慮如何從整體上協助公司或客戶解決問題，並假設面對的是多樣化的生態系統。您的附加價值就是能夠無縫將這些內容結合在一起以解決問題。
若要瞭解關於克服 IoT 開發挑戰的更多資訊，請收聽我們的播客，與 Microsoft 一起解決 IoT 專案的困難。