掌握新一代 AI 的工具

January 9, 2024

Christina Cardoza

下一代人工智慧

AI 正在顛覆世界，每天都在不同的產業中不斷演化，轉變為不同的產業。一部分的原因是開發者正在打造新的解決方案，努力掌握每個新一代 AI 的潛力。而 Intel 能助一臂之力，讓一切成真，為開發者提供所需的技術與工具，例如 OpenVINO^™ 和 Intel^® Geti^™。此外，OpenVINO 和 Geti 的設計旨在串連開發者和商業領域使用者，進一步推動新一代 AI 解決方案與使用案例。

為了進一步瞭解新一代 AI 開發專案，我們與 Intel AI 宣傳師 Paula Ramos 展開交談。她探討了 AI 解決的實際問題、涉及的 Intel 功能，以及 AI 的普及與散佈（影片 1）。因為這不僅是為開發者提供工具與技術；同等重要的是一開始就提供教育和資源，讓更多人進入這個領域。

影片 1。Intel AI 宣傳師 Paula Ramos 探討讓新一代 AI 成真的趨勢和技術。（資料來源：insight.tech）

您如何看待 AI 目前如何不斷發展及解決實際問題？

AI 發展神速；每天都有新事物出現。現在人們對它的認識比以往都更加深入，因為這些現實世界的問題轉變為令人驚豔的解決方案。新創公司正在利用晶片的力量與 AI 功能解決這些問題。

舉例來說，AI 協助人們利用翻譯進行交流，即在一百種語言之間翻譯文字。另一個絕佳的實例是自動駕駛汽車系統，部分汽車品牌正用它來控制汽車轉向、加速和剎車，有可能減少交通死亡與事故。AI 可協助醫生診斷癌症、制定個人化的治療計畫，或是加速新藥與療法的部署。它協助農民減少殺蟲劑與除草劑的使用。AI 協助人類更迅速地解決問題。

讓開發者更容易取得 AI 有何重要？

關於這個問題，我有三個想法。首先，為開發者打造更容易取得的資訊，可加快 AI 創新的速度。愈多的開發者能取得 AI 工具且愈容易取得，技術就能愈快發展，加速創新的速度。取得最新的硬體改良也很重要。它實際上是另一種工具，因為它可讓開發者更高效且更有成效地建置及部署應用程式。

第二點是讓 AI 普及化。我們必須確定 AI 適合所有人，且每位開發者都有機會從這項技術中受益。透過讓使用者更容易取得，我們促進縮小 AI 採用率的差距。

第三點是解決 AI 人才短缺問題。目前全球對 AI 開發者求才若渴，但開發者的人數卻不盡人意。透過讓 AI 更易於學習及使用，我們能協助培訓更多開發者，縮小 AI 人才的缺口。

有哪些工具和硬體應運而生，因應 AI 的普及化問題？

我對 Intel 宣佈推出全新的 AI 電腦感到很興奮。它採用 Intel^® Core^™ Ultra 處理器建置，整合了 GPU 和稱為 NPU（神經處理器）的新元素。我在九月的 Intel^® Innovation 大會的生成式 AI 展台上展示了它，效能非常出色。Intel 執行長 Pat Gelsinger 示範在一台 AI 電腦上在本機執行的 Llama 2 聊天機器人，使用的是 LLM 模型，在 Windows 機器上執行。可以確定的是，在沒有網路連線的情況下利用 AI 安全得多，且不會將資料傳送至雲端。

許多人以為 Intel 只是一家硬體公司，但我們表現亮眼，向開發者展示能如何利用 OpenVINO 等架構或系統，以及 Intel 擁有的推斷與部署架構，輕鬆改善解決方案。AI 電腦也具備執行 OpenVINO 的功能。而 OpenVINO 向我們展現了 Intel 利用 AI 的潛力。如今 OpenVINO 無所不在：智慧城市、製造業、零售業、醫療保健，以及農業。過去一年中它的下載量增加了90%。

能否進一步說明 OpenVINO^™ 與 AI 之間的關係？

OpenVINO 是 Intel 在用戶端和邊緣平台為開發者提供的一套工具組；它為邊緣 AI 注入動能，讓生成式 AI 更易於取得，在多個硬體平台將神經網路推斷最佳化。然而，OpenVINO 的主要目標是執行模型的最佳化與量化，以便我們縮減其大小。我們可以減少記憶體的佔用面積，並在各種硬體（Intel 和非 Intel）中更快地執行模型。我們使用 OpenVINO 是為了解決開發者真正的痛點。

另一項重點是，一旦擁有中間語言格式（即 OpenVINO 格式）的模型，您就可以在任何地方部署。這就是 Intel 與部分競爭對手的差異之一。

開發者如何利用 Intel^® Geti^™？

Intel Geti 這個平台可協助組織快速開發電腦視覺模型。簡言之，它整合了所有必要一切，包括註釋、訓練、最佳化、測試。您可以建立專案、上傳註釋、上傳新的生產資料或以前的資料。您可以修改可訓練的功能、測試在伺服器中執行的部署，以及下載部署進而在本機執行。

因此，使用它好處多多。資料科學家、機器學習專業人士、系統整合商和領域專家能使用同一個平台合作。這是因為它易於使用，且有可能控制訓練與最佳化程序的多個方面。它也可以提供不同格式的建模，其中一種格式是中間語言格式（OpenVINO），它在 Geti 平台的幕後進行最佳化和量化。

Intel Geti 平台也提供 SDK，協助使用者利用易於使用的功能。它利用 OpenVINO 建立部署管道，無需電腦視覺專業知識，即可在包括 CPU 和 GPU在內的各種 Intel 硬體平台上加速推斷。這就是這個平台的美妙之處。

開發者非常容易使用 Intel Geti SDK 部署，因為 SDK 與電腦視覺任務無關，也與模型架構無關。開發者不必為模型輸入準備資料，也不必準備模型輸出以顯示結果。

女性進入 AI 領域面臨哪些挑戰？

我對這個話題很感興趣。我個人代表全球科技勞動力中的兩個少數族群。第一個是科技領域的女性，第二個是科技領域的拉丁裔女性，您可以將「科技」解讀為人工智慧或一般工程。全球科技勞動力中有 50% 是女性，但拉丁裔女性僅佔 2%。因此代表性嚴重不足，我希望貢獻一己之力，特別是為拉丁美洲國家增加教育和培訓的機會。

但我也想激勵更多女性從事 AI 領域。我想減少歧視與偏見。不分性別，每個人都該有機會在科技領域取得成就。女性能與男性平起平坐，認真討論科技議題。女性對如何解決問題有獨特的視角；我們擁有獨一無二的技能，可打造符合所有使用者需求的產品與服務。

我們也為 AI 領域做出了一些重大貢獻。其中一個例子是李飛飛博士，他是史丹佛大學人本人工智慧研究中心的共同創辦人。她催生了深度學習，她發起了 ImageNet 計畫，這項計畫在深度學習部署中扮演著舉足輕重的角色。這是身為女性對 AI 產生的顯著影響，因此我可以想像其他女性也有能力，為這個領域貢獻多少想法。