邊緣運算是甚麼？邊緣運算結合 AI 的未來應用
邊緣運算(Edge Computing)是一種網路運算架構，運算過程盡可能靠近產出資料的地方，既能取得雲端運算的優點，也能減少網路造成的延遲和頻寬使用。2021 年全球對於邊緣運算結合雲端 AI 的需求已經有了大幅增長，受到疫情影響，為了減少員工的健康風險，企業導入 AI、IoT 與 5G 應用進行自動化倉儲管理、資源盤點已經是必要的趨勢。
一項由 IBM發布，針對全球高階主管的研究 中提到，研究中有將近 94% 的主管，認為他們所屬的企業將在未來五年內，運用邊緣運算進行即時管理。
從智慧醫院、智慧城市與無人商店，結合邊緣運算與 AI 人工智慧是 2022 年的一大趨勢。邊緣運算加上 AI 的解決方案，可以作為人與機器之間的橋樑，從而改良預測、員工分配、產品設計和物流流程。
以下是 NVIDIA 預計在 2022 年會看到邊緣 AI 未來趨勢：
1. 邊緣管理成為 IT 的核心業務之一
Gartner 在最近的報告中提到：過去邊緣運算相對簡略，讓業務端自行管理即可；但隨著 AI 的應用越來越複雜，由 IT 部門主導邊緣 AI 管理，將會是 2022 年的趨勢。
為了增加可管理性、安全性並考慮到更靈活的成本運用，IT 部門將轉向 雲原生技術。 Kubernetes 是一個常見的容器化微服務平台，現在已成為大規模管理邊緣 AI 應用的指標工具。IT 部門已經可以在雲端中直接使用 Kubernetes 、快速建構自己的雲原生管理解決方案、將 AI 導入企業運作。例如 NVIDIA Fleet Command 或是 InfinitiesSoft 數位無限 AI-Stack 。
NVIDIA 打造的醫療 AI 專用邊緣運算設備
2. 邊緣人工智慧應用的快速成長
視覺辨識會繼續是 2022 年人工智慧發展的重點。NVIDIA Metropolis 是一個應用程式框架和一組開發人員工具，可幫助搭建計算機視覺 AI 應用程式，自 2017 年以來，合作夥伴的數量增加了將近百倍，現在擁有 1,000 多個成員。
想像一下，不久的未來人們有可能與人工智慧一起逛街。人工智慧可以透過手機，辨識你從架子上拿起的東西，透過自然語言分析模組，能及時理解你的需求，甚至提供更好的選擇。
多模態 AI 結合機器人可以聽到您的訂單、提供回應、理解顧客的情緒反應，在進一步給予回應，某種程度上能夠協助店員，給予更不同的服務體驗。可以查看 Project Tokkio 的範例展示：
See Project Tokkio! Nvidia’s food ordering AI
3. 人工智慧融合工業物聯網解決方案
智慧工廠也是另一個將導入大量邊緣人工智慧應用的領域。根據 Gartner 的報告，2021 年只有不到 10% 的邊緣運算裝置具有深度的機器學習能力； 2027 年，這個比例將提升到 65% ，無法提前佈局的企業將會面臨極大的挑戰。
例如：面臨人工成本上升，未來的工廠如果沒有導入 AI 應用程式，分析監視器影像或是 AIoT 的訊號，就需要耗費大量人力進行檢查，也很難提前進行預測性維護。 導入 AI 和邊緣運算的工廠和智慧倉儲，甚至能夠結合機械手臂或是倉儲機器人，及時遠端處理各種問題。
4. 企業採用 AI-on-5G 的增長
AI-on-5G 組合計算基礎設施 提供高性能和安全的連接結構，能夠在邊緣設備或雲端上直接整合 Sensor、運算平台和 AI 應用程式。
AI-on-5G 將開啟新的邊緣 AI 應用：
去年11月，Mavenir Edge AI 是世界第一個AI on 5G 的 full- stack 平台。2022 年，預計會出現更多解決方案，提供企業更方便地導入 AI 與邊緣運算。
5. 從雲端到邊緣的 AI 生命週期管理
對於部署邊緣 AI 的組織， MLOps 將成為幫助推動數據流入和流出邊緣的關鍵。從邊緣取得新的、有趣的數據或洞見、重新訓練模型、測試應用程式，然後將它們重新部署到邊緣裝置，可提高模型的準確性和結果。
傳統軟體開發流程，可能每季或每年進行一次大型更新，但人工智慧則能夠持續的推出小型更新，不累積程式開發技術債，使企業每天都能夠明顯進步，回應客戶反饋。
MLOps 仍處於早期開發階段，許多大型企業和初創公司正在構建解決方案，以滿足對 AI 技術更新的持續需求。雖然目前主要專注於解決數據中心的問題，但未來此類解決方案將轉向邊緣計算。
AI 已經不再是資訊科技產業的專利，如何整合雲端和邊緣運算裝置，將是 2022 年邊緣運算結合 AI 的重要新趨勢。
參考連結：https://blogs.nvidia.com/blog/2021/12/17/top-5-edge-ai-trends-2022/ 50
Infinities
數位無限軟體(InfinitiesSoft)專注於為企業解決虛擬化、容器化、微服務、邊緣運算、混合雲管理、異質IT環境與人工智慧帶來的挑戰，整合異質雲管與熱門的開源AI深度學習架構和開發工具環境，提供一站購足的AI機器學習雲平台方案AI-Stack。
