揪～竟什麼是 Edge AI 呢？難道又只是個業界提出來噱錢的新名詞而已嗎？其實 Edge AI 將是我們生活更便利與智慧化的關鍵要角之一，讓我們一起來看看吧！

Ohmio Lift 無人自動駕駛車 (source: Unsplash)

雲端運算 vs. 邊緣運算

大家對雲端運算（Cloud Computing）應該很熟悉，將資料傳遞到網際網路上的伺服器，運用伺服器的高性能優勢進行運算與處理，優勢就是。而他的對立面就是所謂邊緣運算（Edge Computing），相對地就是把資料直接在本地端進行運算，雖然省去了資料的傳遞，但邊緣裝置的運算能力必定遠遠不如伺服器，比較適合特定類型（如感測器、影像等）的即時資料。

然而在真實的邊緣運算情境中，未必全然都是斷開網路，比較可能的是由邊緣裝置處理 Time Critical 的即時性資料，並且週期性的將輸出結果與 meta data 回傳給伺服器做長時間的記錄與資料分析。如此相輔相成，也可以提升系統的適應性與強健性。

邊緣運算特性與優勢

而邊緣運算的特性與優勢大致涵蓋以下四點：

• 脫離網路依賴
• 降低延遲反應
• 排除資安疑慮
• 高度整合運用

脫離網路依賴

在台灣室內處處有Wi-Fi，而戶外行動網路的覆蓋率也相當高，即便如此還是可能會有少數環境是沒有網路存取的，像是外海的離岸風機、郊區的電塔設施、深山的動物棲息地等。若我們想要在這些區域收集一些感測資料，勢必就無法使用網路來傳遞資料。而邊緣裝置就很適合放置這些場域做運算，甚至可以再針對資料作前處理，留下確實有用的資料來降低儲存空間的消耗等。

降低延遲反應

既然不需要網路傳輸，自然在反應的速度上可以有所提升，一般雲端 API 的呼叫與回傳總時間可能要耗費1000~3000ms 不等（以 Azure 認知服務為例）其中也包含部分不可控的網路延遲。而邊緣裝置在本地端進行運算約略只需要 50ms~100ms 左右（以Jetson Nano 運行 YOLO 為例）。兩者相比之下，明顯在一些高度即時性需求的場域（如自駕車、機器人控制等）只能使用邊緣運算。

排除資安疑慮

俗話說最安全的上網方式就是不要上網，資訊安全的最高境界就是讓裝置無法被網路觸及。這也是許多半導體廠（如護國神山）嚴格執行的策略之一，所有進廠的人員與設備皆不可以具備資訊連結功能，以此來保全資訊安全。而邊緣運算不需傳輸的特性則完全符合此規範，甚至在硬體裝置上也可以進一步的設計加密功能與防護機構來確保不會被（物理）入侵。

高度整合運用

小型化的邊緣裝置很適合跟既有的設備做整合搭配，在不影響原有尺寸規格下，除了增加演算功能，還可以進一步整合該設備原有的輸入、輸出、通訊介面等。像是數值加工機可以量測即時震動訊號推估鑽頭健康狀態；汽車可以用 Camera 感測周圍人車，進一步跟車載電腦系統溝通等。

Edge AI 搞啥呢

知道了邊緣運算的特性，那麼有加上了 "AI” 這又是什麼概念呢？一言以蔽之就是邊緣裝置的運算資料涵蓋 AI 的推論（Inference）。

借用下方 Intel 的圖片做說明，我們在使用深度學習的 AI 模型可分為兩個階段，一為圖片上半部的訓練階段，二則是圖片下半部的推論階段。訓練模型時需要耗費大量的運算能力、記憶體、儲存空間等，通常只能放在伺服器或是大型工作站進行多次的迭代運算，等到訓練完成之後，我們已經得到了此模型的最佳權重（weight），此時我們只要把此權重以及原始的神經網路的結構（Architecture）兩者放到邊緣裝置上，當有新的資料從感測器（如 Camera）抓取進來後，就可以直接在邊緣裝置上進行 AI 的推論。我們即可稱此為 Edge AI 的運算或應用了！

Edge AI 裝置著重在神經網路的推論 Inference (source: Intel)

Edge AI 應用領域

Edge AI 應用領域可以說是相當廣泛，借用一下 NVIDIA 的圖片作為參考。舉凡工業、航太、建築、農業、保健、城市、零售、倉儲、檢測、服務協作等，都是可以整合 Edge AI 深化應用的，也確實有該產業的企業，正在投入研發整合。因此也能夠初步推估，未來 Edge AI 也會成為一個泛化工具，應用在各種不同的 Domain 中，不管你是哪個行業哪個專業，都有機會使用 Edge AI 融入到你的產品與服務，拓展更高層次的應用服務！

各領域的 Edge AI 應用 (source: NVIDIA)